新型诈骗震撼美国政府 受害者:AI语音能以假乱真(图)
人工智能聊天机器人ChatGPT4 (图片来源:LIONEL BONAVENTURE/AFP via Getty Images)
【看中国2023年6月13日讯】美国一名母亲从电话那头听到“女儿”啜泣求救声音,听起来真的很像女儿的声音,之后就有一位男子接过电话,他要求支付赎金。其实女孩的声音是来自于人工智能(AI)所合成的,绑架当然也是假的。
根据法新社报导指出,专家表示,现今AI最大的危险,即是模糊了真实及虚幻的界线,而让网络罪犯能以廉价又有效的技术来散播假讯息。
新型诈骗震撼了美国政府,因为歹徒使用了网络上垂手可得、几可乱真之AI语音复制工具,以假冒家庭成员诈骗亲人。
迪斯特法诺(Jennifer DeStefano)住在亚利桑那州,她听到电话那头传来了:“救我,妈,救我。”
当时迪斯特法诺“100%”确定那就是她15岁女儿于滑雪时遇到了麻烦。
4月,迪斯特法诺向当地电视台表示:“问题不是那是谁,那根本就是她的声音,哭起来就是那样的声音。”
在美国等9个国家曾经针对7000人进行民调,结果显示有1/4的人表示自己曾遇过AI语音的诈骗,或者听过别人有类似经验。
5月,该份调查是由美国资安公司迈克菲实验室(McAfee Labs)在5月份所发布的民调,其中有70%的受访者表示,并没有信心能够“分辨真假语音”。
加州大学柏克莱分校资讯学院的教授法瑞德(Hany Farid)向法新社表示:“由于现今制作高仿真的语音很容易,在网络上几乎无人可以幸免。这些诈骗正在广为流行。”
今年初AI新创公司ElevenLabs也坦承自家语音合成工具能够遭用于“恶意用途”,因为先前就有用户发布透过了“深伪技术”(Deepfake)所合成的语音,来假冒英国女星艾玛华森(Emma Watson)来读希特勒的自传“我的奋斗”(Mein Kampf)。
马斯克等专家呼吁应暂缓开发AI
全球首富、电动车大厂特斯拉(Tesla)的执行长暨创办人马斯克(Elon Musk),以及苹果公司(Apple)共同创办人的沃兹尼亚克(Steve Wozniak)等多位名人与上千名AI专家,在3月22日于一封公开信中提出呼吁,应于未来6个月暂缓开发比OpenAI最新发表之GPT-4(Generative Pre-trained Transformer)还要强大的系统,其理由是它会将会对社会和人类带来潜在风险。
GPT-4为一项自然语言处理模型,一般都认为它除了比稍早所公开而引发热议的ChatGPT更加聪明之外,且能够支援图像辨识与文本输入,除了在文字功能外,更是一个多模态之工具。
人们担忧,这类AI开发计划的“危险竞赛”,在没有约束的情况下,将可能产生负面后果,其中包括散布不实讯息和威胁人类就业。
现今在AI引起恐慌蔓延之际,意大利是全球首个禁止ChatGPT的国家,其理由是担忧隐私遭受到侵犯。但拥护AI的声音也不少,在科技界已有大批人士正在反击马斯克等人的言论,其中还不乏科技重量级人士。
欧盟警察机构Europol也呼应针对ChatGPT这类先进AI之伦理和法律忧心。同时警告此类AI潜在之网络钓鱼、假讯息和网络犯罪等不当使用。
自从微软支持的OpenAI于去年推出ChatGPT后,竞争者就忙着推出类似的产品,已经有多家企业准备将这类技术整合至他们的应用程式或者产品之中。
拙劣的深伪假主播 这公司揭出北京资讯战新手法
美国时间2月7日,社交媒体分析公司Graphika发表了以《深伪直到你办到:亲中国行动者于网络影响力行动中推广了AI生成之虚构人物影像片段》为题的报告,其揭露出一个名为 《狼新闻》(Wolf News)之虚构新闻媒体,它以AI深伪2个主播,且播报亲中国共产党,以及贬抑美国的相关报导。
报告中指出,去年年底,亲中国的机器人帐户于脸书与推特上发布了《狼新闻》两名“主播”之报导影片。不过这两位主播已经处处透露出种种奇怪的蛛丝马迹。除了他们的声音相当生硬,而且跟嘴形也无法同步,他们的脸看起来有如素化过的电玩游戏人物般,发现头发看起来不自然地贴于头上,同时字幕也充满了错误的文法。
深伪技术经过了近10年来发展,已经可以捏造人物说话。人工智能软件有时候会遭用来歪曲公众形象,比如去年俄罗斯攻打基辅之时,在社群平台上就出现了深伪乌克兰的总统泽连斯基(Volodymyr Zelensky)宣布投降之画面。
长期以来,虚假信息专家一直警告称,深伪影像将可能会进一步削弱人们于网上辨别真伪之能力,甚至可能遭滥用来引发动荡或者引起政治丑闻。如今这些预测已经成为现实了。
虽然现在抓到的亲中国假讯息活动使用的深伪还非常拙劣,只要稍加留意就可以识破,不过各界必须严肃来面对“资讯战的新篇章已然开启了”。
责任编辑:王君
短网址: 版权所有,任何形式转载需本站授权许可。 严禁建立镜像网站.
【诚征荣誉会员】溪流能够汇成大海,小善可以成就大爱。我们向全球华人诚意征集万名荣誉会员:每位荣誉会员每年只需支付一份订阅费用,成为《看中国》网站的荣誉会员,就可以助力我们突破审查与封锁,向至少10000位中国大陆同胞奉上独立真实的关键资讯,在危难时刻向他们发出预警,救他们于大瘟疫与其它社会危难之中。
看完这篇文章您觉得
- 花莲7.2强震 世界看见不一样的台湾(组图)
- 大案信号!中共突提两大敏感人物(图)
- 【宋紫凤专栏】乱世问津何处是 心中自有桃花源(图)
- 习近平普京盼拜登连任 美中俄演绎新三国演义(图)
- 日片《完美的日子》:光影交织中的美和释然(组图)
- 大开眼界!创记录的“人体喷泉”(组图)
- 习近平胆寒丢“江山”?几面反旗揭内幕(组图)
- 蔡奇权势之重无人比拟?日媒踢爆真相(图)
- 小学生作文《男人女人》火了 惊呆老师(组图)
- 鲜为人知的内幕!中共和朝鲜为此事大吵三天(图)
- 梅西為何取消所有商業、晚宴、採訪活動 原因曝光?(组图)
- 大尺度权色交易 美女市长包养10多个“小白脸” (图)
- 军队疑出事?张又侠接连缺席重要会议(图)
- 传卢沙野遭免职回国 被习近平打入“友协”冷宫(图)
- 中共肺炎(又称武汉肺炎)
- 拜登
- 病毒
- COVID-19
- 疫苗
- 川普
- 特朗普
- 国安法
- 贸易战
- 习近平
- 华为
- 台铁
- 三峡大坝
- 新疆棉
- 长江
- 洪水
- 袁弓夷
- 港版国安法
- 汉光演习
- 国民党
- 退党
- 弗洛伊德
- BLM
- 中共
- 阎丽梦
- 金正恩
- 王岐山
- 赖清德
- 孟晚舟
- 关税
- 边境墙
- 彭斯
- 美国
- 贸易谈判
- 刘鹤
- 王沪宁
- 江泽民
- 崔永元
- 中南海
- 内幕
- 中共
- 反送中
- 贪官
- 情妇
- 腐败
- 反腐
- 打虎
- 官场
- 看中国
- 一国两制
- 法广
- 社交媒体
- 往事微痕
- 出卖国土
- FB
- 六四
- 朝鲜
- 加拿大
- 脱欧
- 央行
- 债务
- 杠杆
- 美元
- 货币
- 人民币
- 欧元
- 日元
- 港币
- 房地产
- 楼市
- 财政
- 财富
- 中产
- 海参崴
- 台湾
- 蔡英文
- 北京
- 刘强东
- 大妈
- 房价
- 疫苗
- 非洲猪瘟
- 大陆
- P2P
- 雾霾
- 基因编辑
- 防火墙
- 维权
- 709律师
- 上访
- 法轮功
- 网络审查
- 活摘器官
- 江东六十四屯
- 唐努乌梁海
- 长白山
- 白龙尾岛
- 江心坡
- SARS
- 新疆劳改营
- 言论自由
- 女主播
- 央视
- 华人
- 移民
- 华人
- 留学
- 海关
- 遣返
- 签证
- 回国
- 入籍
- 绿卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民国
- 桂军
- 抗战
- 孙中山
- 蒋介石
- 宋美龄
- 邓小平
- 林彪
- 刘少奇
- 中共
- 皇帝
- 诸葛亮
- 易经
- 幽默人生
- 智慧
- 感悟
- 手机
- 预言
- 奇闻
- UFO
- 外星人
- 寿命
- 文革
- 养生
- 紫凤
- 贯明
- 李道真
- 轶飞
- 李云飞
- 云中君
- 辛思
- 夏闻
- 时代漫谈
- 沧海
- 东方纵横
- 唐柏桥
- 王尚一
- 江枫
- 黄清
- 李唐风
- 园丁
- 今涛拍暗
- 李青城
- 秦就石
- 中经研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 马新宇
- 马来启
- 紫君
- 秦山
- 陈破空
- 戴东尼
- 曹长青
- 邢仁涛
- 瑜正
- 简易
- 肖川
- 伍凡
- 顾言
- 归瑜
- 乙欣
- 陈泱潮
- 徐沛
- 内外压力剧增 习近平召开企业和经济专家座谈会(图)
- 美限令“不卖就禁” TikTok拟大裁员解散全球用户营运部门
- 前央视主持人田宗琦突然坠亡 死前浑身伤痕引猜疑(图)
- 星野源被爆出轨女主播?新垣结衣回应了(组图)
- 中共设两战场 里应外合威吓赖清德(图)