AI音频成欺诈神器!律师父亲险被骗走21万,3秒原声即可克隆声响

liukang20242个月前在线吃瓜179

修改:修改部 HXY

绚丽的AI音频成诈骗神器!律师父亲险被骗走21万,3秒原声即可克隆声音的插图

【新智元导读】Deepfake到底有多可怕?国外一名律师的父亲,简直堕入一场巨大AI圈套。欺诈者凭仗AI克隆其儿子的声响,假造事端事端挟制3万保释金。GenAI技能违法众多一起,科学家们也在寻觅破魔之道。

AI众多成灾的年代,真假孰能分辩?

最近,国外一位专业律师Jay Shooster自曝,自己的父亲堕入了一场巨大的AI圈套。

欺诈者运用AI克隆了Shooster声响,然后给他的父亲拨去电话:您孩子因酒驾开车被捕,需3万美元保释出狱。

简直,这位父亲被AI欺诈。

我不确定这事发生在我的声响呈现在电视上仅仅几天后是否仅仅偶然。短短15秒的声响,就足以制造一个不错的AI克隆。

作为一名顾客维护律师,我从前就这种欺诈做过讲演,在网上发过帖子,也和家人谈论过,但他们仍是差点受骗。这些欺诈之所以如此有用,便是这个原因。

不巧的是,Shooster近一次在电视中露脸的15秒视频,恰被欺诈者钻了空子。

而且,即便是在Shooster曾提示过家人此类欺诈状况下,他的父亲仍旧被利诱了。

只能说AI仿照人类的声响,现已强到令人发指。

还有伦敦大学学院一项研讨佐证,不管任何语种,人们在27%状况下,都无法辨认AI生成的声响。

而且,重复倾听,也并不能提高检测率。

这意味着,理论上,每四个人傍边就有一人或许被AI电话欺诈,由于人类的直觉并不总是那么牢靠。

不论是图画、视频、声响,凭仗AI生成技能,任何一个人都能简单假造,Deepfake现已深深影响每个人的日子。

AI技能违法程度,现如今到了咱们无法幻想的境地。

AI声响克隆,3秒原声足矣

Shooster的共享意图,告知咱们这种欺诈手法之所以有用,部分原因在于——

人类无法牢靠地辨认出AI的声响。

IBM一项试验中,安全专家展示了怎么完结「音频绑架」的一幕。

他们开发一种办法,将语音辨认、文本生成、声响克隆技能结合,去检测对话中的触发词「银行账户」,然后将本来账户替换成自己的账号。

研讨人员称,替换一小段文字,比AI克隆语音对话要愈加简单,而且还能扩展到更多的范畴。

而关于满足好的语音克隆技能,只需3秒原声就满足了。

别的,文本和音频生成中的任何推迟,都能够通过桥接句来补偿,或有满足处理才干状况再消除。

对此,研讨人员正告,未来进犯还或许会操作实时视频通话。

而这种技能也不仅仅被乱用在欺诈,配音演员Amelia Tyler称,AI克隆的声响在未经自己允许下,被用来朗诵不宜儿童的内容。

Deepfake众多成灾

AI克隆声响之外,还有AI换脸视频、AI虚伪图画生成,这样事例早已层出不穷。

前段时刻,韩国国内掀起「N号房2.0」事情,Deepfake被用到了未成年人身上,引发人们巨大的惊惧。

乃至,全网一度敞开了「Deepfake到底有多可怕」的热议论题。

图画生成Midjourney、Flux,视频生成Gen-3、声响生成NotebookLM等等,都成为潜在的作案东西。

真实的AI音频成诈骗神器!律师父亲险被骗走21万,3秒原声即可克隆声音的照片

上一年,Midjourney生成的穿羽绒服走在大街上的教皇,许多人信以为真,张狂转发。

而到了本年,AI图画王者Flux出生,各种TED讲演者的传神相片,再配上AI视频东西动起来,简直骗过了全部人。

而在AI视频实时换脸上,本年国外网友们现已开宣布许多开源东西了。

比方,Facecam仅需增加一张图,就能够当即生成实时视频,而且一部手机即可操作。

项目作者展示了,自己怎么轻轻松松无缝换脸到Sam Altman、马斯克,脸上全部器官根本无死角。

还有一夜爆火的AI换脸项目Deep-Live-Cam,相同也是只需一张相片,直接换脸马斯克开直播了。

而这两天炒的比较热的AI声响生成,当属谷歌NotebookLM了。它能够敏捷把文字内容,生成播客视频。

就连AI大佬Karpathy爱不释手地试玩,并力荐称有或许会迎来它的ChatGPT时刻。

不过,国外一位扫雷游戏专家,在听了AI将自己书生成播客声响,却惊呼自己被吓到了。

而且,更令人惊悚的是,两位NotebookLM播客「主持人」发现,自己是AI而不是人类,还堕入了存在主义溃散的边际。

若是这样强壮的AI,被应用到实践欺诈中,只会带来更严峻的效果。

「魔高一尺,道高一丈」

在DeepFake逐步变成「恶龙」的一起,研讨界也在活跃研制「屠龙」东西。

要么从源头为GenAI生成的内容增加水印,或许对实在内容设置护栏以避免乱用,要么发展出能检测主动生成内容的体系。

不久前,中科院一位工程师曾开源了能够辨认假造图画的AI模型,去对立DeepFake。

刚一发布,这个项目便登上了Hacker News热榜,其受欢迎程度可见一斑。

现在,完好的代码和文档现已发布在了GitHub库房上。

开发者表明,自己从2023年结业后就一直在从事DeepFake检测算法方面的研讨作业,让全部有需求的人都能够免费运用模型来对立deepfake。

此外,还有许多业界科学家们,在这条路上做出了许多奉献。

Antifake

在2023年11月丹麦哥本哈根举行的ACM计算机与通讯安全会议上,美国圣路易斯华盛顿大学的博士生Zhiyuan Yu展示了他和Ning Zhang教授合作开发的AntiFake。

通过一种立异性的水印技能,AntiFake能够供给创造性的办法,维护人们免受深度假造声响的欺诈。

论文地址:https://dl.acm.org/doi/pdf/10.1145/3576915.3623209

创立DeepFake语音只需求实在的音频或视频中有人说话。一般,AI模型只需求大约30秒的语音,就能通过创立「嵌入」(embedding)学会仿照或人的声响。

这些embedding向量就像是在全部声响的巨大数字地图中指向说话者身份的地址,听起来类似的声响在这个地图中的方位更挨近。

当然,人类并不是用这种「地图」来辨认声响的,而是通过频率。咱们更重视某些频率的声波,而对其他频率的重视较少,而AI模型则运用全部这些频率来创立杰出的嵌入。

AntiFake通过在人们不太重视的频率上增加一些噪音来维护语音录音,这样人类听众仍是能听懂,但会严峻搅扰AI。

终究,AntiFake会让AI创立出低质量的嵌入,相当于一个指向地图过错部分的地址,这样生成的任何DeepFake都无法仿照原始声响。

为了测验AntiFake,Yu的团队扮演「欺诈者」的人物,运用5种不同的AI模型生成了6万个语音文件,并为其间600个片段增加了AntiFake维护。

效果发现,增加维护后,超越95%的样本无法再欺诈人类或语音认证体系。

经典的AI音频成诈骗神器!律师父亲险被骗走21万,3秒原声即可克隆声音的图像

值得一提的是,AntiFake的衍生版别DeFake,还在本年4月初美国联邦交易委员会举行的语音克隆挑战赛中获得了一等奖。

SafeEar

无独有偶,浙江大学智能体系安全试验室(USSLAB)与清华大学也联合了一种内容隐私维护的语音假造检测办法——SafeEar。

项目主页:https://safeearweb.github.io/Project/

SafeEar的中心思路是,规划根据神经音频编解码器(Neural Audio Codec)的解耦模型,该模型能够将语音的声学信息与语义信息别离,而且仅运用声学信息进行假造检测,然后完结了内容隐私维护的语音假造检测。

效果显现,该结构针对各类音频假造技能展示杰出的检测才干与泛化才干,检测等过错率(EER)可低至2.02%,与根据完好语音信息进行假造检测的SOTA功能挨近。

一起,试验还证明进犯者无法根据该声学信息康复语音内容,根据人耳与机器辨认办法的单词过错率(WER)均高于93.93%。

具体来说,SafeEar选用一种串行检测器结构,对输入语音获取方针离散声学特征,然后输入后端检测器。

虚线方框内的④Real-world Augmentation仅在练习时呈现,推理阶段仅有①②③模块

1. 根据神经音频编解码器的前端解耦模型(Frontend Codec-based Decoupling Model, Frontend CDM)

模型包含编码器(Encoder)、多层残差向量量化器(Residual Vector Quantizers, RVQs)、解码器(Decoder)、鉴别器(Discriminator)四个中心部分。

其间,RVQs首要包含级联的八层量化器,在第一层量化器中以Hubert特征作为监督信号别离语义特征,后续各层量化器输出特征累加即为声学特征。

2. 瓶颈层和混杂层(Bottleneck & Shuffle)

瓶颈层被用于特征降维表征和正则化处理。

混杂层对声学特征进行固定时刻窗范围内的随机打乱重置,然后提高特征杂乱度,保证内容盗取进犯者即便凭仗SOTA的语音辨认(ASR)模型,也无法从声学特征中强行提取出语义信息。

终究,通过解缠和混杂两层维护的音频能够有用抵挡人耳或许模型两方面的歹意语音内容盗取。

3. 假造检测器(Deepfake Detector)

SafeEar结构的假造音频检测后端规划了一种仅根据声学输入的Transformer-based分类器,选用正弦、余弦函数替换方式对语音信号在时域和频域上进行方位编码。

4. 实在环境增强(Real-world Augment)

鉴于实践国际的信道多样性,选用具有代表性的音频编解码器(如G.711、G.722、gsm、vorbis、ogg)进行数据增强,仿照实践环境中带宽、码率的多样性,以推行到不行见通讯场景。

作用如下:

不过,即便有了许多的发展和效果,防护DeepFake仍旧是一项十分具有挑战性的使命,人们需求全部或许的协助来维护他们在网上的身份和信息免受损害。

差人用AI侦破尘封悬案

除了用「魔法」对立「模型」之外,英国的一个差人局最近也在测验一套能极大缩短侦办时刻,并协助破解陈年旧案的AI体系。

具体来说,这个名为「Soze」的东西,能够一起剖析视频片段、金融交易、交际媒体、电子邮件和其他文档,然后辨认在人工查找依据过程中或许未被发现的潜在头绪。

评价显现,它能够在短短30小时内剖析完27起杂乱案子的依据资料,相比之下,人类需求长达81年的时刻才干完结这项作业。

明显,这关于在人员和预算约束方面或许绰绰有余的法律部分来说吸引力巨大。

对此,英国国家差人局长委员会主席Gavin Stephens表明:「你或许有一个看起来不或许完结的悬案检查,由于资料太多了,但你能够把它输入这样的体系,体系能够吸收它,然后给你一个评价。我觉得这会十分十分有协助。」

咱们日子在了一个Deepfake众多的国际,或许说,是一个「矩阵仿照」的国际。

在这个国际中,没有实在,全部满是AI。

告发/反应

相关文章

谈资|全红婵的“宠溺”朋友圈

谈资|全红婵的“宠溺”朋友圈

有全红婵和陈芋汐伙伴的竞赛,冠军悬念从来没有,有的仅仅她俩能跳出怎样的高分。北京时间7月31日下午,在巴黎奥运会女子双人10米台决赛中,全红婵/陈芋汐以359.10分轻松摘金,这也是全红婵的首枚奥运会...

解码宠物心语:宠智灵科技的AI宠物声响辨认技能与商业价值解析

解码宠物心语:宠智灵科技的AI宠物声响辨认技能与商业价值解析

在宠物经济浪潮奔涌、人宠联系日益深化的今日,怎么跨过物种的边界,实在了解“毛孩子”的需求与情感?这已成为驱动工业立异的中心出题。现在,以宠智灵科技等职业前锋为代表的力气,正活跃推进依据人工智能的宠物声...

穿戴高跟鞋张狂奔驰的型男大叔:为赢得客户口碑,我花了15年

据扬子晚报音讯,在成都邃古里,假如你看到一位藏着一小撮胡子,穿戴高跟鞋奔驰的中年男人,你会作何感触?不要惊奇,他是一位高跟鞋专卖店的店东。最近,他穿戴高跟鞋的“反串”视频火了,全网近400万粉丝被他的...

暴雨+劲风来了!今日湖北连发82条预警,请提早出门

暴雨+劲风来了!今日湖北连发82条预警,请提早出门

今日(5月8日)清晨起,湖北武汉、宜昌、黄冈、恩施等地发布暴雨预警,咸宁、荆州等地发布强对流黄色预警,天门、潜江、仙桃等地将呈现6到7级阵风,其间,荆州东部、仙桃、武汉南部、鄂州、黄冈、黄石、咸宁局地...

来历:微信大众号“向阳少侠”(ID:Chaoyangshaoxia)

美国撮合英国、澳大利亚组成“三方安全同伴关系”(AUKUS),推进“四边机制”“五眼联盟”勾连合流,一个以美国为中心的反华同心圆现已图穷匕见。

即便如此,拜登依然声称AUKUS要保证区域“长时间平和与安稳”,尽力“建造一个具有平和与机会的未来”。假如拜登此话确实,就应领先答复以下七大魂灵拷问。

拷问一:美国不论核分散风险吗?

▲ 澳大利亚把自己绑上美国的核武库,恐怕仍是不能在大海中无拘无束,搞不好还会“溺水”。

美、英、澳三国方案搞潜艇协作,帮澳大利亚树立核潜艇编队,而树立核潜艇编队时用到的高浓缩铀能够直接用于制作核兵器,世界原子能安排又无法有用即时监督核潜艇。三国此举违背《不分散核兵器公约》的底子精力与中心责任,核分散风险极大,严峻冲击了世界核不分散系统。

假如澳大利亚具有核潜艇,那就违背了《南太平洋无核区公约》,应战了《东南亚无核兵器区公约》,给本区域平和安稳蒙上了核暗影。

区域国家也对此深感忧虑、激烈对立。新西兰清晰标明不允许澳核潜艇进入新西兰水域。马来西亚正告AUKUS或许成为核军备竞赛的“催化剂”。印度尼西亚暂时撤销澳大利亚总理来访行程,喊话要求澳方尊重世界法。俄罗斯联邦安全会议秘书标明,建立AUKUS并在太平洋深处布置核潜艇是充溢歹意的行为。“澳核问题”已浮出水面,世界应高度警觉。

拷问二:美国是要重拾“美国至上”吗?

▲ 美国表面上重复想念“同盟友站在一同”,但在背地里仍是捅了法国人一刀。 (漫画 | 刘蕊)

白宫虽已“改换大王旗”,可是从囤积疫苗、“买美国货”,到从阿富汗仓促撤军,再到“潜艇危机”,不管美国政府怎么改换辞令,底子逻辑都是“美国优先”,从未改弦更张。

就算是美国的“密切盟友”,也逃不过“美国至上”的背刺。美国把法国同澳大利亚从前的巨额潜艇合同一把夺走,让法国痛斥美国“背面捅刀”。欧洲言论也茅塞顿开,本来拜登是“不发推特的特朗普”。

拜登说,“美国回来了”。现在看,是“美国至上”回来了。

拷问三: 美国真的对立“新暗斗”吗?

▲ 拜登简直全盘承继了特朗普留下的反华大棒。(漫画 | 陈霞)

美国屡次重申不寻求“新暗斗”,但实践上却不时处处都在挑动“新暗斗”:

政治上,将中美关系意识形态化,宣传“民主对威权”的二元论;

经济上,连续贸易战方针,强化技能产业脱钩,目的将我国踢出全球产业链供应链;

安全上,引导欧洲盟友向我国周边投射兵力,在台海、南海等频频触碰红线。更别提继“七国集团”“五眼联盟”“四边机制”之后,又建起“三方同伴”,圈子越来越小,组合调配越来越杂乱,集团政治颜色益发稠密。

但是,“不肯看到中美抵触、不肯在中美之间选边站队”现已成为世界社会底子一致。

联合国秘书长古特雷斯清晰正告,各方有必要不吝一切代价去阻挠比过去的暗斗愈加风险、更难以管控的新暗斗。

新加坡总理李显龙说,“我国不是苏联,假如确定我国是敌人,他们不知道会面对一个多么强壮的对手。”

美国《洛杉矶时报》也标明,“在华盛顿,冲击北京或许赢得掌声……只要对暗斗风险和损坏一窍不通的人,才会欢迎这种远景。”

美国声称不搞“新暗斗”,但是最新民调显现,高达62%的欧洲受访者以为中美正处于“新暗斗”。让盟友提心吊胆、人心惶惶,这正是美国的“创作”。

拷问四:美国是在搞“盎撒小圈子”吗?

迷人的又搞新反华联盟?对美国的七个灵魂拷问的视图

▲ 拜登(左)、约翰逊(右)、莫里森(中)正在暗里组成“盎格鲁—撒克逊小圈子”。

美国撮合英国、澳大利亚,依靠的是同宗、本家、同文的盎格鲁—撒克逊小圈子,奉行的是“非我族类,其心必异”,实质上把盟友分成了三六九等,惹得欧洲特别盛怒。

法国外长勒德里昂极为不满,称“盟友之间不该如此行事”;欧洲理事会主席米歇尔点评美国做法缺少透明度和忠诚度;比利时副辅弼维尔梅斯高呼,欧洲应该在世界舞台上愈加直抒己见了。

“盎撒沙龙”更充满着光秃秃的霸权主义、殖民主义、排外主义、文明优胜论颜色,让人不由联想到盎撒文明发家致富的海盗和殖民年代,勾起很多发展我国家的梦魇。关于这些发展我国家来说,它们的近代史,便是一部脱节盎撒殖民者役使的血泪史。

就算自封“普世帝国”,美国依然无法掩藏“天定命运论”的“优胜感”,更无法铲除“盎撒小圈子”心思。

拷问五: 美国乐意保护亚太区域的“东盟中心位置”吗?

▲ 比起美国的“印太战略”,东盟当下更关怀的是应对暴虐的疫情、窘迫的经济和面对应战的区域平和安稳。(漫画 | 陈霞)

以东盟为中心的区域协作架构契合东亚传统和实践需求,有助于管控大国不合、防备地缘对立。

但是美国一向妄图重塑现存亚太次序,其实便是否定各方公认的东盟中心位置。AUKUS不速之客,东盟国家第一时间打破缄默沉静、标明态度,刚好说明晰“三方同伴”的组成刺到了东盟灵敏神经。

现在,东盟国家现已清醒认识到,美国以区域协作之名,行割裂对立之实,实践背面是地缘政治图谋;美国用同盟系统冲击东亚协作,联合域外国家劫持区域协作议程;美国联合盟友冲击东南亚无核现状,损坏了区域平和安稳。

假如东盟国家对AUKUS听之任之,那么终究要为区域割裂、动乱埋单的必将是东盟国家自己。

拷问六: 美国不忧虑损坏生态环境吗?

▲ 美国不吝用核分散损坏生态环境,也要自以为是大发战役财。

澳大利亚本来仍是世界防分散“积极分子”,社会上下反核心情一向非常激烈。澳大利亚绿党首领班特就清晰对立引入核潜艇,标明“这就像城市中心漂浮的切尔诺贝利”。引入核潜艇绝非澳大利亚民心所向。

此外,澳大利亚并没有核能管理经验,也未同世界原子能安排有过深化协作。

一旦澳大利亚的核潜艇或核燃料产生事端,澳大利亚大概率不知所措,恐怕会带来比切尔诺贝利和福岛更可怕的灾祸。到时,东南亚国家、新西兰、南太岛国将首战之地,软弱的生态环境将面对毁灭性的冲击。

更何况,澳大利亚仍是煤炭和液化天然气第一大出口国,在气候变化范畴劣迹斑斑,脱碳速度更是在经合安排国家中垫底。拜登政府口口声声“应对气候变化”,却不好好鞭笞自己的澳洲小弟,反而一手挑起危险最大的“战役排放”之举,呈现出“说一套做一套”的典型“美式悖论”。

拷问七:美国是要掀起亚太军备竞赛吗?

▲ 美国诲人不倦地“妖魔化”我国,以便自己叫卖军械。

美国军工复合体现已形成了从贩售军事装备,制作区域严重,到影响军械需求,再到扩展兵器销量的“全产业链”,既借此开释军工产能,影响技能研制,又拉动经济增加,赚得盆满钵满。

2020财年,美国兵器出口总额高达1750亿美元,占全球军械贸易额的40%。

现在澳大利亚对美国萧规曹随,不吝打破区域战略平衡。AUKUS将不可避免地翻开区域军备竞赛的“潘多拉盒子”。实践要挟之下,区域国家难免心生惊惧,乃至仿效行事,为求自保而被逼扩大军备。

美国为了保护海上霸权的“一己之私”,不吝将惊涛骇浪的太平洋和印度洋打造成离心离德的“漆黑森林”,将使二战以来世界社会核不分散和军控尽力付之东流。

▲ 中美关系之桥,不能只由中方尽力“加添”,而让美方随意“擦除”。(漫画 | 刘蕊)

毛泽东说:“决议战役胜败的是公民,而不是一两件新式兵器。”AUKUS打着“保护平和安稳”旗帜损坏区域平和安稳,天然不得人心,必将遭到更多魂灵拷问。就算美国的核潜艇再先进、话说得再美丽,其图也必失,其谋也必败。

“爷爷奶奶的第一支Vlog”

把镜头带入爷爷奶奶们的日子和精力世界,用印象捕捉他们的温暖瞬间,扫码参加活动吧

↓↓↓编  辑丨刘婉婷校  对丨鹿 几校  审丨王小美、鞠 静值勤编委丨汤 杰点亮“在看”,其图必失,其谋必败

又搞新反华联盟?对美国的七个魂灵拷问

来历:微信大众号“向阳少侠”(ID:Chaoyangshaoxia)美国撮合英国、澳大利亚组成“三方安全同伴关系”(AUKUS),推进“四边机制”“五眼联盟”勾连合流,一个以美国为中心的反华同心圆现已...

医馆男技师婚恋欺诈女顾客43万,还“给她留了500万遗产”诈死避债

医馆男技师婚恋欺诈女顾客43万,还“给她留了500万遗产”诈死避债

家住长沙市雨花区的40岁独身女人张某,与小她10岁左右的小区医馆男技师任某坠入爱河,她深陷对方甜言蜜语的圈套,被对方假造的各种理由讨取金钱40多万元。而任某那儿弄了一出诈死避债的闹剧,还扮演自己的“学...

友情链接: