雷军也成了AI语音的受害者？
雷军最近或许有点心烦……
烦什么？你听到了吗？最近，有不少人用雷军的声响进行二次创造，做成各种段子。我听完之后，觉得既搞笑又无法。
比方：
“老子踏*一眨眼，国庆节就过去了，我又得拖着一大堆破行李去上那个X班；假日里，躺在抖音上刷视频的废物们，咱们好，我是雷军，你们千万不要用小米手机看黄片。”
还有更雷人的内容，在哔哩哔哩上，他的AI语音被用来制作各种游戏阐明、论题封面语，比方打篮球、打麻将，主打一个“不爽”，吐槽和谈论十分尖锐。
至于让我感到无法的部分，却不太好描绘。在写这篇文章之前，我把其间一个短视频发给了我爸，并问他：“你觉得这个短视频有什么特别之处吗？”
我爸回答说：“挺有意思的。”但他并没有说到语音的问题，换句话说，他底子没意识到这是AI生成的语音。可见，AI语音现已能够到达以假乱真的境地了。
一
不过，这次假语音和之前“Are you ok？”有很大不同。
Are you ok，内容特点不强，本身没什么歹意，也不会引发误解，最多让自己觉得有点为难；雷军乃至还诙谐地回应过，还把版权买下来，从营销的视点来看，这反而成了一种正面的宣扬。
但AI语音有点不一样。
现在网络上，大部分雷军AI语音，都是网友们用他的声响说的一些很过火的话，什么“长途控制小米手机炸死你”或许“我开小米SU7撞死你全家”。
这些话适当极点。不了解的人，会以为真是雷军说的，现已触及到诽谤的问题。
AI语音有许多种方法，常见的包含：语音组成、语音克隆、语音辨认、深度假造和自然言语处理。前三种咱们比较了解，后两种是最近两年才逐步流行起来的。
深度假造（Deepfake）是由“深度学习”（deep learning）和“假造”（fake）组合而来，意思是用深度学习技能来仿照人的声响和图画。
而自然言语处理（NLP）是让计算机理解和处理人类言语的技能，运用十分广，比方：智能客服和语音帮手。
许多创造者在给视频配音时，为了省时省力又不想出镜，通常会先写好文字，再用AI来朗诵和组成。
拿我来说：一般会挑选港版男普通话、广西表妹或东北话，这样让文本画面和其他地域口音结合，刚好形成了显着的反差感。
这些技能的作用是停留在语音组成和搞笑方面，的确没什么特别的影响；可是，一旦触及到名人 IP 效应再加上搞笑，一同还企图进行文化层面的输出，状况就大不相同了。
由于这不再是单纯的逗乐，还或许引发各种社会反响。
之前关于“三只羊”卢某某的录音想必不少网友刷到过，那段语音听起来十分传神，引起了许多人的评论和忧虑，我听完后都感觉像真的，乃至还在群里吐槽事情本身太推翻三观了。
不过，9天后（2024年9月26日），合肥市公安局很快发布了官方回应，说那是假的，并提示咱们不信谣、不传谣。
假语音威力不比短视频小，短视频有画面，更简略分辩真假，但语音却很难区别，这就更简略误导人们。
二
国外也有相似事情。我用Perplexity查了一下关于AI造假的新闻，发现他们乃至把方针对准了总统，问题上升到了政治层面。
依据《连线》杂志的报导，本年年初，一些新罕布什尔州的选民接到了假充“拜登总统”的自动语音电话，企图误导他们在初选中投票。
白宫新闻秘书承认，电话是假造的，并非总统录音。
美国联邦通讯委员会（FCC）主席杰西卡·罗森沃塞尔（Jessica Rosenworcel）表明，近年来，机器人电话中运用的AI生成语音变得越来越先进，这些语音能够仿照名人、政治提名人，乃至密切家人的声响，然后制作虚伪信息，误导大众。
她着重，假如语音克隆公司在开发运用时触及名人、或许误导大众、传达危险高的内容，应该在传达中加上显着的标识，提示大众留意。“咱们主张，将运用AI生成语音的机器人电话（robocall）视为不合法。”
别的，还有闻名歌手泰勒·斯威夫特的AI假造“不雅观照”在网上疯传，这类AI造假事情引发了人们对人工智能的广泛忧虑。
几天后，造假的人被找到，他坦言自己用AI东西ElevenLabs，仅花了不到20分钟和1美元就完成了造假，是不是很惊人？
本年3月，一位记者发现，只需在上传文件最初参加一分钟的静音，就能够绕过规矩，成功克隆特朗普和拜登的声响，尽管技能能够用来对立技能，但AI检测软件往往无法有用辨认AI生成的音频。
莫非，AI生成语音真的能强壮到这种境地吗？
其实我也有疑虑。自从“三只羊”卢某某AI录音事情后，我一向重视着回应此事的品牌（某声）的开展。
他们的网站上的确有雷军的AI组成声响，咱们能够自己去试听，音色与真人十分挨近，而且发布的数量也不少，这给了许多蹭热度的时机，他们运用名人的声响制作论题。
不只是雷军，现在许多互联网渠道，比方抖音、B站，都有许多与马保国、葛优、“麦克阿瑟（一位仿照网红）”等名人声响相关的视频。
这些视频运用的是AI配音技能，你只需挑选相应的人物声响，然后输入文字，就能生成该人物声响的内容；尽管许多程序会用代称来躲避版权问题，但供给的声响品种多达上百种，还能够调整语速和语调。
图释：某声品牌社区广场，仍能够搜到一些名人音频
到写这篇文章，在（某声）社区人物商场，仍然能够找到雷军、蔡徐坤、卢本伟、刘亦菲、成龙等名人的仿声组成音，你很难分辩是否是真人。
我并不是单单批判某一个软件，而是整个语音生态好像都存在一些问题，这引发了咱们的考虑：
曾经互联网渠道只对图文和视频进行办理，现在进入了AI年代，AI成了一种新前言。
那么，AI作为前言载体做出来的渠道，是不是本身也要自我办理？是不是得要求用户，非自己不能用他人的声响假造？至少现在看来，归于三不管的地带，没有很细节的法律条文、也缺少明晰的社区规矩。
三
已然供给技能的渠道监管不到位，那么，发布渠道就真的无法监测吗？比方，我将AI语音发布到抖音、快手等渠道，莫非它们就无法检测到问题？
问了一圈在行的朋友，他们说，这触及到两方面问题。
从技能视点，语音模型的自动语音辨认（ASR）和文生文、文生图的原理相似，它们首要都要许多的语料来进行练习，只要这样才干生成更多精细化的模型。
这些模型越细分，语音辨认作用就越好。这让我感觉，这像是一个层层递进的套娃游戏。
别的，现在国内干流的ASR技能多选用端到端模型（End-to-End Models）。这种模型经过一个网络，将输入的语音直接转换为输出成果，简化了传统ASR体系中多个杂乱组件的流程。这使得辨认进程愈加高效，但中心环节也减少了。
比方说：当你对着手机说“今天气候怎么样？”，端到端模型能直接将语音转为文字，查询气候信息，并告知你成果，这种方法十分方便，但它不具有中心的感知才能。
尽管现在干流的AI语音模型开端选用更深度的学习结构，如循环神经网络（RNN）、长短时记忆网络（LSTM）和Transformer来处理一些要害部分，但这些技能仍处于前期阶段。
面临一些更杂乱的状况，如方言和多音轨的噪音，模型仍然存在局限性，由于练习数据不行全面，模型才能有限。
从审阅机制来看，问题就更显着了。一位技能朋友说到：
2018年，有一则新闻，今天头条的创始人张一鸣宣布了一封公开信，回应“内在段子”被关停的事情。在信中，他说到为了补偿算法和机器审阅的缺乏，需求加强人工运营和审阅，将6000人的审阅团队扩大到10000人。
相同，快手当年也采取了相似方法，将2000人的审阅团队扩展到5000人。他们都认识到，在“算法是否具有价值观”的问题上，有必要加大投入。
当年视频面临的问题，现在AI语音也遇到了。
渠道审阅机制分为两部分：机器审阅和人工审阅。机器审阅能快速辨认显着违规的内容，但关于隐晦、杂乱的内容，机器或许判别不精确，就要人工审阅。
AI语音的杂乱性不亚于视频，不同语种、口音、语速等都会影响辨认作用。要逐帧处理这些要素，而且应对AI生成的以假乱真的音频，是一项极大的应战。
你想想看，用AI生成一个音频，再让它自己辨认是AI生成的，这种循环无疑是对技能的极大检测。
要想完成“魔法打败魔法”的作用，渠道要投入更多资金和资源，这不只困难，还要时刻；因而，咱们正处在一个技能、道德与监管并行开展的新阶段。
四
一个在大厂作业的朋友告知我，现在传达内容的渠道针对这种“灰度空间”有三种处理方法：
榜首，查看元数据是否有隐性标识。
所谓隐性标识，即音频里用来确认内容的来历或生成的方法，现在，这项技能现已有所开展和运用。
相似于字节跳动早年自研的躲藏水印算法，现在现已运用到各种产品上。本年3月14—15日，我国人工智能工业开展联盟（AIIA）发布了“信元令”数字隐写标识渠道，也在大力推广。
简略来说，他们都在处理同一个问题，即让AIGC生成的内容自带标识，这种标识人看不到，技能却看得到。
第二个方法，提示用户自行增加阐明。
假如渠道未检测到隐性标识，会提示用户自动标明内容来历。你或许也见过在发布内容时，能够挑选标示“取自网络”“AI生成”或“原创拍照”。
用户不想自己声明，也没有隐性标识，那渠道会进行第三种方法：抽样检测。一旦发现语音中有AI的痕迹，就会直接增加提示标识。
了解了这些，你就能理解，为什么有些视频下方会呈现“疑似运用AI生成技能，请留意鉴别”的提示。为什么说是“疑似”呢？由于现在AI还无法彻底精确地辨认另一个AI生成的内容。
不过，有一个条件：除非某个内容真的引发了广泛重视和巨大言论，渠道才会自动干涉。不然，面临海量内容，渠道很难做到逐个审阅。
所以，防备AI语音，不只是个人和企业的职责，更要技能供给商和社会各界一同尽力。
在深度假造众多的年代，雷军成为了国内第二个因AI语音造假而受到影响的人，咱们看看段子就好，千万不要成为传达的始作俑者。
总结
AI正在仿照真人。
我想提示咱们，在网上阅读视频时，要多留一个心眼，最好不要默许一切都是实在的。技能无罪，就怕心怀叵测，期望咱们能明智地运用它，推进社会向活跃的方向开展。
本内容为作者独立观念，不代表虎嗅态度。未经答应不得转载，授权事宜请联络 [email protected]
相关文章
被AI配音恶搞的雷军“怒了”！怎么整治AI乱用危机？
近几日，短视频渠道呈现了许多的“雷军”配音的视频，这些视频内容锐评了堵车、假日、调休、游戏等全部热门话题，不只言辞尖锐，乃至还有一些不文明用语交叉其间，引发网络重视。需求指出的是，这些视频中的声响并非...
周鸿祎坦言，自己很早就看到了做手机这个方向，可是自己没有做成功，自己其时老是想走捷径，想找一个协作伙伴分工来做。
这种协作形式在实践运作过程中露出出了许多问题，导致手机项目终究未能如愿推动，惋惜收场。
他表明，现在雷军这种做法证明是对的，那就是自己全力投入，全力去做。
此外，周鸿祎还透露了一个不为人知的往事。本来，从前身为华为子品牌的荣耀，开始的姓名并非现在人们熟知的“荣耀”，而是叫做“闪烁”。这个是自己给华为提的主见，做一款高性价比手机去对标小米芳华版。
周鸿祎谈360做手机失利：老是想走捷径 雷军证明是对的
快科技4月21日，周鸿祎在个人微博发文，谈到了自己作为企业家那些失利的阅历，其间，其还谈到了之前360做手机失利的阅历。周鸿祎坦言，自己很早就看到了做手机这个方向，可是自己没有做成功，自己其时老是想走...
周鸿祎坦言，自己很早就看到了做手机这个方向，可是自己没有做成功，自己其时老是想走捷径，想找一个协作伙伴分工来做。这种协作形式在实践运作过程中露出出了许多问题，导致手机项目终究未能如愿推动，惋惜收场。他表明，现在雷军这种做法证明是对的，那就是自己全力投入，全力去做。
周鸿祎谈360做手机失利：老是想走捷径，雷军是对的
4月20日，360集团创始人周鸿祎在交际媒体发布视频，谈到了自己作为企业家那些失利的阅历，其间，其还谈到了之前360做手机失利的阅历。周鸿祎坦言，自己很早就看到了做手机这个方向，可是自己没有做成功，自...
我国互联网有三个湖北人，雷军和周鸿祎是其间比较知名的两个，另一个是千橡互动开创人陈一舟。雷军是陈一舟的大学同学，他认为全职业没有人比雷军更尽力，“咱们职业均匀的尽力程度或许只需他的一半”。周鸿祎是陈一舟的老相识，陈一舟曾表明周鸿祎是一个成功的创业者，只需别招惹太多人就行。
命运有时便是爱恶作剧，周鸿祎偏偏惹了雷军，还不止一次。
在安全商场上，周鸿祎用免费奇袭了金山，打得金山措手不及。虽然其时雷军已不在金山，但假如没有这次“狙击”，雷军日后从头掌握金山时，能拿到更好的牌。在手机商场上，周鸿祎在小米手机出货量刚过百万的时分（2012年），就开端与华为、海尔等品牌联合推出“360特供机”，这是除小米手机之外最早的互联网手机之一。尔后，周鸿祎还将360手机作为独立品牌面向了商场，定位也和小米手机相同，但这些测验都以失利收场。
现在，二人的新战场是新能源轿车，最近递送招股书的哪吒轿车，便是周鸿祎挑选的那张牌。假如冲刺成功，哪吒轿车将成为“蔚小理”、零跑、极氪之后，第六家独立上市的我国造车新势力。
哪吒轿车能走到上市，与周鸿祎的力挺有很大联系。2021年，360出资了哪吒轿车，一改其不被风投看好的为难局势，为它做了强有力的背书。周鸿祎会出资哪吒轿车，某种程度上算是对雷军的“问候”，彼时，哪吒轿车现已用小米的拿手性价比战略打下了一方六合。
小米SU7上市之前，许多网友期望小米能“交个朋友”，但雷军屡次表明不或许，终究小米SU7的价格定在了21.59万元起售。不过，即使没有交个朋友，小米SU7的销量体现也十分亮眼，它仅用两个月，就做到了月销量破万，其归纳实力可见一斑。
哪吒替小米交个朋友
在2018年的广州车展上，哪吒轿车（以下简称哪吒）的首款车型哪吒N01上市，其价格最高不到7万元，这在上百家造车新势力中显得分外有目共睹。彼时，除了零跑外，其他造车新势力根本都锚定了高端商场，而哪吒从一开端就挑选了另辟蹊径。
造车新势力分为两派，一派是互联网跨界造车，蔚小理是代表，另一派是职业老炮创业，哪吒轿车便是这种，哪吒的母公司合众新能源的开创人方运舟曾在奇瑞任职，CEO张勇曾在北汽新能源任职。
因为开创团队缺少互联网公司布景，在360出资哪吒前，哪吒的出资方首要是地方政府，缺少商场性本钱的参加， 蔚小理的资方阵型刚好与它相反。360出资哪吒后，哪吒才开端得到了商场性本钱的支撑，才引入了深创投、日出本钱等股东。
哪吒轿车上市，周鸿祎仍是放不过雷军
文｜新摘商业谈论 我国互联网有三个湖北人，雷军和周鸿祎是其间比较知名的两个，另一个是千橡互动开创人陈一舟。雷军是陈一舟的大学同学，他认为全职业没有人比雷军更尽力，“咱们职业均匀的尽力程度或许只需他的一...
此事引发不少网友评论，很多人直接与黄仁勋挂钩，乃至戏弄雷军是抄袭黄仁勋。
雷军日前在直播中也谈到此事，称“皮夹克或许比较简单配得上Ultra这种极致驾驭的风格”。
雷军表明：“为什么选皮夹克呢，我是觉得皮夹克或许比较简单配得上Ultra这种极致驾驭的风格。所以咱们就想到了皮夹克，然后搭档们就选择了三四件，我（从中）挑了一件。我也没想到这个皮夹克这么多人喜爱，还上了热搜。”
关于“抄袭黄仁勋”的言辞，雷军表明自己在宣的时分就忧虑，“我要穿皮夹克必定很多人说你抄那个NVIDIA的老板黄仁勋”。
但他着重：“如同我在知道黄仁勋之前，每个人家里是不是都有两三件皮衣。莫非我一穿皮夹克便是抄黄仁勋？我一穿西服便是抄马斯克？这太诙谐了。”
雷军否定穿皮夹克抄袭英伟达黄仁勋：太诙谐了 每个人家里都有皮衣
快科技3月3日音讯，在上星期的小米 SU7 Ultra发布会上，雷军特意换上了一身皮衣，十分英俊。此事引发不少网友评论，很多人直接与黄仁勋挂钩，乃至戏弄雷军是抄袭黄仁勋。雷军日前在直播中也谈到此事，称...