被AI配音恶搞的雷军“怒了”！怎么整治AI乱用危机？
近几日，短视频渠道呈现了许多的“雷军”配音的视频，这些视频内容锐评了堵车、假日、调休、游戏等全部热门话题，不只言辞尖锐，乃至还有一些不文明用语交叉其间，引发网络重视。
需求指出的是，这些视频中的声响并非出自雷军自己，而是AI配音。
对此工作，雷军自己在交际媒体渠道则是回复了三个愤恨表情，表达自己的情绪。
有网友在小米集团公关部总经理王化的微博谈论区留言称，“把雷军AI语音谩骂的工作先处理一下吧”并@小米法务部。对此，王化回复称，“现已转给他们。”
AI技能的前进，让图画和音视频的深度假造技能变得越来越简单获取和运用。与雷军AI配音相关的工作，小米正在处理傍边。关于此番雷军AI配音引发的热议，外界更关怀的仍是AI乱用或许导致的道德和侵权问题。
▍涉事AI语音公司正处理雷军配音
当下，跟着大模型技能的日新月异，AI组成内容现已变得愈加简单。
西湖心辰CEO蓝振忠在承受《科创板日报》记者采访时剖析表明，AI语音组成首要依据深度学习和神经网络模型完成。经过许多的声响样本练习，AI能够学习到特定人的声响特征，并生成相似的语音。现在，这些技能的门槛的确的确变得很低了，一些开源的软件和渠道使得即便没有专业知识的普通用户也能进行声响克隆和组成。
依据《科创板日报》记者的查询，现在网上现已有许多开箱即用的TTS声响模型网站。
例如近期DAU飙升的AI语音渠道“Reecho睿声”，该渠道的“声响商场”，一些用户上传了多段雷军语音的音频示例，在此基础上，其他用户输入恣意句子，即可制造对应的“雷军”AI配音。
而近期大都雷军的恶搞音频，是网友运用“Reecho睿声”渠道制造生成。
前述“Reecho睿声”渠道背面的公司主体是深圳市言域科技有限公司（言域科技），公司CEO谢伟铎泄漏，现在接到了小米公司的联络，对方了解到大部分内容是由“Reecho睿声”生成的。言域科技正合作小米予以处理，会奉告用户进行下架或修正触及雷军的配音。
谢伟铎坦言，“Reecho睿声”渠道有些配音的确不太文明，但言域科技仅仅创造东西供给方，没有满足的力气操控事态的演化，“对此也感到比较惋惜”。
谢伟铎解说说，“Reecho睿声”渠道只能遵循原样，将用户输入的文本转换为语音。尽管后台监测体系能够辨认用户输入的脏话，但假如直接阻拦，“误杀面太广了”。他表明，作为AI语音克隆东西，或许不太适合在脚本内容没有显着违法的状况下过多干涉用户的创造。
“关于渠道的‘声响商场’在线社区版块，公司会参照其他UGC渠道的形式去办理，在必要时活跃合作权力方诉求进行处理。”谢伟铎说。
▍怎么整治AI乱用危机？
上一年也有一批AI配音爆火出圈，以“AI孙燕姿”为代表的AI组成声响风行一时，一起也有运用AI克隆出了“郭德纲用英语说相声”“霉霉讲中文”等的配音视频。
但与前一轮不同，本次AI组成的雷军声响，敏捷引发广泛争议。这些AI组成的配音内容与雷军自己素日风格之间有巨大反差，部分内容已超出一般恶作剧玩梗的程度。当然，更为外界所关怀的，仍是AI乱用导致的道德和侵权问题。
西湖心辰CEO蓝振忠蓝振忠表明，跟着AI技能的前进，AI语音克隆，图画和视频的深度假造技能变得越来越简单获取和运用，这导致了一些乱用现象，比方假造名人语音进行欺诈等。这不只对个人隐私构成威胁，也或许对社会秩序形成搅扰。
在本年的外滩大会期间，全球Deepfake攻防挑战赛命题人、ZOLOZ技能总监姚伟斌在承受《科创板日报》等媒体采访时表明，AIGC的生成假造，本年的进犯量比上一年大约增加了10倍。整个危险其实是呈指数级上升的状况，不只仅是在我国，在韩国，在菲律宾、印尼等等国家都有相似的状况发生。
不久前，直播头部公司三只羊的“录音门”工作中，内容拉低下限，触及到多位高管和主播，但最终依据警方查询，音频内容不实，是AI假造。
蓝振忠告知《科创板日报》记者，为了避免AI语音乱用，业界采取了一些技能和战略，例如，多重身份验证方法，如生物辨认和短信验证，以削减语音欺诈的丢失。AI技能供给商也在开发检测东西，以辨认和避免AI语音的乱用，这方面现在的准确度也比较高。研讨机构如西湖大学也有相关的人员在研讨相似的检测技能。
本年2月，OpenAI团队也推出“AI生成内容辨认器”，旨在辨认文本是由电脑主动生成仍是人类编撰，其本质上是一个差异实在内容和AI生成内容的分类器。不过，OpenAI在博客中指出，此辨认器对AI编撰内容的检出成功率仅为26%。
可是蓝振中也说到，实际上AI乱用发生的问题很难铲除，现在只能是从微观法令的视点，进行办理标准。
本年9月，网信办发布的《人工智能生成组成内容标识方法（征求意见稿）》提出，AI生成组成内容，应当增加显式标识和隐式标识，前者可被显着感知，后者增加在元数据中。
2023年6月，国家网信办等三个部分联合发布并施行的《互联网信息服务深度组成办理规则》，这是我国第一部专门标准AI生成内容的部分；2023年7月，国家网信办等七部分联合发布了《生成式人工智能服务办理暂行方法》，规则了生成式AI服务供给者应当承当网络信息内容生产者的职责，必定程度上给AI技能供给者划定了“红线”。
在世界方面，欧盟最新经过的《人工智能法案》（AI Act）环绕人工智能产品和服务的开发、商场投进及运用清晰了一个一致的监管结构。
京师律师事务所律师彭威武对《科创板日报》记者表明，与开展日新月异的AI大模型技能比较，当时的法令办理标准还有进一步细化的空间。但现在经过法令法规标准、渠道内容管理、产业界供给技能和东西等多方综合管理，AI乱用发生的危险有望会有所平缓。
本文源自：科创板日报
作者：张洋洋
相关文章
雷军也成了AI语音的受害者？
本文来自微信大众号：王智远，作者：王智远，原文标题：《雷军，或许有点心烦...》，题图来自：AI生成雷军最近或许有点心烦……烦什么？你听到了吗？最近，有不少人用雷军的声响进行二次创造，做成各种段子。我...
我国互联网有三个湖北人，雷军和周鸿祎是其间比较知名的两个，另一个是千橡互动开创人陈一舟。雷军是陈一舟的大学同学，他认为全职业没有人比雷军更尽力，“咱们职业均匀的尽力程度或许只需他的一半”。周鸿祎是陈一舟的老相识，陈一舟曾表明周鸿祎是一个成功的创业者，只需别招惹太多人就行。
命运有时便是爱恶作剧，周鸿祎偏偏惹了雷军，还不止一次。
在安全商场上，周鸿祎用免费奇袭了金山，打得金山措手不及。虽然其时雷军已不在金山，但假如没有这次“狙击”，雷军日后从头掌握金山时，能拿到更好的牌。在手机商场上，周鸿祎在小米手机出货量刚过百万的时分（2012年），就开端与华为、海尔等品牌联合推出“360特供机”，这是除小米手机之外最早的互联网手机之一。尔后，周鸿祎还将360手机作为独立品牌面向了商场，定位也和小米手机相同，但这些测验都以失利收场。
现在，二人的新战场是新能源轿车，最近递送招股书的哪吒轿车，便是周鸿祎挑选的那张牌。假如冲刺成功，哪吒轿车将成为“蔚小理”、零跑、极氪之后，第六家独立上市的我国造车新势力。
哪吒轿车能走到上市，与周鸿祎的力挺有很大联系。2021年，360出资了哪吒轿车，一改其不被风投看好的为难局势，为它做了强有力的背书。周鸿祎会出资哪吒轿车，某种程度上算是对雷军的“问候”，彼时，哪吒轿车现已用小米的拿手性价比战略打下了一方六合。
小米SU7上市之前，许多网友期望小米能“交个朋友”，但雷军屡次表明不或许，终究小米SU7的价格定在了21.59万元起售。不过，即使没有交个朋友，小米SU7的销量体现也十分亮眼，它仅用两个月，就做到了月销量破万，其归纳实力可见一斑。
哪吒替小米交个朋友
在2018年的广州车展上，哪吒轿车（以下简称哪吒）的首款车型哪吒N01上市，其价格最高不到7万元，这在上百家造车新势力中显得分外有目共睹。彼时，除了零跑外，其他造车新势力根本都锚定了高端商场，而哪吒从一开端就挑选了另辟蹊径。
造车新势力分为两派，一派是互联网跨界造车，蔚小理是代表，另一派是职业老炮创业，哪吒轿车便是这种，哪吒的母公司合众新能源的开创人方运舟曾在奇瑞任职，CEO张勇曾在北汽新能源任职。
因为开创团队缺少互联网公司布景，在360出资哪吒前，哪吒的出资方首要是地方政府，缺少商场性本钱的参加， 蔚小理的资方阵型刚好与它相反。360出资哪吒后，哪吒才开端得到了商场性本钱的支撑，才引入了深创投、日出本钱等股东。
哪吒轿车上市，周鸿祎仍是放不过雷军
文｜新摘商业谈论 我国互联网有三个湖北人，雷军和周鸿祎是其间比较知名的两个，另一个是千橡互动开创人陈一舟。雷军是陈一舟的大学同学，他认为全职业没有人比雷军更尽力，“咱们职业均匀的尽力程度或许只需他的一...
此事引发不少网友评论，很多人直接与黄仁勋挂钩，乃至戏弄雷军是抄袭黄仁勋。
雷军日前在直播中也谈到此事，称“皮夹克或许比较简单配得上Ultra这种极致驾驭的风格”。
雷军表明：“为什么选皮夹克呢，我是觉得皮夹克或许比较简单配得上Ultra这种极致驾驭的风格。所以咱们就想到了皮夹克，然后搭档们就选择了三四件，我（从中）挑了一件。我也没想到这个皮夹克这么多人喜爱，还上了热搜。”
关于“抄袭黄仁勋”的言辞，雷军表明自己在宣的时分就忧虑，“我要穿皮夹克必定很多人说你抄那个NVIDIA的老板黄仁勋”。
但他着重：“如同我在知道黄仁勋之前，每个人家里是不是都有两三件皮衣。莫非我一穿皮夹克便是抄黄仁勋？我一穿西服便是抄马斯克？这太诙谐了。”
雷军否定穿皮夹克抄袭英伟达黄仁勋：太诙谐了 每个人家里都有皮衣
快科技3月3日音讯，在上星期的小米 SU7 Ultra发布会上，雷军特意换上了一身皮衣，十分英俊。此事引发不少网友评论，很多人直接与黄仁勋挂钩，乃至戏弄雷军是抄袭黄仁勋。雷军日前在直播中也谈到此事，称...
周鸿祎坦言，自己很早就看到了做手机这个方向，可是自己没有做成功，自己其时老是想走捷径，想找一个协作伙伴分工来做。这种协作形式在实践运作过程中露出出了许多问题，导致手机项目终究未能如愿推动，惋惜收场。他表明，现在雷军这种做法证明是对的，那就是自己全力投入，全力去做。
周鸿祎谈360做手机失利：老是想走捷径，雷军是对的
4月20日，360集团创始人周鸿祎在交际媒体发布视频，谈到了自己作为企业家那些失利的阅历，其间，其还谈到了之前360做手机失利的阅历。周鸿祎坦言，自己很早就看到了做手机这个方向，可是自己没有做成功，自...
网友“被雷军骂”？AI“克隆”声响现已判例！律师称形成严重后果或构成犯罪
刚刚曩昔的国庆长假期间，网络渠道上呈现了一系列“雷军AI配音”视频。这些视频冒用AI生成的雷军声响，其间一些内容言辞剧烈，引发网友重视热议。跟着AI技能的遍及，“克隆”特定人物声响已完成“一键式”操作...
周鸿祎坦言，自己很早就看到了做手机这个方向，可是自己没有做成功，自己其时老是想走捷径，想找一个协作伙伴分工来做。
这种协作形式在实践运作过程中露出出了许多问题，导致手机项目终究未能如愿推动，惋惜收场。
他表明，现在雷军这种做法证明是对的，那就是自己全力投入，全力去做。
此外，周鸿祎还透露了一个不为人知的往事。本来，从前身为华为子品牌的荣耀，开始的姓名并非现在人们熟知的“荣耀”，而是叫做“闪烁”。这个是自己给华为提的主见，做一款高性价比手机去对标小米芳华版。
周鸿祎谈360做手机失利：老是想走捷径 雷军证明是对的
快科技4月21日，周鸿祎在个人微博发文，谈到了自己作为企业家那些失利的阅历，其间，其还谈到了之前360做手机失利的阅历。周鸿祎坦言，自己很早就看到了做手机这个方向，可是自己没有做成功，自己其时老是想走...