乱用大众人物声响恶搞，AI技能使用“玩过界”被质疑

liukang20243个月前 (05-26)热心吃瓜396

从“一眼假”到“真假难辨”再到“深度假造”，生成一条音频只需20秒

乱用大众人物声响恶搞，AI技能运用“玩过界”被质疑

近来，一些短视频渠道出现了很多某闻名企业家吐槽的视频。在视频中，该企业家对堵车、调休、游戏等热门话题进行了戏弄和锐评，乃至还有不雅观词汇交叉其间，引发网友热议。

事实上，那些吐槽视频并非该企业家自己在发声，而是由网友运用AI软件收集该企业家原音生成的配音，但传神的作用让不少人信以为真。

AI的开展为日子带来了许多便当，但一些乱象也引发质疑。以AI语音组成技能为例，只需要翻开软件、动动手指，一条以假乱真的配音视频就能新鲜出炉。但是，有的视频越过了恶作剧的鸿沟，“偷走”别人声响进行恶搞、诽谤，带来了恶劣的社会影响。

20秒就能生成一条AI音频

记者在交际软件上检索AI配音发现，不少用户发布了相关视频的生成教程。其间，大部分视频的配音都源于某拟真语音大模型运用。

在该运用网站上，创作者上传恣意人物的一段音频作为练习资料，随后AI通过学习可克隆出一个声响人物。网站中的其他用户只需输入文本，便能够运用该声响生成内容。

依照该网站的运用指引，记者添加了上述闻名企业家的声响人物，输入一段100字的文本，然后点击“开端生成”，约20秒，一条与该企业家声响相似度极高的AI音频就生成了。记者发现，到现在，该声响人物已被运用79.9万次，生成字符数达4455.5万个。

被“偷走”声响的大众人物还有不少。本年9月底，一段据称是某直播渠道老板卢某某的酒后录音在网络上撒播，全体呈现出卢某某关于顾客的高傲情绪，以及对相关人士的不尊重表达，为该渠道引起了不小的争议。后警方查询发现，音频内容不实，系大模型假造而成。

一位业内人士告知记者，通过仿照音频样本的语调、语速、情感、口音、发声方法等特征，AI技能现已能够高度复原音频样本的声响，到达人耳和其他判定方法难以区别的程度。

“从前期的‘一眼假’到现在的‘真假难辨’，AI的开展进入了‘深度假造’年代。”中国社会科学院大学法学院副教授、互联网法治研讨中心主任刘晓春向记者表明，在未通过授权、未进行标示的状况下，用别人声响制造AI语音产品，尤其是“借用”大众人物的声响，很简单引起误解，这不只会损害个人信息安全，还或许打乱网络空间生态次序。

乱用别人声响侵略品格权

当时，不少网友在组成别人的AI音频时，仅抱着文娱心态，并没有意识到背面躲藏的法令危险。记者注意到，在一条“AI配音教程”视频的谈论区，有学员发问“这样不侵权吗”？

博主回复称：“我们都在做，假如提示违规，删了就行了。”

对此，北京盈善律师事务所律师张清鑫剖析称，与“肖像”相似，自然人的声响具有唯一性、独特性，是自然人品格的重要组成部分，声响权益是品格权的一种。制造并上传别人AI音频的行为，无论是出于商业意图仍是文娱意图，都已构成对其品格权的侵略。假如配音内容违法或违背公序良俗，或许侵略别人的名誉权。

据了解，本年4月，北京互联网法院一审开庭宣判了全国首例AI生成声响品格权侵权案。该案中，配音师因以为本身著作被短视频渠道运用AI生成语音产品，严峻侵略了自己的声响权益，将短视频渠道及制造方等5家公司诉至法院，终究原告获赔经济损失25万元。

在审理过程中，被告公司辩称，人工智能组成后的声响产品，与自然人声响在人身权特点上有所区别，现在技能都会对人工智能组成声响进行水印符号，切断了人工智能组成声响与自然人声响之间的联络，不会发生对应自然人的品格特点。而法院以为，AI声响与原告声响具有高度一致性，能够引起一般人发生与原告有关的思维或爱情活动，能够将该声响联络到原告自己。在具有可识别性的前提下，自然人声响权益的维护规模可及于AI生成声响。

“该判定关于厘清和掌握AI生成声响的鸿沟具有指导意义。”刘晓春说。

管理手法要跟上科技脚步

清华大学新闻与传达学院新媒体研讨中心本年4月发布的一份研讨报告显现，近一年来，经济与企业类AI流言量增加99.91%。受访专家表明，法令法规和管理手法要跟上科技开展的脚步，对AI技能的运用进行清晰的束缚，引导科技向善。

张清鑫以为，AI语音运用东西供给方不能“置身事外”，而是要把好第一道关，强化对源头资料的把控和对生成内容的监管，完善运营规矩，并在出现问题时活跃合作有关部门，追溯违法音频的生成源头。

本年9月，国家网信办发布的《人工智能生成组成内容标识方法（征求意见稿）》提出，供给网络信息内容传达渠道服务的服务供给者应当采纳办法，标准生成组成内容传达活动。包括供给必要的标识功用，并提示用户自动声明发布内容中是否包括生成组成内容等。

“作为内容传达的服务供给者，短视频等传达渠道应尽到相关责任。”刘晓春主张，除了提示用户进行标识以外，渠道也应对AI生成内容树立鉴别和追寻的机制。假如发现涉嫌假造的内容或许接到相关投诉，应当要求内容发布者及时对假造内容进行标识，在不标识的状况之下，能够依据渠道规矩删去内容，形成严峻后果的能够进行禁言、封号等处理。（记者陈曦）

来历：工人日报

告发/反应