你的声音被谁“偷”走了？——AI声音滥用征象观察

新华社北京2月12日电 题：你的声音被谁“偷”走了？——AI声音滥用征象观察

新华社“新华视点”记者邵鲁文、温竞华

亲耳听到的就是真的吗？未必。网络平台上，AI声音到处可见。

从“张文宏大夫”倾销卵白棒视频“走红”网络，后被本人“打假”，到多位配音演员称声音被AI“偷走”，公开维权……“新华视点”记者观察发现，随着人工智能技能和语音大模子应用的发展，AI合成声音App大量出现，最快只需十几秒便可“克隆”出来。与此同时，AI声音滥用征象愈发突出，不时引发争议。

AI声音滥用不时发生

记者在某短视频平台以“AI克隆声音”为关键词检索发现，明星翻唱、消息播报、吐槽点评等大量视频涉及AI声音，有些乃至出现不雅词汇，不少视频点赞和批评量过千。

而AI声音滥用变乱也不时发生，引发关注和讨论。

在交际平台上，通过AI模拟恶搞各范畴名流的音视频不在少数。此前，短视频平台涌现了大量AI模拟某着名企业家声音吐槽堵车、调休、游戏等热门话题的视频，个别视频乃至另有脏话出现，一度登上热搜。该企业家随后发视频回应称：“相干变乱简直让本身挺困扰，也挺不惬意，盼望各人都不要‘玩’了。”

一些商家在短视频平台带货时，通过AI模拟声音技能将主播“变”为着名女明星、着名大夫，贩卖服装、保健品等相干产物，对消耗者造成了严峻误导。国家感染病医学中央主任、复旦大学附属西岳医院感染科主任张文宏担当媒体采访时表现，通过语音合成来模拟他的声音举行直播带货，如许的账号“不止一个，且不停在变”，他多次向平台投诉但屡禁不绝。

胖东来首创人于东来的声音也曾频遭AI模拟，相干平台出现了大量与究竟不符的合成视频。胖东来商贸团体为此发布声明称，多个账号未经授权私自使用AI技能本领天生于东来的声音，参加误导性文案，对公众造成误导和肴杂。

记者相识到，有非法分子通过“AI换声”仿冒一位老人的孙子，以“打人须补偿，否则要下狱”为由，诈骗老人2万元。雷同的诈骗案件在天下已发生多起，有的诈骗金额到达上百万元。

中国社会科学院大学互联网法治研究中央主任刘晓春表现，在未颠末授权、未举行标注的环境下，用他人声音制作AI语音产物，尤其是“借用”公众人物的声音，很轻易引起误解，不但会陵犯个人信息安全，还大概扰乱网络空间生态和秩序。

声音是怎样被“偷”走的？

AI怎样天生以假乱真的声音？受访专家先容，AI可以或许“克隆”声音，重要是依赖深度学习算法，即短时间内从收罗的声音样本中提取关键特性，包罗频率、音色、声调、语速、情绪等，将这些特性记载为数学模子，再通过算法合成。

中国科学院主动化研究所模式辨认实行室工程师牛少东说，随着算法越来越先辈，在高性能装备和高精度模子的加持下，AI天生的语音内容从两年前的“一眼假”升级到现在的“真假难辨”。

大四门生耿孝存近来常常在网络音乐播放器中收听几首翻唱歌曲，他不停以为这些歌曲由某着名女歌手翻唱，厥后才得知实在全部是AI合成的。“声音传神到我从来没猜疑过。”耿孝存说。

AI声音在近来一两年时间内变得格外“盛行”。清华大学消息与流传学院传授沈阳说，人工智能技能的遍及，让AI模仿声音的门槛大幅低落。通过一些开源软件宁静台，没有专业知识的平凡用户也能操纵。

大量App可以或许举行AI合成声音，最快只需十几秒。记者在应用市肆搜刮发现，相干App有数十款，下载量最高超万万次。

记者接洽了一款App的客服职员，对方表现，花198元就能解锁付费会员，对着镜头说几遍“12345”，AI就会根据声音天生各类内容的出镜口播视频。记者操纵后发现，通过这款软件天生的名流声音，根本可以以假乱真，且录入名流声音不必要提供任何授权证实。

业内人士告诉记者，AI模仿人声在互联网“盛行”，有追逐流量和变现的目标。通过“克隆”名流声音制作的恶搞、猎奇类视频，在相干平台播放和点赞量均不低，有的乃至还被推上热搜。发布者也相应得到流量曝光、粉丝增长、广告收入等播放收益。

别的，“偷”人声音也有非法长处驱动。国家金融羁系总局2024年7月发布的《关于防范新型电信网络诈骗的风险提示》中提到，非法分子大概对明星、专家、执法职员等音视频举行人工合成，假借其身份流传虚伪消息，从而实现诈骗目标。

多措并举强化管理

用AI天生他人声音，是否违法违规？多位受访专家表现，个人声音中包罗的声纹信息具备可辨认性，能以电子方式记载，能关联到唯一天然人，是生物辨认信息，属于个人信息掩护法规定的敏感个人信息之一。

2024年4月，北京互联网法院宣判天下首例“AI声音侵权案”，明白认定在具备可辨认性的条件下，天然人声音权益的掩护范围可及于AI天生声音。该法院法官以为，未经权利人允许，私自利用大概可他人利用灌音成品中的声音构成侵权。

比年来，有关主管部分出台《人工智能天生合成内容标识办法（征求意见稿）》《互联网信息服务深度合成管理规定》《天生式人工智能服务管理暂行办法》等规定，肯定水平上给AI技能利用规定了红线。

沈阳等专家以为，关于人工智能应用产生的造谣侵权、刑事犯罪、道德伦理等题目，发起有关部分细化美满相干规则，通过典范案例、司法表明等方式给予更为明白的规范指引，厘清法律法规界限。

中国科学院科技战略咨询研究院院长潘教峰以为，需进一步强化人工智能伦理规制，超前摆设人工智能风险研究，提前预判人工智能技能应用大概带来的社会影响。

2024年12月，广电总局网络视听司发布《管理提示（AI魔改）》，要求严酷落实天生式人工智能内容考核要求，对在平台上利用、流传的各类相干技能产物严酷准入和监看，对AI天生内容做出明显提示。

多位专家表现，各类交际网络、短视频平台要强化自动羁系意识，实时发现、处置惩罚大概涉及侵权的AI天生作品；相干部分应继承加大对使用AI技能举行诈骗等违法犯罪举动的打击力度，形成更加美满的常态化管理机制。

牛少东说，在AI期间，个人也要更加留意掩护本身的生物特性信息，加强法律意识，抵抗他人侵权等举动。