人工智能（AI）天生合成内容的传神水平已经让平凡人难以辨别。多方人士曾发起，加速规范AI天生合成内容。“内容标识”是现在国际上较为通用的做法。
日前，国家网信办草拟的《人工智能天生合成内容标识办法（征求意见稿）》（以下简称《办法》），面向社会公开征求意见。新京报记者留意到，与之配套的逼迫性国家尺度《网络安全技能 人工智能天生合成内容标识方法》（以下简称《标识方法》）同步在天下尺度信息公共服务平台公开征求意见。
真假难辨，“AI换声”“AI换脸”诈骗案件量正在增长
《办法》拟规定什么？简朴来说，AI天生合成的内容要在明显位置作出标识，也就是要给它们打上“专属水印”。
给AI天生合成内容打水印为何云云紧张，必要单独出台文件加以规制？受访者以为，这与AI应用带来的虚伪宣传、敲诈等社会风险有着直接关系。
天生式人工智能的应用落地不外是近两年的事变，然而使用AI实行诈骗、侵权等违法犯罪的数目正在快速增长。记者留意到，多地公安构造曾发布过相干提示，司法构造也发布了多起使用AI实行犯罪的典范案例。部门案例经过媒体报道宁静台流传，引发不少人的担心乃至是恐慌。
“AI诈骗正在天下发作”的词条一度登上热搜，一时讨论声四起。据浙江省科普团结会发布的文章，AI诈骗的范例包罗：语音合成诈骗、视频/图像合成诈骗、谈天呆板人诈骗、数据操控与伪造。其所依托的技能重要为天然语言处置惩罚和呆板学习。
上述前两种范例便是许多人听说过的“AI换声”“AI换脸”。《办法》提出，对于AI天生合成的音频，在起始、末端或中心得当位置添加语音提示或音频节奏提示等标识；AI天生合成的视频，在起始画面和视频播放周边的得当位置添加明显的提示标识，可在视频末端和中心得当位置添加明显的提示标识。对于AI天生合成的文本、图片等信息，《办法》也拟作出相应规定。
除了上述可被用户显着感知的显式标识，《办法》还拟对隐式标识的添加予以明白，提出服务提供者在天生合成内容的文件元数据中添加隐式标识，隐式标识包罗天生合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。
《办法》拟作何详细规定？办理什么题目？
详细来说，《办法》拟对服务提供者、网络信息内容流传平台的服务提供者、互联网应用步伐分发平台、用户分别规定相应的责任任务。
公开征求意见的关照。图源国家网信办官网北京大成状师事件所高级合资人肖飒表明，服务提供者即使用天生式人工智能技能提供天生式人工智能服务，使用算法技能提供信息服务、深度合成服务的构造、个人。
对服务提供者，《办法》提出在天生合成内容时自动添加显式标识或隐式标识，实行逼迫性国家尺度；在用户服务协议中明白阐明天生合成内容标识的方法、样式等，并提示用户细致阅读并明白相干的标识管理要求。
对于提供网络信息内容流传平台的服务提供者，如AI谈天网站，《办法》特殊提出，在处置惩罚和核验天生合成内容时，平台必要负担核验标识的责任。
对于互联网应用步伐分发平台，如应用市肆，《办法》提出，在应用步伐上架时，应当核验服务提供者是否按要求提供天生合成内容标识功能。
用户在上传天生合成内容时，应当自动声明并利用平台提供的标识功能作出标识，不得恶意删除、窜改、伪造、隐匿天生合成内容标识。
西南政法大学科技法学研究院副院长、传授郑志峰以为，通过规范标识可以资助公众正确区分AI天生合成内容与人类创作内容，提拔信息透明度，维护信息生态的真实性，保障公众的知情权。通过标识还可追溯天生内容的泉源，明白责任主体。
他指出，通过标识内容可以低落虚伪宣传、敲诈等社会风险。肖飒同样指出，AI天生合成内容大概被用于制造社会恐慌、流传谎言或实行其他非法运动，通过逼迫标识，可以有用地控制这些举动，维护社会稳固。
2022年以来，国家网信办等部分发布的文件中，相继明白对符合要求的AI天生合成内容作出标识，为何还要单独订定《办法》？
郑志峰指出，之前的文件只是作出原则性要求，没有深入讨论详细的标识方式、范围和技能尺度。在此配景下，《办法》的进一步规定可以消除标识尺度的含糊性。详细来说，《办法》重要明白责任主体和任务，《标识方法》则提供详细操纵细节。
“这种双重保障机制将确保标识要求不但有依据，另有技能实行路径，具备可操纵性，确保规定真正落地，而不但是停顿在外貌要求上。”郑志峰向记者表明。
此举能防范日益突出的AI诈骗吗？
《标识方法》这一逼迫性国家尺度拟明白各类AI天生合成内容的详细标识方式。此中，视频内容的显式标识应接纳笔墨提示。
详细而言，应同时包罗人工智能要素——含“人工智能”或“AI”，表明利用人工智能技能；包罗天生合成要素——含“天生”和/或“合成”，表明内容制作方式为天生和/或合成。
视频内容显式标识示例。图源《标识方法》音频内容的显式标识应接纳语音标识或音频节奏标识。语音标识应同时包罗人工智能要素——含“人工智能”或“AI”，表明利用人工智能技能；包罗天生合成要素——含“天生”和/或“合成”，表明内容制作方式为天生和/或合成。
音频节奏标识应为“短长 短短”的节奏。《标识方法》解释称，“短长 短短”节奏为“AI”的摩斯码表现。
音频内容显式标识示例。图源《标识方法》以“AI换脸”诈骗为例，肖飒分析，根据《办法》和《标识方法》要求，潜伏受害人应该可以或许在视频中看到明显标识，提示该视频是AI天生合成内容。
详细来说：视频中大概会有显着的笔墨提示，如“本视频为合成内容”，大概视频角落处有显着的标识符号，如“人工智能天生合成”；标识应当放置在视频的显眼位置，如角标、横幅等，以便用户一眼就能留意到；标识的颜色和字型应当充足夺目，以便与视频配景区分开；假如视频支持交互功能，在用户实验播放或下载视频时，体系大概会弹出提示框，告知用户该视频是AI生产合成的。
“从结果来看，可以猜测，《办法》和《标识方法》的实行有助于进步AI天生合成内容的透明度，低落老百姓遭AI诈骗的风险。”肖飒告诉记者。
郑志峰以为，标识可以起到区分人机边界的作用，同时具有警示功能，提示用户慎重对待AI天生合成内容，制止被骗上当。“固然，标识的作用也是有范围性的，无法应对全部的题目。比方，AI天生合成内容是否侵占他人的著作权、品德权，并非标识可以办理的。”
专家发起：明白未推行标识任务的责任规则，特殊是民事侵权责任
《办法》第13条拟规定，未对AI天生合成内容作出标识造成严峻结果的，由网信等有关主管部分按照有关法律、行政法规、部分规章的规定予以处罚。
郑志峰指出，《办法》拟作出的责任追究规定较为笼统，责任机制不敷美满，没有明白未推行标识任务的责任规则，特殊是民事侵权责任。
“《办法》仅规定‘未对天生合成内容举行标识造成严峻结果的’依法举行处罚。但对第10条所涉及的利用者的举动，未规定处罚步伐。”肖飒指出，有的利用者恶意滥用AI天生合成内容，通过不合法标识本领侵害他人正当权益、散布虚伪信息，发起增补处罚步伐或列明可供援引的其他法律规范。
别的，郑志峰提出，标识实用于AI天生合成内容，对于人机协作天生合成的内容是否实用并不明白。比方，AI天生一首唐诗，用户对内容作了很小的修改，是否必要标识并不清晰。
总的来说，内容标识是防范天生式人工智能应用风险的紧张一步，有助于进步透明度，资助用户辨认AI天生合成内容。
“但这只是多条理防控体系的一部门。”肖飒以为，要想真正规避风险，还应细化法律法规，创建行业自律尺度，如明白界定法律责任，特殊是版权、隐私掩护等题目；推动行业自律，创建同一的技能尺度和伦理准则，引导企业公道正当利用AI技能。
在郑志峰看来，当前我国人工智能立法出现显着的场景化特性，如关注主动驾驶、人脸辨认、天生式人工智能、深度合成等详细场景，且立法的级别不敷高。
“随着我国人工智能财产的发展，人工智能立法储备的丰富，订定一部《人工智能法》的契机已经成熟。相较于分散的部分规章，《人工智能法》可以体系明白人工智能各方权利、任务、责任，创建起覆盖人工智能全生命周期的、同一的羁系规则，制止场景化立法存在的重复立法和羁系盲区题目，具有更强的顺应性。”郑志峰以为。
新京报记者 行海洋
