AI生成内容强制标识能防骗吗？

抖音推荐 2025年09月09日 00:49 1 admin

由国家网信办、工业和信息化部、公安部、国家广播电视总局联合制定的《人工智能生成合成内容标识办法》（以下简称“标识办法”)9月1日起正式生效，“标识办法”提出了强制添加显式和隐式标识等规范要求，即用AI生成的每一段文字、每一张图片、每一条音频、视频，都必须强制亮明“数字身份证”。

目前，腾讯元宝、DeepSeek、字节豆包、阿里通义、Kimi等大模型厂商也已更新用户协议，表明已履行AI标识相关义务，包括显性标识和隐性标识。有关专家认为，一个更透明、更可信的AI内容生态正在构建。

强制标识后

用户能明显看到内容是AI生成

随着人工智能技术快速普及，正重塑信息生产和传播方式。中国互联网络信息中心（CNNIC）发布的《中国互联网络发展状况统计报告》显示，2024年，我国人工智能产业规模已突破7000亿元，连续多年保持20%以上的增长率。

与此同时，人工智能技术被用于制造虚假新闻、实施网络诈骗的案例逐年增长。中国信通院发布的《人工智能治理蓝皮书（2024年）》中指出，随着人工智能技术通用泛化的水平提升，内容安全管理将面临着重大挑战。

“标识办法”的核心在于双重标识要求。显式标识需让普通用户“一眼可见”，如在AI生成文章的开头或结尾添加文字说明，在音视频内容中加入语音提示或特殊图标。隐式标识则需在文件元数据中嵌入“隐藏信息”，包括内容属性、服务商信息及唯一识别编码。

AI内容近年来迅速增长，且愈发多样、逼真。业内人士指出，例如AI乖孙哄得老人乐呵呵，AI说教视频成为了长辈催婚的利器等等。老人和青少年辨别能力有限，当AI标识变为标配，无疑是对这类群体的一种保护。

行业积极响应

更健康的AI生态正在建立

“标识办法”实施后，各大应用和平台已经开始积极响应，纷纷公布其落地细则与技术方案。

腾讯发布公告称，为保障用户信息获取的透明度与可信度，平台进一步优化内容识别能力。用户通过平台获取的AI生成合成内容，可能带有显式标识或隐式标识。平台也会对可能是AI生成合成的内容进行相应提示，以便用户清晰辨识。

海螺母公司MiniMax执行总编辑周晓榕表示，“内容标识不是为了限制创新，反而对创新有促进作用。”在她看来，标识是构建可信AI的基石，能够提升用户信任；通过隐式标识水印，还能强化知识产权保护；通过标识进行溯源，则能帮助企业在面临第三方AI滥用纠纷时合规避险。此外，标识也能反哺技术迭代，帮助筛选出高质量的可信数据，用于未来的模型训练。

据了解，包括抖音、DeepSeek、智谱清言在内的多家应用和平台已相继发布公告，明确其AI内容标识的实施方案。

事实上，在落地层面，AI标识仍面临诸多挑战。有关专家表示，例如，不同AI公司可能使用不同的标识技术，平台方很难用一套统一的标准去检测所有来源的AI内容。另外，显式标识（如水印）也很容易被用户通过截图、裁剪等方式去除，从而失去原有作用。但是，无论是实施方案的建立，还是生态联盟的共识推进，都预示着一个更透明、更可信的AI内容生态正在构建之中。这离不开监管机构、技术公司、内容平台乃至每一位用户的共同努力，在鼓励创新的同时，坚守责任底线，才能确保AI这把“双刃剑”能真正向善而行。华商报大风新闻记者汤晓燕