强制标注AI生成内容，开启更规范新时期

游戏天地 2025年09月09日 10:36 1 admin

中国战略新兴产业融媒体记者艾丽格玛

“花生长在树梢上”“土豆挂在枝头”……近几天，几个令人啼笑皆非的AI生成广告引发热议。

不过，正因我们了解农作物，才能看出这种“低级错误”、觉得可笑——但如果AI生成的内容是我们不了解的领域呢？

9月1日起，一则特殊的提示在各大平台悄然上线：“部分内容由AI生成”。

从这一天开始，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》（以下简称《标识办法》）与配套强制性国家标准《网络安全技术人工智能生成合成内容标识方法》（GB45438-2025）正式施行，我国人工智能发展进入“有标识可循”的规范化新时期。《标识办法》提出强制添加显式和隐式标识等规范要求，即用AI生成的每一段文字、每一张图片、每一条音频、视频，都必须强制亮明“数字身份证”。

人工智能的易得性，让虚假信息的生成门槛大大降低。在这个人人都可用AI的时代，从根源上将人工智能生成内容进行区分和标注势在必行。那么，AI生成内容标注从技术上是如何实现的？又将对产业应用和发展带来怎样的影响呢？

内容滥用危机显现

中国互联网络信息中心（CNNIC）发布的《中国互联网络发展状况统计报告》显示，2024年，我国人工智能产业规模已突破7000亿元，连续多年保持20%以上的增长率。

高增长率带来了更高的管理难度。据中央网信办数据，2025年4月开展的“清朗·整治AI技术滥用”专项行动中，第一阶段就累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条。

内蒙古一位老板接到“好友”视频电话，视频里脸是好友的脸，声音是好友的声音，老板爽快转账——其实这是骗子用AI换脸+语音合成的诈骗视频；上海刘先生在短视频平台邂逅“焦女士”，恋爱半年转账20万支持她“开店”，警方发现，“焦女士”的脸是AI生成的，背后的诈骗团伙用假照片、假视频制作的“杀猪盘”已经骗了200多万。

这类案件并非个例，AI内容滥用已经开始形成“灰色产业链”。澎湃新闻调查显示，大量自媒体营销号利用AI技术批量制造虚假人设，推送猎奇、养生、情感等内容，通过引流带货、账号转卖等方式变现，形成了“技术开发-内容生成-流量变现”的完整链条。

“人工智能大模型开源生态的建立，让AI发展加速的同时也让生成式AI更容易被滥用。”中国行政法学研究会常务理事、华东政法大学教授沈福俊认为，考虑到立法的滞后性，监管部门还需更加关注新技术发展对市场端的影响，加大事前监管力度，充分运用现有的法律法规资源实施有效监管，切莫使新问题隐匿在“监管盲区”。这类虚假信息对社会造成的负面影响是方方面面的：在政治领域，AI生成的虚假政治言论可能干扰公共决策；在经济领域，AI合成的虚假财经信息可能引发市场波动；在文化领域，AI伪造的历史影像可能扭曲公众认知。更值得警惕的是，AI技术的低成本性使得普通人也能轻松制作高度逼真的虚假内容，风险更加扩散。

中国科学院科技战略咨询研究院研究员肖尤丹坦言，过往对于生成式人工智能的监管需要按照每个个案判断，这对平台来说监管识别难度非常大。

“此前出台的《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》提出了标识有关要求，《标识办法》进一步细化了标识的具体实施规范。”北京航空航天大学法学院副教授赵精武认为，办法明确了生成合成内容制作传播各主体的责任和义务，用户能够清晰识别人工智能生成的内容，减轻人工智能生成合成技术滥用危害，防范利用生成合成内容传播虚假信息、实施电信诈骗等风险行为。

强制标注如何实现？

《标识办法》核心内容之一是明确了人工智能生成合成内容的标识方式，主要包括“显式标识”和“隐式标识”两种形式。

显式标识要求服务提供者在生成合成内容或交互界面中，以文字、声音、图形等可被用户明显感知的方式添加标识，如在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；在图片的适当位置添加显著的提示标识；在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识。

隐式标识则是在文件元数据中添加的技术性标识，不易被用户感知但可通过专业工具检测，主要用于内容溯源和监管核验。隐式标识包含生成合成内容的属性信息、服务提供者名称或者编码、内容编号等制作要素信息，鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。

对于平台来说，无论是检测到用户自己添加的显式标识，还是生成内容中隐蔽添加的技术性隐式标识，都需要采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容可能为生成合成内容。

浙江大学计算机科学与技术学院院长任奎教授认为，“嵌入的标识有不同的功能和类型。例如，对于某个生成内容，可以只是简单地标识出它们是自然真实存在的还是由AI模型生成的。此外，标识还可以标记生成这些内容的具体模型。更进一步地说，标识还可以同时标记用户和模型，合成内容标识在功能性上也可以进一步划分，以满足监管的不同要求。”

政府主导，平台协同

在监管协同方面，我国构建了“政府主导+平台协同”的实施机制。政府部门负责制度设计和监督执法，平台承担具体实施责任，形成了齐抓共管的治理格局。

就在《标识办法》正式施行前夕，大部分主流内容平台已提前发布了公告。

8月29日，B站公告称，在行业主管部门指导下，不断升级完善站内AI相关的内容治理水平和管控能力，积极落实《人工智能生成合成内容标识办法》各项要求，推出AI生成合成内容标识功能，帮助大家更便捷地区分内容是否涉及AI生成。站内会对于未主动声明的AI生成合成内容，依据法律法规要求，按照社区规则添加标识，用户不得恶意篡改、隐匿相关标识。下一步，站内将持续落实标识相关工作，优化AI治理链路，营造健康有序的网络环境。

8月31日，腾讯发布公告称，根据《人工智能生成合成内容标识办法》要求，平台应对AI生成合成内容添加显式标识和隐式标识。为保障用户信息获取的透明度与可信度，平台进一步优化内容识别能力。用户通过平台获取的AI生成合成内容，可能带有显式标识或隐式标识。平台也会对可能是AI生成合成的内容进行相应提示，以便用户清晰辨识。

9月1日，抖音发布《关于升级AI内容标识功能的公告》，进一步规范平台上的AI内容创作与传播。《公告》显示，抖音已上线两项核心功能：一是AI内容标识功能，协助创作者为AI内容添加提示标识，方便用户辨别；二是AI内容元数据标识读写功能，可识别并写入AI内容的元数据信息，为内容溯源提供技术支撑。

人工智能内容生成服务商也纷纷发表声明，表示已在生成AI内容时添加标识。

9月1日，DeepSeek公告称，为贯彻落实《标识办法》等国家标准的相关要求，防止AI生成内容可能引发的公众混淆、误认以及信息失实的风险，DeepSeek已在平台内对AI生成合成内容添加标识，并明确提醒用户相关内容由AI生成。用户不得恶意删除、篡改、伪造、隐匿此类生成内容标识，不得利用AI制作、传播虚假信息、侵权信息以及从事任何违法违规活动。

9月2日，商汤科技发布关于落实《人工智能生成合成内容标识办法》的公告，称为贯彻落实《标识办法》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》的监管政策，商汤科技面向公众提供的生成合成服务（包括但不限于文本、图片、音频、视频、虚拟场景生成等），均严格落实监管政策的要求，添加了显式标识与隐式标识。

人工智能内容治理已成为全球性课题，各国基于不同的技术基础、文化传统和治理理念，形成了各具特色的监管模式。我国《标识办法》的出台并非孤立行动，而是在吸收国际经验基础上结合国情的制度创新，体现了“小步快走”的治理智慧和“发展与安全并重”的治理理念。