AI内容强制“亮明身份”！新规落地后，我们还能相信网络世界吗？

热门资讯 2025年08月31日 22:42 2 admin

据央视网8月31日消息，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》将于9月1日正式施行，所有AI生成的文字、图片、视频等内容必须添加显式或隐式标识。这项被称为“AI内容身份证”的新规，在技术狂欢与信息乱象交织的当下，犹如投入湖面的巨石，激起千层浪。

AI标识：是紧箍咒还是安全带？

新规要求AI生成的文本需在显眼位置标注“人工智能生成”，视频需在起始画面显示标识至少2秒，音频则需播放特定提示信号。隐式标识更要求在文件元数据中嵌入包含生成方、传播平台等信息的JSON数据，如同给内容植入“数字指纹”。这种双重标识体系，既让用户肉眼可辨AI内容，又为监管提供了溯源依据。

虚假信息终结者还是创作枷锁？

新规的直接导火索，是近期频发的AI造假事件。此前某平台出现AI伪造张伯礼院士带货视频，画面中院士推荐的护肤品实为虚假宣传，导致大量消费者受骗。类似事件在直播带货、新闻传播等领域屡禁不止，甚至出现AI生成“杭州亚运场馆坍塌”等谣言引发社会恐慌。标识制度的出台，正是为了斩断“AI造假—传播—牟利”的灰色链条。

但标识制度也引发行业担忧。新规实施后，平台需对所有用户发布内容进行AI检测，技术成本增加30%以上。更棘手的是，部分创作者担心“AI标签”会降低内容传播效果，甚至引发用户对内容质量的偏见。北京互联网法院近期审结的一起案件显示，平台因算法误判用户内容为AI生成并实施处罚，最终被判违约，这凸显了技术识别的局限性。