莫被铺天盖地AI内容“蒙在鼓里”

游戏天地 2025年09月05日 11:27 1 admin

文 | 王庆峰

不少人都有此困扰：网络信息浩如烟海，但究竟有多少AI内容混迹其中？又该如何分辨？

9月1日，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式施行，给出了简洁而有力的答案——所有AI生成合成的图像、视频、音频和文本内容等都必须添加清晰标识，“亮明身份”。

推进人工智能安全治理，构建安全可信发展生态，这一步至关重要。也只有从源头规范内容标识，防范误解与滥用风险，才能推动AI技术向上向善、可知可控，始终在健康有序的轨道上发展，更好地服务于社会和公众。

（一）

科技时代日新月异，智能生活触手可及。随着生成式人工智能加速跃迁，深度合成技术迭代发展，生产生活效率一键“提速”的同时，也催生信息泛滥的安全风险。

一是捏造虚假信息。有网友评论：“以前造谣需要高超的PS技术，现在只需要一句话就能生成。”从“暴雨引发山体滑坡”的伪造视频，到“核电站泄漏”的AI新闻，再到“西藏定日县地震一小孩被压废墟”的虚假图片，AI谣言形形色色，日益呈现工业化、专业化趋势。

二是生成不实信息。“AI幻觉”之下，人工智能变身“自信的谎言家”，屡屡得手。有用户刻意捏造，将无关图文、视频拼凑剪辑，生成虚实混杂、半真半假的信息。还有的聚焦财经、教育、司法、医疗卫生等专业领域，“AI医生”“荐股大师”“算命先生”等令人防不胜防。

三是冒充身份信息。“假靳东”迷倒中老年女性，“假雷军”辣评假期堵车话题，张伯礼院士“被代言”推荐某化妆品，知名运动员遭受“造黄谣”之害……在“AI换脸”“AI换声”等技术加持下，假冒行为明目张胆，有的甚至利用AI冒充亲友，从事网络诈骗等违法活动。

当真实与虚构的边界日益模糊，公众对网络传播内容的信任根基也会不断削弱。

虽然网上有不少“技术帖”“经验帖”，旨在教网友如何一眼识破AI，然而网络信息庞杂，技术不断进步，要求网友自带“火眼金睛”，既不可能也不现实，只有从源头进行治理，才是根本解决之道。

（二）

公众之所以看走眼，关键在AI内容迷人眼。

《办法》聚焦“生成合成内容标识”，无疑是找准了互联网信息鱼龙混杂、泥沙俱下的关键病灶，将产生“一石三鸟”的效果。

在用户端，有利于保障用户知情权选择权。心理学研究发现，人类的大脑特别擅长“类别化”——根据经验快速分类，把人或事物放入一个个标签化的框架里。进行内容标识，是保护用户正当权益的必然要求，有助于打破思维定式，在接收信息时多一份警惕和思考。

在监管端，可以有效提高社会安全性。标记文件是谁生成的、编号是多少、用的是什么AI服务等，可以让监管部门更容易追溯问题内容的来源，明确责任归属，快速锁定相关责任人。同时，也有助于释放震慑效应，防止AI技术被滥用于欺诈、造谣等不当用途。

在服务端，内容标识既是责任更是机遇。因为真假难辨的信息进入公开领域，将让“数据污染”变本加厉，最终导致技术可信度降低。内容标识从源头给企业树立了价值取向，传播了科技向善的文化理念，有利于实现科技创新高质量发展与高水平安全的良性互动。

（三）

这也是治理模式的一次全新升级。

此前的《互联网信息服务深度合成管理规定》等对深度合成服务提供者规定了标识义务。而本次《办法》的一大亮点，是紧扣“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播的全链条治理。

——生产环节上，服务提供者应添加标识。服务提供者应对文本、图片、音频、视频等生成合成内容添加显式标识，并在文件元数据中添加隐式标识。双管齐下，拧紧了“安全阀”。当然也要提高警惕，拒绝模糊化处理，防止不法分子恶意删除、篡改、伪造标识。

——传播环节上，不同主体应对标识的合规性进行确认。应用程序上架时，分发平台就应做好第一道把关。在进行内容传播时，社交平台更应加强甄别。就在新规落地之际，多家互联网平台纷纷响应，相关用户协议已修改升级，将严打对AI生成技术的滥用行为。

——使用环节上，用户同样应履行标识义务。《办法》要求用户应当主动声明并使用服务提供者提供的标识功能进行标识。也许部分创作者存在抵触心理，觉得“AI标签”影响美观度，这就要求平台和监管部门加大宣传和引导力度，进行适当的督促检查整改。

《办法》的实施拉开了AI内容规范治理的序幕，落地工作还需要各方协同配合。

但无论如何，内容标识制度的建立，传递出清晰导向：AI内容具备独特价值与创新潜力，但绝不能沦为虚假信息的温床；AI内容可以广泛传播，但必须撕掉“伪装面具”，让公众在充分知情的前提下自主选择、理性判断。

【作者】

南方评论

三分钟了解“广东微信小程序麻将助赢神器购买”（提高胜率技巧)

发表评论