9月1日起，这些内容强制“打码”

抖音推荐 2025年08月31日 05:58 1 admin

打开手机刷直播

咦，怎么这么多名人在带货？

还专挑我都没听说过的牌子代言？

“我是你们的婵宝，有事请大家帮忙，

拿出300单老家的土鸡蛋，给大家发福利”

熟悉的“声音”

让人误以为是奥运冠军本人

结果都是利用AI伪造的诈骗视频

别急，国家出手了！

9月1日起

这些行为都将受到严格规制

所有AI合成的内容

都必须依法打“电子水印”

从“换脸”到“盗声”，骗子有多拼？

随着AI技术的普及，深度合成内容正以前所未有的速度充斥着互联网空间。从文字、图片到音频、视频，AI几乎能够以假乱真地生成任何内容。不法分子利用AI诈骗、仿冒他人带货、发布不实信息牟利等，形成了分工明确的灰色产业链。

“小张啊，我正在开会，你马上给合作方转8万块钱，账号我短信发你。”这样的语音，配上老板真实的音色，让不少职场新人都信以为真。结果就是，打工人辛辛苦苦挣的血汗钱，一不留神就被“AI老板”“AI同事”骗走了。

还有大家刷到的“奥运冠军带货”视频，就是不法商家利用AI仿冒他人身份，这类违法行为已侵犯被仿冒者和消费者权益。

图源：央视新闻

配音演员被AI克隆侵权的案例同样频繁发生。在抖音、快手等网络平台上，以“声音克隆”为关键词进行搜索，能轻易找到大量相关教程视频和软件下载信息。部分博主不仅详细演示操作过程，还直接提供软件资源。

AI克隆技术的滥用不仅严重侵犯了当事者的权益，还涉嫌违法违规。

AI合成的内容

必须依法打“电子水印”

面对AI技术的滥用，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》，将于2025年9月1日正式施行。《办法》要求所有人工智能生成、合成的内容，必须打上标识，标识分为显式标识和隐式标识两种类型。

AI合成的内容：就是利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
“电子水印”：即人工智能生成合成内容标识，包括显式标识和隐式标识。

对生成合成内容添加显式标识。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。服务提供者提供文本、图片、音频、视频、虚拟场景等生成合成内容的下载、复制、导出等功能时，应当在适当位置添加提示标识。

在生成合成内容的文件元数据中添加隐式标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的、不易被用户明显感知到的标识，包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等内容。

遇到AI造假，举报！

《办法》实施后，没有标识的AI合成内容，大家可以举报，如果刷到疑似内容，也可录屏举报，或者@平台官方客服。

法律专家提醒公众要保持警惕，勿轻信AI生成的音视频或直播，避免财产损失；被仿冒者可拿起法律武器，维护自身权益；网站平台要提升检测鉴伪能力，对此类乱象加大监管，对发布者内容严格审核，做好处置。