遏制“AI起号”乱象，要从强化技术源头治理入手

百科大全 2025年08月14日 22:06 1 admin

外国人熟练演唱中文歌曲、银发奶奶传授养生秘诀、氛围感女孩分享穿搭美学……社交媒体上，一些AI生成的视频关注度颇高，“细节满满”让很多网友信以为真。记者调查发现，不少社交账号利用AI技术造假、博眼球快速“吸粉”起号，进而变现。近期，多个平台对“AI起号”现象开展专项治理行动，清理违规内容并封禁部分账号。（8月11日新华网）

图源：视觉中国

起号，原指在社交媒体或电商平台开设新账号，通过运营吸引粉丝、获取流量，最终实现商业转化。但当前网上一些起号方式却渐渐变了味，为了快速实现流量变现，编造故事、操控情绪，有些甚至沦为“一眼假、没底线”的代名词。许多网友把这种行为称作“暴力起号”。

记者调查发现，目前多个社交平台上都出现大量“AI起号秘籍”相关内容，这些AI生成内容多以俊男靓女、育儿百科、健康养生为主，大都低俗猎奇。一旦起号成功，这些账号就会隐藏AI引流内容，开始带货、卖课。有的账号还被明码标价放到账号交易网站上，形成了一条“起号、转型、转卖”的灰色产业链。

遏制AI造假起号乱象，相关平台应压实主体责任，加强技术源头治理，健全审核机制。当前，人工智能技术给人们生产生活带来便利的同时，也出现不少风险挑战。现在，各大社交平台上出现了大量“AI起号”相关分享，宣称零门槛、易操作、涨粉快、可变现。有些AI生成的人物形象能做到以假乱真，还有人传授绕过平台“AI打标”的经验。这类账号将用户的时间与期待当成“流量海绵”，不择手段“榨取”广大网民的注意力。

AI造假起号灰色产业链是技术异化的结果，极有可能造成低俗猎奇信息泛滥，扰乱网络空间秩序，亟待加强清理整治。一方面，平台要提高对深度伪造内容的检测精度，进一步完善相关规则，明确对AI造假起号等违规行为的界定和处罚标准；另一方面，要鼓励公众参与乱象治理，如举报可疑账号、引入专业机构开展评估等，让真实、优质的用户创作，成为平台活力和创新的源泉。

打造一个优质自媒体账号并非易事，从创意到文案脚本，再到拍摄制作，每一个作品都需要创作者亲力亲为，通常会耗费大量时间。阻断违规账号的流量变现，是从根源上打击黑灰产业链的关键。一方面，监管部门应督促平台履行治理责任，建立违规账号“黑名单”，对高频、反复触犯平台规则的账号主体加大处罚力度；另一方面，禁止违规账号进行带货、卖课等商业活动，持续开展AI造假起号整治，切断其获利渠道。

文｜吴学安