王小川可能是全中国最惨的AI创业者——没有之一。前有搜狗上市荣光,后有百川智能高管集体跑路;左手数亿融资烧光,右手医疗赛道踩巨坑。当年喊着要做"中国O...
2025-07-07 0
2025年全国两会期间,演员靳东以政协委员身份提交了一份关于“AI换脸技术滥用治理”的提案,迅速成为舆论焦点。
据不完全统计,相关话题阅读量突破10亿次,评论区涌入千万网友的讨论与支持。
有人惊呼:“早该整治了”,也有人担忧监管成本过高。
为何一项AI技术能在短期内掀起如此轩然大波?理解这一切,先得从它让人又爱又怕的特性说起。
AI换脸技术,说白了就是利用深度学习算法,把A的面部替换到B的身体或视频中。
刚开始,这项技术为影视后期、娱乐创作带来颠覆性机会,但伴随技术扩散,低成本、侵权式的高速传播也很快浮出水面。
据行业数据显示,早在2025年初,普通主播仅需花3.5万元就能获取一套AI换脸模型,在直播中“伪装”成明星进行带货,涉嫌侵犯明星肖像权的案件呈120%的年增速。
更令人担忧的是,某些黑产分子利用AI来制作伪造公众人物言论,甚至传播虚假视频,将其打包成完整的制假、传假、牟利的灰色产业链。
法律对这类深度伪造的处罚尚不健全,此事一度陷入监管与维权的拉锯战。
靳东的提案之所以备受关注,并非只在于他“明星身份”的话题度,而在于涉及了立法、技术、行业和公众四个层面的联动治理思路。
通俗说,这是一套从源头规范到末端防范的综合管理方案。
第一步:修法立规。
他呼吁在现行《网络安全法》的基础上,增设关于深度伪造的强制标识、分级审核等细化条款,并对违规主体最高处以500万元罚款。
此外,还建议加快制定单行法规,尤其要明确AI换脸、AI拟声等技术的使用边界,obliterate掉法律真空地带,保障公民基本权益。
第二步:技术护航。
靳东主张建立国家级“深度伪造检测平台”,免费向公众开放API接口,以便用户上传视频或图片进行真伪核验。
这一模式类似于病毒查杀的公共数据库,一旦发现疑似伪造内容,可迅速追溯并锁定源头,为后续取证和法律仲裁提供技术支持。
第三步:行业自律。
直播和短视频平台是AI换脸滥用的“多发地带”,故提案强调要求平台建立类似“AI换脸授权库”的白名单机制。
未经授权的模型与视频不得上架,若发现违规,平台须承担连带责任。
借此倒逼平台投入更多精力与技术执行监测,让市场走向良性循环。
第四步:公众教育。
靳东在提案中特别谈到公众教育的重要性。
“将AI反诈纳入义务教育课程”,让孩子们及早学习数字素养、辨别虚拟与现实的信息能力。
这不仅能减少青少年成为受害者的风险,也意味着未来社会对AI技术的认知会更成熟、更理性。
为什么主流舆论对这份提案拍手叫好?据调查,71%的受访者曾担心自己被恶意换脸,特别是女性与儿童群体更易成为不良信息的对象。
与此同时,公众人物更是“重灾区”,靳东本人就曾遇到数百起AI换脸诈骗纠纷,诉讼周期长达2年之久。
另一大推手是对数字信息真实性的信任危机。
AI换脸技术造假门槛越来越低,假视频甚至能以假乱真,公众对网络视频、网红带货等信息的信任度从过去的70%骤降到今日不足43%。
在这种环境下,充满不确定性的未来让人普遍焦虑,希望借助立法与监管来重塑稳定与安全。
靳东与网友呼吁的并非“一刀切”地禁止AI技术,而是在高速发展的数字经济时代划出红线、筑牢防线。
在提案中,还提到以下几条更宏观的治理路径:
2025年试点“AI生成内容备案制”,要求任何使用换脸技术制作的视频必须上传至国家区块链存证平台。
一经发现造假,责任可追溯到具体账号或企业。
推动《人工智能法》立法进程,落地“AI伦理委员会”并建立研发伦理审查机制。
既保证技术的创新活力,也对数据安全、算法伦理进行持续监管。
在G20框架下积极参与深度伪造技术的跨境监管协议,与全球主要国家共同制定AI行业的“国际规则”,并建立统一的取证与处置标准。
结语
AI换脸技术带来的视觉奇观和商业潜力固然诱人,但若纵容其陷入无序的灰色地带,势必酿成难以挽回的社会代价。
要让AI成为照亮未来的火炬,而非灼伤我们的火海,需要政企学研各方同心协力。
正如提案所言,只有以敬畏之心划定技术红线,以创新之力筑牢社会防线,我们才能真正迎来一个理性而安全的数字新时代。
[免责声明]文章的时间、过程、图片均来自于网络,文章旨在传播正能量,无低俗等不良引导,请观众勿对号入座,并上升到人身攻击等方面。理性看待本事件,切勿留下主观臆断的恶意评论,互联网不是法外之地。本文如若真实性存在争议、事件版权或图片侵权问题,请及时联系作者,我们将予以删除。
相关文章
王小川可能是全中国最惨的AI创业者——没有之一。前有搜狗上市荣光,后有百川智能高管集体跑路;左手数亿融资烧光,右手医疗赛道踩巨坑。当年喊着要做"中国O...
2025-07-07 0
7 月 7 日消息,博主@数码闲聊站 今日曝光了一款年底新旗舰的影像配置,结合此前爆料来看预计是华为 Mate 80 系列。独家信息,年底新旗舰 CI...
2025-07-07 0
基于 3C 认证,近期充电宝行业大震,频频登上行业热搜。在这场风暴中,曾经的行业老将,罗马仕,竟然成了第一个岌岌可危的选手。前不久我们也聊过➡️充电宝...
2025-07-07 0
来源:【常州日报-常州网】6月23日早上9时,亿泽智研谷2号楼,江苏立教信息科技有限公司(简称立教科技)的工程师刚在电脑上敲定AI编程积木的电路设计,...
2025-07-07 0
前言越南签完美国协议才24小时,河内那股庆祝劲儿还没过。转折来了!特朗普竟然同一天就对中国连解两道禁令:乙烷出口放开,芯片软件也松绑,这变脸速度真是让...
2025-07-07 0
铭赛科技西南总部落户成都其新成立的铭赛机器人(成都)有限公司已于近日完成注册深圳市环茂数码科技有限公司启动小批量试产简州新城消防战勤保障中心项目主体结...
2025-07-07 0
7月4日,第三届光明非遗艺术周在红花山公园启幕,为市民奉上了一场集传统非遗展示、现代科技体验与生态休闲于一体的文化大餐,丰富的非遗展示、体验活动将持续...
2025-07-07 0
金融界2025年7月7日消息,国家知识产权局信息显示,3M创新有限公司申请一项名为“具有改进的生产处置的零粘结剂多晶安装垫”的专利,公开号CN1202...
2025-07-07 0
发表评论