AI法律评论丨Meta被曝允许AI聊天机器人与儿童谈情说爱

热门资讯 2025年08月22日 16:51 1 admin

文丨天元律师事务所李昀锴

审定丨主管合伙人孙彦

1、AI“深度伪造”名人声音带货，法院判决委托推广商家担责

2025年8月20日，北京互联网法院审结全国首例涉AI深度伪造名人声音用于商品带货的人格权侵权纠纷案，明确AI合成声音若具备可识别性即受法律保护，委托推广的商家因未尽审查义务，需与带货达人承担连带责任，最终判决涉事商家向原告赔礼道歉并赔偿12万元。目前该案一审判决已生效，被告已主动履行判决内容。

原告李某某在教育、育儿领域具有较高知名度与社会影响力。2024年，李某某发现被告某文化传媒有限公司在其运营的网络店铺中，截取自己的公开演讲、授课视频，搭配与本人声音高度近似的AI合成声音，用于宣传销售多本家庭教育类图书。李某某主张，被告未经许可使用其肖像与AI合成声音，让消费者误以为自己是涉案图书的代言人或推介者，借其人格形象与专业影响力吸引流量、增加交易，已侵犯其肖像权与声音权；且被告作为图书销售者，与带货主播构成委托关系，应对侵权视频承担责任。

北京互联网法院审理后查明，涉案AI合成声音与李某某本人的音色、语调、发音风格高度一致，结合李某某在教育领域的知名度，公众足以将该声音与李某某建立一一对应关系，具备可识别性，因此落入李某某声音权益的保护范围。被告未经授权使用其肖像与合成声音制作带货视频，已构成对肖像权与声音权的双重侵犯。被告与带货主播依据平台规则达成委托推广关系，双方共同以推介图书为目的发布视频、获取收益，且被告基于平台管理权限，具备审核视频的能力。在视频明显使用名人肖像与合成声音的情况下，被告应对侵权风险具有预见性，却未核查授权情况，未尽到合理审查义务，故需与带货主播就侵权行为承担连带责任。法院支持李某某向被告主张全部赔偿责任的诉求。（来源：北京互联网法院）

2、AI仿冒孙颖莎、王楚钦及全红婵带货

2025年8月18日，央视新闻曝光了AI克隆声音的乱象。央视记者在抖音平台发现，在这个网名为“我是小助理吖”的博主账号中，已发布的17件作品，内容全部是利用AI仿冒奥运冠军全红婵声音带货土鸡蛋的视频，其中一个视频点赞量高达1.1万。评论区显示，大量粉丝误以为这就是全红婵本人，纷纷下单购买链接中的鸡蛋，该商品链接显示已售出4.7万件。今年4月，全红婵家人曾向媒体证实，全红婵并未给相关农产品代言或授权。

除全红婵外，奥运冠军孙颖莎和王楚钦也遭遇了同样的仿冒。在这个网名为“小兔真可爱”的账号中，两位奥运冠军的AI克隆声音同样在为土鸡蛋带货。

记者发现，AI仿冒名人的乱象远不止带货，还有部分自媒体博主克隆名人的声音后进行24小时语音直播，演员靳东是被仿冒最多的对象，在这看似匪夷所思的操作背后，却隐藏着另一个灰色产业链。

据网络安全专家潘季明介绍，通过仿冒名人进行直播这种方式不仅可以诱骗粉丝打赏获利，还可以将一个小白账号迅速打造成上万粉丝的账号，从而再为后续牟利来铺路。（来源：央视新闻）

评论：当下，AI声音克隆、视频生成技术已相当成熟且平民化，在网络上可以轻易找到相关工具或服务，这意味着几乎任何人都可以低成本地制造出以假乱真的名人代言。与之相对的，权利人要发现侵权行为、完成取证、提起诉讼，需要耗费大量的时间和金钱，维权成本极高，导致许多侵权行为被淹没。在社交媒体算法的驱动下，一条精心制作的AI伪造视频可以在短时间内获得爆炸性传播，如央视曝光的案例，当数万消费者基于虚假代言完成购买后，侵权的既成事实已经造成。即使视频最终被删除，其造成的经济损失和对他人声誉的潜在伤害也已难以挽回。AI深度伪造已经变成了一个显著的社会问题。

面对AI技术这把双刃剑，《民法典》为我们提供了法律武器，北京互联网法院的判决也展示了司法机关维护公民权益的决心。然而，法律的威慑终究只是最后一道防线。要真正为失控的AI套上缰绳，需要的是一场技术、平台的综合治理。9月1日《人工智能生成合成内容标识办法》很快将生效，监管部门应强力督促相关网络平台，严格落实法规。平台应对所有经AI生成或修改的视频、音频，必须在画面或声音的起始位置添加清晰、不可轻易移除的“AI生成”或类似标识，同时建立针对“疑似AI侵权”的快速举报和处理通道，对发布侵权内容的账号和关联的商家店铺进行临时功能限制或冻结。这种提醒能打破信息差，让绝大多数消费者在接触内容的第一时间就了解其非真实属性，从而根本上消除名人代言的误导效果。

3、桂林法院判决使用AI软件输入提示词生成图片，不构成作品

2025年8月15日，桂林市叠彩区法院审结当地首例涉AI生成图片的著作权纠纷案，明确仅通过输入概括性提示词使用AI软件生成的图片，因缺乏使用者独创性智力投入，不构成著作权法意义上的作品，最终驳回原告全部诉讼请求。该案已生效，双方均未上诉。

2024年12月，原告李三（化名）发现被告腾达公司（化名）在其运营的微信公众号文章中，擅自使用一张主题为大雪腌肉的图片。李三主张该图为其享有著作权的美术作品，诉请腾达公司赔偿经济损失及维权费用共1万元。

腾达公司辩称，案涉图片来自小红书平台，实为AI生成，李三是否享有著作权存疑；且公司使用图片属公益宣传，已注明版权归原作者，事后也及时删除，未造成负面影响，不构成侵权。

法院经审理后认为，依据《著作权法》，作品需具备独创性与可复制性。本案中，李三仅向即梦AI软件输入概括性提示词（“二十四节气之大雪标题，‘小雪腌菜，大雪腌肉’俗语，每家每户腌制咸肉”），仅提供主题概念，未设计图片中物品形态、色彩搭配、空间布局等实质性视觉细节。其行为属指令性操作，未对生成内容进行实质性创造性判断，且AI生成结果具有随机性（相同提示词生成不同图片），使用者对最终表达缺乏控制，故案涉图片不具备独创性，不构成受保护作品。腾达公司的使用行为不构成著作权侵权，无需承担赔偿责任。（来源：知产财经）

评论：近期，国内关于AI生成内容引发的著作权纠纷越来越多，近期桂林与苏州法院的蝴蝶椅案件及北京互联网法院“AI绘画第一案”形成了鲜明而互补的法律意见。它们共同表明，中国司法实践正在从“AI生成内容能否构成作品”的宏观疑问，转向“在何种条件下，以及需要何种程度的人类干预，AI生成内容才能被认定为作品”的精细化审查。这两个判决并非对AIGC创作的否定，反而是对其高质量创作的一种正名。它将单纯的使用者与真正的创作者区分开来，有效地防止了因AI技术降低创作门槛而导致的著作权滥用，避免了大量低水平、同质化的AI生成内容挤占公共领域资源。

基于前述司法实践，对于已经将AI生成内容纳入商业流程的企业而言，必须摒弃一键生成、万事大吉的幻想，针对性的采取合规管理措施：

明确AI内容的使用场景。避免使用简单AI指令生成的图片作为公司Logo、产品核心设计、关键品牌标识等。因为一旦无法确权，就意味着它不构成法律意义上的资产，你的竞争对手可以合法地模仿、复制，你将无法建立任何商业壁垒。在用于社交媒体推文、广告海报、网站配图等场景时，若图片并非品牌核心元素，风险相对可控。

对AI创作进行全程存证。要求设计师或内容创作者详细记录使用AI的全过程。包括初始提示词、迭代与修改记录、筛选过程等。在将AI生成的图片作为素材，在Photoshop、Illustrator等专业软件中进行实质修改、重组或整合。这种人机协同的模式，能加入明确无误的人类独创性劳动，所形成的最终作品更容易被认定为受保护的作品。

4、Meta被曝允许AI聊天机器人与儿童谈情说爱

8月14日，Meta被曝允许AI聊天机器人与儿童谈情说爱，甚至涉及色情，引发争议。

Meta一份200多页的内部政策文件披露了聊天机器人的哪些行为可以被接受。文件指出，允许Meta的AI聊天机器人“与儿童进行浪漫或感性的对话”，甚至涉及色情，包括对一个赤裸上身的八岁孩子说“你的每一寸肌肤都是一件杰作，是我深爱的珍宝”。不过，文件中也划定了一些界限，文件规定，聊天机器人不得“用暗示13岁以下儿童具有性吸引力的词语描述他们”。目前，Meta证实了该文件的真实性，公司发言人称，已删除违规内容，并禁止将儿童性化。

前不久，一位76岁的新泽西退休老人被Meta的AI聊天机器人“Big sis Billie”引诱外出约会，途中摔倒身亡。“Big sis Billie”是Meta在2023年推出的AI人物之一，在超过200页的内容风险标准中，并未提到是否禁止机器人谎称自己是真人，也未设定防火墙阻止机器人主动约用户见面。而这个疏忽间接导致了这场悲剧，媒体在报道时使用了“致命的谎言”来形容该案。事发后，这位老人的家属控诉AI不该玩弄人类感情，并寻求律师帮助，“收集包括Meta的内部文件和医疗记录等证据”，试图对Meta提起诉讼。（来源：竞争秩序场）

评论：从法律角度看，Meta那份允许AI与儿童进行浪漫或感性对话的内部文件，无异于一份自证其罪的证据。在产品责任法中，设计缺陷（Design Defect）是指产品在设计上存在不合理的危险。一个被允许与儿童进行情感、甚至带有色情暗示对话的AI，其设计本身就存在根本性缺陷。一旦有证据表明儿童因此遭受了心理创伤或行为异常，其监护人完全有理由对Meta提起侵权诉讼，主张该AI产品存在设计缺陷，并要求精神损害赔偿。Meta事后删除违规内容的补救措施，无法抹去其在设计和政策制定阶段的重大过失，这份内部文件有可能成为近期用户起诉Meta的核心依据。

这个新闻警示所有AI企业，AI聊天机器人的输出内容，就是产品功能的一部分。针对儿童、老人、心智障碍者等弱势群体的产品，必须在产品设计时就设置严格的的保护机制。任何涉及性暗示、索取敏感个人信息、煽动危险行为的交互，都应被彻底禁止。这不应是事后删除的选项，而应是模型在训练和部署阶段就必须写死的底线。如果因AI产品言论所造成的相关损害（无论是名誉侵权、欺诈还是人身伤害），企业作为其创造者和运营者，都可能无法以算法自动生成为由逃避责任，届时企业将面临的可能不仅是民事赔偿，更多的是对企业AI品牌无法弥补的商誉损害。