兄弟们,你们有发现没。京东刘强东刘老板发起的外卖大战,已经过去了3个月。有什么结果呢? 第一 王兴给员工交社保 第二 饿了吗,外卖数量也多了 第三 刘...
2025-08-07 0
机器之心报道
机器之心编辑部
AI 作图,不止卖家在用,买家也在用。
最近,不少网友晒出了一个令人啼笑皆非的操作:为了从卖家那里占到一点便宜,一些买家会故意声称商品有瑕疵,并要求退款。但其实,瑕疵图是他们自己用 AI 做的,比如把好的榴莲做成腐烂掉的榴莲。
由于水果这种东西不方便退货验证(即使当时没坏,退回去也得坏了,而且运费很高),商家只能硬着头皮退钱。
还有些商品虽然可以退货验证,但由于客单价比较低,退货流程比较繁琐,一来二去还不如退钱成本低。所以这类商家在收到瑕疵反馈的时候,一般也会选择退钱或赔偿部分金额了事。
不过,商家也留了一手,会要求买家把瑕疵品剪坏,从而确保其失去使用价值。但就是留的这手,现在也被 AI 破解了。
我们从电商卖家口中了解到,其实这种骗术由来已久。大概在十年前,就有买家通过 PS 等工具在正常商品的照片上 P 上瑕疵。但以普通用户的 P 图水平,如果卖家放大图片仔细去看,大部分时候还是能是看出来的。但现在 AI 做的图,鉴别起来就没有那么容易了。
这看起来有点像一场「魔法打败魔法」的闹剧,因为如今的购物平台上,商家滥用 AI 的情况也屡见不鲜,导致大量买家收到货后发现「货不对板」。
商家们利用 AI 进行着各种形式的误导:凭空生成不存在的产品图,将普通商品过度美化;使用无法真实反映上身效果的虚拟模特来节省成本;甚至利用 AI 批量伪造看似真实的「买家秀」和图文并茂的好评。
而上述的部分买家除了贪小便宜,有的可能也隐藏着一种复杂的「报复性维权」心理。当一些买家自己曾遭遇过商家用精美的 AI 渲染图「货不对板」的欺骗后,可能会产生一种「以其人之道还治其人之身」的冲动。
出于好奇,我们用一些 AI 工具尝试了一下,发现给正常商品加上瑕疵真是动动嘴皮子就行。虽然 AI 工具在生成的时候会给图片加上水印,但是把水印裁掉也是很简单的事情。
不过,要想呈现商品被破坏的效果,对于模型来说还有一定难度。
针对这个问题,不少网友提出了一些解决方案,但这些方案似乎都有各自的局限性。
比如,有人认为,可以要求买家回传「瑕疵」商品的视频。这种方法是否有效其实不太好说,因为在经过若干次抽卡之后,很多视频生成工具也能生成效果非常不错的视频,这取决于买家选择的 AI 工具和为此付出的努力。
还有人认为,可以要求买家不同角度多拍几张照片。这个想法利用了当前 AI 生成技术的一大软肋:「多视图一致性」。然而,这顶多算是一个暂时的「补丁」,毕竟 AI 的技术迭代速度是以天来计算的。我们刚找到它的破绽,它可能明天就已修复。
还有建议强制要求在 App 内拍摄并上传,禁止使用相册。这能防止直接上传 AI 生成的成品,但防不住「物理外挂」——用两台手机互拍,这个所谓的限制就形同虚设了。
总结下来,单一的证据形式都极易被伪造。或许比较可行的方式是要求买家提供一条难以伪造、逻辑完整的证据链:包含「拆箱、剪裁、展示瑕疵」等关键步骤在内的、多角度、全过程实拍视频或连拍图片。
另外我们也尝试用「魔法打败魔法」:用 AI 鉴别 AI。其实市面上有很多 AI 鉴别器,但实测发现鉴别效果很像「抽卡」,大多数情况是它也「不确定」是不是 AI 生成的。
一个更具前瞻性的技术方案是引入「数字水印」与「内容溯源」技术。目前,科技界正在推动 C2PA 等行业技术标准,而像谷歌已经推出了名为 SynthID 的工具,它可以在 AI 生成的图片、视频和音频中直接嵌入肉眼无法察觉的数字水印。
这种技术就像是为 AI 内容内置的「数字身份证」,可以记录其生成和修改的关键信息。若未来能强制主流 AI 模型在生成内容时都加入此类标记,那么溯源和鉴别将变得容易得多。
归根结底,还是迅猛发展且缺少监管的 AI 降低了买卖双方的作假门槛。而依靠个人的力量是很难防范的,还可能会给商家售后和买家维权造成额外的成本。
这场信任危机可能会是一场持续的「攻防战」。
一方面,AI 生成技术在不断进化,让伪造的图片和视频越来越逼真;另一方面,AI 检测技术也在奋力追赶,试图通过分析图像的微观特征来识别伪造痕迹。这就像一场永不停歇的猫鼠游戏,考验着双方算法的迭代速度。
在这种背景下,平台方也在探索多种技术和策略组合。例如,通过强化证据链的完整性来提高伪造的难度,对那些通过 App 内相机即时拍摄、带有时间戳和地理位置等原始信息的照片赋予更高的证据权重。
淘宝此前还发布公告治理 AI 假图,严厉打击利用 AI 假图欺骗消费者、侵害原创品牌商家的违规行为。
同时,利用大数据分析建立用户信用模型,对行为异常的账户进行更严格的审查,也是一种常见的风险控制手段。当技术手段难以一锤定音时,引入独立的第三方鉴定服务,则提供了一种结合技术与人工的解决方案。
长远来看,行业内普遍认为,建立统一的、可追溯的数字内容标准至关重要。像 SynthID 这样的数字水印技术,如果能成为行业共识并广泛应用,无疑将为解决当前的信任困境提供最有效的技术路径。
最终,这场由技术引发的问题,或许仍需依靠更成熟、更统一的技术来寻找答案。
对此你怎么看?
相关文章
兄弟们,你们有发现没。京东刘强东刘老板发起的外卖大战,已经过去了3个月。有什么结果呢? 第一 王兴给员工交社保 第二 饿了吗,外卖数量也多了 第三 刘...
2025-08-07 0
今日,以“听见,进化,共赴AI时代数据新征程”为主题的第五届2025华为数据存储用户精英论坛暨OceanClub嘉年华在宁波召开。华为公司副总裁、数据...
2025-08-07 0
近日,中山大学公布了首批“中山大学青年科学家培育项目”立项名单,共有22位来自数理、化学、生命、地球、工程与材料、信息、医学及交叉学科等前沿领域的优秀...
2025-08-07 0
第1眼TV-华龙网讯(首席记者 董进)8月7日,京东电器入渝6周年庆典举行。记者从活动上获悉,位于寸滩国际新城保税经济区的京东电器超级体验店全球首店,...
2025-08-07 0
一,根据2025年最新行业数据,全球芯片排名前十的企业依次为:英伟达、三星电子、台积电、博通、高通、英特尔、SK海力士、AMD、联发科、美光。根据20...
2025-08-07 0
千树桃花万年乐,半潭秋水一房山。整体意境分析这副对联营造出了两种截然不同却又和谐统一的意境。上联中“千树桃花”描绘出一幅怎样的画面?展现出怎样的氛围?...
2025-08-07 0
国家队运动员该不该拿天价奖金?前国手周雨直播调侃"买不起北京繁华地段",把国乒主力动辄百万的奖金收入摊在阳光下。当孙颖莎们单场赛事就能进账90万时,北...
2025-08-07 0
发表评论