
凌晨三点,我刚加完班,就看到了一个直播链接——我长得和照片里的人一模一样,在卖一种我从未听说过的减肥茶。点开评论区,有人问:“这是XX本人吗?”其他人也跟着说道:“主播,请上传链接。”我忍不住说了一句“不是我”,很快就被赶出了直播间。那一刻,我突然明白了:当AI让“假我”看起来更像真人时,真我就变成了“入侵者”。
近日,演员温峥嵘的经历,给这句话加上了更重的注脚。 12月中旬,他正式宣布AI换脸侵权案已刑事立案。背后是一个多月的拉锯战:从11月初央视曝光多家直播间利用AI合成他的形象卖货,到团队举证报案并公开批评。作为声明中称,继而遭遇有组织的“逆转”抹黑活动(如发展“自导自演、卖假货”、“甩锅AI”等热搜),经核查发现,这些词条的创作和发帖账号实际上是由长沙某传媒公司管理。
这套非法制作逻辑并不新鲜:第一步就是利用AI提取过往影视素材和明星声纹,合成出“高仿”直播。头像、昵称、背景图都叠加在明星脸上,骗取观众信任;第二步是在接触浑水后立即创建马林回归。不仅收获了流量,还把脏水还给了艺人,让大众怀疑“是不是炒作”。成本很低:几百元就能买到换脸工具,而且教程随处可见。即使你用盐和芝麻吹喇叭,仍然会欺骗很多人。还有人买所谓的“明星合作”。打开后,气味刺鼻,包装也很粗糙。当他们询问该官员时,他们发现事实并非如此。有些人使用后甚至脸上出现了皮疹。
“证明我就是我”并不夸张。真实的直播有情绪起伏、互动延迟,但AI合成却“完美”——你连流汗都不会,台词模仿度80-90%,像声纹一样。粉丝依赖的就是“记忆中的脸”,而这也正是黑品所注重的。更尴尬的是,即使艺人发表声明或报警,仍会被指控“炒作”和“良心犯罪”。维权成本高、取证周期长、二次攻击频发。
但事实并非如此没有规则。我国《深度合成信息服务管理暂行规定》明确要求,合成内容必须明确标识;在电商场景,《广告法》(虚假宣传)、《民法典》(肖像权/名誉权)、《刑法》(诽谤/欺诈)都可以执行。立案的意义在于将“私权纠纷”升级为“干涉公权”——告诉那些有组织的商贩:删帖、道歉都没有用,真正的法律后果才是代价。
平台不再只是“被动清洁工”。需要主动验证:例如直播过程中会随机出现密码“今天某个时间你在做什么”,或者必须添加机器可读的水印;买家还应多留一分“笨拙嫌疑”:不相信“时限最后十秒”的叫喊,不熟不跳r链接,购买前请前往官方旗舰店确认。哪怕多花一分钟,也比事后去找维权组要好。
事实上,这件事从来就不是“惹恼基尔萨朗人”的事情。今天的温峥嵘是那个“无法证明自己”的人。明天你的脸可以与AI语音进行匹配,你就可以从骗局中走出来;第二天,你的父母就可以收到“假孩子”的求助直播。 AI下沉后,门槛低到谁都可以接触——从“玩好玩”到“赚钱”,只差一群黑产业。
刑事立案只是一个节点,而非终点。接下来,我们要等待调查结果,更多的是等待管理部门来填补漏洞:比如合成内容的身份能否被隔离?跨平台处理能更快吗?非法产品上游工具的流通能否严格控制滚?在每个区域中,您填充一个正方形,您可以为黑色产品挤出更多的空间。
毕竟,无论AI合成多么完美,它都无法创造出“真实的温度”——那就是汗水、情感、当下的互动,这是只有真正的“我”才有的东西。我们要做的就是不要让虚假的“我”窃取了真正的信任。
特别声明:本文由网易自媒体平台“网易号”作者上传发布,仅代表作者观点。网易仅提供信息发布平台。
注:以上内容(如有,包括照片和视频)由网易号用户上传发布,网易号为社交媒体平台,仅提供信息存储服务。