最近刷短视频时,总能看到白鹿“被”出现在各种奇怪场景里——有时是古装剧名场面,有时是综艺搞笑片段,甚至还有“白鹿被上的视频”这种明显越界的合成内容。这些用AI换脸技术炮制的视频,播放量动辄破百万,评论区却吵翻了天。有人觉得好玩,有人直呼恐怖,更多人则在问:这种技术滥用,真的没人管吗?
为什么AI换脸视频总能精准戳中大众神经?
先说个扎心数据:2023年国内AI换脸相关投诉量同比暴涨370%,其中明星相关占六成以上。原因很简单——明星脸辨识度高,自带流量,而白鹿这类当红小花更是“重灾区”。技术门槛低到什么程度?一个开源软件+几张高清照片,半小时就能生成以假乱真的视频。可问题在于,当换脸对象从“娱乐恶搞”滑向“色情擦边”,性质就完全变了。
更可怕的是技术细节的“进化”。现在的AI换脸不仅能同步表情,连微表情和眨眼频率都能模拟,肉眼几乎无法分辨。有团队做过测试,把换脸视频给100个普通人看,92%的人当场没发现破绽。这意味着什么?你看到的“白鹿被上的视频”,可能根本就是AI凭空捏造的“虚拟罪行”。
你随手转发的“搞笑视频”,可能正在摧毁一个真实人生
很多人觉得“我又没恶意,就是觉得好玩”。可换个角度想:如果被换脸的是你女儿、你姐姐呢?白鹿团队去年发过声明,光是维权就收集了2000多条侵权链接,其中色情类占比高达45%。这已经不是“玩梗”,而是赤裸裸的诽谤和性暗示。
法律上其实有明确边界。《民法典》第1019条白纸黑字写着:未经同意不得制作、使用、公开他人肖像。而《网络安全法》第12条更是禁止利用网络传播虚假信息。但现实是,平台审核机制存在漏洞——很多视频上传时用“AI生成”标签就能蒙混过关,等受害者发现时,播放量早就破百万了。
当技术失去约束,下一个“被换脸”的会是谁?
别觉得明星才倒霉。现在电商平台上有大量“定制换脸”服务,花50块钱就能把任何人的脸换到任何视频里。有记者暗访发现,某些卖家甚至提供“特定场景定制”,包括但不限于“办公室”“酒店房间”。细思极恐——你的朋友圈自拍、公司年会视频,都可能成为素材库。
更值得警惕的是“深度伪造”的升级版。今年初某地警方破获一起诈骗案,骗子用AI换脸冒充领导视频通话,10分钟骗走财务人员80万。技术本身无罪,但滥用技术的人正在把社会信任体系撕开口子。就像专家说的:当“眼见为实”变成“眼见未必实”,整个社会的沟通成本将指数级上升。
别让你的好奇心,成为恶意的帮凶
说到底,AI换脸技术就像一把刀——厨师能用它切菜,歹徒也能用它伤人。作为普通网友,我们至少能做到三点:第一,看到明显越界的换脸视频,别转发,顺手举报;第二,保护好自己的照片和视频,别随意上传到不明平台;第三,支持平台上线“AI生成内容强制标识”功能,让虚假信息无处遁形。
技术发展的车轮不会停,但规则必须跟上。如果你也认同“技术应该有底线”,不妨从今天起,做那个拒绝传播虚假视频的清醒者。下次再刷到“白鹿被上的视频”这类内容,请记住:你的每一次点击,都在为技术伦理投票。现在,就检查一下你的转发列表——有没有无意中成为谣言的帮凶?
