“短短10分钟，被骗430万元，竟是 骗子通过AI换脸和拟声技术，佯装好友实施诈骗”……近期， AI“换脸”一度登上热搜，如何防范AI诈骗被广泛关注精仿手机。
案例：公司老板遭遇AI换脸诈骗 10分钟被骗取430万元
今年4月20日，福建福州的 郭先生突然接到“好友”的微信视频，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账精仿手机。 郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。 事后，郭先生拨打好友电话才得知被骗。
案例：“长相”“声音”都对精仿手机？安庆一男子被骗245万元
今年4月27日，在安徽安庆经开区发生一起“冒充熟人”诈骗案，经开公安分局反诈中心民警调查发现，诈骗分子使用了一段9秒钟的智能AI换脸视频佯装“熟人”，让受害人放松警惕骗走245万元精仿手机。
案例：温州男子与“好友”视频聊天后被骗5万
2022年2月，浙江温州市公安局瓯海分局仙岩派出所接到一位陈先生报案，称自己被“好友”诈骗了近5万元精仿手机。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象然后一步步实施诈骗。
如何防范精仿手机？远程转账务必多重验证
中国互联网协会日前对“AI换脸”新骗局做出提醒，远程转账务必需要多重验证，把好“钱袋子”精仿手机。如果有人自称“家人”“朋友”等诱导你转账汇款，务必第一时间提高警惕。在转账汇款、资金往来这样的典型场景，要通过回拨对方手机号等额外通信方式核实确认，不要仅凭单一沟通渠道未经核实就直接转账汇款，无论对方是谁。
网评：要用“法”打败“魔法”
整治AI换脸，当用“法”打败“魔法”精仿手机。
这个法，是方法、办法的法精仿手机。有人说，防骗最有效的一招就是不信，无论对方怎么“换”、怎么变、怎么翻着花样骗，就是“不听不信不转账”。最关键的是，优化“打法”，升级高招，用更有效的方法“破防”。“魔高一尺，道高一丈”，面对骗子的新招数，我们的反诈术、防骗方法更要优化，总结出富有成效的好方法，并做好宣传普及，构筑反诈防骗的全民阵线。
这个法，也是法规、法律的法精仿手机。此前，一款主打AI换脸的App很火，“只需一张照片，演遍天下好戏”。但很快，在监管部门约谈后，这款App下架，原因很简单，如此换脸侵犯了公民的肖像权。去年12月，《互联网信息服务深度合成管理规定》发布，对人脸生成、替换、操控，合成人声、仿声等都有明确约束。显然，随着制度设计更精准，相关立法更健全，AI换脸空间将越来越逼仄。
AI换脸术滥用，也促使大家思考一个深层次问题精仿手机。新技术不断面世，带给了人们便利，但可能被居心叵测之徒非法利用。人们固然不能因噎废食，但也不能忽略它的双刃剑效应。如果缺乏应有规束，AI换脸则可能打开潘多拉魔盒。因势利导，使其趋利避害，这是我们要全力做到的。
来源：央视新闻、人民日报
评论：石川
