近年来，随着人工智能技术的飞速发展，一些不法分子开始利用AI技术实施新型网络诈骗。他们利用AI技术融合他人面孔和声音，制造出非常逼真的合成图像，以此来实施诈骗。这类骗局能够在短时间内给被害人造成巨大损失。我们应该如何看清这类AI“深度造假”？有没有好的方法来辨别“AI换脸”？

我们先来看一个发生在陕西西安的“AI换脸”诈骗案例。张女士是陕西西安的财务人员，她在与老板的视频通话中，老板要求她转账186万元到一个指定账号。张女士因为老板的声音和视频图像与她人一致，所以更加确信这笔款是老板所说的，便直接转账。然而，转账后她发现群里的老板询问这笔资金的来由，并声称没有给她发过视频，也没有说过这笔转账。张女士意识到自己被骗了，于是报警求助。警方及时对接反诈中心、联系相关银行进行紧急止付，最终保住了大部分被骗资金156万元。

此外，香港警方还披露了一起AI“多人换脸”诈骗案，涉案金额高达2亿港元。在这起案件中，一家跨国公司香港分部的职员受邀参加总部首席财务官发起的多人视频会议。然而，这起案件中的所谓视频会议中，只有受害者一人为“真人”，其余所谓的参会人员全部是经过AI换脸后的诈骗人员。

那么，技术上如何实现人脸精确识别与替换呢？专家表示，AI换脸过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。其背后最核心的包括三个部分：首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次，将这些特征与目标人脸图像进行匹配、替换、融合。最后，通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假换脸视频。

此外，快速AI“换脸”只需要一张照片就可以完成。为了了解AI换脸到底能有多么逼真，记者经过与专业技术人员合作，深度体验了AI换脸技术。技术人员只需要一张照片，就可以让这张照片动起来，活起来。如果想要实现视频实时通话时采用人工智能AI换脸技术，就需要不同角度的近千张照片的采集。

然而，AI技术也是一把“双刃剑”。即使是出于娱乐使用AI换脸、AI换声，也是存在法律风险的。法律专家表示，用AI技术为他人换脸换声甚至翻译成其他语言并发布视频，可能涉嫌侵权。因此，我们需要提高防范意识，在日常生活中也要做好相关防范措施，养成良好的上网习惯。

除了个人要提高防范意识，如何对AI技术加强监管，也成了越来越多人关注的问题。专家表示，AI技术发展，需要多层面监管规范。一是在源头端，需要进一步加强公民个人信息保护，尤其是加强对生物特征等隐私信息的技术、司法保护力度。二是在技术层面可以加强管理。例如可以让视频传播网站或者社交软件，使用专业的鉴别软件来鉴定，对AI生成视频，打上不可消除的“AI生成”水印字样。三是在法律制度层面，要进一步完善人工智能等领域相关法律法规。

总之，面对AI“换脸”诈骗，我们需要提高警惕，加强监管，同时也需要个人加强防范，保护好自己的信息安全。