■然玉

　　话题“AI诈骗正在爆发”，最近冲上热搜。近日，内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

　　传统诈骗我们以前都听说过，比如伪装成亲友，通过聊天软件和你联系，或者盗用你朋友的账号和你联系，一般都是通过文字来进行联系，最终目的都是找你要钱。一般我们通过视频聊天确认一下，稍微留个心眼，都不容易被骗。但是，AI新技术被应用在诈骗上，事情变得不一样了。

　　在人工智能时代，我们眼睛见到的未必是真的。“AI换脸”技术的学术名词叫做深度伪造技术（Deepfake)，也就是深度学习（Deeplearning）+伪造（fake），是机器深度学习技术和人脸假冒的结合体。

　　然而AI技术不是原罪，而是利用技术手段进行非法操作的人。北京邮电大学网络空间安全学院教授周琳娜接受采访时表示，“AI换脸”检测技术有多种手段，对于公众而言，可以依据“AI假脸”的bug进行简单识别。

　　首先，注意观察“AI假脸”的纹理特征。比如，伪造后的视频人物的眼睛或牙齿轮廓细节容易不一致；两只眼睛瞳孔的颜色不一样或瞳孔中心反射的细节不一样；或是很多伪造视频由于视频分辨率低于原始视频分辨率，伪造出来视频的牙齿边缘过于整齐等。

　　其次，注意观察“AI假脸”的生物特征。“AI假脸”有可能不符合正常人的生理特征，比如，一个健康成年人一般间隔2~10秒眨一次眼，每次眨眼用时0.1~0.4秒，而在伪造视频中，人的眨眼频率可能不符合上述规律。

　　再次，注意观察“AI假脸”的嘴部固有特征。比如，由于人嘴部的运动是最为频繁且快速的，因此AI软件无法真实准确地渲染其连续动作。基于此，可以作为判断视频真假的因素之一。

　　此外，伪造后的视频会造成一定的视频抖动，导致视频出现帧间不一致情况。

　　在周琳娜看来，“AI换脸”的负面影响出现在电信诈骗中，会造成整个社会公信力降低的问题。“AI换脸”技术是一个新兴事物，它能给我们的社会带来很多便捷，但是也会影响到我们的生活。因此必须结合社会需求、技术能力，完善和制定好相关法律法规，做好“AI换脸”技术的应用和治理。