“AI换脸诈骗”很难吗？AI团队揭秘！

转载:https://www.toutiao.com/article/7347260745119466019/

随着人工智能技术的发展

“AI换脸”技术的应用

在生活中越来越常见

但需要注意的是

有一些不法分子

也开始用上了这项技术

以此来实施网络诈骗

这类AI“深度造假”是如何实现的？

来看记者调查

面部特征瞬时抓取

“AI换脸”一键即成

为了深入了解AI换脸的技术原理，记者找到了南京“超级头脑”团队。这是一家致力于AI教育、数字疗愈和数字陪伴的人工智能技术服务公司。去年，他们制作的一条反诈短视频在网络平台上引发了热议。

这样逼真的互动视频是如何实现的？在专业人员的指导下，记者体验了一次AI换脸。

记者坐到“超级头脑”工作室的电脑前，在这套系统上，“AI换脸”几乎是“一键”实现的。只要记者坐在这个摄像头前，自己的脸就会被立刻替换成一张陌生人的脸。这一切是怎么做到的呢？

南京超级头脑信息技术有限公司创始人张泽伟介绍，摄像头会照出你的真实脸部画面，人脸检测器会抓取脸上特征点，特征点越多抓取的数据越详细，换脸的效果越好。

据张泽伟介绍，这张脸就是他们通过大量照片或视频数据训练出来的，训练了两百万次，“目前想要生成一个相似度比较高，或者质量比较好的模型，一般需要1分钟左右的视频。如果视频时间很短，其实也是能生成的，但是效果不一定会达到这个级别。”

技术人员表示，如果以诈骗为目的，进行点对点视频通话，还需要对当事人的声音进行采集，而音色的模仿也仅需要1分钟左右的音频素材。无论是面部特征抓取还是音色模仿学习，所需要的素材并不多，但要想做得逼真，也不是一件简单的事。

“这其中还是有一定技术门槛的，更多的是需要去训练模型，在普通硬件设备上是很难去训练的，不仅需要硬件支持，也需要对软件各方面有所掌握。”

“AI换脸”以假乱真，该如何进行辨别和自我防范呢？网络上曾流行一种判断方法，就是通过遮挡面部来看面部是否会变形，但技术人员表示，随着技术的更迭，这样的技术缺陷已逐渐被修复。建议大家跟亲友之间设计一些特定的“暗号”，来应对特殊情况。

另外，技术人员建议大家尽量不要把个人的隐私数据随意发到公共互联网上，如果有一些不法分子想要对你的家人实施诈骗，采集到数据以后还是比较容易实现的。

娱乐产品也应警惕

随意发布也会侵权

除了一些不法分子企图利用AI技术实施诈骗，近年来，AI技术还被广泛应用于短视频的二次创作。越来越多的名人“AI换脸换声”视频出现在网络上。这类视频嘴型、手势都对得上，十分自然。

记者发现，在手机应用商店中，有数十款软件可以实现“AI换脸换声”的效果，且基本都在用户协议中标明“仅供娱乐使用”。这类软件的换脸效果并不逼真，相似度只能达到5到6分。比如这款软件，拍下记者面部照片后，就能生成出一段记者变身“特种战士”的视频。

张泽伟认为，这种软件其实是“傻瓜式”的，用户直接上传一张照片，拿一段视频去实现视频换脸。但是，目前这类软件在移动端一般不能实现实时换脸。

制作、发布此类视频是否存在法律风险呢？法律专家表示，用AI技术为他人换脸换声甚至翻译成其他语言并发布视频，可能涉嫌害当事人的著作权、肖像权和声音权。

江苏苏博律师事务所主任律师吴波说，本段视频或者本段音频是由AI产生的，在视频或音频的生成软件上面一定要有类似的提醒。侵权的认定是根据传播的阅读量，或者是观看量来确定侵权的程度。

江苏广电融媒体新闻中心记者｜朱瑞张中玄

来源：江苏新闻