用AI判别Deepfake造假的影片可行吗？脸书：目前辨识成功率仅6成

近日，台湾一位知名网红YouTuber，因用Deepfake变脸软件制作名人不雅影片来贩售牟利，遭到警方逮补，而引发热议，连总统蔡英文都高度关注，在脸书公开回应将研拟修法，来防止这类新型科技犯罪行为再发生。

Deepfake是一种AI影像合成技术，透过深度学习将影片、照片中人物进行换脸处理。过去几年，在不少影剧、娱乐，甚至一些重要政治场合，都能看到使用Deepfake伪造名人或政治人物的迹象，因为换过的人脸几可乱真，有时连民众自己都难以分辨真假。

这两年，科技圈针对这种AI造假影片的反制手法也展开研究，微软和脸书还曾举办挑战赛找解方。不过直到去年Deepfake影片辨识技术大赛，准确度最高只认得8成。另外有科学家想出办法，以眼角膜上的光线反射图像来提高AI变脸侦测的准确度，虽然辨识度有高达9成以上，但使用上仍受到不少限制。

近日一场Arm DevSummit 2021高峰会上，脸书AI基础架构研究负责人李宪信也透露，目前脸书在Deepfake造假影片辨识研究的进展。李宪信也是脸书AI研究部门一员，带领研究团队专注AI与ML系统研究。

由于近几年，在脸书上分享Deepfake造假内容，有逐渐增加的迹象，所以脸书自去年开始手规范及封锁Deepfake内容，甚至2年前也开始尝试结合AI技术，还举办挑战赛，希望能改进这类AI假影片的辨识算法，但李宪信坦言，目前辨识成功率约在60%左右，距离真正可用还有段距离。

脸书上不只有AI造假影片，还有不少滥用AI技术的例子，李宪信也举例，一些独裁-，会利用脸书平台来打压反对声音，并会引入political bots政治机器人大军，运用像自然语言处理这类AI技术，自动回应一些文章，自动攻击反对者的声音，他说，这样的情况，也有出现在如台湾等民主国家，甚至一些国家独裁者更拿它来统制人民，或用来打击反对党，“这是我们在脸书上观察到的现象。”

遇到这类有违AI道德伦理的问题，脸书也以AI做为反制方法，以相对的AI技术移除这些机器人假账号。不过，李宪信表示，脸书每天需要删除这类的假账号数量，超过数百万户，现阶段用AI来处理，还是有其限制，需要人工介入。他也坦言，这是非常困难的问题。

除了要用AI辨识影片真假，他也提到，脸书目前正在投入的AI研究项目，像是让AI具备有内容理解能力，能够根据文意脉络判断出，这是否一个违反道德伦理的行为，例如图文不符带有攻击他人的内容，进而将它移除。