被换脸性侵紧急求助中国网友的韩国女性 我们能救了 (换脸 zao)

“如今屏幕上的都是经典的好莱坞美女，一眼看过去确实是真假难辨，各位观众也可以猜一猜，其中哪两张是 Deepfake 伪造的假图片。”

支持人话音刚落，屏幕上就出现 9 张玛丽莲梦露的照片。然后台下末尾躁动起来。9 张照片中有 2 张是 AIGC 伪造的，仅凭人眼观察，真实难辨真假。

而台上介入应战的两位选手，要求用他们的 AI 大模型“揪出”这两张假照片。

就在观众们束手无策时，两位选手的 AI 出奇分歧地找出了两张被以为大约率是伪造的照片。而当作为掌管人的科技博主毕导发布正确答案，AI 识别的准确性成功惹起台下一片惊呼。

这是 9 月 6 日下午，外滩大会 AI 创新赛・全球 Deepfake 攻防应战赛的扮演赛第一轮的现场。全球 Deepfake 攻防应战赛，是由蚂蚁集团主办、蚂蚁数科承办，是 CV 范围的顶级国际赛事。

而就在 9 月 6 日下午的 2024 Inclusion・外滩大会上，外滩大会 AI 创新赛・全球 Deepfake 攻防应战赛举行了一场扮演赛，吸引了有数目光。

回到这次大赛，赛事提供了百万级的数据集，要求参赛选手们针对“AI 换脸”的欺诈风险启动攻防实战演练。大赛官方设立了 100 万元人民币的奖金池，奖励推进 AI 向善的技术人才。

本次大赛吸引了全球 2200 多名选手，1500 多支队伍报名，掩盖中国、美国、印度、澳大利亚、日本、印尼、马来、新加坡、香港、越南等 26 个国度和地域。

由此可见，全球的技术人员们关于对立“AI 换脸”欺诈风险的热情是十分高的。

目前，大赛的一切赛程曾经完毕。8 月 30 日，赛事组委会发动开源建议：

支持并奖励优良介入者开源竞赛模型，降低技术门槛、增强技术交流，进而协助更多人检测伪造内容，助力 AI 向善。参赛者自主开源后，大赛组委会将在官方 Github 主页上汇总一切开源存储库。

建议一经收回，就失掉中国迷信院智能化研讨所 VisionRush 队伍和澳门大学 JT Group 的积极相应。

截至目前，已有近百名选手及所在队伍表示情愿介入代码接力，心愿经过技术手段，为每一个或许遭到损伤的人提供维护。

再看这次在外滩大会的扮演赛，由大赛的 TOP3 选手介入，区分是来自上海的数据剖析师唐永威、来自中科院智能化所师生联手的 7 人战队，以及一支来自香港和澳门的大在校生组成的港澳团队。

在扮演赛现场，由蚂蚁数科和中国科技大学网络空间安保学院结合设计了高逼真 Deepfake 图像，对选手们的 AI 模型启动终极调查。

同时，清华大学研讨员兴军亮、新加坡科技研讨局前沿人工智能研讨中心 (CFAR) 首席迷信家周天異、中国迷信技术大学副教授周文柏等嘉宾将亲临扮演赛现场与科技博主毕导一同，为观众科普了 Deepfake 攻防知识以及防骗技巧。

接上去让我们详细来了解。

AI 换脸欺诈猖狂，防范急无法待

无论你能否关注科技圈，置信多少都听说过 Deepfake 的大名，这是一种深度学习伪造技术，即运行深度学习算法，成功音视频内容的模拟和伪造，可用于电影制造、视频编辑、虚拟理想等范围。

Deepfake 可以归类为 AIGC 生成的一种，原本是个好技术。但近年来，在境外已出现多起恶意运行 Deepfake 技术启动 AI 换脸欺诈，带来的经济财富损失、声誉受损等事情，并且该趋向正逐渐向境内蔓延。

于是这项技术逐渐被贴上一些不好的标签。

此前本次大赛出题人、蚂蚁数科 ZOLOZ 技术总监姚伟斌在接受采访时曾走漏：在往年，关于 Deepfake 欺诈的线高端量占比曾经抵达了 10%，而去年还只需 1%，至于明年，增长或许只会更快，甚至或许逾越 20%。

比如最近备受关注的韩国女性被 AI 换脸构成恐慌的事情，就是 Deepfake 伪造的理想案例。还有往年 2 月香港一家跨过公司员工被约请进 Deepfake 做的“高管视频会议”中，然后被骗走 2 亿港币的事情，也让人大为咋舌。

可见，面对全球范围的技术应战，培育具有实战才干的 AI 人才急无法待。

这也是蚂蚁集团举行全球 Deepfake 攻防应战赛的初衷，一方面为惹起大家对 Deepfake 危害性的关注和注重，另一方面也心愿借助本次大赛挖掘 AI 人才，并以此推进整个行业在 AI 检测、识别伪造方面才干的优化。

AI 终究是如何战胜 AI 的？

说到这，或许爱思索的同窗就要提问了：所谓的 AI 检测，它终究是如何检测的呢？

我们无妨就以这次赛事来说。

这次大赛，分为图片赛道和音视频赛道，这里首先要说，音视频伪造和图片伪造差异很大，音视频触及到多帧图像加声响模态、语音模态的多模态模型，难度比图片伪造的识别大很多。这次现场扮演赛的结果也能看到，音视频伪造识别的成功率要比图片伪造识别更低。

不过在识别原理上，两者倒是比拟相似。

以图片辨以为例，选手们是将曾经明白是 AIGC 生成的图片作为训练数据，模型可以学习到 AIGC 生成图片的特征和方式。

经过火析图像的像素散布、纹理、颜色方式和不天然的细节（如边缘或结构畸变），模型能够识别与真实图像的差异，而有效区分真实与生成的内容。

方便来说，就是让大模型不停地学习 AI 生成图片的各种特征，熟习“假图片”的特点，人培育能区分真假了。

音视频的区分也是相似，只是除了画面，算法还会关注到嘴巴说话的举措能否与音频同步，眼睛眨动的频率能否失常。还包括剖析皮肤外表的细节，光影的散布等一系列原因。

既然是让 AI 学习，那么“教材”就很关键了，因此，学习样本的丰厚度、完整性，关于 AI 最终识别伪造的准确性显然至关关键。此外，算法自身的才干也对模型识别的准确性有直接影响。

不过呢，就这次竞赛来说，选手们训练自己模型用的数据集都是由赛事方提供的，包括地下数据和伪造数据。

其中，伪造图片数据涵盖了理想场景中超 50 种生成方式，伪造音视频中则归入了超 100 种组合攻击方式，训练数据集总量逾越 100 万，足够丰厚。

因此，其实这次大赛更偏重考验选手们在算法方面的技术才干，以及综合运转的才干，有没有模型算法可以更泛化地适用于不同的场景和数据下。

那么，说了这么多，目前 AI 终究能不能 100% 识别 Deepfake 伪造呢？

关于这一点，大赛出题人姚伟斌明白表示：

让 AI 百分百识别伪造图像能否伪造，是十分艰难的。

一方面，就像前面所说，训练样本其实很难做到真正的丰厚、完整，而且伪造技术也在一直迭代更新，对立也只能跟着伪造技术启动优化，这是目前的现状。

说到这，还有一个比拟无意思的现象，就是有些我们人类觉得一眼假的画面，AI 却不能完全答对。比如扮演赛现场有一组将科技博主毕导的脸交流到哈利波特身上的视频，我们大部分人一眼就能分辨，但是现场战队有一组 AI 模型却分辨错了。

但是在第一组图片测试环节，10 张明星照片里有两张伪造图片，大部分人都没看出来，AI 却能秒识别。

这个疑问新加坡科技研讨局前沿人工智能研讨中心(CFAR)首席迷信家周天異在现场给我们做了回答，其实是由于人类在判别图像能否伪造时，会更依赖直觉和逻辑。比如我们把一个一般人的脸换到哈利波特身上，人类一看就知道是假的，由于我们了解哈利波特的背景故事，但 AI 却不知道。

不过，人类的行为存在不稳如泰山性，很多画面细节假定不细心看，就会出错。AI 却不会。正如周天異所说：

AI 是最称职的工具人，AI 不受心境干扰，他会一丝不苟、勤勤恳恳地成功人类的指令，还不会疲劳。

关于技术，还有一个疑问大家或许也比拟关心，就是这次大赛展现出来的 AI 识别伪造的技术，未来如何启动运转落地呢？赛事方又该如何去推进技术的运转？

对此，作为出题人的姚伟斌也给出了回答。首先，这次训练的一些地下测试集都是开源的，这些攻击的数据开通出来后，关于各家公司去训练他们的检测才干会有直接的协助。

其次，这次大赛的选手构成也十分丰厚，有半路出家的名校学霸，又有自学 AI 的商科生，还有很多是集团竞赛喜好者，以及专注于 AI 安保的公司代表团。

比如来自企业界的选手就占了 20% 左右，他们未来应该会把大赛的相关技术运转在自己公司的产品和服务中。还有很大一部分是来自学术界，这一方面会推进相关学术的交流提高，另一方面，这些目前逗留在学术层面的技术未来也有或许在校生们毕业被带到企业中，逐渐推行运转。

提高全行业的进攻水平，我们在路上

在了解了用 AI 来对立 Deepfake 欺诈的技术可行性、关键性以及以后存在的局限性后，想必大家也会有一个共识，那就是：

将 AI 识别的相关技术尽快推行、更新，并优化行业全体的对立水平，其实曾经迫在眉睫。

而这，要求整个行业共同介入出去。

作为行业的一员，蚂蚁也看法到了这一点，因此他们才会举行这场高度模拟实战的 Deepfake 攻防应战赛，一是为了增强外部关注，培育和奖励人才，二是将商业实战积聚的攻防阅历融入赛事设计与赛题数据集，与行业分享，提高全体进攻水位。

而从结果来看，这次大赛显然很好地成功了它的使命。

往常专注于纯实际的任务，还是会有点夸夸其谈的觉得，介入竞赛可以及时对一些新技术、新想法做做验证。

在这次扮演赛上，来自中科院智能化研讨所的王博在谈到介入这次竞赛时，笑着说。他们的战队由师生 7 人组成，平均年龄只需 25 岁。

而在谈及介入这次竞赛对自己的协助时，来自澳门大学的选手陈逸鸣武断地表示：“竞赛对我最大的协助是让我能够在实战环境中锻炼自己的技术才干。我在很短的时期内突击学到了很多关于 Deepfake 生成和识别的新技术，这些知识将对我未来的研讨和职业展开有很大协助。”

除了挖掘出很多在 AI 对立伪造方面极具潜力的人才，蚂蚁也很好地以这次大赛为媒介，与整个行业启动了一次性性深化的交流和分享，这关于提高行业全体的进攻才干大有裨益。

首先，这次竞赛吸引了全球 1500 支队伍，超 4500 次算法提交，是远超蚂蚁预期的，也可见大赛的影响力十分普遍。更关键的是，这次应战赛像选手们提供了该范围数量最多的 Deepfake 数据集，逾越 180 种生成方法也是行业最全的，还有多样化的人脸散布、16 大目的权衡带来的客观评价真实性。可以所蚂蚁是真正拿出了干货，这些珍贵的数据关于行业全体进攻才干优化的意义也不是一届竞赛能概括的。

其实，除了这次技术应战赛，蚂蚁关于 Deepfake 深度伪造危害的进攻以及生物检测安保方面早有多年攻防阅历的沉淀。

要知道，过去 20 多年里，蚂蚁集团在国际金融业务场景上积聚了十多亿用户，还有丰厚的实战攻防阅历，其多代风控平台的继续优化、严峻的数据安保控制、先进的智能风控产品开发以及片面的智能安保体系构建，不只优化了蚂蚁集团自身业务的安保性和效率，还为整个金融行业的风险控制提供了珍贵的阅历和参考。

2017 年 10 月，蚂蚁数科推出了可信身份认证平台 ZOLOZ ，蚂蚁的生物识别技术成为独立品牌。如今 ZOLOZ 综合多种技术手段成功认证准确率曾经抵达 99.9%。

依据蚂蚁数科 CEO 赵闻飙的引见，蚂蚁数科 ZOLOZ 自 2019 年末尾研讨 Deepfake 攻防技术，已服务数十个国度和地域的金融、电信、政务等机构。

我们情愿将商业实战积聚的攻防阅历融入赛事设计与赛题数据集，与同行结成战友相关，共同优化全行业的安保进攻水位。

赵闻飙如是说。

结语

最后，小编想到，这次竞赛的称号叫做“全球 Deepfake 攻防应战赛”，其中“攻”是“Deepfake 深度伪造欺诈”的恶意权益，“防”则是为对立伪造内容孜孜不倦探求的科技任务者，甚至是整个千行百业。

但其实，每个介入应战赛的人，肯定都在等候未来“攻”与“防”转换的一天。

还是要借用本次大赛出题人姚伟斌接受采访时所说的：

所谓道高一尺，魔高一丈，今天我们还是主动的解题思绪，等着攻击出来，然后我们去防范，短期内这是客观现状，但我们有没有或许主动去防范风险，能不能让这些内容去主动告知它就是 AI 出现的，一旦这个事情做成了，很多时辰我们就很容易识别了。

而以后，蚂蚁在努力，身处内行业的每一位科技任务者们也都在努力，置信这样的一天会更快到来。