Deepfake 检测精确率达 98%，蚂蚁数科入选金融科技立异应用案例

近日，在中关村论坛系列活动第12届数字金融与科技金融大年夜会上，蚂蚁数科的 Deepfake 检测筹划入选大年夜会“金融科技技巧立异与应用案例”。

蚂蚁数科依托旗下天玑实验室，业界初次构建了大年夜范围、高质量、多模态的 Deepfake 数据集，其合成跨越百万级多媒体内容，充分地模仿了真实世界金融风控情况中的Deepfake进击样本，成为评测现有金融范畴Deepfake检测模型机能的重要标准。在金融营业场景中，蚂蚁数科多组测试数据集上的 Deepfake 检测精确率达到了98%以上，并成功阻拦了多起应用Deepfake技巧进行的讹诈行动，保护了用户的资产安然。

鉴于此，开辟针对Deepfake进击的检测体系在金融范畴是十分须要的，然则强大年夜的Deepfake检测防御模型须要高质量相符真实世界情况的人脸Deepfake数据集，所以若何构建模仿真实世界的数据集以及若何验证其有效性是紧急的问题。

该数据集解决了以往金融范畴Deepfake检测模型无法大年夜范围练习，无法在真实情况中测评的问题，并且从多模态分析角度促进了传统检测模型的成长。今朝该数据集已经成为蚂蚁数科反深伪产品 ZOLOZ Deeper 对外办事客户的关键才能。

据懂得，蚂蚁数科应用先辈的多达 81 种 Deepfake 技巧生成高质量的合成图像，覆盖了多种捏造技巧类型、复杂光照前提、背景情况和面部神情，以模仿复杂逼真的真实世界进击情况。除了静态图像外，还收集并生成了大年夜量包含声音的视频数据，包含100多种捏造技巧类型，涵盖不合语种、口音和背景噪音，确保数据集的多样性和复杂性。

在数据预处理和标注阶段，蚂蚁数科对收集到的数据进行清洗和预处理，确保数据质量。经由过程专家团队对数据进行标注，明白每张图像或每个视频是否为Deepfake生成的内容，同时包管捏造陈迹的最小化，达到高度逼真的后果。此前，蚂蚁数科宣布了AI数据合成与临盆平台，在数据标注层面实现了 “AI 主导”，标注模型依附人工标注量降低了 70%以上。

此外，蚂蚁数科在 2024 外滩大年夜会提议了一场 Deepfake 攻防挑衅赛，将Deepfake数据集作为比赛的基本练习和测试数据，吸引到了全球 26 个国度和地区，2200 多名选手报名参赛。经由过程大年夜赛选手供献的算法筹划，Deepfake 数据集的进击质量和检测难度获得了有效验证和评估。

跟着人工智能技巧的成长，Deepfake技巧也在敏捷进步。这种技巧应用深度进修算法，可以对视频中的人脸进行逼真的调换。尽管Deepfake在娱乐和传媒等范畴有着积极的应用，但在金融范畴，特别是身份验证和交易验证环节，Deepfake技巧带来了新的风险。金融机构的身份验证体系往往依附于生物辨认技巧，如人脸辨认。一旦这些体系被Deepfake技巧所欺骗，可能导致严重的金融讹诈。

雷峰网版权文章，未经授权禁止转载。详情见转载须知。