乐趣区

关于安全:AI换脸背后的产业链详解往后神仙姐姐背后有可能是

近期在各大平台都能够看到换脸新闻,和大家分享一下最近让我心痛的一张图片

那除了大家用来恶搞之外,AI 欺骗的新闻层出不穷。咱们国内目前明天最大的是上面这起事件:

而国外,因为技术更加成熟一点,所以被欺骗的金额高达上亿美元:

能够看到,随着 深度合成技术的凋谢开源、深度合成产品和服务的增多,深度合成内容制作的技术门槛越来越低。技术的“平民化”,使得利用“AI 换脸”、“AI 换声”等虚伪音视频,进行欺骗、勒索、诬陷、诋毁等违法行为和事例不足为奇。

这其中,其实不只是给咱们民众带来肯定的困扰(比方你不再可能凭借模样和声音来确认和你打电话的是不是你的领导),也给相应的行业定责带来的问题。尤其是金融行业。

明天咱们就来深刻讲一下,金融行业在面临 AI 欺诈方面的危险与挑战。

现有进攻零碎被全面攻破,谁为危险买单?

1. 银行损失

就目前 AI 欺骗问题,金融面临的挑战不仅限于资金损失,还包含法律诉讼、名誉受损和信任危机等难题。

首先是 资金损失

其次是 诉讼压力

这一部分,更多是因为定责的问题。尽管在实际操作过程中,是用户本人信息泄露,导致账户金融被转移,然而真正去定责的时候,必定也会思考银行本身风控系统的安全性。用户必定会主张本人并没有去真正做这个动作,是因为银行的进攻体系不够欠缺。单方各执一词,最初的审判后果因案例而异。

以及 声誉危机

2. 银行进攻体系问题

目前从案例来看,现有银行平安体系已无奈进攻新型黑产,每个进攻环节均被攻破。重点畛域集中在转账环节,人脸识别破绽尽现,让银行的进攻被动。

目前银行的进攻体系能够参考:

从现实情况来看,所谓的“最新进攻体系”仍旧被新型黑产攻破,黑产眼中,平安进攻环节全透明,新型攻击方式攻破

3. 新型 AI 助力黑产,升高难度

1)技术升级

因为 AI 技术的降级,目前黑灰产次要有两种新型的攻击方式:

深度伪造

定义:深度伪造技术是一种利用人工智能和深度学习算法创立真切的虚伪图像、视频或音频的技术。这种技术应用生成反抗网络(GANs)等深度学习模型来生成真切的内容,其中一个模型生成虚伪的图像、视频或音频,而另一个模型则尝试辨别实在内容和虚伪内容。

简略来说,就是换脸技术(你想要的,它都有 ……)。

这种技术一个简略地利用场景就是 代打卡

反抗样本

定义:反抗样本(Adversarial Examples)是指对机器学习模型进行特定设计的输出样本,通过对输出样本进行渺小的、有针对性的扰动,使得模型的输入后果产生误判或谬误分类。

2)产业倒退

更为重要的是,目前黑灰产欺诈的产业分工更加流程化,工具也更加自动化。上面是咱们理解到的一些黑灰产的工具:

舞弊工具及教程:

3)攻打全流程冲破

黑灰产不仅工具齐全,组织构造欠缺,对金融银行的理解也很深刻。从拿到用户的信息,到人脸绕过进行转账,再到风控反抗,黑灰产有着一整套欠缺的流程。

综上咱们能够看到,目前来说,黑灰产手握最新 AI 技术,凭着本人的“业余”,对咱们金融行业的进攻提出了很大的挑战。那咱们金融银行要如何应答呢?

AI 欺骗金融风控解决方案

目前市面上比拟成熟的一套计划,是以第三代人工智能技术为根底,而后加之反抗样本能力。

1)概念介绍

第三代人工智能:其实这个概念是基于 IBM 提出的常识驱动的第一代人工智能以及谷歌提出的数据驱动的第二代人工智能而言的。第三人工智能是多元驱动的 AI,驱动因素包含常识、算法、算力、数据等,打造了一个牢靠、可信、平安、可扩大的人工智能技术。

反抗样本攻打:这个概念咱们间接以图来示例会更为清晰一些:

2)反抗思路

以后,黑灰产针对金融机构进行用户身份核验的要害节点曾经有了齐备且成熟的攻打模式,要想实现整体高成功率的危险辨认,且防止黑灰产呈现单点技术能力冲破所带来的安全隐患,须要在身份核验的事先、事中、预先进行全面的危险防控:

即事先评估用户主体的设施、账号、手机号的平安态势;
事中进行要害人脸核验数据流的真伪判断;
预先进行异样事件的自己视频核验,对全链路节点数据进行综合研判。

为防止视频核身对用户带来的体验友好度升高危险,倡议采纳 前置伪造检测探针进行危险等级预判,高风险客户启用视频核验

整体架构:

AI 平安威逼感知体系

3)成果展示

通过人脸环境监测信息、活体辨认、图像鉴伪、智能核身、反诈数据等多维度信息对用户人脸图像进行智能危险评估、危险评级,迅速辨认虚伪认证危险。在确认威逼之后,零碎反对主动执行进攻策略,设施执行命中进攻策略之后对应的进攻处理,能够无效阻断危险操作。在进攻策略管理模块,业务人员能够配置设施维度、异样行为等维度的策略,并反对上线审核等操作。

大盘展现 - 趋势、动静、详情、团伙剖析

结语

AI 技术的倒退,让黑灰产多了很多工具,受威逼最大的应该是金融行业,因为其中的人脸识别技术对于黑灰产有很大的利用空间,所以金融行业更应该“魔高一尺道高一丈”,去从根本上解决问题,这样也可能缩小后续的定责问题。

以上。

如果须要银行风控系统,能够戳这里 >>> 收费体验

退出移动版