关于安全:全球20家科技公司承诺联合打击AI深度伪造的欺诈内容

33次阅读

共计 2233 个字符,预计需要花费 6 分钟才能阅读完成。

目录

“深度伪造”带来的挑战

辨认“深度伪造”欺诈内容的策略


国外媒体报道,在 2 月 17 日德国慕尼黑的一次平安会议上,包含亚马逊、谷歌、IBM、LinkedIn、McAfee、Meta、Microsoft、OpenAI、Snap、TikTok 和 X 等 20 家世界领先的科技公司发表,将联结打击“深度伪造”信息。

会上,他们个体签订一项技术协定,以抵制欺骗性的人工智能生成的内容,缩小欺骗性人工智能内容的生成及其带来的危险,并批准在各自的平台或产品提出解决方案。该协定还承诺,将与寰球组织和学术界单干,让公众和媒体意识到人工智能生成的坑骗内容的危险。

毕马威最近的一份报告显示,在线提供的“深度伪造”视频同比增长了 900%。埃隆·马斯克(Elon Musk)、两位 BBC 主持人、YouTube 红人野兽学生(Mr Beast)以及风行歌星泰勒·斯威夫特(Taylor Swift)都因在欺骗视频中伪造身份而成为受害者。

“深度伪造”带来的挑战

“深度伪造”是一种应用人工智能技术生成虚伪视频的技术,能够将任何人的脸部或身材图像合成到另一个人的视频中,从而产生逼真的假视频,使欺骗更加实在和令人信服。“深度伪造”还能轻易模拟人们相熟的声音、语调、口音和谈话格调,使受害者难以分辨真伪。

就在两周前,香港一家跨国公司员工遭逢“深度伪造”欺骗,损失 2 亿港元。该员工收到一封伪装成公司总部 CFO 的电子邮件后,被邀请加入视频会议。会议中,除了该员工外,其余人均为“深度伪造”技术制作的虚伪影像。欺骗分子利用这种形式,批示员工转账 2 亿港元至五个银行账户。预先员工才发现上当受骗,但资金已被迅速转走。

另外的一起案件产生在数月前,中国驻美国使馆发言人证实,一名疑似遭绑架的中国留学生实际上遭逢了“虚构绑架”欺骗。AI 技术让电信欺骗分子能轻易模拟指标人的视频、声音等,使骗局更加难以辨认。欺骗分子利用 AI 篡改来电显示、模仿声音,甚至制作虚伪视频,让骗局更难识破。电信欺骗分子利用社交媒体收集个人信息,假造故事,引发受害者恐慌并诱导领取资金。

辨认“深度伪造”的坑骗信息是一大难题。不仅肉眼无奈无效辨认,一些惯例的检测工具也不能及时发现。顶象进攻云业务平安情报中心此前预测,2024 年业务欺诈危险将有五大趋势:AI 带来的新攻打成倍增加、账号和身份更难以甄别、爬虫盗取数据仍旧疯狂、账号偷盗冒用将更加广泛和难以防备、外部数据泄露。

辨认“深度伪造”欺诈内容的策略

在“深度伪造”欺诈内容更加猖狂时代,辨认与防备变得越来越重要。

减少生物与活体验证。采纳活体验证办法,利用先进的生物辨认技术,如面部辨认,联合静止剖析和红外扫描,在肯定水平上发现“深度伪造”的视频。

减少数字签名验证。数字签名和区块链账本具备唯一性,能够对行为起源跟踪,并对其进行标记以供审查。

减少设施与操作验证。基于曾有过身份验证或辨认的设施,对设施信息、地理位置以及行为操作进行比对辨认,可能发现并防备操作“深度伪造”的行为异样。

顶象设施指纹是指通过收集和剖析设施的硬件、软件和行为数据,对每个设施进行惟一标识和辨认的技术,辨认出虚拟机、代理服务器、模拟器等被歹意操控的设施,剖析设施是否存在多账号登录、是否频繁更换 IP 地址、频繁更换设施属性等出现异常或不合乎用户习惯的行为,帮忙追踪和辨认欺诈者的流动。通过对设施指纹的记录和比对,能够分别非法用户和潜在的欺诈行为。

减少账号验证频次。账号异地登录、更换设施、更换手机号、休眠账户忽然沉闷等等,须要增强频繁验证。此外,会话期间的继续身份验证至关重要,放弃持久性查看以确保用户的身份在应用期间保持一致。

顶象无感验证能够疾速精确地区分操作者是人还是机器,精准辨认欺诈行为,实时监控并拦挡异样行为。用户在进行登录、注册等操作时,无需繁琐地输出操作和验证码辨认,即可疾速实现身份验证。这不仅进步了用户体验的便捷性和流畅性,还大大降低了因人为操作失误导致的危险。因为顶象无感验证基于 AIGC 技术,可能避免暴力破解、自动化攻打和钓鱼攻打等威逼,无效避免未经受权的拜访、账户被盗用和歹意操作。

减少反欺诈系统验证。基于人工审查与 AI 技术相结合的反欺诈零碎,能助力企业晋升反欺诈能力。例如,顶象 Dinsight 实时风控引擎日常风控策略的均匀处理速度在 100 毫秒以内,聚合数据引擎,集成专家策略,反对对现有风控流程的并行监测、替换降级,也可为新业务构建专用风控平台;聚合反欺诈与风控数据,反对多方数据的配置化接入与积淀,可能进行图形化配置,并疾速利用于简单策略与模型;可能基于成熟指标、策略、模型的教训储备,以及深度学习技术,实现风控自我性能监控与自迭代的机制;集成专家策略,基于零碎 + 数据接入 + 指标库 + 策略体系 + 专家施行的实战;反对对现有风控流程的并行监测、替换降级,也可为新业务构建专用风控平台。

缩小社交媒体的敏感信息分享。缩小或者杜绝在社交媒体上分享账户服务、家庭家人、交通出行、工作岗位等敏感信息,防备欺诈分子盗用下载后,进行图片和声音的深度伪造,而后进行身份伪造。

增强 公众 平安培训与教育。继续对公众进行深度伪造技术及其相干危险的教育至关重要。通过模仿练习,模拟网络钓鱼和深度伪造攻打,激励公众保持警惕并疾速报告异常情况,也能够显著进步组织检测和响应“深度伪造”威逼的能力。

技术在一直倒退,新的欺诈也在不断涌现。尽可能随时理解 AI 和深度伪造技术的最新倒退,以相应地调整保障措施。


业务平安产品:收费试用

业务平安交换群:退出畅聊

正文完
 0