目录
“深度伪造”带来的挑战
辨认“深度伪造”欺诈内容的策略
国外媒体报道，在 2 月 17 日德国慕尼黑的一次平安会议上，包含亚马逊、谷歌、IBM、LinkedIn、McAfee、Meta、Microsoft、OpenAI、Snap、TikTok 和 X 等 20 家世界领先的科技公司发表，将联结打击“深度伪造”信息。
会上，他们个体签订一项技术协定，以抵制欺骗性的人工智能生成的内容，缩小欺骗性人工智能内容的生成及其带来的危险，并批准在各自的平台或产品提出解决方案。该协定还承诺，将与寰球组织和学术界单干，让公众和媒体意识到人工智能生成的坑骗内容的危险。
毕马威最近的一份报告显示，在线提供的“深度伪造”视频同比增长了 900%。埃隆·马斯克（Elon Musk）、两位 BBC 主持人、YouTube 红人野兽学生（Mr Beast）以及风行歌星泰勒·斯威夫特（Taylor Swift）都因在欺骗视频中伪造身份而成为受害者。
“深度伪造”带来的挑战
“深度伪造”是一种应用人工智能技术生成虚伪视频的技术，能够将任何人的脸部或身材图像合成到另一个人的视频中，从而产生逼真的假视频，使欺骗更加实在和令人信服。“深度伪造”还能轻易模拟人们相熟的声音、语调、口音和谈话格调，使受害者难以分辨真伪。
就在两周前，香港一家跨国公司员工遭逢“深度伪造”欺骗，损失 2 亿港元。该员工收到一封伪装成公司总部 CFO 的电子邮件后，被邀请加入视频会议。会议中，除了该员工外，其余人均为“深度伪造”技术制作的虚伪影像。欺骗分子利用这种形式，批示员工转账 2 亿港元至五个银行账户。预先员工才发现上当受骗，但资金已被迅速转走。
另外的一起案件产生在数月前，中国驻美国使馆发言人证实，一名疑似遭绑架的中国留学生实际上遭逢了“虚构绑架”欺骗。AI 技术让电信欺骗分子能轻易模拟指标人的视频、声音等，使骗局更加难以辨认。欺骗分子利用 AI 篡改来电显示、模仿声音，甚至制作虚伪视频，让骗局更难识破。电信欺骗分子利用社交媒体收集个人信息，假造故事，引发受害者恐慌并诱导领取资金。
辨认“深度伪造”的坑骗信息是一大难题。不仅肉眼无奈无效辨认，一些惯例的检测工具也不能及时发现。顶象进攻云业务平安情报中心此前预测，2024 年业务欺诈危险将有五大趋势：AI 带来的新攻打成倍增加、账号和身份更难以甄别、爬虫盗取数据仍旧疯狂、账号偷盗冒用将更加广泛和难以防备、外部数据泄露。
辨认“深度伪造”欺诈内容的策略
在“深度伪造”欺诈内容更加猖狂时代，辨认与防备变得越来越重要。
减少生物与活体验证。采纳活体验证办法，利用先进的生物辨认技术，如面部辨认，联合静止剖析和红外扫描，在肯定水平上发现“深度伪造”的视频。
减少数字签名验证。数字签名和区块链账本具备唯一性，能够对行为起源跟踪，并对其进行标记以供审查。
减少设施与操作验证。基于曾有过身份验证或辨认的设施，对设施信息、地理位置以及行为操作进行比对辨认，可能发现并防备操作“深度伪造”的行为异样。
顶象设施指纹是指通过收集和剖析设施的硬件、软件和行为数据，对每个设施进行惟一标识和辨认的技术，辨认出虚拟机、代理服务器、模拟器等被歹意操控的设施，剖析设施是否存在多账号登录、是否频繁更换 IP 地址、频繁更换设施属性等出现异常或不合乎用户习惯的行为，帮忙追踪和辨认欺诈者的流动。通过对设施指纹的记录和比对，能够分别非法用户和潜在的欺诈行为。
减少账号验证频次。账号异地登录、更换设施、更换手机号、休眠账户忽然沉闷等等，须要增强频繁验证。此外，会话期间的继续身份验证至关重要，放弃持久性查看以确保用户的身份在应用期间保持一致。
顶象无感验证能够疾速精确地区分操作者是人还是机器，精准辨认欺诈行为，实时监控并拦挡异样行为。用户在进行登录、注册等操作时，无需繁琐地输出操作和验证码辨认，即可疾速实现身份验证。这不仅进步了用户体验的便捷性和流畅性，还大大降低了因人为操作失误导致的危险。因为顶象无感验证基于 AIGC 技术，可能避免暴力破解、自动化攻打和钓鱼攻打等威逼，无效避免未经受权的拜访、账户被盗用和歹意操作。
减少反欺诈系统验证。基于人工审查与 AI 技术相结合的反欺诈零碎，能助力企业晋升反欺诈能力。例如，顶象 Dinsight 实时风控引擎日常风控策略的均匀处理速度在 100 毫秒以内，聚合数据引擎，集成专家策略，反对对现有风控流程的并行监测、替换降级，也可为新业务构建专用风控平台；聚合反欺诈与风控数据，反对多方数据的配置化接入与积淀，可能进行图形化配置，并疾速利用于简单策略与模型；可能基于成熟指标、策略、模型的教训储备，以及深度学习技术，实现风控自我性能监控与自迭代的机制；集成专家策略，基于零碎 + 数据接入 + 指标库 + 策略体系 + 专家施行的实战；反对对现有风控流程的并行监测、替换降级，也可为新业务构建专用风控平台。
缩小社交媒体的敏感信息分享。缩小或者杜绝在社交媒体上分享账户服务、家庭家人、交通出行、工作岗位等敏感信息，防备欺诈分子盗用下载后，进行图片和声音的深度伪造，而后进行身份伪造。
增强 公众 平安培训与教育。继续对公众进行深度伪造技术及其相干危险的教育至关重要。通过模仿练习，模拟网络钓鱼和深度伪造攻打，激励公众保持警惕并疾速报告异常情况，也能够显著进步组织检测和响应“深度伪造”威逼的能力。
技术在一直倒退，新的欺诈也在不断涌现。尽可能随时理解 AI 和深度伪造技术的最新倒退，以相应地调整保障措施。
业务平安产品：收费试用
业务平安交换群：退出畅聊