共计 2062 个字符，预计需要花费 6 分钟才能阅读完成。
开年以来，多个图像生成软件在寰球迅速蹿红，其作画真切水平“技惊四座”。AI 一路“狂飙”，让生成、篡改等多模式的图片伪造的门槛变得更低，由此引发的隐患也令人忧愁。
图像是信息的次要载体之一，利用 AI 进行图像造假的行为，是 AI 可信化发展须要应答的重点问题。在本届世界人工智能大会（WAIC 2023）上，中国信息通信研究院（简称中国信通院）围绕“多模态根底大模型的可信 AI”主题举办了专项论坛。论坛上，合合信息 AI 图像内容平安技术计划取得宽泛关注。该计划可精准定位截图篡改痕迹，对生成式图片进行智能判断，避免不法分子利用技术手段非法爬取图片上的信息。
图说：合合信息智能翻新事业部总经理唐琪现场介绍合合信息 AI 图像平安技术利用
用 AI 守护 AI 图像内容平安，合合信息新技术很“实用”
去年的人工智能大会上，合合信息首次展现了“PS 篡改检测”技术，“像素级”的辨认精确度让现场参观者感叹，在辨认证件、票据等各类重要的商业资料中的 PS 痕迹方面，AI 真的是“火眼金睛”。
图说：合合信息 AI 图像篡改检测技术利用成果展现
往年，AI 图像篡改检测“黑科技”继续优化降级，利用面也拓展至“截图篡改检测”。相较于去年的天然场景图像，对用户生存影响更大的资质证书、文档合同、银行保单等截图若被不法分子利用，所接受的财产损失难以估计。
据理解，降级后的 AI 图像篡改检测技术可检测包含转账记录、交易记录、聊天记录等多种截图，无论是从原图中“抠下”要害因素后挪动“粘贴”至另一处的“复制挪动”图片篡改伎俩，还是“擦除”“重打印”等形式，图像篡改检测技术均可“慧眼”识假。
图说：“重打印”篡改图片检测示例：将一张图片输出到合合信息 AI 图像篡改检测模型中，模型便可能判断这张图像是否被篡改，并且定位图像的篡改区域
该技术的次要难点在于，与证照篡改检测相比，截图的背景没有纹路和底色，整个截图没有光照差别，难以通过拍照时产生的成像差别进行篡改痕迹判断，现有的视觉模型通常难以充沛挖掘原始图像和篡改图像的细粒度差别特色。
为此，合合信息提出了一种基于 HRNet 的编码器-解码器构造的图像真实性甄别模型，联合图像自身的信息，包含但不限于噪声、频谱等，从而捕捉到细粒度的视觉差别，达到高精度甄别成果。针对频上“热搜”的 AIGC 话题，合合信息研发了对于 AI 生成图片甄别技术，用于判断图片是否由 AI 生成。AIGC 生成图像识别的一大难点在于 AI 生成的图像场景繁多，机器难以判断。合合信息基于空域与频域关系建模，可能利用多维度特色来分辨实在图片和生成式图片的轻微差别。
此外，合合信息对 OCR 反抗攻打技术开展了创新性的钻研。当人们在网上发送含有个人信息的图片时，这些材料蕴含的信息很可能被不法分子应用 OCR 技术提取并泄露。OCR 反抗攻打技术可对场景文本或者文档内文本进行扰动，为集体或企业的重要文件“上锁”，避免第三方通过 OCR 零碎读取并保留图像中所有的文字内容，升高数据泄露的危险，达到爱护隐衷信息的目标。
图说：合合信息 OCR 反抗攻打技术利用成果展现，可对要害信息进行遮蔽，在不影响肉眼观看的状况下阻止机器主动爬取
推动图像内容平安行业倒退规范建设，助力可信 AI 系统化落地
中国信通院公布的《人工智能白皮书（2022 年）》中提到，人工智能正在迈入“翻新驱动、利用深入、标准倒退”的新阶段。可信 AI 的实现，须要政府、企业、高校等多方力量的协同。行业标准的制订，或将为中国“可信 AI”在机器视觉、图像处理畛域的体系建设提供无力反对。
为贯彻落实《中华人民共和国网络安全法》《生成式人工智能服务治理方法（征求意见稿）》等文件中对于 AI 服务的规范性要求，系统性建设图像内容平安行业倒退秩序，往年 6 月，中国信通院牵头启动了《文档图像篡改检测规范》制订工作，合合信息、中国图像图形学学会、中国科学技术大学等科技翻新企业及出名学术机构联结参加编制。
据悉，该项规范将基于产业现状，围绕“细粒度”视觉差别伪造图像甄别、生成式图像判断、文档图像完整性爱护等行业焦点议题，凝聚行业共识，以期为行业提供无效指引。合合信息智能翻新事业部总经理唐琪在论坛分享中示意，《文档图像篡改检测规范》制订我的项目的启动，是 AI 图像内容平安体系建设之路上的重要的里程碑。期待更多钻研机构、企业主体参加进来，独特推动 AI 服务规范性的整体晋升和行业倒退秩序的建设，助力科技向上而行，向善倒退。
可信 AI 的衰弱倒退，除了规范引领，也须要“硬科技”撑持。合合信息深耕智能文字辨认、智能图像处理畛域，技术成绩获权威机构及市场认可。最近一个月内，公司智能文档解决产品通过中国信通院“可信 AI—智能文档解决零碎”评估工作，并取得“5 级”评定。“5 级”为该模块最高评定等级。
目前，合合信息 AI 技术已落地于银行、保险、证券、制作、政务等近 30 个行业，服务寰球超过 200 个国家和地区的集体及企业用户。将来，合合信息将与学术、产业合作伙伴独特助力 AI 图像内容行业的平安和可信倒退，打造上海人工智能倒退的亮丽名片。
