文档图像是信息的重要载体，却常常被不法分子利用软件、算法进行篡改。这些虚伪资料往往被用于散播谣言、经济欺骗、假造虚伪新闻，给集体、社会造成了顽劣的影响。AIGC 寰球爆火后，人们对“生成式造假”危险的攀升倍感忧愁，图像内容的平安与可信性也成为了公众关注的焦点。
为贯彻落实《中华人民共和国网络安全法》《生成式人工智能服务治理》等文件中对于 AI 服务的规范性要求，系统性建设图像内容平安行业倒退秩序，中国信息通信研究院（以下简称“中国信通院”）启动了《文档图像篡改检测规范》制订工作。该项规范由中国信通院牵头，上海合合信息科技股份有限公司、中国图象图形学学会、中国科学技术大学等科技翻新企业及出名学术机构联结编制。
《文档图像篡改检测规范》将为文档图像内容平安提供牢靠保障，助力新时代 AI 平安体系建设。作为牵头方，中国信通院示意，《文档图像篡改检测规范》将基于产业现状，围绕“细粒度”视觉差别伪造图像甄别、生成式图像判断、文档图像完整性爱护等行业焦点议题，凝聚行业共识，以期为行业提供无效指引。图像篡改危险近在眉睫，规范出台火烧眉毛 随着技术的倒退和电子设备普及率的晋升，人们批改图像的门槛变得越来越低，以往图像内容加工须要应用业余的软件，当初通过某些平台或者软件，动动手指即可产出一张虚伪图片，数字图像的原始性和真实性面临严厉挑战。此前，图像篡改检测的技术钻研对象次要集中于天然场景图像。然而，真正为人们的生存带来危险的通常是被篡改的资质证书、文档、聊天截图等。传统的检测零碎往往难以对这些文档图像进行篡改断定及批改内容定位，次要起因如下：
一方面，实在场景中的篡改办法多样、篡改视觉痕迹轻微，对篡改检测计划提出了挑战；文档版面的复杂化、文本内容的多样化亦成为图像内容检测辨认过程中的“拦路虎”，加大了篡改检测施行的难度。
此外，传统的图像篡改检测办法在面对全局性的裁剪、调色解决以及组合式造假手法时，其检测覆盖面、精准度、安全性尚存在晋升空间，须要政府、钻研机构、企业等多方主体联结起来，通过建设技术规范规范，助力 AI 视觉图像产业健康成长。
图像内容平安成为“可信 AI”将来重点建设方向 AI 是一把“双刃剑”。中国信通院公布的《可信人工智能产业生态倒退报告（2022）》提到，可信已成为人工智能产业倒退必备因素，驱动人工智能标准倒退。“可信”反映了 AI 零碎、产品和服务在安全性、可靠性、可解释、可问责等一系列外在属性的可信赖水平，相干概念正随着技术倒退的脚步，从含糊走向清晰、从起步走向成熟。开年以来，以语言生成类、视觉生成类模式为代表的 AIGC 产品引发了社会对于图文内容“可信度”问题的探讨。
《文档图像篡改检测规范》的制订，或将为中国“可信 AI”在机器视觉、图像处理畛域的体系建设提供无力反对。利用科技伎俩实现文本篡改痕迹精准检测，将为文档图像内容平安提供牢靠保障，助力新时代 AI 平安体系建设。在图像内容平安畛域，已有局部企业开展了前沿摸索，利用科技伎俩对篡改文本图像履行真伪断定、篡改痕迹检测，人工智能科技企业合合信息是其中的代表。据悉，合合信息研发了基于深度学习的图像篡改检测技术及相干零碎，可检测出多种篡改模式，智能捕获图像在篡改过程中留下的轻微痕迹，并以热力求的模式展现图像区域篡改地点，相干技术已被利用于银行、保险等行业中。
合合信息图像篡改检测技术对户口本图片篡改痕迹进行定位
公开材料显示，合合信息专一于智能文档解决底层技术及利用产品的钻研工作，相干技术在国内顶会 ICPR、ICFHR 等十余项比赛中取得冠军，并于 CVPR、AAAI、ACL、ACM MM 等国内顶会上发表。目前，公司已取得超百项自主知识产权发明专利，为寰球超过 200 个国家和地区的上亿用户提供智能文字辨认产品及 AI 服务。