WAIC 2023｜合合信息AI图像内容安全新技术亮相

从自动驾驶、AI医疗再到AIGC，AI技术正在融入人们的工作与生活。随着人工智能与生成式大模型的深入发展，数据安全、伦理规范、技术滥用等系列风险与隐患开始浮出水面。

面对AI引发的“信任焦虑”，世界人工智能大会期间，中国信息通信研究院（简称中国信通院）举办了“聚焦·大模型时代AIGC新浪潮”论坛，围绕“多模态基础大模型的可信AI”这一热门议题开设专场分享。为进一步推动可信人工智能发展，《AIGC可信倡议书》（以下简称“倡议”）面向全球正式发布。上海人工智能实验室、中国通信院、武汉大学、蚂蚁集团、百度、OPPO、合合信息等共同出席本次倡议发布仪式。

多方主体共同发起《AIGC可信倡议》

遏制图片造假乱象，建立技术标准是关键

当AI的热潮席卷全球时，科技造假技术随之更迭。在图像内容安全领域，“有图有真相”这句话正在失去它原有的含义：图像篡改变得越来越容易，AI合成图像变得真假难辨，这在一定程度上助推了新型诈骗、资讯造假等乱象的蔓延。

AI监管正在成为网络安全重点。4月11日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》（下称《办法》）。《办法》明确了生成式人工智能的定义，并指出利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

除了AIGC技术带来的“生成式造假”外，人们无意中发布在公开平台的证件、资格证明照片，也可能被不法分子用来“作文章”。

为助力个人及企业信息保护，让AI可信化发展落到实处，在中国信通院的指导下，合合信息与中国图像图形学学会、中国科学技术大学等国内知名研究机构、院校一道，开启了《文档图像篡改检测标准》的编制工作。该标准将重点关注“细粒度”视觉差异伪造图像鉴别、生成式图像判别、文档图像完整性保护等图像内容安全领域的关键问题，凝聚行业共识，系统性地建立一套共同遵循的规范和准则，为行业的发展提供了有效的指引。

随着技术应用面的不断拓宽，“可信AI”的内涵也正在经历一个从模糊到清晰、从起步到成熟的发展过程。合合信息智能创新事业部总经理唐琪在论坛分享中表示，《文档图像篡改检测标准》制定项目的启动，是AI图像内容安全体系建设之路上的重要的里程碑。期待更多研究机构、企业主体参与进来，共同推动AI服务规范性的整体提升和行业发展秩序的建立，助力科技向上而行，向善发展。

合合信息智能创新事业部总经理唐琪介绍AI图像安全相关技术成果

合合信息AI图像内容安全技术升级亮相，向假图欺诈“宣战”

构建安全可信的人工智能，正在成为全球共识。历年世界人工智能大会素有“科技风向标、产业加速器”之称。本次大会上，人工智能公司合合信息发布了全新的AI图像安全技术方案，包括AI图像篡改检测、生成式图像鉴别、OCR对抗攻击技术等三项重点技术，以对抗恶意的图像篡改、虚假生成图片和非法个人信息的获取，吸引了众多研究、产业机构的关注。

值得关注的是，在2022年的世界人工智能大会上，合合信息“PS篡改检测”技术首次亮相，凭借“像素级”的识别精确度，精准定位证件、小票中的图像篡改痕迹，引发社会热议。今年，公司升级发布了AI图像篡改检测技术，应用面也拓展至日常生活、办公中常见的截图篡改检测。

截图中通常包含了转账记录、隐私聊天记录、商业机密等重要信息，若遭受恶意篡改或泄漏，个人及企业可能遭受更大的财产损失。合合信息在本次大会上发布的AI图像篡改检测技术可检测包括转账记录、交易记录、聊天记录等多种截图。合合信息提出的基于HRNet的编码器－解码器结构的图像真实性鉴别模型，可达到高精度鉴别效果。

合合信息AI图像篡改检测技术对“重打印”造假图片进行篡改定位

在实际操作中，只需将图片输入到合合信息AI图像篡改检测模型中，模型便能够判别这张图像是否被篡改，并且定位出篡改图像的篡改区域。即使是通过“擦除”“重打印”等方式篡改的图片，使用AI图像篡改检测技术仍可一眼识别。

AIGC的爆火引发的“生成式图像造假”也是AI图像安全重点关注的领域。合合信息AI生成图片鉴别技术可用于判断图片是否由AI生成。该项技术能够利用多维度特征来分辨真实图片和生成式图片的细微差异，达到对生成图片的鉴别目的。

除了对虚假图片进行事后识别，合合信息还创新性地研发了OCR对抗攻击技术，为个人或企业在重要文件传输之前“保驾护航”。该项技术可以对场景文本或者文档内文本进行扰动，防止第三方读取图像中所有的文字内容，起到降低数据泄露风险，保护个人信息的目的。

公开资料显示，合合信息是一家人工智能及大数据科技企业，专注于复杂场景文字识别、智能图像处理、自然语言处理（NLP）、知识图谱、大数据挖掘等技术。截至目前，合合信息智能文字识别、智能文档处理相关技术已发表于CVPR、AAAI、ACL、ACM MM等国际顶会上，并在ICPR、ICFHR 等十余项国际竞赛中获得冠军。