国产AI“防篡改”技术获国际权威比赛冠军
来源:北京日报客户端     时间:2023-08-08 12:01:58


(资料图片)

北京日报客户端 | 记者 孙奇茹

AI技术的快速发展激发了人们对于美好未来的畅享,也带来了潜在危机。一些经过AI人工智能技术篡改合成的图片被用于散播谣言、经济诈骗、编造虚假资讯,数据泄露、电信诈骗等系列风险与隐患开始浮出水面。图像内容安全是AI安全的重点领域,如果能对图片里文本篡改痕迹进行精准检测,将为图像内容安全提供保障。2023年文档分析与识别国际会议(ICDAR)挑战赛近日落下帷幕,中国人工智能及大数据科技企业合合信息战胜了来自全球的上千支参赛团队,获得“文本篡改检测”赛道总冠军。

ICDAR由国际模式识别协会IAPR(International Association of Pattern Recognition)举办,是模式识别、计算机视觉领域、图像处理领域最为重要的国际学术会议之一,涵盖了文档分析与识别领域的最新学术成果和前沿应用发展趋势,历届赛事均吸引了各大顶尖科研院校、科技公司积极参与。在金融、电子商务、教育等多个领域,文本信息被恶意篡改将导致严重的后果。因此,ICDAR专门推出“文本篡改检测”专项竞赛,旨在通过技术手段,为AI应用及图像内容安全建设寻找新思路。

由于篡改手段的多样性、篡改文本的隐蔽性,文本篡改检测目前存在着众多难点,如篡改痕迹微弱、篡改文本与邻近文本高度相似等,种种难点对检测方法的精度和泛化性提出了挑战。合合信息技术人员介绍,其AI图像篡改检测方案在篡改区域定位、防止误判等方面表现优异,适配多种真实场景,能够在保持极低误检率的同时,准确识别并定位图片中文本的篡改行为,从而有效保障文本信息的真实性。

在2022年的世界人工智能大会上,合合信息“PS篡改检测”技术公开亮相,该技术能够精准定位证件、小票中的图像篡改痕迹,相关方案在银行、证券、保险多个场景中落地。今年,其升级发布了“AI图像篡改检测技术”,将应用面拓展至日常生活、办公中更为常见的截图篡改检测。例如,人们手机中的截图中通常包含了转账记录、隐私聊天记录、商业机密等重要信息,若遭受恶意篡改或泄漏,个人及企业可能遭受更大的财产损失。技术人员基于HRNet的编码器-解码器结构的图像真实性鉴别模型,可达到高精度鉴别转账记录、交易记录、聊天记录等多种截图的效果。

关键词:

新闻推荐