如何制作一个php网站源码,联系我们网页设计图片,国外营销型网站,贵阳手机端网站建设目录 0 写在前面1 AI图像篡改检测2 生成式图像鉴别2.1 主干特征提取通道2.2 注意力模块2.3 纹理增强模块 3 OCR对抗攻击4 助力可信AI向善发展总结 0 写在前面
2023世界人工智能大会(WAIC)已圆满结束#xff0c;恰逢全球大模型和生成式人工智能蓬勃兴起之时#xff0c;今年参… 目录 0 写在前面1 AI图像篡改检测2 生成式图像鉴别2.1 主干特征提取通道2.2 注意力模块2.3 纹理增强模块 3 OCR对抗攻击4 助力可信AI向善发展总结 0 写在前面
2023世界人工智能大会(WAIC)已圆满结束恰逢全球大模型和生成式人工智能蓬勃兴起之时今年参会的人们更加关注AIGC技术在未来可以如何作用于人们的生活。 自AIGC技术兴盛以来生成式造假也让人们倍感忧虑。
图像是信息的重要载体也是信息保护的重点关注对象。图像编辑软件的发展和普及降低了虚假图像的制作门槛大量基于虚假图片产生的诈骗案件、网络暴力事件在全球范围内造成了恶劣的影响。图像内容的安全与可信性也成为了公众关注的焦点但图像领域的“可信AI”才刚刚起步。
在本次世界人工智能大会可信AI论坛上合合信息展示了“三大技术一项标准”探索AI在图像内容安全领域可信化发展的多重可能
1 AI图像篡改检测
篡改文本检测(TTDtampered text detection)作为多媒体信息安全领域的一个新兴研究方向是指通过对文本图像中纹理特征的分析捕捉真实文本和篡改文本之间的纹理差异性以确定文本图像中文字区域的真伪性。常见的应用场景有谣言检测流水、合同造假识别、欺诈图像识别、学历造假检测、保单PS检测等。
篡改文本检测任务有两个主要挑战。
局部纹理差异性捕捉困难。篡改文本与真实文本仅存在局部纹理差异真实和篡改文本检测精度平衡困难。
P图是常见的图像篡改手段之一。去年的世界人工智能大会上合合信息PS篡改检测技术首次亮相像素级起底修改痕迹覆盖身份证、护照等多种证照识别类目吸引了社会各界关注。该技术基于深度学习的图像篡改检测技术及相关系统通过学习图像被篡改后统计特征的变化智能捕捉图像在篡改过程中留下的细微痕迹并以热力图的形式展示图像区域篡改地点相关技术已在银行、保险等领域落地应用
今年图像篡改检测“黑科技”持续优化升级应用面也拓展至截图篡改检测。此前图像篡改检测的技术研究对象主要集中于自然场景图像然而真正为人们的生活带来风险的通常是被篡改的资质证书、文档、截图等。 合合信息AI图像篡改检测技术可检测包括转账记录、交易记录、聊天记录等多种截图无论是从原图中“抠下”关键要素后移动“粘贴”至另一处的“复制移动”图片篡改手段还是“擦除”、“重打印”等方式图像篡改检测技术均可“慧眼”识假
这类截图篡改检测比传统篡改检测更困难原因在于与自然图像相比截图的背景没有纹路和底色整个截图没有光照差异难以通过拍照时产生的成像差异进行篡改痕迹判断现有的视觉模型通常难以充分发掘原始图像和篡改图像的细粒度差异特征。
2 生成式图像鉴别
相较传统的文本检测任务生成式篡改文本检测任务需要进一步区分篡改和真实文本。由于真实和篡改文本分类难度不一致训练过程中网络无法平衡两类的学习过程导致在测试过程中两类检测精度差异较大。上述挑战极大地限制了篡改文本检测方法的性能。因此如何准确地捕捉局部纹理差异性同时平衡篡改和真实类别学习难度是目前篡改文本检测研究的重要方向。
该任务的难点主要分为两点
生成出来的图像场景繁多不能穷举不能通过细分来一一训练解决有些生成图和真实图片的相似度过高很贴近于人类的判断对于机器而言真伪判定只会更难
为此合合信息提出了一种基于HRNet的编码器-解码器结构的图像真实性鉴别模型结合图像本身的信息包括但不限于噪声、频谱等能够在不用穷举图片的情况下利用多维度特征来捕捉真实图片和生成式图片细粒度的视觉差异达到高精度鉴别目的。模型结构如下图所示 2.1 主干特征提取通道
上述模型的第一个通道由若干主干提取网络层组成
主干提取网络Backbone Network在计算机视觉任务中扮演着关键的角色通过一系列的卷积层、池化层和激活函数等操作从原始图像中提取出各种特征这些特征具有较好的局部感受野和平移不变性能够捕捉到图像的结构和纹理信息负责提取图像特征的主要组成部分。 主干网络的目标是将输入的图像转化为高级语义特征表示通常是一系列的特征图。通过多层的卷积和非线性激活函数主干网络可以学习到图像中的抽象特征表示。这些特征表示具有层次化的结构能够逐渐提高语义表达能力从低级的边缘、角点到高级的物体形状和语义信息为后续的任务提供了更丰富和有意义的输入。同时主干网络通常采用多层卷积和池化操作可以在不同的层次上提取特征。这样的设计使得网络对于不同尺度的目标具有一定的感知能力能够处理从小物体到大物体的尺度变化。在一些任务中主干网络还可以进行特征融合操作将来自不同层次的特征进行组合以获取更全局和综合的特征表示。例如通过连接或级联多个分辨率的特征图可以获得更好的目标检测或语义分割结果。
2.2 注意力模块
注意力机制Attention Mechanism在计算机视觉任务中发挥着重要的作用。它是一种模拟人类视觉系统中注意力机制的方法通过对输入的图像或特征进行加权将注意力集中在具有重要信息的区域上从而提高任务的性能和效果。 举例而言在目标检测任务中注意力机制能够帮助模型更关注感兴趣的目标区域提高检测的准确性和鲁棒性。通过将注意力权重应用于特征图中的不同位置可以突出目标的位置并抑制背景信息在图像分类任务中注意力机制可以提高模型对图像中重要区域的关注度减少对无关区域的注意力分配。通过将注意力权重应用于特征图的不同通道可以选择性地突出重要的图像特征提高分类的准确性在语义分割任务中注意力机制可以帮助模型更好地理解图像的语义结构。通过对特征图的每个像素位置应用注意力权重可以增强重要的语义区域并抑制非重要区域从而提高分割的精度和细节。
而在本文介绍的图像生成任务中注意力机制可以用于生成具有更好质量和多样性的图像。通过对生成器模型的输入特征进行加权可以指导生成过程集中在重要的特征或区域上生成更真实的图像结果进行对抗训练。 现在热门的Transformer也正是基于注意力机制构建
2.3 纹理增强模块
对于纹理缺失的截图图像鉴别而言纹理增强模块扮演着重要的角色。它的作用是通过增强图像的纹理信息提供更丰富、更清晰的视觉特征从而改善图像分析和理解的效果。
纹理增强模块首先对输入图像进行预处理包括去噪、平滑等操作以减少噪声对后续处理的影响接着利用各种纹理特征提取算法如局部二值模式Local Binary Patterns, LBP、方向梯度直方图Histogram of Oriented Gradients, HOG等提取图像中的纹理信息。根据提取的纹理特征使用图像增强算法对图像进行增强如调整对比度、增加锐度等使纹理信息更加清晰和鲜明。最后根据具体任务的需求可以对增强后的图像进行后处理如去除无关的纹理信息、进一步提取图像特征等。
总之纹理增强模块可以帮助算法在低对比度、模糊、噪声等不良环境下更好地工作提升算法的鲁棒性和性能。
3 OCR对抗攻击
在印刷体的文字识别领域开展最早且技术上最成熟的是国外的西方文字识别技术。早在 1929 年德国的科学家Taushek已经取得了一项光学字符识别(optical character recognition, OCR)专利。自上个世纪五十年代以来欧美国家就开始研究关于西方各个国家的文字识别技术以便对日常生活中产生的大量文字材料进行数字化处理。经过长时间的不断研究和完善西文的OCR技术已经有一套完备的识别方案并广泛地用在西文的各个领域中。
说到光学字符识别大家可能比较陌生但或多或少都应该听说过OCR通俗来讲OCR技术采用电子设备例如扫描仪或数码相机检查纸上打印的字符然后用字符识别方法将形状翻译成计算机文字。人们会出于生活、工作需要拍摄自己的相关证件、文件并发送给第三方这些图片上承载的个人信息可能被不法分子使用OCR技术识别提取并泄露。 那么什么是对抗攻击Adversarial Attack呢这是近年来深度学习研究中出现的一个新问题Szegedy等在图像分类问题上发现深度神经网络容易遭受到对抗样本的攻击从而威胁到神经网络的安全性。对抗样本是指在图像上添加一些不影响人眼判断的干扰噪声但能有效的迷惑深度模型使其作出错误判断的样本。如下图左侧是一张大熊猫的图像当添加一个噪声生成右侧的对抗样本。对于某个神经网络能够正确的判定左图为大熊猫却错误的判定右侧为长臂猿而且相应的置信度为99.3%。而对于人眼来说左右两张图像并没有明显的差异。 对抗样本产生的机理比较复杂通常来说较大的模型参数对输入信号具有放大作用某些微弱的信号被严重放大之后会对分类器产生干扰。使用正则化技术能够在一定程度上减弱对抗样本的攻击但是效果非常有限。目前比较有效的防御手段是生成足够的对抗样本然后将这些样本添加到训练集中进行二次训练这样获得的模型则对大多数对抗样本具有较强的防御能力。
基于个人、企业业务的文件资料保密需求合合信息进行了创新技术探索研发了OCR对抗攻击技术来进行文档图片“加密”。该技术可在不影响肉眼观看与判断的情况下对场景文本或者文档内文本进行扰动对包含中文、英文、数字等关键信息的内容进行“攻击”防止第三方通过OCR系统读取并保存图像中所有的文字内容降低数据泄露的风险以此达到保护信息的目的。
4 助力可信AI向善发展
图像安全的重要性与日俱增标准规范的出台迫在眉睫。合合信息与中国信通院等权威机构一道携手国内顶尖院校、研究机构及企业共同探索AI技术在图像领域的可信化落地这一深远命题助力科技向上的同时向善发展。
中国信通院牵头启动了《文档图像篡改检测标准》制定工作合合信息、中国图象图形学学会、中国科学技术大学等科技创新企业及知名学术机构联合编制。
《文档图像篡改检测标准》将为文档图像内容安全提供可靠保障助力新时代AI安全体系建设。作为牵头方中国信通院表示《文档图像篡改检测标准》将基于产业现状围绕“细粒度”视觉差异伪造图像鉴别、生成式图像判别、文档图像完整性保护等行业焦点议题凝聚行业共识以期为行业提供有效指引。
总结
近期合合信息相关产品接连获得中国信通院在智能文档处理、OCR智能化领域的高分评级。智能文档处理系统评估结果显示AI核心能力方面合合信息产品在NLP领域的文本分类、知识图谱领域的实体识别、关系抽取及OCR领域的字符识别、文本行识别均获得5分评分。合合信息智能文档处理产品获得“5级”评定。据悉“5级”为该模块最高评定等级。
OCR评估中合合信息智能文字识别产品顺利通过全部7项基础类功能指标测试以及9项增强类功能指标测试获得“增强级”评级。评估报告认为公司智能文字识别产品展现出良好的性能和服务成熟度。以具有较大难度的证件类和票据类性能测试为例面对旋转、阴影、反光、褶皱、形变、模糊、多语言、低像素、光照不均等复杂场景合合信息智能文字识别产品均有较高的识别准确率字符准确率分别为99.21%和99.59%字段准确率分别为97.87%和98.42%。
测试结果还显示合合信息智能文字识别产品支持超过50种复杂语言的识别为全球化、多语言背景下的信息智能识别提供了技术支撑。现阶段公司已获得超百项自主知识产权发明专利为全球超过200个国家和地区的上亿用户提供智能文字识别产品及AI服务。未来公司将持续关注图像领域新需求、新动态用“过硬”的AI为行业发展注入安全感。
