韩国家具网站模板,环保网站建设说明书,做公司网站需要准备什么,廉政网站 建设需求诞生之初#xff0c;Deepfake是一项有趣的图像处理技术#xff0c;仅仅带来搞笑和娱乐视频#xff0c;但殊不知#xff0c;潘多拉魔盒就此被打开#xff0c;催生出色情黑产、恶搞政客“操纵”民意#xff0c;Deepfake正逐步进化为一种新型“病毒”#xff0c;人类伦理道… 诞生之初Deepfake是一项有趣的图像处理技术仅仅带来搞笑和娱乐视频但殊不知潘多拉魔盒就此被打开催生出色情黑产、恶搞政客“操纵”民意Deepfake正逐步进化为一种新型“病毒”人类伦理道德的“遮羞布”也被无情揭开。 图Saturday Night Live中凯特·麦金农换脸伊丽莎白·沃伦 面对因新技术而引发的公众恐慌相关监管机构也加快采取行动出台“打假”策略旨在打击Deepfake虚假音视频控制“造假病毒”的传播。同时国内也迎来了“最严数据管理”的一年。 11月29日中国国家网信办也正式发布《网络音视频信息服务管理规定》指出自2020年1月1日起AI造假视频不得随意发布。新规定中关于AI造假音视频的规定主要有四条“按照国家有关规定开展安全评估”、“以显著方式予以标识”非真实音频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。 新规中不难发现有效抑制Deepfake及类似造假需要“两手抓”除了利用法律法规严控“别有用心者”作恶更要从源头加强安全评估、鉴别技术等能力借助技术手段提前布局在检测方面领先一步。 近日来自清华大学的人工智能企业——RealAI正式发布了一款深度伪造视频检测工具可一键实现对深度伪造Deepfake视频的自动精准识别。 一、 一键换脸到一键“打假” RealAICEO田天表示尽管需求达成一致但目前大规模应用的打假方法面临诸多困难。 首先Deepfake的开源技术让AI换脸的使用门槛降低到手机美颜、P图的水平一键换脸带来了“造谣”成本的降低、爆炸式的传播。可是在防御层相应标准化的检测工具却几乎没有人工鉴别不仅专业性要求高且效率低。所以无论对于个人、平台还是第三方机构而言打假辟谣的时间窗口很短难度却很高。 图雷佳音左换脸郭德纲右 另外更严重的问题在于很多情况下Deepfake“以假乱真”的程度极高人眼难以察觉。加之其算法目前还无法建模分析检测技术的研究被严重影响而造假方的适应速度却很快新技术日益迭代。 RealAI基于第三代AI技术推出的深度伪造视频检测产品通过采用“数据增广”的方式用伪造的视频训练出一个新的模型从而让模型能够更好识别出伪造痕迹分辨出造假视频可谓“魔高一尺道高一丈”。该产品支持图像、视频内容鉴别用户基于API接口将待检测的图片、视频上传一键即可反馈真伪。 事实上开展针对Deepfake的“打假”研究的团队早就存在但相关的成果仅停留在算法层面更多的是为学术研究提供使用无法应对真实环境下大范围传播的虚假内容所以RealAI推出的这款标准化自动检测工具可以说给规模化的“打假”行动带来了新希望。 二、检测准确率达99%Deepfake“在劫难逃” 作为清华大学人工智能研究院核心孵化企业以及国内首家安全可控人工智能系统提供商RealAI在AI安全与攻防技术领域拥有业界领先优势。在今年刚结束的GeekPwn2019国际安全极客大赛中其与清华大学联合战队一举获得“CAAD CTF图像对抗样本挑战赛”以及“CAAD 隐身挑战赛”两项比赛的冠军。 深厚的技术积累也让RealAI安全研究团队对“造假方”的攻击原理有着更深刻的理解能够更有针对性地开发检测工具。本次推出的深度伪造视频检测产品将原本高难度的检测过程大幅简化只需接入SDK即可一键实时检测调用简单快捷。Deepfake视频检测产品流程图 与目前市面上已有的检测技术相比RealAI的视频检测工具利用深度学习算法、大量数据集训练模型能够检测出绝大多数AI换脸假视频准确率达99%内部测试数据集上。在面对算法的换脸效果越来越逼真的情况RealAI的研发团队也集中研发新型的检测算法以迭代和更新RealAI的检测算法库。 更值得注意的是该产品适用于复杂视频内容检测支持多种格式和多人脸检测模式1S识别最高可支持10人以上同屏。 三、Deepfake的潘多拉魔盒终将被关上 随着Deepfake技术被滥用传统意义上“真实”与“虚假”的界限被模糊这对于社会生活的影响之大此前未被预想到但如今技术作恶所带来的负面影响正全面爆发。 比如网络上肆意传播的视频、图片内容内容平台传统的审核机制无法辨别Deepfake生成内容若采用人工审核需要投入额外的时间、人力成本特定对象被编造虚假信息在社交平台上广泛传播处于舆论中心的当事人由于找不到能够证实“谣言”是捏造的有效途径个人声誉因此受损案件调查、法庭辩论中涉及的视频、图像等证据材料警察、律师等人员无法单凭肉眼识别证据是否是基于Deepfake伪造需要专业工具鉴定真伪事故中真伪难辨的影像资料保险公司的审查人员缺乏Deepfake造假认知以及不配备专业鉴别能力存在被诈骗理赔的风险…… “人人都怕换脸术”的恐慌让反Deepfake的检测需求变的异常迫切本次RealAI检测工具的推出通过与内容平台、执法机构、保险公司等机构开展合作能够在虚假内容甄别、线上资料审核以及影像物证真实性检验等实际应用场景发挥作用并帮助企业与个人更好的进行信息管控与风险预警。 最后在这场AI军备竞赛中Deepfake将持续演化RealAI也将持续迭代技术、打磨产品。RealAICEO田天表示未来AI必然是安全可控的AI一键“打假”终将超越一键换脸的速度Deepfake的潘多拉魔盒也终将被关上。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
