计算机培训班哪些好,深圳视频seo,泰州市建设局网站,做网站内容图片多大来源 #xff1a;机器人大讲堂摘要#xff1a;在一些社交媒体平台#xff0c;每次你上传照片或视频时#xff0c;它的人脸识别系统会试图从这些照片和视频中得到更多信息。比如#xff0c;这些算法会提取关于你是谁、你的位置以及你认识的其他人的数据#xff0c;并且机器人大讲堂摘要在一些社交媒体平台每次你上传照片或视频时它的人脸识别系统会试图从这些照片和视频中得到更多信息。比如这些算法会提取关于你是谁、你的位置以及你认识的其他人的数据并且这些算法在不断改进。现在人脸识别的克星——“反人脸识别”问世了。多伦多大学Parham Aarabi教授和研究生Avishek Bose的团队开发了一种算法可以动态地破坏人脸识别系统。他们的解决方案利用了一种叫做对抗训练adversarial training的深度学习技术这种技术让两种人工智能算法相互对抗。现在深度神经网络已经被应用于各种各样问题如自动驾驶车辆、癌症检测等但是我们迫切需要更好地理解这些模型容易受到攻击的方式。在图像识别领域在图像中添加小的、往往不可察觉的干扰就可以欺骗一个典型的分类网络使其将图像错误地分类。这种被干扰的图像被称为对抗样本 adversarial examples它们可以被用来对网络进行对抗攻击adversarial attacks。在制造对抗样本方面已经有几种方法它们在复杂性、计算成本和被攻击模型所需的访问级别等方面差异很大。一般来说对抗攻击可以根据攻击模型的访问级别和对抗目标进行分类。白盒攻击white-box attacks可以完全访问它们正在攻击的模型的结构和参数黑盒攻击black-box attacks只能访问被攻击模型的输出。一种基线方法是快速梯度符号法FGSM它基于输入图像的梯度对分类器的损失进行攻击。FGSM是一种白盒方法因为它需要访问被攻击分类器的内部。攻击图像分类的深度神经网络有几种强烈的对抗攻击方法如L-BFGS、acobian-based Saliency Map Attack(JSMA)、DeepFool和carlin - wagner等。然而这些方法都涉及到对可能的干扰空间进行复杂的优化这使得它们速度慢计算成本高。与攻击分类模型相比攻击目标检测的pipeline要困难得多。最先进的检测器例如Faster R-CNN使用不同尺度和位置的对象方案然后对它们进行分类其目标的数量比分类模型大几个数量级。此外如果受到攻击的方案只是总数的一小部分那么仍然可以通过不同的方案子集正确地检测出受干扰的图像。因此成功的攻击需要同时欺骗所有对象方案。在这个案例中研究人员证明了对最先进的人脸检测器进行快速对抗攻击是可能的。研究人员开发了一种“隐私滤镜”可以干扰人脸识别算法。该系统依赖于2种AI算法一种执行连续的人脸检测另一种设计来破坏前者。研究人员提出一种针对基于Faster R-CNN的人脸探测器的新攻击方法。该方法通过产生微小的干扰perturbation当将这些干扰添加到输入的人脸图像中时会导致预训练过的人脸探测器失效。为了产生对抗干扰研究人员提出针对基于预训练Faster R-CNN人脸检测器训练一个生成器。给定一个图像生成器将产生一个小的干扰可以添加到图像中以欺骗人脸检测器。人脸检测器只在未受干扰的图像上进行脱机训练因此对生成器的存在浑然不觉。随着时间的推移生成器学会了产生干扰这种干扰可以有效地欺骗它所训练的人脸探测器。生成一个对抗样本相当快速而且成本低甚至比FGSM的成本更低因为为输入创建一个干扰只需要在生成器经过充分的训练后进行前向传递 forward pass。两个神经网络相互对抗形成“隐私”滤镜研究人员设计了两个神经网络第一个用于识别人脸第二个用于干扰第一个神经网络的识别人脸任务。这两个神经网络不断地相互对抗并相互学习。其结果是一个类似instagram的“隐私”滤镜可以应用于照片以保护隐私。其中的秘诀是他们的算法改变了照片中的一些特定像素但人眼几乎察觉不到这些变化。“干扰性的AI算法不能‘攻击’用于检测人脸的神经网络正在寻找的东西。” 该项目的主要作者Bose说“例如如果检测网络正在寻找眼角干扰算法就会调整眼角使得眼角的像素不那么显眼。算法在照片中造成了非常微小的干扰但对于检测器来说这些干扰足以欺骗系统。”算法1对抗生成器训练给定人脸检测置信度的对抗成功率。α值是边界框区域被分类为人脸之前的confidence threshold右边两列表示600张照片中检测到脸部的数量。研究人员在300-W人脸数据集上测试了他们的系统该数据集包含多种族不同照明条件和背景环境的超过600张人脸照片是一个业界的标准库。结果表明他们的系统可以将原本可检测到的人脸比例从接近100%降低到0.5。所提出的对抗攻击的pineline其中生成器网络G创建图像条件干扰以欺骗人脸检测器。Bose说“这里的关键是训练两个神经网络相互对抗——一个创建越来越强大的面部检测系统另一个创建更强大的工具来禁用面部检测。”该团队的研究将于即将举行的2018年IEEE国际多媒体信号处理研讨会上发表和展示。将300-W数据集的人脸检测和相应的对抗样本进行对比这些样本具有生成的干扰没有被Faster R-CNN人脸检测器检测到。被检测到的人脸被包围在具有相应置信度值的边界框中。 为了可视化干扰被放大了10倍。除了禁用面部识别之外这项新技术还会干扰基于图像的搜索、特征识别、情感和种族判断以及其他可以自动提取面部属性。接下来该团队希望通过app或网站公开这个隐私滤镜。“十年前这些算法必须要由人类定义但现在是神经网络自己学习——你不需要向它们提供任何东西除了训练数据”Aarabi说。“最终它们可以做出一些非常了不起的事情有巨大的潜力。”未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
