兰州市建设局官方网站,厦门企业宣传片制作,省级网站建设标准,事业单位网站建设费科目来源#xff1a;科技日报 机器学习模型受到攻击将产生严重的后果#xff0c;但如果对这一情形提前预防呢#xff1f;就像人类针对即将到来的病毒去接种疫苗一样。据澳大利亚联邦科学与工业研究组织#xff08;CSIRO#xff09;官方网站消息#xff0c;该机构的一个研究团… 来源科技日报 机器学习模型受到攻击将产生严重的后果但如果对这一情形提前预防呢就像人类针对即将到来的病毒去接种疫苗一样。据澳大利亚联邦科学与工业研究组织CSIRO官方网站消息该机构的一个研究团队日前开发了一套人工智能AI最新算法可帮助机器学习抵御可能遇到的干扰。机器学习是人工智能的核心也是使计算机具有智能的根本途径。机器学习主旨是让计算机去模拟或实现人类的学习行为以获取新的知识或技能并重新组织已有的知识结构使之不断改善自身的性能。机器学习虽然可以在大数据训练中学到正确的工作方法但它也很容易受到恶意干扰。通常攻击者是通过输入恶意数据来“欺骗”机器学习模型导致其出现严重故障。此次开发出新算法的研究团队——“Data61”机器学习小组领导者理查德·诺克表示攻击者会在进行图像识别时在图像上添加一层干扰波达到“欺骗”的目的从而让机器学习模型产生错误的图像分类。诺克及其团队成员研发的新算法通过一种类似疫苗接种的思路可以帮助机器学习“修炼”出抗干扰能力。这是针对机器学习模型打造的防干扰训练譬如在图片识别领域该算法能够对图片集合进行微小的修改或使其失真激发出机器学习模型“领会”到越来越强的抗干扰能力并形成相关的自我抗干扰训练模型。经过此类小规模的失真训练后最终的抗干扰训练模型将更加强大当真正的攻击到来之时机器学习模型将具备“免疫”功能。总编辑圈点用小伎俩干扰机器对图像的识别这种手段已经应用在网络黑产中。人眼看起来并无明显区别的图片覆上一层专门针对机器的干扰波就能让机器的判断大失水准。所谓接种疫苗其实也就是“以毒攻毒”让机器先见识已经被微小修改的图片并在训练中自我学习从而最终能识破这层恶意干扰揭开图片的庐山真面目。机器的学习功能是强大的教会它应对方法它便能自我完善。但攻击与防御总是相伴相生这是一场没有尽头的技术博弈。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
