马克 扎克伯格大学做的网站,wordpress模板 content,外贸原单,大连网络运营来源#xff1a;Monash University作者#xff1a;He Zhang#xff0c;Bang Wu前言在过去的几年里#xff0c;以神经网络为首的人工智能技术通过对不同类型数据的深入挖掘已经深刻地改变了人类的生活并极大地推动了社会发展的进程 [1]。作为人工智能领域最活跃的研究方向之… 来源Monash University作者He ZhangBang Wu前言在过去的几年里以神经网络为首的人工智能技术通过对不同类型数据的深入挖掘已经深刻地改变了人类的生活并极大地推动了社会发展的进程 [1]。作为人工智能领域最活跃的研究方向之一图神经网络GNNs凭借其卓越的性能已经被广泛应用于个性化推荐等日常生活中在如新冠药物研发等科学前沿领域也不乏其身影。随着图神经网络技术的蓬勃发展人们发现以任务性能为单一设计目标的图神经网络系统中仍存在譬如面对恶意攻击的脆弱性等问题。因此人们愈发渴望建立起可信的图神经网络。近年来构建可信人工智能系统已经成为了世界各国的普遍共识 [2][3]。如何全面地建立起可信图神经网络已经成为了一个亟待解决的重大问题。该文是由Monash团队Shirui Pan, Xingliang YuanBang Wu, He Zhang联合Hanghang Tong (UIUC) 以及Jian Pei (SFU即将入职Duke)对可信图神经网络的最新综述双栏36页299篇文献。该综述从研究背景与特点出发提出了一个可信图神经网络的开放框架着重阐述了“可信GNN”的六大维度鲁棒性、可解释性、隐私、公平性、问责、环境福祉及其技术方法。同时该综述探讨了不同可信维度之间的交互关系并提出了可信图神经网络未来的研究方向为建立起可信图神经网络描绘了一幅细致而全面的技术路线图。综述名称Trustworthy Graph Neural Networks: Aspects, Methods and Trends全文链接https://arxiv.org/pdf/2205.07424.pdfGithub: https://github.com/Radical3-HeZhang/Awesome-Trustworthy-GNNs 1绪论图作为一种具有极强表示能力的数据类型通过描述实体特征和刻画实体之间的关系已经被广泛应用于描述生物学、化学、物理学、语言学和社会科学等诸多领域的数据。近年来图神经网络技术的蓬勃发展已经革命性地提升了各种图计算任务的性能并促进了其在现实生活中的广泛应用。在日常生活中图神经网络通过考虑用户与用户/服务内容之间的交互关系可以在信息流媒体、在线购物、社交软件等消费应用中为用户提供个性化搜索与推荐服务。在科学前沿中通过使用图数据来表示复杂的系统研究者们可以使用图神经网络来发现天体运动背后隐藏的规律。通过将其应用于虚假新闻检测与新冠药物研发图神经网络大大提升了我们的社会福祉。虽然研究者们已经从很多角度如自监督学习提升模型深度等设计出了进一步提升图神经网络性能的方法但是在一些关键领域中任务性能不是设计图神经网络的唯一目标。例如基于图神经网络的异常检测系统需要对恶意攻击具有鲁棒性基于图神经网络的信用评分系统不应该因为用户的年龄、性别等因素拒绝其贷款申请基于图神经网络的药物发现应用应向研发人员提供其结果的全面解释。基于上述需求人们愈发渴望基于图神经网络系统是可信的。在这样的背景下这篇综述旨在总结“可信图神经网络Trustworthy GNNs”的最新进展为相关研究人员和从业人员提供技术路线图并为可信图神经网络的未来研究与产业化发展提供方向。这篇综述的主要贡献有1以包含诸多可信维度的开放框架描述了可信图神经网络并提出了图神经网络与其他常见人工智能技术如CNN在可信研究中的典型差异2针对图神经网络的不同可信维度对现有方法进行了综合且全面的总结3提出了不同可信维度之间的关系对于构建可信图神经网络系统至关重要并从方法和成效两个层面总结了已有的研究工作4通过将可信图神经网络的概念作为一个整体提出了未来的潜在研究方向。2图神经网络与可信为了便于读者理解本文首先对以下核心概念进行介绍。图数据graph data图一般由节点集合和边集合构成。该图中节点的个数为节点之间边的个数为。给定图对应的拓扑结构可以用邻接矩阵表示其中表示了节点和节点之间的连接关系。即如果节点和相互连接则否则。如果图中节点具有属性可用一个特征矩阵来描述这些属性信息。因此图也可以表示为。图神经网络GNNs图神经网络是一系列可用于图数据上计算任务如节点分类、链接预测、图分类的神经网络的总称。图神经网络中的一个典型运算步骤是消息传播message passaging。在消息传播的过程中图神经网络通过聚合所有邻居节点的信息来更新当前节点的表示。在与其他运算结合如非线性激励的基础上经过多次表示更新迭代后图神经网络可以计算得到相应的数据表示。可信trustworthiness可信用于形容一个系统是值得被信任的它描述了信任发起者the trustor与信任接收者the trustee之间的信任trust关系。在可信图神经网络的上下文中信任接收者the trustee是图神经网络系统信任发起者the trustor可以是用户开发者监管部门甚至整个社会。可信图神经网络Trustworthy GNNs被定义为兼顾可信和卓越性能的图神经网络这些可信维度包含但不限于图神经网络的鲁棒性、可解释性、隐私、公平性、责任和福祉。原文定义如下“In this survey, we define trustworthy GNNs as competent GNNs that incorporate core aspects of trustworthiness, including robustness, explainability, privacy, fairness, accountability, well-being, and other trust-oriented characteristics in the context of GNNs.”3综述框架该综述在第一章主要介绍了研究背景、可信图神经网络的定义、不同可信维度的定义、度量和研究差异、与已有综述的关系及其主要贡献。在第二章它介绍了图神经网络的基本概念和计算任务。在第三至八章它分别从鲁棒性robustness、可解释性explainability、隐私privacy、公平性fairness、问责accountability、环境福祉environmental well-being这六个方面介绍、总结了典型的技术方法并讨论了未来的研究方向。在第九章这篇综述从方法和成效两个层面总结了上述六个可信维度之间的复杂关系。最后综述的第十章将可信图神经网络看成一个整体为全面构建可信图神经网络系统提出了未来研究与产业化的五个方向。4鲁棒性Robustness鲁棒性是指图神经网络面临干扰时保持稳定预测结果的能力。图神经网络的预测结果可以被多种扰动尤其是各类针对图神经网络的攻击所影响。这给图神经网络在这给图神经网络在银行金融系统的欺诈侦测、自动驾驶系统的交通预测及规划等涉及人身财产安全的场景中的应用带来了较为严峻的挑战。因此针对鲁棒性的研究是可信图神经网络中不可或缺的关键环节。该综述总结了目前图神经网络鲁棒性研究的相关工作并分别介绍了对抗攻击、防御的分类和一些典型方法。其中对抗攻击的分类源自对攻击威胁模型threat model的分析如下图所示对防御的分类则更多基于该技术的具体执行阶段target phase。在介绍不同类别的方法时作者对这些方法的特点与用于其他常见的人工技术如CNN的方法的差异进行了讨论。例如具体扰动操作类型perturbation operations和攻击者目的attack goals的不同分类和名称变化。此外作者还对这些攻击、防御方法的适用性进行了讨论和总结。例如对不同类型的防御方法作者从应用阶段stage of application、模块化modularity、部署的兼容性deployment compatibility三个角度进行了比较和分析。最后该综述根据目前现状提出了未来的两个研究方向分别是制定标准化的鲁棒性评估方法robustness evaluations和提高现有防御方法的可扩展性defence scalability。5可解释性Explainability可解释性是指使图神经网络的预测结果可以被人理解的能力。如果其预测结果不能够被人所理解那么人们就不会信任图神经网络。信任的缺失会进一步限制其在涉及公平如信用风险预测、信息安全如芯片设计、生命安全如自动驾驶的场景中的应用。因此可信的图神经网络系统需要对其预测结果做出解释。在介绍了解释形式、解释方法的类别等基本概念后该综述将涉及图神经网络可解释性的工作分成了自解释interpretable GNNs和事后解释post-hoc explainers两类。自解释Interpretable GNNs主要包含了贡献估计contribution estimation、引入可解释模块 introduction of interpretable module、嵌入空间原型学习embedding prototype learning 和依据生成方法rationale generation methods。事后解释post-hoc explainers主要包含了基于梯度/特征的方法gradient/feature-based methods、基于扰动的方法perturbation-based methods、代理模型方法surrogate methods、分解方法decomposition methods、生成方法generation methods和其他方法other methods。该综述在介绍了典型方法的原理后对这些方法进行了全面的比较如下表所示此外该综述从自解释与事后解释interpretability and explainability、提供解释时所需的背景知识white/grey/black-box knowledge、获得解释的推理原理reasoning rationale、其他局限性other limitations这四个方面对当前的工作进行了总结。最后该综述提出建立严格的模型不可知的解释方法strictly model-agnostic methods和用于真实应用的评估基准evaluation benchmark for real applications是图神经网络的可解释性未来研究的两个方向。6隐私Privacy隐私也是构建可信图神经网络时不可忽略的可信维度。在构建和维护可信图神经网络系统的过程中模型本身或者图数据等敏感、隐私的信息都面临被泄漏的风险。因此该综述首先对当前隐私数据泄漏相关的研究进行了总结然后介绍了多种隐私保护方法。针对隐私泄露问题该综述从当前隐私攻击的威胁模型入手首先介绍了潜在威胁的目标和能力然后介绍了模型提取model extraction attack、成员推断membership inference attack、模型逆向model inversion attack这三个常见的隐私攻击和其他场景中存在的隐私泄露隐患。随后该综述介绍了在图神经网络场景下的联邦学习federated learning、差分隐私differential privacy、脱敏训练insusceptible training、安全计算security computation这四种隐私保护技术。此外作者在对上述技术进行了分类介绍后还对它们的具体应用场景和隐私保护结束所带来的隐私保护、模型精度、实行效率之间的权衡问题进行了讨论。在章节末尾针对当前研究的现状作者认为目前对梯度信息导致的泄漏leakage from gradient隐患、隐私攻击的防御手段defence against privacy attacks的研究仍绠短汲深未来还需要进一步地关注和探索。7公平性Fairness通过保护弱势群体或者个人的关键利益公平的系统可以赢得人们的信任。公平的图神经网络系统意味着其预测结果中排除了对于某些群体或者个人的偏见。当前图神经网络主要以数据驱动的方式来完成图计算任务。然而图神经网络中的消息传播机制可能会进一步放大已经存在于数据中的偏见。此后由于个人喜好或者行为偏差等因素人们在与图神经网络服务交互的过程中将进一步加深图数据中的偏见。在介绍了公平性定义group fairnessindividual fairness, counterfactual fairness)、使用阶段pre-processing, in-processing, post-processing等基本概念后该综述将当前的用于图神经网络公平性研究的方法分成了公平表示学习方法fair representation learning methods和公平预测增强方法fair prediction enhancement methods。在介绍完这些方法的基本原理后对这些方法进行了全面的比较如下表所示。最后该综述提出探讨公平性的定义与评估fairness definition and evaluation、对任务性能的影响influence on task performance、解释不公平的来源revealing unfairness是未来图神经网络公平性研究中需要重点关注的研究方向。8问责Accountability随着愈加广泛的应用场景和复杂的系统结构的出现个人、企业和政府机构都对可信图神经网络中的有效问责提出了更高的要求。近年来中、美、欧的企业和政府机构关于如何构建人工智能的问责框架提出了各自的规划和指导意见。该综述基于上述内容归纳了对图神经网络问责框架的三个要求(1) 应当设计合理的评估和认证机制assessment and certification processes并使其伴随整个图神经网络系统的开发和运行周期(2) 应当保证开发和运行过程的可审计性assurance of auditability(3) 应当建立足够的协调和反馈机制以方便人类对系统实施干预adjusting、补救remediating等措施并可以对不当行为进行惩罚punishing。随后该综述介绍了当前可用于构建可信图神经网络系统中问责框架的两大类工作基准化分析benchmarking和安全性评估security evaluation。该综述根据图神经网络不同的开发阶段—模型设计architecture design、模型训练model training、模型验证model validation—对基准化分析的研究进行了介绍。对于安全性评估作者主要介绍了验证系统完整性integrity verification的相关研究并根据验证对象的不同分别介绍了数据完整性data integrity、程序完整性procedure integrity的验证。最后该综述为可信图神经网络的问责提出了三个研究方向。第一提供针对更多不同性质逾矩行为的检测violation detection第二覆盖全过程的程序完整性检测和全部件的数据完整性检测第三继续提高系统的可审计性和建立更多的协调反馈机制。9环境福祉Environmental well-being可信图神经网络应当符合其部署环境的社会价值观。当前全球变暖是人类社会亟需解决的重大环境问题实现碳中和的雄伟目标需要各行各业的共同努力。为了降低图神经网络系统的环境影响在介绍了节点数每焦耳等相关的度量后该综述总结了提升图神经网络效率的多种方法。(1) 可扩展的图神经网络和高效的数据通信随着图数据的爆炸性增长大规模数据集对于图神经网络的高效运行提出了挑战。为了应对这一挑战当前的技术主要包含了采样方法sampling method、可拓展架构scalable architectures、产业应用industrial applications、高效数据通信efficient data communication等。(2) 模型压缩技术随着技术的发展研究人员提出了更深和更复杂的图神经网络模型来提升其性能。然而这些模型的规模限制了其在只具备有限计算资源的边缘计算设备上的部署。因此模型压缩技术是解决这一挑战的一个有效方法。相关的技术包含了知识蒸馏knowledge distillation、模型剪枝model pruning、减少参数规模reducing parameter size、模型量化model quantisation等。(3) 开发框架与加速器图数据的不规则性、模型中稀疏与稠密计算的相互交替、模型与应用的多样性等特点使得图神经网络系统需要使用专门设计的框架与加速器来提升其效率。为了解决这一问题当前的方法主要有软件框架SW frameworks、硬件加速器HW accelerators、效率瓶颈分析analysing the efficiency bottleneck、软硬件协同设计SW-HW co-design等。最后该综述提出探索高效的图神经网络exploration of efficient GNNs和研究用于图神经网络的加速器accelerators for GNNs是未来促进图神经网络环境福祉的两个研究方向。10不同可信方面之间的关系当前促进图神经网络可信性的研究主要集中在上述六个维度中的一个该综述提出构建可信图神经网络不能忽视上述六个可信维度之间的关系并从如下两个角度对此进行了总结1 来自可信图神经网络中一个维度的方法如何被用于解决其他维度的研究问题how the methods from one aspect of trustworthy GNNs are adapted to address objectives in other aspects。2 为什么促进可信图神经网络的一个维度可能会促进或者抑制其他可信维度why advancing one aspect of trustworthy GNNs can promote or inhibit other aspects。11未来的研究方向针对潜在的研究热点该综述将可信图神经网络看作一个整体并分析了当前方法的局限性。为了填补当前的研究空白推动可信图神经网络的产业化该综述提出了如下五个研究方向A. 拥抱可信设计理念shift to trustworthy GNNs构建可信的图神经网络需要研究人员与图神经网络从业人员全面拥抱可信理念在设计图神经网络时不仅要考虑其任务性能更需要将可信的理念引入到图神经网络的设计哲学中。已有的一些工作在设计中兼顾了可解释性和公平性这大大提升了图神经网络的可信性。此外解决在转向可信图神经网络的过程中面临的一系列开放性问题如在具体应用中对不同可信维度如自动驾驶中的鲁棒性和环境福祉进行平衡和取舍也是一个具有挑战性的研究方向。B. 探索其他可信维度other aspects of trustworthy GNNs可信图神经网络所包含的内容实际上超过了该综述介绍的六个维度。例如泛化能力generalisation也被认为是可信系统的一个重要维度。当前一些研究探究了图神经网络外推extrapolation与其使用的激活函数之间的关系这些工作丰富了可信的内涵并促进了可信图神经网络的构建。此外该综述提出妥善处理可信系统相关的设计原则如国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》也是可信图神经网络在未来发展中的重要研究内容。C. 研究多样相互关系diversified relations该综述只涉及了可信图神经网络不同维度之间复杂关系的一部分。探索其他相互关系如可解释性和公平性对于全面理解和构建可信图神经网络系统至关重要。此外这些关系不仅复杂而且存在于多个层面。比如反事实公平counterfactual fairness与鲁棒性robustness在概念上具有相似性。因此从概念、方法、成效等不同的层次探讨可信图神经网络的不同维度之间的相互关系也是一个有前景的研究方向。D. 设计模型不可知方法model-agnostic methods当前很多提升图神经网络可信性的方法需要使用专门设计的图神经网络架构。如果不能访问或者修改目标网络架构如使用云服务这些方法将无法使用。这大大降低了这些可信性增强方法在现实场景中的实用性。相比之下模型不可知方法能够以即插即用的方式灵活地被应用到图神经网络系统中。此外这类方法也能够以功能模块的形式被组合使用。因此设计模型不可知的方法将大大提升其实用性并促进可信图神经网络的构建。E. 建立可信技术生态technology ecosystem for trustworthy GNNs作为一个蓬勃发展的领域可信图神经网络的发展离不开技术生态的支持。这里的技术生态包含但不限于工具包tools、数据集datasets、评估度量metrics、评估流程pipelines。由于图数据的自身特性当前的一些工具包tools如IBM的AI360可能无法直接用于图神经网络的评估。例如节点之间边的存在打破了节点上的独立同分布IID假设这就导致研究图神经网络公平性时需要考虑节点之间的相互依赖。此外由于应用场景的多样性构建可信图神经网络也需要适用于不同任务和场景的数据集、度量、评估标准、软件平台等配套技术设施。因此建立相应的技术生态是可信图神经网络的研究和产业化中的关键一步。参考链接[1] Trustworthy AI: A Computational Perspective. https://arxiv.org/abs/2107.06641[2] Governance Principles for the New Generation Artificial Intelligence--Developing Responsible Artificial Intelligence. https://www.chinadaily.com.cn/a/201906/17/WS5d07486ba3103dbf14328ab7.html [3] The montreal declaration of responsible ai. https://www.montrealdeclaration-responsibleai.com/the-declaration 未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
