网站前端模板,网站建设是如何寻找客户的,网站建设研究课题,二建注册信息查询系统官网来源#xff1a;内容由半导体行业观察#xff08;ID#xff1a;icbank#xff09;编译#xff1a;nature.摘要类脑计算新技术有望通过完全不同的方式处理信息#xff0c;能效极高#xff0c;并能处理我们加速产生的大量非结构化和嘈杂的数据。为了实现这一承诺#xff… 来源内容由半导体行业观察IDicbank编译nature.摘要类脑计算新技术有望通过完全不同的方式处理信息能效极高并能处理我们加速产生的大量非结构化和嘈杂的数据。为了实现这一承诺需要一个勇敢而协调的计划将不同的研究团体聚集在一起并为他们提供所需的资金、重点和支持。过去我们已经通过数字技术做到了这一点我们正用量子技术做这件事。现在我们能为类脑计算做这件事吗现代计算系统能耗太大对于日益成为我们生活一部分的复杂AI应用来说不是可持续发展的平台。但我们往往看不到这一点尤其在基于云的系统中通常只关注功能比如它们有多快如何准确每秒有多少并行操作?我们习惯于即时获取信息以至于忽略了计算系统给我们这种访问带来的能量和环境后果。然而每次谷歌搜索都有成本数据中心目前每年使用约200太瓦时的能源预计到2031年将增长约一个数量级。类似地如DeepMind的AlphaGo和AlphaZero等高端人工智能系统的惊人成就需要数千个并行处理单元可以在复杂的战略游戏中击败人类专家每个单元的功耗约为200瓦。虽然不是所有数据密集型计算都需要人工智能或深度学习但深度学习应用如此广泛我们必须担心它的环境成本。我们还应该考虑包括物联网(IoT)和自主机器人代理在内的应用这些应用可能不需要总是由计算密集的深度学习算法操作但仍必须降低它们的能源消耗。如果无数联网设备的能源需求过高那么物联网的愿景就无法实现。最近的分析表明人们对计算能力需求的增长速度远远超过了摩尔定律所带来的进步。现在计算能力需求每两个月翻一番图第1A段。通过智能架构和软硬件协同设计的结合取得了显著的进步。例如自2012年以来NVIDIA GPU图形处理器的性能提高了317倍远远超出摩尔定律的预期图1b—尽管在同一时期单元的功耗从大约25W增加到大约320W。进一步令人印象深刻的性能改进已经在研究和开发阶段得到证明图1b红色我们可能会取得更多进步。不幸的是仅靠传统的计算解决方案是不可能满足长期需求的。这点在我们考虑到最复杂的深度学习模型所需的惊人的高训练成本时尤其明显(图1c)我们需要替代的方法。a、在过去四十年中以千兆次每秒来表示的计算能力需求的增长。直到2012年计算能力需求每24个月就翻一番;最近这个时间缩短到大约每两个月一次。颜色图例表示不同的应用程序域。b过去五年AI硬件效率的提高。最先进的解决方案使计算效率提高了300多倍。研发中的解决方案有望进一步改进。c自2011年以来人工智能模型训练成本增加。这样的指数增长显然是不可持续的。能源问题很大程度上是数字计算系统将数据与处理数据分开存储的结果。这是数字计算系统的经典冯·诺依曼架构处理器的大部分时间和精力都花在传输数据上。幸运的是我们可以从生物学中获得灵感来改善这种情况生物学采用了完全不同的方法——将记忆和处理置于同一位置以完全不同的方式编码信息或者直接对信号进行操作并采用大规模并行处理例如(专栏 1)。有种系统能很好地实现能源效率和高级功能那就是大脑。我们意识到关于大脑如何运作还有很多东西要学习我们的目标不只是简单地模拟生物系统但我们仍然可以从过去几十年神经科学和计算神经科学的重大进展中学习。凭借我们对大脑的了解足以用它来激发灵感。专栏1我们所说的“神经形态”系统是什么意思?从大脑中获取灵感使我们能够以与现有传统计算系统完全不同的方式处理信息。不同的大脑启发(“神经形态”)平台使用不同方法的组合模拟数据处理、异步通信、大规模并行信息处理或基于峰值的信息表示。这些性质使它们区别于冯·诺伊曼计算机。“神经形态”一词至少涵盖了三个广泛的研究群体其区别在于他们的目标是模拟神经功能对大脑进行逆向工程、模拟神经网络开发新的计算方法还是设计新型电子设备。“神经形态工程”研究的是大脑如何利用生物突触和神经元的物理原理来“计算”。神经形态工程师的工作是通过利用模拟电子的物理特性如载流子隧穿、硅浮栅上的电荷保持以及各种设备或材料属性对场的指数依赖性定义基本操作来模拟生物神经元和突触的功能。晶体管被用作具有丰富动态特性的模拟电路元件而不是二进制开关。“神经形态计算”希望从生物学中找到处理数据的新方法这可以被认为是神经形态系统的计算科学。研究着眼于模拟生物神经网络的结构和/或操作这可能意味着存储和计算的共同定位就像大脑一样;或者可能采用完全不同的计算方法基于电压峰值来模拟生物系统的动作电位。支撑一切的是实现仿生功能所需的设备和材料。在这方面最近的发展预示着新的电子和光子器件我们可以定制其特性来模拟生物元素如突触和神经元。这些“神经形态设备”可以提供令人兴奋的新技术以扩展神经形态工程和计算的能力。在这些新设备中最重要的是忆阻器一种电子设备其电阻是历史的函数。它们复杂的动态电反应意味着它们可以用作数字记忆元件、人工突触中的可变权重、认知处理元件、光学传感器和模拟生物神经元的设备。此外它们还可能具有生物树突的某些功能而且它们的动态反应可以产生与大脑类似的振荡行为不过有争议的是它们在“混乱的边缘”运转也可能与一个系统中的生物神经元有关。但他们可以在消耗很少能量的情况下完成所有这些工作。生物灵感在生物学中数据存储与处理是分不开的。同样的元素——主要是神经元和突触——在大规模并行和适应性结构中执行这两种功能。在典型的人类大脑中包含的1011个神经元和1015个突触大约消耗20w的功率而一个大约相同大小的人工神经网络的数字模拟消耗7.9 MW这六个数量级的差距给我们带来了挑战。大脑以极高的效率直接处理那些嘈杂信号。这与传统计算机系统中的信号-数据转换和高精度计算形成了鲜明对比即使是最强大的数字超级计算机也会在能源和时间上产生巨大的成本。因此受大脑启发或“神经形态”的计算系统可以改变我们处理信号和数据的方式无论是在能源效率方面还是在处理现实世界不确定性的能力方面。这已经不是一个新想法。20世纪80年代末加州理工学院California Institute of Technology的卡弗·米德Carver Mead提出了“神经形态”neuromorphic一词用于描述模拟生物神经系统某些功能的设备和系统。灵感来自于过去几十年的工作他们将神经系统建模为等效电路并建造模拟电子设备和系统以提供类似的功能(专栏1)。一个关于“数据”的词。我们用这个术语来描述编码在模拟信号或传感器的物理响应中的信息以及更标准的以计算为中心的数字数据。当我们提到大脑“处理数据”时我们描述的是一套完整的信号处理任务它们不依赖于任何传统意义上的信号数字化。我们可以想象大脑启发系统在不同的水平上运行:从模拟信号处理到使用大型数字数据集。在前一种情况下我们可以首先避免生成大型数据集在后者中我们可以通过远离冯·诺伊曼模型来大大提高处理效率。当然我们在许多应用中以数字方式表示数据是有原因的我们需要高精度、可靠性和确定性。然而数字抽象抛弃了在晶体管物理学中发现的大量信息以获得最小的信息量子单个比特。我们用效率换取可靠性为此付出了相当大的能源成本。人工智能应用在本质上往往是概率性的因此我们必须考虑这种权衡是否合理。当由传统的冯诺依曼计算机执行时支撑人工智能应用的计算任务是十分计算密集的并且因此是耗能的。然而在使用基于尖峰的信息表示的模拟或混合系统上我们可以更节能地执行类似的任务。因此在人工智能系统发展和新设备出现的推动下最近人们对神经形态计算的兴趣再度兴起这些新设备提供了新的和令人兴奋的方式来模拟生物神经系统的某些功能(专栏1)。“神经形态”的定义差异很大。不严格地说这是一个关于硬件的故事神经形态芯片旨在集成和利用大脑的各种有用特性包括内存计算、基于尖峰的信息处理、细粒度并行性、信号处理、抗噪声和随机性、适应性、硬件学习、异步通信和模拟处理。尽管需要实现多少这样的功能才能归类为神经形态这件事存有争议的但这显然是一种不同于在主流计算系统上实现人工智能的方法。然而我们不应迷失在术语中关键问题在于这种方法是否有用。神经形态技术的方法是在对大脑的结构和功能进行逆向工程(分析)以及目前我们对大脑缺乏知识的情况下但从我们已知的知识中获得灵感综合之间。在前一种方法中或许最重要的是“人类大脑计划”这是一个备受瞩目且雄心勃勃的十年计划由欧盟从2013年开始资助。该项目支持采用和进一步开发两个现有的神经形态硬件平台——spinnaker(在曼彻斯特大学)和BrainScaleS(在海德堡大学)——作为开放访问的神经形态平台。这两个系统都实现了大脑结构高度复杂的硅模型以更好地理解生物大脑的运作。在光谱的另一端许多研究小组使用选定的生物激发方法来增强数字或模拟电子器件的性能。图2总结了现有神经形态芯片的范围根据其在分析-合成光谱中的位置和技术平台将其分为四类。重要的是要记住神经形态工程不仅仅是关于高级认知系统而且还在认知能力有限的小型边缘设备中提供能量、速度和安全收益(至少通过消除对云持续通信的需求)。神经形态芯片可以分为模拟生物系统或应用大脑启发原理的新计算应用。它们可以进一步细分为基于具有新颖架构的数字CMOS(例如尖峰可以在数字领域模拟而不是作为模拟电压实现)和使用某种程度模拟电路实现的那些。然而在所有的情况下它们至少具有右边列出的一些特性这使它们有别于传统的CMOS芯片。在这里我们对最近开发的神经形态芯片进行分类。每一种的详细细节可以在相关的参考文献中找到NeurogridBrainsClasesMNIFATDynapDynap-SelRollsSpiritReasonDeepSouthSpinnakerIBM TrueNorth, Intel Loihi, Tianjic, ODIN and the Intel SNN chip.前景我们并不认为神经形态系统将或者应该取代传统的计算平台。相反精确计算应该保留数字计算而神经形态系统可以处理非结构化数据执行图像识别分类噪声和不确定的数据集并支持新的学习和推理系统。在自主和物联网系统中它们可以比传统系统节省大量能源。量子计算也是这一愿景的一部分。尽管估计还需要几年的时间一台实用的量子计算机肯定会彻底改变许多计算任务。但是物联网智能传感器、边缘计算设备、自主机器人系统在不依赖云计算的情况下不大可能采用量子计算对能够处理不确定和噪声数据的低功耗计算元件的需求仍将存在。我们可以想象数字系统、神经形态系统和量子系统之间的三方协同作用。正如半导体微电子学的发展依赖于许多不同的学科包括固体物理学、电子工程、计算机科学和材料科学神经形态计算具有深刻的跨学科和跨学科性质。物理学家、化学家、工程师、计算机科学家、生物学家和神经科学家都扮演着重要角色。仅仅让来自不同学科的研究人员说一种共同的语言就很有挑战性。在我们自己的工作中我们花了大量的时间和精力来确保房间里的每个人都以相同的方式理解术语和概念。在计算机科学特别是人工智能和神经科学最初是计算神经科学社区之间架起桥梁的情况是显而易见的。毕竟在当今最先进的人工智能系统中发现的许多概念都是在20世纪70年代和80年代出现在神经科学领域的当然人工智能系统并不需要完全是生物现实的。我们必须纳入其他学科认识到我们在人工智能或神经科学方面取得的许多进步是由不同领域促成的——例如材料科学、纳米技术或电子工程方面的创新。此外传统的CMOS(互补金属氧化物半导体)技术可能不是有效实现新的大脑启发算法的最佳结构需要全面创新。尽早让这些社区参与进来可以减少在已经探索过但失败的方向上浪费精力的风险也可以减少重新发明轮子的风险。此外我们不应忽视在系统级别集成新的神经形态技术的挑战。除了开发受大脑启发的设备和算法还有一些紧迫的问题即如何用功能相当的神经形态替代方案来取代现有的主流人工智能系统这进一步强调了对类脑计算完全集成方法的需求。我们应该指出尽管有上述潜力但目前还没有令人信服的商业神经形态技术的证明。现有系统和平台主要是研究工具量子计算也是如此它仍然是一个长期的前景。我们不应该因此耽误类脑计算的发展。当前对低功耗计算系统的需求十分迫切我们即将通过一种完全不同的计算方法来实现这一目标商业系统肯定会出现。抓住机遇如果需要神经形态计算如何实现?第一技术要求。把不同的研究界团结起来是必要的但这还不够需要激励措施、机会和基础设施。神经形态社区是一个完全不同的社区缺乏对量子计算的关注也缺乏半导体行业的清晰路线图。全球各地的项目正开始收集所需的专业知识早期阶段的势头正在形成。要实现这一点资金是关键。对神经形态研究的投资规模远不及数字人工智能或量子技术(专栏2)。尽管考虑到数字半导体技术的成熟这并不令人惊讶但这将错失机会。在神经形态的研究和开发方面有一些中等规模的投资如IBM人工智能硬件中心的一系列大脑启发项目(包括TrueNorth芯片)英特尔的Loihi处理器的开发以及美国的大脑计划项目但它们的投资总额远远低于一个有望颠覆数字人工智能技术应有的水平。神经形态领域是一个庞大且不断增长的领域但它缺乏一个重点。尽管有许多会议、专题讨论会和期刊出现在这一领域但仍有许多工作要做通过将不同领域的专家聚集在一起以此来努力说服让资助机构和政府认识到这一领域的重要性。采取大胆举措的时机已经成熟。在国家层面政府需要与学术研究人员和产业界合作建立以任务为导向的研究中心以加速神经形态技术的发展。这种方法在量子技术和纳米技术等领域十分有效——美国国家纳米技术计划US National Nanotechnology Initiative很好地证明了这一点并提供了关注和激励。这些中心可以是实体的也可以是虚拟的但必须汇集不同领域最优秀的研究人员。他们的方法必须与传统电子技术的方法不同在传统电子技术中每个抽象层次材料、设备、电路、系统、算法和应用都属于不同的领域。我们需要在整个堆栈中进行整体和并行设计。电路设计者在设计系统之前咨询计算神经科学家是不够的工程师和神经科学家必须在整个过程中合作以确保尽可能全面地将生物启发原理整合到硬件中。跨学科的共同创造必须是我们方法的重点研究中心必须容纳广泛的研究人员。除了必要的物质和金融基础设施我们还需要训练有素的劳动力。电子工程师很少接触神经科学的思想反之亦然。电路设计师和物理学家可能对神经元和突触有一定的了解但不太可能熟悉尖端的计算神经科学。建立培养神经形态工程师的硕士课程和博士培训计划是有充分理由的。英国研究委员会UK Research Council赞助博士培训中心CDTS该中心是支持已确定需要训练有素研究人员的领域。CDTS可以是单个或多个机构通过建立跨机构的互补团队在这些项目上合作的机构将获得实质性的好处。这种项目通常与行业密切合作建立高技能的研究人员队伍而传统的博士项目往往无法做到这一点。这是一个很好的例子来开发类似的东西来刺激新生神经形态工程领域之间的互动并提供下一代研究人员和研究领导者。开创性的例子包括格罗宁根认知系统和材料研究项目该项目旨在培养数十名专门研究认知(AI)系统材料的博士生慕尼黑工业大学的神经工程硕士项目; 苏黎世联邦理工学院神经形态工程模拟电路设计课程斯坦福大学的大规模神经建模在塞维利亚微电子研究所开发视觉神经形态系统。在这方面他们还有更多的空间。类似的办法可以在跨国一级发挥作用。就像在研究中当最优秀的人与最优秀的人不分国界地合作时那这种合作就最成功。在神经形态计算这样跨学科研究中这点至关重要因此国际研究网络和项目无疑可以发挥作用。早期的例子包括专注于神经形态计算技术的欧洲神经技术联盟以及位于德累斯顿大学的蔡氏忆阻器中心该中心汇集了材料、设备和算法领域许多优秀的记忆电阻器研究者。同样我们可以而且必须做更多的工作。如何能让这类项目吸引政府的关注政府对更节能的仿生计算的承诺可以成为更广泛的大规模脱碳推动的一部分。这不仅将解决气候变化问题还将加速围绕大数据、物联网、医疗保健分析、药物和疫苗发现建模以及机器人等新低碳行业的出现。如果现有行业依赖于更大规模的传统数字数据分析则会增加能源成本同时提供次优性能。相反我们可以创造一个良性循环在这个循环中大大减少这类推动下一代颠覆性产业的知识技术的碳足迹并在此过程中培育出一系列新的神经形态产业。如果这听起来是一项艰巨的任务那么考虑一下量子技术。到目前为止英国政府已投入约10亿英镑用于一系列量子计划主要是在国家量子技术项目的庇护下。一系列的研究中心汇集了工业界和学术界将量子科学转化为针对传感器和计量、成像、通信和计算的技术。一个独立的国家量子计算中心建立在这些中心和其他研究人员的工作基础之上提供演示硬件和软件以开发通用量子计算机。中国已经建立了一个数十亿美元的中国量子信息科学国家实验室美国在2018年委托了一项量子信息科学国家战略概述这导致了一项为期五年的12亿美元的投资此外还支持了一系列国家量子研究中心。得益于这项研究全球掀起了一股创立量子技术公司的热潮。一项分析发现2017年和2018年私营公司的融资达到了4.5亿美元。尽管神经形态计算技术比量子技术更成熟并有可能在更短的时间内颠覆现有的人工智能技术但对神经形态计算并不存在这样的联合支持。在我们设想的未来计算的三个分支中神经形态的投资严重不足。最后谈谈COVID-19大流行可能对我们的论点产生的影响。越来越多的人一致认为这场危机加速了许多已经发生的事态发展例如人们开始更多地在家工作。尽管减少通勤和旅行有直接的好处——一些人估计危机导致全球二氧化碳排放量减少高达17%——但新的工作方式是有代价的。减少旅行所节省的碳能在多大程度上被增加的数据中心排放所抵消如果说有什么不同的话那就是COVID-19的流行进一步强调了开发低碳计算技术如神经形态系统的必要性。我们关于如何实现神经形态系统潜力的信息是明确的通过建立卓越研究中心为合作研究提供有针对性的支持提供灵活的供资机制以实现快速进展提供与业界密切合作的机制以引入商业资金并产生新的衍生企业和初创企业类似于已在量子技术方面实施的计划为下一代神经形态研究人员和企业家制定培训方案并快速、大规模地完成所有这些工作。神经形态计算有可能将我们的方法转变为人工智能。由于新技术的结合以及不断增长的对高效人工智能的巨大需求我们有了新机遇需要大胆的想法以及支持这种想法的大胆举措。我们会抓住机会吗专栏2人工智能融资格局对“传统”数字人工智能的投资正在蓬勃发展这是因为需要处理不断增加的数据量以及需要开发硬件来支持现有的计算和内存密集型算法。英国政府于2018年4月宣布了一项价值9.5亿英镑的数字人工智能“行业交易”并得到了现有研究委员会支持。法国宣布2018—2022年政府人工智能投资18亿欧元德国承诺2018—2025年投资30亿欧元日本2017年投资26万亿日元。2020年美国政府对民用人工智能技术的资助为9.73亿美元由于非人工智能项目经常被包含在已发表的分析中美国军方的人工智能资助数据更难获得。据估计中国将在民用和军用人工智能领域投资高达80亿美元并正在北京附近建设一个21亿美元的人工智能研究园区欧盟委员会承诺在2018-2020年期间投资15亿欧元。商业投资让这个相形见绌。在美国有人估计2019年对人工智能公司的总投资为195亿美元到2023年全球投资预计将达到980亿美元左右。如果我们当前的硬件系统无法支持具有潜在破坏性的神经形态算法和架构就必须考虑到这一金额存在风险。如果神经形态技术能够像它们所承诺的那样提供效率节约和性能提升那么聪明的投资者就把赌注押在数字系统之外的新技术和架构上。由于神经形态技术目前缺乏关注和政府层面的可见度因此无法获得可比数据。此外研究资金是零碎的而且是在项目层面而不是战略层面。尽管已经发表了各种预测例如全球神经形态芯片市场将从2021年的2270万美元增长到2026年的5.506亿美元但最稳妥的结论是神经形态系统的资金远远落后于数字人工智能或量子技术。图数字人工智能技术最近全球公共研究资助的对比。数据以美元等值(2021年汇率)表示并以百万美元表示。有些是以年为单位的快照(例如UKRI承诺的2020年资金)有些没有特定的期限(例如英国人工智能领域的协议)还有一些是多年计划但该图显示了数字技术领域的公共资金规模。高效神经形态技术的发展对人工智能生态系统的破坏将使大部分投资面临风险。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
