手机网站开发还是调用,深圳网站快速备案,黄冈如何创建免费网站,前端做兼职网站有人认为 AI 已经穷途末路#xff0c;但一些绝顶聪明的人还在继续求索。来源#xff1a;AI科技评论整理#xff1a;黄楠、王玥编辑#xff1a;陈彩娴近日#xff0c;DeepMind 的创始人 Demis Hassabis 作客 Lex Fridman 的播客节目#xff0c;谈了许多有趣的观点。在访谈… 有人认为 AI 已经穷途末路但一些绝顶聪明的人还在继续求索。来源AI科技评论整理黄楠、王玥编辑陈彩娴近日DeepMind 的创始人 Demis Hassabis 作客 Lex Fridman 的播客节目谈了许多有趣的观点。在访谈的一开头Hassabis 就直言图灵测试已经过时因为这是数十年提出来的一个基准且图灵测试是根据人的行动与反应来作判断这就容易出现类似前段时间谷歌一工程师称 AI 系统已有意识的“闹剧”研究者与一个语言模型对话将自己的感知映射在对模型的判断上有失客观。从2015年成立至今DeepMind在人工智能领域的发展给世界带来过一次又一次的惊喜从游戏程序AlphaGo到蛋白质预测模型AlphaFold深度强化学习的技术突破解决了困扰人类科学家多年的重大科学问题其背后团队的思考与动力让人神往。在Hassabis的这次访谈中他还谈到一个有趣的观点即 AI 超越人类的智能局限。当人类可能已经习惯这个有时间的三维世界AI 也许可以达到从十二维理解世界的智能摆脱工具的本质因为我们人类对世界的理解也还存在许多不足之处。以下是对Demis Hassabis的访谈整理1从游戏到 AILex Fridman你是从什么时候开始喜欢上编程的Demis Hassabis我大约4岁开始下棋8岁时用在一场国际象棋比赛中获得的奖金买了我的第一台电脑一台zx spectrum后面我买了关于编程的书。我在一开始用电脑制作游戏时就爱上了计算机觉得它们非常神奇是自己思想的延伸你可以让它们做一些任务隔天睡醒回来时它就已经解决了。当然所有机器在某种程度上都能做到这一点增强我们的自然能力例如汽车让我们的移动速度超过奔跑速度。但人工智能是机器能够做所有学习的最终表现因此我的想法也很自然地延伸到了人工智能。Lex Fridman你是什么时候爱上人工智能的呢什么时候开始了解到它不只可以在睡觉的时候写程序、做数学运算还可以执行比数学运算更复杂的任务Demis Hassabis大概可以分为几个阶段。我是青少年国际象棋队的队长在大概10岁、11岁的时候打算成为一名职业棋手这是我的第一个梦想。12岁时我达到大师级的水平是世界上排名第二的棋手仅次于Judith Pologer。当我试图提高棋艺首先需要提高自己的思维过程思考大脑是如何想出这些想法的它为什么会犯错怎样才能改善这个思维过程就像80年代早期和中期的国际象棋计算机我已经习惯了有一个 Kasparov 的品牌版本虽然不像今天那么强大但也可以通过与其练习来达到提高的目的。当时我想这真是太神奇了有人把这个棋盘编成程序来下象棋。我买了一本 David Levy 在1984年出版的《国际象棋计算机手册》这是本非常有意义的书让我可以充分了解国际象棋程序是如何制作的。图注Kasparov前苏联、俄罗斯职业国际象棋棋手国际象棋特级大师我的第一个人工智能程序是由我的Amiga编程的我写了一个程序来玩奥赛罗逆向思维这是一个比国际象棋稍微简单的游戏但我在当中使用了国际象棋程序的所有原则即α-β搜索等。第二个阶段是在我16、17岁左右时设计的一个叫 主题公园 的游戏其中涉及到 AI 在游戏中模拟尽管以今天的 AI 标准来看它很简单但它会对你作为玩家的游戏方式做出反应因此它也被称为沙盒游戏。Lex Fridman可否说一些你同 AI 的关键联系在游戏中创建 AI 系统需要什么Demis Hassabis在我还是个孩子时就在游戏中训练自己后面经历了一个设计游戏和编写 AI for 游戏的阶段。我90年代写的所有游戏都以人工智能为核心组成部分。之所以在游戏行业这么做是因为当时我认为游戏行业是技术的最前沿像 John Carmack 和 Quake好像都是在游戏中进行的。我们仍在从当中获取好处像GPU是为计算机图形而发明的但后来被发现对 AI 有重要作用。所以当时我认为游戏中拥有最前沿的人工智能。早期我参与过一个叫黑白的游戏它是强化学习在计算机游戏中应用最深刻的例子。你可以在游戏中训练一个小宠物它会从你对待它的方式中进行学习如果你对它不好那它就会变得刻薄并对你的村民和你所管理的小部落刻薄。但如果你善待它它也会变得善良。Lex Fridman游戏对善与恶的映射让我意识到你可以通过你所做的选择来确定结局。游戏可以带来这种哲学意义。Demis Hassabis我认为游戏是一种独特的媒介作为玩家并不仅仅是被动地消费娱乐实际上你是作为一个代表积极参与的。所以我认为这就是游戏在某些方面比其他媒介例如电影和书籍等更有内涵的原因。从一开始我们就对 AI 进行了深入的思考将游戏作为证明和开放 AI 算法的试验场。这也是 Deepmind 最初使用大量游戏作为主要测试平台的原因因为游戏非常高效也很容易有指标来查看 AI 系统是如何改进的思考的方向以及是否在做渐进式地改进。Lex Fridman假设我们不能制造一台能在国际象棋中击败人类的机器那么人们会认为由于组合的复杂性围棋是一个无法破解的游戏。但最终AI 研究者造出了这台机器人类才意识到我们没有想象中那么聪明。Demis Hassabis这是一段有趣的思考旅程尤其是当我从两个角度AI 创造者与游戏玩家来理解时更觉得神奇同时又有点苦乐参半的感觉。Kasparov 将国际象棋称为智能“果蝇”我蛮喜欢这个形容因为国际象棋从一开始就与 AI 密切相关。我认为每一位 AI 实践者包括图灵和香农以及这一领域的所有先辈们都尝试过编写一个国际象棋程序。香农在1949年写了第一个关于国际象棋的程序文档图灵也曾写过一个著名的国际象棋程序但由于计算机太慢无法运行因此他用铅笔和纸来手动运行程序跟朋友一起玩。DeepBlue 的出现是一个重要的时刻它结合了我喜欢的所有东西包括国际象棋、计算机和人工智能。1996年它打败了 Garry Kasparov。在那之后我对 Kasparov 头脑的印象比对 DeepBlue 印象更深因为 Kasparov 是人类的头脑他不仅可以与计算机在下棋方面达到同一水平Kasparov 也可以做人类能做的一切比如骑自行车、说多国语言、参与政治活动等等。DeepBlue 虽然在国际象棋中有过辉煌时刻但它实际上是将国际象棋大师的知识提炼成一个程序无法做其他任何事情。因此我认为该系统中缺少了一些智能的东西这也是我们尝试做 AlphaGo 的原因。Lex Fridman让我们简单地谈谈国际象棋中关于人类的一面。你从游戏设计的角度提出象棋之所以吸引人是因为它是游戏。能否解释一下在bishop国际象棋中的“象”和knight国际象棋中的“马”之间是否存在一种创造性的张力是什么让游戏具有吸引力并且能跨越几个世纪Demis Hassabis我也在思考这个问题。实际上很多优秀的象棋玩家并不一定是从游戏设计师的角度去思考这个问题。为什么国际象棋如此吸引人我认为一个关键的原因是不同棋位的动态你可以分辨出它们是封闭的还是开放的想一下象和马的移动方式有多么不同而后国际象棋在已经进化到平衡这二者的程度大致都是3分。Lex Fridman所以你认为动态总是存在的而剩下的规则是试图稳定游戏。Demis Hassabis也许这有点像鸡生蛋还是蛋生鸡的情况但二者达到一种美丽的平衡象和马和骑士权力不同但在整个宇宙的位置中其价值是相等的。过去的几百年里它们一直被人类所平衡我认为这赋予了游戏创造性的张力。Lex Fridman你认为 AI 系统能吸引人类去设计游戏吗?Demis Hassabis这是个有趣的问题。如果把创造力定义为想出一些原创的、对某个目的有用的东西那么最低水平的创造力就像一个插值表达基础的 AI 系统都具备这样的能力。给它看数百万张猫的照片然后给我一只普通的猫这个被称之为插值。还有像 AlphaGo它可以推断。AlphaGo 与自己对弈了数百万场后想出了一些非常棒的新点子比如在对弈中走37步提供了一个人类从未想到的策略尽管我们已经玩了上百数千年。在此之上还有一个层次就是能否跳出思维定式做真正的创新。你能发明象棋而不是想出一个棋步么是否能发明国际象棋、或其他和国际象棋或围棋一样的东西我认为有一天 AI 可以做到而现在的问题是如何给一个程序指定这个任务。我们还不能把高层次抽象概念具体到人工智能系统中它们在真正理解高层次的概念或抽象概念方面仍然缺少一些东西。就目前而言它们可以组合和构成AI 能够做插值和推断但都不是真正的发明。Lex Fridman提出规则集并优化围绕这些规则集制定复杂的目标是我们目前无法做到的。但是否可以采用一个特定的规则集并运行观察 AI 系统从头开始学习的时间有多长Demis Hassabis实际上我考虑过这对于游戏设计师来说是惊人的。如果有一个系统拿你的游戏玩上千万次也许一夜之间就能实现自动平衡规则。可以通过方程或参数来调整游戏中的单位或规则使游戏更平衡。这有点像给出一个基本集通过蒙特卡罗方法搜索或类似的方法来探索那将是超级强大的工具。而为了自动平衡通常需要从数百场比赛中训练数千小时平衡像星际争霸、暴雪等这样的游戏是令人震惊的这需要测试人员年复一年的时间。所以可以想象当某个时刻这些东西变得足够有效你可能会想在一夜之间做到。Lex Fridman你认为我们是生活在模拟Simulation中吗Demis Hassabis是的。Nick Bostrom 首次提出了著名的模拟理论但我不太相信它。从某种意义上说我们是在某种电脑游戏中或者我们的后代以某种方式在 21 世纪重塑地球。理解物理学和宇宙的最佳方式是从计算的角度将其理解为信息宇宙实际上信息是现实的最基本单位。与物质或能量相比物理学家会说 Emc²这是宇宙的基础。但我认为信息可能是描述宇宙的最基本方式它本身可以指定能量或物质正确的物质。因此可以说我们处于某种模拟中。但我不同意这些想法丢弃数十亿个模拟。Lex Fridman基于你对通用术语机器的理解、对计算机的理解你认为宇宙中存在计算机能力之外的东西吗你并不认同 Roger Penrose 数学物理学家的意见Demis Hassabis Roger Penrose 很有名曾参与过许多精彩的辩论我读过他的经典著作《皇帝新脑》他解释大脑中的意识还需要更多量子的东西。我工作中也一直在思考我们正在做什么实际上我们正将图灵机或经典计算推向极限。经典计算的极限是什么我也研究了神经科学这是我博士选择这一方向的原因从神经科学或生物学的角度来看大脑中是否有量子存在。到目前为止大多数神经科学家和生物学家会说没有证据表明大脑中有任何量子系统或效应大多可以用经典理论和生物学方面的知识来解释。但与此同时从图灵机可以做的事情开始包括 AI 系统这个过程是一直在进行的尤其是在过去的十年里。我不敢打赌通用图灵机和经典计算范式能走多远但大脑中发生的事情或许可以在机器上模仿而不需要形而上学或量子的东西。2Al for scienceLex Fridman下面我们谈谈 AlphaFold你认为人类思维都来自于这种类似神经网络的、生物的计算糊状物而非直接在精神上工作Demis Hassabis 在我看来宇宙中最大的奇迹就是我们头骨里只有几磅的糊状物它也是大脑和目前所知宇宙中最复杂的物体。我认为这是一台令人惊奇的高效机器这也是我一直想构建 AI 的原因之一。通过构建像 AI 这样的智能体将其与人类思维进行比较或能帮助我们历史以来一直想知道的心灵的独特性和真正的秘密、意识、做梦、创造力、情感等一切事物。现在有了大量的工具来实现这件事。所有的神经科学工具、FMI机器都可以记录也有 AI 计算能力可以建立智能系统。人类思维所能做的事情令人惊讶人类创造了像计算机这样的东西并思考和研究这些问题也都是对人类头脑的证明有助于我们更清晰地了解宇宙和人类的思想。甚至可以说我们或许是宇宙尝试和理解自己美丽的机制所在。从另一个角度看生物学的基本构件也可以用于理解人类思想和身体从基本构建开始模拟和建立模型是件很神奇的事情你可以构建越来越大的、更复杂的系统甚至是整个人类生物学。还有一个被认为不可能解决的问题就是蛋白质折叠而 AlphaFold 解决了蛋白质折叠问题这是结构生物学史上最大的突破之一。蛋白质是所有生命都必不可少的身体每一个功能都依赖于蛋白质。蛋白质由它们的基因序列也被称为氨基酸序列指定可以将其视为它们的基本构件。它们会在身体中、在自然界中折叠成一个三维结构这个三维结构决定了它在身体中的功能。此外如果你对药物或疾病感兴趣想用一种药物化合物来阻断蛋白质的作用前提是要了解蛋白质表面结合点的三维结构。图注2021年7月DeepMind 首次通过与欧洲分子生物学实验室EMBL合作建立的数据库公开发布 AlphaFold 预测结果初始数据库包含了所有人类蛋白质的98%Lex Fridman蛋白质折叠问题的本质是你能从氨基酸序列中得到一维的字母串吗能通过计算立即预测出三维结构吗这是50多年来生物学界的一个重大挑战。1972年的诺贝尔奖获得者 Christian Anfinsen 首次阐述他推测从氨基酸序列到三维结构是可以实现的。Demis Hassabis Christian Anfinsen 的这句话开启了整个计算生物学的50个边缘领域他们被困在当中、并没有完成得很好。在 AlphaFold 出现之前这都是通过实验来完成的让蛋白质结晶是件非常困难的事情有些蛋白质不能像膜蛋白那样结晶必须使用昂贵的电子显微镜或X射线晶体分析仪才能得到三维结构并将其结构可视化。有了 AlphaFold 后两个人就能在几秒钟内预测出三维结构。Lex Fridman有一个数据集它在这个数据集上进行训练以及如何映射氨基酸。令人难以相信的是这个小的化学计算机能以某种分布式方法来计算且算得非常快。Demis Hassabis 或许我们该讨论一下生命的起源。实际上蛋白质本身是一个神奇的小生物和动物机器。提出列文塔尔悖论的科学家 Cyrus Levinthal 大致计算了一下一般的蛋白质可能有2000个氨基酸碱基长可以有10到300种不同的蛋白质折叠方式。而在自然界中物理学以某种方式解决了这个问题蛋白质会在几毫秒、或是一秒的时间内在你的身体中折叠起来。Lex Fridman该序列有独特的方式来自我形成它找到了一种在巨大可能性中保持稳定的方式。某些情况下可能会出现功能失调等情况但大多时候是独特的映射而这种映射并不明显。Demis Hassabis如果是健康通常有一个独特的映射那患病时究竟问题出在哪里。例如曾经有一个对阿尔茨海默氏症的猜想是因为以错误的方式折叠 β-淀粉样蛋白导致折叠错位以至于在神经元中纠缠在一起。因此要了解健康、功能和疾病就需要了解它们是如何结构化的知道这些东西在做什么超级重要。下一步是当蛋白质与某些东西相互作用时它们会改变形状。因此在生物学中它们不一定是静态的。Lex Fridman或许你可以给出一些解决 AlphaFold 的方法与游戏不同这是真正的物理系统。这当中什么是非常难解决的有哪些跟解决方案是相关的Demis HassabisAlphaFold 是迄今为止我们构建的最复杂、可能也是最有意义的系统。我们起初构建的 AlphaGo 和 AlphaZero 都是与游戏相关但最终目标不仅仅是破解游戏而是使用它们来引导通用学习系统并应对现实世界的挑战。我们更多是希望致力于像蛋白质折叠这样的科学挑战AlphaFold 是我们的第一个重要证明点。就数据来说创新数量大概需要30多种不同的组成算法放在一起来破解蛋白质折叠。一些重大的创新是围绕物理学和进化生物学建立了硬编码来约束像蛋白质中键角之类的东西但不会影响学习系统因此系统仍能从案例中学习物理。假设只有大约15万个蛋白质即使经过40年的实验也大概只有约5万种蛋白质结构会被发现。训练集比通常使用的数据量要少得多但当中使用了像自我提取等各种技巧。因此使用 AlphaFold 做一些非常有信心的预测时将其放回训练集中使训练集更大对 AlphaFold 工作至关重要。实际上为了解决这个问题需要进行大量的创新AlphaFold 产生的是一个直方图一种蛋白质中所有分子之间的成对距离的矩阵它们必须是一个单独的优化过程来创建三维结构。要使 AlphaFold 真正地从端到端可直接从氨基酸的碱基序列到三维结构跳过中间步骤。从机器学习中也可以发现越是端到端就越能使系统变得更好系统比人类设计者更善于学习约束条件。在这种情况下三维结构要比有中间步骤更好因为那必须手工进入下个步骤。最好的办法是让梯度和学习一直流经系统从终点到想要的最终输出再到输入。Lex Fridman关于 AlphaFold 的设想那或许是生物学中一个漫长旅程的早期步骤你认为同样的方法是否预测更复杂的生物系统的结构和功能、多蛋白质相互作用其作为一个起点能模拟越来越大的系统最终模拟像人的大脑、人体这样的东西吗你认为这是一个长期的愿景吗Demis Hassabis当然一旦我们有了足够强大的生物学系统治疗疾病和理解生物学就是我的 To Do List 上的首要任务这也是我亲自推动 AlphaFold 的原因之一AlphaFold 只是一个开始。AlphaFold 解决了蛋白质结构这个巨大的问题但生物学是动态的我们所研究的所有东西都是蛋白质液体结合。与分子发生反应搭建通路最终形成一个虚拟细胞那是我的梦想。我一直同很多生物学朋友交谈其中就包括了克里克研究所的生物学家 Paul Nurse。对生物学和疾病发现来说构建一个虚拟细胞是不可思议的因为你可以在虚拟细胞上进行大量实验最后阶段再进入实验室来验证。就发现新药而言从确定目标到拥有一个候选药物大约需要10年时间如果能在虚拟细胞中完成大部分工作或许可以将时间缩短一个数量级。为了实现虚拟细胞必须建立对生物学不同部分相互作用的理解。每隔几年我们就会与跟 Paul 谈论这个问题。去年在 AlphaFold 之后我说现在终于是我们可以去做的时候了Paul 非常激动。我们与他的实验室有一些合作。在 AlphaFold 的基础上相信生物学会有一些惊人的进步目前也可以看到在 AlphaFold 开源之后已经有社区在做了。我认为有一天人工智能系统可能会解决像广义相对论这样的问题而不仅仅是通过对互联网或公共医疗上的内容进行处理。这将非常有趣看它会能够想出什么。这有点像我们之前关于创造力发明围棋的辩论不是仅仅想出一个好的围棋动作。如果想要获得像诺贝尔奖的奖项那它需要做的是发明围棋而不是由人类科学家或创造者来指定。Lex Fridman很多人确实把科学看作是站在巨人的肩膀上而问题是你在巨人的肩膀上真正达到了多少也许它只是吸收了过去的不同类型的结果最终以新的视角提供了突破性的想法。Demis Hassabis这是一个很大的谜团我相信在过去十年甚至未来几十年中很多新的重大突破都会出现在不同学科领域的交叉点上在这些看似不相干的领域之间会发现一些新的联系。人们甚至可以认为深层思维是神经科学思想和 AI 工程思想间的一种交叉学科。Lex Fridman你有一篇论文是“通过深度强化学习对托卡马克等离子体进行磁控制”所以你在寻求用深度强化学习来解决核聚变做高温等离子体的控制。你能解释一下 AI 为什么最终能解决这个吗Demis Hassabis过去的一两年里我们的工作非常有趣和看到了成效我们启动了很多我的梦想项目这些是我多年来收集的同科学领域相关的项目。如果我们能参与推动或许能带来具有变革性的影响科学挑战本身就是一个非常有趣的问题。目前核聚变面临许多挑战主要在物理、材料、科学和工程等方面以及如何建造这些大规模的核聚变反应堆并容纳等离子体。我们与瑞士洛桑联邦理工学院EPFL和瑞士技术研究所合作他们有一个测试反应器愿意让我们使用。这是一个惊人的测试反应堆他们在上面尝试各种相当疯狂的实验。而我们则看的是当进入一个新领域如核聚变时瓶颈问题是什么从第一原理思考阻碍核聚变运作的底层问题是什么在这种情况下血浆控制是完美的。这个等离子体有100万℃比太阳还热显然没有任何材料可以容纳它。因此必须有非常强大的超导磁场但问题是等离子体相当不稳定就像在一个反应堆中持有许多颗星提前预测等离子体会做什么你可以在几百万秒内移动磁场来控制它接下来会做什么。如果你把它看作是一个强化学习预测问题这似乎很完美有控制器可以移动磁场和切割但此前用的是传统的控制器。我希望有一种可控的规则是他们不能在当下对等离子体做出反应必须是硬编码的。Lex FridmanAI 最终解决了核聚变。Demis Hassabis去年我们在《自然》杂志上发表了关于解决这个问题的论文把等离子体固定在一个特定的形状。实际上这几乎就像是把等离子体雕刻成不同的形状控制它并保持在那里创纪录的时间。这是核聚变的一个未解决的问题。把它包含在结构中并保持还有一些不同形状更有利于能量的产生称为滴液等等这是很重要的。我们正与许多核聚变初创公司沟通看在核聚变领域可以解决的下一个问题是什么。Lex Fridman论文标题中还有一个迷人的地方通过解决分数电子问题来推动密度函数的前沿。你能解释一下这项工作吗AI 在未来能否对任意的量子力学系统进行建模和模拟Demis Hassabis人们试图写出密度函数的近似值以及对电子云的描述观察两个元素放在一起时如何相互作用。而我们试图做的是学习一种模拟学习一种能够描述更多化学类型的化学函数。到目前为止AI 可以运行昂贵的模拟但只能模拟非常小和非常简单的分子我们无法做到模拟大型材料。因此要建立函数近似值来展示其方程后描述电子在做什么所有材料科学和性质都是由电子如何相互作用来控制的。Lex Fridman通过功能对模拟进行总结来接近实际模拟出来的结果这项任务的难度在于运行复杂的模拟学习从初始条件和模拟参数的映射任务学习函数会是什么Demis Hassabis这很棘手但好消息是我们已经做到了我们可以在计算集群上运行大量的模拟即分子动力学模拟由此产生了大量的数据。在这种情况下数据是生成的。这就是为什么我们使用游戏模拟器来生成数据因为可以随心所欲地创造出更多的数据。如果在云端有空闲的电脑我们就可以运行这些计算。3AI 与人类Lex Fridman你怎么理解生命起源Demis Hassabis我认为 AI 的最终用途是将科学加速到极致。它有点像知识之树。如果你想象这就是宇宙中要获得的所有知识但目前为止我们几乎只触及了它的表面。AI 会加速这个过程尽可能多地探索这棵知识树。Lex Fridman直觉告诉我人类的知识之树是非常小的考虑到我们的认知局限。即使有工具我们仍然不能理解很多事情。这也许是非人类系统能够走得更远的原因。Demis Hassabis是的很有可能。但首先这是两件不同的事情。就像我们今天理解了什么人类的思想能理解什么我们要理解的整体是什么这里有三个同心你可以把它们想象成三棵更大的树或者探索这棵树的更多分支。有了 AI 后我们会探索更多。现在的问题是如果你思考一下我们能理解的事物的总体是什么可能有些事物不能被理解比如模拟之外的事物或宇宙之外的事物。Lex Fridman因为人类大脑已经习惯了这个有时间的三维世界的状态。Demis Hassabis但我们的工具可以超越这些。它们可以是11维12维的。我经常举的例子是当我和 Gary Kasparov 下棋时我们讨论过象棋之类的东西如果你很擅长下棋你不能想 Gary 他的走法但他可以给你解释。你可以将其理解为事后推理。有一个进一步的解释也许你不可能发明这个东西但你可以理解和欣赏就像你欣赏维瓦尔第或莫扎特一样欣赏它的美。Lex Fridman我想问一些更疯狂的问题。比如你认为地球之外有外星文明吗Demis Hassabis我个人的看法是我们目前是孤独的。我们已经有各种天文望远镜和其他探测技术尝试着在太空里寻找其他文明的信号如果现在有许多外星文明在同时做这样的事那我们应该听到来自外太空的嘈杂声音。可事实是我们什么信号也没收到。有很多人会争辩说世界上有外星文明只是我们还没有真正好好地去搜索或者说我们找的波段错误也有可能使用了错误的设备我们没有意识到外星人存在的形式非常不同等等。但我不同意这些观点我们其实已经做了很多探索了如果真有那么多外星文明那我们应该早就发现了。有趣的是如果地球是孤独的文明从大过滤器Great Filters的角度来看这还挺令人欣慰这意味着我们已经通过大过滤器的筛选了。说回你刚才问的生命起源问题生命起源于一些令人难以置信的事物而且没人知道这些事是怎么发生的。如果在地球以外的地方看到单细胞的某种生命形式比如细菌我不会感到惊讶。但就凭其能够捕获线粒体并将线粒体为我所用的这个能力多细胞生命的出现的难度就是空前绝后的。图注Demis Hassabis所提到的大过滤器理论Lex Fridman你认为需要有意识才能有真正的智能吗?Demis Hassabis我个人认为意识和智慧是双重分离的所以我们可以在没有智慧的同时实现意识反过来也一样。举个例子很多动物是有自我意识的也会社交和做梦它们可以被定义为有一定的自我意识但是它们没有智慧。但同时那些在某一任务上非常聪明的人工智能它们会下象棋或者执行其他任务执行得非常好但是它们没有任何的自我意识。Lex Fridman前段时间谷歌的一个工程师认为某个语言模型是有感知的你遇到过有感知的语言模型吗如果一个系统出现了“感知”你怎么理解这种情况Demis Hassabis我不觉得目前世界上的任何一个 AI 系统是有意识或者有感知的这是我每天与 AI 互动的真实感受。所谓感知更多是我们大脑自己的投射由于那是一个语言模型与智慧息息相关所以人们就很容易把系统拟人化。这也是为什么我认为图灵测试有缺陷因为它建立于人的反应和判断上。我们应该和顶尖的哲学家谈谈意识比如 Daniel Dennett 和 David Charmers以及其他对意识有深刻思考的人。目前意识还没有公认的定义如果让我来说的话我觉得意识的定义是信息得到处理时带来的感觉。Lex Fridman让我问一个黑暗的私人问题。你说创造一个世界上最强大的超级人工智能系统。正如老话所说绝对权力导致腐败你也很有可能成为其中一员因为你是最有可能控制这个系统的人。你会考虑这些么?Demis Hassabis我每时每刻都在思考有什么能对抗这种腐败的防御措施。人类最大利益的工具或技术让我们进入一个激进的世界我们面临着许多艰巨的挑战。AI 可以帮助我们解决问题最终使人类走向终极繁荣甚至找到外星人。而 AI 的创造者AI 所依赖的文化AI 拥有的价值观AI 系统的构建者都会影响它的发展。即使 AI 系统会自己学习但其大部分知识也会带有一定已有文化和创造者价值观的残留。不同的文化让我们比以往任何时候都更加分裂也许当我们进入了一个极度富足的时代以后资源不那么稀缺了我们就不需要激烈竞争而是可以转向更好的合作。Lex Fridman当资源受到重大限制时一些暴行就会发生。Demis Hassabis资源稀缺是导致竞争和破坏的原因之一全人类都想生活在善良、安全的世界里所以我们必须解决稀缺性的问题。但这还不足以达成和平因为还有其他东西会产生腐败。AI 不应该任由仅仅一个人、或者一个组织来运行。我认为 AI 应该属于世界属于人类每个人都应该对 AI 有发言权。Lex Fridman你对高中生和大学生有什么建议吗? 如果年轻人有从事 AI 的愿望或者想以自己的力量影响这个世界他们应该如何获得一份自己由衷感到自豪的职业如何找到理想的生活Demis Hassabis我总喜欢对年轻人说两句话第一句话是你真正的激情在何处年轻人应该去尽可能地探索这个世界。在人年轻时我们有足够多的时间还能够承担探索带来的风险。以自己独特的方式去寻找事物之间的联系我认为这是寻找激情所在的好方法。第二句话是了解你自己。要花很多时间去了解自己最佳的工作方式是什么最佳的工作时间是什么时候最佳的学习方式是什么?如何应对压力。年轻人应该在不同的环境下测试自己尝试改进自己的弱点找出自己独特的技能和优势然后磨练它们这些就是你以后在这个世界上的价值。如果你能把这两件事结合起来找到自己的激情所在锻炼出你自己独特而强大的技能那么你就会获得不可思议的能量给世界带来巨大的改变。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
