网站开发的硬件环境,网站上的图用美图秀秀做可以吗,wordpress占用,计算机网站建设维护的基本知识斯图尔特罗素#xff08;Stuart Russell#xff09;#xff0c;加州大学伯克利分校计算机科学专业教授#xff0c;著有人工智能领域“标准教科书”——《人工智能#xff1a;一种现代化方法》#xff08;与谷歌研究主管Peter Norvig合著#xff09;来源#xff1a;智能… 斯图尔特·罗素Stuart Russell加州大学伯克利分校计算机科学专业教授著有人工智能领域“标准教科书”——《人工智能一种现代化方法》与谷歌研究主管Peter Norvig合著来源智能探索随着人工智能的发展速度越来越快Russell对这一领域的担忧不断加剧。他表示人工智能有了很大跨越很大程度上是因为神经网络学习算法有了质的飞跃。相关技术已经应用在Facebook的人脸识别软件智能手机的私人助手应用以及谷歌的自动驾驶汽车上面了。还有一个现实中的例子根据《自然》杂志上最近刊登的一项研究成果一个人工神经模拟网络学习玩雅达利公司的视频游戏结果玩得竟然比人类还要好这也引起了业界震动。“如果这发生在一个刚出生的孩子身上你会认为这是与生俱来的。”Russell说道。2015年在美国物理学会年会上Russell接受了Quanta Magazine的采访并谈论了智能本质和人工智能安全的巨大挑战。您认为人工智能的目标就是要能证明它能符合人类价值观这意味着什么这么说真有点气人这里把两件事情放在在了一起一个是要“能证明”另一个是“人类价值观”它们貌似就是非常矛盾的。人类价值观本身就多少存在一些神秘从某种程度上我们的价值观会在行为上有所表现你可能希望证明机器也能做出绝大多数类似的行为吧。或许机器会有一些零碎的东西无法理解而实际上就连人类自己有时都不太认可彼此。不过只要机器能够获得基本权利你可能就会发现它们其实并不是非常有害的。你会如何着手实现这些这个问题其实就是我现在的工作机器需要在什么地方拥有一些近似于价值观的东西呢重要的是这些价值观必须是人类希望他们拥有的。我认为答案就是一种名叫“逆向强化学习”的技术。普通的强化学习是一种过程你会根据自己的表现得到一定的奖励和惩罚你的目标就是要识别出一些能让你获得最多奖励的行为。这就是雅达利游戏公司DQN系统正在做的事情它给每个游戏分数而这套系统的目标就是要让分数变得越来越大。逆向强化学习恰恰与之相反你会发现一些行为然后你需要尝试搞清楚这种行为尝试最大化的那个分数是多少。举个例子你的家用机器人看到你早上从床上爬起来然后把一些褐色的玩意儿放进一台噪音很大的机器里磨碎然后再把一些蒸汽、热水、牛奶和这个液体混合在一起一饮而尽之后精神就会变得非常好。此时逆向强化学习技术就需要学习这其实就是人类在清晨价值功能的一部分因为他们需要喝咖啡。关于人类行为和行为态度在书本、电影、互联网之外其实存在着大量信息。因此当涉及到人类价值时机器需要学习的资源是非常庞大的比如谁赢了比赛金牌谁去坐牢以及为什么会这样。您是怎么进入人工智能这一领域的当我还在读书的时候总体来说人工智能还不是一种正式的学术科目。但是当时我所在的是伦敦的一家公立寄宿学校位于圣保罗所以我的时间没有花在打英式橄榄球上相反在附近的一所高校里我学习了计算机科学A-level课程。我当时为A-level课程准备了一个项目就是编了一个程序教自己下井字棋或是一字棋。当时我在那里并不受到人们欢迎因为我总是一连几个小时霸占着学校里的计算机。第二年我写了一个国际象棋程序同时也获得了帝国理工大学教授的许可可以使用他们学校里的大型计算机。搞清楚计算机如何学习下棋真的太有意思了我学到了很多今后会在书本上学到的东西。不过怎么说呢当时我还只是把这个当作是一个爱好因为当时我最感兴趣的学科专业是物理。我在牛津大学学习了物理学之后当我申请读研究生的时候也是申请了在牛津和剑桥继续攻读理论物理专业。后来我又申请了麻省理工学院卡耐基-梅隆大学和斯坦福大学三所高校的计算机科学专业但不幸的是当时我错过了申请截止日期好在斯坦福大学网开一面于是我来到了斯坦福大学。在您整个职业生涯里花了大量时间尝试理解人工智能是什么这也是搞清楚机器会如何实现人工智能的先决条件。从中您学到了些什么在上世纪80年代我进行了理论研究当时我开始思考制定理性决策但问题是这个问题是不可能解决的。如果你非常理性你可能会想这是我目前的状态这是我现在能做的行为之后我可以做那些行为接着是那些行为再接着又是那些行为。哪条路径能确保实现我的目标呢理性行为的定义要求你去优化整个宇宙的未来这靠计算是根本不可能实现的。在人工智能中也有些事情是不可能实现的因此我们去定义那些我们正在尝试所做的事情其实根本没有什么意义所以我决定尝试搞明白我们究竟是如何做决策的那么我们是怎么做的呢这里有一个技巧你可以去思考一个短期预测然后再去猜测未来会是什么样子。因此举个例子在国际象棋程序里如果他们非常理性那么他们就只会走那些能确保将死对方的棋但实际上他们并不会这么做。他们会算一下未来要走的几步棋然后再猜测一下如果这么走对于当前自己的棋局是否有帮助最后他们会选择走一步对自己当前棋局最为有利的一步棋。“你能证明你的系统无论他们有多么智能都不会重写系统内部最初由人类设置的那个目标吗”实际上真正需要重点考虑的另一件事情就是在多个抽象级别里的决策问题也就是所谓的“分层决策”。在一个人一生之中大约要做20万亿个物理动作。举个例子在本届大会上做一次演讲需要作出大约13亿个物理动作。如果你是理性的那么就会预先想好会怎么做这13亿个物理动作显然这非常荒谬同样也是不可能实现的。因此如果人们想要能够进行目标管理就需要非常丰富的高层次抽象行为库。你走路的时候会去想“首先我要么移动我的左脚要么移动我的右脚之后我要么移动…”会这样想吗显然不会。那么你会想些什么呢你会想“我得赶紧去艾派迪旅游公司然后订一个航班。当我落地之后我要打个的。”这才是人类会想的东西。在我的飞机实际落地之前我是不会去想任何东西的也不会去找出租车标记或是叫车但是当我落地之后我会需要更多细节。基本上这才是我们真正的生活未来是铺开的很多细节能够及时的靠近我们但是很多大块、或是人生的大方向却是非常抽象的比如“我要考博士”“我要生孩子”等等。目前的计算机能做分层决策吗这正是目前人工智能所缺失的那一部分所有这些高级别行为都来自什么地方我们不认为像DQN网络这样的程序可以识别行为的抽象表达。有一些游戏DQN还不知道怎么玩儿那些难度较高的游戏需要在原始行为表现的基础上向前思考很多很多步举个例子如果一个人想“哦我现在需要做的是去开门。”而开门则需要涉及到拿钥匙等等。如果机器没有“开门”这个行为表现那么在这个任务上就不会有任何进展。但是如果问题被解决当然这几乎是不可能的那么我们就会看到机器能力将得到极大的提升。我个人其实也不太确定在人类级别的人工智能和计算机分层决策问题之间的主要障碍是什么。对于人类级别人工智能的可能性您关注的是什么1994年在我首版书中有一个章节题目叫做“如果我们成功了会怎样”因为在我看来对于人工智能似乎大家还没有真正思考过这个问题。或许可能因为这距离我们非常遥远但很显然如果人工智能获得成功那无疑将会是一件大事甚至会是人类历史上最重大的事件我们需要用一种较好的方式去描述它。如果这事儿真的成了那么我们就需要做非常多的思考至少要比我们现在正在思考未来会是什么样多得多。智能爆炸的基本概念就是一旦机器获得了一定级别的智能水平他们就能在人工智能上工作就像我们做的那样同时还会提升他们自己的能力重新设计他们自己的硬件等等。同时他们的智能将会破纪录般地被放大。在过去的几年里人工智能圈子已经逐渐开始重新定义人类级别人工智能参数这可能会是个问题其中最令人信服的参数必须是要和价值参数有关你构建了而一个系统在优化效用函数上表现的非常好但是效用函数并不是非常正确的。牛津大学哲学家Nick Bostrom写了一本书叫做《超级智能》他用回纹针作为例子你说“做些回纹针”。它就将整个星球变成一个巨大的回纹针堆积场。你构建了一个超级优化程序你会给它什么样的效用函数呢因为这个程序就要打算这么干了您如何看待机器和人类价值观的差异呢那是个内在问题。你可以说当有某个领域出现了价值观冲突的时候机器应该宁可什么都不做。但这是很难实现的。我认为我们不得不在某些价值功能的基础上构建人工智能。如果你想要一个家庭机器人它就必须要很好地分享人类价值观的不同部分否则它很可能会做一些非常愚蠢的事情比如当孩子肚子饿了并且冰箱里没有食物了它可能就会把猫放进烤箱里做晚饭。现实生活中充满了类似的权衡如果机器可以有一些折中的方式那么它们在生活中就不会做出那些愚蠢的事情。从某种意义上来说在价值观领域里我没有看到任何的解决方案。我同时还觉得如果人工智能可以判断正确的人类价值观那么可能会带来巨大的经济利益。举个例子一旦家庭机器人做出一两次愚蠢的事情如同前文讲的把猫放进烤箱那么人们肯定再也不会买这种类型的机器人了。但同时还有一个问题如果智能系统自我表现行为符合人类价值观那么人类就会过渡到越来越多的智能系统上面这是否意味着人类自己的价值观要变得越来越好还是继续表现自我我不知道答案。您曾经说过我们需要通过数学验证人工智能在所有可能的环境下表现出的行为这该怎么做呢人们指出的困难之一就是一个智能系统可以武断地制造出一个全新的“自我”而这个新智能系统的目标和原来的老智能系统也是不同的。这种场景相比很多科幻小说作家会经常提及在某种程度上机器会自发地达到战胜人类的目标。所以问题来了你能证明你的系统无论它多么智能都永远永远不会重写自己最初由人类设置的目标吗证明这点还是相当容易的正如前文所提到的DQN系统它可以永远不去改变自己“优化游戏分数”的目标。现在有一次网络攻击就是人们谈论被称为“wire-heading”的网络攻击它让你可以实际进入到雅达利游戏的控制台手工改变屏幕上生成的分数。此时对DQN是不可行的因为它的行为范围是完全在游戏本身之中的它没有机器人手臂去干这种事儿。不过如果机器在现实世界中有了行动能力那就会带来严重的问题。因此你能够证明你设计的系统在自身行为范围之内永远不会改变自身机制吗这更难证明了。如果朝着人工智能这个方向有什么进展的话您觉得会很有希望吗目前有一个新兴的行业领域叫做“网络-实体系统”这个系统可以将虚拟环境与真实世界进行匹配。在网络-实体系统中你可以用一些二进制数字来代表一个空中交通管制程序然后你可以获得一些真实的飞机而你真正关心的是不要发生飞机碰撞。你要试图去证明一个关于虚拟和真实世界整合的定理此时你会怎么做呢你会对真实世界进行非常保守的数学描述比如飞机在这样或那样的环境下可以加速等等你的定理在真实世界中会是正确的只要真实世界能够包含在你的整体行为环境之中。但是您已经指出数学方法可能无法作为人工智能系统的正式验证方法在数学专业里有个术语叫做“不可判定性”。在你所问到关于计算机程序的很多问题之中其实都存在这样一个普遍的“不可判定性”问题。著名的计算机科学之父也是人工智能之父阿兰·图灵说过没有计算机程序能够决定是否存在任何其他可能的程序可以最终终止并输出一个答案或是陷入到一个无限循环之中。因此如果你开始了一个程序但是它自身可以重写变成另外一个其他程序那么就会产生问题因为你不能证明所有其他可能的程序会让一些“所有权”满意。所以问题就是是否有必要担心那些能够自我重写的人工智能系统的不可判定性它们会基于现有程序加上它们在真实世界中的经验自我重写成一个新的程序。在下一个程序如何设计的问题上与真实世界交互的影响范围可能性又是什么目前我们貌似还没有太多这方面的知识。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
