唐山百度做网站多少钱,济南网站设计,网站源码可以做淘宝客,seo的工作内容主要包括来源#xff1a;经济观察报近日#xff0c;中科院院士、清华大学人工智能研究院院长张钹教授接受记者采访时认为#xff0c;目前基于深度学习的人工智能在技术上已经触及天花板。从长远来看#xff0c;必须得走人类智能这条路#xff0c;最终要发展人机协同#xff0c;人… 来源经济观察报近日中科院院士、清华大学人工智能研究院院长张钹教授接受记者采访时认为目前基于深度学习的人工智能在技术上已经触及天花板。从长远来看必须得走人类智能这条路最终要发展人机协同人类和机器和谐共处的世界。未来需要建立可解释、鲁棒性的人工智能理论和方法发展安全、可靠和可信的人工智能技术。张钹院士AI奇迹短期难再现 深度学习技术潜力已近天花板在Alphago与韩国围棋选手李世石对战获胜三年过后一些迹象逐渐显现张钹院士认为到了一个合适的时点并接受了此次的专访。深度学习目前人工智能最受关注的领域但并不是人工智能研究的全部。张钹认为尽管产业层面还有空间但目前基于深度学习的人工智能在技术上已经触及天花板此前由这一技术路线带来的“奇迹”在Alphago获胜后未再出现而且估计未来也很难继续大量出现。技术改良很难彻底解决目前阶段人工智能的根本性缺陷而这些缺陷决定了其应用的空间被局限在特定的领域——大部分都集中在图像识别、语音识别两方面。同时在张钹看来目前全世界的企业界和部分学界对于深度学习技术的判断过于乐观人工智能迫切需要推动到新的阶段而这注定将会是一个漫长的过程有赖于与数学、脑科学等结合实现底层理论的突破。作为中国少有的经历了两个人工智能技术阶段的研究者张钹在过去数年鲜少接受采访其中一个原因在于他对目前人工智能技术发展现状的估计持有部分不同看法在时机未到之时张钹谨慎的认为这些看法并不方便通过大众媒体进行传播即使传播也很难获得认同。一、“奇迹并没有发生按照我的估计也不会继续大量发生”经济观察报您是如何估计和评价目前人工智能发展的现状张钹这一轮人工智能热潮是本世纪初兴起的。首先是出现在学术界。学术界过去对人工智能是冷遇的但是多层神经网络的出现带来了一些改变神经网络的理论在上世纪50年代就有了但是一直处于浅层的应用状态人们没有想到多层会带来什么新的变化。真正引起大家注意的就是2012年斯坦福的实验注2012年谷歌和斯坦福利用多层神经网络和大量数据进行图像识别的实验过去实验的图像样本数最多是“万”这个级别斯坦福用了1000万用多层神经网络来做结果发现在人脸、人体、猫脸三个图像类别中这个模型的识别率大概有7%-10%的提高。这给大家非常大的震动因为通常识别率要提高1%要做好多努力现在只是把层数增加了竟然发生两大变化一个是识别率提高这么多第二个是能处理这么大数据。这两个变化给大家非常大的鼓舞何况在2012年之前人工智能没有解决过实际问题。经济观察报这种突破的原因是什么张钹现在分析下来是三个原因大家也都非常清楚了一个大数据、一个是计算能力、一个是算法。认识到之后一夜之间业内业外对深度学习都非常震动然后就发生了三件历史性的事件。第一件事是2015年12月微软通过152层的深度网络将图像识别错误率降至3.57%低于人类的误识率5.1%第二件事2016年微软做的语音识别其词错率5.9%和专业速记员水平一样第三件事Alphago打败韩国围棋选手李世石。通过人工智能利用深度学习、大数据这两个工具在一定条件下、一定领域内竟然能够超过人类这三件事情给大家极大的鼓舞。特别是对于业外的人都认为我只要掌握了大数据利用深度学习说不定还能搞出奇迹来于是大家做了很多很多预测比如在多短时间内计算机会在什么事情上能超过人。但实际上在这个之后奇迹并没有发生按照我的估计今后也不会大量发生。准确一点说今后或许会在个别领域取得进展但是不会像之前预计的那样全面开花。特别是中国市场乐观的认为“中国市场大、数据多运用又不受限制所以将来奇迹一定会发生在中国”。结果很多企业在做的时候发现不是那么回事。从目前的情况来看效果最好的事情还是这两件图像识别、语音识别。我看了一下中国人工智能领域20个独角兽30个准独角兽企业近80%都跟图像识别或者语音识别有关系。经济观察报为什么会出现这样的情况或者说在这么长时间后我们对人工智能目前能做什么有一个清晰的认识了吗张钹人工智能在围棋上战胜人类后产生了这种恐慌“大师才能做的事人工智能居然能做我的工作这么平凡肯定会被机器所替代”。这里需要考虑一下它的局限性我一直在各种各样的会上谈到不要过于乐观。人工智能能做的那三件事语音识别、图像识别、围棋是因为它满足了五个条件就是说只要满足了这五个条件计算机就能做好只要有任何一个或者多个条件不满足计算机做起来就困难了。第一个是必须具备充足的数据充足不仅仅是说数量大还要多样性不能残缺等。第二个是确定性。第三个是最重要的需要完全的信息围棋就是完全信息博弈牌类是不完全信息博弈围棋虽然复杂但本质上只需要计算速度快不要靠什么智能可是在日常生活中我们所有的决策都是在不完全信息下做的。第四个是静态包括按确定性的规律演化就是可预测性问题在复杂路况下的自动驾驶就不满足这一条实际上它既不满足确定性也不满足完全信息。第五个就是特定领域如果领域太宽他做不了。单任务即下棋的人工智能软件就是下棋做不了别的。经济观察报就是说在满足这五个条件的前提下目前的人工智能是胜任部分工作的张钹如果你的工作符合这五个条件绝对会被计算机替代符合这五个条件的工作特点很明显就是四个字“照章办事”不需要灵活性比如出纳员、收银员。如果你的工作富有灵活性和创造性计算机绝对不可能完全代替当然部分代替是可能的因为其中肯定也有一些简单和重复性的内容。如果认识到这一条就会认识到人工智能仍处于发展阶段的初期。不是像有些人估计的那样“人工智能技术已经完全成熟而进入发展应用的阶段”。二、“深度学习技术从应用角度已经接近天花板了”经济观察报我们应该怎么去定义目前的深度学习技术路线它是基于概率学的一个事物吗张钹现在的深度学习本质是基于概率统计什么叫做概率统计没有那么玄深度学习是寻找那些重复出现的模式因此重复多了就被认为是规律真理因此谎言重复一千遍就被认为真理所以为什么大数据有时会做出非常荒唐的结果因为不管对不对只要重复多了它就会按照这个规律走就是谁说多了就是谁。我常常讲我们现在还没有进入人工智能的核心问题其实人工智能的核心是知识表示、不确定性推理这些因为人类智慧的源泉在哪在知识、经验、推理能力这是人类理性的根本。现在形成的人工智能系统都非常脆弱容易受攻击或者欺骗需要大量的数据而且不可解释存在非常严重的缺陷这个缺陷是本质的由其方法本身引起的。经济观察报就是说通过改良的方式无法彻底解决比如我们再增加神经网络层数和复杂性或者再提升数据的量级会解决它的缺陷吗张钹改良是不行的深度学习的本质就是利用没有加工处理过的数据用概率学习的“黑箱”处理方法来寻找它的规律这个方法本身通常无法找到“有意义”的规律它只能找到重复出现的模式也就是说你光靠数据是无法达到真正的智能。此外深度学习只是目前人工智能技术的一部分人工智能还有更大更宽的领域需要去研究知识表示、不确定性处理、人机交互等等一大片地方不能说深度学习就是人工智能深度学习只是人工智能的一部分。一直到去年人工智能大会交流的论文还是三分之一是机器学习方面三分之二是其他方面。经济观察报学界在这上面还是有一个比较清晰的认识张钹我可以这么说全世界的学界大多数有清晰的认识全世界的企业界大多持过于乐观的估计。为什么出现这样的情况呢因为从事过早期人工智能研究的人大多已经故去或者年老已经没有话语权。现在活跃在人工智能研究第一线的都是深度学习、大数据兴起以后加入的他们对人工智能的了解不够全面。经济观察报如果说每一个技术路线都有一个“技术潜力”那么在深度学习方面我们已经把这个潜力用了多少张钹科学研究是很难精确估计的但是深度学习如果从应用角度不去改变它我觉得已经接近天花板了就是说你要想再出现奇迹的可能性比较小了。经济观察报那基于此目前商业公司在底层技术和产业应用上还是有很大的空间吗张钹只要选好合适的应用场景利用成熟的人工智能技术去做应用还有较大的空间。目前在学术界围绕克服深度学习存在的问题正展开深入的研究工作希望企业界特别是中小企业要密切注视研究工作的进展及时地将新技术应用到自己的产品中。当然像谷歌、BAT这样规模的企业他们都会去从事相关的研究工作他们会把研究、开发与应用结合起来。经济观察报有一种观点认为我们强调的“白盒”可理解性它实际上是从人的思维来强调的但是通过大数据、概率统计工具离散到连续的投射它实际上是机器的思维你不一定需要它给你一个解释只要正确的答案就可以了张钹目前有两种意见一种观点认为智能化的道路是多条的不是只有一条路能通向智能我们通过自然进化产生了自然智能那么我们为什么不能通过机器产生机器智能这个智能和自然智能不会是完全一样的条条大路通罗马我们通过自然进化获得的智能也不见得是最佳的。这个观点我赞成机器智能与人类不相同其实是有好处的恰恰可以互补发挥各自的长处。但是从长远来看必须得走人类智能这条路为什么因为我们最终是要发展人机协同人类和机器和谐共处的世界。我们不是说将来什么事情都让机器去管去做人类在一边享受。我们要走人机共生这条路这样机器的智能就必须和人类一样不然没法共处机器做出来的事情我们不能理解我们的意图机器也不知道二者怎么能合作经济观察报就是必须具有可解释性张钹是就是可解释性你要它做决策你不理解它飞机就让它开谁敢坐这架飞机所以目前的阶段车和飞机还是不能完全让机器开的。为什么司机坐在上面我们放心因为我们和他同命运要撞死一块撞死机器和你可不是同一命运它撞不死你撞死了。有的人非常脱离实际的去想这个问题这是不对头的人类怎么会去那样发展机器呢注指把人类的命运全部交给机器人类不会去那么发展的有些人在那边担忧什么机器人统治人类我说这最多只能算远虑。经济观察报所以图灵的论文中也说这种观点“不值一驳”。张钹是那是远虑我们目前还有很多近忧发展人工智能必须要考虑安全问题这已是现实问题。你看语音合成利用现有的技术可以做到以假乱真和真人基本没有差别。现在看来这种技术不能推广应用因为一旦推广就全乱套了只要搞一段用语音合成技术做成的假录音就可以让任何一位名人身败名裂。这些都是非常危险的技术。人工智能的治理已经提到日程上了。三、“我们培养不出爱因斯坦、培养不出图灵”经济观察报一种观点认为中国有更多的数据和更多的工程师这种规模能倒推带来基础研究层面的突破或者决定技术的路线张钹这里混淆了好多概念科学、技术、工程。科技水平需要三个标准来衡量一个是科研水平、一个是技术水平、一个是工程实践能力或者产业化能力。我们中国什么情况从工程角度来看在一些领域我们“接近世界水平”技术水平我用的词是“较大差距”因为不少东西还是外国会做我们不会做科研究领域我用的词是“很大差距”科学研究就是原创实际上所有人工智能领域的原创成果都是美国人做出来的人工智能领域图灵奖得主共十一人十个美国人一个加拿大人。经济观察报数据显示中国在人工智能领域的论文发表量和被引用次数都已经进入前列位置这是否说明中国人工智能科学研究领域的突破张钹如果单从论文来看研究水平基本反映在三个指标上数量、平均引用率、单篇最高引用率。拿人工智能来讲中国研究者论文的数量和平均引用率都还不错但是单篇最高引用率和世界差距就很大而这个指标恰恰是反映你的原创能力。也就是说深度学习这个领域我们的平均水平达到世界水平了但是最高水平和世界差距还是很大的。不过还是要肯定的我们应用上发展比较快。经济观察报清华在这方面有什么优势吗张钹在人工智能重要的会议杂志上这十年期间论文数量、平均质量CMU美国卡耐基梅隆大学排第一清华大学排第二。我们培养的人在计算机这个领域清华的本科、博士生都是世界一流的。目前我们的跟踪能力是比较强的一旦有人起个头我们能迅速跟上去。但是很可惜我们缺乏顶尖人物也培养不出顶尖的人才如爱因斯坦、图灵等。我个人认为原因之一可能与中国的文化有点关系我们的从众心理很严重比如在人工智能领域深度学习很热发表的论文作者中几乎70%是华人但是其他非热门领域包括不确定性推理、知识表示等几乎没有华人作者。这就是从众扎堆不愿意去探索“无人区”。当然也不要着急科学研究本来就是富人干的事情是富国干的事情我们还是发展中国家科学研究起点比较低暂时落后是难免的我们会迎头赶上。四、“低潮会发生但不会像过去那样”经济观察报如果说深度学习已进天花板那么人工智能未来的前进方向将会在哪张钹最近我们准备提出一个新的概念就是第三代人工智能的概念人工智能实际上经历过两代第一代就是符号推理第二代就是目前的概率学习或深度学习我们认为现在正在进入人工智能的第三代。原因很明显第一代、第二代都有很大的局限性。经济观察报你所说的第三代人工智能技术是有明确的实现方向或者特点吗张钹我们现在提出的是要建立可解释、鲁棒性注可以理解为稳健性的人工智能理论和方法发展安全、可靠和可信的人工智能技术。经济观察报这样的技术可能要等很久张钹是啊很难预计我们也很着急。经济观察报是不是还得回归到数学等理论层面里再去找新的方法张钹这个目前我们有两条路一个是和数学结合一个是和脑科学结合。你想想如果没有新的数学工具没有来自于脑科学启发下的新思路哪来的新理论另一方面是要把数据驱动和知识驱动结合起来因为通过数学、脑科学上寻求突破是比较艰难的前面这件事现在则完全能够做。经济观察报这个结合是指之前几十年人工智能的经验统合到一块张钹是的至少有一个方向就是要把第一代和第二代结合利用各自的优势。但是这两个结合很困难因为他们在不同空间中操作一个是向量空间一个是符号空间也需要有新的数学工具的加入。经济观察报看人工智能历史每一代技术之间有很长的间隔期第三代人工智能技术也会这样吗张钹我认为会更长因为需要攻坚因为遇到的问题更困难。经济观察报会不会再过10年、20年人工智能在学界或者公众心中又变成一个“隐学”就像70、80年代那样大众又不会再经常提起来这个词张钹低潮会发生但不会像过去那样原因在哪因为有大数据、互联网和强大的计算资源这些都会支撑人工智能继续走下去尽管有的时候还只是表面上的繁荣。附在2018 全球人工智能与机器人峰会上清华大学人工智能研究院院长张钹院士做题为“走向真正的人工智能”Towards A Real Artifitial Intelligence的大会报告。以下为报告全文供大家学习交流。张钹院士走向真正的人工智能我今天要讲的中心思想就是我们现在离真正的人工智能还有一段很长的路。为了讲清这个思想我必须回答下面三个问题第一什么叫做真正的人工智能我们的目标是什么第二为什么我们需要真正的人工智能第三我们如何走向真正的人工智能我现在回答这三个问题。首先我们如何评价目前人工智能取得的成果我们的评价很简单针对这 5 件事第一是深蓝打败人类国际象棋冠军第二是 IBM 在电视知识竞赛中打败了美国的前两个冠军这两件事是一种类型后面的三件事是另外一种类型即 2015 年微软在 ImageNet 上做图象识别它的误识率略低于人类。还有百度、讯飞也都宣布在单句的中文语音识别上它的误识率也略低于人类。还有一个是大家非常熟悉的 AlphaGo 打败了李世石。这 5 件事情都是机器在一定的范围内超过了人类我们如何来评价这 5 件事大家一致认为这 5 件事之所以成功是由于前面三个因素一是大数据二是计算能力提高第三是有非常好的人工智能算法。这三个因素大家都讨论得非常多了没必要我再来说我现在要说的最后一个因素是被大家所忽略的这个因素是说这所有的成果必须建立在一个合适的应用场景下。这 5 件事虽然领域很不一样但是它们都满足完全一样的条件或满足下面的 5 个限制首先你必须有丰富的数据或者丰富的知识如果这两件东西没有或者很少你不用来谈人工智能因为你无法实现无米之炊。人工智能唯一的两个资源一个是数据一个是知识。还有确定性信息、完全信息、静态的、单任务和有限领域。这 5 个条件里面任何一个条件不满足现在的人工智能做起来就非常困难了。大家想想这 5 个限制条件下的应用场景是什么样的应用场景就是照章办事不需要任何灵活性这显然不是智能的核心。我们现在分析一下上述 5 个场景。下象棋是完全信息博弈信息完全和确定没有问题。其次它遵循着完全确定的游戏规则演化我们把这种情况也叫做静态。Watson 机器人也是这样Watson 是什么样的对话问题呢它为什么选择知识竞赛呢我们知道知识竞赛提的问题都没有二义性都是明确的它的答案总是唯一性的。所以这样的问答对机器人来讲是非常容易的。它涉及的领域虽然比较宽但也是有限的包括大家觉得很玄乎的围棋也完全符合上面 5 个条件所以对计算机来说也是很容易的。目前计算机打麻将就不行因为牌类是不完全信息博弈所以比棋类要难。总之我们对目前人工智能取得的成果要有一个正确的评价。目前的人工智能技术在以下领域都可以找到它的应用它们是交通、服务、教育、娱乐等等但我要强调是这些领域里面只有满足上述 5 个条件的事情计算机做起来才会容易如果不满足这些条件计算机就做起来就困难了。大家常常关心什么样的工作会被机器所替代我可以明确告诉大家满足这 5 个条件的工作总有一天会被计算机取代就是那些照章办事不需要任何灵活性的工作比如说出纳员、收银员等等。在座的所有工作都不可能被计算机完全代替但不排斥你的工作中有一部分会被计算机取代老师、企业家等的工作不可能被计算机完全代替。为什么有这 5 个限制原因在于我们现在的人工智能是没有理解的人工智能。我们先看符号模型理性行为的模型举 Watson 的例子它是个对话系统我们现在所有做的对话系统都跟这个差不多但是 Watson 做得更好些它里面有知识库有推理机制。沃森除了专家知识之外还有大量互联网上大众的知识还运用了多推理机制。请看这就是 Watson 系统的体系结构。它里面有哪些知识呢有很多包括百科全书、有线新闻、文学作品等等。所有的知识用纸质来表示有 2 亿页用存储量表示达到了 4TB。它能回答什么问题呢用它的例子来说明。第一个问题1974 年 9 月 8 日谁被总统赦免这对美国人来讲很好回答同样对计算机来讲也很好回答你用这几个关键字「1974 年 9 月 8 日」、「被总统赦免」就能在文献里头查出来是谁他就是尼克松。也就是说根据问题中的关键字可以在已有的文献里头直接找到答案这就是一般的网络检索方法。第二个问题荧光粉受到电子撞击以后它的电磁能以什么方式释放出来我们用「荧光粉」、「电子撞击」、「释放电磁能」等关键词也可以找到答案「光或者光子」。这种方法就是平时网络搜索的原理应该说没有什么智能。回答下面的问题就需要「智能」了跟智利陆地边界最长的是哪个国家跟智利有陆地边界的国家可以检索到它们是阿根廷和玻利维亚但是谁的边境长通常查不到。Watson 具备一定的推理能力它从边界间发生的事件、边界的地理位置等等经过分析推理以后就可以找出答案它就是阿根廷。下一个问题也属于这种性质跟美国没有外交关系的国家中哪个最靠北跟美国没有外交关系的国家有 4 个只要检索就行了但是哪个国家最靠北没有直接答案但可以从其它信息中推导出来比如各个国家所处的纬度、气候寒冷的程度等等分析出来答案是北朝鲜。智能体现在推理能力上。但是很不幸现在的对话系统推理能力都很差。Watson 系统好一些但也很有限。换句话说我们现在的对话系统离真正的智能还很远。我们通过索菲亚机器人就可以看出来索菲亚的对话是面向开放领域你可以随便提问问题就暴露出来了。大家在电视上看到索菲亚侃侃而谈问什么问题都能答得很好这里面有玄机如果你的问题是预先提出来的因为里头有答案因此回答得非常好在电视上给大家演示的都是这种情况。如果我们临时提问题问题就出来了。这是一个中国记者给索菲亚提的 4 个问题它只答对了一个。「你几岁了」这个问题很简单它答不上来它的回答是「你好你看起来不错」答非所问因为它不理解你所问的问题。只有第二个问题它是有准备的里面有答案所以答得很好。「你的老板是谁」这个肯定它有准备。第三个问题「你能回答多少问题呢」它说「请继续」没听懂。再问第四个问题「你希望我问你什么问题呢」它说「你经常在北京做户外活动吗」这就告诉我们说现代的问答系统基本上没有理解只有少数有少量的理解像 Watson 这样算是比较好的。为什么会这样也就是说我们现在的人工智能基本方法有缺陷我们必须走向具有理解的 AI这才是真正的人工智能。我这里提出的概念跟强人工智能有什么区别首先我们说它在这点上是相同的我们都试图去准确地描述人类的智能行为希望人工智能跟人类的智能相近这也是强人工智能的一个目标但是强人工智能只是从概念上提出来并没有从方法上提出怎么解决。大家知道强人工智能提出了一个最主要的概念就是通用人工智能。怎么个通用法它没有回答。我们现在提出来的有理解的人工智能是可操作的不只是概念这是我们跟强人工智能的区别。人机对话的时候机器为什么不能理解人们提的问题。我们看一个例子就知道了我们在知识库里把「特朗普是美国总统」这个事实用「特朗普-总统-美国」这三元组存在计算机里面如果你提的问题是「谁是美国总统」机器马上回答出来「特朗普」。但是你如果问其它有关的问题如「特朗普是一个人吗」「特朗普是一个美国人吗」「美国有没有总统」它都回答不了。它太傻了任何一个小学生你只要告诉他特朗普是美国总统后面这几个问题他们绝对回答得出来。机器为什么回答不了后面的三个问题呢就是这个系统太笨了没有常识也没有常识推理。既然特朗普是美国的总统美国当然有总统但是它连这一点常识的推理能力都没有。所以要解决这个问题必须在系统中加上常识库、常识推理没有做到这一步人机对话系统中机器不可能具有理解能力。但是大家知道建立常识库是一项「AI 的曼哈顿工程」。大家想想常识库多么不好建怎么告诉计算机什么叫吃饭怎么告诉计算机什么叫睡觉什么叫做睡不着觉什么叫做梦这些对人工智能来说都非常难美国在 1984 年就搞了这样一个常识库的工程做到现在还没完全做出来。可见要走向真正的人工智能有理解的人工智能是一条很漫长的路。这里介绍一点我们现在做的工作加入常识以后对话的性能会不会有所改善。我们的基本做法是建立一个常识图谱用这个图谱帮助理解提出的「问题」同时利用常识图谱帮助产生合适的答案。下面就涉及到具体怎么做了我不详细说了我就说结果结果是有了常识以后性能有了显著的改善对话的质量提高了。这篇文章已经发表有兴趣可以去阅读。另外是准符号模型深度学习、神经网络主要用来模拟感性行为感性行为是一般很难采用符号模型因为感性感觉没法精确描述。比如「马」怎么告诉计算机什么叫做马你说马有四条腿什么叫做腿你说细长的叫做腿什么叫细什么叫做长没法告诉机器因此不能用符号模型。目前用的办法就是我们现在说的神经网络或者准符号模型也就是用人类同样的办法学习、训练。我不告诉机器什么叫做马只是给不同的马的图片给它看进行训练。训练完以后然后再用没见过的马的图片给它看说对了就是识别正确了说不对就是识别不正确如果 90% 是对的就说明它的识别率是 90%。后来从浅层的神经网络又发展到多层的神经网络从浅层发展到多层有两个本质性的变化一个本质性的变化就是输入深层网络一般不用人工选择的特征用原始数据就行。所以深度学习的应用门槛降低了你不要有专业知识把原始数据输进去就行了。第二个是它的性能提高很多所以现在深度学习用得很多原因就在这个地方。通过数据驱动建立的系统能不能算是有智能呢必须打一个很大的问号就是说你做出来的人脸识别系统甚至识别率会比人还高但是我们还不能说它有智能为什么呢这种通过数据驱动做出来的系统它的性能跟人类差别非常大鲁棒性很差很容易受干扰会发生重大的错误需要大量的训练样本。我们刚才已经说过给定一个图像库我们可以做到机器的识别率比人还要高也就是说它可以识别各种各样的物体但是这样的系统我如果用这个噪声输给它我可以让它识别成为知更鸟我用另外的噪声输给它可以让它识别成为猎豹。换句话讲这样的系统只是一个机械的分类器根本不是感知系统。也就是说它尽管把各种各样动物分得很清楚但是它不认识这个动物它尽管可以把猎豹跟知更鸟分开但是它本质上不认识知更鸟和猎豹它只到达了感觉的水平并没有达到感知的水平它只是「感」没有上升到「知」。我们的结论是只依靠深度学习很难到达真正的智能。这是很严峻的结论因为如果有这样的问题在决策系统里头是不能用这样的系统因为它会犯大错。我在很多场合讲过人类的最大的优点是「小错不断、大错不犯」机器最大的缺点是「小错不犯一犯就犯大错」。这在决策系统里头是不允许的这就显示人跟机器的截然不同人非常聪明所以他做什么事都很灵活这就使得他很容易犯各种各样的小错。但是他很理性很难发生大错。计算机很笨但是很认真小错误绝对不会犯但是它一犯就是天大的错误。刚才把那个把噪声看成知更鸟这不是大错吗你把敌人的大炮看成一匹马不是大错吗但是人类不会发生这种错误人类只会把骡看成驴但是计算机的识别系统会把驴看成一块石头。原因在哪儿原因还是 AI 的理解能力问题。我们看这个自动驾驶过去讲得很多而且讲得很乐观我们看看问题在什么地方。我们现在是这样做我们通过数据驱动的学习方法学习不同场景下的图象分割并判别是车辆还是行人、道路等然后建立三维模型在三维模型上规划行驶路径。现在用硬件已经可以做到实时请问大家这样能不能解决问题如果路况比较简单行人、车辆很少勉强可以用。复杂的路况就用不了。什么原因非常简单好多人总结出这个经验行人或者司机都会有意无意破坏交通规则包括外国人也一样中国人更严重一点。这就使得数据驱动方法失效比如说我们可以用数据驱动方法来了解各种各样行人的行为我们可以通过大量进行训练都训练完以后如果出现新的情况呢计算机能理解这是人从底下钻过来很危险吗所以你不可能把所有情况都训练到。自动驾驶不可能对付突发事件如果这个突发事件它没见过它就解决不了。怎么来解决这个问题呢实际上就是要解决从「Without」到「With」理解的问题。人工智能现在有两种基本方法一种是用符号模型来模拟理性行为符号模型可以表达信息的内容所以它是在一个语义的符号空间里头但是非常不幸这个离散的符号表示数学工具很难用很多数学工具用不上去所以它发展很慢。在模拟感性行为的时候我们用的是特征空间的向量向量就是数可以把所有的数学工具都用上优化的工具、概率统计的工具全部用上。所以数据驱动方法这几年发展非常快再难的问题下围棋非常难吧计算机也可以「算」出来。但是它有一个非常大的缺陷它是在特征空间里缺乏语义。我们用数据去训练一个模型所谓「黑箱学习法」加上你的数据质量不高很难学出有用的东西。什么叫概率统计重复多了就是真理。如果数据质量差充满了「谎言」。谎言重复多了就变成真理了。我们现在想出的解决办法是这样的就是把这两个空间投射到一个空间去这个空间叫做语义的向量空间。也就是说我们把符号变成向量同时把特征空间的向量变成语义空间的向量。怎么做一是通过 Embedding嵌入把符号变成向量尽量保持语义不变可惜现在的方法都会引起语义的丢失我们只能在投射的过程中让语义丢失得少。第二方面做的工作比较少就是 Raising提升把特征空间提升到语义空间去这主要靠学科交叉靠跟神经科学的结合。只有这些问题解决以后我们才能够建立一个统一的理论因为过去的感知和认知是不同的处理方法大家说不到一块如果我们能够投射到同一空间去我们就可以建立一个统一的理论框架这是我们的目标。在语义空间处理就可以解决理解问题但是这项工作是非常艰巨的。介绍一项我们现在做的工作。人工神经网络为什么不能得到语义信息呢人脑的神经网络为什么可以呢差别就在这里我们现在用的人工神经网络太简单了我们正想办法把脑神经网络的许多结构与功能加进去我们这里只用了「稀疏发电」这一性质就可以看出一些效果人脸、大象或者鸟的轮廓神经网络可以把它提取出来。还有一个办法就是把数据驱动跟知识驱动结合起来。刚才讲了人的智能没法通过单纯的大数据学习把它学出来那怎么办很简单加上知识让它有推理的能力做决策的能力这样就能解决突发事件。我们现在做的工作就是把这些结合起来这是我们的基本思路知识也好数据也好都投射到同一空间然后都用同样的数学方法进行处理这方面我们已经做了不少工作。最后做一个总结我们从这个坐标看人工智能横轴代表领域的宽窄从单领域到多领域、到开放领域。纵轴代表信息的确定性与完全性从完全到不完全、从确定到不确定。在左下角代表最容易的就是刚才讲的符合 5 个条件的现在人工智能在这部分解决得非常好我们用白色来表示它AlphaGo 在这里深蓝在这里工业机器人在这里。现在我们正在向灰色地区去走打牌信息不完全现在打德州扑克一人对一人计算机能战胜人类多人对弈计算机还不行这是灰色地带我们还可以做为什么可以做尽管打牌是不确定的但是它在概率意义下是确定的你拿的这副牌的概率可以算出来同花的概率是多少排成顺的概率是多少既然概率能算出来最终人类肯定会被计算机打败。Watson 在右边它的领域比较宽但是它是确定性的所以是在灰色的区域。往右上方去就比较难了自动驾驶、服务机器人、大数据分析它是一个大框有的简单有的困难就自动驾驶来讲专用道、行车很少路况简单等在白色或者灰色区如果路况复杂就到了黄色区域黄色区现在计算机还解决不好。最远的在哪儿呢右上角图灵测试。大家对图灵测试有很多误解其实图灵测试是开领域问答很难索菲亚做得怎么样很糟糕。自然语言理解也在这里复杂环境下的决策在偏左一点的地方这也是很难的。所以我们人工智能现在是从左下角往右上角走我们现在处在出发点附近。有的人想把它用一些名词来区分人工智能的不同发展阶段有专家问我你的看法怎么样我建议不要用新词用新词往往说不清很麻烦有的人说现在是弱人工智能以后是强人工智能也有人说现在叫增强智能Augmented Intelligence也是 AI……概念太多说不清还是简单一点「我们正在通往真正 AI 的路上」现在走得并不远在出发点附近人工智能永远在路上大家要有思想准备这就是人工智能的魅力。大家为什么这么重视人工智能因为我们永远在路上这就吸引我们去解决这些问题这些问题一旦解决了人类的社会进步、人类的生活就会发生本质上的改变。最后我用中文写最后一段作为总结可惜我翻译不了。周穆王西巡狩路遇匠人名偃师。翌日偃师谒见王偕来一个假人。「趋步俯仰信人也」。「领其颅则歌合律捧其手则舞应节。千变万化惟意所适。王以为实人也与盛姫内御并观之技将终倡者瞬其目而招王之左右侍妾。王大怒要杀这个偃师。偃师大慑立剖其倡者以示王皆傅会革、木、胶、漆、白 、黑、丹、青之所为。穆王始悦诏贰车载之以归。这是 3000 年前我们古人对机器人的想象看看现在的人工智能做得怎么样呢索菲亚是我们现在达到的水平可是她不会唱歌、不会跳舞只会说英文周王也听不懂肯定没有印象。现在我们假设索菲亚「瞬其目而招王之左右侍妾」向周王的姨太太们送去秋波王会如何呢我认为没反应因为索菲亚是女的他用不着吃醋。但是我们假设索菲亚「瞬其目而招王」向大王送去秋波王会大悦立即神魂颠倒坠入爱河我认为不会因为索菲亚根本不像人它最近才刚刚安上手脚走路都不利索怎么行呢所以我的结论是「索菲亚通不过穆王的测试当然它更通不过图灵测试」。我们的结论是什么人工智能刚刚起步离真正的 AI 还很遥远大家共同努力吧我们任重道远。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
