粉红色主题 模板 网站 在线预览,重庆二建电子证书怎么下载,广州网站优化公司咨询,wordpress缓存图片路径来源#xff1a;人工智能产业链联盟人工智能的发展曾经经历过几次起起伏伏#xff0c;近来在深度学习技术的推动下又迎来了一波新的前所未有的高潮。近日#xff0c;IBM 官网发表了一篇概述文章#xff0c;对人工智能技术的发展过程进行了简单梳理#xff0c;同时还图文并… 来源人工智能产业链联盟人工智能的发展曾经经历过几次起起伏伏近来在深度学习技术的推动下又迎来了一波新的前所未有的高潮。近日IBM 官网发表了一篇概述文章对人工智能技术的发展过程进行了简单梳理同时还图文并茂地介绍了感知器、聚类算法、基于规则的系统、机器学习、深度学习、神经网络等技术的概念和原理。人类对如何创造智能机器的思考从来没有中断过。期间人工智能的发展起起伏伏有成功也有失败以及其中暗藏的潜力。今天有太多的新闻报道是关于机器学习算法的应用问题从癌症检查预测到图像理解、自然语言处理人工智能正在赋能并改变着这个世界。现代人工智能的历史具备成为一部伟大戏剧的所有元素。在最开始的 1950 年代人工智能的发展紧紧围绕着思考机器和焦点人物比如艾伦·图灵、冯·诺伊曼迎来了其第一次春天。经过数十年的繁荣与衰败以及难以置信的高期望人工智能及其先驱们再次携手来到一个新境界。现在人工智能正展现着其真正的潜力深度学习、认知计算等新技术不断涌现且不乏应用指向。本文探讨了人工智能及其子领域的一些重要方面。下面就先从人工智能发展的时间线开始并逐个剖析其中的所有元素。现代人工智能的时间线1950 年代初期人工智能聚焦在所谓的强人工智能希望机器可以像人一样完成任何智力任务。强人工智能的发展止步不前导致了弱人工智能的出现即把人工智能技术应用于更窄领域的问题。1980 年代之前人工智能的研究一直被这两种范式分割着两营相对。但是1980 年左右机器学习开始成为主流它的目的是让计算机具备学习和构建模型的能力从而它们可在特定领域做出预测等行为。图 1现代人工智能发展的时间线在人工智能和机器学习研究的基础之上深度学习在 2000 年左右应运而生。计算机科学家在多层神经网络之中使用了新的拓扑学和学习方法。最终神经网络的进化成功解决了多个领域的棘手问题。在过去的十年中认知计算Cognitive computing也出现了其目标是打造可以学习并与人类自然交互的系统。通过成功地击败 Jeopardy 游戏的世界级选手IBM Watson 证明了认知计算的价值。在本文中我将逐一探索上述的所有领域并对一些关键算法作出解释。基础性人工智能1950 年之前的研究提出了大脑是由电脉冲网络组成的想法正是脉冲之间的交互产生了人类思想与意识。艾伦·图灵表明一切计算皆是数字那么打造一台能够模拟人脑的机器也就并非遥不可及。上文说过早期的研究很多是强人工智能但是也提出了一些基本概念被机器学习和深度学习沿用至今。图 21950 - 1980 年间人工智能方法的时间线人工智能搜索引擎人工智能中的很多问题可以通过强力搜索brute-force search得到解决。然而考虑到中等问题的搜索空间基本搜索很快就受影响。人工智能搜索的最早期例子之一是跳棋程序的开发。亚瑟·塞缪尔Arthur Samuel在 IBM 701 电子数据处理机器上打造了第一款跳棋程序实现了对搜索树alpha-beta 剪枝的优化这个程序也记录并奖励具体行动允许应用学习每一个玩过的游戏这是首个自我学习的程序。为了提升程序的学习率塞缪尔将其编程为自我游戏以提升其游戏和学习的能力。尽管你可以成功地把搜索应用到很多简单问题上但是当选择的数量增加时这一方法很快就会失效。以简单的一字棋游戏为例游戏一开始有 9 步可能的走棋每 1 个走棋有 8 个可能的相反走棋依次类推。一字棋的完整走棋树包含 362,880 个节点。如果你继续将这一想法扩展到国际象棋或者围棋很快你就会发展搜索的劣势。感知器感知器是单层神经网络的一个早期监督学习算法。给定一个输入特征向量感知器可对输入进行具体分类。通过使用训练集网络的权重和偏差可为线性分类而更新。感知器的首次实现是 IBM 704接着在自定义硬件上用于图像识别。图 3感知器与线性分类作为一个线性分类器感知器有能力解决线性分离问题。感知器局限性的典型实例是它无法学习专属的 OR XOR 函数。多层感知器解决了这一问题并为更复杂的算法、网络拓扑学、深度学习奠定了基础。聚类算法使用感知器的方法是有监督的。用户提供数据来训练网络然后在新数据上对该网络进行测试。聚类算法则是一种无监督学习unsupervised learning方法。在这种模型中算法会根据数据的一个或多个属性将一组特征向量组织成聚类。图 4在一个二维特征空间中的聚类你可以使用少量代码就能实现的最简单的聚类算法是 k-均值k-means。其中k 表示你为样本分配的聚类的数量。你可以使用一个随机特征向量来对一个聚类进行初始化然后将其它样本添加到其最近邻的聚类假定每个样本都能表示一个特征向量并且可以使用 Euclidean distance 来确定「距离」。随着你往一个聚类添加的样本越来越多其形心centroid即聚类的中心就会重新计算。然后该算法会重新检查一次样本以确保它们都在最近邻的聚类中最后直到没有样本需要改变所属聚类。尽管 k-均值聚类相对有效但你必须事先确定 k 的大小。根据数据的不同其它方法可能会更加有效比如分层聚类hierarchical clustering或基于分布的聚类distribution-based clustering。决策树决策树和聚类很相近。决策树是一种关于观察observation的预测模型可以得到一些结论。结论在决策树上被表示成树叶而节点则是观察分叉的决策点。决策树来自决策树学习算法其中数据集会根据属性值测试attribute value tests而被分成不同的子集这个分割过程被称为递归分区recursive partitioning。考虑下图中的示例。在这个数据集中我可以基于三个因素观察到某人是否有生产力。使用一个决策树学习算法我可以通过一个指标来识别属性其中一个例子是信息增益。在这个例子中心情mood是生产力的主要影响因素所以我根据 Good Mood 一项是 Yes 或 No 而对这个数据集进行了分割。但是在 Yes 这边还需要我根据其它两个属性再次对该数据集进行切分。表中不同的颜色对应右侧中不同颜色的叶节点。图 5一个简单的数据集及其得到的决策树决策树的一个重要性质在于它们的内在的组织能力这能让你轻松地图形化地解释你分类一个项的方式。流行的决策树学习算法包括 C4.5 以及分类与回归树Classification and Regression Tree。基于规则的系统最早的基于规则和推理的系统是 Dendral于 1965 年被开发出来但直到 1970 年代所谓的专家系统expert systems才开始大行其道。基于规则的系统会同时存有所需的知识的规则并会使用一个推理系统reasoning system来得出结论。基于规则的系统通常由一个规则集合、一个知识库、一个推理引擎使用前向或反向规则链和一个用户接口组成。下图中我使用了知识「苏格拉底是人」、规则「如果是人就会死」以及一个交互「谁会死」图 6基于规则的系统基于规则的系统已经在语音识别、规划和控制以及疾病识别等领域得到了应用。上世纪 90 年代人们开发的一个监控和诊断大坝稳定性的系统 Kaleidos 至今仍在使用。机器学习机器学习是人工智能和计算机科学的一个子领域也有统计学和数学优化方面的根基。机器学习涵盖了有监督学习和无监督学习领域的技术可用于预测、分析和数据挖掘。机器学习不限于深度学习这一种。但在这一节我会介绍几种使得深度学习变得如此高效的算法。图 7机器学习方法的时间线反向传播神经网络的强大力量源于其多层的结构。单层感知器的训练是很直接的但得到的网络并不强大。那问题就来了我们如何训练多层网络呢这就是反向传播的用武之地。反向传播是一种用于训练多层神经网络的算法。它的工作过程分为两个阶段。第一阶段是将输入传播通过整个神经网络直到最后一层称为前馈。第二阶段该算法会计算一个误差然后从最后一层到第一层反向传播该误差调整权重。图 8反向传播示意图在训练过程中该网络的中间层会自己进行组织将输入空间的部分映射到输出空间。反向传播使用监督学习可以识别出输入到输出映射的误差然后可以据此调整权重使用一个学习率来矫正这个误差。反向传播现在仍然是神经网络学习的一个重要方面。随着计算资源越来越快、越来越便宜它还将继续在更大和更密集的网络中得到应用。卷积神经网络卷积神经网络CNN是受动物视觉皮层启发的多层神经网络。这种架构在包括图像处理的很多应用中都有用。第一个 CNN 是由 Yann LeCun 创建的当时 CNN 架构主要用于手写字符识别任务例如读取邮政编码。LeNet CNN 由好几层能够分别实现特征提取和分类的神经网络组成。图像被分为多个可以被接受的区域这些子区域进入到一个能够从输入图像提取特征的卷积层。下一步就是池化这个过程降低了卷积层提取到的特征的维度通过下采样的方法同时保留了最重要的信息通常通过最大池化的方法。然后这个算法又执行另一次卷积和池化池化之后便进入一个全连接的多层感知器。卷积神经网络的最终输出是一组能够识别图像特征的节点在这个例子中每个被识别的数字都是一个节点。使用者可以通过反向传播的方法来训练网络。图 9.LeNet 卷积神经网络架构对深层处理、卷积、池化以及全连接分类层的使用打开了神经网络的各种新型应用的大门。除了图像处理之外卷积神经网络已经被成功地应用在了视频识别以及自然语言处理等多种任务中。卷积神经网络也已经在 GPU 上被有效地实现这极大地提升了卷积神经网络的性能。长短期记忆LSTM记得前面反向传播中的讨论吗网络是前馈式的训练的。在这种架构中我们将输入送到网络并且通过隐藏层将它们向前传播到输出层。但是还存在其他的拓扑结构。我在这里要研究的一个架构允许节点之间形成直接的回路。这些神经网络被称为循环神经网络RNN它们可以向前面的层或者同一层的后续节点馈送内容。这一特性使得这些网络对时序数据而言是理想化的。在 1997 年一种叫做长短期记忆LSTM的特殊的循环网络被发明了。LSTM 包含网络中能够长时间或者短时间记忆数值的记忆单元。图 10. 长短期记忆网络和记忆单元记忆单元包含了能够控制信息流入或者流出该单元的一些门。输入门input gate控制什么时候新的信息可以流入记忆单元。遗忘门forget gate控制一段信息在记忆单元中存留的时间。最后输出门output gate控制输出何时使用记忆单元中包含的信息。记忆单元还包括控制每一个门的权重。训练算法通常是通过时间的反向传播backpropagation-through-time反向传播算法的一种变体基于所得到的误差来优化这些权重。LSTM 已经被应用在语音识别、手写识别、语音合成、图像描述等各种任务中。下面我还会谈到 LSTM。深度学习深度学习是一组相对新颖的方法集合它们从根本上改变了机器学习。深度学习本身不是一种算法但是它是一系列可以用无监督学习实现深度网络的算法。这些网络是非常深层的所以需要新的计算方法来构建它们例如 GPU除此之外还有计算机集群。本文目前已经介绍了两种深度学习的算法卷积神经网络和长短期记忆网络。这些算法已经被结合起来实现了一些令人惊讶的智能任务。如下图所示卷积神经网络和长短期记忆已经被用来识别并用自然语言描述图片或者视频中的物体。图 11. 结合卷积神经网络和长短期记忆来进行图像描述深度学习算法也已经被用在了人脸识别中也能够以 96% 的准确率来识别结核病还被用在自动驾驶和其他复杂的问题中。然而尽管运用深度学习算法有着很多结果但是仍然存在问题需要我们去解决。一个最近的将深度学习用于皮肤癌检测的应用发现这个算法比经过认证的皮肤科医生具有更高的准确率。但是医生可以列举出导致其诊断结果的因素却没有办法知道深度学习程序在分类的时候所用的因素。这被称为深度学习的黑箱问题。另一个被称为 Deep Patient 的应用在提供病人的病例时能够成功地预测疾病。该应用被证明在疾病预测方面比医生还做得好——即使是众所周知的难以预测的精神分裂症。所以即便模型效果良好也没人能够深入到这些大型神经网络去找到原因。认知计算人工智能和机器学习充满了生物启示的案例。尽管早期的人工智能专注于建立模仿人脑的机器这一宏伟目标而现在是认知计算正在朝着这个目标迈进。认知计算建立在神经网络和深度学习之上运用认知科学中的知识来构建能够模拟人类思维过程的系统。然而认知计算覆盖了好多学科例如机器学习、自然语言处理、视觉以及人机交互而不仅仅是聚焦于某个单独的技术。认知学习的一个例子就是 IBM 的 Waston它在 Jeopardy 上展示了当时最先进的问答交互。IBM 已经将其扩展在了一系列的 web 服务上了。这些服务提供了用于一些列应用的编程接口来构建强大的虚拟代理这些接口有视觉识别、语音文本转换语音识别、文本语音转换语音合成、语言理解和翻译、以及对话引擎。继续前进本文仅仅涵盖了关于人工智能历史以及最新的神经网络和深度学习方法的一小部分。尽管人工智能和机器学习经历了很多起起伏伏但是像深度学习和认知计算这样的新方法已经明显地提升了这些学科的水平。虽然可能还无法实现一个具有意识的机器但是今天确实有着能够改善人类生活的人工智能系统。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
