做电商网站的框架结构图,江苏seo外包,百度预测大数据官网,大兴安岭商城网站开发设计点击关注 文丨刘雨琦、郝鑫
2005年华为提出网络时代的“All IP”#xff0c;2011年提出数字化时代的“All Cloud”#xff0c;2023年提出智能时代的“All Intelligence”。
截至目前#xff0c;华为的战略升级经历了三个阶段。
步入智能化#xff0c;需要迎接的困难依然…点击关注 文丨刘雨琦、郝鑫
2005年华为提出网络时代的“All IP”2011年提出数字化时代的“All Cloud”2023年提出智能时代的“All Intelligence”。
截至目前华为的战略升级经历了三个阶段。
步入智能化需要迎接的困难依然不少。在大模型能力涌现、多模态融合、MOE等趋势下模型参数很快将从现在的5400亿超过数万亿对海量的稳定算力、大规模并行训练、以及整体的架构设计都提出了更高要求。同时数据集规模的快速增长数据高效存储、清洗和标注的难度以及海量Token的训练等充满挑战。
“可以说大模型及相关应用是迄今为止最复杂的软硬件系统工程” 华为云CTO张宇昕判断道。
在上篇 《全面智能化华为的“硬功夫”》 中我们总结在硬件层面华为的策略是从底层建基开始做起 以硬件为切入打通感知层和连接层凭借特色化行业军团打入各行各业出具智能化解决方案。 也正是因为华为本身软硬一体化的特殊性催生了其既要做好“硬件层”与“软件层”的连接也要做好软件层与千行百业连接的需求。
近期的华为全联接大会2023华为云公布了一系列实践进一步印证了软硬结合的深层次逻辑
面向底层算力宣布华为云昇腾AI云服务正式上线提供算力集群、计算引擎CANN、AI开发框架MindSpore和AI开发平台ModelArts构建AI云底座
面向客户、开发者开发训练上线“昇腾AI云服务百模千态专区”同时整合了应用开发需要的开发生产线、低码/无码平台、AI应用框架及全新的AI应用工程套件降低开发门槛
面向大模型落地发布华为云Stack 8.3提供13类100云服务重点增强盘古大模型、工业互联网、数据要素流通、软件开发生产线四大核心能力。
通过梳理本次大会内容光锥智能发现华为云服务总体分为两个大板块 一是面向计算以硬件交付为主、提供算力的业务二是直接面向客户以软件交付为主、提供服务的业务。
如果将华为提出的全面智能化战略形象化算力就好比是引擎计算就是发动机。华为云平台在其中承担连接器的角色向下调用算力平台向上兼容千行百业。对外也给千行百业的智能化描绘工程图纸和提供工具。
01 昇腾AI云服务算力的“输血泵”
随着大模型厂商的不断推进让“大模型落地各行各业”正在一步步变成现实这同时也激发了大规模底层算力调用的需求。
作为底层的算力以前大多数情况下通过本地部署方式完成而现在明显的变化是 大模型开始推动算力基础设施不断“向上”服务于千行百业的客户。
但要把算力直接部署在企业端本身是件门槛极其高的事情正如华为云代理厂商告诉光锥智能 “预算要千万级起步其次还要配备技术研发团队”。这就导致从计算平台到客户之间便产生了一道鸿沟。
谁来填补这道裂缝华为给出的答案是“昇腾AI云服务”。据华为云透露截至目前其在贵安、乌兰察布、芜湖建设了3大AI算力中心。算力中心没办法直接提供服务但通过云计算就可以把像水电一般的算力转化为“即开即用”的服务一起出售给用户。
就像一块块搭积木昇腾AI云服务将算力平台和云计算平台的能力组合在了一起硬件发挥传输信号、计算等能力软件发挥数据传输、存储、加密等能力软硬件一体化来实现效率的最大化。据了解 目前基于华为昇腾AI云服务同时通过软硬协同实现算子融合与混合精度的优化让训练效率提升45%。
具体来看 华为昇腾AI产业生态由云边端的硬件、异构计算架构、AI框架、应用使能和行业应用层构成这几部分揭示了华为AI能力如何落地行业场景的全过程。 我们可以把上面这张图理解为一间正在投入生产的工厂。异构计算架构层好比一台万能的生产机器它具有极强的兼容性既支持CPU的引擎也支持GPU、TPU的引擎有了算力整个工厂才得以运作起来。
AI框架就好比是工人手中的图纸只有对照着图纸才能知道每一步的生产步骤。有了机器、图纸还不够工厂还给每位工人配备了一些封装好的扳手、锤子等工具这也就是“应用使能层”的作用。待工人将图纸的样式组装为现实的产品会立即被分类投入到不同的产业线进行打包处理这也等同于AI进入到了各个行业当中。
华为从最底层打造了一个最全的生产工厂也提供了各类服务。如在异构计算架构层不仅支持不同类型的处理器还提供了四种算力供给模式 一种是直接卖服务器的裸算力模式第二种是租服务器的租算力模式第三种是通过服务器打造一个云服务空间提供算力支持最后一种是以MaaS服务的方式提供算力。 纵观全世界谷歌、亚马逊等云厂商多以云算力模式、MaaS模式的方式提供算力英伟达等硬件芯片厂商多以裸算力、多租户模式提供算力很长一段时间内两者之间泾渭分明。
不过多算力供给模式正在逐渐成为趋势。据外媒报道英伟达已经开始通过与一些云厂商签订GPU合同“逼迫”他们租用英伟达的服务器以此来打通云算力和MaaS模式。
02 华为云AI云基座和生产线
算力层的优势是一个新引擎华为云才是带领华为智能化走向千行百业的那辆马车。
全联接大会中除了发布昇腾AI云服务华为云还升级了Stack 8.3版本为企业提供一站式建设专属大模型的工具和服务。据了解全新的Stack8.3版本提供了完整的AI生产链包括AI算力、计算结构、框架、开发平台、开发套件、基础大模型以及专业服务降低大模型的建设门槛。 “大模型不是少数企业的专利”华为云Stack总裁尚海峰说道“华为希望让每个企业都拥有自己的大模型。”
但从企业内部来看数据的实时采集受制于非数字化终端数据的实时上传受制于低速网络数据的实时分析受制于数据孤岛行业数据难采、难传、难用诸多因素都阻碍了智能化的进程。
带着这个思路再看Stack 8.3目前的产品布局颇有种针对企业痛点逐个狙击的感觉。
比如在8.3版本中重点对数据要素流通能力进行了增强而这正是企业面临智能化的第一道难关。在数据实时采集方面华为打造了感知层硬件进行支撑为了解决上传速度的问题华为QingTian架构基于高速新型网络协议打破了算力、存储和网络的边界完成对多算力的对等互联以解决此前低速网络带来的数据传输时间过长、数据丢失等问题。
另一方面数据需要在流通中才能充分体现价值但当前业界仍然缺乏可信的数据流通机制这样的挑战在大模型时代尤为突出。
数据是行业用户的核心资产和竞争优势的源泉行业用户部分关键敏感数据难以实现共享或者“出厂” 例如政务行业中涉及到城市发展、公共安全和个人隐私等方面的数据金融行业中责权、债务关系相关的数据制造业的资产明细、生产数据以及明确要求不可以出园区的数据等等此时基础大模型难以适应行业智能化需求。
为此每个云厂商都在着重建立保障数据要素流通过程中的安全可信机制。区块链和隐私计算成为其中最核心的能力这原本是金融交易中的核心技术如今也逐渐成为了基础能力。
在数据流通环节区块链技术可以进行数据确权、防篡改隐私计算技术确保数据在应用中“可用不可见、可算不可识”。华为Stack 8.3将上述多种技术进行数智融合让企业可以实现算法、模型和数据集等高质量数据产品的开发满足数据的使用标准并通过EDS交换数据空间让数据可信流通与授权运营确保数据不出域。
其他厂商也在数据层积极布局蚂蚁专门推出了针对数据流通安全的平台“摩斯”独立对外提供服务产品化页面操作包含分布式和集中式计算模式提供安全匹配、匿名查询、安全模型、安全统计等各类产品。 保障数据安全和流通之后面对智能化的应用开发很多企业都是“丈二的和尚摸不着头脑”。Stack 8.3版本是一站式开发平台提供从编码规范、分布式构建、漏洞检查到协同开发等30多种核心能力建立了流程、工具到经验一体的软件开发生产线CodeArts。
对比上文所提到的ModleArts的逻辑是一样的几乎开发者在软件开发中的所有流程和工具、服务都能够在CodeArts中找到答案。中国船舶集团旗下的海舟技术公司专门负责船舶系统的软件业务和开发基于CodeArts的结构化流程和契约化研发确保交付零偏差实现千人高效协作打造大型工业领域原创技术“策源地”。
无论是被动的一体化还是主动的一站式可以看出目前华为云的整体思路不仅要做深更要做广为智能化时代打造一个AI云基座。
03 5NX解耦大模型解决方案
毫无疑问大模型虽然不是智能化的全部但却已经成为了企业智能化的灵魂。
在技术发展的早期有时候建立标准比发展技术本身更加重要。 这也是华为云的思路。比如自动驾驶技术在发展的早期也曾经历混乱和迷茫直到业内将自动驾驶技术分为L0-L5框架清晰之后才迎来了具体的技术突破和落地。
华为云认为对于大模型的思考也应该如此。基于思考华为云将大模型分为了L0、L1、L2三个层次形成了5NX的三层解耦架构。 其中5指的是5种基础大模型包括自然语言LLM、视觉CV、多模态、预测决策推理、科学计算5种不同方向的大模型N是基于通用大模型打造的行业大模型利用特定的行业数据基于无监督自主学习行业知识形成的行业的大模型也是目前大模型在产业应用落地的主要形式而X则是L1结合场景数据形成场景大模型以适应行业的需要。
从 L0、L1 到 L2遵从由“通”到“专”的分层级模式通用大模型用来定性、行业大模型定量而场景大模型则代表了无限可能。在这样层级分明的架构中可以完成从 L0 通用模型到 L1 行业模型再到 L2 专用模型的快速开发流程。
据光锥智能了解到首先盘古大模型采用完全的分层解耦设计 可以灵活适配、满足行业多变的需求企业既可以为自己的大模型加载独立的数据集也可以独立升级模型。
但同时大模型的三级模型之间可以交互优化。 L0 模型可以为 L1 模型提供初始化加速收敛L1 可以通过模型抽取蒸馏产生更强的 L2 模型L2 也能够在实际问题中通过积累难例数据或者行业经验反哺 L1。
或许这也正是华为云能够快速同时推出9大行业大模型的原因。全联接大会中华为云一口气“上新”了9大行业模型矿山大模型、气象大模型、医药大模型等针对具体行业具体业务提供实际的解决方案。
与其他云厂商提供的行业大模型不同的是华为的行业大模型已经在实际业务中“跑过一轮”带着实战经验就能起到关键作用。
比如在近几年极端天气与日俱增之际对气象预测的精准度有了进一步要求盘古气象大模型与中国国家气象局合作使得中长期气象预报精度首次超过传统数值方法速度提升10000倍以上。具体而言该模型使用全球39年的天气数据进行训练仅用1.4秒就完成了全球24小时的天气预测同时对台风路径预报等极端天梯提高了精准度。
同样煤炭行业面临着开采地质条件复杂、灾害多发如煤尘、水、火、瓦斯和顶板等自然灾害、生产效率较低、作业环境恶劣、人员短缺等挑战为应对这些挑战大模型在尽量增安、少人。仅以瓦斯隐患预测一个场景举例借助大模型对井下采煤、设备、矿压、通风、安全监测、地质、瓦斯抽取等系统数据进行智能融合分析对井下关键位置瓦斯浓度进行预测实现瓦斯隐患的超前预警。 当然这得益于华为在智能感知层的纵深布局在具体的应用场景中再次发挥作用和价值。
未来百模千态将面临一个个越来越艰深的行业和越来越具体的场景无论是华为云还是其他云厂商都需要不断思考着陆点深入无数毛细血管才能迎来质的改变。 欢迎关注光锥智能获取更多科技前沿知识
