滨州做网站的,wordpress如何添加商桥,中国官网,做网站代管理三年福建点石科技网络科技有限公司成立于2010年#xff0c;是国家高新技术企业#xff0c;阿里云、蚂蚁金服等大厂海内外生态合作伙伴ISV。在餐饮、零售、酒店、旅游、商圈的行业定制化服务化上有深厚积累#xff0c;在境内外做了大量标杆性软件项目#xff0c;如东南亚RWS圣淘… 福建点石科技网络科技有限公司成立于2010年是国家高新技术企业阿里云、蚂蚁金服等大厂海内外生态合作伙伴ISV。在餐饮、零售、酒店、旅游、商圈的行业定制化服务化上有深厚积累在境内外做了大量标杆性软件项目如东南亚RWS圣淘沙、DBS银行、新加坡樟宜机场等项目获得众多荣誉扶持资金和CGTN及多国政府官方新闻媒体报道得到高度好评。 01.客户简介 经过10多年的努力和大量海内外标杆项目实践点石科技聚合了海内外众多大语言模型AI工具和AI应用强大能力搭建了一整套从业务、数据向量数据库、AI智能、算法等协同的点石中台AI应用的SaaS系统。如“爱晚亭”AI系统、“长江商学院”AI演示平台“AI开店宝”等系列落地项目帮助用户解决员工实际生产生活实现如智能客服/HR/智能销售等各种场景应用或基于Agent进行流程再造等真实帮助企业实现降本增效。 2023 年点石科技的系列AI产品陆续上线后快速被市场认可发展了众多的付费用户不乏如长江商学院、顾均辉教定位上海墨迹天气、新疆兆龙集团、湖南尔康药业、深圳魅动智能、广州国测规划等标杆或典型用户。点石科技也成功转型为AI智能服务商成为AI赋能服务的头部应用平台。 02.应用场景 当前各大语言模型普遍面临的一个巨大挑战是用户结合企业自身数据知识训练输出结果时会出现“幻觉”现象。究其根本除了数据训练或者模型选择的问题更主要的原因大模型没有特定领域的知识而当用户正好问到这个问题的时候那大模型就会产生“一本正经的胡说八道”甚至“犟嘴”的情况。 目前业界被公认为解决大语言模型“幻觉”问题的方案是RAGRetrieval-Augmented-Generation而构建RAG的关键三要素是“LLM”“向量数据库”“Prompt”以“爱晚亭APP”为例此前点石科技在开发过程中采用的是开源向量数据库Milvus而随着业务的快速发展技术团队将业务迁移上了由Milvus原厂Zilliz打造的全托管的Milvus向量数据库云服务Zilliz Cloud这不仅大大减少向量数据库部署、运维的人力从而专注于业务的创新和研发上同时Zilliz Cloud丰富的功能能够同时满足业务ToB、ToC场景的多种需求。 满足多租户及数据安全的需求 1、海量ToC客户ToC客户数量大但数据量相对较少而每个客户要能独立地进行管理和查询。Zilliz Cloud的Partition Key方案可以完美的应对这样的特定场景所有客户的知识库服务后台共享一个 Zilliz Cloud ClusterPartition Key方案为每个用户提供一个Partition key 来实现寻址可达到百万级租户的能力它允许用户根据实际需求灵活地划分和管理数据从而提高系统的可扩展性、灵活性和性能。 2、ToB客户ToB客户对于数据隔离性要求高希望自己的数据和其它客户数据隔离开。Zilliz Cloud为此类客户单独创建Cluster来管理私有知识点石科技调用Zilliz Cloud提供的运维接口为客户提供管理界面客户无需登录Zilliz Cloud账号即可查看资源消耗按需扩容。 3、实现了RAG应用中的80%以上的问答召回率 在实现复杂的信息检索任务如基于 RAG 的应用时评估效果的标准通常会因具体任务和行业而异。点石科技在做客户服务聊天机器人时技术团队针对RAG应用做了些测试在没有采用RAG架构也没有对数据进行训练时回答虽然正确但是过于简略且召回率低于40%而经过数据训练答案基本正确但是过于简略当使用向量数据库之后不仅可以看到其已经引用了正确的文档回答正确且丰富。业务实际上线后当前“爱晚亭”AI系统已经达到了80%的问答召回率超过80% 的问答召回率则通常被认为是非常优秀的。 生态丰富适合AIGC应用场景 Zilliz Cloud已经完成了与主流大语言模型框架、Embedding模型等的对接如LLamaindex、Langchain、OpenAI、Cohere、Huggingface因此点石科技在开发AI应用时可以直接在Zilliz Cloud平台上使用这些框架和模型无需自己进行复杂的集成和配置工作从而大大节省开发时间和成本。 此外Zilliz Cloud还能够快速匹配点石科技“爱晚亭”AI系统的智能写作、智能办公场景等各种AI应用。 03.客户说 点石科技创始人兼CEO卢文胜表示“Zilliz Cloud替代Milvus后看起来我们每月会新增一些向量数据库云服务的费用但我们的运维成本降低了20-30%同步得到Zilliz的及时响应和帮助还是非常划算的” 04.关于 Zilliz Zilliz 作为向量数据库技术的开创者推出的全球最受欢迎的的开源向量数据库--Milvus受到了全球 5000 家以上企业用户的支持与青睐。2023 年Zilliz推出了基于 Milvus 的全托管云服务 Zilliz Cloud。 截至目前Zilliz Cloud 已实现全球 5 大云 16 个节点的全覆盖是全球首个提供海内外多云服务的向量数据库企业其企业注册用户已超过 40,000 家付费用户遍及全球多个国家和地区覆盖 AIGC 领域、电商、在线教育等场景。作为 AIGC 关键基础设施和 RAG 技术的基本组件提供商Zilliz 完成了与全球头部大模型生态的对接赋能大模型应用落地。 本文由 mdnice 多平台发布
