新网站建设运营年计划书,用pc网站建设手机网站,酒店网站建设的重要性,服饰品牌网站建设近日#xff0c;Elasticsearch 的创始人兼首席执行官Shay Banon 向腾讯云发出了一封“特別”的邮件#xff0c;专程对腾讯团队为Elasticsearch开源社区做出的贡献表示了感谢。
据了解#xff0c;腾讯工程师通过提交代码#xff0c;成功优化了Elasticsearch高并发写入性能Elasticsearch 的创始人兼首席执行官Shay Banon 向腾讯云发出了一封“特別”的邮件专程对腾讯团队为Elasticsearch开源社区做出的贡献表示了感谢。
据了解腾讯工程师通过提交代码成功优化了Elasticsearch高并发写入性能实现将1000万数据量的写入时长从原来的18分钟缩减至15分钟速率提升20%并在Elasticsearch开源社区分享了项目方案。
Shay Banon 在发给腾讯副总裁、腾讯云总裁邱跃鹏的感谢信中表示
“我们最近对Elasticsearch进行了重大而巧妙的改进这是由腾讯的一位开发者提出的。这种改进使Elasticsearch的某些类型的写速度提高了约20%我们非常期待后续与腾讯云继续保持这种良好的合作关系。”
事实上在今年5月的腾讯全球数字生态大会上腾讯云与Elastic签署了战略合作协议。双方同意在产品、技术、生态三个维度展开合作依托Elastic在搜索软件领域的产品和技术优势以及腾讯云在云计算大数据领域的技术能力和市场资源双方联合推出具备高级商业特性的腾讯云Elasticsearch Service 该版本上线了集群权限管理、SQL、机器学习、图查询等高级功能。并结合腾讯云全球领先的公有云架构实现Elasticsearch集群应用的低成本、易开发、易管理、高可用、高安全性。
其实这次源码优化的契机源自腾讯内部一站式智能化的大数据服务平台全民BI的真实业务场景其中全民BI的统计功能在底层使用了Elasticsearch的开源代码。在实际使用中因为存在历史数据比对的需求需要每天全量导入新的数据。数十亿级的数据量超过500个标签需要尽可能的快速的导入到ES系统中但这一块经过多次的参数优化依然需要几个小时才能完成导入是整个系统的一大瓶颈。
在此背景下腾讯全民BI团队开始着手优化Elasticsearch高并发场景下的写入性能。项目团队通过分析ES的写入机制在多次堆栈分析取样中发现较多线程因writeLock被rollGeneration占用在获取锁的等待上耗时偏长。因而将优化的着力点从参数的调优转移至线程的优化。项目团队最终在实验理论值的基础上通过优化rollGeneration实现将1000万数据量的写入时长从原来的18分钟缩减至15分钟速率提升20%。
“非常感谢Elastic公司创始人之一和技术负责人Simon Willnauer的支持和建议本次优化大幅度提升全民BI系统的数据分析效率接下来这些领先的特性都能够在腾讯云Elasticsearch Service上获取。” 主要负责人表示。
更加值得期待的是这次优化只是一个开端未来仍存在较多优化空间腾讯云目前正在积极与开源社区沟通中。
值得注意的是这次社区代码贡献并不是腾讯的个别案例。从2010年开始腾讯就开始通过“三步走”的开源计划积极推动代码开放和社区参与从封闭孤立向协同开放和社区开放治理的纵深方向发展。
“我们将通过内外部开放源代码的方式积极参与全球科技共同体的构建。”腾讯公司董事会主席兼首席执行官马化腾在八月底重庆召开的2019智博会高峰论坛上表示。
如今腾讯正以发起者、贡献者等不同方式积极参与开源。在社区贡献方面腾讯已经获得OpenStack 社区、Linux 基金会、LFAI 基金会、MariaDB 基金会、Apache 基金会等多个白金会员或白金赞助商身份。
去年腾讯云向KVM 内核贡献了40 个patch连续第二年登上KVM 全球开源贡献榜也成为中国唯一入选云厂商。今年初腾讯云正式发布基础设施层面四大核心技术项目分别涵盖数据中心、网络、服务器以及自动化平台领域并宣布将这四大技术项目全部贡献给开源OCP 社区。
而在自主开源方面截至2019年8月腾讯已在Github上发布82个开源项目包含微信、腾讯云、腾讯游戏、腾讯AI、腾讯安全等相关领域。腾讯发起的开源项目累计在 Github 获得了24W Star数在国内和国际收获了广泛的关注和认可。
未来腾讯还将进一步拓宽开源的范围在开放、共享、合力开发的研发模式中不断夯实已有的技术能力不断深化与开源伙伴间相互促进的良性关系。
