热线电话：13121318867

登录
首页精彩阅读eBay开源新数据库技术Kylin，支持TB到PB级数据量​
eBay开源新数据库技术Kylin，支持TB到PB级数据量​
2014-11-18
收藏


eBay开源新数据库技术Kylin，支持TB到PB级数据量



eBay开源了一种名为 Kylin 的数据库技术，eBay在周三的一篇博客上分享了Kylin 的诸多细节，基于 Hadoop 提供 SQL 接口和 OLAP 接口，支持 TB 到 PB 级别的数据量，Kylin旨在减少Hadoop在10亿行以上数据级别的情况下的查询延迟。这些都表明eBay在使用Hadoop技术等方面取得了不俗的成绩。

以下为译文：

在线拍卖网站eBay开源了一种名为 Kylin 的数据库技术，该公司宣称这项技术能够在Hadoop上支持PB级数据存储的快速查询。eBay并不是像Google和Facebook那样的大数据公司，但它运用Hadoop等技术已经达到了一个相当大的规模，Kylin就是一个很好的例子，这说明它在该领域的创新已经走在前头。

eBay在周三的一篇博客上分享了Kylin的细节，包括REST API、ANSI-SQL兼容性、连接分析工具Tableau和Excel，以及在一些查询上低于秒级的延迟。然而， Kylin最独特的特性是它如何处理scale。eBay表示，它可以查询数十亿行数据——在高达14TB的数据集上，速度比使用传统的Apache Hive工具快得多。

 

Kylin工作在一个很高级别上，它从Hive取数据；使用MapReduce预处理大型查询；然后将这些结果作为键值cuboids存储在HBase上。当用户用一组特定的变量值运行一个Kylin查询，结果已经准备就绪，不需要再重新处理，这和已经使用多年的分析型数据库完全不同。

下面是eBay分享的Kylin如何在公司内部的使用情况：

开放Kylin的时候，我们已经有一些eBay业务单元在生产中使用它。我们最大的用例是120+亿源记录生成的14 +TB cube。它的90%查询延迟小于5秒。现在，我们的用例瞄准分析师和业务用户，他们可以轻松的通过Tableau分析并且得到结果——不再需要Hive查询，shell命令等等。

 

想要知道Kylin在与下一版本的Hive、Spark SQL以及Hadoop SQL分析的其他选项较量中谁会胜出，将是一件非常有趣的事情，Kylin作为YARN资源管理器一部分可以在Apache Hadoop的最新版本上获得。我猜它会慢一点，但比内存选项或那些不需要MapReduce处理的更具扩展性，不过这对于那些仍然在运行更早软件版本的用户可能是一个可靠的选择。



CDA数据分析师考试相关入口一览（建议收藏）：

▷ 想报名CDA认证考试，点击>>>   “CDA报名” 了解CDA考试详情；

▷ 想学习CDA考试教材，点击>>> “CDA教材” 了解CDA考试详情；

▷ 想加入CDA考试题库，点击>>> “CDA题库” 了解CDA考试详情；

▷ 想了解CDA考试含金量，点击>>> “CDA含金量” 了解CDA考试详情；

Hadoop Hive SQL 大数据

数据分析咨询请扫描二维码

若不方便扫码，搜微信号：CDAshujufenxi

上一篇随机森林 vs XGBoost vs 决策树：算法选择中的
下一篇图论在大数据分析中的作用！
CDA考试动态
CDA报考指南
热门栏目
最新资讯
更多
Copyright © 2015-present 北京国富如荷网络科技有限公司 All Rights Reserved.
京ICP备11001960号-9   京公网安备 11010802034615号   经营许可证编号：京B2-20210330
客服在线
立即咨询