ClickHouse及Greenplum与Doris性能对比

2023-03-28 00:00:00 查询 数据 集群 支持 扩容

ClickHouse和DorisDB的对比:

标准SQL语言支持

ClickHouse:不支持标准SQL语言,无法直接对接主流的BI系统。

DorisDB:支持标准的SQL语言,兼容MYSQL协议,可以直接对接主流的BI系统。

分布式Join

ClickHouse:几乎不支持分布式Join,在分析模型上仅支持大宽表模式。

DorisDB:支持各种主流分布式Join,不仅支持大宽表模型,还支持星型模型和雪花模型。

MPP架构

ClickHouse:Scatter-Gather模式,聚合操作依赖单点完成,操作数据量大时存在明显性能瓶颈。

DorisDB:现代化MPP架构,可以实现多层聚合,能够执行复杂的SQL查询,大表Join,高基数聚合查询等。

精度去重

ClickHouse:对高基数列进行精-确去重操作时,受限于单点聚合的处理方式,性能瓶颈明显。

DorisDB:现代化MPP架构,可以实现多层聚合,能有效利用多机资源,保证查询性能。

Exactly Once语义

ClickHouse:数据导入无事务保证,无法保证数据写入的“不丢不重”,订单类场景无法使用。

DorisDB:数据导入有事务保证,可以很容易地实现Exactly Once语义,数据导入“不丢不重”。

集群扩容

ClickHouse:传统MPP数据分布方式,数据扩容时需要进行数据重分布,需要人工操作,工作量巨大,影响线上服务。

DorisDB:现代化MPP数据分布方式,扩容只需要迁移部分数据分片走即可,系统自动完成,不影响线上服务。

运维

ClickHouse:分布式方案依赖Zookeeper,在集群扩大时,Zookeeper会变成性能瓶颈,额外运维和维护成本高。

DorisDB:不依赖任何外部系统,整个系统只要两种进程,自动故障恢复,极简运维。

社区生态

ClickHouse:整个开源社区被俄罗斯把持,在中国没有商业化公司支持,使用上规模后技术支持无法保证。

DorisDB:开源社区的核心研发都是中国人,在国内有商业化公司支持,服务更加本地化,技术支持无障碍。

GreenPlum和DorisDB的对比:

性能

GreenPlum:--

DorisDB:相同硬件条件下,5-10倍的性能优势。

实时分析

GreenPlum:无法对实时数据进行增量聚合计算,较难支持实时数据的分析。

DorisDB:新型的聚合表机制,可以支持实时数据的增量聚合计算,更好的支持DWS层和ADS层服务,更好的支持实时数据的分析。

OLAP多维查询加速

GreenPlum:无加速方案。

DorisDB:新型的预聚合机制,能做到数据自动更新,查询智能路由,令多维查询速度提升10倍以上。

高并发查询

GreenPlum:传统MPP数据分布方式,小查询会极大消耗集群资源,无法实现高效并发查询。并且master只有单节点提供服务,master达到性能瓶颈时无法扩容。

DorisDB:现代化MPP数据分布方式,数据按照分片的方式保存,小查询只需要用到部分机器资源,能极大的提高并发查询量,并且各模块均可线性扩展。

存储结构

GreenPlum:无按列排序支持。

DorisDB:可按照指定列进行排序,更快的查询速度,更高的数据压缩比。

高可用

GreenPlum:传统MPP数据发布方式,数据扩容时需要进行数据重分布,需要人工操作,工作量巨大,影响线上服务。

DorisDB:现代化MPP数据分布方式,扩容时只需要迁移部分数据分片即可,系统自动完成,不影响线上服务。

集群扩容

GreenPlum:分布式方案依赖Zookeeper,在集群扩大时,Zookeeper会变成性能瓶颈,额外运维和维护成本高。

DorisDB:不依赖任何外部系统,整个系统只要两种进程,自动故障恢复,极简运维。

资源利用效率

GreenPlum:各节点备份节点不接受查询请求,计算资源浪费。无法支持统一张数据表冷热数据存放在不同的存储介质,无法有效利用SSD为热数据查询加速。

DorisDB:所有节点都可参与查询处理,提高硬件资源利用率。支持将冷数据存放在不同的存储介质中,支持利用SSD为热数据查询加速。

大数据规模

GreenPlum:由于集群扩容代价太大,所以很难支持较大的数据规模。

DorisDB:集群扩容代价小,可以支持10PB量级数据规模。

总体持有成本

GreenPlum:由于集群扩容代价太大,无法经常进行扩容操作,导致必选提前准备未来较长时间的机器资源和软件授权费,并且集群资源会处于利用率不高的状态。

DorisDB:集群扩容代价小,可以按需进行逐步扩容,总体持有成本低,集群资源利用率高。



本文来源:https://blog.csdn.net/song_quan_/article/details/122976782

相关文章