股票的变化趋势、温度的变化趋势、系统某个指标的变化趋势……其实都是时序数据，就是每个时间点上纪录一条数据。关于数据的存储，我们最熟悉的就是mysql了，但是想想看，每5分钟存储一个点，一天288个点，一年就10万+，这还是单个维度，往往在实际应用中维度会非常多，比如股票交易所，成千上万支股票，每天所有股票数据就可能超过百万条，如果还得支持历史数据查询，mysql是远远扛不住的，必然要考虑分布式存储，最好的选择就是Hbase了，事实上业内基本上也是这么做的。了解Hbase的人都知道，它可以通过加机器的水平扩展迅速增加读写能力，非常适合存储海量的数据，但是它并不是关系数据库，无法进行类似mysql那种select、join等操作。取而代之的只有非常简单的Get和Scan两种数据查询方式。这里不讨论Hbase的相关细节，总之，你可以通过Get获取到hbase里的一行数据，通过Scan来查询其中RowKey在某个范围里的一批数据。如此简单的查询方式虽然让hbase变得简单易用，但也限制了它的使用场景。针对时序数据，只有get和scan远远满足不了你的需求。这个时候OpenTSDB就应运而生。首先它做了数据存储的优化，可以大幅度提升数据查询的效率和减少存储空间的使用。其次它基于hbase做了常用时序数据查询的API，比如数据的聚合、过滤等。另外它也针对数据热度倾斜做了优化。
b.提高查询效率：减少key匹配查找的时间
以上面那个例子举例，我们可以查询：
c.提高传输效率：不光节省了从文件系统读取的带宽，也节省了数据返回占用的带宽，提高了数据写入和读取的速度。
OpenTSDB将同属于一个时间周期内的具有相同TSUID的数据合并为一行存储。OpenTSDB内默认的时间周期是一个小时，也就是说同属于这一个小时的所有数据点，会合并到一行内存储，如上所示。合并为一行后，该行的rowkey中的timestamp会指定为该小时的起始时间，而每一列的列名，则记录真实数据点的时间戳与该时间周期起始时间的差值。这里列名采用差值而不是真实值也是一个有特殊考虑的设计，如存储模型章节所述，列名也是会存在于每个Key-Value中，占用一定的存储空间。如果是秒精度的时间戳，需要4个字节，如果是毫秒精度的时间戳，则需要8个字节。但是如果列名只存差值且时间周期为一个小时的话，则如果是秒精度，则差值取值范围是0-3600，只需要2个字节；如果是毫秒精度，则差值取值范围是0-360000，只需要4个字节；所以相比存真实时间戳，这个设计是能节省不少空间的。
1优化缩短rowkey例：观察这张表内存储的数据，在rowkey的组成部分内，其实有很大一部分的重复数据，重复的指标名称，重复的标签。以上为例，如果每秒采集一次监控指标，cpu为2核，host规模为100台，则一天时间内sys.cpu.user这个监控指标就会产生17280000行数据，而这些行中，监控指标名称均是重复的。如果能将这部分重复数据的长度尽可能的缩短，则能带来非常大的存储空间的节省。OpenTSDB采用的策略是，为每个metric、tagkey和tagvalue都分配一个UID，UID为固定长度三个字节。上为优化后的存储结构，可以看出，rowkey的长度大大的缩短了。rowkey的缩短，带来了很多好处：
在上面的存储模型章节中，我们了解到。HBase在底层存储结构中，每一列都会以Key-Value的形式存储，每一列都会包含一个rowkey。如果要进一步缩短存储量，那就得想办法减少Key-Value的个数。
3并发写优化上面两个优化主要是OpenTSDB对存储的优化，存储量下降以及Key-Value个数下降后，除了直观的存储量上的缩减，对读和写的效率都是有一定提升的。
a.节省存储空间
2优化减少Key-Value数优化一是OpenTSDB做的最核心的一个优化，很直观的可以看到存储的数据量被大大的节省了。原理也很简单，将长的变短。但是是否还可以进一步优化呢？
将多行合并为一行，多行单列变为单行多列。
2单行多列合并为单行单列多行合并为单行后，并不能真实的减少Key-Value个数，因为总的列数并没有减少。所以要达到真实的节省存储的目的，还需要将一行的列变少，才能真正的将Key-Value数变少。
2数据存储优化如果我们只通过原始的Hbase接口去存时间序列，我们可能会设计出这样的Rowkey。metric|timestamp|tagK1:tagVtagK2:tagV2…如上是一个简单的表结构设计，rowkey采用metricname+timestamp+tags的组合，因为这几个元素才能唯一确定一个指标值。如果我们每秒存储一个数据点，每天就有86400个数据点，在hbase里就意味着86400行的数据，不仅浪费存储空间，而且还查起来慢，所以OpenTSDB做了数据压缩上的优化，多行一列转一行多列，一行多列转一行一列。数据开始写入时其实OpenTSDB还是一行一个数据点，如果用户开启了数据压缩的选项，OpenTSDB会在一个小时数据写完或者查询某个小时数据时对其做多行转一行的数据压缩，压缩后那些独立的点数据就会被删除以节省存储空间。
指标名称代表这个监控指标是对用户态CPU的使用监控，引入了两个标签，分别标识该监控位于哪台机器的哪个核。
b.sys.cpu.user：查询凌晨0点到1点之间，某台机器的所有CPU核上的用户态CPU消耗。
同一行中的所有列被合并为一列，如果是秒精度的数据，则一行中的3600列会合并为1列，Key-Value数从3600个降低到只有1个。
1将多行合并为一行，多行单列变为单行多列。
OpenTSDB采取的做法是，会在后台定期的将一行的多列合并为一列，称之为『compaction』，合并完之后效果如下。
OpenTSDB支持的查询场景为：指定指标名称和时间范围，给定一个或多个标签名称和标签的值作为条件，查询出所有的数据。
d.缓解Java程序内存压力：Java程序，GC是老大难的问题，能节省内存的地方尽量节省。原先用String存储的metricname、tagkey或tagvalue，现在均可以用3个字节的bytearray替换，大大节省了内存占用。
4总结OpenTSDB作为一个应用广泛的时间序列数据库，在存储上做了大量的优化，优化的选择也是完全契合其底层依赖的HBase数据库的存储模型。表格存储拥有和HBase一样的存储模型，这部分优化经验可以直接借鉴使用到表格存储的应用场景中，值得我们好好学习。
OpenTSDB术语metric:指标，比如在系统监控中cpu的利用率、天气数据，温度，湿度等的变化。timestamp:时间戳在线时间戳工具网站.tag:标签。比如在cpu在某个机器上的数据，就可以把机器ip作为tag打进去。在OpenTSDB里tag是个k-v，比如ip=19160.1就可以做为一个tag。注意OpenTSDB最多只能打8个tag。value:我们要存的时序数据的值。举个例子，在监控场景中，我们可以这样定义一个监控指标：
将多列合并为一列，单行多列变为单行单列。
c.sys.cpu.user：查询凌晨0点到1点之间，某台机器的第0个CPU核上的用户态CPU消耗。
a.sys.cpu.user：查询凌晨0点到1点之间，所有机器的所有CPU核上的用户态CPU消耗。
OpenTSDB分了几个步骤来减少Key-Value的个数：
文章为作者独立观点，不代表股票交易接口观点
相关文章
股民评论