hbase做过哪些优化，hbase优化知识点

小程序：扫一扫查出行
【扫一扫了解最新限行尾号】
复制小程序

淘宝为什么使用HBase及如何优化的

1、因为分布式系统对大量数据的存取更具优势。尽量少的有数据修改。因为hbase中的数据修改知识在后面添加一行新数据，表示覆盖前一条，大量修改浪费大量空间。

2、HBase在产品中还包含了Jetty，在HBase启动时采用嵌入式的方式来启动Jetty，因此可以通过web界面对HBase进行管理和查看当前运行的一些状态，非常轻巧。

3、优化原理：HBase分别提供了单条put以及批量put的API接口，使用批量put接口可以减少客户端到RegionServer之间的RPC连接数，提高写入性能。另外需要注意的是，批量put请求要么全部成功返回，要么抛出异常。

4、对象存储：HBase可以作为中等对象存储，对HDFS存储文件起到缓冲过渡的作用，减轻了NAMENODE元数据维护的压力。消息/订单存储：因为HBase提供低延时、高并发的访问能力，所以可以用于电商平台等场景的消息和订单存储。金融方面：HBase可以用于存储消费信息、贷款信息、信用卡还款信息等。

5、淘宝店铺在运营的过程中经常涉及到优化宝贝，如何优化宝贝将决定提升宝贝转化率的关键之一。

6、LSM-Tree模式的设计让hbase的写入性能非常良好，单次写入通常在1-3ms内即可响应完成，且性能不随数据量的增长而下降。region(相当于数据库的分表)可以ms级动态的切分和移动，保证了负载均衡性。像这样预先创建hbase表分区的方式，称之为预分区。

HBase性能优化-Rowkey&列族设计

1、必须在设计上保证RowKey的唯一性。由于在HBase中数据存储是Key-Value形式，若向HBase中同一张表插入相同RowKey的数据，则原先存在的数据会被新的数据覆盖。设计的RowKey应均匀的分布在各个HBase节点上，避免数据热点现象。rowkey：行键设计的三个原则唯一必须在设计上保证其唯一性。

2、必须在设计上保证RowKey的唯一性。由于在HBase中数据存储是Key-Value形式，若向HBase中同一张表插入相同RowKey的数据，则原先存在的数据会被新的数据覆盖。设计的RowKey应均匀的分布在各个HBase节点上，避免数据热点现象。

3、目前针对这种较大KeyValue写入性能较差的问题还没有直接的解决方案，好在社区已经意识到这个问题，在接下来即将发布的下一个大版本HBase 0.0版本会针对该问题进行深入优化，详见 HBase MOB ，优化后用户使用HBase存储文档、图片等二进制数据都会有极佳的性能体验。

4、基于此我们可以控制在建表的时候，创建多个空region，并确定每个region的起始和终止rowkey，这样只要我们的rowkey设计能均匀的命中各个region，就不会存在写热点问题。自然split的几率也会大大降低。当然随着数据量的不断增长，该split的还是要进行split。像这样预先创建hbase表分区的方式，称之为预分区。

5、排序 HBase的Rowkey是按照ASCII有序设计的，我们在设计Rowkey时要充分利用这点。比如视频网站上对影片《泰坦尼克号》的弹幕信息，这个弹幕是按照时间倒排序展示视频里，这个时候我们设计的Rowkey要和时间顺序相关。

hbase中的数据以什么形式存储

HBase是介于Map Entry(key & value)和DB Row之间的一种数据存储方式。hbase使用的是jdk提供的ConcurrentSkipListMap，并对其进行了的封装，Map结构是KeyValue，KeyValue的形式。Concurrent表示线程安全。

HBase是介于MapEntry(key&value)和DBRow之间的一种数据存储方式。hbase使用的是jdk提供的ConcurrentSkipListMap，并对其进行了的封装，Map结构是KeyValue，KeyValue的形式。Concurrent表示线程安全。

数据模型：HBase采用列式存储模型，数据被组织成行和列的形式，每一行都有一个唯一的行键来标识。行键是按照字典顺序排序的，方便进行范围查询。每个列族包含一系列列，列被动态定义，可以根据实际需要灵活增减。

hbase是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。

HBase是一个列式存储的分布式数据库，它支持的数据格式包括以下几种：字符串类型（String）：HBase中的字符串类型是最常见的一种数据类型，可以存储任何字符串，不论是ASCII字符还是Unicode字符。字节数组类型（byte[]）：字节数组是HBase中的基本数据类型，可以用于存储任何类型的数据。

在底层实现上，HBase使用了基于Hadoop的分布式文件系统HDFS来存储数据，并且使用了一种称为LSM-Tree（Log-Structured Merge-Tree）的数据结构来管理数据。

关于hbase做过哪些优化和hbase优化知识点的介绍到此就结束了，不知道你从中找到你需要的信息了吗？如果你还想了解更多这方面的信息，记得收藏关注本站。