首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >HBase如何计算同花顺大小?

HBase如何计算同花顺大小?
EN

Stack Overflow用户
提问于 2021-05-19 21:57:58
回答 2查看 427关注 0票数 1

我试图更好地理解HBase中的内存存储刷新算法。

我有一个带有1列家族的简单(snappy-压缩)表,并且我按照以下方式配置了HBase (在这个区域服务器上有几个区域):

  • hbase.hregion.memstore.flush.size: 128 mib
  • Java堆大小HBase RegionServer (字节数):10 Gib
  • hbase.regionserver.global.memstore.upperLimit: 0.4
  • hbase.regionserver.global.memstore.size.lower.limit: 0.95

根据日志,刷新似乎发生在70 at,我在日志中反复看到的是类似于以下内容

DefaultStoreFlusher Flushed memstore data size=68.14 MB at sequenceid=12561

为什么不吃128毫巴呢?

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2021-06-14 07:40:04

数据大小是单元数据的总和(键字节+值字节)。这是将被刷新到Hfile的实际数据。但是对相同数据的堆使用通常更多。除了单元格的数据外,还包括元数据和索引。当堆大小达到hbase.hregion.memstore.flush.size时,就会发生刷新。日志可能会把它找出来。

票数 2
EN

Stack Overflow用户

发布于 2021-06-04 01:38:07

现在hbase.regionserver.global.memstore.upperLimithbase.regionserver.global.memstore.size否决了

如果one memstore的大小达到hbase.hregion.memstore.flush.size,则将刷新该区域的所有内存存储(即使小于128 mb),还有一个区域服务器设置会触发由hbase.regionserver.global.memstore.sizehbase.regionserver.global.memstore.size.lower.limit调整的刷新,如果区域服务器中的所有内存存储大小之和超过Heap * hbase.regionserver.global.memstore.size.lower.limit * hbase.regionserver.global.memstore.size,则该区域中的所有内存存储将被刷新。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/67611428

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档