MySQL每秒57万的写入,带你飞~

  1. 云栖社区>
  2. 博客>
  3. 正文

MySQL每秒57万的写入,带你飞~

优惠码发放 2017-12-07 22:16:13 浏览1350
展开阅读全文

一、需求

一个朋友接到一个需求,从大数据平台收到一个数据写入在20亿+,需要快速地加载到MySQL中,供第二天业务展示使用。

二、实现再分析

对于单表20亿, 在MySQL运维,说真的这块目前涉及得比较少,也基本没什么经验,但对于InnoDB单表Insert 如果内存大于数据情况下,可以维持在10万-15万行写入。 但很多时间我们接受的项目还是数据超过内存的。 这里使用XeLabs TokuDB做一个测试。

三、XeLabs TokuDB介绍

项目地址: https://github.com/XeLabs/tokudb

相对官方TokuDB的优化:

  • 内置了jemalloc 内存分配
  • 引入更多的内置的TokuDB性能指标
  • 支持Xtrabackup备份
  • 引入ZSTD压缩算法
  • 支持TokuDB的binlog_group_commit特性
四、测试表

TokuDB核心配置:

8268b5e247de15c4f779599bf7518712db5b9c1e

7d48428248bfcda3f493bb9b3e627c677db33860

ed25f0386fe95ba1c9ac9a4ddfd9d10eea5cfb4f

网友评论

作者关闭了评论
优惠码发放
+ 关注