【感想】DTCC大会有感

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介:

 好久没有沉淀文章了,感谢ITPUB 论坛赠送门票,4.15-4.18  去北京参加了DTCC 大会,没有能够全部参加所有的场次,选择了其中自己感兴趣的场次,主要是偏运维 和MySQL ,Oracle,云计算数据库相关的,说一下自己的一些感想和思考,有所不足 ,还请各位指正 。
先说总体感想

    1 几个互联网公司涉及到水平拆分处理的时候 几乎全部采用了基于mysql proxy 开发 、类似于cobar 的中间件,同时也决定了 运维的自动化处理 比如扩容时的添加机器的方式 ,但是对于缩容 估计会很费力,数据要重构。

   2  DBA 自主研发能力 ,比如赶集网 ,京东,携程 在MySQL 内核和 系统工具都已经自研来满足他们的需求。
   3 业务场景驱动技术,江疑讲述AliSQL新特性之后的提问和携程讲述MySQL并发复制的提问状况明显不一样,大家对携程的并行复制特别感兴趣,但是对于AliSQL 的thread pool 或者热点补丁,并发控制机制,sql限流 不太感冒,大概是他们没有阿里的业务压力,没有这些特性的需求。

赶集网
     在没有专职开发的情况下,3个dba开发出一套变更自助发布系统,虽然功能远没有idb强大,缺少可持续的元数据管理 ,设计限制严格,只有ddl ,dml的支持,但是系统可以减轻dba的重复流程。
    其团队对慢日志的设计思路 值得思考,我们是通过myawr获取机器上的慢日志,赶集网则是通过 pt-query-digst 工具+ kafka 工具构建实时的慢日志分析系统,通过页面展示给开发看,还可以衍生出其他的服务 ,比如开发者订阅慢查询等等。

京东 MariaDB
     张金鹏主要介绍了MariaDB的特性,除了虚拟列等特性之外,其他的功能我们都有涉及,这里不多做赘述。
     会后和京东的dba 做了沟通,了解到
他们公司有三种版本的MySQL ,官方的,percona ,MariaDB ,版本有点多。目前他们做的基于docker技术的 京东云 (私有云,公有云 类似聚石塔) ,已经开发完毕,进入测试阶段,并准备为内部提供使用。在资源弹性管理上 和我们的想法类似,但是从发展的历程上看,我们的机器规模在他们 现在的量级别上 还没有做到资源的管控上。

    中间件---jproxy 
       类似于cobar ,和腾讯的也类似,集中式的中间件架构。不支持动态调整读写比例,遇到负载均衡需求的时候,需要搭建新的proxy路由,并重启应用,对业务有一定的影响。
   HA机制 
       基于MHA 的架构在机房部署agent 来管理各个节点,同时基于jproxy 做元数据库管理。
   变更操作
       对于分布式的数据库ddl ,dml变更 通过脚本来做,没有类似于idb的统一工具来处理,相对较为人肉。

运营商去O浅析
    去IOE 这件事情,很多人都有不同的解读,部分认同王晓征的观点,他们去O 的动力:政策驱动 ,成本驱动,这点和我们的不一样。 整体上运营商没有自建IT 研发队伍,使用外包模式也注定在技术掌控力上存在不足,去O 的人力 技术成本增加。

青云的rds 架构
    演讲者时间超时,有一部分没有详细讲述,听下来有如下认知 

   1 基于user的分配 ,从介绍的角度是基于虚拟机分配实例的,客户具有数据库的所有的权限,这点 比我们的rds要适用些。 
   2 备份分为 数据库级别的备份和虚拟机级别的备份,和rds 一样能够恢复到任意时间点。
   3 从演讲者提供的ppt上来看,ha机制是基于vip 的,不能做跨机房的容灾切换 。
   4 
青云的rds是基于原生的MySQL ,不像阿里云的RDS,有基于用户需求和针对bug做改进,相比此点 我们的技术更胜一筹。 

携程 
   通过更改MySQL 的千行代码来使用并行复制解决zabbix 数据库写入延迟,修改slow log的记录方式,增加锁等待解决他们自己对slow log的需求。
58 同城
    沈剑从 数据库的可用性、读性能、一致性、可扩展性介绍了58同城的数据库架构。通过设计冗余来达到可用性。对于他们的读性能 的处理方式还是有些意外的,采用主库不建立索引 ,备库创建索引的方式 ,主备发生切换之后,新的备库索引不全会怎样?
    关于可扩展性处理,采用1主2备,需要拓展的时候,将备库提升独立一套主库,可以方便的升级到2N。升级之后,需要对数据库中的表进行删除。
    沈剑花了很长时间讲述 分页查询在他们的中间件条件下的优化 可以借鉴其思路,不过对于ppt的分页最后一页 我没有听的太清楚,中间件的功能限制导致dba和开发花费了大量精力去做分页查询,有点意外 。 从目前的优化经历,个人感觉 延迟关联能够解决绝大多数的场景需求。

总结
    后 IOE 时代到来了 ,数据库大会不再Oracle 风光无限,更多的偏向于MySQL /NoSQL ,PG  ,大数据处理等,阿里的去IOE 还是引领了 中国数据库变革 。这也是 瑞哥(HelloDBA )一直倡导的理念。从一线DBA的角度来看,每个公司运维技术的轨迹都是从人肉,工具脚本,平台自主化运维 ,从而给DBA,一线运维者增加幸福感。
    每个公司的场景和规模不同,导致对技术的需求和认知的不同 ,阿里的双十一的场景驱动的秒杀 ,AliSQL 热点补丁,并行复制,并发控制,sql级别的限流措施,希望有一天这些功能能够适用到其他互联网公司。

相关实践学习
基于CentOS快速搭建LAMP环境
本教程介绍如何搭建LAMP环境,其中LAMP分别代表Linux、Apache、MySQL和PHP。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
10月前
|
运维 Cloud Native 安全
官宣!我们在云栖牵手成功了
官宣!我们在云栖牵手成功了
139 0
《科技之巅,云栖之路—2016秋季研究成果发布》电子版地址
科技之巅,云栖之路—2016秋季研究成果发布
58 0
《科技之巅,云栖之路—2016秋季研究成果发布》电子版地址
|
Linux Anolis 芯片
|
Linux 开发者 芯片
祝贺!首届龙蜥社区年度突出贡献奖揭晓,马上查看
感谢各位开发者对龙蜥社区做出的贡献,我们来年再见!
祝贺!首届龙蜥社区年度突出贡献奖揭晓,马上查看
|
开发者
第三期乘风者之星——生活没有低谷,只有蓄势待发
十一月的月末,迎来了我们第三期的乘风者之星,本期得奖的是一位年轻有为,英俊帅气的博主——魏泽华先生。也许今年我们的身边一切都在发生着改变,可唯一没有变的,是博主以笔作犁的心。
第三期乘风者之星——生活没有低谷,只有蓄势待发
|
分布式计算 Cloud Native 大数据
首届!E-MapReduce 极客挑战赛强势来袭,重磅奖项等你拿,快来组队报名啦
首届 E-MapReduce 极客挑战赛发布,聚焦.SparkSQL执行效率。结合阿里云 EMR和英特尔® 傲腾™ 数据中心级持久内存(以及Intel OAP软件包),优化软件系统和利用硬件的特征,追求TPC-DS测试集的最优性能。帮助参赛队伍实现Spark 代码优化和参数调优,完成性能的优化挑战。
首届!E-MapReduce 极客挑战赛强势来袭,重磅奖项等你拿,快来组队报名啦
|
Kubernetes Cloud Native 容器
QCon2019北京站回顾
SOFTWARE IS CHANGING THE WORLD
4703 0
|
Docker Windows 容器
DEVIntersection 大会即将开幕,精彩内容先睹为快!
本周,Docker 将参加在拉斯维加斯举办的 2018 DEVIntersection 大会。DEVIntersection 大会现已举办了5届,它将微软的领导者、工程师以及行业专家聚集在一起,与开发人员一同学习、交流和分享他们的专业知识。
1211 0