大白组件实现余额宝超大规模基金文件处理

简介: 本文PPT来自蚂蚁金服财富线技术专家叶恺于10月14日在2016年杭州云栖大会上发表的演讲,分享主题为《余额宝超大规模基金文件处理——分布式调度组件:余额宝大白组件》。

本文PPT来自蚂蚁金服财富线技术专家叶恺于10月14日在2016年杭州云栖大会上发表的演讲,分享主题为《余额宝超大规模基金文件处理——分布式调度组件:余额宝大白组件》。

基于单元化部署上的分布式环境无法充分利用机器资源等客观因素的存在,余额宝大白组件应运而生。今天技术专家叶恺为我们分享关于余额宝大白组件的相关知识。这次分享主要包括了四个部分:组件背景、组件功能、技术实现和未来展望。

组件背景。余额宝现有几十种任务类型,每日生成上百个文件,多种批量任务,几十种核对任务。然而,现有分布式调度中心不能区分资源类别,无法合理利用资源。大量类似的文件导入、导出任务,但文件格式多样,基础流程复用性低。此外,任务之间业务依赖关系,无统一通用的解决方案。这些都影响到余额宝的性能表现,也孕育出大白组件。

组件功能包含大文件导出,自适应调整及任务配置。大文件导出的思路概括为并行生成小文件后,合并成大文件;任务调度,任务执行独立。自适应调整创建高时效任务单独线程池,忙时集群内单机自发调度,自发调度开关自适应。任务配置建立任务模板,配置业务参数,建立任务依赖……

大白组件的技术实现分为实时任务管理、文件任务管理、文件读写、实时调度、定时调度和运维多个模块。每个模块各司其职。这其中,分布式调度和集中调度的实现机制尤为受人关注。对于未来的展望,大白组件会实现任务调度加资源调度的两级调度,更加合理使用集群资源。

462a662c5d71f3520da94b7cdb6aa335a3f208ba1186b901b230cb50f935786a35ebe3e95a5d1f3a3cba6f9bc61be9ea5fdf6257387ab82a318ab1545fd711c12f14e0af16cb28bfba5e640f4871d9ea498a49882c9c3066c38244aeb2334a23c777e6c7b2fc5d84ec3b4d1c8c8ce1e2db9e506c6d087d913af56b5f3a015f8d64e0be10b87b745be494724c3e42f2896b11b3d48a12ed8ea1d1ae71c8e63aff2a96f4a2d70456a1381b25b72842e36c1beb2deb4cb7574667ae27093b04661dc6f5ee0e309bf2b02eb097b141efccf05fe1850f667e1e29206c6cdb41c96fee874162c6d89231a2b97b3cf04dacc474

相关文章
|
2月前
|
Web App开发 数据采集 自然语言处理
python脚本抢各大平台大额优惠卷
python脚本抢各大平台大额优惠卷
48 0
|
安全 UED
婚恋源码实现快速盈利,支付系统功不可没
婚恋源码实现快速盈利,支付系统功不可没
|
小程序 IDE 前端开发
【云开发小课】交易支付小程序
本篇内容分享了云开发小课的交易支付小程序课程内容。
【云开发小课】交易支付小程序
|
安全 网络安全
支付宝回应“App崩了”;果冻有家,3000万95后共享社交住房平台
支付宝回应“App崩了”;果冻有家,3000万95后共享社交住房平台
484 0
零售电商月销售额高达20+万?小程序分销模式助你一臂之力
小程序借着即用即走的特点,从2017年发展至今交出了很好的成绩单,在各个行业迸发出蓬勃的生命力,在“大众创业万众创新”的时代背景下,小程序的出现为创业者提供了更多的创新试错的机会,为每一位有想法、有梦想的创业者提供了一个大舞台。
1317 0
|
开发者
支付宝小程序又出招!开放花呗分期
小蚂蚁说: 近期,支付宝小程序悄然开放花呗分期接口。 花呗分期是由蚂蚁微贷提供的一项先消费、后分期还款的商业服务。大多数支付宝用户应该对它都不陌生,当购买一部新的手机、新的空调或者是其他一些大件商品时,一次性付款往往感觉压力较大,花呗分期服务给用户多了一种选择。
1952 0
|
SEO
解读加多宝的营销案例分析
解读加多宝营销案例,营销大致可以分为市场营销与网络营销,其实网络营销就是市场营销的一个分支,只不过是之前在现实的市场上进行销售,现在运用在互联网或是电子商务中。
1621 0

热门文章

最新文章