微服务实践:全栈小团队“洪荒之力”改造阿里服务CRM技术体系

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 8月9日2016云栖大会北京峰会拉开帷幕,阿里高级技术专家肥侠带来了“智能客服:基于微服务的系统改造实践”的重要演讲。其中首先进行了业务介绍,接着和大家简单分享了微服务,着重和大家讲述了微服务的实践,包括微服务技术实践、微服务团队实践、DT下的微服务。精彩不容错过——
本文不重点介绍业务系统,更偏重于经验分享。首先进行了业务介绍,接着和大家简单分享了微服务,着重和大家讲述了微服务的实践,包括微服务技术实践、微服务团队实践、DT下的微服务。

以下为内容整理:


作为全球最大的电商平台,阿里巴巴面对的是逾4亿的活跃消费者、上千万的活跃商家、几千种阿里自有产品和业务,以及每天上千万笔的交易。从这些天然交易闭环里,有极其丰富的数据,如何用技术来实现用户的“One-Click”和“One-Stop”的服务体验?

通过微服务架构的应用,我们重构了原来臃肿低效的CRM系统,让每个服务小团队专注自己的业务快速迭代。同时,通过数据、模型、机器学习等智能技术手段构建全新的后台微服务,极大的扩展了我们平台的服务吞吐能力,即使在双十一的特殊场景下,利用非常有限的人力,也完美承接了当天上千万消费者的服务诉求和几亿消息的发送。

 

挑战

我们的业务变化非常快,从最初的简单的CRM,到现在要面对很多端很多业务,需求变化很快, 服务规模指数级增长,服务渠道需求多元化,服务内容随着业务进一步复杂,服务体验的标准不断提升,开发团队的压力也很大,对应的挑战就会很大。

我们希望做到“两个One”,OneStopOneClick,可以让不同的业务方和商家快速接入我们的系统,也可以让我们的“小二”快速的解决用户问题。

7d146c86caf697674c677a8cb01b260a5739d6b0

大概的业务背景会分成三个层次。包括用户进来提问会根据用户问题做智能路由,我们会有智能机器人以人机交互的方式去解决简单的问题,复杂问题则会根据场景智能分配给最合适的客服小二处理,同时会有一个后台的管理系统,包括快速接入、现场管理、绩效业绩。

一个孤立系统的总混乱度会不断增加。业务飞速发展让系统应接不暇,随之而来的噩梦也会越来越多,开发效率低、跟不上业务发展、稳定性差、代码维护难等等,我们希望用微服务的方式把这个系统做改造升级。

 

微服务化实践

设计系统的组织,最终产生的设计等同于组织之内、之间的沟通结构。

微服务架构要求

  • 分布式服务组成的系统
  • 强服务个体和弱通信总线去中心化治理(SOA
  • 去中心化数据依赖
  • 自动化运维(DevOps
  • 容错
  • 按照业务而不是技术来划分组织
  • 做有生命的产品而不是项目
  • 快速演化

我们是逐步演进的,最早是一个大而全的CRM,最初为ORM+MVC。随着业务发展的越来越快,我们开始用RPC,利用集团的分布式技术中间件快速解决了微服务技术上的挑战。RPC与接下来的MSA界限已经非常小了,更重要的团队的管理理念,按微服务化的理念来拆分团队和系统,让分工和开发效率更加高效。现在,我们不仅仅用Java和项目去做服务,我们用离线数据、机器学习来驱动我们的整个系统和业务的发展。我们通过Service的包装把后台的离线数据也暴露给系统去用,去开发所谓的智能的CRM

95569e9d847f27a5366c3e6efea707bed73c6cb7


微服务化技术实践

微服务的目的是有效的拆分应用,实现敏捷开发和部署。

基于React的插件化方案

f639e3d601232b408835ffa998ce7f5a5c0bfd5c

我们不仅把后台服务拆分,前端基于React把所有的模块分成一个个小App,这些小App可以自己去开发,只要按照前端的规范,开发之后可以嵌到我们的CRM当中,这样在前端就把所有的系统去解耦了。

服务发现

4cfdfd90f661b29b6ceee6de83b906e7a2742317

服务发现会分成两种模式。小型公司没有那么多服务和应用,一般通过LoadBalancer做服务治理,用户访问的应用和后台的服务都是透明的;大规模互联网公司一般则通过客户端做服务治理,所有的业务逻辑、服务治理在每个微服务后台都会有一个客户端去把自己的信息注册上去,前台服务在访问时就通过服务注册去寻找信息,如果后台服务挂了,它也会告诉服务注册,前台就会知道这个服务不可用。通过这种方式可以实现流控、负载均衡等。

服务间通信(IPC

b60a0eaa4eba9193ad2d32198ccdc896039a74a8

我们希望所有的服务能够内聚,服务之间是非常轻量级的,不要耦合在一起。通过这样的沟通方式有:

  • 同步异步调用(HTTP/RPC):RESTThriftDubbo
  • 异步消息(Notification/PubSub):RabitMQKafka MetaQNotify

保证可用性

  • 怀疑第三方:有兜底,制定好业务降级方案;遵循快速失败原则,一定要设置超时时间;适当保护第三方,慎重选择重试机制。
  • 防备使用方:设计一个好的apiRPCRestful),避免误用;流量控制,按服务分配流量,避免滥用。
  • 做好自己:单一职责原则;控制资源的使用;避免单点。

 

微服务虽然开发简单,技术栈灵活,服务独立无依赖,独立按需扩展,可用性高,但微服务是有维护成本的,数据的一致性、性能的监控、多服务运维、系统部署依赖等问题想要都解决掉是不容易的。处于不同阶段的技术团队,需要根据自己公司的技术积累和团队的技术水平做相应的选择。

 

微服务化团队实践

技术对于微服务来说从来都不是最重要的,大部分人很快就能实现设计微服务架构,理念上的转变和团队的管理上才是最大的挑战。 那么怎样去建设微服务团队呢?

 

微服务团队应该按照业务组织资源,建立全栈小团队。

  • 小而全团队(含UIDEVDATATEST)。
  • 通过接口明确业务边界,无耦合(KISS  or SRP)。
  • War Room自治团队,对自己的业务负责。
  • 做有生命的持续演进的产品或后台服务,不重要的项目关停并转。
  • 对业务有使命感,不是打杂工,技术驱动业务。
  • 不求完美,快速持续集成,弹性容错。

Behavior Driven Development

52f6ab9db98d23dcc2613395049c48bc636ee3c3

BDD从业务的维度,让PD、业务方、开发和测试能达成一致,知道要做的事情是什么,通过敏捷开发方式定义出来story,把整个复杂的PRD拆分成很小的容易理解的,然后测试人员和开发人员针对这些story去写业务用例,这个用例不仅能做持续集成,也能变成文档交接。

 

AI/IA as a Service

DT时代下的产品开发,基于经验积累的工程能力变的不那么重要,而基于大数据和机器学习沉淀的模型算法变成越来越重要。未来的微服务不仅仅是Java或者工程师开发出来的,而是越来越多的由机器从海量的数据当中学习出来,他们也是我们系统自治的提供微服务的重要组成。

7e3ed2c376a6474c32c70b3948f170542a6fd847

我们自己维护的专业的数据库、从客户那边积累下的数据库和网络上的非结构化的数据都拉下来去做对应的数据清洗和拟合,把这些离线数据封装出来的模型以Java服务(API)的方式暴露出来,变成我们应用的一部分。

阿里小蜜技术体系

b317a763e4763ab558ee80d8bf8c2aa414f005a9

图为阿里小蜜问答系统,我们把数据做一些自然语言的处理后,能够智能回答用户的一些简单问题,提供越来越真实和自然的人机交互。比如可以通过多轮交互的方式,更准确的理解用户语意和真实意图,再通过知识图谱的构建来帮助用户快速的找到准确的答案。

相关文章
|
22天前
|
消息中间件 持续交付 开发者
构建高效微服务架构:从理论到实践
【4月更文挑战第9天】 随着现代软件开发的演进,微服务架构已成为实现灵活、可扩展和容错系统的关键设计模式。本文将深入探讨微服务的理论概念、实施策略和最佳实践,旨在为开发者提供一个全面的指南,帮助他们在构建和维护微服务时能够提高效率并减少潜在的风险。我们将重点讨论微服务的拆分原则、服务间通信机制以及持续集成和部署(CI/CD)流程的优化。通过实际案例分析,本文将为读者展示如何将理论应用于实践,从而提升系统的可靠性和性能。
|
6天前
|
消息中间件 持续交付 数据库
构建高效可靠的微服务架构:策略与实践
【4月更文挑战第25天】 随着现代软件开发的复杂性日益增加,传统的单体应用已难以满足快速迭代和灵活部署的需求。本文深入探讨了如何构建一个高效且可靠的微服务架构,包括关键的设计原则、技术选型以及实践中的挑战和应对策略。通过分析多个成功案例,我们总结了一系列最佳实践,并提出了一套可量化的性能优化方法。文章不仅为开发者提供了具体的技术指导,同时也强调了团队协作和持续学习在微服务转型过程中的重要性。
|
22天前
|
Kubernetes 安全 Java
构建高效微服务架构:从理论到实践
【4月更文挑战第9天】 在当今快速迭代与竞争激烈的软件市场中,微服务架构以其灵活性、可扩展性及容错性,成为众多企业转型的首选。本文将深入探讨如何从零开始构建一个高效的微服务系统,覆盖从概念理解、设计原则、技术选型到部署维护的各个阶段。通过实际案例分析与最佳实践分享,旨在为后端工程师提供一套全面的微服务构建指南,帮助读者在面对复杂系统设计时能够做出明智的决策,并提升系统的可靠性与维护效率。
|
1天前
|
消息中间件 监控 JavaScript
Node.js中的微服务架构:构建与实践
【4月更文挑战第30天】本文探讨了在Node.js中构建微服务的实践,包括定义服务边界、选择框架(如Express、Koa或NestJS)、设计RESTful API、实现服务间通信(HTTP、gRPC、消息队列)、错误处理、服务发现与负载均衡,以及监控和日志记录。微服务架构能提升应用的可伸缩性、灵活性和可维护性。
|
1天前
|
消息中间件 测试技术 API
构建高效微服务架构:从理论到实践
【4月更文挑战第30天】 随着现代软件开发的演进,微服务架构成为了企业追求敏捷、可扩展和容错性的关键解决方案。本文将深入探讨构建高效微服务架构的核心原则和策略,并通过一个实际案例来展示如何将这些理论应用于生产环境。我们将重点讨论服务的划分、通信机制、数据一致性以及持续集成与部署的实践,旨在为开发者提供一个清晰、可行的技术蓝图,以支持快速迭代和系统的稳健运行。
|
1天前
|
运维 监控 负载均衡
探索微服务架构下的服务网格(Service Mesh)实践之路
【4月更文挑战第30天】 在现代云计算的大背景下,微服务架构以其灵活性和可扩展性成为众多企业转型的首选。然而,随着服务的激增和网络交互的复杂化,传统的服务通信模式已无法满足需求,服务网格(Service Mesh)应运而生。本文通过分析服务网格的核心组件、运作机制以及在企业中的实际应用案例,探讨了服务网格在微服务架构中的关键作用及其带来的变革,同时提出了实施过程中面临的挑战和解决策略。
|
1天前
|
监控 Java 测试技术
现代化软件开发中的微服务架构设计与实践
随着软件开发的发展,传统的单体应用架构已经无法满足现代化应用的需求。微服务架构作为一种新的设计理念,为软件开发提供了更灵活、可扩展的解决方案。本文将介绍微服务架构的设计原则、实践方法以及相关技术工具,并结合实例展示其在现代化软件开发中的应用。
|
2天前
|
安全 Java 开发者
构建高效微服务架构:后端开发的新范式Java中的多线程并发编程实践
【4月更文挑战第29天】在数字化转型的浪潮中,微服务架构已成为软件开发的一大趋势。它通过解耦复杂系统、提升可伸缩性和促进敏捷开发来满足现代企业不断变化的业务需求。本文将深入探讨微服务的核心概念、设计原则以及如何利用最新的后端技术栈构建和部署高效的微服务架构。我们将分析微服务带来的挑战,包括服务治理、数据一致性和网络延迟问题,并讨论相应的解决方案。通过实际案例分析和最佳实践的分享,旨在为后端开发者提供一套实施微服务的全面指导。 【4月更文挑战第29天】在现代软件开发中,多线程技术是提高程序性能和响应能力的重要手段。本文通过介绍Java语言的多线程机制,探讨了如何有效地实现线程同步和通信,以及如
|
3天前
|
运维 监控 负载均衡
探索微服务架构下的服务网格(Service Mesh)实践
【4月更文挑战第28天】 在现代云原生应用的后端开发领域,微服务架构已成为一种广泛采用的设计模式。随着分布式系统的复杂性增加,服务之间的通信变得愈加关键。本文将深入探讨服务网格这一创新技术,它旨在提供一种透明且高效的方式来管理、监控和保护微服务间的交互。我们将从服务网格的基本概念出发,分析其在实际应用中的优势与挑战,并通过一个案例研究来展示如何在现有的后端系统中集成服务网格。
|
4天前
|
敏捷开发 运维 监控
【专栏】微服务架构:从概念到实践
【4月更文挑战第27天】微服务架构,以敏捷、灵活著称,通过拆分大型应用为小型自治服务,简化开发运维。本文探讨其基本概念、起源,核心优势(如敏捷开发、高可伸缩性)及挑战(系统复杂度、数据一致性),并分享实施策略(服务划分、技术选型、CI/CD)与实践案例(Netflix、Uber、Spotify),展示微服务如何重塑软件开发,并成为未来复杂应用系统的基础。