ServiceMesh究竟解决什么问题?

简介: 服务网格(ServiceMesh)这两年异常之火,号称是下一代微服务架构,接下来两个月,准备系统性的写写这个东西,希望能够让大家对最新的架构技术,有个初步的了解。

服务网格(ServiceMesh)这两年异常之火,号称是下一代微服务架构,接下来两个月,准备系统性的写写这个东西,希望能够让大家对最新的架构技术,有个初步的了解。

画外音:我的行文的风格了,“为什么”往往比“怎么样”更重要。

互联网公司,经常使用的是微服务分层架构。

画外音:为什么要服务化,详见《服务化到底解决什么问题?》。

随着数据量不断增大,吞吐量不断增加,业务越来越复杂,服务的个数会越来越多,分层会越来越细,除了数据服务层,还会衍生出业务服务层,前后端分离等各种层次结构。

画外音:分层的细节,详见《互联网分层架构演进》。

不断发现主要矛盾,抽离主要矛盾,解决主要矛盾,架构自然演进了,微服务架构,潜在的主要矛盾会是什么呢?

引入微服务架构,一般会引入一个RPC框架,来完成整个RPC的调用过程。

image.png

如上图粉色部分所示,RPC分为:

  • RPC-client,它嵌在调用方进程里
  • RPC-server,是服务进程的基础

画外音:《离不开的微服务架构,脱不开的RPC细节》。

不只是微服务,MQ也是类似的架构:

image.png

如上图粉色部分所示,MQ分为:

  • MQ-send-client
  • MQ-server
  • MQ-recv-client

画外音:《MQ,互联网架构解耦神器》。

框架只是第一步,越来越多和RPC,和微服务相关的功能,会被加入进来。

例如:负载均衡

image.png

如果要扩展多种负载均衡方案,例如:

  • 轮询
  • 随机
  • 取模
  • 一致性哈希

RPC-client需要进行升级。

例如:数据收集
image.png

如果要对RPC接口处理时间进行收集,来实施统一监控与告警,也需要对RPC-client进行升级。

画外音,处理时间分为:

  • 客户端视角处理时间
  • 服务端视角处理时间
  • 如果要收集后者,RPC-server也要修改与上报。

又例如:服务发现

image.png

服务新增一个实例,通知配置中心,配置中心通知已注册的RPC-client,将流量打到新启动的服务实例上去,迅猛完成扩容。

再例如:调用链跟踪

image.png

如果要做全链路调用链跟踪,RPC-client和RPC-server都需要进行升级。

下面这些功能:

  • 负载均衡
  • 数据收集
  • 服务发现
  • 调用链跟踪

其实都不是业务功能,所以互联网公司一般会有一个类似于“架构部”的技术部门去研发和升级相关功能,而业务线的技术部门直接使用相关框架、工具与平台,享受各种“黑科技”带来的便利。

完美!!!

理想很丰满,现实却很骨感,由于:

  • RPC-client,它嵌在调用方进程里
  • RPC-server,是服务进程的基础

往往会面临以下一些问题:

  • 业务技术团队,仍需要花时间去学习、使用基础框架与各类工具,而不是全心全意将精力花在业务和产品上
  • client要维护m个版本, server要维护n个版本,兼容性要测试m*n个版本
  • 如果要支持不同语言,往往要开发C-client,Python-client,go-client,Java-client多语言版本
  • 每次“黑科技”的升级,都需要推动上下游进行升级,这个周期往往是以季度、半年、又甚至更久,整体效率极低

这些耦合,这些通用的痛点,有没有办法解决呢?

一个思路是,将服务拆分成两个进程,解耦。

image.png

  • 一个进程实现业务逻辑(不管是调用方,还是服务提供方),biz,即上图白色方块
  • 一个进程实现底层技术体系,proxy,即上图蓝色方块

画外音:负载均衡、监控告警、服务发现与治理、调用链…等诸多基础设施,都放到这一层实现。

  • biz和proxy共同诞生,共同消亡,互为本地部署,即上图虚线方框
  • biz和proxy之间,为本地通讯,即上图黑色箭头

所有biz之间的通讯,都通过proxy之间完成,proxy之间才存在远端连接,即上图红色箭头

这样就实现了“业务的归业务,技术的归技术”,实现了充分解耦,如果所有节点都实现了解耦,整个架构会演变为:

image.png

  • 绿色为biz
  • 蓝色为proxy

整个服务集群变成了网格状,这就是Service Mesh服务网格的由来。

架构演进,永无穷尽,痛点多了,自然要分层解耦。希望大家有收获,后续再细聊SM的设计与架构细节。

思路比结论更重要。

架构师之路-分享技术思路

相关文章:

《服务化到底解决什么问题?》

《互联网分层架构演进》

《离不开的微服务架构,脱不开的RPC细节》

《MQ,互联网架构解耦神器》

调研:

贵司推广一个“底层技术”,周期大概多长,业务侧要配合升级么?

阅读原文

相关实践学习
RocketMQ一站式入门使用
从源码编译、部署broker、部署namesrv,使用java客户端首发消息等一站式入门RocketMQ。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
目录
相关文章
|
20天前
|
负载均衡 Kubernetes Cloud Native
OpenKruise 是一个基于 Istio 的云原生服务网格
OpenKruise 是一个基于 Istio 的云原生服务网格
25 10
|
6月前
|
Cloud Native 前端开发 JavaScript
《Envoy 代理:云原生时代的流量管理》
《Envoy 代理:云原生时代的流量管理》
45 0
|
7月前
|
Kubernetes Cloud Native API
云原生Istio架构和组件介绍 2
云原生Istio架构和组件介绍
105 0
|
7月前
|
负载均衡 监控 前端开发
云原生Istio架构和组件介绍 1
云原生Istio架构和组件介绍
131 0
|
9月前
|
Kubernetes 网络协议 Java
Istio入门——了解什么是服务网格以及如何在微服务体系中使用
Istio入门——了解什么是服务网格以及如何在微服务体系中使用
182 1
|
网络协议 开发者 Docker
Istio 服务韧性| 学习笔记
快速学习 Istio 服务韧性
93 0
Istio 服务韧性| 学习笔记
|
Kubernetes 监控 安全
基于阿里云 ASK 的 Istio 微服务应用部署初探
本文会通过在 ASK 上试用 Istio 部署微服务应用的方式,来验证 ASK 对标准 Kubernetes 的兼容性。Istio 作为 Service Mesh(服务网格)的领导解决方案,一方面本身足够复杂具有代表性,另一方面它也代表了云原生时代微服务架构的趋势具有参考意义。
基于阿里云 ASK 的 Istio 微服务应用部署初探
|
人工智能 运维 Kubernetes
服务网格规模化应用下的Istio Sidecar配置管理挑战与实践|IstioCon 2022
阿里云服务网格 ASM 在帮助客户落地实践过程中发现,随着集群管理的规模增长和配置复杂度的提升,对于不同的工作负载,目前 Sidecar 代理配置不够灵活。希望通过本次分享,能帮助大家在不同的业务场景下灵活配置 Sidecar 代理的配置来满足个性化需求、优化系统性能。
847 1
服务网格规模化应用下的Istio Sidecar配置管理挑战与实践|IstioCon 2022
|
运维 负载均衡 Kubernetes
深度解读服务治理 & ServiceMesh、xDS
以下内容属自我思考,如理解有偏差、理解不透彻、现状梳理不清楚的请大家多指教。
深度解读服务治理 & ServiceMesh、xDS
|
缓存 运维 Kubernetes
何时不需要微服务架构,Istio1.5告诉你
何时不需要微服务架构,Istio1.5告诉你
154 0
何时不需要微服务架构,Istio1.5告诉你