分布式系统架构之框架化服务

简介: 版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。
版权声明:本文为半吊子子全栈工匠(wireless_com,同公众号)原创文章,未经允许不得转载。 https://blog.csdn.net/wireless_com/article/details/44193853

要使业务系统无极缩放,微服务架构方兴未艾。本质上,就是采用API(例如REST) 封装服务调用,形成服务框架。


既然是分布式API调用,必然涉及到网络IO常见的三种方式:

1)  BIO:Blocking IO,阻塞方式,一个socket用一个线程处理

2)  NIO: Non-blocking IO,事件驱动,采用reactor模式,一个线程中处理多个socket,JDK1.4以上版本支持

3)  AIO:Asynchronous IO,异步,采用Proactor模式,NIO在有通知时可以进行相关操作,AIO在有通知时表示相关操作已经完成,JDK1.7以上版本支持。


对服务的API调用而言,分为同步服务调用和异步服务调用。

 

同步服务调用

支持同步服务调用时,一般要有IO线程,数据队列,通信对象队列和定时任务。

1)  IO线程专门负责和socket连接,进行数据的收发。

2)  收发的数据进入数据队列

3)  通信对象队列保存了多个线程使用的通信对象,主要为了阻塞请求线程,请求线程把数据放入数据队列后会生成一个通信对象,进入通信对象队列并在通信对象队列上等待。

4)  通信对象用于唤醒请求线程。

5)  如果在远程调用超时前执行完毕并返回,那么IO线程就会通知通信对象,通信对象则会结束请求线程的等待,并把结果传给请求进程,以进行后续处理

6)  定时任务负责检查通信队列中的哪些通信对象已经超时,然后这些通信对象会通知请求线程超时。


异步服务调用

支持异步服务调用时,常见的有四种调用方式

1)  单向请求,基本等价于一个不保证可靠到达的通知

2)  回调,是一种被动的方式。请求者设置了回调对象,把数据写入数据队列后就继续自己处理了。回调的执行在IO线程中或定时任务(主要处理超时)的线程中,建议用新的线程来执行回调。

3)  Future,Java中的future非常便利,先把future放入队列,然后数据入队列,在线程中处理,等请求线程的其他处理结束后,就通过future来获取通信结果并直接控制超时。

4)  可靠异步,能保证异步请求在远程被执行。

 

服务端主要有两部分工作:

1)  本地服务的注册管理,服务需要注册到服务注册查找中心后才能被服务调用者发现。

2)  根据请求来定位服务并执行。启动时完成注册,监听端口,通信部分同样用NIO方式实现。IO线程进行通信的处理,一般是多个,完成协议解析。调用服务一般在工作线程进行,反序列化取决于具体实现。工作线程实际上是相互隔离的多个不同服务的线程池。

 

服务的升级有两种情况:

1)      接口不变,代码完善或功能完善,只是内部服务的实现有变化。

2)      需要修改原有的接口

a)        在接口中增加方法

b)        对接口的某些方法修改调用的参数列表。可以通过版本号来解决,或者在设计上考虑参数的扩展性,例如map传参


服务治理是在系统采用服务框架后,完成管理服务和查看服务的功能。管理服务需要控制、操作整个分布式系统中的服务,查看则是看运行时的状态或一些具体信息、历史数据等。查看服务的具体内容包括:服务信息,服务质量,容量,依赖,分布,统计,元数据,服务查询,报表和监视。 服务管理的内容内容包括:上下线,路由,限流降级,归组,线程池管理,机房规则,服务授权。


需要注意的是,在分布式系统中处理session存储问题的方式:

1)  Session Sticky:负责均衡需要根据每次请求的会话标识来进行请求转发

2)  Session Replication:web服务器之间增加了会话数据同步

3)  Session 数据的集中存储:在web服务器数量大,session 数多时最佳

4)  Cookie 使用,在客户端请求上使用session 数据

目录
相关文章
|
12天前
|
监控 负载均衡 Cloud Native
ZooKeeper分布式协调服务详解:面试经验与必备知识点解析
【4月更文挑战第9天】本文深入剖析ZooKeeper分布式协调服务原理,涵盖核心概念如Server、Client、ZNode、ACL、Watcher,以及ZAB协议在一致性、会话管理、Leader选举中的作用。讨论ZooKeeper数据模型、操作、会话管理、集群部署与管理、性能调优和监控。同时,文章探讨了ZooKeeper在分布式锁、队列、服务注册与发现等场景的应用,并在面试方面分析了与其它服务的区别、实战挑战及解决方案。附带Java客户端实现分布式锁的代码示例,助力提升面试表现。
30 2
|
13天前
|
存储 人工智能 PyTorch
基于PyTorch/XLA的高效分布式训练框架
基于PyTorch/XLA的高效分布式训练框架
23 2
|
30天前
|
人工智能 算法 PyTorch
TorchAcc:基于 TorchXLA 的分布式训练框架
阿里云研究员、阿里云人工智能平台 PAI 技术负责人--林伟在GTC 2024 大会 China AI Day 线上中文演讲专场上介绍了TorchAcc,这是一个基于 PyTorch/XLA 的大模型分布式训练框架。
|
1月前
|
设计模式 架构师 前端开发
JavaEE企业级分布式高级架构师课程
本课程主要面向1-5年及以上工作经验的Java工程师,大纲由IT界知名大牛 — 廖雪峰老师亲自打造,由来自一线大型互联网公司架构师、技术总监授课,内容涵盖深入spring5设计模式/高级web MVC开发/高级数据库设计与开发/高级响应式web开发/分布式架构设计等主流核心技术。
22 1
JavaEE企业级分布式高级架构师课程
|
1月前
|
算法 数据挖掘 调度
隐语实训营-第3讲:详解隐私计算框架的架构和技术要点
主要介绍隐语的隐私计算架构,并对每个模块进行拆解、分析,以期望不同使用者找到适合自己的模块,快速入手。
47 4
|
26天前
|
消息中间件 算法 Java
【亿级数据专题】「分布式服务框架」 盘点本年度我们探索服务的保障容量的三大关键方案实现
【亿级数据专题】「分布式服务框架」 盘点本年度我们探索服务的保障容量的三大关键方案实现
183 0
|
1月前
|
分布式计算 算法 调度
课3-详解隐私计算框架的架构和技术要点
隐语架构涵盖产品、算法、计算、资源和硬件五层,旨在实现互联互通和跨域管控。产品层包括SecretPad等,简化用户和集成商体验。算法层涉及PSI/PIR、SCQL和联邦学习,提供隐私保护的数据分析和学习。计算层如RayFed、SPU、HEU等,支持分布式计算和密态处理。资源层的KUSCIA用于跨机构任务编排,硬件层涉及FPGA等加速器。互联互通支持黑盒和白盒模式,确保不同平台协作。跨域管控则强调数据流转控制,保护数据权益。
|
26天前
|
设计模式 安全 Java
【分布式技术专题】「Tomcat技术专题」 探索Tomcat技术架构设计模式的奥秘(Server和Service组件原理分析)
【分布式技术专题】「Tomcat技术专题」 探索Tomcat技术架构设计模式的奥秘(Server和Service组件原理分析)
31 0
|
3天前
|
存储 关系型数据库 分布式数据库
电子好书发您分享《PolarDB分布式版架构介绍PolarDB分布式版架构介绍》
**《PolarDB分布式版架构介绍》电子书分享:** 探索阿里云PolarDB分布式设计,采用计算存储分离,借助GMS、CN组件实现大规模扩展。[阅读更多](https://developer.aliyun.com/ebook/8332/116553?spm=a2c6h.26392459.ebook-detail.5.3b3b2ccbVVjjt0)
14 3
|
26天前
|
NoSQL Java Redis
【分布式技术专题】「分布式技术架构」手把手教你如何开发一个属于自己的分布式锁的功能组件(二)
【分布式技术专题】「分布式技术架构」手把手教你如何开发一个属于自己的分布式锁的功能组件
15 0