多平台统一管理软件接口,如何实现多平台统一管理软件接口
424
2022-11-20
本文目录一览:
假设你正在开发一个电商网站,那么这里会涉及到很多后端的微服务,比如会员、商品、推荐服务等等。
那么这里就会遇到一个问题,APP/Browser怎么去访问这些后端的服务? 如果业务比较简单的话,可以给每个业务都分配一个独立的域名(),但这种方式会有几个问题:
更好的方式是采用API网关,实现一个API网关接管所有的入口流量,类似Nginx的作用,将所有用户的请求转发给后端的服务器,但网关做的不仅仅只是简单的转发,也会针对流量做一些扩展,比如鉴权、限流、权限、熔断、协议转换、错误码统一、缓存、日志、监控、告警等,这样将通用的逻辑抽出来,由网关统一去做,业务方也能够更专注于业务逻辑,提升迭代的效率。
通过引入API网关,客户端只需要与API网关交互,而不用与各个业务方的接口分别通讯,但多引入一个组件就多引入了一个潜在的故障点,因此要实现一个高性能、稳定的网关,也会涉及到很多点。
API 注册
业务方如何接入网关?一般来说有几种方式。
协议转换
内部的API可能是由很多种不同的协议实现的,比如HTTP、Dubbo、GRPC等,但对于用户来说其中很多都不是很友好,或者根本没法对外暴露,比如Dubbo服务,因此需要在网关层做一次协议转换,将用户的HTTP协议请求,在网关层转换成底层对应的协议,比如HTTP - Dubbo, 但这里需要注意很多问题,比如参数类型,如果类型搞错了,导致转换出问题,而日志又不够详细的话,问题会很难定位。
服务发现
网关作为流量的入口,负责请求的转发,但首先需要知道转发给谁,如何寻址,这里有几种方式:
服务调用
网关由于对接很多种不同的协议,因此可能需要实现很多种调用方式,比如HTTP、Dubbo等,基于性能原因,最好都采用异步的方式,而Http、Dubbo都是支持异步的,比如apache就提供了基于NIO实现的异步HTTP客户端。
因为网关会涉及到很多异步调用,比如拦截器、HTTP客户端、dubbo、redis等,因此需要考虑下异步调用的方式,如果基于回调或者future的话,代码嵌套会很深,可读性很差,可以参考zuul和spring cloud gateway的方案,基于响应式进行改造。
优雅下线
性能
网关作为所有流量的入口,性能是重中之重,早期大部分网关都是基于同步阻塞模型构建的,比如Zuul 1.x。但这种同步的模型我们都知道,每个请求/连接都会占用一个线程,而线程在JVM中是一个很重的资源,比如Tomcat默认就是200个线程,如果网关隔离没有做好的话,当发生网络延迟、FullGC、第三方服务慢等情况造成上游服务延迟时,线程池很容易会被打满,造成新的请求被拒绝,但这个时候其实线程都阻塞在IO上,系统的资源被没有得到充分的利用。另外一点,容易受网络、磁盘IO等延迟影响。需要谨慎设置超时时间,如果设置不当,且服务隔离做的不是很完善的话,网关很容易被一个慢接口拖垮。
而异步化的方式则完全不同,通常情况下一个CPU核启动一个线程即可处理所有的请求、响应。一个请求的生命周期不再固定于一个线程,而是会分成不同的阶段交由不同的线程池处理,系统的资源能够得到更充分的利用。而且因为线程不再被某一个连接独占,一个连接所占用的系统资源也会低得多,只是一个文件描述符加上几个监听器等,而在阻塞模型中,每条连接都会独占一个线程,而线程是一个非常重的资源。对于上游服务的延迟情况,也能够得到很大的缓解,因为在阻塞模型中,慢请求会独占一个线程资源,而异步化之后,因为单条连接所占用的资源变的非常低,系统可以同时处理大量的请求。
如果是JVM平台,Zuul 2、Spring Cloud gateway等都是不错的异步网关选型,另外也可以基于Netty、Spring Boot2.x的webflux、vert.x或者servlet3.1的异步支持进行自研。
缓存
对于一些幂等的get请求,可以在网关层面根据业务方指定的缓存头做一层缓存,存储到Redis等二级缓存中,这样一些重复的请求,可以在网关层直接处理,而不用打到业务线,降低业务方的压力,另外如果业务方节点挂掉,网关也能够返回自身的缓存。
限流
限流对于每个业务组件来说,可以说都是一个必须的组件,如果限流做不好的话,当请求量突增时,很容易导致业务方的服务挂掉,比如双11、双12等大促时,接口的请求量是平时的数倍,如果没有评估好容量,又没有做限流的话,很容易服务整个不可用,因此需要根据业务方接口的处理能力,做好限流策略,相信大家都见过淘宝、百度抢红包时的降级页面。
因此一定要在接入层做好限流策略,对于非核心接口可以直接将降级掉,保障核心服务的可用性,对于核心接口,需要根据压测时得到的接口容量,制定对应的限流策略。限流又分为几种:
稳定性
稳定性是网关非常重要的一环,监控、告警需要做的很完善才可以,比如接口调用量、响应时间、异常、错误码、成功率等相关的监控告警,还有线程池相关的一些,比如活跃线程数、队列积压等,还有些系统层面的,比如CPU、内存、FullGC这些基本的。
网关是所有服务的入口,对于网关的稳定性的要求相对于其他服务会更高,最好能够一直稳定的运行,尽量少重启,但当新增功能、或者加日志排查问题时,不可避免的需要重新发布,因此可以参考zuul的方式,将所有的核心功能都基于不同的拦截器实现,拦截器的代码采用Groovy编写,存储到数据库中,支持动态加载、编译、运行,这样在出了问题的时候能够第一时间定位并解决,并且如果网关需要开发新功能,只需要增加新的拦截器,并动态添加到网关即可,不需要重新发布。
熔断降级
熔断机制也是非常重要的一项。若某一个服务挂掉、接口响应严重超时等发生,则可能整个网关都被一个接口拖垮,因此需要增加熔断降级,当发生特定异常的时候,对接口降级由网关直接返回,可以基于Hystrix或者Resilience4j实现。
日志
由于所有的请求都是由网关处理的,因此日志也需要相对比较完善,比如接口的耗时、请求方式、请求IP、请求参数、响应参数(注意脱敏)等,另外由于可能涉及到很多微服务,因此需要提供一个统一的traceId方便关联所有的日志,可以将这个traceId置于响应头中,方便排查问题。
隔离
比如线程池、http连接池、redis等应用层面的隔离,另外也可以根据业务场景,将核心业务部署带单独的网关集群,与其他非核心业务隔离开。
网关管控平台
这块也是非常重要的一环,需要考虑好整个流程的用户体验,比如接入到网关的这个流程,能不能尽量简化、智能,比如如果是dubbo接口,我们可以通过到git仓库中获取源码、解析对应的类、方法,从而实现自动填充,尽量帮用户减少操作;另外接口一般是从测试-预发-线上,如果每次都要填写一遍表单会非常麻烦,我们能不能自动把这个事情做掉,另外如果网关部署到了多个可用区、甚至不同的国家,那这个时候,我们还需要接口数据同步功能,不然用户需要到每个后台都操作一遍,非常麻烦。
这块个人的建议是直接参考阿里云、aws等提供的网关服务即可,功能非常全面。
其他
其他还有些需要考虑到的点,比如接口mock,文档生成、sdk代码生成、错误码统一、服务治理相关的等,这里就不累述了。
目前的网关还是中心化的架构,所有的请求都需要走一次网关,因此当大促或者流量突增时,网关可能会成为性能的瓶颈,而且当网关接入的大量接口的时候,做好流量评估也不是一项容易的工作,每次大促前都需要跟业务方一起针对接口做压测,评估出大致的容量,并对网关进行扩容,而且网关是所有流量的入口,所有的请求都是由网关处理,要想准确的评估出容量很复杂。可以参考目前比较流行的ServiceMesh,采用去中心化的方案,将网关的逻辑下沉到sidecar中,
sidecar和应用部署到同一个节点,并接管应用流入、流出的流量,这样大促时,只需要对相关的业务压测,并针对性扩容即可,另外升级也会更平滑,中心化的网关,即使灰度发布,但是理论上所有业务方的流量都会流入到新版本的网关,如果出了问题,会影响到所有的业务,但这种去中心化的方式,可以先针对非核心业务升级,观察一段时间没问题后,再全量推上线。另外ServiceMesh的方案,对于多语言支持也更友好。
网关(Gateway)又称网间连接器、协议转换器。网关在网络层以上实现网络互连,是最复杂的网络互连设备,仅用于两个高层协议不同的网络互连。网关既可以用于广域网互连,也可以用于局域网互连。
网关是一种充当转换重任的计算机系统或设备。使用在不同的通信协议、数据格式或语言,甚至体系结构完全不同的两种系统之间,网关是一个翻译器。与网桥只是简单地传达信息不同,网关对收到的信息要重新打包,以适应目的系统的需求。同层--应用层。
扩展资料
三大功能
第一,是它支持邻居获取机制,即允许一个路由器请求另一个路由器同意交换可达信息。我们可以说,一个路由器获得了一个EGP对等路由器或一个EGP邻站。EGP对等路由器仅在交换选路信息的意义上来说是邻站,而不论其地理位置是否邻近。
第二,路由器持续地测试其EGP邻站是否能够响应。
第三,EGP邻站周期性地传送选路更新报文(routing update message)来交换网络可达信息。
和GGP一样,EGP使用一个查询过程来让网关清楚它的相邻网关,并不断地与其相邻者交换路由和状态信息。EGP是状态驱动的协议,意思是说它依靠于一个反映网关情况的状态表和一组当状态表项变化时必须执行的一组操作。
参考资料来源:百度百科-网关
微服务与SOA架构
微服务
维基上对其定义为:一种软件开发技术- 面向服务的体系结构(SOA)架构样式的一种变体,它提倡将单一应用程序划分成一组小的服务,服务之间互相协调、互相配合,为用户提供最终价值。每个服务运行在其独立的进程中,服务与服务间采用轻量级的通信机制互相沟通(通常是基于HTTP的RESTful API)。每个服务都围绕着具体业务进行构建,并且能够独立地部署到生产环境、类生产环境等。另外,应尽量避免统一的、集中式的服务管理机制,对具体的一个服务而言,应根据上下文,选择合适的语言、工具对其进行构建。
微服务概念的由来是怎么样的呢,参考维基百科英文版,简单梳理后的微服务出现的 历史 :
顺便说一句,这几个人都是大名鼎鼎的,名字可能陌生,但是摆出他们的作品,相信多少是有些了解的。 Martin Flower是《重构》、《UML 精粹》的作者;Robert Martin,人称 Bob 大叔,敏捷专家,《代码整洁之道》、《架构整洁之道》的作者。 既然微服务是SOA架构的一种变体,那么,谈微服务,SOA就是一个跨不过去的一个话题。
SOA
SOA的全称是“Service Oriented Architecture”,中文翻译是“面向服务架构”,1996年,由Gartner公司最早提出SOA概念。它的诞生是有其 历史 背景的。
同时,基于这样的背景,Gartner公司提出了SOA的概念,并且还给了一个预言,它预言在2008年,SOA会成为一种最流行的、且占有绝对优势的软件工程实践办法。
SOA架构
很多时候,我们认为SOA已经消失在江湖,实际上并非如此,许多传统行业,比如物流、仓储行业的系统都是采用SOA架构来构建的。
对于SOA,从图中可以看到,它的每一项业务功能都是一个服务,都需要对外提供服务的能力,来完成企业所需的各项业务功能,也就意味着它具有对外提供开放的能力,这些能力无需定制化就可以实现。为什么无需定制化呢,核心就在于ESB。
看到ESB的功能,是不是觉得它的功能有点似曾相识?是的,它就是微服务所需要的基础服务。
微服务架构
简而言之,微服务架构风格 ,是一种 将单个应用程序开发为一组小服务 的方法,每个小服务都 在自己的进程中运行并与轻量级机制(通常是 HTTP 资源 API)进行通信 。 这些服务是围绕业务能力构建的,并且 可以通过全自动部署机制独立部署 。 这些服务的集中管理最少,可以用不同的编程语言编写并使用不同的数据存储技术。
上面一段话是Martin Fowler关于微服务架构论文中的核心片段,从上述片段中,我们提炼出微服务架构的核心有三点:
其一是“ 小服务 ”,将应用拆分为一组小服务;
其二是“ 在自己的进程中运行并与轻量级机制(通常是 HTTP 资源 API)进行通信 ”,微服务是由独立进程且进程之间通过轻量级机制进行通信;
其三是“ 可以通过全自动部署机制独立部署 ”,也就是说每个微服务可以快速独立部署。
其实这已经非常精确、精准的描述出了微服务的基本特征。完全可以作为在微服务架构实践中落地的三个参考依据与检验标准。
微服务与SOA对比
对比维度
微服务
SOA
举例
技术本质
Smart endpoints and dumb pipes
Smart pipes and dumb endpoints
应用场景
互联网行业
传统行业或企业内部
SOA,企业OA;微服务,电商平台
服务粒度
细
较粗
服务通信
标准化,轻量级
重量级
SOA,ESB;微服务,HTTP,RCP
服务交付
快速
较慢
微服务,服务小容易升级;SOA功能集中,较难升级
应用架构的演化
最初的应用都是单体架构,所谓单体架构就是将一系列功能全部集中在一个大的应用中,比如传统行业一般整个财务就做一个系统,将费用管理、账务管理、薪资结算等等都集中在一起,这种架构的局限性非常明显,不适合大规模项目的建设。
随着软件架构的发展,出现SOA架构,SOA将单体架构做了拆分,拆分成粗粒度的服务,同时将部分公共功能独立出来形成ESB,它的优点是
但是由于SOA架构需要一个统一的通信交互(ESB), 导致了接口开发增加工作量。
更进一步发展,微服务架构出现,对服务进一步的拆分,拆分成更细粒度的服务;进一步提供了架构选择的多样性,微服务架构主要优点是
正是因为微服务将服务拆分的更小,它同样也带来了一些挑战,比如多服务运维难度增大、服务通信成本变高、数据一致性保持更难、性能监控要求提升等等。
所以业务在选择架构的时候,应从多方面考量选择更合适的架构。
顺便说一句,这里的架构演化是指整个架构的发展 历史 ,并不是说你的服务就一定要经过这个演化过程,只是更多的架构模式提供更多的选择。我们在做架构演进的时候,更多的是将单体应用演进到SOA架构或者演进到微服务架构。
面向中小企业的微服务产品提供自动应答菜单、微网站生成与管理、微信CRM系统服务、微信公众平台客服服务等综合性的运营管理标准化服务,是多功能的微信运营管理平台。
微信管家是将企业微信公众账号通过技术平台接入、运营管理等方式,帮助企业向微信用户提供更完备服务信息、用户互动体验、营销效果等企业应用解决方案。
为企业客户提供基于微信平台的客户服务、产品推介、互动营销、市场调查、产品订单等运营与系统功能
你好,很开心收到邀请来回答你的问题。
除了云计算、大数据和人工智能三大热门技术之外,Java被称为“编程开发的灵魂”,而微服务架构作为以Java为基础的高阶技能,同样不可忽视。
按照传统的软件开发模式,在开发项目时,通常我们会把项目创造成一个庞然大物,这个庞然大物包括一系列的小模块,比如“用户模块、订单模块、商品模块、支付模块”,一旦有模块掉了链子,整个项目都将Game Over!
为了解决这个问题,我们将一个大项目拆分成许多独立的小项目,每一个独立的小项目被称为服务。服务之间通过接口互相访问。即使某些服务挂掉,也不会影响其它服务的运行。这种项目架构称为微服务架构。
微服架构是整个互联网的框架核心,掌控了整个互联网的主心骨,一个好的架构就能搭建一个完美的互联网平台。因此,具有微服专业能力的架构师人才备受重视。
今年上半年,猎聘发布了《猎聘 2019 上半年中高端人才就业现状大数据报告》,在分领域热招数据统计中,架构师平均达到惊人的 4.28 万元,成为热门领域岗位薪资之最。
微服务架构系统灵活性,健壮性,扩展性好,特别适合需求变化迅速的场景。但系统复杂度高,部署,管理难度大。微服务除了开发期框架之外,还有需要一系列的运行期中间件支撑,如API网关,服务注册中心,统一配置中心等。 目前国内比较成熟的吧,东软有一支团队在做,他们网站是
国内商业级RestCloud微服务架构
1、作为企业API调用的统一出口和权限认证中心2、作为轻量级的企业级服务总线替换企业原有的ESB系统3、实现所有API接口的标准化、可视化、统一化管控4、作为微服务架构的核心API网关,集成到企业微服务架构中5、作为企业与供应链及合作伙伴的能力输出接口构建OpenAPI门户6、作为企业调用第三方API(京东、淘宝)等的统一API接入平台7、打通企业内部业务系统与外部业务系统之间的通道8、实现企业已有RestAPI、WebService、Dubbo、Kafka、MQTT等接口的注册和协议转换
重点的话,从技术实施角度看,主要包含“理”“采”“存”“管”“用”这五个,即业务和数据资源梳理、数据采集清洗、数据库设计和存储、数据管理、数据使用。
数据资源梳理:数据治理的第一个步骤是从业务的视角厘清组织的数据资源环境和数据资源清单,包含组织机构、业务事项、信息系统,以及以数据库、网页、文件和 API 接口形式存在的数据项资源,本步骤的输出物为分门别类的数据资源清单。
数据采集清洗:通过可视化的 ETL 工具(例如阿里的 DataX,Pentaho Data Integration)将数据从来源端经过抽取 (extract)、转换 (transform)、加载 (load) 至目的端的过程,目的是将散落和零乱的数据集中存储起来。
基础库主题库建设:一般情况下,可以将数据分为基础数据、业务主题数据和分析数据。基础数据一般指的是核心实体数据,或称主数据,例如智慧城市中的人口、法人、地理信息、信用、电子证照等数据。主题数据一般指的是某个业务主题数据,例如市场监督管理局的食品监管、质量监督检查、企业综合监管等数据。而分析数据指的是基于业务主题数据综合分析而得的分析结果数据,例如市场监督管理局的企业综合评价、产业区域分布、高危企业分布等。那么基础库和主题库的建设就是在对业务理解的基础上,基于易存储、易管理、易使用的原则抽像数据存储结构,说白了,就是基于一定的原则设计数据库表结构,然后再根据数据资源清单设计数据采集清洗流程,将整洁干净的数据存储到数据库或数据仓库中。
元数据管理:元数据管理是对基础库和主题库中的数据项属性的管理,同时,将数据项的业务含义与数据项进行了关联,便于业务人员也能够理解数据库中的数据字段含义,并且,元数据是后面提到的自动化数据共享、数据交换和商业智能(BI)的基础。需要注意的是,元数据管理一般是对基础库和主题库中(即核心数据资产)的数据项属性的管理,而数据资源清单是对各类数据来源的数据项的管理。
血缘追踪:数据被业务场景使用时,发现数据错误,数据治理团队需要快速定位数据来源,修复数据错误。那么数据治理团队需要知道业务团队的数据来自于哪个核心库,核心库的数据又来自于哪个数据源头。我们的实践是在元数据和数据资源清单之间建立关联关系,且业务团队使用的数据项由元数据组合配置而来,这样,就建立了数据使用场景与数据源头之间的血缘关系。 数据资源目录:数据资源目录一般应用于数据共享的场景,例如政府部门之间的数据共享,数据资源目录是基于业务场景和行业规范而创建,同时依托于元数据和基础库主题而实现自动化的数据申请和使用。
质量管理:数据价值的成功发掘必须依托于高质量的数据,唯有准确、完整、一致的数据才有使用价值。因此,需要从多维度来分析数据的质量,例如:偏移量、非空检查、值域检查、规范性检查、重复性检查、关联关系检查、离群值检查、波动检查等等。需要注意的是,优秀的数据质量模型的设计必须依赖于对业务的深刻理解,在技术上也推荐使用大数据相关技术来保障检测性能和降低对业务系统的性能影响,例如 Hadoop,MapReduce,HBase 等。
商业智能(BI):数据治理的目的是使用,对于一个大型的数据仓库来说,数据使用的场景和需求是多变的,那么可以使用 BI 类的产品快速获取需要的数据,并分析形成报表,像派可数据就属于专业的BI厂商。
数据共享交换:数据共享包括组织内部和组织之间的数据共享,共享方式也分为库表、文件和 API 接口三种共享方式,库表共享比较直接粗暴,文件共享方式通过 ETL 工具做一个反向的数据交换也就可以实现。我们比较推荐的是 API 接口共享方式,在这种方式下,能够让中心数据仓库保留数据所有权,把数据使用权通过 API 接口的形式进行了转移。API 接口共享可以使用 API 网关实现,常见的功能是自动化的接口生成、申请审核、限流、限并发、多用户隔离、调用统计、调用审计、黑白名单、调用监控、质量监控等等。
版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。
发表评论
暂时没有评论,来抢沙发吧~