< 返回技术文档列表

巧用 HTTP 协议,设计一个基 于B/S 架构的缓存框架

发布时间:2022-11-17 22:54:59⊙投诉举报

author: changjin wei(魏昌进)

csdn: https://blog.csdn.net/qq_34347620/

article/details/127762617

目录

  • 基于B/S架构的HTTP协议三级缓存设计

  • 骚话连篇

  • 设计初衷

  • 处理思路

  • 短小精悍

  • 网关之短

  • 数据之小

  • 架构之精

  • 性能之悍

  • 短板效应

  • 手撕http缓存框架

  • 终章

1. 基于B/S架构的HTTP协议三级缓存设计

1.1. 骚话连篇

程序设计无非就是时间问题和空间问题,但是现在本质已经变了现在的软件工程师已经不在乎软件质量以及代码质量,以添加系统复杂度的来处理并发问题,软件变成变成了PPT编程。

其实大家都知道很多缓存方案 Redis读写缓存呀,MongoDB文档缓存呀,网页静态化呀,,其实玩来玩去也就那样子这么多年了也没有什么创新的点子出现。既然大家都知道缓存方案为啥我还要专门写一篇文章去解释这个缓存方案设计哪,主要起因就是由于我没有找到这个方案的轮子,我是真的没有轮子,Spring和其余Java社区都没有提供。

难道服务端就不能去控制缓存嘛?我在思考这个问题,服务端控制代理商服务器和浏览器的缓存,并且做好缓存协商和缓存过期,利用好http缓存可以极大的减小服务端压力,无论是网络传输还是servlet容器对http的解析。

秉承着百度和Google都不能处理处理你的问题甚至没有答案,那么恭喜你了,你要自己去处理问题并且发布处理方案了,所以我要造轮子以及写博客了。

1.2. 设计初衷

HTTP协议作为B/S架构最通用的协议,但是大家都没有很好的利用HTTP协议。(中国开发工程师就那点水平吧,纸上谈兵之士,我也是纸上谈兵,哈哈哈)

提升网站并发首先就是要缩短距离和减小体积以加快响应(我称之为“短小快”)

HTTP协议的缓存策略可以缩短网页请求资源的距离,减少推迟,节省网络流量,并且因为缓存文件可以重复利用,降低网络负荷,加快用户端响应。

其实一个高并发网站的流量95%都是读流量,写流量甚至都达不到5%,Java工程师引用Redis将大量数据放入Redis来处理读流量其实是错误甚至是致命的,在重后台轻前台的软件开发环境下大家都是优先从后台入手去处理读流量很少从网络传输协议入手去处理问题。运维工程师对于HTT议缓存也仅仅是Nginx对静态资源设置一个Cache-Control: max-age=31536000。

其实运维工程师也很难判断缓存什么时候过期,过期时间设置多大,毕竟谁知道后台工程师什么时候升级数据呐。(这里就没有前台什么事情了,浏览器都已经维护好HTTP缓存了)

1.3. 处理思路

哼,感觉Spring对HTTP协议支持太少了(有点郁闷),以至于我觉得他们是不是成心不开源部分代码用于商业支持。

以后台方式来控制HTTP缓存(当然不是后台返回数据加一个Cache-Control: max-age=31536000),后台来决定HTTP缓存的时间,其中涉及到 HTTP协议缓存失效机制、反向代理商缓存、后台缓存控制。

HTTP协议大家很熟习吧,废话少说写文章打字很累,直接上链接吧

  • https://developer.mozilla.org/en-US/docs/Web/HTTP/Caching
  • https://web.dev/i18n/en/http-cache/

这两篇文章看完大概心里对HTTP缓存就心里有数了,其目的是尽可能的把数据缓存在浏览器中减少网络请求(客户的电脑性能不会那么拉胯的啦)。

画个时序图来看看吧

image.png

点击放大

通过流程图即可以发现只需ETag一直有效,缓存协商返回304充分利用HTTP缓存即可实现, 至于如何高效的维护ETag的过期这里放到第三章手撕框架说吧

2. 短小精悍

短小精悍对标膀大腰圆,大家都是玩编程的靠提升系统复杂度来表现自己的技术的人真的没有劲(PPT编程那群人啦)。

有点不想写了,有点累了,边抽烟边写这些东西很伤身体,写出来有没有人用都不知道。

睡了一夜,起床喝了一杯速溶咖啡接着码字吧。

说一个微服务小故事 我去!Nginx崩了。我去!系统崩了。领导:在这样子搞下去不行呀,脸上挂不住呀,把系统拆成微服务吧,整点高大上的东西进去应该就不会崩溃了吧

一个系统拆成微服务中。改造中... 注册中心来一发,PRC来一发,gateway来一发。。。我去!系统还是老样子崩溃了。

运维仔憋出大招喊出了:Nginx双活来一发,Spring Cloud Gateway集群搞起来,给我活,活起来。。。运维仔:我去!版本更新好麻烦呀,来一发docker顺带一发k8s。后台仔:我去!配置不能同步呀,来一发配置中心吧。后台仔:我去!这个接口涉及到多个服务,来一发seata吧。后台仔:我去!!!出bug了看日志好麻烦呀 整一发ELK吧。

用户:我去!!!更新微服务了好牛逼plus呀。我去!!!微服务化了稳固上上来了,这性能怎样这么拉胯呀。后台仔:我给你来一发zipkin做性能追踪看看。

懒得写了,故事就是这样子啦,现在的性能优化就是做加法而不是做减法

一套组合拳下来,发现什么都没有处理甚至加速熵增,软件开发真有趣

2.1. 网关之短

来看看微服务最流行的网关设计吧

image.png

网关设计

其实LB在中小企业很少会用到, 基本上都是传统网关模式,进阶版本看到这种部署方式的就更少了。

一个请求在进入实际的微服务之前需要经过两层网关,Nginx作为流量网关,Spring Cloud Gateway作为业务网关,经过两层网关之后性能网络推迟会添加5%-10%,这些损耗还没有加上少量人会往Spring Cloud Gateway之中添加少量奇特的功能(报文校验,报文加解密,token校验。。),以至于Spring Cloud Gateway的性能下降的更厉害以至于要扩充Spring Cloud Gateway集群。

心中其实一直有一个疑问,有Spring Cloud Gateway还需要Nginx嘛,尽管Java的性能比不上C但是也没有必要用多层网关设计吧。就算上了LB,阿里云那边其实也是一台Nginx在哪里跑着,进阶版本和集群版本其实没有多大差别。

19年的时候就想着Spring Cloud Gateway的性能比不上Nginx,Java天生劣势,但是Nginx又没有微服务生态,经过一段时间的苦思冥想后已经讯问众多好友后,给我了一个OpenResty让我去玩,但是OpenResty并没有接入Spring Cloud Alibaba体系之中,而且OpenResty需要写Lua,我不会Lua呀,最终22年的时候在和朋友瞎扯淡后拿到了 Apache APISIX。

Apache APISIX官网:

https://apisix.apache.org/docs/apisix/getting-started/

性能比照:

https://baijiahao.baidu.com/s?id=1673615010327758104&wfr=spider&for=pc

经过一段时间研究Apache APISIX后,发现Apache APISIX 可以完美替代 Spring Cloud Gateway和Nginx这种多层网关模式。

Apache APISIX基于Nginx 无论如何封装 性能上都可吊打Spring Cloud Gateway。

列举一下目前用到的几个有趣的特性, 更多特性请看官网

  1. 动态routes
  2. 动态Upstream
  3. 服务发现

那么网关更新一下吧。

image.png

流量网关+业务网关的模式再也不存在了,现在只有一层流量网关,由于消除了Spring Cloud Gateway的存在 性能上略有提升,性能上面大概会提升2%-8%吧。

尽量不要让网关 去和业务扯上关系,让网关做好反向代理商和负载均衡将可 (Spring Cloud Gateway上面一大堆业务,能不慢嘛)

别小看这种小小的性能提升,失之毫厘差之千里,流量上来了效果就不一样了。

2.2. 数据之小

上面已经把网关的距离缩短了,如何让数据变得小一点。

其实从架构较多来说,JSON和XML这些传统的通讯格式很通用,换成其余的Kryo,dubbo这些之类的也只是适合服务和服务之间传递,并不适合前后台之间交互,就是JSON解析框架从Jackson换成了FastJSON(温少出了FastJSON2)也只是从在解析速度上的提升

后前台其实没有多少可以说的,HTTP协议很通用,JSON通讯格式也方便解析略微主意一下几个问题就好了

  1. 后台不需要把null值给前台,前台仔自行解决undefined,null,NaN的问题
  2. 后台仔别一股脑 select * 返回一律数据了,和前台确定好字段后定制化的返回所需要的字段
  3. JSON的key其实压缩一下,apple可以用a替代,user这个可以用u来替代,@JsonProperty这些注解之类的压缩一下key
  4. 数据库字段尽可能使用小字段,少用宽表

微服务,微服务嘛看PRC框架了,Spring Cloud Open Feign或者者dubbo这些都有自己的压缩算法的

Spring Boot其实有gzip的开关,可以考虑开起来压缩一下response body,但是开启后CPU会上来,没有办法时间和空间问题。

TCP协议有三次握手能快到那里呐,UDP可靠性问题也是一个很大的问题,其实有打算使用http2.0的,但是http2.0似乎只是提升了client的性能没有提升server性能, 还不如用http缓存方案来处理这个问题好一点。

http缓存上面详情过了,各个节点之间的缓存做好缓存和缓存协商接本上就能处理这些个问题了。

呃呃呃, 上面都是没有营养的东西,写偏题了(理科生啦没有办法就是文笔差劲)

来看看如何让数据在变的小一点吧

那么网关更新一下吧。

oss是干啥的存储文件的,前台工程都是静态文件,把它扔到oss上面让流量都走oss哪里好了呀。

剥离了前台工程静态文件的流量,你就发现一件奇特的事情,按照一个前台工程流量5M来计算,网关的压力又降低了呀。

2.3. 架构之精

每单你引入一个中间件,在与中间件交互的时候必定会带来性能损耗

其实不难发现现在的Java架构生态,架构师都是往大了做了引入各种花哨的框架进来。

商品库数量都没有达到百万级别想着上ES来提升一下商品检索,就20台服务器就想着上docker和k8s,为了防止服务崩溃而防止服务奔溃。

不谈金钱预算的架构师,架构的东西真的正当嘛。

架构不往大的做就表现不了自己的技术,更有甚者拿公司成本试错,加入少量自己不理解的技术已方便自己吹得高大上。

就按老东家cnool说吧(宁波人叫他东方热线),领导叫我上微服务,我是疯了么(是的我当时为了工作确实上了微服务哈哈哈),Nginx,gateway,服务,数据库双备等等,10台服务器能干啥呀,20多个微服务都不够分的。

架构真正的精髓在于如何设计出一个适合业务场景下最优的方案(最讨厌面试的时候让我去哈牛逼的面试官了,完全就不知道他的业务场景是什么,上来就说高并发如何设计那种。。。)

架构的精髓在于如何用最小的技术成本做出实现困难的东西,凭什么说只有上了Elasticsearch才能加速商品检索,难道dbms就不能实现搜索引擎了嘛,当年Google都已经用dbsm实践出了dbms可以作为搜索引擎的的可能性(人家当年都上线用了好几年呐,只是数据量到了PB级别撑不住了),简单的技术+数据结构就可实现。

电商系统开发呵呵,并发上来就阻塞了撑不住了,后台仔也许可以做一次精神小妹呀,来来下面来玩一下

GET github.com/goods/info这个接口很常见吧,获取商品介绍,网站一半以上的流量都是这个接口在作妖,下面来看看如何优化啦。goods/info就是获取商品介绍嘛,里面的数据除了商品数量,其余的数据一年半载基本上都是不会变化的,所以 数据动静分离一下第一步呐:我们保留原有接口,但是 goods/info 这个加缓存GET github.com/goods/info第二步呐:添加一个接口,这个接口获取商品数量,加不加缓存都可以,加了缓存就做好缓存协商GET github.com/goods/quantity搞定,这样子info接口都是走缓存了,都是大字段现在都已经放在了缓存中基本上都不需要走服务端了,浏览器缓存和网关缓存基本上就阻拦住了。quantity接口由于变化速度太快了,也不知道什么时候变化,但是都是小字段,传输和数据库检索基本上没有什么压力。对了,数据库也可以这样子拆分一下, goods表弄成两张,加一张quantity表和goods表做关联,完事了世界就是你的了

当然上面是对API进行优化当然还有一个大杀器,那就是网页静态化,这个没有专门研究过,针对app和小程序无效只能用在web网页上面。

2.4. 性能之悍

物理计算机性能如何强悍,其实没有没有以上的短小精悍都不可能做到真正的强悍的。为什么想要强悍在设计及编码之时必需抠门,是的抠门。

做过一个很有趣的功能,Java对300M的csv文件进行关键字检索,开发环境硬件是 MacMini2018顶配,生产环境是 2C8G的服务器, 开发环境各种测试都没有问题,但是到了生成环境性能未达标,差了20%。

硬盘IO,CPU频率,内存带宽等等因素造成性能未达标,在无法改变硬件的情况下,只能在low逼硬件上面进行设计,经过多天的设计终于弥补那20%,可以在low逼硬件上面性能达标。把数据和程序放在开发环境上面运行性能居然提升了50%。

用最拉胯的硬件写出高性能的软件,这才是性能强悍。

2.5. 短板效应

软件开发的性能问题永远是短板效应,IO阻塞,cpu线程竞争,网卡带宽等等,性能取决于最low的那个,但是为什么现在硬件如此强度的情况下为什么还是不能提升性能呐,这是一个很有趣的问题。

短板效应渐渐的不是出现在硬件上面了,而是代码,短板效应居然是代码,其次是架构。再优秀的架构都抵不垃圾代码带来的性能损耗。

不注重代码管理的何须谈性能呐,

3. 手撕http缓存框架

感觉说没有意思,框架请自取,目前没有发布到中央仓库,应该会等到22年6月7日发布吧

项目源码:

galaxy-sea/heifer/tree/main/heifer/heifer-common/heifer-common-http

http-example:

galaxy-sea/heifer/tree/main/heifer/heifer-examples/heifer-common-http-example

在线预览,开启F12, 注意看

@GetMapping("cache/{id}")@HttpCacheControl(key = "#id", maxAge = 10)public String getCache(@PathVariable String id) {    return ResponseEntity.ok()                         .body( new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format(new Date())                         }})            ;}

@HttpCacheControl 会在 Response Header 上返回 Cache-Control: max-age=10 和 Etag: "403710060904730625"

@PostMapping("cache/{id}")@HttpETag(key = "#id")public ResponseEntity<Map<String, String>> modify(@PathVariable String id) {    cacheService.modify(id);    return ResponseEntity.ok()                         .body(new LinkedHashMap<String, String>() {{                             put("data", "modify: " + id);                         }})            ;}

@HttpETag主要用于刷新Etag标签

呃呃呃,懒得写了,要去修复http模块的bug了,还有好多功能和配置没有加上去呐。

考虑要不要把模块独立出来,作为一个单独的项目发展呐

4. 终章

鲁迅曾经说过 “艺术源于灵感”,高潮既是终章也是很不错的,美剧《Godless Season》男主角最后离开西部一样的风格也是很不错的。


/template/Home/Zkeys/PC/Static