首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
在线笔面试、雇主品牌宣传
登录
/
注册
harrycoding
青岛科技大学 Java
发布于河北
关注
已关注
取消关注
学到了
@已删除:
SpringBoot可以同时处理多少请求?
前言前两天面试的时候,面试官问我:一个ip发请求过来,是一个ip对应一个线程吗?我突然愣住了,对于SpringBoot如何处理请求好像从来没仔细思考过,所以面试结束后就仔细研究了一番,现在就来探讨一下这个问题。正文我们都知道,SpringBoot默认的内嵌容器是Tomcat,也就是我们的程序实际上是运行在Tomcat里的。所以与其说SpringBoot可以处理多少请求,到不如说Tomcat可以处理多少请求。关于Tomcat的默认配置,都在spring-configuration-metadata.json文件中,对应的配置类则是org.springframework.boot.autoconfigure.web.ServerProperties。和处理请求数量相关的参数有四个:server.tomcat.threads.min-spare:最少的工作线程数,默认大小是10。该参数相当于长期工,如果并发请求的数量达不到10,就会依次使用这几个线程去处理请求。server.tomcat.threads.max:最多的工作线程数,默认大小是200。该参数相当于临时工,如果并发请求的数量在10到200之间,就会使用这些临时工线程进行处理。server.tomcat.max-connections:最大连接数,默认大小是8192。表示Tomcat可以处理的最大请求数量,超过8192的请求就会被放入到等待队列。server.tomcat.accept-count:等待队列的长度,默认大小是100。举个例子说明一下这几个参数之间的关系:如果把Tomcat比作一家饭店的话,那么一个请求其实就相当于一位客人。min-spare就是厨师(长期工);max是厨师总数(长期工+临时工);max-connections就是饭店里的座位数量;accept-count是门口小板凳的数量。来的客人优先坐到饭店里面,然后厨师开始忙活,如果长期工可以干的完,就让长期工干,如果长期工干不完,就再让临时工干。图中画的厨师一共15人,饭店里有30个座位,也就是说,如果现在来了20个客人,那么就会有5个人先在饭店里等着。如果现在来了35个人,饭店里坐不下,就会让5个人先到门口坐一下。如果来了50个人,那么饭店座位+门口小板凳一共40个,所以就会有10人离开。也就是说,SpringBoot同时所能处理的最大请求数量是max-connections+accept-count,超过该数量的请求直接就会被丢掉。纸上得来终觉浅,绝知此事要躬行。上面只是理论结果,现在通过一个实际的小例子来演示一下到底是不是这样:创建一个SpringBoot的项目,在application.yml里配置一下这几个参数,因为默认的数量太大,不好测试,所以配小一点: server: tomcat: threads: # 最少线程数 min-spare: 10 # 最多线程数 max: 15 # 最大连接数 max-connections: 30 # 最大等待数 accept-count: 10再来写一个简单的接口: @GetMapping("/test") public Response test1(HttpServletRequest request) throws Exception { log.info("ip:{},线程:{}", request.getRemoteAddr(), Thread.currentThread().getName()); Thread.sleep(500); return Response.buildSuccess(); }代码很简单,只是打印了一下线程名,然后休眠0.5秒,这样肯定会导致部分请求处理一次性处理不了而进入到等待队列。然后我用Apifox创建了一个测试用例,去模拟100个请求:观察一下测试结果:从结果中可以看出,由于设置的 max-connections+accept-count 的和是40,所以有60个请求会被丢弃,这和我们的预期是相符的。由于最大线程是15,也就是有25个请求会先等待,等前15个处理完了再处理15个,最后在处理10个,也就是将40个请求分成了15,15,10这样三批进行处理。再从控制台的打印日志可以看到,线程的最大编号是15,这也印证了前面的想法。总结一下:如果并发请求数量低于server.tomcat.threads.max,则会被立即处理,超过的部分会先进行等待,如果数量超过max-connections与accept-count之和,则多余的部分则会被直接丢弃。延伸:并发问题是如何产生的到目前为止,就已经搞明白了SpringBoot可以同时处理多少请求的问题。但是在这里我还想基于上面的例子再延伸一下,就是为什么并发场景下会出现一些值和我们预期的不一样?设想有以下场景:厨师们用一个账本记录一共做了多少道菜,每个厨师做完菜都记录一下,每次记录都是将账本上的数字先抄到草稿纸上,计算x+1等于多少,然后将计算的结果写回到账本上。Spring容器中的Bean默认是单例的,也就是说,处理请求的Controller、Service实例就只有一份。在并发场景下,将cookSum定义为全局变量,是所有线程共享的,当一个线程读到了cookSum=20,然后计算,写回前另一个线程也读到是20,两个线程都加1后写回,最终cookSum就变成了21,但是实际上应该是22,因为加了两次。 private int cookSum = 0; @GetMapping("/test") public Response test1(HttpServletRequest request) throws Exception { // 做菜。。。。。。 cookSum += 1; log.info("做了{}道菜", cookSum); Thread.sleep(500); return Response.buildSuccess(); }如果要避免这样的情况发生,就涉及到加锁的问题了,就不在这里讨论了。
点赞 84
评论 9
全部评论
推荐
最新
楼层
还没有回复哦~
相关推荐
今天 01:27
湖北工业大学 产品规划专员
面试成这样,这对吗?
一面说我通过了,让我等二面的时间,结果二面连时间都没定,就告诉我简历没通过筛选,无法进入下一轮。难道我理解错了吗?进入面试不应该代表简历初筛通过吗?一面成功后,难道不应该是HR认可了吗?等了半个月,最后却告诉我简历没能进入二面,真是浪费我时间!能不能相互理解一下啊!
牛客创作赏金赛
点赞
评论
收藏
分享
11-21 23:17
门头沟学院 研发工程师
秋招可以暂告一个段落啦
上周腾讯开奖后,本来想这周把字节三面和叠纸的hr面面完再决定的,但是不是很想折腾了,叠纸后面还有高管面,感觉就算过了最后也不一定有鹅香,就直接不拖签三方了。七月底开始的秋招,投了将近百来家,初筛/笔试/复筛挂了将近一半,面试了应该有五六十场,也经历了不少压力面,其实早就倦怠了,8月高强度八股后就再也没看过八股,也不想刷题了,每天处于一种躺等面试的状态,就这样一直拖到11月,终于等到结果了。可以轮到鼠鼠来写经验分享咯:一、 稳住心态整个秋招流程中一定会经历各种心态崩了的时刻,比如:为什么我这么匹配这个岗位结果初筛挂了?为什么我笔试都做出来了把我挂了?为什么我都答上来了还是没通过面试?其实都是正常...
查看6道真题和解析
点赞
评论
收藏
分享
11-20 11:02
门头沟学院 Java
日常实习选择
牛友们,决赛圈,日常实习,蔚来的测开,经纬恒润的Java开发,怎么选呀,求求给点建议
投递蔚来等公司10个岗位 >
点赞
评论
收藏
分享
点赞成功,聊一聊 >
点赞
收藏
评论
分享
回复帖子
提到的真题
返回内容
全站热榜
1
...
从露宿街头到百万级种子轮融资——我的大学时代经历了什么
3.3W
2
...
C++选手秋招总结
1.4W
3
...
字节20多面终究一场空
1.4W
4
...
华为电话oc了
1.1W
5
...
不装了!牛客就是OFFER判官
9679
6
...
泡出来啦
9648
7
...
秋招圆满结束
8795
8
...
阿里云管培生开奖了
7302
9
...
结束了,一切都结束了。。
6166
10
...
爱信等
6076
正在热议
#
25届秋招总结
#
328264次浏览
3096人参与
#
上班苦还是上学苦呢?
#
72527次浏览
647人参与
#
阿里云管培生offer
#
36994次浏览
422人参与
#
地方国企笔面经互助
#
4502次浏览
12人参与
#
如果有时光机,你最想去到哪个年纪?
#
21702次浏览
401人参与
#
选完offer后,你后悔学本专业吗
#
21869次浏览
159人参与
#
百度开奖
#
183542次浏览
1148人参与
#
我的实习求职记录
#
6070365次浏览
83542人参与
#
如何一边实习一边秋招
#
996688次浏览
12664人参与
#
找工作时遇到的神仙HR
#
553379次浏览
3801人参与
#
入职第一天,你准备什么时候下班
#
21625次浏览
144人参与
#
招聘要求与实际实习内容不符怎么办
#
10782次浏览
277人参与
#
bilibili求职进展汇总
#
33217次浏览
357人参与
#
许愿池
#
214779次浏览
2534人参与
#
学历or实习经历,哪个更重要
#
53884次浏览
422人参与
#
你今年的平均薪资是多少?
#
70786次浏览
345人参与
#
实习工作,你找得还顺利吗?
#
247750次浏览
2907人参与
#
通信硬件薪资爆料
#
608878次浏览
5169人参与
#
海康威视求职进展汇总
#
400749次浏览
3408人参与
#
携程求职进展汇总
#
135738次浏览
931人参与
#
正在实习的你,几点下班
#
53349次浏览
396人参与
#
工作两年想退休了
#
53105次浏览
672人参与
牛客网
牛客企业服务