资料内容:
Little定律
• L= λ W
• L:稳定系统中长时间内的平均用户数量
• λ:请求进入系统的平均速度
• W:系统对每个请求的平均处理时间
• 如每秒进入1000个请求,每个请求需要0.5s,则系统每秒处理500个请求
• 为了能够应对更大的系统并发量(提高λ),需要提高每秒可处
理的请求数量(L),或者降低系统延迟,即请求的平均响应时
间(W)
Little定律
• 一个应用系统的处理能力受到哪些因素制约?
• 系统能够同时处理的TCP连接(几十k)
• 网络带宽、内存(寄存器1个CPU cycle,一级缓存1ns,二级缓存3ns,三级缓存
15ns,主内存60-80ns)
• 操作系统能够处理的线程数量——操作系统需要对线程进行调度,通常小于20k
• 如果一个系统能够在100ms内处理一个请求,能够同时调度2000个线程,那么系统
能够在1秒内处理20k请求
• 这仅仅是系统在正常响应下的处理能力,如果因为某些原因,系统的处理时间上升
到500ms,那么系统将只能处理4k请求