基于M/M/1排队模型的网络服务尾延迟分析

作     者：郭子亭 张文力 陈明宇 GUO Zi-ting;ZHANG Wen-li;CHEN Ming-yu

作者机构：中国科学院计算技术研究所计算机体系结构国家重点实验室北京100190 中国科学院大学北京100049 鹏城实验室广东深圳518055 

出 版 物：《计算机科学》 (Computer Science)

年 卷 期：2020年第47卷第11期

页      面：286-293页

学科分类：081203[工学-计算机应用技术] 08[工学] 0835[工学-软件工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

基　　金：国家重点研发计划项目(十三五)(2017YFB1001602) 

主　　题：尾延迟 建模 M/M/1 串联 并行 

摘      要：研究表明,在大规模的网络服务系统中,网络延迟往往表现出长尾效应,即存在一定比例的延迟远大于网络的平均延迟。延迟的长尾引起了广泛的关注,长尾效应会严重影响用户体验和内容供应商收益,尤其在对延迟敏感的大型交互式网络应用中。因此,网络服务系统研究的重点经历了从关注吞吐量和平均延迟到关注系统的尾延迟的变化。然而,现有的理论模型大多关注平均延迟,难以用来分析网络服务延迟的尾部特征,复杂网络服务中的尾延迟时间计算缺乏形式化的建模和计算方法。文中提出了一种将复杂的网络抽象为以M/M/1排队模型为基础的排队网络模型的方法,在该模型的基础上给出了串联、并行场景下逗留时间尾延迟分布的表达式,同时分析了当模型中个别子部件发生变化时对系统整体尾延迟的影响,并将模型预测结果和仿真网络的结果进行对比,误差不超过2%。