mk体育 - 反勒索灾备与网络安全架构服务 - mk官方网站 - mk体育股份有限公司

让你的系统在上线之前就接受炮火的洗礼-影子流量

作者:小编 浏览: 发布日期:2026-11-16
[导读]: 随着持续集成,持续交付等理念的传播,很多软件开发团队都搭建了自己的staging、UAT等类生产环境。这些环境的软硬件及网络配置会尽量贴近真实的生产环境,起

  随着持续集成,持续交付等理念的传播,很多软件开发团队都搭建了自己的staging、UAT等类生产环境。这些环境的软硬件及网络配置会尽量贴近真实的生产环境,起到沙盘演练的作用。

  类生产环境毕竟前面还有一个类字,沙盘毕竟不是真实的战场,尽量贴近毕竟还不是完全吻合。

  类生产环境与真实生产环境的一个重要差异就是访问量。稍具规模的互联网应用每天几百万访问量是很正常的,而类生产环境的访问量一般都会相形见绌。

  有各种工具可以弥合这个差异,比如Apache JMeter,Gatling。测试人员可以和开发人员一起设计测试用例,以自动化或者半自动化的方式对类生产环境进行压力测试。

  不过即便是精心设计出来的用例也还是用例,不是真实请求。真实请求具有多样性,会随着昼夜交替而变化,会随着时事热点而波动,这是很难用工具模拟出来的。

  简言之,影子流量(shadow traffic)就是将发给生产环境的请求复制一份转发到类生产环境上去,以此来达到压力测试和正确性测试的目的。

  Shadow traffic通常有两种实现方式:服务端实现,客户端实现。

让你的系统在上线之前就接受炮火的洗礼-影子流量(图1)

  生产环境接收到来自于用户或者是上游系统的请求,在响应该请求的同时,将这个请求原封不动的也发送给类生产环境。

让你的系统在上线之前就接受炮火的洗礼-影子流量(图2)

  客户设备或者上游系统在发给生产环境请求的同时,给类生产环境也发送一个一模一样的请求。

  这两种实现方式各有优劣,放到服务端做可以减少客户端设备的流量消耗,这一点对于移动应用很重要。

  客户端的实现则较简单,通常只需要几行代码即可。如果后端架构较复杂,则可以选择前端实现。

  无论前端还是后端实现,都需要遵循发射后不管(fire and forget)的原则,以免阻塞正常流程或者增加响应时间。

  笼统来说,shadow traffic可以适用于所有互联网应用。而在以下场景中,shadow traffic的作用格外明显:

  在以上场景运用shadow traffic,可以在不影响终端用户的情况下完成验证与测试。

  在上线之前一段时间集中地进行测试固然是一种可行的方式,不过我个人更倾向于在项目运转的早期引入shadow traffic。

  这样做可以让开发团队尽早的并且持续的接触到真实的外界压力。相当于用一种成本并不怎么高的方式构建出了具有产品运维经验的开发团队。

  Shadow traffic的原理和实现方式并不深奥,但要让它发挥出应有的价值还需要一些前期工作的配合。

让你的系统在上线之前就接受炮火的洗礼-影子流量(图3)

  上图是我所经历过的一个项目的可视化监控界面。监控范围涵盖了docker container的数量,请求数量,响应时间,以4或者5打头的HTTP状态码的数量,网络、内存、CPU用量等等。

  日志可以帮助开发团队定位shadow traffic中发现的问题,shadow traffic也可以促使开发团队提升日志的质量。这二者可以起到双向的积极促进作用。

  如果一个系统开启了shadow traffic,可以想见它的下游系统mk体育所面对的压力也会陡升。

  并非每一个请求都有被转发的必要。可以优先选取流量大或者业务价值高的请求。

  当然也可以只挑取10%的请求来发送给类生产环境,随着团队信心的提升而逐步升高。

  系统性能表现如何?会不会有奇形怪状的用户行为导致系统异常?与上下游系统的衔接会不会出现问题?

  启用shadow traffic,如果开发团队可以习惯于有shadow traffic的日常,也就具有了应对线上运维问题的能力。

免责声明:转载请注明出处:https://www.lhzynk.com/hangye-dongcha/715.html
mk官方网站运维工程师技术对接二维码

扫一扫 高效安全诊断

技术支持箭头修饰
企业数字化转型的安全底座

免费领取专属底层网络重构和数据异地灾备部署指南

获取mk体育深度灾备架构诊断,请填写表单
感谢您的信任,mk体育高级网络工程师会尽快回电!