服务到服务通信中的延迟和超时的最佳做法

时间:2018-08-18 21:13:37

标签: web-services service timeout microservices latency

是否有关于设置有效超时时间的最佳做法?

我一直在阅读一些资料,但是无法完全理解这些方面:

  1. 下游服务“促销”如何理解其自身的延迟并向“相关性”服务传达适当的超时?我发现this的来源正在讨论该主题,但是我仍然对应该如何测量延迟感到困惑:在谈论响应时间时,这是被叫方传出的响应时间还是这是呼叫者的感知时间?
  2. 通信超时或只是第99个延迟百分比是被叫方的责任吗?我正在考虑呼叫者的各个地理位置,这些位置会对超时产生影响。假设“促销”服务提供了一个API,该API可在2ms内返回第99个百分位数的数据。对于同一数据中心中的呼叫者,适当的时间调整可能为20ms,而对于不同数据中心中的呼叫者,可能为150ms。

通过设置适当的超时,我希望避免调用者等待太长时间(活动线程,级联失败)或等待时间不够长(重试过早)。

Service timeouts

0 个答案:

没有答案