什么是P99延迟？

P99延迟代表什么？我在有关应用程序性能的讨论中不断听到有关此问题的信息，但是找不到在线的资源来谈论此问题。

这是百分之九十九。这意味着99％的请求应该比给定的延迟更快。换句话说，仅允许1％的请求变慢。

我们可以用一个类比来解释，如果100名学生参加比赛，那么99名学生应在“等待时间”内完成比赛。

假设您正在收集服务的性能数据，并且下表是结果的集合（延迟值是虚构的，以说明这一想法）。

Latency    Number of requests
1s         5
2s         5
3s         10
4s         40
5s         20
6s         15
7s         4
8s         1

您的服务的P99延迟为7秒。只有1％的请求花费了更长的时间。因此，如果您可以减少服务的P99延迟，则可以提高其性能。

让我们从这里举个例子

Request latency:
    min: 0.1
    max: 7.2
    median: 0.2
    p95: 0.5
    p99: 1.3

因此，可以说，在99％的Web请求中，发现的延迟为1.3ms（毫秒/微秒，取决于配置的系统延迟度量）或更低。就像@tranmq告诉我们，如果我们减少服务的P99延迟，我们可以提高其性能。

而且值得一提的是p95，因为可能只有很少的请求使p99比p95更为昂贵，例如，建立缓存，类对象预热，线程初始化的初始请求...

最后; 我们在测量中可能会产生大约1％的噪声（例如网络拥塞，中断，服务质量下降），因此p99延迟实际上代表了最坏的情况。而且，几乎总是，我们的目标是减少p99延迟。