response time

• 응답 시간

• 클라이언트 관점에서 본 시간

  • 요청을 처리하는 실제 시간(서비스 시간) 외에도 네트워크 지연, 큐 지연도 포함한 시간.

• 응답 시간에 영향을 미칠 수 있는 요소

  • 백그라운 프로세스의 [[context-switching]]

  • 네트워크 패킷 손실, TCP 재전송

  • garbage collection pause

  • page fault (디스크 읽기 강제)

  • 등..

p95, p99, p999

• P95: 데이터의 95%가 특정 값 이하인 것을 의미합니다.

  • 즉, 100개의 데이터가 있다면, 95개는 P95 값 이하이고, 5개는 P95 값보다 큰 값을 가집니다.

• P99: 데이터의 99%가 특정 값 이하인 것을 의미합니다.

  • 즉, 100개의 데이터가 있다면, 99개는 P99 값 이하이고, 1개는 P99 값보다 큰 값을 가집니다.

• P999: 데이터의 99.9%가 특정 값 이하인 것을 의미합니다.

  • 즉, 1000개의 데이터가 있다면, 999개는 P999 값 이하이고, 1개는 P999 값보다 큰 값을 가집니다.

• p95, p99의 차이가 클수록 성능이나 서비스 품질 변동성이 크다는 의미

Reference

• 01장. 신뢰할 수 있고 확장 가능하며 유지보수하기 쉬운 어플리케이션

  • p14