Cache Stampede을 대응하는 최후의 수단 중 하나, Request Collapsing
Cache StampedeCache Stampede(또는 Thundering Herd)는 읽기 요청이 몰리는 특정 Resource(또는 Reosurce Collection)을 Cache에 저장하고 Look Aside 전략을 사용하고 있는 상황에서 Cache Server에서 어떠한 사유로 인해 Cache Miss가 발생하였을 때 SSoT(Single Source Of Truth, 여기서는 DBMS, Upstream API 등을 의미)로 다량의 요청이 동시에 몰려 심한 경우 일정 시간 장애도 발생시키는 위험한 상황을 의미합니다. 여기서 어떠한 사유란 다른 글에서 자주 언급하는 Cache의 TTL 만료를 대표적인 예로 들 수 있으나, 잘못된 만료 정책 설정, Global Cache Server를 사용하는 경우..
Programming
2025. 9. 25. 00:40
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- 근황
- mybatis
- HTTP
- Request Collapsing
- single source of truth
- RPC
- JPA
- cglib
- spring AOP
- configuration
- Optimistic Locking
- URN
- spring
- Switch
- hypermedia
- AMQP
- lambda
- Thundering Herd
- RESTful
- JDK Dynamic Proxy
- JVM
- rabbitmq
- URI
- Url
- java
- WiredTiger
- Redis Key
- transaction
- cache stampede
- 소비자 관점의 api 설계 패턴과 사례 훑어보기
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 | 31 |
글 보관함