📌 캐시와 캐싱 전략

🔍 주제 선정 동기

현재 프로젝트에서 가장 많이 이용되는 API는 조회입니다. 조회 API의 성능을 높이기 위해서 캐싱 전략을 이용하려고 하는데, 1) 캐싱할 데이터를 어떤 기준으로 선정하며 2) 어디에 캐싱해야 하며 3) 캐시 설계 시 고려사항에 대해서 생각해보기 위해 해당 글을 작성하였습니다.

🔍 캐싱이란?

• Cache : 자주 필요한 데이터나 값의 복사본을 일시적으로 저장, 보관하기 위해 사용하는 곳
• Cacheing : cache를 사용하는 것
• 병목 현상을 완화하기 위해 속도차이가 나는 두 장치 사이에 캐시를 두고, 향후 재사용할 가능성이 클 것으로 예상되는 데이터의 복사본을 저장해 둔 후 필요할 때마다 캐시에서 데이터를 찾아서 사용. 즉, 서버-데이터베이스 캐싱에서는 캐시를 사용하면 데이터베이스를 읽을 때 발생하는 I/O 오버헤드를 줄일 수 있다.
• 요청한 데이터의 캐시가 있는 경우 Cache Hit로 표현하고, 없는 경우 Cache Miss로 표현

🔍 어떤 데이터를 캐싱해야 할까?

1. 자주 바뀌지 않는 데이터

: 자주 바뀌지 않는 데이터의 경우, 한 번 캐시로 저장하면 메모리에서 읽어서 빠르게 사용할 수 있다. 앞서 얘기했듯 원본 데이터가 바뀌면 캐시도 바꿔야 하므로, 자주 바뀌지 않는 데이터의 캐시는 오래동안 사용가능하고 따라서 캐싱하는 것이 효율적

1. 자주 사용되는 데이터

: 한 번 캐싱을 해놓으면 캐시를 사용하여 다수의 응답을 효율적으로 처리할 수 있을 것이다. 만약 일정시간 동안 데이터가 변하지 않는 것이 보장되면 해당시간 만큼의 TTL로 짧은 캐시를 생성하는 것이 좋다. 다만 매번 결과값이 다르다면 오히려 캐싱하지 않는 것이 낫다.

1. 자주 같은 결과를 반환하는 데이터의 경우