CacheControl
-
[Claude][운영] Claude Opus 5에서 tool changes와 cache_control을 같이 쓸 때 cache miss 로그를 어떤 필드로 통일하나기타개발지식/풀스택개발 2026. 8. 27. 20:15
IT 리서치 노트 [Claude][운영] Claude Opus 5에서 tool changes와 cache_control을 같이 쓸 때 cache miss 로그를 어떤 필드로 통일하나 Claude Opus 5 운영에서 tool changes와 prompt caching을 같이 쓰기 시작하면 cache miss 원인을 한 줄로 적기 어려워진다. 2026년 8월 27일 기준 Anthropic 문서를 다시 보면 top-level cache_control과 explicit breakpoints는 다른 동작을 갖고, tool_choice 변경은 cached message blocks를 무효화할 수 있으며, thinking configuration 변경도 caching을 다시 시작하게 만들 수 있다. 그래서 ca..
-
[Claude][비용] prompt caching에서 automatic caching과 explicit breakpoints를 언제 나누고 어디서 prefix를 끊나기타개발지식/풀스택개발 2026. 7. 29. 20:19
IT 리서치 노트 [Claude][비용] prompt caching에서 automatic caching과 explicit breakpoints를 언제 나누고 어디서 prefix를 끊나 Claude prompt caching을 쓰다 보면 5분과 1시간 TTL보다 먼저 막히는 질문이 있다. 대화 전체를 automatic caching에 맡길지, 아니면 explicit breakpoints로 직접 prefix를 고정할지다. 2026년 7월 29일 기준 Anthropic 공식 문서를 다시 보면 automatic caching은 마지막 cacheable block까지 자동으로 따라가고, explicit breakpoints는 block별로 경계를 직접 고를 수 있으며, 설정 변화는 cache prefix 자체..
-
[Claude][비용] prompt caching에서 5분 TTL과 1시간 TTL을 언제 나누고 cache_control 순서를 어떻게 잡나기타개발지식/풀스택개발 2026. 7. 29. 09:20
IT 리서치 노트 [Claude][비용] prompt caching에서 5분 TTL과 1시간 TTL을 언제 나누고 cache_control 순서를 어떻게 잡나 Claude prompt caching을 붙이면 곧바로 비용이 줄 것 같지만, 실제 운영에서는 5분 TTL로 충분한 프리픽스와 1시간 TTL이 필요한 프리픽스를 먼저 나눠야 한다. 2026년 7월 29일 기준 Anthropic 공식 문서를 다시 보면 기본 수명은 5분이고, 1시간 TTL은 별도 비용 상품이며, 서로 다른 TTL을 섞을 때는 더 긴 TTL 블록이 더 짧은 TTL 블록보다 앞에 와야 한다. 이 글은 prompt caching에서 5분 TTL과 1시간 TTL을 언제 나누고 cache_control 순서를 어떤 기준으로 잡는 편이 덜 ..