Prompt Caching 손익분기 계산기

Prompt Caching 손익분기는 같은 prefix(앞부분 구간)를 TTL(캐시 유지 시간) 안에 몇 번 재사용하느냐로 정해집니다. 캐시를 처음 만들 때는 cache write(캐시 기록) 할증을 내고, 이후 같은 prefix가 cache hit(캐시 적중)하면 일반 입력보다 훨씬 싼 cache read(캐시 읽기) 단가를 받기 때문입니다. Anthropic 5분 TTL과 OpenAI GPT-5.6 이상은 두 번째 요청부터, Anthropic 1시간 TTL은 세 번째 요청부터 이득입니다. 다만 이는 후속 요청이 모두 hit한다는 가정입니다. cache read가 입력의 0.1배인 모델은 후속 요청의 hit 비율이 5분 TTL에서 약 21.7%, 1시간 TTL에서 약 52.6%를 넘지 못하면 요청을 아무리 늘려도 캐시를 쓴 쪽이 더 비쌉니다. write 할증이 없는 공급자(OpenAI GPT-5.5 이하, Gemini implicit caching(암묵적 캐싱), DeepSeek, xAI)는 hit가 한 번만 나도 이득이지만, hit 자체가 보장되지 않습니다.

아래 계산기는 Anthropic·OpenAI·Google Gemini·DeepSeek·xAI·Mistral의 46개 모델 단가를 담고 있습니다. 모든 단가는 2026년 10월 20일 각 공급자 공식 문서에서 확인한 유료 Standard 등급·기본 리전 값입니다. 입력값은 브라우저에서만 계산하며 어디에도 전송하지 않습니다.

계산기 사용법

먼저 공급자·모델·캐시 방식을 고르고, 요청 하나를 세 부분으로 나눠 토큰 수를 넣습니다. 캐시 대상은 요청마다 똑같이 앞에 붙는 고정 prefix뿐입니다. 그 뒤에 붙는 질문·대화와 출력은 캐시를 켜든 끄든 같은 단가로 청구됩니다.

flowchart LR
    subgraph P["고정 prefix 토큰(캐시 대상)"]
        A[tools 정의] --> B[system 지시] --> C[긴 참조 문서·예시]
    end
    subgraph D["요청당 동적 입력 토큰"]
        E[이번 질문·최근 대화]
    end
    C --> E --> F["요청당 출력 토큰"]

결과 영역에는 캐시 없음·캐시 사용 총비용, 절감액, 절감률, 손익분기 요청 수와 손익분기 hit 비율이 나옵니다. 그 아래 누적 비용 표는 요청 수 1·2·3·5·10·20·50·100과 직접 넣은 요청 수에서 두 비용을 나란히 보여 주고, 적용 단가 표는 계산에 실제로 쓴 입력·출력·cache read·cache write·저장 단가와 최소 캐시 토큰, 장문 할증 조건을 보여 줍니다.

처음 열었을 때의 기본값은 Claude Fable 5.1, 5분 TTL, prefix 100,000토큰, 요청 10회, hit 100%입니다. 이때 prefix 입력 비용은 캐시 없이 $10.0000, 캐시를 쓰면 $1.4750로 85.25%가 줄고, 손익분기는 2번째 요청, 손익분기 hit 비율은 20.4%로 계산됩니다. prefix가 모델의 최소 캐시 토큰보다 짧으면 Anthropic은 오류 없이 일반 입력으로 청구하므로, 계산기도 두 비용을 같게 표시하고 경고를 띄웁니다. Claude Fable 5.1의 최소값은 512토큰입니다. Mistral(64토큰)과 OpenAI GPT-5.5 이하(128토큰)는 cached 토큰을 블록 단위로 내림해 집계하므로, 계산기도 블록에 못 미치는 prefix 나머지는 일반 입력으로 계산합니다.

공급자별 캐싱 규칙 차이 (2026-10-20 확인)

공급자마다 할증이 붙는 지점과 캐시가 유지되는 방식이 다릅니다. 계산기는 이 차이를 모델별로 반영합니다.

Anthropic의 cache read 예외는 2026년 10월 20일 기준 네 모델입니다. 기존 Fable 5.1·Mythos 5.1(0.025배)에 더해 Opus 5.5·Sonnet 5.5가 0.05배로 책정돼 있습니다. Opus 5·Sonnet 4.6·Haiku 5.5를 포함한 나머지 모델은 기본 0.1배입니다. OpenAI는 GPT-5.6부터 write 할증이 생겨 Anthropic 5분 TTL과 같은 1.25배 구조가 됐습니다.

계산기에 들어 있는 모델 중 현행 주력 모델의 단가는 다음과 같습니다(USD/백만 토큰(MTok), 저장은 USD/MTok/시간).

Anthropic의 cache write는 5분 TTL / 1시간 TTL 순서입니다. 일부 단가는 시한부이거나 조건부입니다.

• 장문 할증: Haiku 5.5는 프롬프트(입력 + cache read + cache write)가 100,000토큰을 넘으면 그 요청 전체가 고가 단가입니다. OpenAI는 계산기에 담긴 모델 중 GPT-6 계열, GPT-5.6 계열, GPT-5.5, GPT-5.4에만 장문 단가가 있어, 입력이 272,000토큰을 넘으면 입력·cache 단가가 2배, 출력이 1.5배가 됩니다. GPT-5.4 mini·nano, GPT-5 mini·nano, o3, o4-mini는 할증 없이 계산합니다. xAI는 Grok 4.7·Grok 4.3이 200,000토큰 이상에서, Gemini는 3.1 Pro Preview와 2.5 Pro가 200,000토큰 초과에서 할증됩니다. 계산기는 prefix와 동적 입력의 합으로 요청마다 판정합니다.
• 예정된 가격 변경: Gemini 4 Argon은 2026년 12월 1일부터, Gemini 3.8 Flash·3.6 Flash는 2027년 1월 1일부터 인상이 예고돼 있습니다. GPT-5.6 Sol은 “최소 2026년 11월 21일까지” 유지되는 프로모션 가격이고, Mistral Large 4는 종료일이 적히지 않은 공개 미리보기 할인가입니다. 계산기는 확인일 현재 단가로 계산하고 예정 변경을 모델 설명에 표시합니다.
• DeepSeek 시간대 요금: 표의 값은 피크 요금입니다. 피크(평일 UTC 01:00-04:00·06:00-10:00, 중국 공휴일 제외) 밖에서는 절반입니다.
• Mistral Medium 3.5·Small 4: 모델 페이지에 cached 단가가 없어 계산기에서 캐싱 미확인으로 표시합니다.

Prompt Caching 손익분기 계산식

출력과 동적 입력은 캐시 여부와 상관없이 같으므로, 손익은 prefix 부분만 비교하면 됩니다. 아래 식은 prefix 전체에 같은 write·read 배율이 붙는 경우(Anthropic, OpenAI, Gemini implicit, DeepSeek, xAI 등)에 해당합니다. 저장 시간 비용이 붙는 Gemini explicit은 뒤에서 따로 다룹니다. prefix 토큰을 P(MTok), 일반 입력 단가를 b, write 배율을 w(할증 없는 공급자는 1), read 배율을 r, 첫 write 요청을 포함한 전체 요청 수를 n이라 하면 다음과 같습니다.

hit 비율이 장기 손익 기준 이하이면 요청을 아무리 늘려도 캐시 쪽이 싸지지 않으므로 손익분기 요청 수가 없습니다. 이때 마지막 식에 그대로 대입하면 음수나 0으로 나누기가 나오지만, 계산기는 이 경우를 “손익분기 없음”으로 표시합니다.

공급자별 배율을 이 식에 넣으면 다음과 같습니다. 표의 손익분기 요청 수는 후속 요청이 모두 hit할 때 기준입니다.

read 배율이 0.1배에서 0.025배로 크게 낮아져도 손익분기 hit 비율은 21.7%에서 20.4%로 거의 움직이지 않습니다. 손익분기를 결정하는 것은 read 할인보다 write 할증의 크기입니다. 그래서 5분 TTL과 1시간 TTL의 차이가 모델 간 차이보다 훨씬 큽니다.

손익분기 hit 비율은 요청이 충분히 많을 때 요청당 비용이 일반 입력보다 싸지는 경계일 뿐, 그 비율만 넘으면 곧바로 이득이라는 뜻은 아닙니다. 경계 바로 위에서는 위의 마지막 식대로 첫 write 할증을 회수하는 데 요청이 많이 필요합니다. 기본값(Fable 5.1, 5분 TTL, prefix 100,000토큰)에서 hit 비율만 바꿔 보면 차이가 분명합니다.

5분과 1시간 TTL 중 무엇을 넣을까

같은 기본값에서 1시간 TTL을 고르면 write가 입력의 2배라 두 번째 요청까지는 오히려 손해입니다(요청 2회 절감률 -1.25%). 요청 3회부터 31.67%, 10회에서 77.75%로 이득이 나지만, 같은 요청 수에서는 항상 5분 TTL보다 절감률이 낮습니다. 1시간 TTL은 요청 간격이 5분을 넘지만 1시간 안에는 반복되는 경우에만 의미가 있습니다. 간격이 5분 이내라면 5분 TTL이 더 싸고, 간격이 1시간을 넘으면 매번 2배 write를 내게 됩니다.

Anthropic에서는 5분 TTL을 유지한 채 만료 직전에 출력 없는 max_tokens: 0 요청을 보내는 keep-alive(캐시 유지 요청)도 쓸 수 있습니다. 이 요청은 prefix를 read 단가로만 청구합니다. 같은 prefix를 1시간 TTL로 한 번 쓰는 것과 비교하면 keep-alive 횟수 k가 0.75 / r보다 적을 때 유리합니다. read 0.1배 모델은 7회 이하, Fable 5.1은 29회 이하입니다. 계산기는 keep-alive 요청을 따로 계산하지 않으므로 이 비교는 위 식으로 확인합니다. keep-alive 요청에 붙는 비캐시 입력은 별도입니다.

TTL 선택과 breakpoint(중단점) 배치, 캐시가 깨지는 조건은 Claude Prompt Caching 비용과 TTL을 다룬 해설 글에서 Python 예제와 함께 자세히 설명했습니다.

Gemini explicit cache는 저장 시간이 손익을 정합니다

Gemini explicit caching에는 write 할증 대신 시간당 저장 비용이 붙습니다. 그래서 손익분기가 hit 비율이 아니라 보관 시간에 따라 움직입니다.

Gemini 3.8 Flash에 prefix 100,000토큰을 캐시한 경우를 계산기로 확인한 결과입니다.

같은 캐시를 하루 동안 열어 두면 저장 비용만 $1.20라, 하루 17번 이하로 읽는다면 캐시를 쓰지 않는 편이 쌉니다. 생성 시점 과금은 공식 문서로 확인하지 못했으므로, 계산기는 이 값을 사용자가 직접 넣게 하고 두 가정 중 하나를 넣어 범위로 보기를 권합니다.

Batch API와 함께 쓸 때

Batch API의 할인과 캐싱 할인이 겹치는지는 공급자마다 다릅니다. 계산기는 공급자 공통 할인율을 쓰지 않고, 모델별로 확인한 Batch 단가와 할인율을 적용합니다. 확인되지 않은 모델은 Batch 칸을 비활성화하거나 cache 비용을 “미확인”으로 둡니다.

Anthropic은 Batch에서도 배율이 그대로 곱해지므로 손익분기 hit 비율 자체는 바뀌지 않습니다. 예를 들어 Opus 5.5를 Batch와 1시간 TTL로 쓰면 단가는 입력 $2, write $4, read $0.10으로 모두 절반이 되지만, 손익분기 hit 비율은 여전히 51.3%입니다. 그런데 Batch의 hit가 best-effort라 실제 hit 비율이 30%에 그치면, prefix 100,000토큰·요청 10회 기준으로 캐시를 쓴 쪽이 47.35% 더 비쌉니다. Batch와 캐싱을 함께 쓸 때는 hit 비율을 100%로 두지 말고, 실제 usage에서 확인한 비율이나 공식 문서가 제시한 범위의 낮은 쪽으로 넣어 보는 것이 안전합니다.

계산기가 다루지 않는 것

계산 결과는 공식 단가표로 만든 추정값입니다. 다음 항목은 반영하지 않았거나 공식 문서로 확인하지 못했습니다.

같은 글이라도 공급자마다 토크나이저가 달라 토큰 수가 다르고, 최소 캐시 토큰도 각 공급자의 토큰 기준입니다. 공급자를 바꿔 비교할 때는 prefix 토큰 수를 그 공급자 기준으로 다시 세어야 합니다.

실제 청구액은 응답의 usage 필드로 확인합니다. 특히 OpenAI와 Anthropic은 input_tokens의 의미가 반대라서, 같은 식으로 합산하면 cache 토큰을 두 번 세거나 빠뜨립니다.

캐시 hit가 생각보다 낮게 나오면 prefix가 요청마다 정말 같은지부터 확인합니다. 타임스탬프, 순서가 바뀌는 tools 목록, 요청 ID처럼 앞부분에 섞인 값 하나가 그 뒤 전체를 miss로 만듭니다. Claude 기준의 무효화 조건은 Prompt Caching 해설 글에 정리돼 있습니다.

출처

모두 2026년 10월 20일에 확인했습니다.

• Anthropic: Pricing, Prompt caching, Batch processing, Context windows, Models overview
• OpenAI: Pricing, Prompt caching, Batch, Models
• Google: Gemini API pricing, Context caching, Caching (Interactions), Batch API
• DeepSeek: Models & Pricing, Context Caching
• xAI: Pricing, Prompt caching usage and pricing, Grok 4.7, Grok 4.3
• Mistral: Prompt caching, Mistral Large 4, Pricing