AI 비용은 착각투성이 — 크레딧, 구독, 압축으로 읽는 '토큰 경제학'

들어가며: 역사상 최초의 'AI 진행자'는, AI가 아니었다

1985년 4월 4일, 영국 Channel 4의 TV 영화 『Max Headroom: 20 Minutes into the Future』에 세계 최초를 자처하는 존재가 등장합니다. "세계 최초의 컴퓨터 생성 TV 진행자" 맥스 헤드룸(Max Headroom). 목소리가 뚝뚝 끊기고, 배경에는 디지털 노이즈가 흐르는, 누가 봐도 "컴퓨터가 말하고 있다"는 인상의 캐릭터였습니다.

용어: 맥스 헤드룸(Max Headroom) … 1980년대 영국·미국에서 인기를 끌었던 사이버펑크 풍 캐릭터입니다. 한국에는 거의 소개된 적이 없지만, 영미권에서는 "원조 디지털 셀럽"으로 통하는, 시대의 아이콘이라고 생각하면 됩니다. 이 글에서는 "AI처럼 보였지만 실은 아니었던 존재"의 상징으로 등장합니다.

그런데 이것은 거대한 착각이었습니다. 알맹이는 배우 매트 프루어(Matt Frewer)였거든요. 라텍스와 폼으로 만든 특수분장, 콘택트렌즈, 유리섬유로 만든 슈트 — 분장에만 매번 4시간 30분이 걸렸습니다. 정말로 CG였던 것은 "배경"뿐이고, 본체는 사람이었습니다. 강한 조명과 편집으로 "딱 봐도 CG"처럼 보이게 만든 것이죠(Wikipedia).

용어: CG(컴퓨터 그래픽스) … 컴퓨터로 생성한 영상. 맥스 헤드룸은 "전부 CG처럼 보이게 하고, 사실은 사람 손으로 만든다"는, 당시로서는 거꾸로 손이 많이 가는 연출이었습니다.

40년이 지난 지금도, 우리는 AI를 둘러싼 "겉모습"과 "실체"를 계속 혼동하고 있습니다. 특히 비용이 그렇습니다. 크레딧 표시, 구독 청구서, 토큰 과금 — 어느 것 하나 직관이 통하지 않고 배신당합니다.

이 글은, 제가 단 하루 만에 실제로 밟고 넘어진 비용에 관한 3가지 착각을, 1차 정보(직접 경험·실측 로그·공식 출처)로 해체하는 이야기입니다. 기술 소재로는 수수하지만, "내가 무엇에 얼마를 내고 있는가"를 구조로 이해하면, AI 사용법 자체가 바뀝니다.

용어: 토큰(token) … LLM(대규모 언어 모델)이 문장을 처리하는 최소 단위. 거칠게 말하면 "단어의 조각"입니다. 한국어는 한 글자가 여러 토큰으로 쪼개지기도 하는데, 과금도 속도 제한(rate limit)도 모두 이 토큰 수를 기준으로 합니다. AI 비용은 원화도 달러도 아닌, 우선 "토큰"으로 움직인다고 기억해 두세요.

착각 ①: 단가의 함정 — "AI에게 가격을 물었더니, 자릿수를 둘이나 부풀렸다"

어느 날, 에이전트 기능(AI가 알아서 끝없이 작업을 이어가는 모드)을 반나절 돌렸더니, 잔액 표시가 6,333.14 크레딧이 되어 있었습니다. "크레딧"이 대체 얼마지? 그래서, 안 하느니만 못한 짓이지만, 당사자인 AI 서비스 자신에게 물어봤습니다.

용어: 크레딧(credit) … 서비스 안에서만 쓰는 자체 화폐. 실제 화폐(원·달러)와의 교환 비율은 제공사가 정하기 때문에, 화면의 숫자와 실제 비용 사이에는 반드시 "쿠션(한 번 더 환산하는 손길)"이 끼어듭니다. 직관이 잘 안 통하는 것은 이 때문입니다.

나: "6,333.14 크레딧은 얼마인가요?"
AI: "1크레딧 = 1달러 상당입니다. 따라서 6,333.14크레딧 = 6,333.14달러어치입니다."

……약 900만 원(1달러 ≒ 1,420원 환산). 반나절 만에 이건 사고입니다. 핏기가 가셨습니다.

황급히 고객지원에 문의했더니, 정답은 —

고객지원: "100크레딧 = 1.00 미국 달러입니다. 6,333크레딧은 약 63.33달러(≈9만 원)에 해당합니다."

100배나 빗나가 있었습니다(63.33달러 × 1,420원 ≒ 9만 원. 앞의 "900만 원"과 같은 환율로 환산한 값입니다). 게다가 오차가 정확히 100배 = "크레딧/달러 비율" 그 자체. 환율 문제가 아니라, AI가 1크레딧=$1과 100크레딧=$1을 혼동한 것 — 즉 단위를 헷갈린 것이, 그대로 자릿수 두 개짜리 공포로 둔갑한 셈입니다.

여기서 끌어낼 수 있는 교훈은 의외로 묵직하다

제 이 한 사례에서, AI는 "자사의 요금"이라는 1차 정보에서 자릿수를 둘이나 틀렸습니다. 이걸 "AI는 반드시 틀린다"로 일반화하지는 않겠습니다만, LLM은 확률적으로 "그럴듯한 문자열"을 생성하는 장치인 이상, 숫자나 자기 언급(자기 자신에 관한 사실)에서 틀릴 가능성이 구조적으로 항상 있습니다. 그러니 숫자·자기 언급에 대한 답변은 곧이곧대로 믿으면 안 됩니다.
"크레딧"이라는 단위 자체가, 실제 비용을 가리는 UX입니다. 원 → 크레딧 → 달러로 두 단계 쿠션을 끼우면, 사용자는 순간적인 감각으로 비싸다/싸다를 판단할 수 없게 됩니다. 의도가 있었는지 없었는지는 밖에서 검증할 수 없지만, 구조적으로는 실제 비용을 보기 어렵게 만듭니다(게임의 보석/캐시 충전과 비슷합니다). 만약 의도적이라면, 다크 패턴(사용자를 불리하게 유도하는 설계)에 해당하는 종류의 설계입니다.

비유가 깨지는 지점: "보석 충전과 같다"고 했지만, 게임의 보석은 한 번 쓰면 끝, 크레딧은 작업량에 따른 종량 소비라는 차이가 있습니다. "실제 비용을 직관으로 못 읽는다"는 단 한 가지만 공통점입니다.

— 잠깐, 숨 고르기 —

이렇게 "단가가 직관과 어긋나는" 것이 첫 번째 착각입니다. 다음은 반대로, "혹시 내가 너무 많이 내고 있는 거 아닌가?"라는 착각을, 실측으로 뒤집어 보겠습니다.

착각 ②: 정액제의 진짜 가치 — "본전은 뽑고 있나?"를 제대로 읽는 법

저는 Claude(Anthropic사의 AI)를 Max 플랜 20x(월 200달러, 약 28만 원)로 계약하고 있습니다. 문득 불안해졌습니다. "꽤 큰 금액인데, 이거 본전은 뽑고 있는 건가?"

여기서 중요한 것이, Max 같은 정액 플랜은 '종량 계량기'가 아니라 '속도 제한'이다라는 점입니다.

용어: 종량 과금(metered) … 쓴 만큼 청구. 택시 방식.
용어: 레이트 리미트(rate limit, 속도 제한) … "5시간당 / 주당, 여기까지"라는 속도의 상한. 안 쓴 분량은 이월되지 않고, 그냥 사라집니다. 전기 계약의 암페어(동시에 쓸 수 있는 최대 전류)에 가깝습니다.
용어: 구독(정액) … 월 얼마로 상한까지 무제한 사용.

즉 "본전은 뽑고 있나?"에는 두 가지 의미가 있습니다. (A) 본전을 뽑고 있는가(가치)와, (B) 상한에 부딪히고 있는가(소비). 헷갈리기 쉽지만, 서로 다른 이야기입니다.

실측해 봤다

가치를 재려면 "만약 이 사용량을 API 종량 과금으로 냈다면, 얼마였을까"를 계산하면 됩니다. 로컬에 쌓여 있던 제 사용 로그(약 54,000개의 메시지)를, 현행 API 공식 단가로 환산해 봤습니다.

기간	API 환산 비용	월 200달러 대비 배율
이번 달(20일 시점)	약 6,400달러	약 32배
30일 환산 페이스	약 9,600달러	약 48배
지난달	약 2,920달러	약 15배

단가의 근거: Claude Opus(Max 플랜의 주력 상위 모델)를 API로 쓰면 입력 $5 / 출력 $25(100만 토큰당). 반면 Max는 정액. 환산하면 이번 달만으로 32배의 활약입니다. 월 28만 원짜리 계약으로, 종량이라면 월 900만 원 가까운 분량을 돌리고 있었다는 계산이 됩니다.

주의: 이 32배는 "장시간 에이전트 자동 작업"이라는 무거운 워크로드에 특화된 숫자입니다. 평범한 대화 중심의 사용에서는 캐시 재사용이 잘 먹히지 않는 만큼 배율이 훨씬 작아집니다. 뒤에서 설명하듯이, 이 환산은 전체 사용량을 상위 모델 Opus의 단가로 평가한 상한에 가까운(과대평가 쪽) 값이며, 실제로는 더 싼 모델(Sonnet 등)이 섞인 분량을 할인해서 읽어야 합니다.

……자, 여기서 "비정상적으로 좋은 숫자는 내역을 의심하라"(honest disclosure)

32배는 진짜입니다만, 내역을 쪼개지 않으면 과대평가가 됩니다. 환산액의 약 **절반은 캐시 읽기(cache read)**였습니다.

용어: 프롬프트 캐시(prompt cache) … 같은 맥락(context, AI에게 매번 함께 보내는 배경 정보)을 반복해서 보낼 때, 두 번째부터를 약 1/10 단가로 재사용할 수 있는 구조. 장시간 자동 작업에서는 이 캐시 읽기가 어마어마해집니다(제 경우 90억 토큰).

즉 "90억 토큰 × 헐값 단가"가 금액을 끌어올린 것입니다. 부풀리기가 아니라, 정가(list price)로 순순히 과금됐다면 이 금액이라는 정직한 환산입니다. 다만 "단가 × 총량"이라는 단순 계산보다, 무엇이 지배항(전체를 좌우하는 가장 큰 항목)인가를 보는 것이 성실한 독법입니다. 지배항은 "캐시 읽기 90억 토큰"이며, 이 배율은 캐시 재사용에 강하게 의존한다 = 워크로드에 따라 달라진다는 점을 꼭 짚어 두세요.

결론: (A) 본전은 완전히 뽑고 있다(32배). (B) 상한에 부딪히고 있는가는 별개의 문제로, 만약 "제한에 도달했습니다"가 자주 뜬다면 천장에 닿은 것, 안 뜬다면 아직 여유가 있다는 것 — 이렇게 두 단계로 나눠 읽는 것이 정답입니다.

FullSense와의 연결: 무한정 청구 서프라이즈가 '원리적으로' 없는 설계

제가 개발하고 있는 FullSense는 "집 PC에서 돌아가는, 책임감 있고, 오지랖 넓은 AI 생태계"를 내건 3개의 독립 OSS 묶음입니다. 그 뿌리에 있는 설계 철학이 로컬 퍼스트(local-first) — 개인정보도, 기업 기밀도, 센서 데이터도 외부로 보내지 않습니다.

이 "착각 ②"가, 로컬 퍼스트의 가치를 뒤에서 비춰 줍니다. 종량 과금의 무한정 청구 서프라이즈(반나절 돌렸더니 900만 원!?)는, 로컬 실행이라면 원리적으로 일어나지 않습니다. 전기요금이라는 상한이 물리적으로 작동하기 때문입니다. 클라우드 AI의 "편리하지만 청구서를 못 읽는" 불안과, 로컬 AI의 "느리지만 예측 가능한" 안심 — 여기가 보급의 갈림길이라고 생각합니다.

— 여기까지가 "지금 있는 비용" 이야기. 다음은 "애초에 내기 전에 줄인다"로 —

착각 ③: 내기 전에 줄인다 — 'Headroom'이라는 OSS, 그리고 이름의 반전

세 번째 착각은 "토큰은, 모델에 넘기기 전에 줄일 수 있다"는 발상의 맹점입니다. 많은 사람은 "쓴 만큼은 낼 수밖에 없다"고 믿어 버립니다.

그 지점을 찌르는 것이, Netflix의 시니어 엔지니어인 테자스 초프라(Tejas Chopra) 씨가 2026년 1월에 공개한 OSS, Headroom입니다(github.com/chopratejas/headroom, Apache-2.0, 활발히 갱신 중이며 2026-06-21 시점에 ★4만 초과·v0.2x 계열, The Register도 보도). 별 수·버전은 변동이 심하니, 최신 정보는 공식 저장소에서 확인하세요.

무엇을 하는 도구인가

앱과 LLM API의 **사이에 끼는 "컨텍스트 압축 계층"**입니다. 에이전트가 LLM에 넘기기 전에, 도구 출력·로그·파일·RAG 청크·대화 이력을 내용에 따라 압축합니다.

content-aware(내용 인식) 압축: JSON 배열이라면 이상치(평소와 다른 값)만, 빌드 로그라면 실패한 줄만 남깁니다. 장황한 기계 메타데이터·반복되는 JSON 스키마·중복 템플릿은, 사람이 쓴 글보다 훨씬 압축하기 쉽다 — 그 점을 노립니다.
가역(reversible, 되돌릴 수 있음): 압축한 자리에 표식(마커)을 남기고, 원본은 로컬에 남겨 두기 때문에, 모델이 필요하면 원래 데이터를 다시 불러올 수 있습니다(저장소 표기로는 가역 압축 = CCR). 공개 벤치마크(GSM8K / TruthfulQA / SQuAD v2 / BFCL 4종)에서는 정확도 거의 유지로 보고되어 있습니다.
구현 형태: Python/TypeScript 라이브러리 / 투명 프록시 / Claude Code 등 에이전트용 래퍼(wrapper) / MCP 서버 등, 침습 정도(시스템에 손을 대는 깊이)를 골라 쓸 수 있습니다. 내부는 Python/Rust로 작성되어 있고, 대상별 전용 알고리즘(JSON용·코드용·학습된 압축 모델 등)을 가려 씁니다.

공칭(公稱, 만든 쪽이 내세우는 값)으로 토큰 60~95% 감축(GitHub 설명에도 명기). The Register 보도(2026-05-31 시점의 공칭 추정치)에서는, 사용자 합계로 약 70만 달러·2,000억 토큰을 절약했다고 합니다.

용어: RAG 청크(chunk) … 검색으로 끌어온 참고 문서의 조각. LLM에 "자료"로 넘기는 덩어리로, 토큰을 잡아먹는 주범 중 하나입니다. (RAG = Retrieval-Augmented Generation, 외부 자료를 검색해 답변 생성에 보태는 기법.)
용어: MCP 서버 … AI에 외부 도구/데이터를 연결하는 표준 프로토콜(Model Context Protocol)의 구현. "AI와 도구를 잇는 공용 콘센트 규격"이라고 생각하면 됩니다.

……자, 여기서도 내역을 의심한다 (honest disclosure)

화려한 "95%"는 상한입니다. 성실하게 주의점을 짚겠습니다.

95%는 "기계 출력이 많은 입력"에서의 이야기입니다. 로그·JSON·반복 스키마가 대상이라 잘 먹힙니다. 사람이 쓴 산문(보통의 글)에서는 감축 폭이 훨씬 작습니다. 공식 측 스스로 "기계 출력은 사람의 산문보다 압축하기 쉽다"고 인정하고 있습니다.
압축률이 높을수록 정확도 여유(margin)는 얇아집니다. 공개 벤치마크에서도, SQuAD v2는 "압축 19%에서 정확도 97%", BFCL은 "압축 32%에서 정확도 97%"로, **압축률과 정확도가 트레이드오프(한쪽을 얻으면 다른 쪽을 잃는 관계)**가 되는 조건이 드러나 있습니다. 즉 "어떤 입력이든 95% 깎아도 정확도 동일"이 아닙니다 — 95% 감축과 정확도 유지는, 같은 입력에서는 양립하지 않습니다.
"same answers(답은 변하지 않는다)"는 벤치마크상의 주장입니다. content-aware한 **휴리스틱(heuristic, 경험칙에 기댄 어림짐작)**인 이상, 예컨대 보안/포렌식 용도에서 "장황하다"고 판단되어 깎인 로그 줄에 탐지 신호가 들어 있었을 리스크는 남습니다. 도입 전에 "깎아도 결과가 떨어지지 않는다"를 자신의 데이터로 실증해야 합니다.
아직 v0.x입니다. 움직임은 빠르지만, 운영 투입은 검증이 필요합니다.

이름의 반전: AI 역사가 한 바퀴 돌아 운(韻)을 맞춘다

그리고 이 도구, 공식적으로 작명 유래에 대한 설명은 보이지 않지만, 이름이 **맥스 헤드룸(Max Headroom)**에 대한 오마주라고 필자는 읽습니다. headroom은 "여백 / 여유"를 가리키는 기술 문맥의 일반어이기도 해서, 토큰 상한의 '여백(headroom)'을 만드는 도구 이름으로도 자연스럽습니다 — 그 위에, 서두의 "원조 AI 진행자(실은 사람 = 착각)"와 이중으로 작동합니다. 지나치게 잘 짜여 있습니다.

즉 구도는 이렇습니다 — 40년 전, AI인 척한 사람(Max Headroom)이 등장했고, 40년 후, 그 이름을 빌린 도구(Headroom)가, AI 비용의 착각을 깎아 내고 있다. 1세대가 "착각을 만든" 쪽이고, 현대가 "착각을 깎는" 쪽. 작명이 한 바퀴 돌아 제대로 작동합니다(어디까지나 필자의 해석이며, 개발자의 명시적 언급은 확인하지 못했습니다).

3층 모델: "무엇에 얼마를 내고 있는가"를 분해한다

3가지 착각은, 실은 돈을 내는 대상의 '층'이 다를 뿐입니다. 정리하면 이렇게 됩니다(표의 맨 아래 칸은, 이 글에서 "제4의 층"으로 다루는 아키텍처 층입니다).

층	착각의 정체	듣는 대책
단가 층(크레딧/토큰 가격)	표시의 착각(크레딧 2단 쿠션)	실제 화폐로 환산해 직관을 되찾는다
과금 모델 층(정액 구독 vs 종량 계량기)	구조의 착각("본전 뽑나?"의 혼동)	가치 = API 환산 배율 / 소비 = 레이트 천장, 을 나눠 잰다
전처리 층(압축)	감축 여지의 간과	Headroom 등으로 모델에 넘기기 전에 깎는다
아키텍처 층(llcore)	보유 비용의 착각(메모리가 토큰 수에 비례해 부푼다)	선형 어텐션으로 상태를 상수화해, 긴 글에서도 메모리를 안 부풀린다

그리고 FullSense/llcore가 노리는 것은, 이 아래에 있는 제4의 층입니다.

아키텍처 층: 제가 개발 중인 연구용 프레임워크 "llcore"는, Transformer의 어텐션 기구를 **상수 상태의 선형 어텐션(linear attention)**으로 바꿔, 문맥을 보유하는 메모리를 토큰 수에 비례시키지 않는 방향을 탐색하고 있습니다.

쉽게 풀면: 보통의 어텐션은, 문맥이 길어질수록 "과거 전부"를 계속 끌어안기 때문에 기억 비용이 점점 늘어납니다. 선형 어텐션은, 그 기억을 일정한 크기의 상태에 접어 넣기(압축해 담기) 때문에, 긴 글에서도 메모리가 잘 부풀지 않습니다. 다만 접어 넣는 만큼 세부를 흘릴(놓칠) 수는 있습니다 — "압축해서 들고 다닌다"는 비유가 깨지는 지점이 바로 여기입니다.

Headroom(전처리 층)과 llcore(아키텍처 층)는 경쟁이 아니라 보완입니다. Headroom은 "읽을 양을 줄이고", llcore는 "보유 비용을 낮춥니다". 같은 "토큰 효율"이라는 북극성의, 서로 다른 고도. 양쪽 바퀴가 함께 굴러야 잘 듣습니다.

실무 처방전

착각을 푼 다음의, 현실적인 움직임입니다.

종량 API(직접 API를 호출하는 앱) → Headroom 도입으로 실제 비용 절감. 여기는 원화가 직접 줄어듭니다. Apache-2.0·로컬 프록시이므로, 외부 전송을 늘리지 않고 끝낼 수 있습니다(로컬 퍼스트 사상과도 궁합이 좋습니다).
정액 구독(Claude Code 등) → 돈이 아니라 "레이트 여유"에 듣는다. Headroom은 공식적으로 Claude Code 래퍼를 제공합니다. 토큰이 줄어든다 = 5시간/주 단위 천장에 덜 부딪히게 된다는, 글자 그대로의 *headroom(여유)*입니다.
일단 재라, 이야기는 그다음. 자신의 사용 로그를 API로 환산해 가치 배율을 내 보세요. 그리고 비정상적으로 좋은 숫자가 나오면, 이긴 기분에 빠지기 전에 내역을 의심하세요(제 32배도, 절반은 캐시였습니다).

마치며: 겉모습과 알맹이를, 나눠 보는 눈

AI 비용은, 화면에 표시된 단가도, 월말 청구서의 숫자도 아니라, **"구조"**로 정해집니다. 크레딧이라는 보여 주기 방식, 정액이냐 종량이냐는 과금 모델, 그리고 넘기기 전에 깎을 수 있다는 전처리의 여지. 어느 것이든 "겉모습"에 끌려가면 판단을 그르칩니다.

40년 전의 맥스 헤드룸이 가르쳐 주는 것은, 결국 이것입니다 — 화려한 겉모습(착각)과, 수수한 알맹이(실체)를, 나눠 보라. 저 뚝뚝 끊기던 미래적 AI 진행자의 정체가, 4시간 30분 동안 분장을 바른 사람이었던 것처럼.

FullSense가 내건 "로컬 퍼스트", "honest disclosure(정직한 개시)"는, 그러기 위한 도구입니다. 청구서에 떨기 전에, 자신의 토큰 경제를 한 번, 구조로 재고 조사 해 보세요. 아마, 당신이 생각하는 것과는 다른 곳에 비용의 실체가 있을 겁니다.

참고

Headroom(OSS, Tejas Chopra 씨): https://github.com/chopratejas/headroom
The Register 보도(2026-05-31): https://www.theregister.com/ai-ml/2026/05/31/netflix-wiz-creates-app-to-slash-ai-bills-then-open-sources-it/5248702
Max Headroom(Wikipedia): https://en.wikipedia.org/wiki/Max_Headroom
FullSense / llive 설계 콘셉트: https://qiita.com/furuse-kazufumi/items/cab6bb47a72ebedf5436

이 글의 수치(크레딧 환산·Max 플랜의 32배·토큰 내역)는 필자의 직접 경험 및 자신의 사용 로그 실측에 기반합니다. 또한 Headroom의 별 수·버전·절약액 등 외부 수치는 집필 시점(2026-06)의 공개 정보에 기반한 값으로, 모두 변동합니다. 원화 환산액은 1달러 ≒ 1,420원 기준의 어림값이며 환율에 따라 달라집니다. AI 플랜의 요금·속도 제한·OSS 사양은 변동이 심하므로, 도입을 판단할 때는 각 공식의 최신 정보를 확인하세요.