LLM 지능 비용, 반년 새 56배 하락한 이유

무엇이 바뀌었나

CatalystNeuro 창립자 Ben Dichter가 Artificial Analysis의 Intelligence Index 데이터를 분석해 지난 1년간 동일한 수준의 LLM 지능을 구현하는 비용이 얼마나 떨어졌는지 정리한 블로그 글을 게시했다. 핵심 수치는 특정 지능 등급(≥40)의 작업당 최저 비용이 2026년 2월 Claude Sonnet 4.6 기준 1.22달러였다가 8월 19일 기준 GPT-5.6 Luna(high)에서 0.022달러로 떨어져, 6개월이 채 되지 않아 56배 낮아졌다는 것이다[1]. 그는 이 하락 속도가 느려지기는커녕 가속화되고 있으며, 현재 속도가 유지된다면 100배 하락에는 약 1년이 걸릴 것으로 추산했다[1].

이 분석은 Artificial Analysis의 Intelligence Index v4.1.1을 근거로 한다. 이 지수는 에이전트 작업 34%, 코딩 24%, 과학적 추론 24%, 일반 능력 18%를 가중해 산출되며, 2024년 12월 DeepSeek V3까지 소급해 137개 모델을 측정한 데이터를 담고 있다[1]. 다만 이 지수가 실제로 '지능'을 재는 것인지 아니면 도구 사용 능력에 가까운 것인지에 대해서는 별도의 방법론 비판도 제기된 바 있어(관련 기사), 이번 비용 하락 분석 역시 그 지수를 전제로 한 상대적 추세로 이해할 필요가 있다.

프론티어 성능과 가격이 함께 오른 1년

최상위 모델이 도달할 수 있는 지능 상한선 자체도 1년 사이 크게 올랐다. 2025년 8월 GPT-5가 기록한 지수 35.3(작업당 0.26달러)을 시작으로, 같은 해 10월 Claude 4.5 Sonnet(Reasoning)이 37.4, 2026년 2월 Claude Sonnet 4.6이 48.4, 4월 Claude Opus 4.7이 55.0(2.23달러), 6월 Claude Fable 5가 62.1(3.14달러)을 거쳐 현재 Claude Opus 5가 63.1(2.34달러)까지 올라, 프론티어 상한선은 1년 만에 28포인트 상승했다[1]. 주목할 점은 이 최상위 라인의 작업당 가격 자체는 꾸준히 내려가지 않고 성능 향상과 함께 오르내렸다는 사실이다. 즉 비용 하락은 '최고 성능 모델의 가격'이 아니라 '특정 성능 수준을 얻는 데 드는 비용'에서 훨씬 뚜렷하게 나타난다.

등급별 최저가 경쟁과 하락 속도

지능 등급별로 최저가 기록을 추적하면 하락 폭이 더 선명해진다. ≥40 등급에서는 2월 Claude Sonnet 4.6의 1.22달러가 Gemini 3.1 Pro Preview의 0.33달러, 4월 MiMo-V2.5-Pro의 0.034달러를 거쳐 현재 GPT-5.6 Luna(high)의 0.022달러까지 내려갔다[1]. ≥50 등급에서는 3월 GPT-5.4의 1.10달러가 7월 9일 GPT-5.6 Luna(xhigh) 출시 시점 0.16달러로, 이후 7월 30일 가격 인하를 거쳐 0.032달러까지 떨어져 5개월 만에 35배 하락했다[1]. ≥60 등급에서는 Grok 4.6이 작업당 0.84달러로 최저가를 기록 중이며 6월 이후 3.8배 하락했다[1]. 등급마다 가격이 절반으로 떨어지는 주기는 대략 4~10주로 나타났고, 가장 높은 등급인 ≥60 구간의 현재 반감 주기는 약 34일로 측정됐다[1]. 특히 GPT-5.6 Luna는 출시 3주 만인 7월 30일 80% 가격 인하를 단행했고, 같은 날 GPT-5.6 Terra도 20% 내려갔다는 점에서, 신모델 출시 후에도 가격이 빠르게 재조정되고 있음을 보여준다[1].

기업 실무에 미치는 영향

이런 비용 구조 변화는 두 가지 상반된 방향으로 실무에 영향을 줄 수 있다. 하나는 대규모 배치 작업의 경제성이 확 달라진다는 점이다. 저자는 논문 수만 편을 스캔하는 문헌 조사 작업을 예로 들며, 현재 가격 기준으로는 약 1만 편 전체를 스캔하는 데 100달러 남짓이면 되지만 2026년 3월 가격 기준으로는 같은 작업에 수천 달러가 필요했을 것이라고 설명했다[1]. R&D·법무·리서치 부서처럼 대량 문서를 다루는 조직이라면 과거에는 비용 때문에 포기했던 전수 조사 작업을 재검토해볼 만하다.

다른 하나는 제번스 역설처럼 단가 하락이 오히려 총 지출 증가로 이어질 수 있다는 점이다. 저비용 모델의 성능 바닥이 올라가면서 더 많은 팀과 워크플로가 LLM 호출을 늘리게 되고, 이는 예산 계획을 세우는 IT·재무 조직에 단가 하락과 총액 증가가 동시에 나타나는 혼란스러운 신호를 준다. 실제로 모델 라우팅을 통해 여러 공급자의 최저가 모델을 자동 선택하는 OpenRouter 같은 서비스가 주목받는 배경에도 이런 가격 변동성이 있다(관련 기사). 또한 프론티어 모델 구성에서 오픈 웨이트 모델의 비중이 6월 11개 중 6개에서 현재 16개 중 2개로 오히려 줄었다는 점은[1], 비용 하락이 반드시 오픈소스 대안 확대로 이어지지는 않는다는 것을 보여준다. 벤더 다변화나 자체 호스팅을 검토하는 인프라 조직이라면 이 지점을 함께 확인할 필요가 있다.

확인할 조건과 불확실성

이 분석은 Artificial Analysis라는 특정 벤치마크 기관의 데이터를 한 개발자가 재해석한 결과이며, 공식 기관의 발표는 아니다. 또한 은퇴한 228개 모델 중 가격·점수 데이터가 복구된 것은 44개에 불과해[1], 전체 하락 곡선이 완전한 데이터에 기반한 것은 아니라는 점도 감안해야 한다. 벤치마크 점수와 실제 프로덕션 성능 사이의 괴리를 지적하는 다른 분석도 있는 만큼(관련 기사), 특정 지능 등급의 '최저가'가 곧 자사 워크로드에서의 실제 비용 절감을 보장하지는 않는다. 도입을 검토하는 조직이라면 벤치마크 순위보다 자체 작업 유형에 맞춘 파일럿 테스트로 실제 비용과 품질을 함께 확인하는 편이 안전하다.