이거 모르면 토큰값 4배 낸다

AI 코딩 모델 경쟁의 축이 조용히 바뀌고 있다. 지금까지는 ‘누가 더 똑똑한가’가 전부였다. 그런데 xAI가 7월 8일 내놓은 Grok 4.5는 다른 질문을 던진다. “같은 일을, 토큰을 얼마나 아껴서 끝낼 수 있는가?” 벤치마크 정확도에서는 프론티어 모델에 밀리지만, 출력 토큰을 4분의 1 수준으로 줄여 버렸다. 에이전트를 돌려 본 팀이라면 이 숫자가 왜 무서운지 바로 안다. 토큰은 곧 돈이고 시간이기 때문이다.

커서가 직접 키운 AI

Grok 4.5는 xAI의 1.5조 파라미터 규모 V9 기반 위에 올라간 MoE(Mixture-of-Experts) 모델이다. 특이한 점은 학습 데이터다. xAI는 AI 코딩 에디터 Cursor의 실제 개발자 세션 데이터를 대량으로 학습에 투입했다. 디버깅 과정, 여러 파일에 걸친 diff, 그리고 사용자가 AI의 답을 고쳐 준 ‘수정 이력’까지 포함됐다. 교과서가 아니라 현장 로그로 배운 셈이다.

스펙과 접근성

컨텍스트 창은 50만 토큰, 호출마다 ‘추론 노력(reasoning effort)’을 조절하는 다이얼을 제공한다. Cursor 데스크톱·웹·iOS·CLI·SDK에서 바로 쓸 수 있고, 일론 머스크는 다음 날인 7월 9일 xAI 채널을 통해 일반 공개를 알렸다. 코딩 에디터 제조사와 모델 회사가 학습 단계부터 손잡았다는 사실 자체가, 이제 ‘모델’과 ‘개발 도구’의 경계가 사라지고 있음을 보여 준다.

벤치마크 성적표, 냉정하게 읽기

xAI가 공개한 코딩 벤치마크 4종의 결과는 이렇다. Terminal-Bench 2.1에서 83.3%, SWE-Bench Pro에서 64.7%, DeepSWE 1.0에서 62.0%, DeepSWE 1.1에서 53%. Claude Opus 4.8과는 2승 2패로 팽팽하다. 터미널·구형 평가에서는 Grok이 앞서고, 더 지저분한 저장소 단위 평가에서는 Opus가 이긴다. 머스크가 말한 ‘오퍼스급’이라는 표현은, 그가 직접 공개한 데이터 안에서는 대체로 성립한다.

프론티어와의 거리

다만 최상위권과는 분명한 격차가 있다. xAI 자체 자료에서도 Claude Fable 5(max)가 4개 차트를 모두 1위로 석권했고, GPT-5.5(xhigh)도 4개 중 3개에서 Grok을 앞섰다. 흥미로운 건 xAI가 이 불리한 숫자들을 잘라내지 않고 그대로 실었다는 점이다. 메시지는 명확하다. “우리는 최강을 주장하지 않는다. 우리는 ‘가격 대비 성능’을 판다.”

진짜 무기는 ‘토큰 효율’

이 발표의 전략적 심장은 정확도가 아니라 효율 차트다. SWE-Bench Pro 작업 1건을 해결하는 데 Grok 4.5는 평균 15,954개의 출력 토큰을 쓴다. 같은 작업에서 Opus 4.8(max)은 67,020개를 쓴다. 4.2배 차이다. 초당 80토큰 속도로, 4분의 1도 안 되는 출력량으로 비슷한 결과를 낸다는 뜻이다.

숫자를 돈으로 환산하면

출력 토큰은 그대로 청구서에 찍히는 돈이고, 에이전트 루프에서는 매 단계마다 누적된다. 정가 기준으로 계산하면 작업 1건당 출력 비용이 약 $0.10 대 $1.68. SWE-Bench Pro 정확도가 4.5%p 낮더라도, 대량 파이프라인을 돌리는 팀에게는 Grok 4.5가 합리적 선택이 될 수 있다. 다만 공짜 점심은 아니다. Opus의 긴 출력은 낭비가 아니라 ‘확장된 추론’이고, 그게 어려운 평가를 이기는 방식이기도 하다. 효율과 깊이는 맞바꾸는 관계다.

그래서, 지금 갈아타야 할까

결론부터 말하면 ‘당신의 워크로드로 직접 재 봐야 한다’. 공개 벤치마크는 평균을 예측할 뿐, 우리 팀의 실제 작업을 예측하지 못한다. 백로그에서 실제 태스크 10~20개를 뽑아 Grok 4.5와 현재 쓰는 모델에 똑같이 던져 보고, 품질뿐 아니라 지연 시간과 토큰 소모까지 한 번에 측정하는 것이 가장 빠른 판단법이다. 특히 효율 주장은 여기서 검증된다. 우리 프롬프트에서 출력이 실제로 짧아지지 않는다면, 헤드라인 경제성은 우리에게 적용되지 않는다.

주의할 점도 있다. Grok 4.5는 코딩 벤치마크만 공개됐고, 일반 추론·수학·과학·안전성 지표는 없다. 출시 첫 주 모델 특유의 서빙 불안정이나 조용한 성능 변화도 아직 남아 있다. 그럼에도 방향성은 분명하다. ‘더 크고 더 비싼 모델’의 시대에서 ‘충분히 좋고 훨씬 싼 모델’의 시대로, 무게추가 넘어가고 있다.

관련 글

• AI가 내 말을 끊기 시작했다 — OpenAI GPT-Live 실시간 음성
• 구글 최고 AI가 계속 떨어진 그 시험 — Gemini 3.5 Pro 지연
• AI가 다 짜주는데 왜 더 지칠까 — AI 코딩 시대의 병목
• 오픈AI를 넘어선 AI 거인 — Anthropic 9,650억 달러 IPO

출처

1. xAI — Grok 4.5 공식 발표 (announcement)
2. Apidog — Grok 4.5 Benchmarks: What xAI Published, and How to Read It
3. explainX — Grok 4.5 in Cursor: Benchmarks, Pricing