AI 비용, 60배나 차이 난다?

같은 작업을 시키는데 어떤 회사는 매달 수천만 원을 쓰고, 어떤 회사는 그 60분의 1만 씁니다. AI 도입을 고민하는 경영진이라면 무시할 수 없는 격차죠. 이 격차의 한복판에 있는 회사가 8억 달러(약 1조 1천억 원)라는 실탄을 새로 채웠습니다. 그것도 석유로 세계에서 가장 돈이 많은 곳 중 하나가 지갑을 열었습니다.

석유 재벌이 콕 찍은 ‘투게더AI’

2026년 7월 1일, AI 인프라 기업 투게더AI(Together AI)가 8억 달러 규모의 시리즈C 투자를 마감하며 기업가치 83억 달러(약 11조 5천억 원)를 인정받았다고 발표했습니다. 불과 16개월 전 시리즈B에서 인정받은 33억 달러에서 2.5배 뛴 수치입니다. 2022년 설립된 회사가 3년여 만에 조 단위 기업가치를 넘긴 셈입니다.

눈길을 끄는 건 투자자 명단입니다. 이번 라운드를 이끈 곳은 사우디아라비아 국영 석유기업 아람코의 벤처 투자 부문 아람코 벤처스(Aramco Ventures)였습니다. 여기에 GPU 공급망의 지배자 엔비디아, 대형 사모펀드 비스타 에쿼티 파트너스, 제너럴 카탈리스트, 이머전스 캐피털, 세일즈포스 벤처스, 슈나이더 일렉트릭 계열까지 이름을 올렸습니다. 석유 자본과 반도체·소프트웨어 거인들이 한 회사에 동시에 베팅한 그림입니다.

왜 오픈소스가 폐쇄형보다 60배 쌀까

투게더AI의 사업은 단순합니다. 엔비디아 GPU 클러스터를 빌려주고, 그 위에서 오픈소스 모델을 학습·배포할 수 있게 해주는 ‘네오클라우드(neocloud)’입니다. 고객은 메타의 라마, 미스트랄, 알리바바의 큐원 같은 공개 모델을 폐쇄형 프런티어 모델보다 훨씬 싸게 돌립니다.

‘토큰값’의 경제학

GPT나 클로드 같은 폐쇄형 모델은 API 호출마다 토큰 단위로 프리미엄 요금을 냅니다. 반면 오픈소스 모델을 네오클라우드에서 직접 돌리면 같은 결과물을 6배에서 최대 60배까지 저렴하게 뽑을 수 있다는 게 회사 측 주장입니다. 모델 성능이 ‘충분히 좋아진’ 지점을 지나면서, 굳이 모든 작업에 비싼 최상위 모델을 쓸 이유가 사라진 겁니다.

숫자가 증명하는 전환

시장 데이터도 이 흐름을 뒷받침합니다. AI 게이트웨이 오픈라우터 집계 기준, 지난 12개월간 오픈소스 모델 사용량은 3배로 늘었습니다. 투게더AI의 연 예약매출은 이미 11억 5천만 달러(약 1조 6천억 원)를 넘겼고, AI 코딩 스타트업 커서와 코그니션, 데카곤 등 수천 개 유료 고객을 확보했습니다. ‘싸고 충분히 좋다’는 조합이 실제 매출로 찍히고 있다는 뜻입니다.

네오클라우드, 새로운 골드러시

투게더AI만의 이야기가 아닙니다. 네오클라우드는 최근 벤처 자금이 몰리는 최고 인기 분야입니다. 지난달 업스케일AI가 20억 달러 가치로 총 5억 달러를 조달했고, AMD GPU에 집중하는 텐서웨이브도 15.5억 달러 가치로 시리즈B 3.5억 달러를 유치했습니다. 하이퍼스케일러(대형 클라우드)와 별개로, ‘AI 전용 클라우드’라는 새 계층이 형성되고 있는 겁니다.

투게더AI의 공동창업자 면면도 이 분야의 무게감을 보여줍니다. CEO 비풀 베드 프라카시는 소셜 검색 스타트업 톱시(Topsy)를 2013년 애플에 2억 달러 이상에 매각한 인물이고, 스탠퍼드대 퍼시 리앙 교수, 취리히연방공대·시카고대 처 장 교수가 공동창업자로 합류했습니다. 학계 최전선과 성공한 창업가가 결합한 구조입니다.

한국 기업 CEO를 위한 체크포인트

그렇다면 국내 기업, 특히 AI 도입을 검토 중인 경영진은 무엇을 봐야 할까요. 첫째, 모든 업무에 최상위 모델을 쓰고 있지는 않은지 점검할 시점입니다. 사내 문서 요약, 고객 문의 1차 분류, 검색·초안 작성처럼 정확도보다 처리량이 중요한 업무라면 오픈소스 전환만으로도 비용을 크게 줄일 수 있습니다.

둘째, 데이터 주권과 보안입니다. 오픈소스 모델을 전용 클라우드나 온프레미스에서 돌리면 민감 데이터가 외부 API를 거치지 않아, 규제 산업(금융·의료·공공)일수록 유리합니다. 셋째, 벤더 종속 회피입니다. 특정 폐쇄형 모델에 워크플로 전체를 묶어두는 대신, 프런티어 모델과 오픈소스 모델을 작업별로 섞어 쓰는 ‘멀티모델 전략’이 표준이 되고 있습니다.

결국 이번 투자는 단순한 자금 조달 뉴스가 아니라, AI 비용 구조 자체가 재편되고 있다는 신호입니다. ‘AI를 도입하느냐’를 넘어 ‘어떤 모델을, 어디서, 얼마에 돌리느냐’가 경쟁력을 가르는 시대가 왔습니다.

관련 글

• AI만 사면 되는 줄 알았다 — 빅테크의 ‘AI 배포 부대’ 전략
• 구글이 다 만든 AI를 버렸다 — 제미나이 3.5 폐기의 진짜 이유
• 화이자가 점찍은 AI 신약 설계 스타트업, 4억 달러의 비밀
• 앤트로픽이 2억 달러를 건 단 하나의 질문

출처

1. TechCrunch — Neocloud Together AI raises $800M, leaps to $8.3B valuation (2026.07.01)
2. Business Wire — Together AI Raises $800 Million at $8.3 Billion Valuation (2026.07.01)
3. Yahoo Finance — Together AI raises $800 million at $8.3 billion valuation