
- AI 코딩 CLI가 태운 토큰을 API 비용으로 환산해 깃허브 프로필에 매일 자동으로 새기는 카드가 등장했다
- FP16 기준 54GB짜리 27B 모델을 3.9GB로 압축해 아이폰에서 돌리는 Bonsai 27B가 공개됐다
- Codex가 서브에이전트끼리 주고받는 위임 프롬프트를 암호화하면서 로컬 감사 추적이 사라졌다
매일 아침 커밋 로그부터 열어보는 개발자라면 오늘 세 가지 소식은 그냥 넘기기 어렵다. 하나는 “내가 AI에 대체 얼마를 썼나”를 숫자로 들이미는 도구, 하나는 “이걸 폰에서 돌린다고?” 싶은 모델, 마지막은 “내 컴퓨터에서 도는데 내가 못 본다고?” 하는 논란이다. GeekNews에서 오늘 개발자들의 시선을 붙든 TOP3를 정리했다.
구독으로 아낀 돈, 매일 아침 숫자로 마주한다
ccusage 로그를 SVG 카드로: 토큰, 환산 비용, 잔디 히트맵
한 국내 개발자가 “Claude Max 구독으로 코딩하는데, 이걸 API로 썼다면 얼마였을까”라는 궁금증에서 출발해 만든 도구가 GeekNews Show 게시판에서 화제다. ai-coding-usage-card는 ccusage가 감지하는 모든 AI 코딩 CLI, 즉 Claude Code, Codex, Gemini CLI, Copilot CLI, OpenCode 등의 로컬 로그를 읽어 토큰 사용량과 API 환산 비용, 도구별 분담, 잔디 스타일 히트맵을 하나의 SVG 카드로 만든다. 그리고 이 카드를 깃허브 프로필에 매일 자동으로 커밋한다.
핵심은 “전부 내 컴퓨터에서 돈다”는 점이다. 외부 서비스도, 별도 계정도, API 키도 필요 없다. 결과물은 그냥 SVG 파일이라 프로필 README에 img 태그 한 줄이면 삽입된다. full, half, 잔디, 콤보 등 네 가지 변형을 제공하고, 무료 환율 API로 원화를 포함한 네 개 통화를 동시에 표기한다. Windows 작업 스케줄러, macOS, Linux cron까지 데일리 자동화 가이드도 함께 붙어 있다.
제작자의 카드에는 지금 약 12.6B 토큰, API로 환산하면 1만 3천 달러가 넘는 숫자가 찍혀 있다. 매일 아침 이 숫자를 보며 “구독이 이만큼 이득이었구나”를 확인하는 재미가 있다는 것이다. 정액 구독의 실사용 가치를 눈으로 체감하게 만든다는 발상이 개발자들의 공감을 샀다.
Tech Insight — 이 카드가 건드리는 진짜 지점은 “구독제 코딩 도구의 ROI를 어떻게 증명하는가”이다. 개인에게는 재미지만, 팀 단위로 보면 도구별 토큰 사용량을 가시화하는 순간 비용 최적화의 단서가 된다. 어떤 도구에 얼마가 몰리는지, 정액제와 종량제 중 무엇이 유리한지를 데이터로 말할 수 있게 되기 때문이다.
54GB 모델을 3.9GB로: 폰에서 도는 27B
Ternary와 1-bit 양자화로 성능 90~95% 유지
PrismML이 공개한 Bonsai 27B는 “27B급 모델을 휴대폰에서 돌린다”는 목표를 정면으로 겨냥한다. 기반은 Qwen3.6 27B이며 추론, 구조화된 도구 호출, 비전, 컴퓨터 사용 에이전트 루프까지 지원한다. 문제는 크기였다. 일반적인 27B 모델은 FP16에서 약 54GB, 4비트로 줄여도 18GB에 달해 휴대폰은 물론 대부분의 노트북에도 로컬 배포가 어렵다.
Bonsai 27B는 저비트 표현을 언어 네트워크 전체에 적용해 이 벽을 넘는다. 품질 중심의 Ternary 모델은 마이너스1, 0, 플러스1 가중치로 실효 1.71비트, 5.9GB를 달성하고, 용량 중심의 1-bit 모델은 1.125비트로 3.9GB까지 줄여 아이폰 17 Pro의 메모리 예산 안에 들어간다. 성능도 생각보다 잘 버틴다. 사고 모드 기준 15개 벤치마크 종합 점수에서 완전 정밀도가 85.0점일 때 Ternary는 80.5점으로 95퍼센트, 1-bit는 76.1점으로 90퍼센트를 유지했다. 속도는 RTX 5090에서 최대 초당 163토큰, M5 Max에서 최대 초당 87토큰이며 최대 26만 2천 토큰 문맥과 4비트 비전 타워, 추측 디코딩을 지원한다. 가중치는 Apache 2.0으로 공개됐다.
의미는 비용과 프라이버시에 있다. 에이전트는 모델을 한 번이 아니라 수백 번 호출하는데, 이를 전부 클라우드로 보내면 단계마다 토큰 비용이 쌓이고 개인 파일과 화면까지 네트워크를 지난다. 충분한 능력의 모델이 기기에서 돌면 100단계 루프에서도 추가 호출 비용이 없고 데이터가 기기를 떠나지 않는다. 다만 해외 커뮤니티에서는 도구 호출 성능의 하락 폭이 상대적으로 크다는 점, Gemma 4 12B의 4비트 버전과 공정하게 비교해야 한다는 지적도 나온다. 한편 CNBC는 애플이 PrismML과 협상 중이라고 보도했다.
Tech Insight — 주목할 지표는 “기가바이트당 지능 밀도”다. 1-bit Bonsai 27B는 완전 정밀도 2B 모델보다 작은 용량으로 27B급 성능을 낸다. 온디바이스 에이전트가 실용 단계에 들어졌다는 신호지만, 도구 호출 정밀도 하락은 실무 적용 전에 반드시 자체 워크로드로 검증해야 할 부분이다.
내 컴퓨터에서 도는데, 내가 못 읽는다
Codex MultiAgentV2, 위임 메시지를 암호문으로
OpenAI Codex CLI에서 감사 추적 회귀가 보고되며 논쟁이 붙었다. MultiAgentV2가 spawn_agent, send_message, followup_task 메시지를 암호화하기 시작하면서, 부모 롤아웃과 이력, 추적에서 위임 내용을 사람이 읽을 수 없게 됐다는 것이다. 2026년 6월 5일 병합된 PR 26210 이후 통신 객체의 평문 필드는 비워지고 페이로드는 암호화 필드에만 저장된다. 그 결과 로그에도 암호문만 남는다. 구독, 모델, 운영체제와 무관하며 MultiAgentV2가 켜진 0.137.0 이후 빌드가 대상이다.
문제는 “무엇을 왜 위임했는지”를 사후에 확인하기 어려워졌다는 데 있다. 어떤 작업을 자식 에이전트에 부여했는지, 어떤 메시지를 보냈는지, 특정 스레드가 왜 생성됐는지를 로컬에서 되짚을 수 없다. 제안된 수정은 암호화 전달은 유지하되 로컬 감사용 평문 필드를 함께 저장하는 이중 콘텐츠 계약이다. 수신 모델에는 암호문만 전달하고, 부모 롤아웃과 로그에는 크기가 제한된 평문 사본을 남기자는 것이다. spawn_agent용 프로토타입은 나왔지만 나머지 도구와 재생, 디버그 화면까지 적용하는 작업은 남아 있고 이슈는 아직 열려 있다.
커뮤니티의 해석은 갈린다. GPT-5.6의 다중 에이전트 모드를 위한 조치이며, 경쟁사가 프롬프트 구성과 오케스트레이션을 역공학하거나 재판매 데이터를 모델 훈련에 쓰는 것을 막으려는 방어책이라는 추측이 많다. 반대편에서는 “로컬에서 수십에서 수백 개의 확률적 에이전트가 도는데 그 명령조차 검사할 수 없다”는 점을 사용자 적대적 DRM에 빗댄다. 실제로 하위 에이전트가 홈 디렉터리를 삭제했다는 사례가 공유되면서 안전장치 우려도 커졌다.
Tech Insight — 이 논란의 본질은 로컬 실행이라도 “내가 검사할 수 없는” 코드가 도는 시대의 딜레마다. 편의와 지식재산 보호, 그리고 투명성이 정면으로 부딪친다. 에이전트 도구를 고를 때 성능과 가격만이 아니라 감사 가능성을 체크리스트에 넣어야 하는 이유가 여기 있다.
관련 글
- CodeBurn – AI 코딩 도구 토큰 사용량과 비용 추적 TUI 대시보드
- AgentsView – 여러 AI 코딩 에이전트의 세션 검색, 분석, 비용 추적
- 1-bit Bonsai – 상업적으로 실용 가능한 최초의 1비트 LLM
- Qwen 3.6 27B는 로컬 개발의 최적 지점
- OpenAI Codex CLI 내부 동작 분석: 에이전트 루프와 프롬프트 캐싱
출처
- GeekNews – 내가 AI에 태운 토큰이 얼마인지 보여주는 깃허브 프로필 카드 (github.com/DGO0/ai-coding-usage-card)
- GeekNews – Bonsai 27B, 휴대폰에서 실행되는 27B급 모델 (prismml.com)
- GeekNews – Codex가 서브에이전트 프롬프트 암호화를 시작함 (github.com/openai/codex)
AI Biz Insider · Tech Digest · aibizinsider.com
댓글 남기기