[태그:] Ternary Bonsai
AI에 쓴 돈 계산해봤더니…
AI 코딩에 쓴 돈을 API로 환산하는 깃허브 카드, 폰에서 도는 27B 모델, Codex 프롬프트 암호화 논란. 오늘의 개발자 이슈 3가지를 정리했습니다.
폰에서 AI 돌렸더니…
PrismML Ternary Bonsai가 1.58비트 양자화로 8B 모델을 1.75GB로 줄였다. 아이폰에서 초당 27토큰, 에너지 효율 4배. 온디바이스 AI 시대가 열렸다.
AI 코딩에 쓴 돈을 API로 환산하는 깃허브 카드, 폰에서 도는 27B 모델, Codex 프롬프트 암호화 논란. 오늘의 개발자 이슈 3가지를 정리했습니다.
PrismML Ternary Bonsai가 1.58비트 양자화로 8B 모델을 1.75GB로 줄였다. 아이폰에서 초당 27토큰, 에너지 효율 4배. 온디바이스 AI 시대가 열렸다.