[태그:] PrismML

PrismML Ternary Bonsai가 1.58비트 양자화로 8B 모델을 1.75GB로 줄였다. 아이폰에서 초당 27토큰, 에너지 효율 4배. 온디바이스 AI 시대가 열렸다.