모든 글

AI

양자화란? 큰 AI 모델을 ‘사진 압축’하듯 줄이는 기술

양자화란 무엇일까요? 수십억 매개변수짜리 AI 모델을 4비트로 압축해 노트북·스마트폰에서도 돌아가게 만드는 기술입니다. 사진을 적당히 압축하듯 모델을 줄이는 원리와 Q4·Q8 차이, 로컬 LLM 활용까지 처음…

5분 읽기