로컬 LLM 실행 도구(런타임)란? 내 PC에서 AI 돌리는 프로그램 고르기
로컬 LLM 실행 도구(런타임)는 내 PC에서 AI 모델을 구동하는 프로그램입니다. Ollama·LM Studio·vLLM·LocalAI의 차이와 초보·개발자·서비스별 선택법,…
-
-
양자화란? 큰 AI 모델을 ‘사진 압축’하듯 줄이는 기술
양자화란 무엇일까요? 수십억 매개변수짜리 AI 모델을 4비트로 압축해 노트북·스마트폰에서도 돌아가게 만드는 기술입니다. 사진을 적당히 압축하듯…
-
온디바이스 AI란? 클라우드 없이 내 폰·노트북에서 AI가 도는 법
온디바이스 AI는 클라우드 서버가 아니라 내 폰·노트북 안에서 AI가 직접 연산하는 방식입니다. 데이터가 기기 밖으로…
-
맥북 로컬 AI, M5에서 왜 빨라졌나? 내 맥에서 AI 돌리기 쉽게 정리
맥북 로컬 AI가 M5 칩에서 왜 빨라졌는지, 인터넷 없이 내 맥에서 AI를 돌리는 게 무슨…
-
로컬 LLM 추천 2026: VRAM별 최적 모델과 설치까지 한 번에
로컬 LLM 추천 2026년 기준으로 정리했습니다. GPU VRAM 8GB부터 24GB까지 용도별 최적 모델과 Ollama 설치법,…
