5. 자료를 밖으로 보내지 않기

내 컴퓨터에서 모델 돌리기

이 차시를 마치면

LM Studio 로 로컬 모델 서버를 띄우고 상태를 확인합니다.

이미 설치된 LM Studio 로 로컬 모델 서버를 띄웁니다. 새로 내려받는 것 없이 있는 것으로 합니다.

LM Studio 가 하는 일

개념. LM Studio 는 모델 가중치를 이 기기에서 실행하고, 그 결과를 OpenAI 호환 API 로 내주는 프로그램입니다.

왜 이것이 중요한가. OpenAI 호환이라는 말은 기존 코드를 거의 그대로 쓸 수 있다는 뜻입니다. 다음 차시에서 확인합니다.

역할. 모델 관리(내려받기, 올리기, 내리기)와 서버 실행 두 가지입니다.

설치 확인

두 가지를 봅니다. 앱과 명령줄 도구입니다.

ls -d /Applications/LM\ Studio.app
lms version

lms 는 LM Studio 가 함께 설치하는 명령줄 도구입니다. 이 도구가 있으면 화면을 보지 않고도 대부분의 일을 할 수 있습니다.

화면 구성

LM Studio 창의 왼쪽에 Chat, Developer, My Models, Discover 메뉴가 있고 Developer 탭에 Local Server 상태와 포트 번호, 아래에 올라간 모델 정보가 있는 배치 — Developer 탭에서 서버를 켜면 포트 번호가 이 자리에 나옵니다.

서버는 왼쪽 Developer 탭에 있습니다. 거기서 상태(Running)와 포트 번호(기본 1234)를 확인합니다. 이 포트 번호를 다음 차시에서 base_url 에 씁니다.

위 그림은 어디에 무엇이 있는지만 나타낸 배치도입니다. 실제 화면은 LM Studio 판마다 조금씩 달라집니다. 지금 쓰는 판의 화면을 보려면 LM Studio 공식 문서를 여세요. 서버 켜는 방법은 Local Server 문서에 있습니다. 외부 근거 · 확인일 2026-08-15

공식 문서의 그림을 이 교재에 옮겨 싣지는 않았습니다. LM Studio 문서에는 이용 허락 표시가 없어 그대로 가져다 쓸 수 없기 때문입니다. 대신 위치만 배치도로 옮겼습니다.

명령줄로 하기

화면을 열지 않고도 같은 일을 할 수 있습니다. 이 교재는 명령줄을 우선합니다. 결과를 글로 옮길 수 있어 확인하기 쉽기 때문입니다.

서버 상태 보기

lms server status

The server is running on port 1234.

가진 모델 보기

lms ls

You have 3 models, taking up 25.80 GB of disk space.

LLM                                   PARAMS    ARCH      SIZE        DEVICE
google/gemma-4-31b-qat (1 variant)    31B       gemma4    18.85 GB    Local
google/gemma-4-e4b (1 variant)        4B        gemma4    6.86 GB     Local     [LOADED]

EMBEDDING                               PARAMS    ARCH          SIZE        DEVICE
text-embedding-nomic-embed-text-v1.5              Nomic BERT    84.11 MB    Local

2026-08-15 실제 출력입니다. 이 교재는 이 세 모델만 씁니다. 새로 내려받지 않습니다.

분석 원래 출력은 지금 올라간 모델을 체크 기호로 표시합니다. 이 교재는 이모지와 기호를 쓰지 않는 규칙이 있어 [LOADED] 로 바꿔 실었습니다. 바꾼 것은 이 표시 하나뿐입니다.

자주 쓰는 명령

명령	하는 일
`lms ls`	디스크에 있는 모델 목록
`lms ps`	지금 메모리에 올라간 모델
`lms load`	모델을 메모리에 올림
`lms unload`	모델을 내림
`lms server status`	서버 상태
`lms log`	오가는 요청을 기록

모델 크기와 메모리

위 목록의 두 모델을 비교해 봅니다.

모델	파라미터	디스크	실제로 쓸 수 있는가
`google/gemma-4-e4b`	4B	6.86 GB	일반적인 노트북에서 동작. 이 교재의 기본
`google/gemma-4-31b-qat`	31B	18.85 GB	메모리가 넉넉해야 함. 부족하면 매우 느리거나 못 올림

디스크 용량보다 메모리가 먼저 걸립니다. 모델을 올린다는 것은 가중치를 메모리에 얹는 일이기 때문입니다. lms ps 로 지금 무엇이 올라가 있는지 확인할 수 있습니다.

비유

디스크는 책장이고 메모리는 책상입니다. 책장에 두꺼운 책 열 권을 꽂아 둘 수는 있어도, 책상에 한 번에 펼칠 수 있는 것은 책상 크기가 정합니다. 31B 모델은 두꺼운 책입니다.

서버가 열려 있는지 직접 확인

lms 말고 HTTP 로도 확인할 수 있습니다. 다음 차시에서 쓸 주소가 맞는지 보는 것입니다.

curl -s http://localhost:1234/v1/models

모델 목록이 JSON 으로 돌아오면 준비된 것입니다. 응답이 없으면 서버가 꺼져 있거나 포트가 다릅니다.

여기까지의 상태

모델이 이 기기에 있고, 서버가 포트 1234 에서 돌고 있습니다. 아직 아무것도 밖으로 나가지 않았습니다.

다음 차시에서 이 서버를 LangGraph 에 연결합니다.

이해도 확인

문항을 불러오는 중입니다.