5. 자료를 밖으로 보내지 않기
네 가지 길과 그 대가
이 차시를 마치면
자료 민감도·품질 요구·운영 여력 세 축으로 방식을 고릅니다.
전송을 줄이거나 없애는 방법은 넷입니다. 각각 무엇을 얻고 무엇을 내주는지 봅니다.
선택지 넷
| 선택지 | 자료가 가는 곳 | 얻는 것 | 내주는 것 |
|---|---|---|---|
| 외부 API | 사업자 서버 | 가장 좋은 품질과 속도. 운영 부담 없음. 최신 모델 즉시 사용 | 전송이 일어남. 사용량에 비례한 요금 |
| 자체 호스팅 (사내 서버) |
조직 안 | 전송이 조직 경계를 넘지 않음. 여러 사람이 공유 | 서버 하드웨어, 운영 인력, 장애 대응 |
| 완전 로컬 (개인 기기) |
이 기기 | 기기 밖으로 나가지 않음. 인터넷 없이도 동작 | 하드웨어 성능이 상한. 모델이 작아지고 느려짐 |
| 하이브리드 | 민감도에 따라 나눔 | 필요한 곳만 로컬로. 나머지는 품질을 챙김 | 분기 규칙을 만들고 지켜야 함. 잘못 분류되면 의미가 없음 |
고르는 기준 세 축
하나의 기준으로 정할 수 없습니다. 세 가지를 함께 봅니다. 분석
축 1 — 자료 민감도
| 자료 | 전송이 문제인가 |
|---|---|
| 공개 문서, 오픈소스 코드 | 아니오 |
| 사내 문서, 계약서 | 조직 규정에 따라 다름 |
| 개인정보, 의료·금융 기록 | 예. 규제가 직접 금지할 수 있음 |
축 2 — 품질 요구
작업이 얼마나 어려운가입니다. 요약과 분류는 작은 모델로도 됩니다. 복잡한 추론이나 긴 코드 작성은 큰 모델이 필요합니다.
이 교재의 실측으로는 4B 모델도 Structured Output 으로 회의록에서 실행항목을 정확히 뽑았습니다. 작업의 성격이 모델 크기보다 먼저입니다. (근거는 4차시)
축 3 — 운영 여력
자체 호스팅은 서버를 사고 끝나는 일이 아닙니다. 모델 갱신, 장애 대응, 사용량 관리가 계속됩니다. 사람이 없으면 선택지에서 빠집니다.
비유
식사를 사 먹기 / 회사 구내식당 / 집에서 해 먹기 중에 고르는 일과 같습니다.
사 먹으면 맛과 편의가 좋지만 무엇이 들어갔는지 통제하기 어렵습니다. 집에서 해 먹으면 재료를 다 알지만 장 보고 요리하고 치우는 일이 생깁니다. "집밥이 무조건 낫다" 는 결론은 그 일을 계산에 넣지 않은 것입니다.
자료 민감도별 조합
1번 트랙의 표를 이 트랙의 선택지로 이어 붙인 것입니다. 분석
| 자료 민감도 | 모델 | tracing | 코드 실행 |
|---|---|---|---|
| 공개 자료, 학습용 | 외부 API | 켬 | local 가능 |
| 사내 자료 | 외부 API + 입력 범위 제한, 또는 자체 호스팅 | 끔 | 격리 실행 |
| 개인정보 포함 | 완전 로컬 또는 자체 호스팅 | 끔 | 격리 실행 + 사람 승인 |
하이브리드의 함정
하이브리드가 가장 합리적으로 보입니다. 민감한 것만 로컬로 보내고 나머지는 좋은 모델을 쓰면 되니까요.
문제는 분류가 틀렸을 때입니다. 4번 트랙에서 위험 등급 키워드 판정의 한계를 배웠습니다. 같은 문제가 여기서도 생깁니다.
"고객 명단 정리해 줘" → 민감으로 분류 → 로컬
"명단 좀 봐 줘" → 일반으로 분류 → 외부 API ← 같은 자료인데
하이브리드를 쓰려면 분기 규칙 자체가 검증 대상이 됩니다. 규칙이 틀리면 하이브리드는 "가끔 새는 외부 API" 가 됩니다. 분석
이 트랙이 다루는 범위
남은 네 차시는 완전 로컬 을 다룹니다. 이미 설치된 LM Studio 로 실제로 돌려 보고, 정말 나가지 않는지 관찰하고, 무엇을 내주게 되는지 확인합니다.
확인 필요 자체 호스팅(사내 서버)의 구성 절차는 이 교재에서 다루지 않습니다. 하드웨어와 조직 환경에 따라 달라지고, 학습팩에도 서술이 없습니다.