파인튜닝 — 모델을 특정 과업에 맞게 조정하는 법

이 토픽을 마치면

파인튜닝(미세조정)의 정확한 개념과 필요성을 이해할 수 있습니다.
일반 LLM과 파인튜닝된 AI 모델의 차이점을 설명할 수 있습니다.
어떤 상황에서 파인튜닝을 도입해야 하는지 명확한 판단 기준을 갖게 됩니다.

우리 회사 회의에 AI를 참석시켜 봤습니다

똑똑하기로 소문난 ChatGPT를 회사 회의에 참석시켰습니다.

"이번 Q3 프로젝트 패스파인더의 OKR 달성률을 분석해 줘."

하지만 AI는 멍하니 머뭇거립니다. 'Q3'가 몇 분기를 말하는지, '프로젝트 패스파인더'가 무슨 프로젝트인지, 우리 회사가 OKR을 작성할 때 어떤 항목과 수식을 사용하는지 전혀 모르기 때문입니다.

세상의 온갖 지식을 외운 AI도 '우리 회사의 내부 사정이나 특정 분야의 전용 용어' 앞에서는 초보자에 불과합니다. 이 AI가 반복해서 수행해야 할 과업의 예시와 원하는 답변 패턴으로 모델의 가중치를 조정하는 과정, 이것이 바로 파인튜닝(Fine-Tuning, 미세조정)입니다.

범용 AI vs 파인튜닝된 AI

1. 범용 AI (Base / Chat LLM)

상태: 명문대를 졸업해 세상만사를 다 아는 만능 초보 신입사원.
특징: 일반적인 상식, 번역, 글쓰기는 잘하지만, 특정 기업의 영업 비밀, 전문 의료/법률 양식, 내부 시스템 규칙 등은 알지 못합니다.

2. 파인튜닝된 AI (Fine-Tuned Model)

상태: 우리 회사의 지난 5년간 사내 문서, 회의록, 업무 매뉴얼을 섭독한 '특화 전문가'.
특징: 질문을 던졌을 때 우리 회사만의 용어, 특정 서식, 지정된 말투(톤앤매너)로 즉각 맞춤형 답변을 내놓습니다.

한 줄 비유:

범용 AI가 *'박학다식하지만 우리 회사 일은 모르는 신입사원'*이라면, 파인튜닝은 *'사내 교육과 직무 훈련을 거쳐 특정 업무 방식에 익숙해진 담당자'*입니다.

파인튜닝은 어떻게 진행될까?

이미 거대하게 만들어진 AI 두뇌(모델 가중치)를 처음부터 다시 만들려면 수백억 원이 듭니다. 파인튜닝은 기존 두뇌를 그대로 두고 일부 가중치만 미세하게 조정(Fine-Tune)하는 가성비 높은 방법입니다.

특화 데이터셋 준비:
- "입력 - 원하는 출력" 형태의 고품질 예시를 준비합니다. 필요한 양은 과업·모델·학습법에 따라 수십 건부터 수만 건 이상까지 달라집니다.
- 예: (질문) "약관 제3조 예외 규정 적용 대상인가요?" → (원하는 답변) "해당 건은 B항 예외 규정에 따라..."
추가 학습 (Re-training):
- 기존 LLM에 수집한 데이터셋을 주입하여 가중치를 미세하게 업데이트합니다.
전문 모델 탄생:
- 별도의 긴 설명 없이도 특정 분야의 지시를 정확하고 일관된 형식으로 수행하는 맞춤형 AI가 만들어집니다.

어디서 쓰이나

전문 도메인 AI (의료/법률/금융): 복잡한 전문 용어와 판례, 진단명을 정확한 형식으로 다뤄야 하는 영역
기업 맞춤형 내부 챗봇: 사내 규정, 고객 응대(CS) 매뉴얼, 고유 업무 프로세스를 완벽히 숙지한 챗봇
특정 톤앤매너 고정: 특정 캐릭터의 말투, 브랜드 고유의 스타일, 고정된 JSON/XML 데이터 형태로만 답변해야 하는 자동화 시스템

자주 하는 오해와 주의할 점

❌ 1. "매일 업데이트되는 최신 뉴스나 실시간 정보를 가르칠 때 파인튜닝을 쓴다?"

아닙니다. 파인튜닝은 모델의 '뇌 자체'를 바꾸는 과정이라 시간과 비용이 듭니다. 매일 변하는 최신 정보나 자주 바뀌는 규정을 가르칠 때는 파인튜닝보다 뒤에서 배울 **RAG(검색 증강 생성)**나 지식 베이스를 연결하는 것이 훨씬 효율적입니다.

❌ 2. "파인튜닝을 하면 AI의 지능이 전반적으로 대폭 상승한다?"

아닙니다. 특정 분야를 집중 학습시키는 과정이기 때문에, 오히려 너무 과하게 학습시키면 기존에 잘하던 일반적인 추론이나 상식 답변 능력이 떨어지는 현상(오버피팅/과적합)이 발생할 수 있습니다.

무엇을 학습시키는 기술인가

파인튜닝은 새 문서를 통째로 “암기시키는 버튼”이 아닙니다. 반복되는 과업 패턴, 출력 형식, 분류 기준, 도메인 표현처럼 모델의 행동을 지속적으로 바꿔야 할 때 적합합니다.

요구	우선 검토
최신 규정·문서 답변	RAG
고정 JSON 형식·분류 체계	파인튜닝
한두 번의 작업 방식 지정	프롬프트
전문 용어와 문체의 반복	파인튜닝 + 평가
모델이 모르는 실시간 사실	검색·도구

전체 조정과 PEFT

모든 가중치를 업데이트하는 full fine-tuning은 비용과 저장량이 큽니다. LoRA 같은 PEFT(Parameter-Efficient Fine-Tuning)는 작은 저랭크 어댑터만 학습해 비용을 낮춥니다. 양자화 모델 위에서 어댑터를 학습하는 QLoRA도 널리 쓰입니다.

text

기본 모델 가중치: 고정
        +
작은 LoRA 어댑터: 학습
        =
특정 과업에 맞춘 동작

데이터 품질이 모델 크기보다 중요할 때

한 입력에 정답 형식이 여러 개면 모델이 흔들립니다.
틀린 답과 개인정보는 학습 후 제거하기 어렵습니다.
train·validation·test에 유사 문서가 섞이면 점수가 부풀려집니다.
실제 운영 질문과 다른 “예쁜 예제”만 모으면 실전 성능이 나오지 않습니다.
거절해야 할 입력과 모르는 경우의 답변도 데이터에 포함해야 합니다.

배포 전 평가

기본 모델과 파인튜닝 모델을 같은 고정 평가셋으로 비교합니다. 정확도뿐 아니라 형식 준수율, 환각률, 거절률, 지연시간, 비용과 일반 능력 저하를 측정합니다. 새 모델이 특정 점수만 올리고 다른 중요한 능력을 잃었다면 채택하지 않습니다.

핵심 정리

이 용어는 AI 모델 하나가 아니라 데이터·소프트웨어·운영 절차와 연결해서 이해해야 합니다.
제품 설명보다 입력·출력·권한·평가 기준을 구체적으로 확인합니다.
중요한 결과와 행동은 근거, 검증기, 사람 승인으로 다시 확인합니다.

다음 개념

→ 더 깊게 보기: AI Native — 신경망은 어떻게 학습하는가