LLM — 생성형 AI의 기본 두뇌를 해부합니다

이 토픽을 마치면

LLM이 정확히 무엇이고 왜 'Large(거대)'라는 표현이 붙는지 설명할 수 있습니다.
기존의 검색엔진이나 규칙 기반 AI와 LLM의 근본적인 차이를 이해하게 됩니다.
LLM이 가진 한계점과 실무에서 접할 때 주의해야 할 점을 파악할 수 있습니다.

AI에게 질문을 던졌습니다

ChatGPT, Claude, Gemini에게 "조선시대 왕들의 수라상 메뉴를 바탕으로 현대적인 퓨전 레시피를 추천해줘"라고 입력했습니다.

그러자 AI는 몇 초 만에 문맥에 맞는 매끄러운 답변을 술술 적어 내려갑니다. 이 뒤에서 열심히 머리를 굴리고 있는 거대한 인공지능 두뇌, 이것이 바로 LLM (Large Language Model, 거대 언어 모델)입니다.

LLM은 인터넷에 존재하는 수십억 개 이상의 문서, 책, 코드, 대화 기록을 몽땅 읽고 학습한 ‘언어 전문 인공지능 뇌’입니다.

왜 하필 'LLM'일까?

이전에도 언어를 처리하는 AI(자연어 처리 모델)는 존재했습니다. 하지만 지금의 LLM과는 결정적인 차이가 있습니다.

1. 규칙 기반 AI / 심심이 방식

작동 방식: 사람이 일일이 "A라고 물어보면 B라고 답해"라는 규칙(If-Else)을 지정해 주었습니다.
한계: 규칙에 없는 질문을 받으면 전혀 답하지 못하거나 어색한 대답을 반복했습니다.

2. 초기 딥러닝 언어 모델 (Small Models)

작동 방식: 특정 문법이나 번역 규칙을 데이터 기반으로 학습했습니다.
한계: 문장이 길어지면 앞에 무슨 말을 했는지 까먹거나, 복잡한 맥락을 이해하지 못했습니다.

3. LLM (거대 언어 모델)

작동 방식: 모델의 파라미터(매개변수) 수와 학습 데이터 양을 기하급수적으로 늘렸습니다.
혁신: 일정 규모(Scaling Law)를 넘어서자, 사람이 일일이 가르치지 않은 '추론 능력'과 '문맥 이해 능력'이 창발적으로 나타나기 시작했습니다.

한 줄 비유:

기존 AI가 *'단어장 몇 권 외운 초보자'*였다면, LLM은 *'인류가 작성한 도서관 전체를 섭독한 엄청나게 박식한 유학자'*입니다.

LLM의 핵심 원리 3가지

LLM이 대화하는 방식을 아주 단순하게 요약하면 "다음에 올 가장 자연스러운 단어 맞히기"입니다.

토큰화 (Tokenization):
- 문장을 들어온 그대로 읽는 것이 아니라, '토큰(Token)'이라는 작은 단위(단어 혹은 글자 조각)로 쪼개어 숫자로 변환합니다.
맥락 파악 (Context Window):
- 입력된 프롬프트의 전후 맥락을 파악하고, 단어와 단어 사이의 관계성을 확률적으로 계산합니다.
다음 토큰 예측 (Next Token Prediction):
- "옛날 옛적에 깊은 산속에 [ ]"라는 문장이 주어지면, 뒤에 올 가장 확률 높은 단어("호랑이가", "나무꾼이" 등)를 계속해서 이어나가며 문장을 완성합니다.

어디서 쓰이나

LLM은 단순히 대화창(Chat)에서만 쓰이지 않습니다. 현대 IT 서비스의 수많은 기반 기술로 자리 잡았습니다.

챗봇 및 챗 인터페이스: ChatGPT, Claude, Gemini, Copilot 등
문서 요약 및 번역: 길고 복잡한 보고서 핵심 요약, 자연스러운 다국어 번역
코드 작성 및 디버깅: 자연어로 지시하면 파이썬이나 자바스크립트 코드를 짜주는 개발 보조
콘텐츠 창작: 이메일 초안 작성, 블로그 글쓰기, 마케팅 문구 생성

자주 하는 오해와 주의할 점

❌ 1. "LLM은 실시간으로 인터넷을 검색해서 답하는 것이다?"

아닙니다. 기본 상태의 LLM은 이미 학습 완료된 '닫힌 두뇌'입니다. 모델 자체는 자신이 과거에 학습했던 기억(웨이트)에만 의존해서 답합니다. (실시간 검색이나 최신 정보 참조는 웹 검색 도구나 RAG라는 보조 장치가 붙었을 때 가능합니다.)

❌ 2. "LLM은 사실과 거짓을 구분해서 말한다?"

아닙니다. LLM은 '진실'을 판단하는 알고리즘이 아니라 **'그럴듯한 문장'**을 만들어내는 알고리즘입니다. 데이터가 부족하거나 모르는 내용이 나오면 너무나 뻔뻔하게 거짓말을 지어내는데, 이를 **환각 현상(Hallucination)**이라고 부릅니다.

LLM을 구성하는 네 층

LLM을 하나의 마법 상자로 보면 제품을 비교하기 어렵습니다. 실무에서는 네 층으로 나누면 판단이 선명해집니다.

층	하는 일	확인할 질문
토크나이저	문장을 토큰 ID로 바꿈	한국어·코드가 얼마나 잘게 쪼개지는가
Transformer	문맥 안 관계를 계산	문맥 길이와 어텐션 구조는 무엇인가
가중치	사전학습에서 배운 패턴 저장	어떤 데이터·시점·언어에 강한가
디코더	다음 토큰을 선택	temperature와 출력 제약을 어떻게 쓰는가

모델이 “안다”는 표현은 주의해서 써야 합니다. 사실이 데이터베이스의 한 행처럼 저장된 것이 아니라, 수많은 문맥에서 다음 토큰을 예측하는 데 유용한 패턴이 가중치 전체에 분산되어 있습니다.

학습과 사용은 다른 단계입니다

**사전학습(pre-training)**에서는 대규모 말뭉치의 다음 토큰을 맞히며 기본 능력을 만듭니다. **후속학습(post-training)**에서는 지시 데이터와 선호 데이터를 이용해 대화 방식과 안전 행동을 다듬습니다. 사용자가 질문하는 시점은 **추론(inference)**입니다. 이때 기본 모델은 새 지식을 장기 학습하지 않고, 현재 문맥 안에서만 조건부로 답을 만듭니다.

text

대규모 데이터 → 사전학습 → 기본 모델
                         ↓
             지시·선호 후속학습 → 대화 모델
                                      ↓
                           사용자 프롬프트 → 추론

성능표를 읽을 때 놓치기 쉬운 것

파라미터 수가 크다고 모든 과업에서 우수한 것은 아닙니다.
긴 문맥을 지원한다는 것과 긴 문맥의 모든 정보를 정확히 회수한다는 것은 다릅니다.
벤치마크 점수와 실제 한국어 문서·코드 품질은 다를 수 있습니다.
양자화는 메모리를 줄이지만 정확도와 생성 안정성에 영향을 줄 수 있습니다.
같은 모델도 시스템 프롬프트, 도구, RAG, 샘플링 설정에 따라 제품 경험이 크게 달라집니다.

실무 체크리스트

최신 사실은 검색·RAG·원문 확인으로 보강합니다.
중요한 출력은 스키마와 검증기로 확인합니다.
숫자·인용·법률·의학 정보는 별도 근거를 요구합니다.
입력 데이터의 민감도와 제공자의 보존 정책을 확인합니다.
모델명보다 실제 대표 과업 평가셋으로 선택합니다.

핵심 정리

이 용어는 AI 모델 하나가 아니라 데이터·소프트웨어·운영 절차와 연결해서 이해해야 합니다.
제품 설명보다 입력·출력·권한·평가 기준을 구체적으로 확인합니다.
중요한 결과와 행동은 근거, 검증기, 사람 승인으로 다시 확인합니다.

다음 개념

→ 더 깊게 보기: AI Native 장편 — LLM이란