LLM이란 무엇인가
생성일 : 2026.09.10 14:36
- LLM은 거대한 텍스트 데이터를 학습해 “다음에 올 단어”를 확률적으로 예측하도록 훈련된 모델이다.
- 정답을 “알고” 답하지 않고 가장 그럴듯한 문장을 생성하기 때문에 가끔 사실과 다른 답을 낼 수 있다(Hallucination).
- 기존 프로그램은 규칙 기반(if/else)으로 동작해 예측 불가능성이 낮고 유연성이 낮은 반면, LLM은 확률 기반 학습으로 높은 예측 불가성과 높은 유연성을 제공한다.
- 입력 → 확률 계산 → 출력 과정을 거치므로 프롬프트에 따라 결과가 달라지는 특징이 있다.
AI는 어떻게 답변을 만드는가
핵심 : 클로드는 “다음에 올 단어”를 예측하는 기계
거창한 지능이 있는 게 아니라, 엄청난 양의 텍스트를 학습해서 “이 문맥 다음엔 어떤 단어가 올 확률이 높은가”를 계산하는 구조
학습 과정 예시
1. 인터넷, 책, 코드 등 수천억 개의 문장을 읽는다.
2. "이 문장 다움엔 어떤 단어?"를 수백억 번 반복해서 맞춤
3. 맞추면서 내부 파라미터(수치들)를 조금씩 조정
4. 그 결과 -> "그럴듯한 텍스트를 새엇ㅇ하는 능력"이 생김
인간이 언어를 배우는 것과 비슷하다. 수없이 많은 문장을 접하면서 자연스러운 표현을 익히는 것
왜 가끔 틀리는가?
확률 기반이기 때문
정답을 “알고”답하는 게 아니라, 가장 그럴듯한 텍스트를 생성하는 것
사실과 다르더라도 그럴듯하면 자신있게 틀림.
→ Hallucination이 생기는 이유
LLM과 기존 프로그램 차이
기존 프로그램 | LLM | |
|---|---|---|
동작 방식 | 규칙 기반 ( | 확률 기반 |
학습 | 개발자가 직접 규칙 작성 | 데이터로 스스로 학습 |
예측 불가능성 | 낮음 | 높음 |
유연성 | 낮음 | 높음 |
FE 관점으로 예 :
기존
input → 정해진 로직 → output이었는데,LLM은
input → 활률 계산 → output
핵심 요약
LLM은 다음 단어를 예측하도록 훈련된 모델
정답을 아는 게 아니라 그럴듯한 텍스트를 생성하는 것
그래서 틀려도 자신있게 말하고, 프롬프트에 따라 결과가 달라짐