AI Trend Research

← AI 용어집

AI 용어집 · 입문 · 언어 모델

LLM 대규모 언어 모델

LLM(대규모 언어 모델)은 아주 많은 글을 읽고 배워서 사람처럼 글을 이해하고 써 내는 AI 프로그램입니다. 질문에 답하고, 요약하고, 번역하고, 글을 쓰는 일을 합니다.

쉽게 말하면 수많은 책을 읽어서 문장이 어떻게 이어지는지 감으로 아는 '글쓰기 달인'과 비슷합니다. 다만 사람처럼 경험으로 세상을 아는 것은 아니고, 글의 패턴을 배운 것이라는 차이가 있습니다.

어떻게 작동하나

LLM은 문장을 잘게 나눈 조각(토큰)을 보고 다음에 올 조각을 예측하도록 학습합니다. 이 예측을 계속 이어 붙이면 긴 답변이 만들어집니다. 학습할 때 엄청난 양의 글을 사용하고, 그 과정에서 모델 안의 수많은 숫자(파라미터)가 조정됩니다. 요즘 LLM은 대부분 '트랜스포머'라는 구조를 바탕으로 만들어집니다.

왜 중요한가

LLM은 챗봇, 검색, 코딩 도우미, 문서 작성 도구 등 지금 쓰이는 많은 AI 서비스의 핵심 엔진입니다. 특정 작업마다 따로 프로그램을 만들지 않아도, 말로 지시하는 것만으로 여러 일을 처리할 수 있다는 점이 큰 변화입니다. 그래서 기업과 국가들이 자체 LLM을 만들거나 도입하려고 경쟁하고 있습니다.

알아 둘 점

LLM은 그럴듯하지만 틀린 내용을 만들어 낼 수 있는데, 이를 '환각'이라고 부릅니다. 또 학습한 시점 이후의 정보는 따로 알려 주지 않으면 모릅니다. 중요한 내용은 출처를 확인하는 습관이 필요합니다. 모델마다 잘하는 언어나 분야가 다르다는 점도 기억해 두면 좋습니다.

예시

이 사이트에 소개된 'Falcon-Emirati'처럼, 특정 지역의 방언과 문화를 잘 이해하도록 만든 LLM도 있습니다. 범용 LLM이 놓치기 쉬운 지역 표현이나 관습을 더 잘 다루도록 해당 지역의 글을 중심으로 학습시킨 사례입니다.

이 사이트에서 나온 사례

함께 보면 좋은 용어

토큰 파라미터 트랜스포머 환각 프롬프트 파인튜닝