챗GPT에게 뭔가 물어보면, 답변 옆이나 뉴스 기사에 'LLM'이니 '토큰'이니 하는 말이 슬쩍 따라붙습니다. 뜻을 몰라도 대화는 되지만, 어쩐지 나만 빼고 다들 아는 것 같아 찜찜하셨죠?
사실 이 용어들, 알고 보면 하나도 어렵지 않습니다. 운전을 배울 때 '핸들'과 '브레이크'만 알아도 출발할 수 있는 것처럼요. AI도 딱 몇 개의 단어만 잡으면 대화가 훨씬 편해집니다.
그래서 오늘은 AI와 대화할 때 가장 자주 튀어나오는 용어 6가지를, 초등학생도 그대로 알아듣게 풀어 드리겠습니다.
오늘 배울 용어, 한눈에 보기
위 여섯 단어가 오늘의 주인공입니다. 이름만 봐서는 딱딱해 보이지만, 하나씩 뜯어보면 의외로 친근한 개념이에요. 급하시면 이 카드만 저장해 두셔도 좋습니다.
AI는 무엇에 강하고, 무엇에 약할까요?
용어를 배우기 전에 큰 그림 하나만 기억해 주세요. AI는 글을 이해하고 만드는 '언어'에는 무척 강하지만, '사실'을 정확히 아는 데는 약합니다. 이 성격을 알면 아래 용어들이 왜 중요한지 자연스럽게 이해됩니다.
자, 그럼 준비가 됐습니다. 지금부터 하나씩, 천천히 풀어 보겠습니다.
1. LLM (대규모 언어 모델)
수많은 글을 읽고 '다음에 올 말'을 기막히게 잘 맞히는, AI의 언어 두뇌예요. 책을 수백만 권 읽은 이야기꾼이라고 생각하면 쉽습니다.
LLM은 Large Language Model, 우리말로 '대규모 언어 모델'의 줄임말입니다. 인터넷에 있는 방대한 글을 학습해서, 문장을 보고 그다음에 어떤 단어가 올지 확률로 예측하는 프로그램이에요. 우리가 쓰는 챗GPT·클로드·제미나이가 모두 이 LLM 위에서 돌아갑니다.
똑똑해 보이지만, 그 속을 들여다보면 '가장 그럴듯한 다음 단어'를 골라 이어 붙이는 거대한 자동완성에 가깝습니다. 이 점을 기억해 두면 뒤에 나올 '환각'도 쉽게 이해돼요.
이럴 때 써요: "이 챗봇은 어떤 LLM을 쓰나요?"처럼 AI의 '두뇌 모델'이 무엇인지 물을 때 씁니다.
2. 프롬프트 (Prompt)
내가 AI에게 건네는 질문이나 지시, 즉 '입력하는 말'이에요. 요리사에게 건네는 주문서라고 보면 됩니다.
프롬프트(Prompt)는 우리가 AI에게 입력하는 문장 전체를 가리킵니다. "이 글을 세 줄로 요약해 줘" 같은 한 문장이 바로 프롬프트예요. 주문서를 정확히 쓸수록 원하는 요리가 나오듯, 프롬프트를 구체적으로 쓸수록 답변의 질이 확 올라갑니다.
같은 AI라도 프롬프트에 따라 결과가 하늘과 땅 차이입니다. 그래서 요즘은 프롬프트를 잘 쓰는 법 자체가 하나의 기술로 대접받죠.
이럴 때 써요: "프롬프트를 더 자세히 적어 보세요"라는 말은, 곧 "지시를 더 구체적으로 써 보세요"라는 뜻입니다.
3. 토큰 (Token)
AI가 글을 잘게 쪼갠 '조각'이에요. 동시에 AI 사용 요금을 매기는 기준이 되기도 합니다.
AI는 문장을 통째로 읽지 않고, 토큰(Token)이라는 작은 조각으로 쪼개서 처리합니다. 보통 한글은 한두 글자가 토큰 하나 정도예요. 택시 요금이 거리로 매겨지듯, AI 서비스 요금도 대개 주고받은 토큰 수로 계산됩니다.
그래서 긴 글을 넣고 긴 답을 받을수록 토큰을 많이 쓰고, 비용도 올라갑니다. 무료로 쓸 때도 "토큰 한도에 도달했다"는 안내를 만나는 이유가 여기에 있어요.
이럴 때 써요: "이 모델은 토큰당 얼마인가요?"는 곧 "얼마나 쓰면 요금이 얼마인가요?"를 묻는 말입니다.
4. 파라미터 (Parameter)
AI가 학습하며 스스로 맞춰 둔 '숫자 손잡이'예요. 많을수록 대체로 더 똑똑해집니다.
파라미터(Parameter)는 AI 모델 속에 들어 있는, 학습으로 조정된 수많은 숫자값을 말합니다. 라디오 주파수를 맞추는 손잡이처럼, 이 숫자들이 잘 맞춰져 있어야 그럴듯한 답이 나와요. 요즘 큰 모델은 이 손잡이가 수십억, 수천억 개에 이릅니다.
다만 파라미터가 많다고 무조건 좋은 것은 아닙니다. 크기보다 학습을 얼마나 잘했는지가 더 중요할 때도 많거든요. '몸집'을 재는 하나의 잣대 정도로 봐 주세요.
이럴 때 써요: "이 모델은 파라미터가 몇 개예요?"는 AI의 대략적인 '덩치'를 물을 때 쓰는 표현입니다.
5. 환각 (Hallucination)
그럴듯한데 사실은 틀린 답을, AI가 아주 당당하게 말하는 현상이에요. 아는 척 잘하는 친구를 떠올리면 됩니다.
환각(Hallucination)은 AI가 없는 사실을 지어내거나, 틀린 정보를 그럴듯하게 말하는 것을 뜻합니다. 앞서 봤듯 AI는 '가장 그럴듯한 다음 단어'를 고르기 때문에, 자신이 틀렸다는 것조차 모른 채 술술 답할 수 있어요. 말투가 자신만만하다고 내용까지 맞는 건 아닙니다.
그래서 날짜·숫자·이름·인용처럼 정확성이 중요한 정보는 반드시 직접 확인하셔야 합니다. AI를 '똑똑하지만 가끔 헷갈리는 조수'로 대하면 딱 좋아요.
이럴 때 써요: "이거 환각 아니야?"는 "이 답, 지어낸 것 아니야?"라고 의심할 때 쓰는 말입니다.
6. 파인튜닝 (Fine-tuning)
이미 만들어진 AI에 특정 자료를 더 가르쳐, '전문가'로 다듬는 작업이에요. 대학 나온 신입에게 회사 업무를 가르치는 것과 비슷합니다.
파인튜닝(Fine-tuning)은 널리 쓰이는 범용 모델에 특정 분야의 데이터를 추가로 학습시키는 과정입니다. 예를 들어 법률 문서만 잔뜩 더 학습시키면, 법률 질문에 강한 AI가 되는 식이에요. 바닥부터 새로 만드는 것보다 훨씬 빠르고 저렴합니다.
덕분에 병원·법률·상담처럼 전문 지식이 필요한 곳에서 '맞춤형 AI'를 만들 때 자주 쓰입니다. 같은 뿌리에서 나온 AI가 저마다 다른 특기를 갖게 되는 비결이죠.
이럴 때 써요: "우리 회사 데이터로 파인튜닝했어요"는 "우리 자료로 AI를 전문가처럼 훈련했어요"라는 뜻입니다.
자주 묻는 질문
이 용어들을 꼭 다 외워야 하나요?
외울 필요는 없습니다. 다만 'LLM=AI 두뇌', '프롬프트=내 질문', '토큰=요금 단위'처럼 한 줄 감각만 있으면, AI 뉴스나 서비스 설명을 읽을 때 훨씬 덜 헤맵니다. 자주 보다 보면 자연스럽게 익숙해져요.
환각을 완전히 없앨 수는 없나요?
현재 기술로는 완전히 없애기 어렵습니다. AI가 확률로 답을 만드는 구조 자체에서 생기는 현상이기 때문이에요. 그래서 중요한 정보는 사람이 직접 확인하는 습관이 가장 확실한 대비책입니다.
토큰이 많으면 답이 더 좋아지나요?
꼭 그렇지는 않습니다. 토큰은 어디까지나 '주고받은 글의 양'을 세는 단위일 뿐이에요. 길게 쓴다고 좋은 답이 나오는 게 아니라, 프롬프트가 얼마나 명확한지가 답의 질을 좌우합니다.
마치며, 다음 편 예고
오늘은 AI와 대화할 때 꼭 마주치는 여섯 단어, LLM·프롬프트·토큰·파라미터·환각·파인튜닝을 풀어 봤습니다. 이제 답변 옆에 이런 말이 떠도 당황하지 않으시겠죠?
다음 편에서는 한 걸음 나아가, AI 뉴스에 자주 나오는 용어 6가지 — 생성형 AI·멀티모달·추론 모델·오픈소스·온디바이스·AGI를 쉽게 정리해 드리겠습니다. 뉴스가 술술 읽히는 그날까지, 천천히 함께 가요.
이 시리즈의 다른 글
- AI 뉴스에 자주 나오는 용어 6가지 — 생성형 AI·멀티모달·추론 모델·오픈소스·온디바이스·AGI
- AI를 더 잘 쓰게 해주는 용어 4가지 — 컨텍스트 윈도우·시스템 프롬프트·RAG·AI 에이전트
참고 출처: Google Cloud 생성형 AI 용어집