챗봇에게 무언가를 물으면 척척 대답이 돌아옵니다. 그런데 가끔, 세상에 없는 책 제목이나 가짜 통계를 아주 당당하게 말할 때가 있죠. 왜 이렇게 똑똑한 AI가 이런 실수를 할까요?
AI 뉴스를 읽다 보면 '파인튜닝했다', '벡터 DB를 붙였다' 같은 말이 계속 나옵니다. 무슨 뜻인지 몰라도 그냥 넘어가셨나요? 사실 이 단어들은 전부 한 가지 이야기로 이어져 있습니다.
바로 'AI가 어떻게 지식을 얻고, 왜 가끔 틀리며, 그걸 어떻게 고치는가'라는 이야기예요. 오늘은 그 핵심 용어 네 가지를 초등학생도 알 수 있게 풀어 보겠습니다. 하나씩 천천히 따라와 주세요.
1. 할루시네이션 (Hallucination)
AI가 사실이 아닌 내용을 사실인 것처럼 지어내는 현상. 시험에서 모르는 문제에 그럴듯하게 답을 적어 내는 것과 비슷합니다.
할루시네이션(hallucination)은 원래 '환각'이라는 뜻입니다. AI가 마치 헛것을 보듯, 배우지 않은 정보를 상상해서 만들어 내는 것이죠. 문제는 말투가 너무 자신만만하다는 데 있습니다. AI는 '모르겠다'고 말하기보다 빈칸을 그럴듯한 문장으로 채우려는 성질이 있거든요 (침묵보다 아무 말이라도 하고 싶은 걸까요). 그래서 출처가 없는 답은 늘 한 번 더 확인해야 합니다.
이럴 때 써요: "이 챗봇이 알려준 논문이 검색해도 안 나와. 할루시네이션인 것 같으니 다시 확인해 보자."
2. 파인튜닝 (Fine-tuning)
이미 다 배운 AI에게 특정 분야를 추가로 훈련시키는 일. 다 자란 신입에게 우리 회사 방식을 가르치는 재교육과 같습니다.
파인튜닝(fine-tuning)을 직역하면 '미세 조정'입니다. 세상 지식을 두루 아는 기본 모델에, 우리 회사 상담 말투나 의료 용어 같은 전문 데이터를 더 얹어 학습시키는 것이죠. 그러면 그 분야에서 훨씬 똑똑해집니다. 다만 새로 가르치려면 잘 정리된 학습 데이터와 시간, 비용이 듭니다 (신입 교육은 어디나 쉽지 않은 법이죠). 지식이 모델 안에 몸에 배도록 새기는 방식이라고 생각하면 쉽습니다.
이럴 때 써요: "우리 병원 안내 챗봇은 일반 AI로는 부족해요. 의료 데이터로 파인튜닝합시다."
3. 임베딩 (Embedding)
글자의 '의미'를 컴퓨터가 계산할 수 있는 숫자 목록으로 바꾸는 일. 모든 단어에 지도 위 좌표를 찍어 주는 것과 같습니다.
컴퓨터는 글자를 그대로 이해하지 못합니다. 그래서 '강아지'와 '개'처럼 뜻이 가까운 말은 서로 가까운 숫자 좌표에, '강아지'와 '자동차'처럼 먼 말은 먼 좌표에 놓습니다. 이렇게 의미를 숫자 묶음(벡터)으로 바꾼 것이 임베딩(embedding)입니다. 덕분에 AI는 똑같은 글자가 아니라 '비슷한 뜻'을 기준으로 자료를 찾을 수 있게 됩니다. 검색이 키워드에서 의미로 진화한 셈이죠.
이럴 때 써요: "'환불 규정' 대신 '돈 돌려받기'라고 검색해도 찾아지네요. 임베딩 덕분이에요."
4. 벡터 데이터베이스 (Vector Database)
임베딩으로 만든 의미 좌표(벡터)를 모아 두고, 뜻이 비슷한 것을 빠르게 찾아 주는 저장소. 거대한 도서관의 주제별 색인과 같습니다.
벡터 데이터베이스(vector database), 줄여서 벡터 DB는 앞서 만든 숫자 좌표들을 차곡차곡 보관합니다. 질문이 들어오면 그 질문과 의미가 가장 가까운 자료를 순식간에 꺼내 오죠. 이렇게 꺼낸 자료를 AI 답변에 참고로 붙여 주는 방식을 RAG(검색 증강 생성)라고 부릅니다. 파인튜닝처럼 모델을 다시 훈련하지 않아도, 최신 자료나 사내 문서를 옆에 끼고 답하게 만들 수 있습니다. 그래서 할루시네이션을 줄이는 대표적인 방법으로 꼽힙니다.
이럴 때 써요: "매일 바뀌는 재고를 AI가 답하게 하려면? 파인튜닝보다 벡터 DB에 자료를 넣는 게 빨라요."
자주 묻는 질문
파인튜닝과 벡터 DB, 둘 중 무엇을 써야 하나요?
지식을 모델에 새겨야 하면 파인튜닝, 자주 바뀌는 자료를 참고하게 하면 벡터 DB가 유리합니다. 말투나 전문 분야 감각을 익히게 하려면 파인튜닝이 좋고, 최신 뉴스나 사내 문서처럼 계속 갱신되는 정보는 벡터 DB에 넣는 편이 빠르고 저렴합니다. 실제 현장에서는 둘을 함께 쓰는 경우도 많습니다.
할루시네이션은 완전히 없앨 수 있나요?
아쉽지만 100% 제거는 어렵습니다. 다만 벡터 DB로 근거 자료를 함께 주거나 출처를 표시하게 하면 크게 줄일 수 있습니다. 그래서 중요한 결정에는 AI 답변을 그대로 믿지 말고, 사람이 원문을 한 번 더 확인하는 습관이 필요합니다.
임베딩과 벡터 DB는 어떻게 다른가요?
임베딩은 '의미를 숫자로 바꾸는 작업'이고, 벡터 DB는 '그 숫자들을 모아 두고 검색하는 창고'입니다. 임베딩이 재료를 만드는 일이라면, 벡터 DB는 그 재료를 보관하고 꺼내 쓰는 저장소인 셈이죠. 둘은 짝을 이루어 함께 쓰입니다.
정리해 볼까요? 할루시네이션은 AI의 실수, 파인튜닝과 벡터 DB는 그 실수를 줄이는 두 갈래 방법, 임베딩은 그 사이를 잇는 다리였습니다. 이 네 단어만 알아도 AI 뉴스가 한결 쉽게 읽히실 거예요. 다음 편에서는 이 원리를 실제로 움직이는 'AI 에이전트' 용어 묶음 — 에이전트·워크플로·API 호출·툴 사용 — 을 이어서 풀어 보겠습니다. 오늘도 한 걸음 나아가셨습니다.
참고: Improving Retrieval and RAG with Embedding Model Fine-tuning (Databricks)