같은 AI 챗봇에게 똑같은 질문을 했는데, 친구는 척척 좋은 답을 받고 나는 엉뚱한 답을 받은 적 있나요? 분명 같은 도구인데 결과가 다릅니다.
사실 비밀은 AI가 아니라 질문하는 방법에 있어요. 어떻게 묻느냐에 따라 답의 품질이 확 달라집니다. 그런데 이 '잘 묻는 방법'에는 저마다 이름이 붙어 있습니다. 제로샷? 퓨샷? 처음 들으면 암호 같죠.
그래서 오늘은 AI에게 잘 물어보는 네 가지 방법의 이름을 하나씩 풀어봅니다. 제로샷·퓨샷·생각의 사슬·시스템 프롬프트. 다 읽고 나면 앞으로 챗봇에게 무엇을 부탁할지 훨씬 또렷해질 거예요.
1. 제로샷 프롬프트 (Zero-shot Prompting)
예시를 하나도 주지 않고 질문만 툭 던지는 방식입니다. 처음 보는 문제를 시험지에서 바로 푸는 것과 같아요.
제로샷(zero-shot)에서 '샷(shot)'은 '예시 한 번'을 뜻합니다. 예시가 0개라서 제로샷이에요. AI는 미리 배워 둔 지식만으로 답을 만들어 냅니다. "이 문장을 영어로 바꿔 줘"처럼 간단하고 익숙한 일에 잘 맞아요. 다만 원하는 형식이 아주 확실할 때는 결과가 조금 아쉬울 수 있습니다.
이럴 때 써요: "다음 문장을 정중한 말투로 고쳐 줘"처럼 설명만으로 충분한 간단한 요청.
2. 퓨샷 프롬프트 (Few-shot Prompting)
원하는 답의 예시를 두세 개 먼저 보여 주고 시키는 방식입니다. 요리를 말로 설명하는 대신 완성 사진을 몇 장 보여 주는 셈이죠.
퓨샷(few-shot)의 '퓨(few)'는 '몇 개'라는 뜻이에요. 예시를 몇 개 붙여 주면 AI가 그 형식을 그대로 따라 합니다. IBM의 설명에 따르면, 예시를 주는 편이 아무것도 주지 않는 제로샷보다 정확도가 높다고 해요. 표를 만들거나 말투를 딱 맞춰야 할 때 특히 힘을 발휘합니다.
이럴 때 써요: "이렇게 정리해 줘"라며 예시 표 두 개를 먼저 보여 주고 나머지를 채우게 할 때.
3. 생각의 사슬 (Chain of Thought)
정답만 말하지 말고, 푸는 과정을 하나씩 소리 내어 말하게 하는 방법입니다. 수학 문제의 풀이 과정을 적게 하는 것과 같아요.
생각의 사슬(Chain of Thought, CoT)은 AI가 생각을 사슬처럼 한 칸씩 잇도록 유도합니다. "차근차근 생각해 보자"라는 한마디만 붙여도 효과가 있어요. 복잡한 계산이나 여러 단계를 거치는 문제에서 실수를 크게 줄여 줍니다. 답이 왜 그렇게 나왔는지 우리가 확인하기도 쉽죠.
이럴 때 써요: "왜 그런지 단계별로 설명하면서 답을 알려 줘"라고 추론이 필요한 문제를 낼 때.
4. 시스템 프롬프트 (System Prompt)
대화가 시작되기 전에 "너는 이런 역할이야"라고 미리 정해 두는 밑바탕 지시입니다. 연극 배우에게 배역을 정해 주는 것과 비슷해요.
시스템 프롬프트(system prompt)는 우리가 매번 입력하는 질문과 달리, 대화 전체에 계속 적용되는 규칙입니다. "너는 친절한 초등학교 선생님이야"라고 정해 두면 답변 말투가 쭉 유지돼요. 챗봇 서비스를 만드는 사람들이 뒤에서 자주 쓰는 장치이기도 합니다.
이럴 때 써요: "항상 존댓말로, 세 줄 이내로 답해 줘"처럼 대화 내내 지킬 규칙을 미리 세팅할 때.
자주 묻는 질문
제로샷과 퓨샷 중 무엇을 먼저 써야 하나요?
간단하고 익숙한 요청이면 제로샷으로 충분합니다. 먼저 짧게 물어보고, 결과가 원하는 형식과 다르면 그때 예시를 두세 개 붙여 퓨샷으로 바꿔 보세요. 예시는 많다고 늘 좋은 것은 아니며, 두세 개만으로도 답이 눈에 띄게 정돈됩니다.
생각의 사슬은 어떤 문제에 효과가 큰가요?
계산, 논리 퍼즐, 여러 단계를 거치는 추론처럼 '중간 과정'이 있는 문제에서 특히 도움이 됩니다. 반대로 단어 뜻처럼 한 번에 답이 나오는 질문에는 굳이 필요하지 않아요. 과정을 함께 보여 달라고 하면 답이 맞는지 검토하기도 쉬워집니다.
시스템 프롬프트는 일반 사용자도 쓸 수 있나요?
네, 쓸 수 있습니다. 많은 AI 서비스가 '맞춤 설정'이나 '역할 지정' 같은 메뉴로 이 기능을 열어 둡니다. 여기에 말투나 규칙을 적어 두면 매번 반복해서 부탁하지 않아도 돼요. 다만 서비스마다 이름과 위치가 조금씩 다르니 설정 화면을 한 번 살펴보세요.
오늘은 AI에게 잘 물어보는 네 가지 방법을 살펴봤습니다. 예시를 주느냐(제로샷·퓨샷), 과정을 시키느냐(생각의 사슬), 역할을 정하느냐(시스템 프롬프트)로 나눠 기억하면 훨씬 쉬워요. 다음 글에서는 한 걸음 더 들어가, 'AI 에이전트' 시대의 핵심 용어인 에이전트·함수 호출·MCP·오케스트레이션을 풀어 볼게요. (드디어 AI가 스스로 일을 하기 시작합니다.)