티스토리 뷰
"쉽게 설명해 줘" 한 마디로 AI에게 질문했다가 오히려 더 어려운 답변이 돌아온 경험, 저도 한두 번이 아닙니다. 질문이 짧을수록 AI는 내가 무엇을 모르는지 알 수 없고, 그 빈자리를 그럴듯한 전문 용어로 채웁니다. 결국 좋은 설명은 AI의 능력이 아니라 질문 설계에서 갈립니다.
짧은 질문이 만드는 긴 오해 — 질문 설계의 배경
처음 생성형 AI를 쓰기 시작했을 때, 저는 검색창에 타이핑하듯 질문했습니다. "인플레이션이 뭐야?", "블록체인 설명해 줘." 답변은 나왔지만 뭔가 어긋난 느낌이었습니다. 너무 교과서적이거나, 반대로 제가 이미 아는 내용을 장황하게 반복하는 식이었습니다.
그때는 AI가 부족하다고 생각했는데, 돌이켜보면 제 질문이 맥락을 전혀 담지 않았던 게 문제였습니다. 생성형 AI는 프롬프트(prompt), 즉 사용자가 입력하는 지시문 전체를 단서로 삼아 답변을 생성합니다. 여기서 프롬프트란 단순한 검색어가 아니라 AI에게 전달하는 상황·목적·형식까지 포함한 맥락 설계물을 의미합니다. 프롬프트가 짧을수록 AI는 가장 평균적인 답을 내놓을 수밖에 없습니다.
OpenAI의 공식 가이드라인도 같은 맥락을 강조합니다. 명확하고 구체적인 지시, 필요한 맥락 제공, 원하는 출력 형식 명시, 그리고 답변을 확인하며 질문을 수정하는 반복 과정을 권장합니다(출처: OpenAI Prompt Engineering Guide). 제가 경험으로 부딪혔던 그 벽을 공식 문서가 정확히 짚고 있었습니다.
특히 법률 문서나 행정 안내문처럼 정확성이 중요한 자료를 이해해야 할 때 이 차이가 극명했습니다. 문서를 통째로 붙여넣고 "요약해 줘"라고만 하면 AI는 원문의 표현을 그대로 가져와 다시 늘어놓는 경우가 많았습니다. 제가 원한 건 요약이 아니라 이해였는데 말입니다.
프롬프트 설계의 실제 — 조건을 쌓는 방식
제가 직접 써봤는데, 질문 방식을 바꾸는 것만으로 답변의 밀도가 완전히 달라집니다. 핵심은 대상·수준·목적·형식이라는 네 가지 조건을 프롬프트 안에 쌓는 것입니다. 예를 들어 "양자컴퓨터를 설명해 줘"와 "중학생에게 설명한다고 생각하고, 일상적인 비유를 써서, 개념→원리→사례 순서로 설명해 줘"는 같은 주제를 다루지만 결과물의 결이 전혀 다릅니다.
제가 가장 유용하게 쓴 방식은 이해 단계를 분리하는 것이었습니다. 복잡한 문서를 마주했을 때, 한꺼번에 모든 걸 이해하려 하지 않고 이렇게 나눴습니다.
- 1단계 — 수준 고지: "저는 이 분야를 처음 접합니다. 전문 용어 없이 설명해 주세요."
- 2단계 — 형식 지정: "목적 → 제가 해야 할 일 → 주의사항 순서로 정리해 주세요."
- 3단계 — 핀포인트 재질문: "두 번째 항목의 '기회비용' 개념만 일상 사례로 다시 설명해 주세요."
- 4단계 — 이해도 검증: "지금 설명한 내용을 제대로 이해했는지 확인할 쉬운 문제 3개를 내주세요."
- 5단계 — 심화 요청: "같은 내용을 IT 전공자 수준으로 다시 설명해 주세요."
솔직히 이건 예상 밖이었습니다. 3단계처럼 이해되지 않는 부분만 핀포인트로 지목해서 재질문하면, 전체 답변을 다시 요청할 때보다 훨씬 빠르게 그 개념이 정리됩니다. 메타인지(metacognition), 즉 내가 무엇을 모르는지 파악하는 능력을 AI와의 대화에 적용하는 셈입니다. 여기서 메타인지란 단순히 내용을 아는 것에서 그치지 않고, 내 이해의 빈틈이 어디인지를 스스로 인식하는 사고 능력을 뜻합니다.
또 하나 챙겨야 할 조건이 있습니다. 행정·법률·금융 관련 문서를 AI에게 분석시킬 때, "문서에 없는 내용은 추측하지 말고 '확인되지 않음'으로 표시해 달라"는 조건을 넣는 것입니다. 제 경험상 이 한 줄이 없으면 AI가 그럴듯하게 빈칸을 채워버리는 경우가 생깁니다. NIST AI 600-1 보고서도 생성형 AI의 환각(hallucination) 위험, 즉 사실이 아닌 정보를 자신 있게 생성하는 문제를 공식 위험 항목으로 명시하고 있습니다(출처: NIST AI Risk Management Framework, AI 600-1).
AI 답변을 믿기 전에 — 이해 검증과 비판적 수용
AI 질문법을 익히면서 한 가지 불편한 진실을 마주했습니다. 질문을 아무리 잘 설계해도, AI가 가진 정보 자체가 틀렸거나 오래된 것이라면 결과물도 틀립니다. 문장이 매끄럽고 자신 있어 보일수록 이 함정에 빠지기 쉽습니다. 제 경험상 이건 좀 다릅니다. 좋은 프롬프트는 더 나은 답변을 이끌어내지만, 답변의 정확성까지 보장하지는 않습니다.
그래서 저는 중요한 내용을 AI로 이해한 뒤에는 반드시 이해도 검증 단계를 넣습니다. "지금 설명한 내용을 제대로 이해했는지 확인할 수 있도록 문제를 하나씩 내주세요. 제가 답하면 틀린 부분을 짚어주세요." 이 방식으로 퀴즈를 받아보면, 읽는 것과 이해하는 것이 얼마나 다른지 바로 체감됩니다.
또한 AI의 답변을 받은 뒤 "이 내용에서 사실 확인이 필요한 부분을 따로 표시해 달라"고 요청하는 것도 습관이 됐습니다. 이렇게 하면 AI 스스로 불확실한 항목을 구분해 주기도 합니다. 물론 이것도 완벽하지 않아서, 법률·세금·의료처럼 판단의 결과가 무거운 분야는 반드시 원문과 공식 자료를 병행해서 확인합니다.
한 가지 더 생각해볼 점은 AI 의존도의 문제입니다. AI가 척척 정리해주는 설명에 익숙해지다 보면, 스스로 자료를 뒤지고 시행착오를 겪는 과정이 줄어들 수 있습니다. AI를 정답 자판기로 쓰는 것과 생각을 확장하는 보조 도구로 쓰는 것은 습관의 차이처럼 보이지만, 쌓이면 정보를 다루는 능력 자체의 차이가 됩니다. 제가 직접 느낀 부분이라 가볍게 보기 어렵습니다.
자주 묻는 질문
Q. "쉽게 설명해 줘"라고만 해도 되지 않나요?
A. 가능하지만 제 경험상 원하는 수준의 답변이 나오는 경우는 절반도 안 됩니다. AI는 '쉽다'의 기준을 모르기 때문에 평균적인 설명을 내놓습니다. "중학생도 이해할 수 있게, 일상 사례를 하나만 들어 설명해 줘"처럼 구체적인 조건을 한 줄이라도 추가하면 결과가 눈에 띄게 달라집니다.
Q. AI 답변이 틀렸는지 어떻게 알 수 있나요?
A. 가장 실용적인 방법은 AI에게 직접 "이 답변에서 사실 확인이 필요한 내용을 따로 표시해 줘"라고 요청하는 것입니다. 그래도 중요한 정보라면 반드시 공식 기관의 원문을 함께 확인해야 합니다. NIST AI 600-1 보고서도 생성형 AI의 환각 위험을 공식 위험 항목으로 명시하고 있습니다.
Q. 프롬프트에 조건을 많이 넣을수록 좋은 건가요?
A. 꼭 그렇지는 않습니다. 조건이 지나치게 많아지면 핵심 질문이 묻히고 AI가 조건 충족에만 집중하는 경향이 생깁니다. 제가 써보니 대상·수준·형식 세 가지 정도만 명확하게 넣어도 충분한 경우가 많았습니다. 길이보다 목적의 명확성이 더 중요합니다.
Q. AI로 공부하면 진짜 실력이 늘까요?
A. 방법에 따라 다릅니다. AI가 정리해 준 내용을 읽는 것과, AI에게 퀴즈를 받아 직접 답하고 피드백을 받는 것은 완전히 다른 경험입니다. 저는 설명을 받은 뒤 반드시 이해도 확인 문제를 요청하는데, 그 과정에서 제가 얼마나 대충 읽었는지 실감하게 됩니다. AI를 보조 도구로 쓰면 효과적이고, 정답 자판기로 쓰면 실력이 정체됩니다.
결론
AI 질문법을 익히면서 가장 크게 바뀐 건 AI를 대하는 태도입니다. 이전에는 답변을 읽고 넘기는 방식으로 썼다면, 지금은 질문하고 → 확인하고 → 모르는 부분을 다시 좁혀 질문하고 → 이해 검증 문제로 마무리하는 흐름을 하나의 습관으로 가져갑니다. 이 과정에서 AI는 검색 도구가 아니라 제 수준에 맞게 정보를 재구성해주는 보조자가 됩니다.
다만 AI의 답변을 출발점으로만 삼는 태도는 포기하지 않으려 합니다. 좋은 프롬프트가 좋은 답변을 끌어내는 건 맞지만, 그 답변을 받아들이고 판단하는 것은 결국 사람의 몫입니다. AI가 얼마나 발전하든 이 지점은 변하지 않을 것으로 보입니다.