AI 실무 가이드 · 기초

🧪 AI 활용의 한계와 검증 습관 — 그럴듯한 오답을 다루는 법

생성형 AI는 사실이 아닌 내용을 자신 있게 말하는 경우가 있습니다. 이를 흔히 환각(hallucination)이라고 부릅니다. AI를 오래 잘 쓰는 사람의 공통점은 성능을 믿는 것이 아니라 검증 습관을 갖추고 있다는 점입니다.

2026-09-24 · 약 2분

이럴 때

  • AI 답변을 보고서·논문·민원 답변에 옮기기 직전
  • 법령·판례·통계 수치가 포함된 답변을 받았을 때
  • 답변이 지나치게 매끄럽고 확신에 차 있을 때

핵심

AI를 잘 쓰는 능력의 절반은 의심하는 능력입니다.

꼭 지킬 것

AI가 제시한 출처 자체가 존재하지 않을 수 있습니다. 링크와 서지사항도 직접 열어 확인합니다.

따라 하기

  1. 검증 대상을 표시한다수치·날짜·고유명사·법령 조항·인용문은 무조건 확인 대상으로 표시합니다.
  2. 원자료로 대조한다국가법령정보센터, 통계청, 원문 논문 등 1차 자료에서 직접 확인합니다.
  3. 출처를 요구한다'이 내용의 근거 자료를 제시하고, 확실하지 않은 부분은 표시해줘'라고 요청합니다.
  4. 반대 질문을 던진다'이 주장이 틀렸다면 어떤 근거 때문일까?'를 물어 답변의 약한 고리를 찾습니다.
  5. 최종 책임은 사람이 진다AI 도움을 받은 결과물이라도 공문·논문의 책임은 작성자에게 있다는 점을 기억합니다.

바로 쓰는 프롬프트

방금 답변에서 사실 확인이 필요한 항목(수치, 날짜, 법령, 고유명사)을 모두 뽑아
| 항목 | 답변 내용 | 확인할 1차 자료 | 확신도(상/중/하) |
표로 정리해줘. 확실하지 않은 내용은 확신도를 낮게 표시해줘.

함께 챙길 것

🏠
홈
👤
소개
💬
칼럼
⚙️
가이드
📋
노트