AI 답변 사실 확인하는 법: 환각을 걸러 내는 실전 요령

"출처를 알려 줘"의 한계

많은 분이 출처를 요청하면 해결된다고 생각하지만, 그렇지 않습니다. AI는 출처처럼 보이는 제목, 저자, 링크 주소까지 그럴듯하게 만들어 낼 수 있습니다. 웹 검색 기능이 켜진 상태라면 실제 페이지를 참고하는 경우가 많아 상황이 나아지지만, 그때도 인용한 문장이 원문 내용과 다를 수 있습니다.

그래서 출처는 "받는 것"이 아니라 "직접 열어 보는 것"까지 해야 의미가 있습니다. 링크를 눌러 실제로 존재하는지, 그 페이지에 정말 그런 내용이 있는지, 작성일이 언제인지 확인하세요.

단계별 사실 확인 방법

1단계: 확인이 필요한 문장 골라내기

AI 답변 전체를 다 검증할 필요는 없습니다. 숫자, 날짜, 고유명사, 법·규정, "반드시", "항상" 같은 단정 표현이 들어간 문장만 표시해 두세요. 이것만으로 확인할 양이 크게 줄어듭니다.

2단계: AI에게 스스로 불확실한 부분을 표시하게 하기

방금 답변에서 사실 확인이 필요한 주장을 모두 목록으로 뽑아 줘.
각 항목마다
1) 확실한 정도(높음/보통/낮음)
2) 확인하려면 어떤 공식 기관이나 자료를 봐야 하는지
를 함께 적어 줘. 모르는 것은 모른다고 표시해 줘.

이 방법이 정확성을 보장하지는 않지만, 어디부터 확인해야 할지 우선순위를 잡는 데 도움이 됩니다.

3단계: 공식 출처에서 직접 확인하기

• 법률·제도: 국가법령정보센터 같은 정부 법령 사이트, 담당 부처의 공식 발표 자료
• 세금·급여: 국세청 등 관련 기관의 공식 안내
• 통계: 국가 통계 포털 같은 공식 통계 기관 자료
• 의학·약: 의사·약사 상담, 식품의약품 관련 공식 기관의 의약품 정보
• 회사·제품 정보: 해당 회사의 공식 홈페이지나 공시 자료

4단계: 다른 방법으로 한 번 더 검증하기

같은 질문을 표현을 바꿔 다시 묻거나, 다른 AI 서비스에 물어 답이 일치하는지 보는 것도 참고가 됩니다. 단, AI끼리 답이 같다고 해서 사실이라는 보장은 없습니다. 최종 판단은 공식 출처로 해야 합니다.

처음부터 환각을 줄이는 프롬프트

나쁜 예

프리랜서 종합소득세 신고할 때 경비 처리 되는 항목 다 알려 줘

좋은 예

프리랜서 종합소득세 신고 준비를 위해
경비 처리 여부를 확인해야 할 항목을 정리하려고 해.

[요구사항]
1. 일반적으로 검토 대상이 되는 경비 항목을 표로 정리
2. 각 항목에 "세무서나 세무사에게 확인 필요" 여부를 표시
3. 확실하지 않은 내용은 추측하지 말고 "확인 필요"라고 적을 것
4. 마지막에 어떤 공식 기관 자료를 확인하면 되는지 알려 줄 것

[제약]
- 법령 조항 번호를 지어내지 말 것

"추측하지 말 것", "모르면 모른다고 할 것"을 명시하면 단정적인 오답이 줄어듭니다. 또한 결과를 "최종 답"이 아니라 "확인할 목록"으로 받는 구조라서, 자연스럽게 검증 단계로 이어집니다.

숫자·법·건강은 특히 조심하세요

세율, 공제 한도, 지원금 요건, 근로 기준 같은 제도는 해마다 바뀝니다. AI가 학습한 시점 이후의 변경 사항은 반영되지 않았을 수 있습니다. 약 복용, 증상 판단 같은 건강 정보는 AI 답변을 참고로만 쓰고 반드시 의사나 약사와 상담하세요. 계약서나 법적 분쟁은 전문가 검토 없이 AI 답변만으로 결정해서는 안 됩니다.

AI는 "초안을 빨리 만드는 동료"로 쓰고, 사실 확인과 최종 판단은 사람이 맡는다. 이 역할 분담만 지키면 AI를 훨씬 안심하고 활용할 수 있습니다.

보고서나 기획서처럼 숫자가 많이 들어가는 문서를 AI로 쓸 때는, 기획·보고서 카테고리의 템플릿으로 구조를 잡고 숫자는 직접 확인한 자료로 채우는 방식을 추천합니다.