환각 현상 (Hallucination)

정의

인공지능이 존재하지 않는 사실을 마치 진실인 것처럼 그럴듯하게 지어내어 답변하는 오류를 의미합니다.

핵심 특징

  • 모델이 다음에 올 확률이 높은 단어를 조합하는 과정에서 사실 관계를 무시하고 문맥만 맞추려 할 때 발생함
  • 학습 데이터에 포함되지 않은 최신 정보나 전문적인 수치를 질문할 때 빈번하게 나타남
  • 문법적으로 매우 매끄러워 사용자가 육안으로 허위 사실을 판별하기 어렵게 만듦

관련 항목

  • [[grounding]]
  • [[web-iq]]

인용 출처

haruzine 관점

AI의 유창함이 신뢰의 척도가 될 수 없음을 보여주는 생성형 모델의 구조적 한계

마지막 검토

2026-06-24