#할루시네이션
2개 글
AI가 자신있게 거짓말하는 순간 — 할루시네이션 메커니즘 + 5가지 신호 + 4가지 회피
ChatGPT 5 5-15%, Claude 4 3-10% 오류율. OpenAI 2025 "오답에 보상" 본질. 4가지 종류 (사실·논리·인용·자신감). 5가지 신호 + 4가지 회피 (Perplexity 50% 감소).
AI가 자신있게 거짓말하는 순간 — 할루시네이션 메커니즘과 5가지 신호
ChatGPT, Claude, Gemini에게 질문하면 가끔 "매우 자신있게 거짓말"합니다. 이를 "할루시네이션" (Hallucination)이라 합니다. 2026년 학계 측정 = ChatGPT 5 약 5-15%, Claude 4 약 3-10% (오류율). 가장 큰 문제 = AI가 "내가 모른다"고 말하지 않습니다. 무조건 답합니다.…