최근 인공지능을 활용하는 사람들이 가장 자주 겪는 불편 가운데 하나가 바로 ‘AI 환각(hallucination)’이다. 챗봇이나 생성형 AI가 실제로는 존재하지 않는 정보를 자신 있게 말하는 현상인데, 이 문제는 기술 신뢰성을 흔들며 전 세계적으로 우려를 낳아왔다. 그런데 드디어 OpenAI가 환각의 근본 원인을 규명하고, 공식 논문을 통해 결과를 공개했다. 이번 발표는 향후 AI 발전 방향에 있어 중요한 변곡점으로 평가받고 있다. 1. OpenAI가 AI 환각 문제의 구조적 원인을 규명했다. 2. 정확도만 중시하는 평가 체계가 불확실성 인정을 억눌렀다. 3. “모른다”라는 대답을 허용했을 때 환각이 크게 줄어든 것으로 확인됐다. OpenAI 연구진은 환각을 단순한 오류가 아닌 ‘구조적 산물..
