AI 할루시네이션, 무엇이 문제일까?
AI 할루시네이션, 무엇이 문제일까? AI에게 질문하면 막힘없이 답이 돌아온다. 문장은 매끄럽고 말투는 확신에 차 있다. 그런데 그 답이 통째로 지어낸 것이라면 어떨까. 이것이 AI 할루시네이션이다. 우리말로는 ‘AI 환각’이라고도 부른다. 챗GPT를 만든 OpenAI는 할루시네이션을 ‘그럴듯하지만 사실이 아닌 진술’이라고 정의한다. 연구진이 직접 겪은 사례도 있다. 널리 쓰이는 챗봇에게 논문 저자 한 사람의 박사 학위 논문 제목을 물었더니, 세 번 모두 다른 제목을 자신 있게 내놓았다. 그중 맞는 답은 하나도 없었다. AI 언어 모델은 방대한 글을 읽고 ‘다음에 올 가장 그럴듯한 단어’를 예측하도록 훈련된다. 맞춤법이나 문장 구조처럼 규칙이 뚜렷한 것은 잘 배운다. 하지만 특정인의 생일처럼 자료에 드물..
About AI
2026. 11. 5. 09:42
