누구도 알려주지 않는 인공지능 이야기 - 인공지능의 모든 것

할루시네이션을 어떻게 막을 것인가거대 언어 모델이 일상의 도구가 된 지금, 가장 자주 도마 위에 오르는 결함은 단연 '할루시네이션(hallucination)'이다. 그럴듯한 문장으로 사실이 아닌 정보를 자신 있게 내놓는 이 현상은 단순한 오타나 계산 실수와는 결이 다르다. 모델은 자기가 무엇을 모르는지 모른 채, 학습된 확률 분포 위에서 가장 자연스러운 다음 단어를 골라내기 때문이다. 의료, 법률, 교육처럼 신뢰가 곧 안전과 직결되는 영역에서는 이 부정확성이 시스템 전체의 효용을 갉아먹는다. 그렇기에 할루시네이션을 '완전히' 없앨 수는 없더라도, 의미 있게 줄여 나갈 수 있는 실천적 방법을 정리해 둘 필요가 있다. 가장 널리 검증된 방법은 검색 증강 생성(Retrieval-Augmented Generat..

피지컬AI 2026. 5. 12. 10:00

AI는 왜 거짓말을 하는가― 할루시네이션의 구조에 관하여 거대언어모델이 자신만만하게 틀린 답을 내놓는 현상을 우리는 할루시네이션(hallucination)이라 부른다. 흥미롭게도 이 문제는 모델이 정교해질수록 자연히 소멸하리라던 초기의 낙관과 달리, 오히려 더 깊은 구조적 난제로 드러나고 있다. OpenAI가 2025년 9월에 발표한 논문 「Why Language Models Hallucinate」은 이 현상을 트랜스포머 구조의 우연한 결함이 아니라 통계적 학습 목표 자체에서 비롯되는 필연적 오류로 재정의한다. 같은 해 공개된 한 분석에 따르면, OpenAI의 추론 모델 o3와 o4-mini조차 인물에 관한 사실 질문(PersonQA)에서 각각 33퍼센트와 48퍼센트의 할루시네이션율을 기록했다. 즉 추론..

About AI 2026. 4. 29. 10:10