신뢰의 재구성 ― AI 생성물을 효과적으로 검증하는 법
신뢰의 재구성 ― AI 생성물을 효과적으로 검증하는 법 2023년, 뉴욕의 한 변호사가 자신이 맡은 항공사 상대 소송에서 챗봇이 만들어 준 판례 여섯 건을 법원에 제출했다. 담당 판사는 그 판례들이 존재하지 않는 허위 판결이며, 인용문과 내부 인용까지 모두 날조된 것이라고 지적했다. 더 놀라운 대목은, 변호사가 챗봇에게 "이 판례가 진짜냐"고 되묻자 도구가 진짜라고 확언했다는 사실이다. 이 사건은 하나의 해프닝으로 끝나지 않았다. 프랑스 HEC 파리의 연구자 다미앙 샤를로탱이 관리하는 데이터베이스에 따르면, 법원이 AI가 만들어 낸 허위 인용을 문제 삼은 사례는 전 세계적으로 1,400건을 넘어섰고, 2026년 5월에는 미국 오리건주에서 두 변호사가 조작된 인용 스물세 건을 제출한 대가로 11만 달러의 ..
About AI
2026. 7. 10. 09:40
