인공지능(AI) 기술 발전과 함께 그 부작용인 '환각(Hallucination)' 현상이 심각한 문제로 대두되고 있다. AI가 사실과 다른 정보를 그럴듯하게 생성하거나 존재하지 않는 내용을 지어내는 현상이 반복되면서, 특히 언론의 신뢰도와 정보 검색의 정확성에 대한 근본적인 질문을 던지고 있다.

 

최근 미국 언론계에서 발생한 사건은 AI 환각의 위험성을 여실히 보여준다. 미국 주요 언론사인 시카고 선타임스와 필라델피아 인콰이어러가 여름 특집 섹션에 게재한 추천 도서 목록 대부분이 허위로 드러났다. 시카고 선타임스가 지난 5월 18일 보도한 '2025년 여름 추천도서' 기사에 소개된 15권의 책 중 실제 존재하는 책은 단 5권뿐이었다. 나머지 10권은 AI가 마치 실제 책인 것처럼 지어낸 가짜였다. 심지어 이사벨 아예데와 같이 실존하는 유명 작가를 언급하면서도 그가 쓰지 않은 '타이드워터 드림스'라는 소설을 추천하는 등 매우 정교하게 허위 정보를 생성했다.

 

이 문제는 404미디어, 뉴욕타임스 등 다른 언론들의 보도를 통해 확산되었다. 해당 기사를 작성한 프리랜서 필자는 논란이 커지자 자신이 AI 모델인 클로드를 활용해 기사를 작성했음을 시인했다. 이는 시카고 선타임스가 최근 직원 20%가 희망퇴직으로 회사를 떠나는 등 인력난을 겪고 있는 상황과 맞물려, 비용 절감 등을 위해 AI에 과도하게 의존할 경우 발생할 수 있는 문제점을 극명하게 보여준다.

 

AI가 생성한 콘텐츠로 인한 언론의 문제는 이번이 처음이 아니다. 앞서 미국 IT 전문 매체 씨넷(CNET)은 2022년 금융 서비스 관련 기사 77건을 AI가 작성했음을 뒤늦게 밝혀 논란이 일었다. 당시 씨넷은 AI 작성 사실을 투명하게 공개하지 않았을 뿐만 아니라, 해당 기사들에서 다수의 사실 관계 오류가 발견되어 큰 비판을 받았다. 또한, 2023년 6월에는 아일랜드 일간지 아이리시타임스가 AI가 작성한 것으로 강력하게 의심되는 독자 기고문을 게재했다가 삭제하고 사과하는 일이 있었다. 아이리시타임스는 편집자 칼럼을 통해 "신문이 정교한 사기에 희생양이 됐다"며, 기고문과 첨부된 사진이 생성형 AI 기술로 만들어졌을 가능성이 높다고 밝혔다. 이러한 사례들은 AI가 생성한 정보가 얼마나 그럴듯하게 위장될 수 있는지, 그리고 이를 제대로 검증하지 않았을 때 언론의 신뢰도에 얼마나 치명적인 타격을 입힐 수 있는지를 보여준다.

 

AI 환각 현상은 비단 언론계만의 문제가 아니다. 생성형 AI가 학교 과제나 업무 보고서 작성 등 다양한 분야에서 활용되고 있지만, 정보 검색이나 사실 확인 용도로는 부적절하다는 지적이 끊이지 않는다. AI는 사실과 다른 내용을 포함하거나, 존재하지 않는 인물, 장소, 사건 등 고유명사를 지어내기도 한다. 심지어 존재하지 않는 기사 제목이나 웹사이트 링크를 제시하며 정보의 출처를 조작하는 경우도 발생한다.

 

미국 컬럼비아대학원 컬럼비아저널리즘리뷰가 지난 3월 공개한 연구 결과는 이러한 문제를 통계적으로 뒷받침한다. 20개 언론사의 기사에서 발췌한 내용을 AI에 제시하고 해당 기사의 제목, 출처, 발행일, URL 등을 묻는 방식으로 총 1600건의 검색을 수행한 결과, AI는 60% 이상에서 잘못된 답변을 내놓았다. 실제와 다른 출처를 제시하거나, 존재하지 않는 웹 주소를 만들어내는 등의 오류가 흔하게 발견되었다. 국내에서도 챗GPT가 "세종대왕이 훈민정음 창제 이후 맥북을 던졌다"는 허무맹랑한 답변을 내놓고, 이를 조선왕조실록에 기록되어 있다고 주장한 사건이 큰 화제가 되기도 했다. 이는 AI가 사실과 허구를 구분하지 못하고 그럴듯하게 이야기를 꾸며내는 환각 현상의 대표적인 예시다.

 

그럼에도 불구하고 AI를 정보 검색 도구로 활용하는 사용자는 빠르게 늘고 있다. 컬럼비아저널리즘리뷰 조사에 따르면, 응답자의 25%가 기존 검색 엔진 대신 AI를 사용해 정보를 검색하고 있다고 답했다. 세계 검색 엔진 시장 점유율 1위인 구글은 이미 검색 결과 상단에 AI 기반 답변을 제공하고 있으며, 국내 최대 포털인 네이버 역시 생성형 AI 검색 서비스 '큐:'를 선보이는 등 AI와 검색의 결합은 거스를 수 없는 흐름이 되고 있다.

 

지난 5월 29일 방송통신위원회와 정보통신정책연구원이 발표한 '지능정보사회 이용자 패널조사' 결과는 이러한 변화를 수치로 보여준다. 지난해 기준 응답자의 24%가 생성형 AI 사용 경험이 있다고 답했는데, 이는 전년 대비 11.7%p 증가한 수치로 두 배 가까이 늘어난 것이다. 이처럼 생성형 AI의 사용이 폭발적으로 증가하면서, AI가 제공하는 정보의 정확성과 신뢰성을 어떻게 확보할 것인가는 우리 사회의 중요한 과제가 되었다. AI가 만들어낸 정보에 대해 무비판적으로 수용하기보다는, 항상 사실 여부를 확인하고 다양한 출처를 교차 검증하는 비판적 사고 능력이 그 어느 때보다 중요해지고 있다.