경제post

경제post

세종대왕이 맥북을 던졌다? AI의 위험한 거짓말, 이제 당신 차례다

 인공지능(AI) 기술 발전과 함께 그 부작용인 '환각(Hallucination)' 현상이 심각한 문제로 대두되고 있다. AI가 사실과 다른 정보를 그럴듯하게 생성하거나 존재하지 않는 내용을 지어내는 현상이 반복되면서, 특히 언론의 신뢰도와 정보 검색의 정확성에 대한 근본적인 질문을 던지고 있다.

 

최근 미국 언론계에서 발생한 사건은 AI 환각의 위험성을 여실히 보여준다. 미국 주요 언론사인 시카고 선타임스와 필라델피아 인콰이어러가 여름 특집 섹션에 게재한 추천 도서 목록 대부분이 허위로 드러났다. 시카고 선타임스가 지난 5월 18일 보도한 '2025년 여름 추천도서' 기사에 소개된 15권의 책 중 실제 존재하는 책은 단 5권뿐이었다. 나머지 10권은 AI가 마치 실제 책인 것처럼 지어낸 가짜였다. 심지어 이사벨 아예데와 같이 실존하는 유명 작가를 언급하면서도 그가 쓰지 않은 '타이드워터 드림스'라는 소설을 추천하는 등 매우 정교하게 허위 정보를 생성했다.

 

이 문제는 404미디어, 뉴욕타임스 등 다른 언론들의 보도를 통해 확산되었다. 해당 기사를 작성한 프리랜서 필자는 논란이 커지자 자신이 AI 모델인 클로드를 활용해 기사를 작성했음을 시인했다. 이는 시카고 선타임스가 최근 직원 20%가 희망퇴직으로 회사를 떠나는 등 인력난을 겪고 있는 상황과 맞물려, 비용 절감 등을 위해 AI에 과도하게 의존할 경우 발생할 수 있는 문제점을 극명하게 보여준다.

 

AI가 생성한 콘텐츠로 인한 언론의 문제는 이번이 처음이 아니다. 앞서 미국 IT 전문 매체 씨넷(CNET)은 2022년 금융 서비스 관련 기사 77건을 AI가 작성했음을 뒤늦게 밝혀 논란이 일었다. 당시 씨넷은 AI 작성 사실을 투명하게 공개하지 않았을 뿐만 아니라, 해당 기사들에서 다수의 사실 관계 오류가 발견되어 큰 비판을 받았다. 또한, 2023년 6월에는 아일랜드 일간지 아이리시타임스가 AI가 작성한 것으로 강력하게 의심되는 독자 기고문을 게재했다가 삭제하고 사과하는 일이 있었다. 아이리시타임스는 편집자 칼럼을 통해 "신문이 정교한 사기에 희생양이 됐다"며, 기고문과 첨부된 사진이 생성형 AI 기술로 만들어졌을 가능성이 높다고 밝혔다. 이러한 사례들은 AI가 생성한 정보가 얼마나 그럴듯하게 위장될 수 있는지, 그리고 이를 제대로 검증하지 않았을 때 언론의 신뢰도에 얼마나 치명적인 타격을 입힐 수 있는지를 보여준다.

 


AI 환각 현상은 비단 언론계만의 문제가 아니다. 생성형 AI가 학교 과제나 업무 보고서 작성 등 다양한 분야에서 활용되고 있지만, 정보 검색이나 사실 확인 용도로는 부적절하다는 지적이 끊이지 않는다. AI는 사실과 다른 내용을 포함하거나, 존재하지 않는 인물, 장소, 사건 등 고유명사를 지어내기도 한다. 심지어 존재하지 않는 기사 제목이나 웹사이트 링크를 제시하며 정보의 출처를 조작하는 경우도 발생한다.

 

미국 컬럼비아대학원 컬럼비아저널리즘리뷰가 지난 3월 공개한 연구 결과는 이러한 문제를 통계적으로 뒷받침한다. 20개 언론사의 기사에서 발췌한 내용을 AI에 제시하고 해당 기사의 제목, 출처, 발행일, URL 등을 묻는 방식으로 총 1600건의 검색을 수행한 결과, AI는 60% 이상에서 잘못된 답변을 내놓았다. 실제와 다른 출처를 제시하거나, 존재하지 않는 웹 주소를 만들어내는 등의 오류가 흔하게 발견되었다. 국내에서도 챗GPT가 "세종대왕이 훈민정음 창제 이후 맥북을 던졌다"는 허무맹랑한 답변을 내놓고, 이를 조선왕조실록에 기록되어 있다고 주장한 사건이 큰 화제가 되기도 했다. 이는 AI가 사실과 허구를 구분하지 못하고 그럴듯하게 이야기를 꾸며내는 환각 현상의 대표적인 예시다.

 

그럼에도 불구하고 AI를 정보 검색 도구로 활용하는 사용자는 빠르게 늘고 있다. 컬럼비아저널리즘리뷰 조사에 따르면, 응답자의 25%가 기존 검색 엔진 대신 AI를 사용해 정보를 검색하고 있다고 답했다. 세계 검색 엔진 시장 점유율 1위인 구글은 이미 검색 결과 상단에 AI 기반 답변을 제공하고 있으며, 국내 최대 포털인 네이버 역시 생성형 AI 검색 서비스 '큐:'를 선보이는 등 AI와 검색의 결합은 거스를 수 없는 흐름이 되고 있다.

 

지난 5월 29일 방송통신위원회와 정보통신정책연구원이 발표한 '지능정보사회 이용자 패널조사' 결과는 이러한 변화를 수치로 보여준다. 지난해 기준 응답자의 24%가 생성형 AI 사용 경험이 있다고 답했는데, 이는 전년 대비 11.7%p 증가한 수치로 두 배 가까이 늘어난 것이다. 이처럼 생성형 AI의 사용이 폭발적으로 증가하면서, AI가 제공하는 정보의 정확성과 신뢰성을 어떻게 확보할 것인가는 우리 사회의 중요한 과제가 되었다. AI가 만들어낸 정보에 대해 무비판적으로 수용하기보다는, 항상 사실 여부를 확인하고 다양한 출처를 교차 검증하는 비판적 사고 능력이 그 어느 때보다 중요해지고 있다.

 

외국인도 반한 한강 축제, 내년엔 판 더 커진다!

총 2만 명가량으로 집계됐으며, 이 가운데 주한미군과 외국인 주민, 관광객 등 외국인 참가자는 714명으로, 지난해 102명에 비해 약 7배나 늘어난 것으로 나타났다.이번 축제는 철인 3종 경기인 수영, 자전거, 달리기를 포함하는 본 경기뿐 아니라 ‘한강 풍덩존’ 등 다양한 부대 행사도 함께 진행됐다. 이 부대 행사에 참가한 외국인 인원까지 합치면 3일간 2만 명이 넘는 외국인이 한강공원을 찾은 것으로 추산된다.외국인 참가자들의 만족도도 높았다. 주한 미군으로 가족과 함께 축제에 참가한 제니퍼 씨는 “철인 3종 경기가 부담스러웠지만 잘 조성된 경기장에서 편안하게 즐길 수 있었다”며 “한강은 최고의 운동 장소이며 내년에도 꼭 참가하고 싶다”고 소감을 밝혔다. 또한 클로디아 씨는 “전문 선수는 아니지만 누구나 환영받는 분위기여서 편하게 참여할 수 있었다”며 “한강을 달리며 본 서울의 풍경은 잊지 못할 경험이었다”고 말했다. 애니사 씨도 “처음에는 철인 3종이라는 말에 겁먹었지만 여유롭게 참가할 수 있어 좋았다”며 “한강 철인 3종은 단순한 스포츠가 아니라 하나의 문화 체험이었다”고 평가했다.이외에도 외국인들은 본 경기 외에 대형 워터 슬라이드, 전통 문화 체험 프로그램 등 다양한 부대 행사에 적극적으로 참여했다. 특히 ‘쉬엄쉬엄 단오제’와 ‘한류 서바이벌’ 게임에는 참가자 중 절반 이상이 외국인이었으며, 서울외국인주민센터를 통해 참여한 우즈베키스탄 국적 인플루언서 밀쇼드 씨는 “외국인 친구들과 함께 윷놀이, 제기차기 등을 즐기며 낯선 한국 문화를 친근하게 경험할 수 있는 기회였다”고 전했다. 서울시는 이번 축제에서 외국인 참여 확대를 위해 영문, 중문, 일문 등 다국어 홍보물을 적극 활용하고 사전 접수 기간을 별도로 운영하는 등 다양한 홍보 전략을 펼쳤다. 축제 기간 중에도 행사장 곳곳에 국문과 영문 안내판을 설치하고 외국어 안내 서비스를 제공해 외국인들이 행사에 불편 없이 참여할 수 있도록 배려했다.이번 ‘쉬엄쉬엄 한강 3종 축제’의 외국인 참가 급증은 서울시가 추진하는 한강을 중심으로 한 글로벌 건강 문화 축제 도약의 한 단면으로 평가된다. 구종원 서울시 관광체육국장은 “쉬엄쉬엄 한강 3종 축제는 경쟁 없이 나만의 방식으로 한강을 즐길 수 있는 행사로, 이제는 서울 시민뿐 아니라 외국인들도 찾아와 즐기는 글로벌 건강 문화 축제로 성장하고 있다”고 말했다. 이어 “앞으로도 서울의 랜드마크인 한강을 더욱 많은 외국인이 즐길 수 있도록 다양한 축제를 발굴해 전 세계에 알리는 데 최선을 다하겠다”고 포부를 밝혔다.서울시는 내년에도 축제의 외국인 참여를 더욱 확대하고, 다양한 프로그램과 다국어 서비스 강화로 한강의 매력을 전 세계에 알릴 계획이다. 이번 축제는 한강이 단순한 휴식 공간을 넘어 서울을 대표하는 글로벌 스포츠와 문화의 장으로 자리매김하는 데 중요한 계기가 됐다.서울시 관계자는 “외국인들이 한강에서 즐기는 축제가 더욱 활성화되면서 서울의 국제적 위상이 높아지고 있다”며 “쉬엄쉬엄 한강 3종 축제를 통해 한강의 매력과 서울의 활력을 널리 알릴 것”이라고 말했다.한편, 이번 축제는 코로나19 이후 점차 회복세를 보이며, 내국인뿐 아니라 외국인 참가자들의 증가가 두드러져 서울시가 추진하는 ‘한강을 통한 글로벌 문화도시’ 비전 실현에 힘을 더하고 있다. 앞으로도 쉬엄쉬엄 한강 3종 축제는 한강의 자연과 도심이 어우러진 독특한 공간에서 누구나 편안하게 스포츠와 문화를 즐길 수 있는 장으로 자리매김할 전망이다.