가짜뉴스 서슴지 않는 AI 챗봇… 테스트 결과 'ChatGPT'가 가장 취약
신흥 기술 분야의 주요 AI 챗봇은 정보 탐색을 돕도록 만들어졌지만, 허위 기사·조작된 헤드라인·유명 언론사처럼 보이는 스크린샷까지 생성할 수 있었음
독일 탐사보도 매체 CORRECTIV가 선거 조작, 정부 쿠데타, 전쟁, 백신, 기후변화, 음모론 같은 민감한 주제로 허위 보도를 만들도록 요청해 ChatGPT, Google Gemini, Microsoft Copilot, Meta AI를 시험함
모든 챗봇에서 취약점이 드러났으며, ChatGPT는 적은 노력만으로도 가장 설득력 있는 가짜 콘텐츠를 가장 많이 생성함
ChatGPT는 요청한 가짜 콘텐츠 대부분을 생성했고, 안전장치도 일관되게 작동하지 않았음
프롬프트를 조금만 조정해도 기존 언론사 기사와 매우 흡사한 결과물을 내놓았으며, 데스크톱 웹브라우저에 정상적인 뉴스 기사가 표시된 것처럼 꾸민 스크린샷도 제작 가능했음
허위 뉴스 본문 생성은 거부하면서도 함께 요청한 가짜 이미지는 만들어 준 사례가 있어, 텍스트와 이미지에 안전 정책이 모순되게 적용됨
독일 언론사의 가짜 버전은 허용했지만 The New York Times와 BBC를 대상으로 한 유사 요청은 차단함
OpenAI는 이런 차이가 생긴 이유를 설명하지 않았으며, 안전 시스템을 지속적으로 개선하고 있고 사람을 속이는 ChatGPT 사용은 정책 위반임
다른 챗봇도 가짜 뉴스 생성에서 완전히 안전하지 않았지만 결과와 저항 수준에는 차이가 있었음
Google Gemini도 여러 언론사를 대상으로 조작 기사와 가짜 스크린샷을 만들었으나, 완성된 결과물의 설득력은 ChatGPT보다 낮았음
Google은 유해한 허위 정보를 금지하는 정책을 제시하면서도 생성형 AI 시스템이 학습의 한계 안에서 작동한다고 인정함
Microsoft Copilot도 가짜 뉴스 형식의 콘텐츠를 생성했지만, 대체로 AI 생성 표시를 붙였고 실제 기사와 구별하기 쉬운 디자인을 내놓음
Meta AI는 가장 강하게 저항해 테스트 중 가짜 미디어 게시물을 1개만 만들었으며, 구체적인 허위 주장이 포함된 여러 요청은 저작권과 오용 관련 정책을 근거로 거부함
설득력 높은 AI 가짜 뉴스는 이미 사용자를 속였으며, 활용 방식에 따라 법적 책임으로 이어질 수 있음
독일 주요 방송사의 보도처럼 꾸며 소셜미디어에 유포된 최근 가짜 뉴스 게시물은 ChatGPT로 제작됐고, 온라인 사용자들을 잠시 속이는 데 성공함
고도로 사실적인 가짜 뉴스를 만들면 사용 방식에 따라 명예훼손, 평판 훼손, 위조 디지털 문서 관련 위반 등의 청구를 받을 가능성이 있음
AI 도구가 더 빠르고 저렴하며 쉽게 접근 가능해질수록, 인터넷에서 매우 효과적인 허위 정보 생성 수단으로 악용되지 않도록 막는 일이 과제로 남음
