러시아가 퍼뜨린 허위 선전정보에 AI챗봇들 오염

[헤럴드경제=김도윤 기자] 러시아가 온라인상에 허위 정보를 퍼뜨려 서방의 인공지능(AI) 챗봇 데이터를 왜곡시키고 있다는 조사 결과가 나왔다.

9일(현지시간) AFP통신은 미국 허위정보 추적 사이트 뉴스가드의 조사 결과 10개 AI 챗봇이 러시아 선전 네트워크인 ‘프라브다’가 퍼트린 허위 사실을 33% 이상 되풀이하며 친러시아 의제를 확산하고 있는 것으로 나타났다고 보도했다.

프라브다는 러시아에 우호적인 정보를 전파하는 선전 네트워크다. 이 네트워크는 자체적으로 콘텐츠를 생산하지는 않는다. 대신 러시아 국영 언론 기사나 친러시아 정보를 올리는 인플루언서의 소셜미디어(SNS) 내용을 재인용해 전파하고 있다.

뉴스가드 조사에 따르면 프라브다는 대형언어모델(LLM)에 허위 정보를 퍼뜨려 AI 챗봇의 데이터를 왜곡시키고 있다. 이른바 ‘LLM 그루밍’이라고 불리는 방식으로 방대한 양의 정보를 학습시켜 러시아에 우호적인 결과가 표출되도록 하는 식이다.

뉴스가드에 따르면 지난해에만 360만개에 달하는 러시아 선전 글과 기사 등이 서방의 AI 시스템으로 흘러 들어갔다. 이에 따라 챗GPT4와 그록, 코파일럿, 메타AI, 제미니 등 대표적인 AI챗봇들이 모두 왜곡 정보에 영향을 받았다.특히 7개 챗봇은 표출한 결과에 프라브다에 실린 기사를 출처로 직접 인용하기까지 했다.

전문가들은 미국이 급속히 러시아 쪽으로 밀착하는 상황에서 이런 허위 선전정보가 더 확산할 수 있다고 우려했다.미국은 최근 트럼프 대통령이 친러시아 행보를 보이는 가운데 러시아를 겨냥한 사이버 작전도 중지한 상태다.

비영리단체 ‘아메리칸 선라이트 프로젝트’의 니나 잔코위츠는 프라브다의 영향력이 커져 친러시아 콘텐츠가 LLM 학습데이터에 넘쳐날 수 있다고 경고했다.그는 “허위 정보를 대규모로 확산시키는 프라브다의 능력이 전례 없는 수준”이라며 “러시아의 영향력이 확대되고 고도화됨에 따라 전 세계의 민주주의 담론에도 직접적인 위협이 되고 있다”고 짚었다.