가짜 뉴스와의 전쟁, 더 미룰 수 없다[김석의 시론]

김석 국제부장

AI시대 가짜 뉴스 위험 더 증가
펜타곤 화염 사진에 증시 요동
김만배 허위 인터뷰보다 진화

美·유럽 AI 콘텐츠 규제 착수
민주주의 파괴하는 가짜 뉴스
표현의 자유 대상 될 수 없어

몇 달 전 TV를 보다 한 방송인이 인공지능(AI) 목소리를 자신의 실제 목소리와 비교하는 광고를 처음 접하고 놀란 일이 있다. 목소리가 너무 비슷해서이기도 했지만 ‘AI를 누구나 악용할 수도 있는 시대가 왔구나’ 하는 생각이 머리를 스쳐서였다. AI로 다른 사람의 목소리를 사용한 가짜 발언을 만들어내면 일반인으로서는 구별하기 어려울 수밖에 없다. 실제 지난 5월 미국 상원 법제사법위원회 사생활·기술·법소위가 처음으로 개최한 AI 청문회에서 민주당 소속 리처드 블루먼솔 소위 위원장은 자신의 목소리로 이런 가능성을 제기했다. 위원장은 직접 개회사를 말하는 대신 스피커로 자신의 목소리를 닮은 음성을 들려준 것이다. 블루먼솔 위원장은 “오디오는 내 연설을 학습한 AI 음성 복제 소프트웨어였고, 발언문은 챗GPT에 ‘내가 이 청문회에서 어떤 연설을 할 것 같으냐’고 물었을 때 나온 결과”라며 “만약 이것이 우크라이나 침공이나 블라디미르 푸틴을 옹호하는 내용이라면 어땠을지 공포스럽다”고 말했다.

누구나 AI를 활용할 수 있는 시대를 맞으면서 편리성은 높아졌지만, 그에 비례해 블루먼솔 위원장이 이야기한 공포스러운 일도 가까워졌다. 예전에는 단순히 문자로만 된 가짜 뉴스가 퍼졌다면 이제는 AI를 통해 사진이나 영상, 음성 등을 조작한 가짜 뉴스를 만들어낼 수 있게 된 때문이다. 특히, 이러한 AI를 이용한 가짜 뉴스가 선거에 악용될 경우 피해는 걷잡을 수 없다. 대선 전인 지난 2021년 9월 화천대유자산관리 대주주 김만배 씨와 신학림 전 전국언론노조위원장은 윤석열 대통령이 대검 중수2과장 시절 부산저축은행 불법 대출 알선 브로커 의혹을 받았던 조우형 씨를 만나 수사를 무마해줬다는 내용의 허위 인터뷰를 녹음해 뿌렸다. 일부 매체는 이를 제대로 확인하지 않고 보도했고, 더불어민주당은 이를 받아 대선 당시 ‘대장동은 윤석열 게이트’라는 억지 주장을 펴면서 선거판이 흔들렸다.

그런데 내년 총선이나 추후 대선에서는 AI로 아예 당사자의 얼굴이나 목소리를 악용해 가짜 영상과 녹취록을 만드는 이들이 생겨날 수 있다. 실제로 지난 5월 22일 미 국방부청사(펜타곤) 주변에 연기가 치솟은 사진이 SNS를 통해 순식간에 퍼졌다. 9·11 테러를 연상시킨 사진에 다우존스30산업평균지수가 4분 만에 85포인트 하락하는 등 주식시장이 요동쳤다. 이 사진은 AI를 이용해 만든 가짜 사진임이 밝혀졌다. 지난해 3월에는 볼로디미르 젤렌스키 우크라이나 대통령이 항복을 선언하는 영상이 유포됐는데, 이 영상은 AI로 이미지와 영상을 합성해 진짜처럼 만든 딥페이크였다.

AI를 이용한 가짜 뉴스 위협이 높아지면서 이를 막기 위한 각국 정부 움직임도 빨라졌다. 러시아나 중국, 북한 등이 AI를 이용한 가짜 뉴스로 사회 불안을 야기하고 선거에 영향을 줄 수 있다는 판단에서다. 미국 백악관은 지난 7월 21일 구글, 아마존, 마이크로소프트, 메타, 오픈AI 등 AI 빅 테크 7곳이 AI가 만든 콘텐츠를 식별할 수 있는 워터마크 표시를 넣는 자발적 조치를 취하기로 했다고 발표했다. 또, 미 연방선거관리위원회는 지난달 10일 AI가 만든 딥페이크를 이용한 가짜 뉴스 규제 검토에 착수했다. 유럽연합(EU)은 지난달 25일부터 페이스북, 인스타그램, 틱톡, 엑스(X·옛 트위터), 유튜브 등 19개 초대형 플랫폼에 대해 가짜 뉴스 예방 시스템 마련과 AI 생성 정보 노출 시 표기 의무 부여 등이 담긴 규제 법안 시행에 들어갔다. 하지만 한국에서는 가짜 뉴스 방지법이 표현의 자유 논란으로 논의가 제대로 이뤄지지 못하고 있다.

민주주의가 다른 체제보다 우월한 것은 경쟁에 선거라는 룰이 있다는 점이다. 선거가 있기에 정치는 패하면 삼대가 멸족당하는 전쟁과도 같은 배틀그라운드에서 벗어나, 현재 패자라도 미래 승자가 되는 기회를 가질 수 있는 스포츠그라운드가 됐다. 가짜 뉴스는 이러한 선거가 공정하게 이뤄지지 못하게 해 결국 민주주의를 무너뜨리게 된다. 이 때문에 민주주의를 가장 먼저 도입한 미국과 유럽은 표현의 자유 논란에도 가짜 뉴스 규제에 속도를 내고 있는 것이다. 가짜 뉴스는 표현의 자유라는 이름으로 보호받을 가치가 없는 것이며, 오히려 표현의 자유를 보장하는 민주주의를 위협하는 적이다.

클릭하시면 더 큰이미지를 보실 수 있습니다 김석 국제부장