인공지능(AI) 기술로 만들어진 ‘조작된 증거’를 앞세운 가짜뉴스 문제로 전 세계가 골머리를 앓고 있다. 단순히 글로 적는 수준을 넘어 교묘하게 만들어진 사진·영상·녹취 등의 증거까지 갖추고 있다 보니 가짜인지 구분조차 어려운 실정이다. 이렇게 만들어진 가짜뉴스는 마치 사실인양 빠른 속도로 확산돼 나라 전체를 혼란에 빠뜨리고 있다.

더욱 심각한 문제는 해결책 마련이 쉽지 않다는 점이다. 가짜뉴스 생성·유포자를 찾기 쉽지 않을 뿐 아니라 온라인을 통해 빠른 속도로 전파되는 탓에 확산을 막기도 사실상 불가능하다. 남은 방법은 이용자 스스로 가짜뉴스를 거르는 안목을 갖추는 방법뿐인데 AI 기술이 갈수록 고도화되고 있어 이마저도 쉽지 않다. 결국 정보 자체를 공신력 있는 곳에서 습득하는 습관을 들이는 것 외엔 마땅한 해결책이 없다는 게 전문가들의 중론이다.

“가짜뉴스 하나로 선거 결과 바뀔 수도”…굵직한 선거 앞둔 나라 모두 ‘가짜뉴스 주의보’

세계 각 국가는 AI 가짜뉴스 해결책을 고심하고 있다. 특히 올해는 전 세계 47개국에서 중요한 선거가 치러지다 보니 해결책 모색에 더욱 박차를 가할 것으로 보인다. AI로 만든 가짜 영상·음성·사진을 활용한 가짜뉴스가 여론을 선동·조작하는 도구로 활용될 경우 선거 결과 자체가 뒤바뀔 수 있어서다. 나중에 가짜뉴스라고 밝혀지더라도 선거 자체가 무효가 되진 않는다.

실제 사례도 존재한다. 앞서 지난해 9월 총선을 치른 슬로바키아에서는 친미 성향의 야당 대표인 미할 시메츠카의 “우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다”는 음성 파일이 빠른 속도로 확산됐다. 결국 선거는 친러 성향의 정당이 승리했다. 선거 이후 해당 파일은 AI 기술로 만들어진 ‘조작된 음성’으로 밝혀졌다.

오는 13일 대선이 치러지는 대만에서도 가짜뉴스가 활개를 치고 있다. 대만 국가안전국에 따르면 지난해 1400개였던 가짜뉴스가 올해는 최소 1800개까지 늘어났다. 특히 미·중 대리전으로 여겨지며 치열한 양상을 띠고 있는 가운데 중국산 동영상 플랫폼 틱톡에서 친미 성향으로 분류되는 민진당 후보를 겨냥한 가짜뉴스가 꾸준히 등장하고 있다. 일례로 대만의 의무 군복무 기간이 내년부터 기존 4개월에서 1년으로 늘어나는 것을 두고 “민진당이 청년들을 ‘대만독립’의 사료로 삼고 있다”는 동영상이 유포되고 있다.

올해 11월 대선을 치르는 미국에서도 가짜뉴스를 경계하는 목소리가 커지고 있다. 앞서 SNS와 온라인 커뮤니티 등에서는 사법 재판에 휘말린 도널드 트럼프 전 대통령이 경찰에 체포되는 가짜 영상이 출현해 논란이 된 적 있다. 미국 언론들은 일제히 올해 대선은 딥페이크가 본격 동원되는 사상 최초의 선거가 될 것이며 마땅한 해결책이나 규제가 없어 가짜뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 크다고 경고했다.

“일단 보면 혹 하는 가짜뉴스, 커뮤니티·SNS 멀리하는 것 외엔 방법 없어”

아직까지 어떤 나라도 AI 가짜뉴스 문제를 해결한 확실한 해결책은 내놓지 못하고 있는 실정이다. 관련 규제나 처벌을 강화하는 법안을 내놓곤 있지만 근본적인 해결책이 되긴 어렵다는 평가가 많다. AI 가짜뉴스의 생성·유포를 일일이 찾아내 막는 것이 현실적으로 불가능하기 때문이다.

관련 분야 전문가들에 따르면 처벌 대상을 찾아내기 어려워 규제 자체가 유명무실한 AI 가짜뉴스를 막으려면 결국 유통 창구격인 SNS·커뮤니티를 제재할 수밖에 없다. 그러나 민간기업의 자율성을 침해한다는 논란이 적지 않아 현실화에는 어려움이 뒤따른다. 설령 개별 기업 단위로 자발적인 조치에 나선다 해도 모든 기업이 일제히 동참하지 않으면 크게 효과가 반감된다. 실제로 구글과 메타는 정치·선거 광고에서 AI 기술 활용 사실을 의무적으로 공지하도록 조치했지만 틱톡, 왓츠앱, 위챗, 텔레그램 등은 묵묵부답이다.

글로벌 빅테크 기업 중 상당수가 ‘자율성’을 중시하는 미국 기업이라는 점도 SNS·커뮤니티 규제의 걸림돌로 지목된다. 지난해 10월 옛 트위터(X)를 인수한 일론 머스크 테슬라 최고경영자는 ‘표현의 자유’를 이유로 음모론·극단주의자들의 계정을 복원시켜줬다. 반면 콘텐츠 감시 부서 인원을 크게 줄였다. 마찬가지로 페이스북·인스타그램 모회사인 메타와 유튜브 역시 최근 비용 절감을 위해 콘텐츠 감시 인력을 축소한 것으로 전해졌다.

결국 이용자 스스로 SNS·커뮤니티를 멀리하는 것 외엔 마땅한 방법이 없다는 게 전문가들의 중론이다. 단순히 경계감을 갖는 것만으로는 갈수록 교묘해지고 정교해지는 AI 가짜뉴스를 걸러내기 어려운 탓이다. 이미 비슷한 움직임도 나타나고 있다. 앞서 2022년 말 영국의 유명 팝스타 엘튼 존(75)은 트위터를 탈퇴하며 가짜정보를 이유로 들어 주목을 받은 바 있다. 당시 그는 “잘못된 정보가 확인되지 않은 채 넘치도록 내버려 두는 최근의 (트위터) 정책 변화를 고려해 더는 트위터를 사용하지 않기로 했다”고 밝혔다.

우리나라에서도 비슷한 이유로 SNS를 떠나는 이들이 늘고 있다. 모바일 빅데이터 기업 아이지에이웍스의 모바일인덱스 통계에 따르면 인스타그램의 국내 월간활성이용자(MAU)는 지난해 8월 1925만명, 9월 1901만명, 10월에는 1885만명 등으로 꾸준히 하락세를 보이고 있다. SNS 1위였던 페이스북의 MAU 역시 지난해 2월(980만명)에 처음으로 1000만명 이하로 떨어진데 이어 11월(894만명)에는 900만명 선까지 무너졌다.