최근 음악, 영화, 드라마, 웹툰 등 문화 산업에서 생성형 AI로 인한 저작권 침해뿐 아니라 딥페이크로 인한 사회적 혼란 등이 발생하는 사건이 잇따라 발생하면서 대책 마련을 요구하는 목소리가 높다. 생성형 AI의 등장으로 AI 시장이 빠른 속도로 발전하고 있지만 전 세계적으로 AI 관련 규제가 미흡하다는 지적이다. 

최근 SNS에 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 제목의 게시글이 퍼져 논란이 일었다. 46초 분량의 연설에서 윤 대통령은 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”며 “저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 발언하는 모습이 담겼다. 해당 게시글은 2022년 2월 대선후보였던 시절 나선 TV 연설 장면을 악의적으로 짜깁기한 것이다.

딥페이크로 인한 피해는 국내뿐만 아니라 해외에서도 찾아볼 수 있다. 지난 1월 세계적인 팝스타 테일러 스위프트를 성 착취물 영상에 합성한 이미지가 SNS상에서 유포됐다. 이는 익명 메신저앱인 텔레그램 내 특정 그룹 사용자들이 만든 생성형 AI로 밝혀지면서 규제 논의가 촉발됐다. 

미국 정치권에서도 딥페이크 기술을 악용한 사건이 발생했다. 지난 1월 조 바이든 대통령의 목소리를 흉내 낸 ‘로보콜(녹음된 음성이 재생되는 자동전화)’이 뉴햄프셔주 비공식 경선 전날 무더기로 유포됐다. 이에 백악관은 “해당 로보콜은 바이든 대통령의 녹음본이 아닌 AI에 의한 딥페이크다”라고 해명해야 했다.

전 세계적으로 딥페이크를 악용하는 사례가 지속적으로 나오면서 국내외 모두 규제 마련에 촉각을 세우고 있다.

바이든 행정부는 지난해 10월 국가안보, 저작권자, 소비자, 근로자, 소수집단을 보호하는 포괄적 행정명령에 서명했다. 행정명령에는 AI 개발 기업을 상대로 신제품 출시 전 안전 검사를 실시하는 한편, AI가 생성한 자료에는 워터마크를 부착하는 것을 의무화하는 방안이 포함됐다.

유럽에서도 지난 2일 AI 첫 규제 법안이 나왔다. EU 27개 회원국이 승인한 AI 규제법은 생체정보 수집 제한, 투명성 의무 강화 등을 담고 있다.

유럽, 미국과 달리 우리나라에서는 AI 법안 마련 속도가 더딘 편이다. 지난해 국회에서 상정한 AI 기본법은 시민단체의 반발로 1년 넘게 논의조차 되지 못하고 있다. 이에 워터마크만 먼저 표시하자는 대안이 나왔지만, 기업들이 AI 산업 발전을 저해한다며 반발하고 있다.

AI를 악용하는 사례만을 가지고 규제를 마련하면 산업 발전을 저해할 수 있다는 시선이 나오고 있는 만큼 업계에서는 신중하게 판단해 규제를 마련할 필요가 있다는 목소리도 나오고 있다.

전문가들은 AI 관련 규제 마련에는 동의하고 있다. 다만 무조건적으로 미국과 유럽의 제도를 따라가기보다 우리나라 상황에 맞게 참고할 필요가 있다고 지적한다. 한지형 서울과기대 컴퓨터공학과 교수는 “앞으로의 AI 기술은 우리가 상상하지 못했던 부분까지 발전하게 될 것이다”며 “규제를 마련하는 것도 중요하지만 일차적으로 대학 교육에서 올바른 AI 활용에 대해서 지도할 필요가 있다”고 말했다.