최근 AI 기술이 발전하면서 AI 딥페이크 기술을 활용한 범죄율도 눈에 띄게 늘어나고 있는 모습이다. 특히 딥페이크 기술을 이용해 만들어진 음란물이 심각한 사회문제가 되고 있다. 예전에는 유명인을 대상으로 한 딥페이크 음란물의 제작이 많았으나 최근에는 가까운 지인의 사진이나 영상을 합성하는 등 일반인을 대상으로 하는 딥페이크 음란물의 제작도 늘어나고 있어 더욱 문제가 되고 있는 상황이다.

지난 21일 부산 해운대구에 위치한 한 중학교에서 인공기능 기술을 활용한 음란물 범죄가 발생해 경찰이 조사에 나섰다. 부산시 교육청는 중학생 4명이 딥페이크 기술로 음란물 범죄를 저질렀다는 고소장이 경찰에 접수됐다고 밝혔다.

이들은 지난 6월 같은 학교 학생 등 18명의 얼굴을 활용해 인공지능으로 신체 이미지를 합성해 음란 사진 80장을 만들어 공유한 것으로 밝혀졌다. 해당 학생들이 재학 중인 학교는 이들에게 16~20일의 출석 정지와 특별 교육 5시간을 이수하도록 결정했다. 또 주도적으로 행동한 학생에게는 학급 변경 조치가 내려졌다.

지난 6월에도 부산에서 인공지능을 활용해 같은 반 여학생의 얼굴이 등장하는 음란물을 만들어 판매한 혐의로 조사를 받게 된 경우도 있었다. 사하구 소재의 한 중학교에서는 나체의 모델에 한 교사의 얼굴이 합성된 사진이 텔레그램을 통해 유통돼 충격을 주기도 했다.

이를 본 해외 누리꾼들은 놀라움을 감추지 못 하고 있는 모습이다. 영미권 최대 커뮤니티인 레딧에는 관련 뉴스를 본 많은 누리꾼들은 생각보다 낮은 처벌 수위에 대한 비판의 목소리를 내고 있는 모습이다.

레딧 이용객 ThePietje는 “12~20일의 정지와 5시간의 특수교육이 적절하다고 생각하는 사람이 있는지 궁금하다”며 범죄 수위에 비해 낮은 처벌에 놀라고 있는 모습이었다. 또 다른 이용객 Icy_Craft2416도 “어떠한 형태로도 강력한 처벌이 필요한 것 같다”며 “현대에 생겨난 범죄지만 이러한 범죄가 계속되지 않으려면 옛날식 처벌이 필요할 것 같다”고 말했다.

현재 우리나라는 딥페이크를 활용한 범죄는 불법 촬영물 배포, 명예 훼손, 사기 등의 행위가 형법 및 정보 통신망 법에 의해 처벌된다. 이후 개정된 법안에는 딥페이크 영상의 제작 및 배포를 명시적으로 처벌하는 법이 도입됐다. 

해외에서도 딥페이크를 활용한 범죄가 늘어나고 있다. 

지난 4월 영국의 채널 4방송은 방문자가 가장 많은 딥페이크 음란물 웹사이트 5곳을 분석한 결과 TV 스타, 가수, 유튜버 등 유명인사 약 4천명의 얼굴이 음란물에 합성된 것으로 나타났다. 5개 웹사이트의 딥페이크 음란물의 조회수는 1월부터 4월까지 3개월 간 1억 회를 돌파한 것으로 알려져 충격을 더하기도 했다.

이후 영국 법무부는 “당사자 동의 없이 딥페이크로 성적인 이미지나 영상을 만든 사람은 형사 입건돼 상한선이 없는 벌금형을 받을 수 있는 법을 발의했다”고 밝혔다. 해당 법안이 통과될 경우 영상을 만든 제작자는 딥페이크 음란물을 공유할 의도가 없더라도 처벌되고, 외부에 유포될 경우 징역형을 받게 될 것으로 보인다.

최근 영국의 경우 최근 몇 년간 딥페이크와 관련된 법률이 강화돼 왔다. 영국은 지난해 시행된 온라인안전법에 따라 딥페이크 이미지를 공유할 경우 처벌하고 있다. 특히 성적 목적의 딥페이크 이미지에 대해서는 강력한 처벌이 이뤄지고 있다. 

미국의 경우 주별로 딥페이크 기술에 대한 규제를 다르게 적용하고 있다. 다만 명예 훼손, 사기, 성적 콘텐츠의 무단 배포 등 딥페이크 기술을 사용한 불법 행위에 대해 공소 및 민사 소송이 제기될 수 있다.

유럽 연합도 딥페이크 기술을 활용한 성범죄에 대해서는 강력한 처벌을 내리고 있다. 독일에서 딥페이크 기술을 통해 성적 목적의 콘텐츠를 제작하거나 배포할 경우 형법 제184조에 따라 최대 5년의 징역형을 선고받을 수 있다.

형법 상 비동의 이미지 사용에 대한 엄격한 제재를 가하고 있는 프랑스는 동의하지 않은 성적 이미지를 배포할 경우 징역형 및 벌금형이 부과될 수 있다. 딥페이크가 포함될 경우 더욱 무겁게 처벌받을 수 있다.

딥페이크 범죄가 기승을 부리면서 기술 발전에 걸맞는 제도 및 규제 정비, 교육 등이 이뤄져야 한다는 지적이 나온다. 서원석 가천대 법학과 교수는 “기술 발전에 발맞춰 제정되다보니 법 제정이 늦어지고 있는 것 같다”며 “현재 딥페이크를 활용한 범죄의 발생률이 높아지고 있는 만큼 강력한 처벌이 뒷받침되는 법률은 물론이고 어린 학생들에게는 딥페이크의 위험성 등 관련 교육도 필요할 것으로 보인다”고 말했다.