딥페이크 기술의 악용, 딥페이크 범죄 처벌과 불법영상물 논란

인공지능을 기반으로 한 이미지 합성 기술 딥페이크(deepfake)가 불법 영상물 제작에 이용되고 그 영상물이 온라인에 배포되면서, 사회적 논란과 범죄의 증가가 점점 늘어나고 있다.

딥페이크의 뜻과 활용범위, 악용 사례를 살펴보고 그것을 이용한 불법 영상물 제작과 배포 등, 딥페이크 범죄 처벌과 논란에 대해 알아본다.

머신러닝 인공신경망의 예시

DancingPhilosopher, CC BY-SA 4.0, via Wikimedia Commons

딥페이크 기술의 악용, 딥페이크 불법영상물의 논란과 처벌

 

딥페이크의 뜻과 사용 범위

딥페이크의 뜻

딥페이크(deepfake)란 컴퓨터의 심층학습기능을 뜻하는 딥 러닝(deep running)과 가짜, 거짓을 뜻하는 페이크(fake)의 합성어로 인공지능(AI)을 기반으로 한 이미지 합성 기술이다.

디지털 기술과 인공지능의 발전으로 기존 인물의 얼굴이나 특정 부위를 영화의 CG처럼 정교하게 합성하는 것이 가능해졌고, 딥페이크 어플 페이크앱(fakeapp)도 무료로 배포되었다.

이렇게 컴퓨터의 생성 신경망 훈련을 이용한 머신 러닝의 이미지 합성 기술은, 미국의 웹사이트 레딧의 이용자와 커뮤니티 이름인 'deep fake'에 의한 유명 배우 가짜 음란물 제작 유포와, 이후 정치인들의 가짜 합성영상이 논란이 되면서 '딥페이크'란 명칭 자체가 불법으로 합성된 영상물을 총칭하는 것처럼 인식되고 있다.

 

딥페이크 기술의 활용

딥페이크 기술은 기업들에 의해 패션 의류 분야와 영상 제작 등에 활용되었고, 영화배우 니콜라스 케이지를 왕좌의 게임, 인디아나 존스, 슈퍼맨 등 실제로는 본인이 출연하지 않은 영화에 이미지 합성 기술을 통해 주인공으로 등장시킨 영상이 인기를 끌기도 했다.

그 밖에도 사망한 엘비스 프레슬리나 존 레넌의 영상이 만들어져 TV 쇼에 등장하는가 하면, 스타워즈 시리즈에서 젊은 얼굴의 해리슨 포드가 등장하기도 하는 등 영화와 엔터테인먼트 산업에서 유용하게 사용되고 더 많은 발전이 점쳐지기도 한다.

문제는 이 기술을 이용한 사회적 혼란과 범죄의 가능성이 크고, 그 피해사례가 증가하고 있다는 것이다.

 

러시아 푸틴 대통령의 딮페이크 영상

 

딥페이크를 이용한 논란과 범죄의 증가

기술이 발달하고 딥페이크의 결과물이 점점 정교해지며 이를 통한 사회적 혼란과 범죄의 가능성이 커지고 있다. 특히 정책과 공권력 사용의 권한을 가지고 있고 또 대중에게 인식되는 이미지에 큰 영향을 받는 정치인의 딥페이크 영상물은 오디오 딥 페이크까지 더해져 사회에 큰 혼란을 야기시킬 수 있다.

이미 조 바이든 미국 대통령, 도날드 트럼프 전 대통령, 낸시 펠로우 하원의장, 블로디미르 젤렌스키 우크라이나 대통령 등의 딥페이크 영상이 유포되어 진위파악 전까지 큰 혼란과 논란이 되었다.

2017년 미국의 소셜 웹사이트 '레딧(reddit)'에서 여배우 갤 가돗의 가짜 음란물이 만들어져 온라인에 퍼졌고 이후로도 엠마 왓슨, 나탈리 포트만, 스칼렛 요한슨 등 유명 배우들의 가짜 영상이 생겨났다. 또 인공지능(AI) 기술을 이용하여 누드 이미지를 만드는 텔레그램 봇 등이 메시징 앱 텔레그램에 등장했다.

온라인상 딥페이크의 96%가 음란물이라는 사이버 보안 업체의 발표가 나오는 등 점점 피해사례가 커지자 트위터나 레딧, 구글 등 대형 업체에서도 관련 불법 영상물을 금지시켰고, 세계 각국에서 딥페이크 영상물에 관한 처벌 법안 도입이 이루어지고 있다.

딥페이크 범죄 처벌조항

현재 대한민국에서는 딥페이크 관련 불법 영상물에 대해 성폭력특별법 제14조의 2에 의해 처벌될 수 있다.

제14조의2(허위영상물 등의 반포등) ① 반포등을 할 목적으로 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물(이하 이 조에서 "영상물등"이라 한다)을 영상물등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집ㆍ합성 또는 가공(이하 이 조에서 "편집등"이라 한다)한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.

② 제1항에 따른 편집물ㆍ합성물ㆍ가공물(이하 이 항에서 "편집물등"이라 한다) 또는 복제물(복제물의 복제물을 포함한다. 이하 이 항에서 같다)을 반포등을 한 자 또는 제1항의 편집등을 할 당시에는 영상물등의 대상자의 의사에 반하지 아니한 경우에도 사후에 그 편집물등 또는 복제물을 영상물등의 대상자의 의사에 반하여 반포등을 한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.

③ 영리를 목적으로 영상물등의 대상자의 의사에 반하여 정보통신망을 이용하여 제2항의 죄를 범한 자는 7년 이하의 징역에 처한다.

* 딥페이크 범죄 처벌에 대한 정리

- 딥페이크 영상물을 제작: 5년 이하 징역 또는 5천만 원 이하 벌금형
- 딥페이크 영상물을 반포: 5년 이하 징역 또는 5천만 원 이하 벌금형
- 영상물 제작 시 대상자의 동의가 있었다 해도 영상물 반포: 5년 이하 징역 또는 5천만 원 이하 벌금형
- 영리 목적으로 영상물 반포: 7년 이하의 징역
- 상습범의 경우: 해당 죄목의 법정형 1/2까지 가중 처벌

* 지인능욕 : 개인적인 원한이나 화풀이, 괴롭힘을 목적으로 아는 사람을 대상으로 음란물을 제작하고 배포하는 형태의 범죄로, 마찬가지로 딥페이크 영상물을 제작하고 반포한다면 성폭력특별법 제14조2의 조항에 따라 처벌될 수 있다.

* 딥페이크 범죄 처벌이나 지인능욕 외에도 불법 음란물 관련 범죄는 정황이나 법리적 해석에 따라 다음과 같은 법률에 의해 처벌받을 수 있다.

- 성폭력특별법 제14조의2(허위 영상물 등의 반포)
- 정보통신망 이용촉진 및 정보보호 등에 관한 법률, '허위사실 적시에 의한 사이버 명예훼손'
- 아동·청소년의 성보호에 관한 법률 
- 성폭력범죄의 처벌 등에 관한 특례법 제13조(통신매체를 이용한 음란행위)

 

반응형

인공지능(AI)을 이용한 범죄와 논란의 증가

경찰 통계에 의하면 딥페이크를 이용한 불법 영상물 제작과 유포는 유명인들 뿐 아니라 일반인들까지 대상으로 하며 매년 증가하고 있는 추세다.

인공지능의 기술 발전과 영상 플랫폼의 활성화로 버추얼 휴먼(virtual human)을 이용한 선정적인 영상의 확산이 빠르게 증가한다는 우려도 크다.

패션업계에서 여러 가지 옷을 보여주기 위해 모델이 다양한 옷을 착용한 사진을 모은 룩북(lookbook)을 모티브로, 선정적인 의상과 포즈를 취한 AI모델 룩북이 경쟁적으로 생겨나고 있다.

관심을 끌고 조회수를 높이기 위해 영상의 수위가 높아지며, AI 모델이 옷을 갈아입는 장면을 노출하거나 교복을 입고 선정적인 자세를 취하는 등, 아청법(아동 청소년의 성보호에 관한 법률) 위반의 소지도 크다는 지적이 법률전문가 사이에서 나오고 있다.