[뉴스워커_기획] 당신도 딥페이크 범죄의 대상이 될 수 있다
[뉴스워커_기획] 당신도 딥페이크 범죄의 대상이 될 수 있다
  • 염정민 기자
  • 승인 2021.04.06 06:05
  • 댓글 0
이 기사를 공유합니다

- 딥페이크 범죄 대응 위한 제도와 기술적 방안 수립 마련 필요시급
그래픽_뉴스워커 그래픽1팀
그래픽_뉴스워커 그래픽1팀

한국에서 딥페이크 범죄 기승


지난 2월 25일 ‘부산경찰청’은 허위영상물 제작과 유포 등의 혐의로 관련자 6명을 검거하고 13건에 대해서 내사중이라고 발표했다. 해당 혐의로 검거된 관련자 6명은 10대 4명과 20대 2명으로 구성되어 비교적 관련자의 연령대가 낮았다.

부산경찰청은 6명의 관련자 중 10대 2명이 구속되었는데 이들은 K-POP 가수 150여 명의 얼굴을 딥페이크 기술로 합성한 사진 3039개와 1만 1373개의 성 착취 영상물을 90차례에 걸쳐 판매한 혐의를 받고 있다고 설명했다.

‘딥페이크’란 AI(인공지능) 기술을 기반으로 한 이미지 합성기술로 실제 촬영한 영상과 구별이 어려울 정도로 수준 높은 합성 이미지를 생성할 수 있다.

이 때문에 범죄자들은 연예인을 포함한 유명인의 얼굴을 다른 인물의 나체 사진에 합성하여 음란물을 만드는 등의 범죄에 딥페이크 기술을 활용하고 있다.

한편 지난 1월 25일 ‘전북경찰청’은 딥페이크 기술을 활용하여 허위영상물을 제작하고 유포하는 등의 범죄 6건을 인지하여 수사하고 있다고 밝혔다.

용의자 A는 지난 2017년 8월부터 2020년 10월까지 ‘트위터’에 지인능욕방을 개설하여 의뢰받은 피해자들이 출연하는 허위영상물을 제작하여 유포한 혐의 등을 받고 있으며, A에게 범행을 의뢰한 공범 5인에 대해서도 수사를 진행하고 있다.

이번 사건은 연예인 등의 유명인뿐만 아니라 일반인들도 범행의 표적이 되었다는 점에서 주목을 받고 있다.

전북경찰청은 이번 수사를 통해 3500여건의 허위영상물을 ‘방심위’와 협력하여 신속히 삭제하고 차단하는 것에 성공했으며, 앞으로도 피해자들의 보호에 힘쓰는 동시에 관련 불법행위자들을 법에 의해 엄단할 것임을 분명히 했다.


미국에서 일반 주부가 딥페이크 범죄 실행한 혐의 받아


현지시각으로 지난 3월 13일 미국의 ‘NBC’는 ‘펜실베이니아’의 한 여성이 딥페이크 기술로 제작한 사진과 영상을 자신의 딸이 속한 응원단에 유포한 혐의로 기소당할 위기에 처했다고 보도했다.

미국 ‘힐타운(Hilltown)’ 지역 경찰은 용의자가 피해자들이 술을 마시고 전자담배를 피며 누드 포즈를 취하는 등의 허위영상물을 제작한 후, 피해자들의 응원단 동료들에게 해당 영상들을 유포한 혐의를 받고 있다고 설명했다.

게다가 피해자들 중 적어도 한 명 이상이 용의자로부터 자살을 유도하는 메시지를 받은 것으로 파악하고 있다고 경찰은 덧붙였다.

한편 벅스 카운티의 ‘Matt’ 지방검사는 NBC 뉴스와의 인터뷰에서 “딥페이크 기술은 누구나 사용할 수 있는 기술이라고 판단되는 것이 해당 사건에서 가장 충격적인 측면.”이란 견해를 제시했다.

기존 이미지 합성기술은 ‘포토샵’ 등의 프로그램을 보유하고 있어도 숙련도 높은 사용자가 이미지를 합성하지 않을 경우 생성된 이미지의 합성여부가 쉽게 판독이 되는 한계가 있었다.

그러나 딥페이크는 프로그램의 완성도가 높고 하드웨어의 성능이 우수하다면 사용자가 아닌 AI가 이미지를 합성하므로, 사용자의 숙련도가 높지 않아도 합성여부를 용이하게 판독할 수 없는 수준의 이미지를 생성할 수 있다.

게다가 딥페이크 기술이 적용되면 정적인 이미지인 사진뿐만 아니라 동영상과 같은 동적인 이미지 또한 실제 촬영한 영상과 거의 유사한 수준으로 합성하는 것이 가능하다.

이러한 배경에서 범죄자가 굳이 높은 수준의 이미지 합성기술을 가지고 있지 않아도 AI를 이용하여 허위영상물을 제작하고 유포할 수 있다는 점에 대해, Matt 검사는 경각심을 보인 것으로 분석된다.

소제목 : 성폭력범죄의 처벌 등에 관한 특례법 제14조의 2로 딥페이크 범죄 대응

딥페이크 기술을 활용하여 음란물을 생성하거나 유포할 경우 신설된 ‘성폭력범죄의 처벌 등에 관한 특례법(이하 성폭력 처벌법)’ 제14조의 2에 의하여 5년 이하의 징역이나 5천만원 이하의 벌금형에 처해질 수 있다.

2020년 6월 25일 성폭력 처벌법 제14조의 2가 시행되기 전에는 피해자의 얼굴을 다른 사람의 신체에 합성하여 음란물을 제조하거나 유포해도, 피해자의 신체를 직접 촬영하여 음란물을 제작한 것으로 평가하기는 어려워 처벌 방법에 대해 의견대립이 존재했다.

초상권 침해나 형법 제243조와 제244조에 규정된 음화(음란물) 관련 규정을 적용하여 처벌하면 된다는 의견이 제시됐지만, 형법 제243조와 제244조에 규정된 형벌은 1년 이하의 징역 또는 5백만원 이하의 벌금에 불과해 비교적 형이 가볍다는 비판이 제기됐다.

결국 의견대립을 거듭한 끝에 2020년 3월 24일 성폭력 처벌법 제14조의 2가 신설되고 같은 해 6월 25일 시행되면서, 딥페이크 기술을 활용하여 허위 음란 영상을 만들거나 유포할 경우 5년 이하의 징역이나 5천만원 이하 벌금의 범위 내에서 중형을 선고할 수 있게 됐다.

관련 규정의 신설에는 허위영상물로 피해자들이 입을 수 있는 정신적, 재산적 고통이 결코 작지 않음을 고려한 것으로 평가된다.


KAIST, 딥페이크 범죄에 대응할 수 있는 앱 선보여


지난 3월 31일 ‘KAIST’는 ‘이흥규’ 전산학부 교수가 딥페이크와 사진 위변조를 탐지할 수 있는 ‘카이캐치(KaiCatch)’를 모바일 형태로 개발하여 관련 서비스를 시작한다고 밝혔다.

연구팀은 영상의 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 신호처리 및 인공지능 기술을 기반으로, 얼굴 영역의 미세 변형과 얼굴 내 기하학적 왜곡 발생 가능 영역의 이상 신호 흔적을 분석하여 이미지의 위변조 여부를 알아내도록 서비스를 설계했다.

의심되는 동영상을 프레임으로 잘라 이미지로 변환한 후 미세 변형과 왜곡 여부를 탐지하는 방식으로 딥페이크 여부를 판단하므로, 동영상의 한 프레임을 잘라 이미지로 전환한 후 카이캐치 앱에 업로드 하면 딥페이크 여부를 확인할 수 있다.

연구팀은 카이캐치는 높은 범용성을 갖도록 설계되었으며 연구팀이 예측하지 못한 기법을 사용한 딥페이크라도 90% 이상의 신뢰도로 탐지할 수 있을 것이라고 판단했다.

현재는 ‘안드로이드’ 기반의 앱 서비스만 제공되지만 애플 ‘iOS’ 기반의 앱서비스도 제공될 예정이며, 최신 기술들을 업그레이드 하여 카이캐치가 탐지할 수 없는 딥페이크를 최소화할 계획이라고 연구팀은 덧붙였다.

최근 딥페이크 범죄는 유명인에서 일반인으로 그 대상을 넓히고 있으며 이미지 합성 기술 수준을 가지고 있지 않은 사람도 손쉽게 허위 이미지를 제작할 수 있을 정도로 프로그램의 완성도가 높아지고 있다.

이 같은 배경에서 중형의 형벌을 규정하는 등 제도적인 장치 마련도 중요하지만 딥페이크에 맞설 수 있는 과학기술적 방안 마련에도 적극적인 지원이 필요하다는 게 전문가들의 조언이다.


최신기사
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0 - 상대에 대한 비방글은 예고없이 삭제될 수 있습니다.
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.