[뉴스워커_투데이 이슈] 총선 앞두고 윤석열 대통령 겨냥한 딥페이크 확산...가짜 영상 주의

[뉴스워커_투데이 이슈] 최근 윤석열 대통령이 등장하는 조작된 딥페이크가 온라인상에서 급속하게 확산되고 있다. 이에 경찰이 방송통신심의위원회에 해당 영상의 삭제 및 차단을 요청했다. 방심위는 이를 ‘대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물’로 보고 있다.

| '윤석열 대통령 양심고백 연설' 등 제목으로 확산...가짜 정보로 사회적 혼란 야기

4·10 총선을 앞두고 여야 공천 경쟁이 과열되면서 여론조사 왜곡 및 법으로 금지된 딥페이크 게시물이 활개를 치고 있다. ‘딥페이크(Deepfake)’란, 인공지능 기술인 딥러닝(deep learning)과 가짜를 의미하는 단어인 페이크(fake)의 합성어로, 인공지능 기술을 이용하여 진위 여부를 구별하기 어려운 가짜 이미지나 영상물을 의미한다.

특히 윤석열 대통령이 등장하는 딥페이크가 최근 틱톡과 메타 등의 SNS상에서 논란이 되고 있다. 해당 영상은 46초 정도의 분량으로 '윤석열 대통령 양심고백 연설' 등의 제목으로 올라오고 있다.

영상에서는 가짜 윤석열 대통령이 등장해 “존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해온 사람입니다”라며 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다”고 말한다. 또 “저 윤석열 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다. 윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인 그리고 집 없는 서민들을 절망에 몰아넣었다"고 말한다.” 또 “저 윤석열의 사전에 정치 보복은 있어도 민생은 없다”라고도 한다.

이에 대응하여 서울경찰청은 방송통신심의위원회에 공문을 보내 틱톡과 메타 등에 올라온 해당 게시글에 대한 삭제와 차단을 요청했다. 경찰은 “같은 URL 주소를 통해 틱톡, 인스타그램, 페이스북 사이트 계정을 사용하는 회원이 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이란 제목의 영상 등을 게시한 것으로 확인되어 삭제 및 차단을 요청한다”고 밝혔다.

방송통신심의위원회는 이번 영상을 윤석열 대통령을 이용해 사회적 혼란을 일으킬 수 있는 국내 첫 딥페이크물로 보고 있다. 이에 23일 긴급 통신심의소위원회를 열어 해당 안건을 심의하고 바로 삭제 및 차단 조치를 할 예정이다.

국내 스타트업 딥브레인AI는 연합뉴스를 통해 “논란이 된 영상은 윤석열 대통령 후보 시절 연설을 편집한 것으로, 딥러닝을 통해 생성된 딥페이크와 영상 편집을 통한 짜깁기는 다르다”고 설명했다. 한편, 중앙선거관리위원회는 해당 영상이 제22대 국회의원 선거 운동 관련 가짜 영상 또는 딥페이크 영상으로 보기는 어려워 공직선거법에 위배되는 것은 아니라는 입장을 밝혔다.

| AI로 조작된 가짜 정보 해외에서도 골치...대책은?

딥페이크는 국내뿐만 아니라 전 세계적으로도 골치 아픈 이슈이다. 정치계뿐만 아니라 연예계에서도 큰 문제가 되고 있다. 실제로 유명 배우인 조인성과 송혜교를 등장시켜 이들의 얼굴과 음성으로 가짜 영상을 만들어 투자를 권유하는 사기 범죄가 발생하기도 했다.

미국 유명 여가수 테일러 스위프트의 얼굴을 합성한 악의적인 음란 영상이 소셜미디어 X에서 광범위하게 확산되는 사건도 발생했다. 조회수가 4700만회를 넘어설 정도로 파장이 커지자, 미국 백악관에서 대변인이 브리핑을 할 정도였다. 현재 스위프트 측은 자신의 합성 이미지를 만든 소셜미디어 계정 등을 상대로 법적 대응을 검토 중인 것으로 알려졌다.

특히 올해 대선을 앞두고 있는 미국에서 선거 왜곡을 시도하는 딥페이크 이슈는 더욱 심각한 상황으로, 이미 이를 악용한 범죄가 현실에서 나타나고 있다. 뉴햄프셔주 프라이머리(예비선거)를 앞두고 조 바이든 대통령을 사칭한 딥페이크 음성이 유포되어 유권자들에게 혼란을 주었다. 또한 도널드 트럼프 전 미국 대통령이 경찰에 체포된 것처럼 조작된 딥페이크 사진물이 온라인상에서 퍼지기도 했다. 해외 전문가들은 딥페이크가 민주주의의 최대 위협 요소라며 위기의식을 가져야 한다고 목소리를 높이고 있다.

이렇듯 온라인상에서 급격하게 확산하는 딥페이크 이미지와 영상에 대한 규제가 필요하다는 주장이 강해지고 있다. 미국에서는 현재 33개주에서 AI 딥페이크 방지 법안이 발의된 상태다. AI로 생성한 정치 콘텐츠는 이를 표기하도록 고지 의무를 부과하거나, AI로 생성한 콘텐츠 자체의 게시를 금지하는 방안 등의 내용이 담겨있다.

한편 국내의 경우, 여야는 지난해 12월 20일 선거 전 90일 동안 딥페이크 선거운동을 금지하는 공직선거법 개정안을 국회 본회의에서 통과시켰다. 지난달 29일부터 시행된 이 개정안에 따르면 선거일 90일 전부터 선거일까지 인공지능 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 제작·편집·유포·상영·게시할 수 없도록 했다. 이를 위반하면 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금형으로 처벌하는 내용이 담겼다.