악용 우려…메타·애플 “음란물 콘텐츠 금지한다”
NBC 뉴스는 8일(현지시간) 사회관계망서비스(SNS)의 음란 광고가 유명 배우들의 얼굴을 당사자의 동의없이 얼굴을 합성해 등장시키고 있다고 보도했다.
보도에 따르면 페이스북에 떠도는 딥페이크(Deepfake) 관련 애플리케이션(앱) 광고에서 영화 ‘해리포터’ 시리즈로 유명한 배우 엠마 왓슨이 출연해 미소 짓다가 몸을 굽히는 행동을 한다.
하지만 광고에 등장하는 왓슨은 진짜가 아닌 딥페이크 기술로 조작한 합성물이다.
딥페이크는 동영상에서 다른 사람의 얼굴을 합성하는 기술로 인공지능(AI)이 접목되면서 더욱 정교해지고 있다.
합성 기술이 정교해짐에 따라 유명 인사들은 물론 미성년자를 포함한 어떠한 사람들의 얼굴로 바꿀 수 있어 악용의 소지가 커지고 있다.
NBC 뉴스는 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개는 왓슨을 닮았고, 다른 74개는 할리우드 액션 배우 스칼렛 요한슨의 얼굴을 합성한 것으로 파악했다고 밝혔다.
테네시의 저널리즘을 전공하고 있는 로렌 버튼은 본인의 트위터에 “따돌림을 당하는 학생들에게 사용될 수 있다”면서 “누군가의 인생을 망칠 수 있고 직장에서도 문제가 생길 것”이라고 경고했다.
또한 “조작하기 쉬울뿐만 아니라 무료”라면서 “자신의 얼굴을 업로드한다면 50가지의 무료 견본을 이용할 수 있다”고 설명했다.
메타는 2020년 대부분의 딥페이크 콘텐츠를 금지했으며, 과도한 노출이나 성적 묘사 등을 포함한 성인물 콘텐츠도 금지했다.
플랫폼에서 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있지만, NBC 뉴스가 조사한 앱들은 규제의 사각지대를 악용해 활성화됐다.
이에 대해 메타 대변인은 “우리는 AI에 의해 생성되었는지 여부와 관계없이 성인용 콘텐츠를 금지하고 있다”면서 “현재 이 앱이 우리 플랫폼에서 광고하지 못하도록 제한했다”고 밝혔다.
2022년 첫 등장한 이 앱은 애플의 앱 스토어에서 9세 이상이면 무료로 다운로드받을 수 있었다.
애플 대변인은 아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않지만, 음란물과 명예훼손 콘텐츠가 포함된 앱은 금지하고 있다고 말했다.
애플은 NBC 뉴스의 문의받은 이후 앱 스토어에서 해당 앱을 제거했다고 전했다.