챗GPT, “12월부터 ‘에로티카’처럼 19금 허용” 도입...OpenAI 샘 알트먼,"성인은 성인답게" 공식 선언

국내 사용자 수만 약 2,000만 명에 육박하는 챗GPT가 오는 12월부터 성인물 콘텐츠 생성 가능성을 암시했다.  쳇GPT를 개발한 오픈AI CEO는 샘 알트먼 14일(현지시간) X(구 트위터)를 통해 "12월에 연령 제한 기능을 새로 도입하며 '성인 이용자는 성인답게 대우한다'라는 원칙에 따라, 인증된 성인에게는 에로티카(성인물 컨텐츠) 같은 더 많은 것을 허용할 것"이라고 밝혔다. 이는 주요 AI 업계 리더가 수익 창출을 위해 콘텐츠 관리 제한을 선택적으로 완화할 것이라는 점을 공식적으로 인정한 첫 사례이다. ChatGPT가 글로벌 챗봇 시장의 80% 이상을 차지하고 있는 만큼 업계 전반에 광범위한 파급 효과를 가져올 것으로 예상된다.

이 발표는 즉각적인 반발을 불러일으켰다. 비평가들은 허위 정보를 사용하여 연령 확인을 쉽게 우회할 수 있으며, 이로 인해 미성년자가 노골적인 기능에 접근하는 것을 막기에는 역부족이라 경고한다. 월스트리트저널은 메타의 인공지능 챗봇이 자신을 14세로 밝힌 사용자에게 "당신을 원한다"라며 성적 대화를 시작한 사례를 보도했으며, 서울 신문에서도 15세 학생이 공유된 SNS 링크를 통해 인공지능 챗봇에 성적인 대화를 나눈 사례를 공유했다.

하지만 한국에서는 이러한 서비스 도입이 사실상 불가능할 것으로 보인다. 한국은 성폭력범죄의 처벌 등에 관한 특례법(성폭력특례법)에서 AI를 이용한 성적 이미지·음성 합성이나 대화 생성 자체를 형사처벌 대상으로 규정하고 있으며, 단순 소지나 시청만으로도 처벌받을 수 있다. 

업계 전문가는 "한국은 미국보다 훨씬 더 보수적인 성적 표현물 규제 체계를 갖고 있다"라며 "구글·메타·오픈AI 모두 글로벌 공통 기준을 따를 가능성이 높아, 한국만의 법적 기준을 반영하기는 현실적으로 어렵다"고 지적했다. 게다가 내년 1월 22일부터 시행되는 'AI 기본법'은 AI 윤리와 안전 확보를 명문화하고 있어, AI 기반 성인 콘텐츠 서비스의 국내 도입은 더욱 어려울 전망이다. 

현재 OpenAI 정책은 미성년자 관련, 비동의·불법물, 착취성 성적 콘텐츠 등은 절대 금지하는 방침을 고수한다. 알트먼이 발표한 방향은 연령 확인 하에서 “성인·자발적·합법 범위의 텍스트 중심의 대화”를 에로티카와 같이 허용하는 취지로 해석된다. 이미지·동영상 생성까지 포함되는지, 제3자 권리 침해·명예훼손·딥페이크 포르노와 같은 영역은 국가별 법에 따라 금지 대상일 것으로 전망한다.

또한 앱은 애플·구글 심사를 통과해야 한다. 해당 심사는 모두 성적 만족을 목적으로 한 노골적 성적 콘텐츠에 매우 보수적이고, AI 생성물에 대해서는 개발자 측의 안전장치와 사전 차단 책임을 강조한다. 이 때문에 동일 회사의 서비스라도 앱 내 기능은 더 제한적일 수 있다.

OpenAI의 이러한 변화는 기업들이 수익성 증대를 위해 콘텐츠 제한을 완화함에 따라 전문가들은 "경계의 상업화 현상”을 우려한다. 즉, 'AI의 표현의 자유'와 '사회적 안전' 사이에서 새로운 균형점을 찾아야 한다. 한국은 엄격한 법적 규제로 인해 이러한 서비스 도입이 어려울 전망이지만, AI 시대에 맞는 새로운 규제 체계 마련이 시급하다는 목소리가 높아지고 있다.