탈옥된 챗GPT를 통해 랜섬웨어 제작 코드를 제약 없이 받아볼 수 있다

마이크로소프트(MS)가 자사 검색 서비스 빙(Bing)을 통해 선보인 챗GPT(ChatGPT)가 랜섬웨어나 멀웨어를 제작하는 등의 사이버 범죄에 사용될 수 있다는 사실이 밝혀졌다. 특히 일부 이용자들은 챗GPT를 탈옥(Jailbreak)시키는 방법 등을 통해 악성 프로그램을 제작하고 있는 것으로 나타났다.

최근 복수의 외신 및 보안업체는 챗GPT를 이용해 멀웨어나 랜섬웨어와 같은 악성 프로그램을 제작·유포하는 악성 해커들이 증가하고 있다고 경고하고 있다. 기본적으로 챗GPT는 악성 프로그램을 제작하는 등의 불법 행위에 대한 질문에는 대답하지 않으나, 이를 우회하는 방식으로 질문할 시 악성 프로그램을 제작하는 방법을 손쉽게 알아낼 수 있다.

특히 챗GPT 답변에 제약을 풀어주는 탈옥(Jailbreak)이라는 방법이 알려지자, 이를 이용한 사이버 범죄 위험이 가속화되고 있다. 최근 온라인 커뮤니티 등에서는 챗GPT에 특정 질문을 입력할 시, 불법 행위나 비윤리적인 질문에도 제약 없이 답변받을 수 있다는 사실이 알려졌다. <뉴스워커>의 확인 결과 이를 통해 악성 프로그램 제작 방식을 질의할 시 챗GPT는 랜섬웨어, 키로거 등 다양한 악성 프로그램 제작을 위한 코드를 전달하고 있다.

챗GPT를 통해 다양한 방식의 악성 프로그램 제작 방법을 확인할 수 있다

이러한 방식은 보안이나 해킹에 대한 전문적인 지식 없이도, 누구나 쉽게 멀웨어나 랜섬웨어를 제작할 수 있다는 점에서 사이버 범죄의 접근성을 낮출 수 있다. 실제로 챗 GPT를 활용해서 IP카메라의 취약점을 알아내거나, 데이터를 탈취하는 등의 사례도 보고되고 있는 만큼, 이에 대한 규제가 필요하다는 주장도 제기되고 있다.

이에 한 보안업계 전문가는 <뉴스워커>와의 통화를 통해 “검색엔진이 처음 등장했을 때와 유사한 경우로, 챗GPT를 통한 유해 정보를 완전히 차단하는 것은 현실적으로 불가능할 것”이라며 “챗GPT를 통해 제작될 수 있는 불법 프로그램을 패턴화해 이를 통한 범죄를 미연에 방지하거나, 사이버 보안의 관점에서 챗GPT를 활용할 수 있는 방안을 고민할 필요가 있다”라고 전했다.

저작권자 © 뉴스워커 무단전재 및 재배포 금지