-빠르고 광범위하게 AI기술이 확산되고 있어 이를 대비할 필요 있어.
[뉴스워커_산업기획] 지난 3월 17일 IBK 기업은행은 금융감독원, 한국정보화진흥원과 함께 보이스피싱 감지 앱인 ‘피싱스톱’을 개발하여 18일부터 시범운영에 들어간다고 밝혔다.
피싱스톱은 과거 금융감독원이 축적했던 8200개의 보이스피싱 피해 사례를 학습한 AI가 통화 시에 사용된 주요 단어, 패턴, 문맥 등을 기존의 피해 사례와 비교 분석을 한 후 보이스피싱 가능성을 판단하는 방식을 사용하는 것으로 알려졌다.
해당 앱은 AI가 통화 내용을 분석한 후에 보이스피싱 가능성이 80% 이상으로 판단되면 사용자 설정에 따라 경고 화면, 휴대폰 진동, 혹은 “해당 전화는 보이스피싱이 의심됩니다. 주의하시기 바랍니다.”라는 음성으로 사용자에게 보이스피싱이 의심됨을 경고한다.
시중에 나와 있던 기존의 보이스피싱, 스팸차단 앱들은 보이스피싱에 사용되었던 전화번호를 데이터베이스에 저장하여 걸려온 전화번호만을 비교하는 것으로 보이스피싱, 스팸 여부를 판단하는 방식이 대부분이었기 때문에 발신자 전화번호를 변경하거나 범죄에 이용되지 않은 전화번호를 활용할 경우 그 대응에 어려운 점이 있었다.
그러나 피싱스톱 앱은 전화번호 비교분석이 아닌 AI가 통화 내용을 분석하여 보이스피싱 여부를 판단하기 때문에 기존 데이터베이스에 저장되지 않았던 전화번호로 보이스피싱 시도가 있을 경우에도 대응이 가능하다는 평가를 받고 있다.
IBK 기업은행은 기업은행 고객들을 대상으로 2~3개월의 시범운영을 거쳐 앱 사용에 대한 피드백을 받을 예정이며 시범운영 기간에 고객들로부터 제공받을 수 있는 피드백 외에도 지속적인 업데이트와 개선이 필요하다는 입장으로 전해졌다.
이와 같은 입장은 최근의 보이스피싱 수법이 진화하고 있어 AI가 이에 대응하기 위해서는 더욱 많은 양의 피해사례를 학습할 필요가 있기 때문으로 해석된다.
과거 보이스피싱은 피해자로 하여금 범인에게 직접 계좌이체를 하도록 유도하는 방식이 많았던 것에 반해, 최근의 수법은 피해자로 하여금 스마트폰에 원격제어 앱을 설치하도록 하고 OTP 번호 등 계좌이체에 필요한 정보를 빼내는 방식 등으로 진화하고 있다.
통화 당시 의심을 받기 쉬운 계좌이체를 직접적으로 요구하기보다는 피해자가 덜 의심하도록 스마트폰에 해킹 앱 설치만을 유도하고 계좌이체에 필요한 정보를 빼낸 후 나중에 범인이 편리한 시간에 금전을 가로채는 신종 수법은 IT 지식이 상대적으로 풍부하지 않은 일반인 상대로 성공가능성이 높은 것으로 평가받고 있다.
이와 관련하여 수사기관, 금융당국은 어떠한 경우에도 스마트폰에 원격제어 앱과 같은 프로그램 설치를 권유하지 않으므로, 사용자들은 절대로 보이스피싱범의 요구에 따라 신뢰할 수 없는 프로그램을 설치해서는 안 된다고 조언하고 있다.
한편 보이스피싱의 수법이 진화되고 있는 관계로 보이스피싱 감지 앱에 탑재된 AI도 피해사례 학습을 통해 감지능력을 향상시켜야 할 필요가 있기 때문에, 피해사례에 접근하기 쉽고 방대한 양을 축적하고 있는 금융당국의 도움이 필요할 것으로 전망된다.
◆ 자연어 음성 기반의 자동차 AI 인터페이스 등장
카카오는 지난 3월 18일 현대자동차 신형 소나타에 자사의 AI 플랫폼 ‘카카오i’ 기술을 적용할 예정이라고 밝혔다.
신형 소나타에 제공될 예정인 AI 인터페이스는 운전자가 버튼을 조작하는 것이 아니라, 운전대에 설치된 음성인식 버튼을 누른 후 소나타의 제어시스템과 대화를 통해 차량을 제어하고 운전자가 원하는 정보를 제공받는 자연어 음성 기반의 AI 기술인 것으로 알려졌다.
음성을 통해 차량을 제어하는 수준은 에어컨, 히터와 같은 공기조화장치의 작동, 풍향, 풍량의 조절 등에 제한되는 것으로 전해지지만, 향후 자율주행기술과 접목된다면 음성으로 차량의 주행까지 제어할 수 있을 것으로 전망되어 관련 기술적 평가는 그리 박하지 않은 편이다.
게다가 과거 길 찾기 정도에 국한되었던 정보제공 수준이 길 찾기 외에 뉴스브리핑, 날씨, 영화 및 TV정보, 스포츠경기, 오늘의 운세 등으로 확대되어 운전자가 운전 중에 스마트 폰을 꺼내어 사용하는 것 같은 안전운전에 위협이 되는 행위를 상당수 줄일 수 있을 것으로 전망되고 있다.
현대자동차와 카카오는 2016년부터 기술협력 MOU를 체결하고 자동차 AI 인터페이스 개발에 협력하고 있는데, 카카오 미니와 같은 대화형 AI 스피커를 개발하여 자연어 음성 기반 기술에 강점이 있는 카카오와 자율주행 자동차 관련 AI 기술에 강점이 있는 현대자동차의 협력은 시너지 효과를 불러올 수 있을 것으로 전망된다.
현재는 대화형 AI의 제어 수준이 에어컨, 히터 등 자동차의 핵심적이라고 보기 어려운 장비의 제어에 국한되고 있지만, 미국 드라마 나이트 라이더(한국명 전격 Z작전), 일본 애니메이션인 사이버 포뮬러에 나왔던 자동차처럼 운전자와 대화를 통해 주행을 제어하는 대화형 자율주행 자동차가 등장하는 것에 그리 오랜 시간이 걸리지 않을 것으로 평가되고 있다.
◆ 24시간 네트워크를 감시하는 보안 AI도 등장
네트워크나 사이버공간을 공격하는 해커는 이를 방어하는 관리자보다 몇몇의 이점을 가진 것으로 평가되는데 이 중 대표적인 것으로 해커의 공격이 언제 어느 곳에서 발생할지 관리자가 알기 어렵다는 점을 들 수 있다.
사이버공간은 방대하며 우수한 관리자라고 하더라도 24시간 네트워크를 감시하는 것은 어려운 일이기 때문에 해커가 공격에 취약한 장소, 시간대를 골라 공격하는 것은 그리 이상한 일이 아니다.
그러나 보안에 AI기술이 적용되면서 이와 같은 보안 취약점을 상당히 약화시킬 것으로 전망되고 있다.
지난 3월 14일 삼성SDS는 AI가 탑재된 클라우드 보안 토털 서비스를 공개하며 AI가 클라우드에 행해진 사이버공격을 자동으로 탐지, 분석하고 이를 차단할 수 있을 것이며, 클라우드 사용자의 행위, 접속기기, 위치 등을 자동으로 모니터링하여 사용자의 고의나 과실에 의한 정보유출 행위 또한 방지할 수 있을 것이라고 밝혔다.
이처럼 보안시스템에 AI기술을 적용한 기업은 삼성SDS에 국한되지 않는다.
포스코ICT는 ICS(산업제어 시스템)에 적용될 AI 기술 기반의 보안솔루션을 개발했는데, 포스코ICT의 보안솔루션은 머신러닝(기계학습)을 통해 평소 수행되는 제어명령의 패턴을 분석한 후 정상적인 제어명령과 비정상적인 제어명령을 구분할 수 있는 것으로 알려졌다.
삼성SDS와 포스코ICT의 보안 솔루션은 그동안 각 사에 축적된 보안위협을 AI에 학습시켜서 비정상적인 네트워크 트래픽, 제어명령 등 해커의 공격을 24시간, 어느 장소에서건 감지, 대응할 수 있을 것으로 전망된다.
물론 비정형적이거나 정상적인 제어명령을 모방하는 등 AI기술 적용 보안솔루션이 수행하는 감지, 방어 작업을 회피할 수 있는 사이버공격이 있을 수 있어 완전무결이라고 평가하기는 쉽지 않지만, 적어도 정형적인 사이버 공격은 완벽에 가깝게 막을 수 있고 기술적 수준이 높은 사이버공격도 보안솔루션의 학습, 완성도에 따라 상당한 수준으로 방어하는 것이 가능하므로 AI 적용 보안솔루션이 보안위협을 유의미하게 감소시킬 수 있다는 점은 부정하기 어렵다.
이세돌 9단과 알파고의 바둑 대결 당시에만 해도 일반 산업분야에서 AI의 활용을 체감하기는 쉽지 않았지만, 현재는 보이스피싱 대응, 자동차 AI 인터페이스, 보안솔루션, AI 투자자문까지 한계를 규정 짓기 어려울 정도로 광범위한 분야에서 AI 기술이 적용되고 있다.