김상희 국회부의장 “AI 발전 꼭 필요, 인간에게 피해 끼친다면 정부가 나서야”

인공지능(AI) 기술을 악용한 범죄가 활개치고 있어 기술 규제 등 대책 마련이 시급하다는 지적이 나오고 있다. 특히 AI를 악용한 범죄 중 딥페이크(Deepfake) 불법 영상물에 대한 우려의 목소리가 잇따르는 상황이다.

28일 국회 과학기술정보방송통신위원회 소속 김상희 부의장(더불어민주당)이 방송통신심의위원회에서 제출받은 자료에 따르면, 방심위가 차단·삭제 지시한 딥페이크 성적 허위영상물은 지난해 6월부터 12월까지 548건, 올해 지난달 25일까지는 1408건으로 2.5배 이상 증가했다.

AI 기술의 발달은 인간의 삶의 질을 한 단계 높일 뿐 아니라 실종아동과 치매 환자를 추적하고, 불법 촬영물을 인공지능이 찾아 차단하는 등 범죄 예방의 기능이 있다. 그러나 최근 AI 기술이 불법적인 범죄에 악용되고 있다. 딥페이크 불법 영상물 제작·유포가 유난히 기승을 부리고 있는데, 딥페이크란 심층학습(Deep Learning)과 가짜(Fake)의 합성어로 AI를 이용해 가짜 영상을 만들어내는 기술이다.

딥페이크를 악용한 범죄를 구체적으로 살펴보면, 딥페이크 기술로 타인의 얼굴 사진을 도용해 음란물 영상에 합성한 뒤 이를 유포하겠다고 협박하는 등의 수법으로 금품을 가로챈다. 해외에서도 딥페이크를 악용해 해외 고위 임원 목소리를 모방한 뒤 거액을 송금하도록 속이거나, 친구 얼굴을 모방해 실제 영상통화를 한 뒤 돈을 빌려달라는 등의 사례도 나오고 있어 각별한 주의가 필요한 시점이다.

김 부의장이 경찰청으로부터 제출받은 자료에 따르면, 사회관계망서비스(SNS)와 채팅 메신저로 일반인·연예인 등 피해자들의 사진과 개인정보 등을 받아 딥페이크로 ‘성적 허위 영상물’을 제작해 판매·유포하는 범죄도 기승을 부리는 것으로 나타났다. 피해자의 사진만 가지고 AI 기술을 이용해 이질감 없는 영상을 만들기 때문에 확실하게 단속하지 못한다면 다크웹 등으로 퍼져 ‘제2의 n번방’ 사건이 될 가능성도 높은 상황이다.

이러한 ‘딥페이크 성적 허위영상물’의 제작 및 반포 행위를 금지하기 위해 2020년 3월 ‘성폭력범죄의 처벌 등에 관한 특례법’이 국회 본회의를 통과해 6월 25일부터 시행됐다. 그러나 딥페이크 범죄가 근절될 것이라는 예상과는 달리 범죄 수법은 진화하고, 차단 삭제 건수도 증가하고 있다.

이 때문에 AI를 포함한 지능정보 기술을 악용한 범죄의 피해를 막기 위해서는 기술 규제가 필요하다는 지적이 나오고 있다. 현행 ‘지능정보화 기본법’ 제31조와 제60조에 따르면 지능정보 기술이 사람의 생명과 신체의 안전을 저해하면 이를 제한하고 필요하다면 국가가 그 기술을 비상 정지하게 돼 있다. 하지만 현재까지 AI 등 지능정보 기술이 사람의 생명 또는 신체에 대한 긴급한 위해를 야기하는 등 규정을 위배하는 사례가 없어 해당 법이 적용된 사례는 전무하다.

김상희 부의장은 “현행법에는 AI를 악용해 심각한 정신적, 금전적 피해를 주는 것에 대한 규정이 없다”면서 “AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해서는 심각하게 지능정보 기술을 악용한 경우, 기술의 사용을 제한하거나 중지할 수 있게해야 한다”고 지적했다.

그러면서 “미래산업 사회 진입을 위해 AI 발전은 꼭 필요하지만 인간에게 심각한 피해를 끼친다면 정부가 직접 나서야 한다”며 “AI 범죄를 신종 범죄로 규정하고 AI의 불법행위와 악용을 막을 방안을 마련해 더이상 AI 범죄로 고통받는 국민이 없도록 노력하겠다”고 덧붙였다.

조택영 기자 cty@viva100.com