인공지능(AI) 기술 발전이 사이버 보안에 양날의 검이 되고 있다. 전문가들은 AI를 악용한 사이버 범죄가 증가하고 있는 것을 경고하며 보안 강화의 필요성을 강조했다. 

지난 5일 서울 용산구 로얄파크 컨벤션에서 한국인터넷진흥원(KISA)과 과학기술정보통신부가 공동 주최한 AI 보안 세미나가 개최됐다. 이번 세미나는 ‘AI가 만든 사이버 위협, AI가 막는 사이버 위협’을 주제로 일상에서 발생하는 사이버 위협 현황과 대응 방안을 공유하기 위해 마련됐다.

이날 기조연설자로 나선 국내 1호 프로파일러인 권일용 동국대 경찰사법대학원 교수는 개인정보의 중요성을 조명했다. 그는 “최근 발생한 대부분의 강력 범죄는 개인정보 수집에서 시작됐다”며 “범죄자들은 빅데이터 속에서 피해자와 관련된 다양한 정보를 수집해 왔다”고 설명했다. 이어 “편의를 위해 이용하는 시스템에서 개인정보가 어떻게 관리되고 있는지 경각심을 가져야 한다”고 지적했다.

권 교수는 최근 논란이 된 딥페이크 악용 범죄와 관련해 “청소년들이 불법 영상물에 접근할 수 있는 경로 자체를 차단해야 한다”고 제언했다.

김성훈 KISA 팀장은 “AI 서비스에 데이터를 입력하거나, AI 모델을 학습시키는 과정에서 개인 정보가 유출될 수 있다”며 “지난해 3월 한 사용자가 AI 서비스에 기업 정보를 입력해 사용하던 중 해당 데이터가 외부로 유출되는 사태가 발생했다”고 말했다.

KISA에 따르면 AI 접근성이 확대되면서 AI가 사이버 범죄에 악용되는 사례도 증가하고 있다. 범죄자들은 AI로 대량의 피싱 메일을 작성하고 다국적 언어모델을 통해 언어 장벽을 극복, 공격 대상을 전 세계로 확대하고 있다. 특히 거대언어모델(LLM)로 해킹과 시스템 탈취 등에 필요한 코드 기능을 손쉽게 개발할 수 있게 되면서 보안 사고가 늘어났다.

김 팀장은 "생성형 AI 모델을 개발하고 데이터를 수집·학습하는 과정에서 주기적인 보안 검증 시스템을 갖추는 것이 중요하다"며 "AI 악용 범죄에 대응할 수 있도록 생성형 AI 기술을 탑재한 보안 방안도 모색할 것"이라고 전했다. 

한편 이번 세미나에서는 △업스테이지의 기업 거래용(B2B) LLM 도입 동향 △SK쉴더스의 AI LLM 해킹 기법 및 보안전략 △SK텔레콤의 AI 기반 보안 기술 및 적용 사례 △개인정보보호위원회의 AI 개발·서비스를 위한 공개된 개인정보 처리 안내서 등을 주제로 한 발표가 이어졌다.

나유진 기자 yujin@viva100.com