 |
| 권일용 교수. (사진=나유진 기자) |
인공지능(AI) 기술의 발전이 사이버 보안에 양날의 검이 되고 있다. 전문가들은 AI를 활용한 사이버 범죄의 증가와 함께 개인정보 보호의 중요성을 강조하며, 새로운 보안 전략의 필요성을 역설했다.
지난 5일 서울 용산구 로얄파크 컨벤션에서 한국인터넷진흥원(KISA)과 과학기술정보통신부가 공동 주최한 AI 보안 세미나가 개최됐다. 이번 세미나는 ‘AI가 만든 사이버 위협, AI가 막는 사이버 위협’을 주제로 일상에서 발생하는 사이버 위협 현황과 대응 방안을 공유하기 위해 마련됐다.
이날 기조연설자로 나선 국내 1호 프로파일러인 권일용 동국대 경찰사법대학원 교수는 개인정보의 중요성을 강조했다.
그는 “최근 발생한 대부분의 강력 범죄는 개인정보 수집에서 시작됐다”며 “범죄자들은 빅데이터 속에서 피해자와 관련된 다양한 정보를 수집해 왔다”고 설명했다. 이어 “편의성을 위해 이용하는 시스템 속 개인정보들이 어떻게 관리되고 있는지 경각심을 가져야 한다”고 경고했다.
권 교수는 최근 논란이 된 딥페이크 악용 범죄와 관련해 “청소년들이 불법 영상물에 접근할 수 있는 경로 자체를 차단해야 한다”고 제언했다.
김성훈 KISA 팀장은 “AI 서비스에 데이터를 입력하거나, AI 모델을 학습시키는 과정에서 사용된 개인 정보가 유출될 수 있다”며 “지난해 3월 AI 서비스에 기업 정보를 입력해 사용하던 중 외부로 해당 정보가 유출되는 사례가 발생했다”고 말했다.
KISA에 따르면 AI 접근성이 확대되면서 AI가 사이버 범죄에 악용되는 사례가 늘고 있다. 공격자는 AI를 활용해 대량의 피싱 메일을 손쉽게 작성할 수 있게 됐다. 또 다국적 언어모델을 통해 언어 장벽을 극복, 공격 대상을 전 세계로 확대하고 있다. 특히 LLM을 활용한 코드 생성 기능을 악용해 누구나 손쉽게 해킹 또는 시스템 탈취 등에 필요한 기능을 개발할 수 있게 돼 범죄가 늘어나고 있다.
한편 이날 세미나는 △업스테이지의 기업 거래용(B2B) 대형언어모델(LLM) 도입 동향 △SK쉴더스의 AI LLM 해킹 기법 및 보안전략 △SK텔레콤의 AI 기반 보안 기술 및 적용 사례 △개인정보보호위원회의 AI 개발·서비스를 위한 공개된 개인정보 처리 안내서 등을 주제로 다양한 발표가 진행됐다.
나유진 기자 yujin@viva100.com
