AI로 AI잡는다… '피싱 이메일' 기승에 보안업계 역공

챗GPT4o를 통해 생성한 ‘AI의 양면성, 창과 방패’. (편집=나유진 기자)

인공지능(AI)이 사이버보안의 ‘공격’과 ‘방어’ 수단으로 동시에 활용되고 있다.

18일 관련 업계에 따르면 보안 업체들이 AI를 피싱 이메일 탐지에 적극 활용하고 있다. 피싱 이란 신뢰할 수 있는 출처로 가장해 개인 정보를 빼내는 수법을 말한다.

한국인터넷진흥원(KISA)에 따르면 사이버 공격의 90% 이상이 피싱 이메일에서 시작된다. 특히 생성형 AI로 코딩과 언어 장벽이 낮아지면서 악성코드 제작·유포가 활발해졌다. 미 보안업체 슬래시넥스트는 올 1분기 전 세계 피싱 이메일 수가 챗GPT가 공개된 2022년 4분기 대비 4151% 급증했다고 보고했다.

이에 대응해 보안 업계는 생성형 AI로 방어 체계를 구축하고 있다. 머신러닝(ML)을 통해 피싱 메일을 학습·감별하며 AI로 대량의 피싱 메일을 분류하는 식이다.

안랩은 대량의 피싱 이메일 데이터셋을 학습시키는 등 머신러닝 기술을 보안 솔루션에 접목했다. AI는 맥락 정보와 구성 요소를 분석해 피싱 이메일 가능성을 추론하고, 스스로 근거를 제시해 결론을 내린다. 이 기술은 안랩의 APT(지능적 지속 위협) 대응 솔루션 안랩 MDS와 안랩 XDR에 적용됐다.

구글은 지메일에 AI 기반 스팸 필터링 기능을 접목해 분당 약 1000만개의 스팸을 자동으로 걸러낸다. 신경 언어 모델 등으로 스팸 탐지율을 38% 항샹했다는 게 회사 측 설명이다. 머신러닝으로 전 세계에서 1억회 이상의 피싱 시도와 99%의 스팸 메일을 차단하고 있다.

미국 프루프포인트는 거대언어모델(LLM) 기반 피싱 이메일 탐지 기능을 갖췄으며, 트렌드마이크로도 AI를 활용해 피싱 이메일과 BEC(업무 이메일 가장) 등을 차단한다.

업계 관계자는 “자사 포함, 대부분의 보안 업체들이 AI와 머신러닝을 활용한 탐지 기술을 사용 중”이라며 “AI 공격에는 AI로 대응하는 ‘기계 대 기계’ 방식이 효과적”이라고 설명했다.

나유진 기자 yujin@viva100.com