구글·X·오픈AI, 이미지 AI 전쟁 점화… 안전장치엔 '온도차'

챗GPT4o를 통해 생성한 ‘구글,X,오픈AI 이미지 생성 AI를 향한 질주’. (편집=나유진 기자)

글로벌 빅테크들이 잇따라 이미지 생성 인공지능(AI)을 출시하면서 윤리적 문제도 중요한 과제로 떠오르고 있다.

20일 관련 업계에 따르면 구글과 X(옛 트위터), 오픈AI 등이 이미지 생성 AI 서비스를 강화하고 있다. 기업들이 성능 향상에 주력하는 한편, 딥페이크나 저작권 침해에 대한 대응 방식은 상이해 향후 안전성 확보가 쟁점으로 부상했다. 

구글은 지난 15일(현지시간) 텍스트를 입력하면 이미지를 생성하는 AI ‘이마젠3’를 선보였다. 이전 모델보다 명령어 이해 능력이 향상돼 세밀한 묘사가 가능하다는 게 회사 측 설명이다. 구글 딥마인드는 “최고 성능의 텍스트 투 이미지(text-to-image) 모델”이라고 강조했다.  

일론 머스크 테슬라 CEO가 인수한 xAI도 이달 AI 챗봇 ‘그록2’를 공개하면서 이미지 생성 AI 기능을 추가했다. 그록2는 독일 스타트업 블랙 포레스트 랩스의 이미지 생성 기술 '플럭스.1(FLUX.1)'을 통합해, 자연스러운 색감과 정교한 표현이 강점이다.

오픈AI는 챗GPT 무료 사용자들에게도 이미지 생성 AI ‘달리3’ 사용 권한을 일부 부여했다. 사용자들은 하루 최대 2회 무료로 이미지를 제작할 수 있다. 회사 연구진에 따르면 달리3의 명령어 이해 능력은 '미드저니'를 크게 앞지른 것으로 나타났다.

이처럼 이미지 생성 AI 경쟁이 심화되면서 저작권, 딥페이크 등 유해 콘텐츠 생성에 대한 우려도 커지고 있다. 특히 그록2는 폭력적이고 선정적인 이미지 제작이 가능해 논란이 일었다. 일부 사용자들 사이에서 도널드 트럼프 전 대통령이 총을 쏘거나 카멀라 해리스 부통령이 공산당원 앞에서 연설하는 등의 조작된 이미지가 공유됐다. 머스크가 그록을 ‘세계에서 가장 재미있는 AI’라고 소개한 만큼 안전성에 대한 지적은 수그러들지 않고 있다.

이에 반해 구글과 오픈AI는 안전장치 도입에 주력하고 있다. 구글은 이마젠3를 선보이면서 유명 인사, 저작권 이슈가 있는 캐릭터 등의 이미지를 생성하지 않도록 설계했다. 아울러 지난해 구글이 개발한 AI 이미지용 워터마크 신스ID(SynthID)도 적용했다. 신스ID는 이미지 픽셀에 삽입되며 사람의 눈으로는 인식이 불가하다.

오픈AI도 자사 이니셔티브 중 하나로 ‘생성형 AI 콘텐츠에 대한 투명성’을 강조하는 만큼 안전장치를 강화했다. 달리3 출시 당시 지식재산권과 창작자를 보호하기 위해 예술가의 스타일을 모방하지 못하도록 설계했다. 지난 5월에는 달리3을 통해 생성된 이미지를 최대 98%의 정확도로 감지하는 도구도 개발했다. 

최근 미국 상원 의회에서 딥페이크를 규제하는 법안이 통과되면서 생성형 AI에 대한 윤리적 기준은 강화될 전망이다. 이 법안은 당사자 동의 없이 AI로 얼굴·음성을 합성해 공유하는 행위에 대해 피해자가 손해배상을 청구할 수 있도록 규정했다. 

업계 관계자는 "이미지 생성 AI의 성능 못지 않게 안전성 확보가 중요한 과제로 떠올랐다"며 "기업들의 자체 노력과 함께 제도적, 법적 노력이 뒷받침 돼야 할 것"이라고 말했다.

나유진 기자 yujin@viva100.com