마이크로소프트(MS)는 ‘애저 AI 콘텐츠 세이프티’를 출시, 안전한 온라인 환경과 콘텐츠를 만드는 책임 있는 AI 생태계 확장에 나선다고 18일 밝혔다.

지난 5월 MS는 연례 개발자 콘퍼런스 ‘MS 빌드 2023’을 통해 애저 오픈AI 서비스의 일부로 애저 AI 콘텐츠 세이프티를 소개한 바 있다. 이번에 공식 출시되는 애저 AI 콘텐츠 세이프티는 독립적인 실행이 가능한 시스템으로, 오픈 소스 모델과 여타 모델에서 생성된 AI 콘텐츠에도 적용할 수 있어 활용이 확대될 전망이다.

애저 AI 플랫폼에서 제공되는 애저 AI 콘텐츠 세이프티는 고급 언어와 비전 모델을 사용해 증오나 폭력 등 잠재적으로 유해한 콘텐츠를 감지, 이를 심각성 점수로 표시한다. 이를 통해 기업과 조직은 내부 정책에 근거해 유해 콘텐츠를 차단하거나 플래그 표식 등으로 서비스를 맞춤화할 수 있다.

생성 AI의 잠재적인 위협 증가에 대응하기 위한 방안도 마련한다. MS는 고객 피드백을 적극 반영하며 기술 고도화에 주력하고 있다. 특히, 멀티모달 모델 관련 지속적인 연구를 통해 불쾌감을 유발할 수 있는 이미지, 텍스트 등의 창작물 감지 기능도 강화할 예정이다.

에릭 보이드 MS AI 플랫폼 담당 기업 부사장은 “이미 많은 기업이 생성형 AI의 가치와 역량을 경험하기 시작했다. 이런 상황에서 MS는 애저 AI 콘텐츠 세이프티를 통해 더욱 다양한 비즈니스 요구 사항을 가진 고객에게 보다 안전한 생성형 AI 사용 환경을 지원할 것으로 기대한다”고 밝혔다.

박준영 기자 pjy60@viva100.com