각 국가의 법률을 준수해 불법 콘텐츠 삭제, 관련 정책·운영원칙 개발
AI·ML 도입 결과 전체의 90% 이상의 유해 콘텐츠가 시청 전 삭제

구글이 전 세계 2만명 이상의 인력과 인공지능(AI)·머신러닝(ML) 등 최신 기술을 활용해 유해 콘텐츠 단속에 총력을 기울이고 있다. 지역별 법과 규제에 맞춰 정책과 운영원칙을 개발, 효율적인 콘텐츠 단속도 진행한다.

구글은 27일 서울 구글코리아 사무실에서 온라인 간담회를 진행했다. 장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄은 온라인으로 참석했다.

사헬 총괄은 구글의 목표가 ‘전 세계의 정보를 체계화해 누구나 편리하게 이용하도록 하는 것’이라고 말했다. 이 목표의 핵심은 다양한 플랫폼에서 다양한 방식으로 이용자에게 제공하는 정보의 연관성과 품질에 중점을 두는 것이다.

그는 “구글은 이용자들이 필요로 하는 순간에 가장 유용하고 신뢰할 수 있으며 도움이 되는 콘텐츠, 즉 ‘양질의 정보’를 제공하기 위해 노력한다. 동시에 이용자와 사회에 미치는 피해를 방지하고 ‘낮은 품질의 정보’를 제한하기 위해 노력한다”며 “구글 제품 및 서비스 전반에 걸쳐 일관되게 적용되는 기준을 바탕으로 정보의 품질 관리에 접근하고 있다”고 말했다.

유해 콘텐츠의 경우 구글이 사업을 운영하는 각 국가의 법률을 준수해 해당 국가의 구글 플랫폼에서 삭제하고 있다. 또한, 각 제품 또는 서비스에서 금지되는 콘텐츠와 행동 유형을 명시하는 정책을 개발·유지하고 이를 ‘운영원칙’으로 삼았다.

사헬 총괄은 구글이 △법률을 위반하는 경우 △구글 제품 또는 서비스에 대한 운영원칙을 위반하는 경우 두 가지의 기준으로 콘텐츠를 삭제한다고 소개했다.

운영원칙은 구글이 서비스하는 플랫폼의 특성에 맞춰 세워진다. 예를 들어 개인이 혼자 이용하는 메일 서비스 ‘지메일’은 콘텐츠 제약이 적은 편이지만 ‘유튜브’나 ‘구글 플레이’ 등 다른 사람과 콘텐츠를 공유하는 곳에서는 이보다 광범위한 제약이 요구된다.

사헬 총괄은 “플랫폼이나 제품마다 유해성이 다르게 판단될 수 있다. 아동 음란물처럼 모든 곳에서 일괄적으로 금지되는 것이 있는 한편, 사람의 나체를 표현한 콘텐츠의 경우 교육적인 측면에서 활용되는 내용은 예외가 될 수 있다. 이처럼 상황에 맞춰 유해 콘텐츠에 대한 판단을 진행한다”며 “다양한 의견에 대한 접근성 제공과 유해한 콘텐츠 및 행동 제한 사이에서 적절한 균형을 이루도록 콘텐츠 정책을 설계했다”고 밝혔다.

지난 2017년부터 AI·ML을 도입하면서 유해 콘텐츠 분류 속도가 확연히 빨라졌다. 사헬 총괄에 따르면 2022년 4분기에 삭제된 유튜브 영상의 94% 이상이 ML 기술에 의해 먼저 감지됐고, 이 중에서 71% 이상이 삭제되기 전 조회수 10회 이하를 기록했다.

다만, 기계나 AI가 분류하는 것에는 한계가 있다. 이를 보완하고자 구글은 전 세게 2만명 이상의 인력을 콘텐츠 검토 및 삭제 작업에 투입하고 있다. 여기에는 한국어를 포함해 여러 언어에 능통한 검토자들이 포함됐다. 이들은 전 세계에서 법적 사유로 인한 삭제 요청과 신고를 24시간 신중하게 검토하고 처리한다고 사헬 총괄은 강조했다.

사헬 총괄은 “세상은 너무나 빨리 변화하므로 우리의 콘텐츠 정책도 이에 맞춰가야 한다. 구글은 전문가와 이용자의 피드백, 외부 기관의 연구, 규제 당국의 가이던스 등을 통해 부족한 부분을 파악하고 정책과 관련한 테스트를 이어가고 있다”며 “시간은 많이 걸리지만 가치가 있는 노력이다. 이러한 과정을 거쳐 정책을 업데이트함으로써 유해 콘텐츠를 철저히 막을 것”이라고 말했다.

박준영 기자 pjy60@viva100.com