카리나 뉴튼 인스타그램 글로벌 공공정책 총괄

[헤럴드경제=채상우 기자] 특정인을 상대로 한 무분별한 괴롭힘, 음란물 유포 등 고질적인 문제로 질타를 받아온 인스타그램이 인공지능(AI)과 머신러닝 기술을 활용해 안전성을 높인다.

카리나 뉴튼(사진) 인스타그램 글로벌 공공정책 총괄은 9일 역삼동 페이스북 코리아에서 기자간담회를 열고 인스타그램의 안전성 제고 방안을 발표했다.

우선, 인스타그램은 AI 기술을 활용해 유해 콘텐츠를 찾아 자동으로 신고할 수 있도록 했다.

뉴튼 총괄은 "샘플 콘텐츠를 이용한 지속적인 AI 기술 트레이닝을 통해 테러, 스팸, 혐오 발언 등 가이드라인 위반 게시물을 찾겠다"고 밝혔다.

그는 "특히 사이버불링(특정인을 사이버상에서 집단적으로 따돌리거나 집요하게 괴롭히는 행위) 방지를 위해 청소년 사이에 일어나는 사이버불링의 방식에 대한 포괄적 연구를 바탕으로 AI 기술을 도입하기로 했다"고 소개했다.

그간 허용했던 자살·자해 관련 콘텐츠에 대한 정책도 변경했다. 인스타그램은 자살·자해 콘텐츠가 게시물을 공유함으로써 문제를 해결하는 긍정적인 영향이 있다며 이를 허용해왔다. 하지만 해당 콘텐츠가 오히려 자살·자해를 유발한다는 지적을 받아왔다.

뉴튼 총괄은 "자해 콘텐츠가 자해를 조장하는 부정적인 영향을 미칠 수도 있다고 판단했다"며 "자살·자해와 관련된 이미지는 허가하지 않기로 했다"고 말했다.

아울러 일정 기간 동안 정해진 횟수 이상으로 유해 게시물을 올리는 계정을 즉시 삭제하도록 하는 '스트라이크 아웃' 모델을 적용해 계정 비활성화 정책을 강화했다.

뉴튼 총괄은 "인스타그램의 새롭게 강화되는 보안 기능은 이용자가 해킹이 의심되는 상황에서 스스로 계정을 신속하게 복구할 수 있도록 지원한다"며 "해커가 계정 정보를 변경하더라도 소유주가 계정을 개설할 당시 입력한 정보를 활용해 복구할 수 있다"고 설명했다.

123@heraldcorp.com