딥페이크(deepfake) 기술을 통해 만들어낸 버락 오바마 전 미국 대통령의 모습.[한국인공지능윤리협회]

정부가 올해 상반기까지 인공지능(AI)을 이용해 만든 허위 조작영상을 식별해낼 수 있는 기술을 개발하기 위한 로드맵을 만든다.

13일 과학기술정보통신부에 따르면 올해 상반기까지 ‘딥페이크(deepfake)’를 무력화할 수 있는 기술을 개발하기 위한 ‘국가연구과제(R&D)’ 계획이 수립될 예정이다.

딥페이크는 정교한 AI 알고리즘을 이용해 조작된 이미지나 동영상을 말한다. 기존에도 이미지·동영상 조작은 있었지만, 딥페이크는 ‘딥 러닝(deep learning)’이란 AI 기술을 활용해 감쪽같이 조작되면서 진위를 가리기 매우 어렵다고 평가된다.

과기정통부는 이번 계획에 구체적인 과제 목표와 시기, 규모 등을 담을 예정이다. 구체적인 계획이 나온 뒤 예산 배정 과정을 거쳐 하반기 중으로 본격적인 R&D에 착수한다.

이처럼 정부가 직접 나서 문제 해결에 나서는 것은 딥페이크로 인한 피해가 이미 상당한 수준에 이르렀다는 판단 때문이다.

지난해 네덜란드 보안 연구 회사 ‘딥트레이스’의 조사 결과에 따르면 전 세계 딥페이크 음란 동영상의 피해자 중 25%가 한국 여자 연예인이었다.

딥페이크 문제는 연예 분야에만 국한된 것이 아니다. 유튜브 상 딥페이크 영상 가운데 12%가 정치인, 5%가 가짜 뉴스와 관련된 것이란 연구 결과도 있다.

특히, 올해는 총선까지 있는 만큼 정치적 의도를 담고 있는 가짜 뉴스 등으로 악용될 가능성이 높다는 우려도 나오고 있다.

이미 세계 주요 국가에선 딥페이크 문제를 해결하기 위한 기술 개발이 진행 중이다.

미국 국방부 산하 연구기관인 고등연구계획국은 콜로라도대 등 연구기관과 손잡고 조작된 영상이나 음성을 탐지해내는 기술을 개발 중이다. 유럽연합(EU)에서도 ‘인비드 프로젝트’란 이름으로 조작된 영상을 감지하는 기술을 개발 중이다.

과기정통부 관계자는 “딥페이크에 사용되고 있는 AI 원천기술 자체는 중립적이지만 어떻게 사용되느냐가 문제”라며 “부작용을 최소화함으로써 이제 막 시작 단계를 지나고 있는 AI 기술의 발전을 가로막지 않도록 할 것”이라고 말했다. 신동윤 기자