지난 8일(현지시간) 미국 NBC 뉴스에 따르면 최근 페이스북에 떠도는 딥페이크 관련 애플리케이션 광고물에서 왓슨의 얼굴이 자주 등장한다. 그녀는 처음에 수줍게 웃다가 카메라 앞에 몸을 굽히며 야릇한 행동을 취한다. 이는 실제 왓슨이 출연한 것이 아니라 딥페이크로 영상의 얼굴만 바꿔치기한 것이다. 딥페이크는 동영상에서 다른 사람의 얼굴을 합성하는 기술로, 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있다.
페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 액션 여배우 스칼릿 조핸슨의 얼굴을 쓴 것으로 파악됐다고 NBC는 전했다.
이러한 비동의 딥페이크 영상의 문제점은 왓슨 같은 유명 인사나 인플루언서 뿐만 아니라 미성년자를 포함한 누구의 얼굴도 바꿔치기할 수 있다는 데 있다.
메타 등 대부분의 플랫폼은 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있으나 NBC가 검토한 앱들은 규제의 틈을 비집고 버젓이 활성화돼 있었다. 노골적인 성적 행동은 거르지만 미리 정해진 범주의 허점을 활용해 노출이 있는 남녀의 동영상을 딥페이크 대상물을 삼은 것이다. NBC는 실제로 최근 이 같은 앱을 이용해 딥페이크 기술을 적용해보니 수 초 만에 뚝딱 얼굴을 바꿀 수 있었다고 전했다.
문제의 앱 광고물은 매체가 취재에 들어가자 대부분 삭제되고 있는 것으로 알려졌다.
메타 대변인은 성명에서 "우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것"이라며 "우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다"라고 설명했다.
애플 대변인은 "아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않으나 음란물을 포함한 앱은 금지하고 있다"라고 밝혔다.
yuhyun12@fnnews.com 조유현 기자