[파이낸셜뉴스] 인공지능(AI)으로 생성한 젊은 여성의 이미지로 소셜네트워크서비스(SNS) 계정을 만들어 정치적 메시지를 퍼뜨리는 상황이 실제 발생했다
최근 온라인 커뮤니티엔 '극우 SNS AI 조작 충격 근황' 등의 제목으로 게시물들이 확산됐다. 해당 게시물들은 지난달 26일 극우 세력의 인터넷 활동을 추적해 온 황희두 노무현재단 이사가 자신의 인스타그램에 올린 내용을 캡처한 것이다.
황 이사는 인스타그램 'XX조아'라는 계정의 운영자가 올린 사과문을 캡처해 올렸다. 지난달 올린 것으로 보이는 사과문에는 "죄송하다는 말씀을 먼저 드려야 할 거 같다"며 "XX조아는 남자"라고 밝혔다.
이어 "어느 시점부터 솔직하게 말씀 드렸어야 했는데 타이밍을 놓쳤다. 놀라시거나 배신감을 느끼실 분에게 사과 이외는 변명의 여지가 없다. 죄송하다"고 사과의 뜻을 전했다.
현재 해당 계정은 삭제된 상태지만, 캡처된 사진을 보면 계정의 성격은 명확하다. 계정 소개글엔 "자유대한민국을 사랑합니다. 윤어게인!"이라고 적혀 있고 20대로 보이는 젊은 여성의 '셀카' 사진이 "수줍게 민낯 공개, 오늘도 멸공" 등의 문구와 함께 올라와 있기도 하다.
황 이사는 'XX조아'라는 인스타 계정이 만들어지기 전 또다른 SNS 플랫폼인 스레드 계정에 비슷한 이미지의 여성 사진으로 남성 극우가 활동했다는 의혹을 제기하기도 했다.
이처럼 AI로 젊은 여성의 사진을 만들어 정치적 메시지를 퍼뜨리는 사례는 꾸준히 나오고 있다. 이로 인해 피해도 발생했다.
지난 2월에는 한 항공사 승무원이 자신의 사진이 정치 성향 계정에 무단 도용됐다며 피해 사실을 공개했다. 일부 유튜브 채널에서는 짧은 치마를 입고 태극기를 든 여성 이미지를 AI로 합성해 집회 영상처럼 제작하는 경우도 있었다.
황 이사는 "젊은 여성 극우 '네임드' 계정의 정체가 결국 드러났다"며 "문제는 AI 기술이 인간의 눈만으로 진짜와 가자를 구분하기 어려운 수준까지 왔다는 것"이라고 짚었다.
그러면서 "단순한 기술 문제가 아니라 인간의 '인지 과정'을 공격하는 인지전의 전형적인 사례"라며 "이미지를 활용하면 정치에 관심이 적은 이용자들도 알고리즘을 통해 자연스럽게 콘텐츠를 접하게 된다. 극단적 정치 메시지 확산에 활용되는 구조"라고 설명했다.
y27k@fnnews.com 서윤경 기자