생성형 AI로 만든 '슬롭 지하드'...테러 조직의 신종 선전 수법

이슬람 극단주의 테러 조직들이 생성형 인공지능(AI) 도구를 악용해 만화, 밈, 팬 편집 영상 같은 '슬롭 지하드'라는 신종 선전 콘텐츠를 대량으로 제작하고 있다는 경고가 나왔다. 국제전략대화연구소(ISD)와 유엔 산하 테러 대응 기술 조직이 공동으로 발표한 보고서에 따르면, 이 같은 콘텐츠는 젊은 세대를 겨냥한 급진화 도구로 활용되고 있으며, 특히 틱톡 플랫폼에서 급속도로 확산되고 있는 상황이다. 이는 테러 조직들이 새로운 미디어 환경에 빠르게 적응하면서 온라인 선전 전술을 근본적으로 변화시키고 있음을 보여주는 사례로 평가되고 있다.

슬롭 지하드 현상의 가장 충격적인 사례는 과거 이슬람국가(IS)가 공개한 극단적 폭력 영상을 인기 애니메이션으로 변형한 콘텐츠들이다. 10년 전 IS가 배포한 물에 빠뜨려 익사시키는 장면을 담은 영상이 스펀지밥 스퀘어팬츠 캐릭터로 재구성되어 틱톡에 유포된 것이 대표적이다. 이런 식으로 테러 조직의 폭력적 콘텐츠가 대중적인 만화 캐릭터를 활용해 재포장되면서, 기존의 노골적인 테러 선전보다 훨씬 더 광범위한 젊은 사용자들에게 도달할 수 있게 된 것이다. 이는 단순한 미학적 변화가 아니라 테러 선전의 효과성을 극대화하기 위한 전략적 진화로 해석되고 있다.

유엔 산하 테러 대응 기술 조직의 수행 이사인 애덤 헤들리는 "생성형 AI로 만든 고도로 세련된 콘텐츠가 폭력적 이슬람 극단주의 자료를 더 어린 사용자들도 쉽게 접할 수 있도록 만들고 있다"며 우려를 표했다. 그는 또한 "팬 편집물, 만화, 밈 같은 엔터테인먼트 형식의 콘텐츠를 통해 우연히 가해자 미화 내용을 접한 사용자들이 플랫폼의 알고리즘을 통해 더 노골적인 선전물로 유도될 수 있다"고 지적했다. 이는 테러 조직들이 알고리즘 추천 시스템을 악용해 급진화 경로를 자동으로 형성하고 있음을 의미한다.

IS와 알카에다 같은 테러 조직들은 오래전부터 새로운 기술과 미디어 환경을 선전에 활용해왔다. 2024년 IS 산하 뉴스 프로그램 '뉴스 하비스트'는 AI가 생성한 앵커를 이용해 선전 영상을 빠르고 저렴하게 배포하기 시작했다. 하지만 현재의 슬롭 지하드 현상은 이전과 질적으로 다르다는 게 전문가들의 평가다. ISD의 세계 이슬람주의 및 테러 대응 연구 의장인 무스타파 아야드는 "이것은 새로운 현상이며 여전히 성장 중이고 절정에 도달하지 않았다"며 "스펀지밥 스퀘어팬츠가 IS의 선전 도구가 되는 시대가 온 것"이라고 설명했다. 또한 일부 IS 계정들이 주간 뉴스레터인 '알나바'를 애니메 형식으로 변환해 배포하는 사례도 확인되었다.

슬롭 지하드 콘텐츠는 전통적인 테러 선전 지지자들로부터도 엇갈린 반응을 얻고 있다. 일부 기존 지지자들은 이런 콘텐츠를 진정한 신자가 만든 것이 아니라고 비판하고 있으나, 동시에 공식 선전물을 공유하던 계정들도 새로운 형식의 영상을 함께 배포하고 있는 상황이다. 이는 테러 조직 내부에서도 새로운 선전 전술에 대한 입장이 분분함을 보여준다.

틱톡이 슬롭 지하드 확산의 중심 플랫폼으로 지목되고 있다. 경제협력개발기구(OECD)의 2024년 보고서에 따르면 틱톡은 테러 및 극단주의 콘텐츠 확산의 상위 10대 플랫폼 중 하나로 평가되었다. ISD의 조사 결과 71개 계정에서 150개의 슬롭 지하드 영상이 발견되었으며, 이들은 틱톡에서만 540만 회 이상의 조회수를 기록했다. 인스타그램 등 다른 플랫폼에서도 제한적으로 발견되었지만, 대다수의 콘텐츠는 틱톡에 집중되어 있었다. 이는 틱톡의 강력한 알고리즘 추천 시스템이 테러 선전 콘텐츠 확산에 얼마나 효과적인지를 보여주는 증거로 해석되고 있으며, 플랫폼 측의 더욱 강화된 콘텐츠 관리와 모니터링이 시급한 상황이다.