진정한 범죄 TikTok: AI 딥페이크 피해자는 깨어있는 악몽이다

에제이 딕슨(Ej Dickson)

TikTok 영상에서 거대한 파란 눈과 꽃무늬 머리띠를 가진 아기 천사는 "할머니가 나를 21개월이었을 때 230도 오븐에 가두었습니다"라고 말합니다. 딜런 매튜(Dylan Mathew)의 'Love Is Gone'의 애절한 멜로디 위에 사랑스럽고 어린애 같은 목소리로 말하는 아기는 자신을 미시시피에서 엄마, 할머니와 함께 살았던 어린 소녀 로디 마리 플로이드(Rody Marie Floyd)라고 소개합니다. 그녀는 어느 날 배가 고파서 울음을 멈추지 않았고, 할머니가 그녀를 오븐에 넣어 죽게 만들었다고 말했습니다. 영상 말미에 아기는 "더 많은 사람들이 내 진짜 이야기를 알 수 있도록 나를 따라오세요"라고 말했다.

물론 영상 속 아기는 실제가 아닙니다. 이 아기는 실제 범죄 피해자들의 이야기를 담은 영상을 게시하는 거의 50,000명의 팔로어를 보유한 계정인 @truestorynow에 게시된 AI 생성 창작물입니다. 그녀가 말하는 끔찍한 이야기는 비록 어느 정도는 사실입니다. 아기의 이름은 로디 마리가 아니라 왕족 마리였으며, 2018년 미시시피에 있는 할머니 집에서 칼에 찔려 숨진 채 발견됐다. 할머니 캐롤린 존스(48세)는 올해 초 1급 살인 혐의로 기소됐다. 하지만 로열티는 사망 당시 21세가 아닌 20개월이었고, 틱톡 영상 속 아기와는 달리 그녀는 백인이 아닌 흑인이었습니다.

이러한 부정확성은 인공 지능을 사용하여 본질적으로 살인 피해자를 부활시키는 대규모 실제 범죄 팬덤의 하위 장르인 AI 실제 범죄 피해자 TikTok의 기괴한 세계에서 흔히 볼 수 있는 과정이며, 그 중 다수는 어린 아이들입니다. 그 중 일부는 수백만 건의 조회수를 기록한 동영상에는 피해자가 자신의 죽음에 대한 소름끼치는 세부 사항에 대해 1인칭으로 ​​말하는 내용이 포함되어 있습니다. 대부분은 사전에 콘텐츠 경고가 없습니다.

뉴헤이븐 대학의 형사 사법 조교수인 폴 블리클리(Paul Bleakley)는 "그들은 매우 이상하고 소름끼친다"고 말했습니다. "클릭수와 좋아요를 얻는 가장 확실한 방법이기 때문에 강한 감정적 반응을 촉발하도록 설계된 것 같습니다. 보는 것이 불편하지만 그게 요점이 될 수 있다고 생각합니다."

175,000명의 팔로어를 보유한 실제 범죄 피해자 AI 동영상을 게시하는 계정인 Nostalgia Narratives가 게시한 것처럼 많은 계정에는 "가족을 존중"하는 방법으로 동영상에 피해자의 실제 사진을 사용하지 않는다는 면책 조항이 있습니다. 동영상의 캡션. 이 계정은 1995년에 학대하는 어머니에 의해 살해된 6세 소녀 엘리사 이스키에르도(Elisa Izquierdo)와 2020년 어머니의 여자친구에 의해 살해된 1세 소녀 스타 홉슨(Star Hobson)과 같은 유명한 아동 살인 피해자들의 이야기를 담고 있을 뿐만 아니라 , George Floyd 및 JFK와 같은 성인 살인 피해자도 있습니다. Rolling Stone이 연락한 계정 중 논평 요청에 응답한 계정은 없었지만 피해자의 외모를 바꾼 사실은 개인이나 청소년에 대한 딥페이크 묘사를 금지하는 TikTok 커뮤니티 지침, 즉 플랫폼이 3월에 제정한 정책 때문일 가능성이 높습니다. . (TikTok 대변인은 Rolling Stone에 @truestorynow가 커뮤니티 지침을 위반하여 삭제되었음을 확인했습니다.)

TikTok에서 이러한 AI 실제 범죄 피해자 비디오의 확산은 일반적으로 실제 범죄 장르의 엄청난 인기로 인해 제기된 최신 윤리적 질문입니다. The Jinx 및 Making a Murderer와 같은 다큐멘터리와 Crime Junkie 및 My Favorite Murder와 같은 팟캐스트는 엄청난 추종자를 얻었지만, 이 장르에 대한 많은 비평가들은 청중이 끔찍한 폭행과 살인에 대한 실제 이야기를 순수한 오락으로 소비하는 것의 윤리적 의미에 의문을 제기했습니다. , 안락 의자 탐정과 실제 범죄에 집착하는 사람들이 부상하면서 피해자의 사랑하는 사람에게 잠재적으로 다시 외상을 입힐 수 있습니다.

이러한 우려는 피해자의 관점에서 이야기를 전달하고 아마도 가족의 동의 없이 이름을 사용하여 믿을 수 없을 정도로 소름 끼치는 효과를 내는 Royalty가 등장하는 동영상과 같은 동영상에 두 배로 적용됩니다. Bleakley는 "이와 같은 일은 이전에 피해를 당한 사람들을 다시 피해자로 만들 수 있는 실질적인 잠재력을 가지고 있습니다"라고 말합니다. "이 AI 비디오에 나오는 아이들 중 한 명의 부모나 친척이 된다고 상상해 보십시오. 온라인에 접속하면 이상하고 높은 음조의 목소리로 여기에 죽은 아이를 기반으로 한 AI 이미지가 있습니다. 그들에게 일어난 일이야."