이 기사는 Globe의 잘못된 정보 및 허위 정보 보도 이니셔티브의 일환임.
배경 및 맥락
불타는 도시의 AI 생성 비디오가 베이루트에 대한 이스라엘의 공습에 대한 실제 영상에 편집됨. 이 잘못된 비디오는 X에서 수백만 조회수를 기록했으며 Facebook에서도 공유됨.
AI 생성 클립은 TikTok에서 유래
원래 AI 생성 비디오는 10월 1일 TikTok에 게시되었으며, 5초 클립은 1천만 회 이상의 조회수와 40만 개의 좋아요를 기록함. 비디오는 설명에서 AI 생성으로 라벨링되어 있지만 비디오 자체에는 표시되지 않음. 이 이야기에 직접 링크를 걸지 않으므로 증폭되지 않음.
비디오는 비현실적으로 행동하는 불꽃과 다른 물체와 혼합된 차량 등 AI 생성의 징후가 있음. 자연스러운 소리가 결여되어 있음.
TikTok에 게시된 비디오의 주석 섹션은 베이루트의 것이라고 주장하며 AI 생성의 지표인 왜곡된 영역을 보여주기 위해 느리게 재생되고 확대됨.
AI 비디오가 실제 영상에 편집됨
TikTok의 AI 클립은 베이루트의 진짜 비디오에 편집되어 더 진짜처럼 보이게 하려는 시도가 있었음. 진짜 영상은 10월 5일 AP의 보도에 포함됨. 폭발 장면은 잘못된 편집에서 상당히 확대됨.
결론
AI 비디오 생성기는 매우 사실적인 콘텐츠를 생성할 수 있으며, 이를 감지하기가 점점 더 어려워짐. 물체가 서로 상호작용하거나 차단하는 방식은 AI 제작의 단서를 제공하는 왜곡을 초래할 수 있음. 이러한 신호는 Meta가 지난주에 공유한 예시와 같이 점점 더 발견하기 어려워지고 있음.