다큐멘터리 제작자들, 영화 제작자를 위한 새로운 윤리적 AI 가이드라인 발표

할리우드의 이중 파업이 AI의 산업 채택에 주목한 지 1년이 넘은 지금, 영화 제작자들은 종종 교차로에 서 있음. 생성적 AI를 윤리적으로 사용할 방법, 혹은 전혀 사용하지 않을 방법을 고민하고 있음. 합성 자료에 대한 경계선을 어디에 두어야 할지에 대한 고민이 특히 심각함. 다큐멘터리 영화 제작자들은 AI로 생성된 목소리, 사진, 비디오와 같은 '가짜 아카이브' 자료에 대한 우려가 커지고 있음. 할리우드가 제작에 인공지능을 계속 채택함에 따라, 다큐멘터리 제작자 그룹이 기술 사용에 대한 질문을 해결하기 위해 혁신적인 윤리적 가이드라인을 발표함. 아카이벌 프로듀서 얼라이언스(APA)는 비영리 영화에서 생성적 AI 사용에 대한 우려에 대응하기 위해 결성된 300명 이상의 다큐멘터리 제작자와 연구자들로 구성된 자원봉사 그룹임. 이들은 1년 동안 가이드라인을 개발했으며, 할리우드 리포터에 공개 서한을 발표하여 산업에 대한 더 많은 가드레일을 요구함. 이 가이드라인은 캠든 영화제에서 발표되었으며, 이미 모든 형태의 시각적 스토리텔링을 형성하고 있는 기술의 가능성을 무시하려는 것이 아니라, 다큐멘터리 커뮤니티가 오랫동안 지켜온 저널리즘 가치를 재확인하기 위한 것임. "진짜 사진과 생성된 사진을 구별하기 어려운 세상에서, 생성적 AI가 비허가 스토리텔링에 미칠 수 있는 영향을 이해하는 것이 절대적으로 중요하다고 믿음"이라고 APA의 공동 이사인 스테파니 젠킨스가 성명에서 말함. 수십 개의 저명한 다큐멘터리 영화 단체들이 이 가이드라인을 지지하며, 다큐멘터리 프로듀서 얼라이언스(DPA)와 국제 다큐멘터리 협회(IDA) 등과 함께 마이클 무어, 켄 번스, 로리 케네디와 같은 50명 이상의 개별 영화 제작자들이 포함됨. "다큐멘터리는 진실을 추구하는 예술적 실천이지만, 진실의 본질은 항상 변할 수 있음"이라고 IDA의 전무 이사인 도미닉 윌스돈이 말함. "GenAI는 새로운 깊고 다양한 변화를 가져올 것이며, 일부는 유익하고 일부는 해로울 것임." APA의 가이드라인은 "다큐멘터리 분야가 AI 채택의 첫 번째 단계를 탐색하는 데 도움을 줄 수 있음." 생성적 AI의 사용을 전면적으로 거부하기보다는, 이 그룹은 네 가지 주요 원칙에 기반한 고려를 권장함: 1차 자료의 가치, 투명성, 법적 고려사항, 인간 시뮬레이션 생성의 윤리적 고려사항. 가이드라인에 따르면, 다큐멘터리 제작자들은 합성 자료가 역사적 기록을 어떻게 흐릴 수 있는지, 합성 자료에 인코딩된 알고리즘 편향을 고려해야 하며, 원본 자료의 형태나 매체를 보존하고, 변경된 사항이 있을 경우 텍스트나 시각적 신호를 통해 관객에게 알리며, 이미지 생성에 대해 전통적인 재현이나 재연과 동일한 의도와 정확성, 민감성을 가지고 접근해야 함. "이 기술의 창의적인 가능성이 크지만, 잠재적 위험을 고려하지 않으면 인공 콘텐츠가 다큐멘터리에 들어가면서 영화 제작자와 관객 간의 신뢰가 영구적으로 손상될 수 있으며, 역사적 기록이 흐려질 수 있음"이라고 레이첼 안텔 APA 공동 이사가 말함. 이 가이드라인은 로드러너에서 앤서니 부르댕의 목소리 딥페이크와 넷플릭스 다큐멘터리 'What Jennifer Did'에서 AI 생성 '아카이브' 사진에 대한 논란과 같은 여러 논란을 따름. 가이드라인은 내부적으로 투명성을 강조하며, 제작 팀, 법률 자문, 보험 회사, 배급사, 스트리머 및 주제와의 투명성을 강조함. "가이드라인의 초석은 투명성임. 관객은 자신이 보고 듣고 있는 것이 진짜 미디어인지 AI 생성인지 이해해야 함"이라고 APA의 공동 이사인 제니퍼 페트루첼리가 말함. 추가적인 투명성을 위해 APA는 아카이브 영상과 음악이 인정되는 방식으로 크레딧에 GenAI 도구, 제작자 및 회사를 포함할 것을 제안함. 그리고 가이드라인은 비허가 영화에서 인간 시뮬레이션, 즉 '딥페이크'의 사용을 구체적으로 다룸. 이 기술이 온라인에서 잘못된 정보를 유포하는 데 사용되는 뜨거운 주제임. 이 그룹은 "새로운 기술이 가져올 가능성에 대해 흥분하고 있으며, 특히 간과되거나 의도적으로 억압되거나 어떤 방식으로도 기록되지 않은 이야기들에 대해 흥미로움"을 느끼고 있음. AI 생성 인간 시뮬레이션은 참여가 위험에 처한 다큐멘터리 주제의 신원을 보호하는 데 도움을 줄 수 있음. 예를 들어, 데이비드 프랑스의 2020년 영화 'Welcome to Chechnya'는 러시아에서 박해받는 LGBTQ+ 사람들을 숨기기 위해 AI를 사용했으며, 'Another Body'는 딥페이크 복수 포르노의 피해자를 숨기기 위해 AI 베일을 사용함. "GenAI가 제기하는 도전 과제로 인해 다큐멘터리가 축소되는 것이 아니라, 이 새로운 기술을 책임감 있게 활용함으로써 모든 종류의 다큐멘터리를 향상시킬 수 있는 큰 잠재력이 있음"이라고 가이드라인은 언급함. "그렇지만 우리는 제작 과정에서 인간의 노동과 분별의 가치를 재확인함." 이러한 기준의 도입과 채택으로 다큐멘터리 영화 제작이 "인간의 역사를 기록하고 인간의 경험을 표현하는 매력적이고 신뢰할 수 있으며, 무엇보다도 신뢰받는 오디오-비주얼 스토리텔링의 형태로 계속될 것이라는 희망이 있음. "GenAI의 가능성은 무한하지만, 어떤 부담은 영화 제작자만이 감당할 수 있음."