애플 인텔리전스의 출시가 다가오면서 아이폰 제조사의 '사진이란 무엇인가?'라는 질문이 제기됨.
애플 소프트웨어 책임자 크레이그 페더리기는 월스트리트 저널과의 인터뷰에서 회사가 사진의 진정성을 유지하는 AI 기반 이미지 편집 도구를 제공하는 것을 목표로 하고 있다고 밝힘.
"우리 제품, 우리 전화는 많이 사용됨. 정확한 정보를 제공하는 것이 중요함, 환상이 아님,"이라고 페더리기는 말함.
iOS 18.1은 사진 앱에 새로운 '정리' 기능을 추가하여 이미지에서 객체와 사람을 신속하게 제거할 수 있게 함. 페더리기와 WSJ 기자 조안나 스턴은 이 기능이 구글이나 삼성과 같은 경쟁사들이 제공하는 편집 도구보다 훨씬 온건하다고 언급함. '정리'의 제한된 기능에도 불구하고 페더리기는 이를 추가하는 것에 대해 내부에서 '많은 논의'가 있었다고 말함.
"그 물병이나 마이크를 제거하는 것이 쉬워야 할까? 그 물병은 사진을 찍을 때 거기에 있었음,"이라고 페더리기는 '정리' 기능을 시연한 후 말함. "사진의 의미를 근본적으로 변화시키지 않는 불필요한 세부사항을 정리하고 싶어하는 수요가 매우 높았음, 그래서 우리는 그 작은 단계를 밟기로 했음."
페더리기는 애플이 AI가 '사람들이 사진 콘텐츠를 현실을 나타내는 것으로 신뢰할 수 있는지'에 미치는 영향에 대해 '우려'하고 있다고 말함. 이는 우리가 여기서 자주 이야기하는 주제임. 구글의 재구성 기능과 같은 편집 도구는 많은 사용자들이 텍스트 설명만으로 사진에 사자, 폭탄, 심지어 마약 용품을 추가하는 것을 매우 쉽게 만들어, 사람들이 사진에 두는 신뢰를 더욱 약화시킬 수 있음. 악의적으로 사용될 경우 생성적 AI 편집 앱은 점점 더 설득력 있는 가짜로 다른 사람들을 오도하거나 속이기 쉽게 만듦.
애플 인텔리전스는 현재로서는 경쟁 서비스처럼 AI 생성 조작을 이미지에 추가할 수 없으며, 새로운 객체 제거 기능을 사용하여 편집된 모든 이미지는 사진 앱에서 '정리로 수정됨'으로 태그가 붙고 수정되었음을 나타내는 메타데이터가 포함됨.
애플은 이러한 예방 조치를 취하는 데 있어 혼자가 아님. 어도비 주도의 콘텐츠 진위성 이니셔티브는 비슷한 '콘텐츠 자격 증명' 메타데이터 시스템을 가지고 있으며, 이는 사람들이 수정되지 않은 이미지와 AI 가짜를 구별하는 데 도움을 주기 위해 고안됨. 이는 기술, 카메라 및 미디어 회사들이 자발적으로 이를 지원해야 하지만, 지원은 꾸준히 증가하고 있음. 애플의 메타데이터 시스템이 콘텐츠 자격 증명을 지원할지는 불확실함.