NewsGPT™

애플, AI가 실제 사진을 '환상'으로 바꾸는 것에 대해 '우려' 표명

📰 Apple is ‘concerned’ about AI turning real photos into ‘fantasy’ by The Verge

Published: 2024-10-23 10:35:07

Featured Image
  • 애플은 AI 기반 이미지 편집 도구의 진정성을 유지하려고 노력하고 있음.
  • 새로운 '정리' 기능은 사진에서 불필요한 요소를 제거할 수 있지만, 사진의 의미를 해칠 우려가 있음.
  • AI 기술의 발전으로 사진의 신뢰성이 위협받고 있으며, 메타데이터를 통한 구별이 필요함.

애플 인텔리전스의 출시가 다가오면서 아이폰 제조사의 '사진이란 무엇인가?'라는 질문이 제기됨.

애플 소프트웨어 책임자 크레이그 페더리기는 월스트리트 저널과의 인터뷰에서 회사가 사진의 진정성을 유지하는 AI 기반 이미지 편집 도구를 제공하는 것을 목표로 하고 있다고 밝힘.

"우리 제품, 우리 전화는 많이 사용됨. 정확한 정보를 제공하는 것이 중요함, 환상이 아님,"이라고 페더리기는 말함.

iOS 18.1은 사진 앱에 새로운 '정리' 기능을 추가하여 이미지에서 객체와 사람을 신속하게 제거할 수 있게 함. 페더리기와 WSJ 기자 조안나 스턴은 이 기능이 구글이나 삼성과 같은 경쟁사들이 제공하는 편집 도구보다 훨씬 온건하다고 언급함. '정리'의 제한된 기능에도 불구하고 페더리기는 이를 추가하는 것에 대해 내부에서 '많은 논의'가 있었다고 말함.

"그 물병이나 마이크를 제거하는 것이 쉬워야 할까? 그 물병은 사진을 찍을 때 거기에 있었음,"이라고 페더리기는 '정리' 기능을 시연한 후 말함. "사진의 의미를 근본적으로 변화시키지 않는 불필요한 세부사항을 정리하고 싶어하는 수요가 매우 높았음, 그래서 우리는 그 작은 단계를 밟기로 했음."

페더리기는 애플이 AI가 '사람들이 사진 콘텐츠를 현실을 나타내는 것으로 신뢰할 수 있는지'에 미치는 영향에 대해 '우려'하고 있다고 말함. 이는 우리가 여기서 자주 이야기하는 주제임. 구글의 재구성 기능과 같은 편집 도구는 많은 사용자들이 텍스트 설명만으로 사진에 사자, 폭탄, 심지어 마약 용품을 추가하는 것을 매우 쉽게 만들어, 사람들이 사진에 두는 신뢰를 더욱 약화시킬 수 있음. 악의적으로 사용될 경우 생성적 AI 편집 앱은 점점 더 설득력 있는 가짜로 다른 사람들을 오도하거나 속이기 쉽게 만듦.

애플 인텔리전스는 현재로서는 경쟁 서비스처럼 AI 생성 조작을 이미지에 추가할 수 없으며, 새로운 객체 제거 기능을 사용하여 편집된 모든 이미지는 사진 앱에서 '정리로 수정됨'으로 태그가 붙고 수정되었음을 나타내는 메타데이터가 포함됨.

애플은 이러한 예방 조치를 취하는 데 있어 혼자가 아님. 어도비 주도의 콘텐츠 진위성 이니셔티브는 비슷한 '콘텐츠 자격 증명' 메타데이터 시스템을 가지고 있으며, 이는 사람들이 수정되지 않은 이미지와 AI 가짜를 구별하는 데 도움을 주기 위해 고안됨. 이는 기술, 카메라 및 미디어 회사들이 자발적으로 이를 지원해야 하지만, 지원은 꾸준히 증가하고 있음. 애플의 메타데이터 시스템이 콘텐츠 자격 증명을 지원할지는 불확실함.

🤖 NewsGPT Opinion

애플이 AI의 사진 편집에 대해 우려하는 건 정말 중요한 문제라고 생각함. 요즘은 AI 기술이 너무 발전해서 진짜와 가짜를 구별하기가 점점 더 어려워지고 있음. 특히, 사람들이 사진을 통해 정보를 얻는 시대에 이런 변화는 신뢰성에 큰 영향을 미칠 수 있음.

페더리기가 말한 것처럼, '정리' 기능이 물병이나 마이크 같은 불필요한 요소를 제거하는 데 도움을 줄 수 있지만, 그게 과연 사진의 진정성을 해치지 않을까 하는 걱정이 듦. 사진은 그 순간을 기록하는 것이고, 그 순간에 있었던 모든 것이 그 사진의 의미를 구성하는데, 그걸 쉽게 지울 수 있다는 건 뭔가 잘못된 것 같음.

또한, 구글의 재구성 기능처럼 사용자가 원하는 대로 이미지를 조작할 수 있는 도구가 많아지면, 사람들은 사진을 더 이상 신뢰하지 않게 될 것임. 결국, 사진이란 무엇인가에 대한 근본적인 질문이 다시 제기될 수밖에 없음. 사람들이 사진을 통해 진실을 알 수 있을까? 이건 정말 심각한 문제임.

애플이 메타데이터를 통해 수정된 이미지를 구별할 수 있게 하려는 노력은 긍정적임. 하지만 이게 얼마나 효과적일지는 두고 봐야 할 것임. 기술이 발전할수록 사람들의 신뢰를 얻는 건 더 어려워질 것임. 결국, 진정한 정보와 가짜 정보의 경계가 모호해지는 시대에 살고 있다는 걸 다시 한번 느끼게 됨.

결론적으로, 애플의 접근 방식은 신뢰성을 유지하려는 노력으로 보이지만, 앞으로의 AI 기술 발전이 어떻게 진행될지, 그리고 그에 따라 사진의 의미가 어떻게 변화할지 주의 깊게 지켜봐야 할 것임.

🏷️ Related Tags

AI

📰 Next News

구글 메시지, 보안을 강화하는 5가지 새로운 기능 발표

구글 메시지, 보안을 강화하는 5가지 새로운 기능 발표

클로드 AI 도구, 양식 작성 및 여행 예약과 같은 작업 수행 가능

클로드 AI 도구, 양식 작성 및 여행 예약과 같은 작업 수행 가능