구글 포토, 이미지가 생성 AI로 편집되었는지 알려준다

구글이 포토 앱의 이미지 세부 정보 페이지에 새로운 AI 노트를 추가한다고 발표함.

누군가 매직 에디터나 매직 지우개와 같은 기능을 사용했다면, 이 AI 노트가 그 사용을 알려주고 '구글 AI'를 크레딧으로 표기함.

이 기능은 '다음 주'부터 시작될 예정이며, 구글은 비생성 AI 기능도 포함된다고 밝힘.

진짜인지 AI로 생성된 것인지에 대한 인식이 구글과 사용자 사진의 중심에 놓이고 있음.

오늘(10월 24일) 구글은 사용자가 사진이 AI 소프트웨어로 편집되었는지에 대한 정보를 더 많이 제공한다고 발표함. 이 조치는 플랫폼에서 사진을 교환하는 사용자와의 투명성을 높이려는 구글의 관심에 뒷받침됨. 구글은 '다음 주부터' 포토 앱이 이미지가 AI 도구로 이전에 편집되었는지에 대한 세부 정보를 제공할 것이라고 밝힘.

사진에 대한 '더 많은 정보'를 제공할 때, 해당 페이지 하단에는 'AI 정보' 상자가 포함될 것임. 이 공간은 구글의 AI를 '크레딧'으로 표기하여 사용자가 보고 있는 생성물에 AI 도구가 사용되었음을 알림.

이 AI 노트는 구글의 유용한 사진 기능을 모두 상세히 설명할 것이며, 비생성으로 간주되는 기능도 포함됨. 이러한 기능에는 '나를 추가' 또는 '최고의 촬영'으로 촬영된 이미지가 포함됨. 구글은 이러한 기능이 사진을 변경하기 위해 AI를 사용하지 않지만, 여전히 어떤 형태의 기술적 마법이 사용되었음을 알릴 것이라고 설명함.

사용자는 이 AI 노트가 구글의 매직 에디터, 매직 지우개 및 줌 향상 기능을 사용하여 편집된 사진에 배치될 것임을 알아야 함.

구글이 IPTC(국제 언론 통신 위원회)의 기준을 따름에 따라, 이러한 편집 도구는 이미 생성 AI 사용을 나타내는 메타데이터를 가지고 있음. 그러나 이러한 투명성에 대한 욕구는 모든 사용자에게 더 눈에 띄게 만듦.

사용자는 앞으로 더 많은 '투명성'을 경험할 수 있을 것임. 구글은 '이 작업은 끝나지 않았으며, 계속해서 피드백을 수집할 것'이라고 암시함. 또한 구글은 생성 AI 창작물에 대한 투명성을 높이기 위해 대안 솔루션과 방법을 계속 모색할 것이라고 언급함. 더불어 구글은 이러한 추가 조치를 취하는 이유로 AI 원칙의 지침을 인용함.

구글의 또 다른 플랫폼인 유튜브에서도 비슷한 발표가 있었음. 3월, 유튜브는 모든 제작자가 비디오를 업로드할 때 작성해야 하는 '변경되거나 합성된' 콘텐츠 공개를 상세히 설명함. 유튜브는 비디오의 일부가 AI 도구로 변경된 경우, 해당 비디오는 시청자에게 알리기 위해 라벨을 받을 것이라고 밝힘.

제작자는 디지털 수단을 사용하여 비디오가 변경되었다고 공개한 후 이 라벨을 제거할 수 없음. 그러나 제작자는 비디오의 자막이나 스크립트를 생성하는 데 AI를 사용한 경우 걱정할 필요가 없음.