최고의 AI 이미지 생성기의 장점에도 불구하고, 많은 사람들은 정보의 왜곡과 가짜 뉴스에 대한 우려를 가지고 있음.
메타는 최근 북극광을 놓친 사람들에게 메타 AI를 사용해 가짜 사진을 만들라고 권장하는 글을 올림.
이 글은 'POV: 당신이 북극광을 실제로 놓쳤으니, 메타 AI로 당신만의 사진을 만들었어요'라는 제목을 달고 있으며, 금문교와 라스베가스 같은 랜드마크 위에 북극광이 있는 AI 생성 이미지를 포함하고 있음.
메타는 이 글로 인해 적절한 비난을 받음. 한 댓글은 '사진에 관심 있는 사람에게 인스타그램을 팔아주세요'라고 했고, NASA 소프트웨어 엔지니어인 케빈 M. 길은 메타의 가짜 이미지가 '우리의 문화적 지능을 악화시킨다'고 언급함.
메타의 글은 단순한 소셜 미디어 게시물일 수 있지만, 메타 AI의 이미지 생성기 사용에 대한 회사의 더 넓은 관점을 반영하는 것은 아닐 수 있음. 메타의 예시처럼 이미지를 생성하는 것 자체는 문제가 없지만, 창작자가 그 출처를 명확히 해야 한다고 주장할 수 있음.
문제는 메타의 글이 사람들이 AI를 사용해 실제 사건을 촬영한 것처럼 속이도록 유도하는 듯한 뉘앙스를 풍긴다는 것임.
많은 사람들에게 이는 북극광보다 더 중대한 뉴스 사건에 더 심각한 결과를 초래할 수 있는 선을 넘는 것임.
하지만 그 선은 어디에 있을까?
북극광의 AI 생성 사진을 올리는 것이 포토샵의 하늘 교체 도구를 사용하는 것보다 더 나쁜가? 아니면 어도비의 생성적 채우기로 사진을 편집하는 것보다 더 나쁜가? 이러한 질문들은 생성적 AI 도구들이 매일 제기하는 문제임. 메타의 실수는 그 선이 얼마나 얇을 수 있는지를 보여주는 사례임.
많은 사람들은 결국 투명성에 달려 있다고 주장할 것임. 메타의 게시물(아직도 살아 있음)의 문제는 AI 생성 북극광 이미지가 아니라, 그것을 사용해 실제 뉴스 사건을 목격한 것처럼 속일 수 있다는 제안임.
이미지의 출처에 대한 투명성과 정직성은 기술 회사와 사용자 모두의 책임임. 그래서 구글 포토는 AI 생성 이미지인지 여부를 알려주는 새로운 메타데이터를 테스트하고 있다고 함.
어도비도 콘텐츠 진위 이니셔티브(CAI)를 통해 시각적 허위 정보를 퇴치하기 위한 메타데이터 표준을 시도하고 있음. 구글은 최근 CAI의 가이드라인을 사용해 구글 검색 결과에서 AI 이미지를 라벨링할 것이라고 발표함. 하지만 표준 채택의 느림은 AI 이미지 생성기가 점점 더 강력해짐에 따라 우리를 애매한 상황에 놓이게 함.
상황이 곧 개선되기를 바라며, 그동안 소셜 미디어 사용자들이 완전히 AI 생성된 이미지를 올릴 때 정직해야 할 의무가 있음. 그리고 기술 대기업들이 그 반대 방향으로 유도하지 않도록 해야 함.
