워싱턴 – 여러 주요 인공지능 기업들이 목요일, AI 제품 훈련에 사용하는 데이터 소스에서 누드 이미지를 제거하고 유해한 성적 딥페이크 이미지의 확산을 억제하기 위한 다른 안전 장치에 헌신하겠다고 약속함.
바이든 행정부가 중재한 이번 협약에 따라, 기술 기업인 어도비, 앤트로픽, 코히어, 마이크로소프트, 오픈AI는 모델의 목적에 따라 적절할 경우 AI 훈련 데이터셋에서 누드 이미지를 자발적으로 제거하겠다고 발표함.
백악관의 발표는 아동의 이미지 기반 성적 학대와 동의 없이 성인에 대한 친밀한 AI 딥페이크 이미지 생성에 대한 보다 광범위한 캠페인의 일환으로 이루어짐.
이러한 이미지는 "급증하고 있으며, 특히 여성, 아동, LGBTQI+ 사람들을 불균형적으로 타겟으로 하고 있으며, 현재까지 AI의 가장 빠르게 성장하는 유해한 사용 중 하나로 떠오르고 있다"고 백악관 과학기술정책실의 성명에서 언급함.
기술 기업들과 함께 이번 약속에 참여한 커먼 크롤은 AI 챗봇과 이미지 생성기를 훈련하는 데 사용되는 주요 데이터 소스인 공개 인터넷에서 지속적으로 수집된 데이터 저장소로, 데이터셋을 책임감 있게 소싱하고 이미지 기반 성적 학대에서 보호하겠다고 더 넓은 범위로 약속함.
목요일에 별도의 약속을 발표한 또 다른 기업 그룹은 범블, 디스코드, 매치 그룹, 메타, 마이크로소프트, 틱톡 등이 포함되어 있으며, 이미지 기반 성적 학대를 방지하기 위한 자발적인 원칙 세트를 발표함. 이 발표는 여성에 대한 폭력 방지 법안 제정 30주년과 관련이 있음.
