Adobe Firefly는 안전한 상업적 사용을 위한 Adobe의 생성 AI 모델 가족으로, 이미지 및 텍스트 효과와 같은 창의적 콘텐츠를 생성하여 디지털 미디어 제작을 향상시킴.
Firefly는 Photoshop, Acrobat, Express 등 Adobe 워크플로우에 직접 통합됨.
Firefly의 AI 편향 완화 및 산업 협력
Adobe의 AI 편향 퇴치에 대한 다각적인 접근 방식은 윤리적 기준을 유지하고 투명성을 촉진하기 위해 설계된 다양한 이니셔티브와 프레임워크를 포함함.
Adobe는 책임 있는 AI 개발을 우선시함.
회사의 선구적인 콘텐츠 진위성 이니셔티브(CAI)는 2019년에 소비자를 위한 허위 정보 및 딥페이크의 위협에 맞서기 위해 설립되었으며, 콘텐츠 출처 및 진위성(C2PA) 글로벌 표준 기구와 협력하여 출처 및 투명성 솔루션인 콘텐츠 자격 증명의 채택을 촉진함.
콘텐츠 자격 증명은 누구나 CAI의 오픈 소스 툴킷을 통해 자신의 제품 및 플랫폼에 통합할 수 있는 무료 기술 표준임.
콘텐츠 자격 증명은 이미 Microsoft, TikTok, AP, 뉴욕 타임스, 월스트리트 저널, Nvidia, Nikon, Spawning.ai, 유니버설 뮤직 그룹 등 3000명 이상의 CAI 회원의 광범위한 산업 지원을 받고 있음. 또한 CP2A 오픈 표준은 Google, Microsoft, OpenAI, Sony와 같은 대기업의 주요 채택자 및 구현자들로부터 광범위한 산업 지원을 받고 있음.
이러한 이니셔티브와 산업 간 협력은 디지털 환경에서 공정성, 포용성 및 책임을 촉진하려는 약속을 나타내며, 산업 전반에 걸쳐 디지털 콘텐츠 투명성과 윤리적 AI 개발을 위한 금본위제를 설정함.
“우리는 AI가 무책임하게 행동하지 않도록 위험을 줄이거나 가능성을 높이기 위해 이러한 내부 프로세스와 위원회를 설정하고 있다”고 Costin이 말함.
편향 탐지 및 수정
Adobe는 AI 모델의 포용성을 보장하기 위해 여러 단계의 편향 탐지 및 수정 방법을 사용함. “우리는 모델이 포용적이고 다양한 출력을 보장하기 위해 평가하는 DEI 그룹이 있다”고 Costin이 말함.
이 그룹은 디자인 팀과 함께 모델 출력을 검토하고 피드백을 제공하며 수정이 필요한 문제를 보고하는 데 상당한 시간을 할애함.
“디자인 팀은 이러한 모델과 그 출력을 검토하고 피드백을 제공하며 수정이 필요한 문제를 보고하는 데 많은 시간을 보낸다”고 그는 덧붙임.
또한 Adobe의 과학 평가 팀은 제3자 크라우드소싱 작업자를 사용하여 철저하고 과학적인 편향 평가를 수행함.
“내 팀인 과학 평가 팀은 생성된 이미지에서 편향을 식별하기 위해 제3자 크라우드소싱 작업자를 사용한다”고 Costin이 말함.
이러한 평가는 피부 톤, 연령 분포 및 성별 분포와 같은 측면을 포함함.
“우리는 피부 톤, 연령 분포, 성별 분포 측면에서 철저하고 과학적인 편향 평가를 수행한다”고 그는 말함.
투명성을 위한 콘텐츠 자격 증명
편향 완화 외에도 Adobe는 콘텐츠 제작의 투명성과 책임을 높이기 위해 콘텐츠 자격 증명을 도입함. 이는 온라인 디지털 콘텐츠에 대한 “영양 라벨” 역할을 함.
콘텐츠 자격 증명은 사용자에게 디지털 콘텐츠의 출처 및 편집에 대한 필수 정보를 제공하며, 여기에는 제작자의 이름, 이미지가 생성된 날짜, 이미지를 생성하는 데 사용된 도구 및 생성 AI가 사용되었는지 여부를 포함한 편집 사항이 포함됨.
이러한 자격 증명을 통해 제작자가 콘텐츠에 이 수준의 투명성을 추가할 수 있도록 하여 Firefly, Photoshop, Lightroom, Express, Stock, Behance 등과 같은 창의적 애플리케이션 전반에 걸쳐 허위 정보를 완화하고 콘텐츠 생태계 전반에 걸쳐 디지털 신뢰 및 진위성을 구축하는 것을 목표로 함.
“CAI와 C2PA에서의 지속적인 산업 협력과 리더십을 통해 온라인에서 신뢰와 투명성을 회복하려는 공동의 사명이 있다. 지속적인 기업 간 노력이 콘텐츠 자격 증명의 지속적인 채택을 촉진하고 강력한 창의성과 디지털 콘텐츠 편집을 지원하는 데 핵심이 될 것”이라고 Costin이 말함.
미래 노력
Adobe의 미래 노력은 훈련 데이터의 편향을 더욱 줄이고 데이터 세트의 다양성을 확장하는 데 초점을 맞춤.
“예를 들어, 일본에 있고 아침 식사를 입력하면, 데이터가 서양 요리에 편향되어 있다면 햄과 계란이 나올 것이다. 이는 우리가 잠재적으로 해롭다고 생각하는 또 다른 유형의 문화적 편향이다”고 그는 말함.
“우리는 훈련 데이터에서 서양 편향을 줄이기 위해 글로벌화 팀과 협력하고 있다”고 덧붙임.
이 노력은 지역 관습, 음식 및 전통에 대한 문화적으로 풍부한 데이터를 수집하는 것을 포함함.
“Adobe Stock의 미션 시스템은 기여자로부터 특정 유형의 이미지를 요청할 수 있도록 한다”고 그는 말함. 이러한 이니셔티브는 AI 모델이 전 세계 문화와 관점을 정확하게 반영하도록 하는 것을 목표로 함.
호주 기술 위원회의 정책 담당 대행인 Madeleine Houghton은 Adobe가 이 분야에서 하고 있는 선구적인 작업을 칭찬함.
Houghton에게 편향의 그림자는 건강, 금융, 법 집행, 고용 및 정부 서비스 접근과 같은 고위험 분야에서 더 크게 드리워짐.
“AI 시스템의 편향은 절대적으로 잘 인식되고 인정된 잠재적 피해 영역으로, 해결해야 할 필요가 있다”고 그녀는 말함.
AI 편향 완화의 핵심은 광범위한 분야에 집중하는 것이 아니라 해당 분야 내의 특정 사용 사례에 집중하는 것임.
“광범위한 분야에만 집중하는 것이 아니라 특정 사용 사례에도 집중하는 것이 중요하다”고 Houghton이 말함.
예를 들어, 금융 서비스에서 사기를 탐지하기 위해 AI를 사용하는 것은 신용 점수나 대출 신청을 결정하는 것과는 매우 다름. 각 시나리오는 고유한 위험과 편향 가능성을 제시하며, 정밀하고 맥락에 맞는 규제 및 거버넌스가 필요함.
정부 및 산업 협력
AI 편향 문제를 해결하려면 강력한 법률, 표준 및 산업 거버넌스를 포함하는 다각적인 접근 방식이 필요함.
“AI의 피해를 해결하기 위한 조치를 고려할 때, 우리는 강력한 법률이나 규제, 표준에 대한 소프트 법률, 그리고 산업 수준의 거버넌스 관행의 혼합을 포함할 것이라고 생각한다”고 Houghton이 말함.
“정부는 고위험 환경에 대한 의무적 가드레일을 고려하고 다른 환경에 대한 자발적인 AI 안전 표준을 개발하는 위험 기반 접근 방식을 취하고 있다.”
이 접근 방식은 편향으로부터의 보호와 혁신에 필요한 유연성을 균형 있게 유지하는 것을 목표로 함.
하지만 그는 법이 AI의 경계를 넘어서는 것이 아니라고 말하며, 기존의 법적 프레임워크가 AI 규제를 위한 기초를 이미 제공하고 있다고 덧붙임.
“소비자 보호, 프라이버시, 차별 금지 및 의료 및 금융 서비스와 같은 분야별 법률이 있으며, 이러한 법률은 모두 AI에 적용된다”고 Houghton이 말함.
“AI는 규제되지 않지 않는다. 기업은 다양한 맥락에 적용되는 규제가 무엇인지 인식해야 한다.”
