마이크로소프트와 비 마이 아이즈, 장애인 포용성을 높이기 위해 AI 모델의 정확성 격차 해소에 협력

마이크로소프트와 비 마이 아이즈는 장애인을 위한 AI 모델의 포용성을 높이기 위해 협력하고 있음.

비 마이 아이즈는 마이크로소프트에 비디오 데이터셋을 제공하여 장애인에 대한 AI 모델의 정확성 격차를 해소할 것임.

회사는 마이크로소프트와 공유하는 비디오에서 개인 정보를 생략하여 사용자 프라이버시를 유지할 것이라고 약속함.

비 마이 아이즈는 "전 세계 3억 4천만 명 이상의 시각 장애인 및 저시력자를 위한 AI 모델을 더 포용적으로 만들기 위해 마이크로소프트와 협력하고 있다"고 발표함. 비 마이 아이즈는 시각 장애인을 시각적 해석을 위한 보조자와 연결하는 모바일 앱임.

회사는 AI를 앱에 통합하면 더 효과적이고 효율적이 될 것이라고 주장함:

"AI 모델을 훈련하는 데 사용되는 공개 데이터셋은 종종 접근성 맥락이 부족하고 시각 장애인 및 저시력자의 실제 경험을 반영하지 못할 수 있음. 이러한 장애 데이터 사막은 AI가 만연한 미래에 내재된 편향과 접근 불가능성을 초래할 위험이 있으며, 이는 인터넷 발전 과정에서 저지른 실수를 반복할 수 있지만 그 잠재적 영향은 훨씬 더 클 수 있음."

회사는 장애, 특히 시각 장애인 및 저시력자 커뮤니티가 AI 모델 개발에서 배제되고 있다고 언급함. 결과적으로 AI 모델은 장애 관련 작업을 처리하는 데 어려움을 겪고 있음.

AI 혁명은 "더 포용적일 것"임.

AI 모델의 효율성과 효과성에 훈련이 중요하다는 것은 잘 알려져 있음. 그러나 "장애는 AI 훈련에 사용되는 데이터셋에서 종종 과소대표되거나 잘못 분류됨." 이는 궁극적으로 AI 모델의 유용성을 제한하고 편향 사례를 초래함.

이제 비 마이 아이즈는 마이크로소프트에 시각 장애인에 대한 효과적인 AI 모델 훈련을 촉진하기 위해 독특한 비디오 데이터셋을 제공할 것이라고 밝힘. 이 비디오는 시각 장애인이 직면하는 도전 과제를 포함할 것임. 이 비디오는 시각 장애인 및 저시력자 커뮤니티에 대한 AI 모델의 유용성을 제한하는 "정확성 격차"를 해소하는 데 도움이 될 수 있음.

프라이버시와 보안은 생성 AI가 더 보편화됨에 따라 계속해서 우려를 불러일으킴. 비 마이 아이즈의 마이크로소프트와의 첫 번째 협력은 개인 데이터를 비디오 메타데이터에서 모두 삭제하여 프라이버시를 유지할 것이라고 약속함. 여기에는 모든 사용자, 계정 및 개인 식별 정보(PII)가 포함됨. 또한 사용자는 비 마이 아이즈의 새로운 캠페인에서 선택 해제할 수 있어 개인 정보와 데이터가 공유되지 않도록 할 수 있음.

비 마이 아이즈에 따르면:

"비디오 데이터셋은 시각 장애인 및 저시력자 커뮤니티의 실제 경험을 나타내며, 장면 이해 및 설명의 정확성과 정밀성을 개선하는 데 사용될 것이며, 궁극적으로 AI의 유용성을 증가시키는 것을 목표로 함."

2023년 말, 마이크로소프트는 비 마이 아이즈와의 파트너십을 발표하여 시각 장애인 사용자를 위한 장애 답변 데스크 고객 서비스 부서를 더 접근 가능하게 만들 것임. 이 앱은 OpenAI의 GPT-4 모델로 구동되는 AI 기반 도구인 비 마이 AI를 특징으로 하며, 사용자에게 이미지에 대한 생생한 설명을 제공함.