비판을 받은 마이크로소프트가 이제 사용자에게 자사의 AI 서비스에 너무 많은 신뢰를 두지 말라고 경고하고 있음.
회사는 AI는 전문적인 조언을 대체하는 것이 아니라 가이드로 보는 것이 가장 좋다는 내용을 담은 업데이트된 서비스 계약을 공개함.
이번 업데이트된 계약은 다음 달 말부터 시행될 예정이며, 사용자들이 제공되는 조언에 너무 많은 신뢰를 두고 있다는 우려 속에서 헬스 봇에 대한 경고도 포함되어 있음.
마이크로소프트는 AI가 전문가를 대체할 수 없다고 강조함.
마이크로소프트의 수정된 약관은 보조 AI의 한계를 구체적으로 다루고 있음: “AI 서비스는 전문적인 조언의 대체물로 설계되거나 의도되지 않았음.”
회사는 헬스 봇이 “전문적인 의료 조언의 대체물로 설계되거나 의도되지 않았으며, 질병이나 기타 상태의 진단, 치료, 완화, 예방 또는 치료에 사용되지 않아야 한다”고 덧붙임.
이번 업데이트는 최근 몇 달 동안 ChatGPT와 같은 도구의 도입 이후 AI 도구의 사용이 증가하면서 정확성, 데이터 보안 및 개인 정보 보호에 대한 비판이 커진 것을 반영함.
계약은 또한 Bing의 이용 약관에 의해 관리되는 Copilot AI 경험이 마이크로소프트의 명시적 허가 없이 스크래핑이나 수집과 같은 방법으로 데이터를 추출하는 데 사용되지 않아야 한다고 재확인함.
더욱이, 업데이트는 AI 모델의 역설계에 대한 stricter 규칙을 부과하고 기타 보호 조치를 시행함: “AI 서비스를 사용하여 모델, 알고리즘 및 시스템의 기본 구성 요소를 발견할 수 없음.”
마이크로소프트는 자사의 AI 데이터를 사용하여 다른 AI 서비스를 생성하거나 훈련하는 것도 금지함.
다른 마이크로소프트 서비스에 대한 업데이트가 이루어졌지만, AI 약관의 수정은 회사가 책임 문제에 대응하고 사용자 기대를 보다 명확하게 관리하고 있다는 신호임. 또한 AI 기술이 가까운 미래에 인간을 대체할 가능성이 낮다는 점을 부드럽게 상기시킴.
