토니 블레어는 노동연금부(DWP)가 인공지능(AI)으로 자동화될 수 있다고 생각함. 토니 블레어 연구소는 복지 시스템에서 사기를 감지하기 위해 AI 스캐닝 권한을 제안함.
빅브라더워치의 법률 및 정책 담당자인 수잔나 콥슨은 빅이슈에 "AI 시스템이 이전 정부의 복지 은행 감시 권한과 유사한 방식으로 대량 감시를 촉진할 수 있는 매우 현실적인 위험이 있다"고 말함.
그녀는 "AI를 대규모로 사용하는 것의 위험은 복지 시스템과 같은 고위험 환경에서 더욱 우려스럽다. 실수는 수급자가 스스로를 부양할 수 있는지, 집을 따뜻하게 할 수 있는지, 필수 약품을 지불할 수 있는지 결정할 수 있기 때문"이라고 덧붙임.
"AI를 맹목적으로 수용하는 것은 위험하다. 특히 비슷한 맥락에서 자동화 시스템의 실적을 고려할 때 더욱 그렇다. 호라이즌 스캔들에서 사용된 시스템은 우편소장관들에 대한 잘못된 고발로 이어졌고, 그들 중 많은 이들이 재정적으로 파산하고 범죄화됨"이라고 그녀는 말함.
"최근 조사에 따르면 20만 명이 주택 수당 사기 및 오류로 잘못 조사되었으며, 이는 모두 열악한 알고리즘 판단 때문"이라고 말함. 장애인 권리 UK의 캠페이너인 마이키 에르하르트는 DWP가 복지 수급자의 은행 계좌를 감시할 수 있도록 허용하는 제안이 "가장 작은 문제를 해결하기 위한 디지털 망치"라고 설명함.
"이들은 장애인들의 삶에 심각한 영향을 미쳤을 것"이라며, 장애인들이 유사한 정책으로 "악마화"되었다고 덧붙임. "우리는 모두 2200만 명이 영국에서 누리는 사회 보장 시스템을 자랑스럽게 여겨야 함. 이 시스템은 존엄, 존중, 신뢰 및 지원의 새로운 정신에 기반해야 함. 이 시스템은 장애인들이 우리가 원하는 삶을 살 수 있도록 지원하는 데 초점을 맞춰야 하며, 제재, 조건부, 또는 한도가 없어야 함. 우리가 받을 수 있는 최소한의 것임."