캘리포니아 주 의회가 최전선 인공지능 모델을 위한 안전하고 안전한 혁신 법안(SB 1047)을 통과시켰다고 로이터가 보도함.
이 법안은 미국에서 인공지능에 대한 중요한 규제 중 하나임.
법안은 캘리포니아에서 운영되는 AI 기업들이 정교한 기초 모델을 훈련하기 전에 여러 가지 예방 조치를 시행하도록 의무화함. 여기에는 모델을 신속하고 완전히 종료할 수 있는 기능, "안전하지 않은 훈련 후 수정"으로부터 모델을 보호하는 것, 모델이나 그 파생물이 "중대한 피해를 초래하거나 가능하게 할 위험이 있는지 평가하는 테스트 절차"를 유지하는 것이 포함됨.
법안의 주요 저자인 스콧 위너 상원의원은 SB 1047이 대형 AI 연구소들이 이미 약속한 대로 대형 모델의 재앙적 안전 위험을 테스트하도록 요구하는 매우 합리적인 법안이라고 말함. "우리는 올해 내내 오픈 소스 옹호자, 앤트로픽 등과 함께 법안을 다듬고 개선하기 위해 열심히 노력했음. SB 1047은 우리가 예측할 수 있는 AI 위험에 대해 잘 조정되어 있으며, 제정될 자격이 있음."
SB 1047의 비판자들, 즉 오픈AI, 앤트로픽, 정치인 조이 로프그렌과 낸시 펠로시, 캘리포니아 상공회의소는 이 법안이 재앙적 피해에 지나치게 집중하고 있으며, 소규모 오픈 소스 AI 개발자들에게 부당한 피해를 줄 수 있다고 주장함. 법안은 이에 대한 응답으로 수정되어 잠재적 형사 처벌을 민사 처벌로 대체하고, 캘리포니아 검찰총장에게 부여된 집행 권한을 좁히며, 법안에 의해 생성된 "최전선 모델 위원회"에 가입하기 위한 요건을 조정함.
주 상원에서 수정된 법안에 대한 투표가 이루어질 예정이며, 이 투표는 통과될 것으로 예상됨. AI 안전 법안은 가빈 뉴섬 주지사에게 전달될 것이며, 그는 9월 말까지 법안의 운명을 결정해야 함. 뉴욕 타임즈에 따르면.
앤트로픽은 지난주 뉴섬 주지사에게 보낸 편지 외에는 언급을 거부함. 오픈AI는 즉각적인 댓글 요청에 응답하지 않음.