/cdn.vox-cdn.com/uploads/chorus_asset/file/25384195/STK470_AI_LAW_CVIRGINIA_D.jpg)
캘리포니아 주 하원과 상원이 인공지능에 대한 주요 규제 중 하나인 안전하고 안전한 혁신을 위한 최전선 인공지능 모델 법안(SB 1047)을 통과시켰음.
이 법안은 실리콘밸리와 그 너머에서 논란의 중심이 되었으며, 캘리포니아에서 운영되는 인공지능 기업들이 정교한 기초 모델을 훈련하기 전에 여러 가지 예방 조치를 시행하도록 의무화함.
여기에는 모델을 신속하고 완전히 종료할 수 있는 기능, “안전하지 않은 훈련 후 수정”으로부터 모델을 보호하는 것, 모델이나 그 파생물이 “중대한 피해를 초래하거나 가능하게 할 위험이 있는지” 평가하기 위한 테스트 절차를 유지하는 것이 포함됨.
OpenAI의 최고 전략 책임자 제이슨 권은 새로운 편지에서 인공지능 규제는 연방 정부에 맡겨야 한다고 주장함. 블룸버그에 따르면, 권은 캘리포니아에서 논의 중인 새로운 인공지능 안전 법안이 진전을 늦추고 기업들이 주를 떠나게 할 수 있다고 말함.
이 편지는 SB 1047을 처음 소개한 캘리포니아 주 상원 의원 스콧 위너에게 보내졌음. 또 다른 캘리포니아 주 상원 의원은 주 정부 기관에서 사용하는 인공지능 시스템을 규제하기 위한 법안을 소개함.
민주당원 스티브 파딜라 상원 의원은 공공 인공지능 자원을 설립하고 주를 위한 “안전하고 윤리적인 프레임워크”를 만드는 법안인 상원 법안 892와 893을 소개함. 상원 법안 892는 캘리포니아 기술부가 인공지능을 사용하는 서비스에 대한 안전, 개인 정보 보호 및 비차별 기준을 개발하도록 요구함. 또한 캘리포니아 주가 “서비스 제공자가 설정된 기준을 충족하지 않는 한” 인공지능 서비스를 계약하는 것을 금지함.
캘리포니아의 한 법률가는 생성적 인공지능 모델을 더 투명하게 만들고 이 기술을 규제하는 방법에 대한 논의를 시작하기 위한 법안을 제출할 예정임.
타임지는 캘리포니아 상원 의원 스콧 위너가 “최전선” 모델 시스템, 일반적으로 대형 언어 모델로 분류되는 것들이 특정 컴퓨팅 파워를 초과할 때 투명성 기준을 충족하도록 요구하는 법안을 초안했다고 보도함. 위너의 법안은 인공지능 시스템이 “외국 국가의 손에 떨어지지 않도록” 보안 조치를 제안하고, 빅테크 외부에 인공지능 연구 센터를 설립하려고 함.
/cdn.vox-cdn.com/uploads/chorus_asset/file/22512651/acastro_210512_1777_deepfake_0003.jpg)