캘리포니아 입법자들이 이번 주에 인공지능이 개발되고 배포되는 방식을 광범위하게 규제하는 법안에 대해 투표할 예정이다. 이 법안은 많은 기술 대기업들이 광범위한 반대를 표명하고 있는 가운데 진행되고 있다.
이 법안은 SB 1047로 알려져 있으며, 실리콘밸리 기술자들과 일부 입법자들로부터 반발을 받고 있는 이유는 다음과 같다.
법안의 내용은 무엇인가?
민주당 소속 스콧 위너 주 상원의원이 추진한 이 법안은 1억 달러 이상 개발 비용이 드는 고급 AI 모델이나 정의된 양의 컴퓨팅 파워가 필요한 모델에 대해 안전 테스트를 의무화한다. 캘리포니아에서 운영되는 AI 소프트웨어 개발자는 AI 모델이 잘못될 경우 이를 종료할 수 있는 방법, 즉 킬 스위치를 설명해야 한다.
법안은 또한 주 검찰총장에게 개발자가 준수하지 않을 경우 소송을 제기할 수 있는 권한을 부여하며, AI가 전력망과 같은 정부 시스템을 장악하는 등의 지속적인 위협이 있을 경우에 해당된다.
또한, 개발자는 안전 관행을 평가하기 위해 제3자 감사인을 고용해야 하며, AI 남용에 대해 목소리를 내는 내부 고발자에게 추가적인 보호를 제공해야 한다.
입법자들은 뭐라고 했나?
SB 1047은 이미 주 상원에서 32-1로 통과되었으며, 지난주에는 주 하원 예산위원회를 통과하여 전체 하원 투표를 준비하고 있다. 만약 8월 31일 입법 세션 종료 전 통과된다면, 9월 30일까지 주지사 개빈 뉴섬의 서명 또는 거부를 받게 된다.
샌프란시스코를 대표하는 위너는 AI의 발전이 통제 불능 상태가 되기 전에 대중을 보호하기 위한 법안이 필요하다고 말했다.
하지만 샌프란시스코의 낸시 펠로시, 실리콘밸리 대부분을 포함하는 로 카나, 산호세의 조이 로프그렌 등 캘리포니아 민주당원들이 이 법안에 반대하고 있다.
펠로시는 이번 주 SB 1047이 잘못된 정보에 기반하고 있으며, 더 많은 해를 끼칠 수 있다고 말했다. 민주당원들은 공개 서한에서 이 법안이 개발자를 주에서 쫓아내고, 누구나 사용하거나 수정할 수 있는 코드에 의존하는 오픈소스 AI 모델을 위협할 수 있다고 밝혔다.
기술 리더들은 뭐라고 했나?
AI를 개발하는 기술 회사들은 AI 배포에 대한 더 강력한 가드레일을 요구하고 있으며, 소프트웨어가 언젠가 인간의 개입을 피하고 사이버 공격을 일으킬 수 있는 위험을 언급하고 있다. 하지만 그들은 SB 1047에 대해서는 대체로 반대하고 있다.
위너는 기술 회사들을 달래기 위해 법안을 수정했으며, 아마존과 알파벳이 지원하는 AI 스타트업 앤트로픽의 의견을 반영했다. 그는 정부 AI 감독 위원회의 설립을 삭제했으며, 위증에 대한 형사 처벌도 삭제했지만 민사 소송은 여전히 가능하다.
알파벳의 구글과 메타는 위너에게 보낸 서한에서 우려를 표명했다. 메타는 이 법안이 주의 AI 개발 및 배포에 불리하게 만들 것이라고 말했다. 페이스북 모회사 메타의 수석 과학자인 얀 르쿤은 7월 X 포스트에서 이 법안이 연구 노력에 잠재적으로 해롭다고 언급했다.
오픈AI는 AI가 연방 정부에 의해 규제되어야 하며, SB 1047이 불확실한 법적 환경을 만든다고 말했다. 오픈AI는 SB 1047이 AI의 성장에 위협이 되며 기업가와 엔지니어들이 주를 떠나게 할 수 있다고 반대 입장을 밝혔다.
특히 이 법안이 오픈소스 AI 모델에 적용될 가능성에 대한 우려가 크다. 많은 기술자들은 오픈소스 모델이 더 빠르게 덜 위험한 AI 애플리케이션을 만드는 데 중요하다고 믿고 있지만, 메타와 다른 기업들은 이 법안이 통과될 경우 오픈소스 모델을 감시하는 책임을 져야 할 수 있다고 걱정하고 있다. 위너는 오픈소스 모델을 지지한다고 밝혔으며, 법안의 최근 수정안은 오픈소스 모델이 법안의 조항에 포함되는 기준을 높였다.
이 법안은 기술 분야에서 지지자들도 있다. AI의 '신'으로 널리 알려진 제프리 힌튼, 전 오픈AI 직원 다니엘 코코타일로, 연구자 요슈아 벵지오가 이 법안을 지지한다고 밝혔다.
