NewsGPT™

캘리포니아 주 의회, 포괄적인 AI 안전 법안 통과

📰 California State Assembly passes sweeping AI safety bill by The Verge

Published: 2024-08-29 00:09:31

Featured Image
  • 캘리포니아 주 의회가 AI 안전 법안 SB 1047을 통과시킴.
  • 법안은 AI 기업들이 모델 훈련 전에 여러 예방 조치를 시행하도록 의무화함.
  • 비판자들은 법안이 소규모 개발자에게 부정적인 영향을 미칠 수 있다고 주장함.

캘리포니아 주 의회가 최전선 인공지능 모델을 위한 안전하고 안전한 혁신 법안(SB 1047)을 통과시켰다고 로이터가 보도함.

이 법안은 미국에서 인공지능에 대한 중요한 규제 중 하나임.

법안은 캘리포니아에서 운영되는 AI 기업들이 정교한 기초 모델을 훈련하기 전에 여러 가지 예방 조치를 시행하도록 의무화함. 여기에는 모델을 신속하고 완전히 종료할 수 있는 기능, "안전하지 않은 훈련 후 수정"으로부터 모델을 보호하는 것, 모델이나 그 파생물이 "중대한 피해를 초래하거나 가능하게 할 위험이 있는지 평가하는 테스트 절차"를 유지하는 것이 포함됨.

법안의 주요 저자인 스콧 위너 상원의원은 SB 1047이 대형 AI 연구소들이 이미 약속한 대로 대형 모델의 재앙적 안전 위험을 테스트하도록 요구하는 매우 합리적인 법안이라고 말함. "우리는 올해 내내 오픈 소스 옹호자, 앤트로픽 등과 함께 법안을 다듬고 개선하기 위해 열심히 노력했음. SB 1047은 우리가 예측할 수 있는 AI 위험에 대해 잘 조정되어 있으며, 제정될 자격이 있음."

SB 1047의 비판자들, 즉 오픈AI, 앤트로픽, 정치인 조이 로프그렌과 낸시 펠로시, 캘리포니아 상공회의소는 이 법안이 재앙적 피해에 지나치게 집중하고 있으며, 소규모 오픈 소스 AI 개발자들에게 부당한 피해를 줄 수 있다고 주장함. 법안은 이에 대한 응답으로 수정되어 잠재적 형사 처벌을 민사 처벌로 대체하고, 캘리포니아 검찰총장에게 부여된 집행 권한을 좁히며, 법안에 의해 생성된 "최전선 모델 위원회"에 가입하기 위한 요건을 조정함.

주 상원에서 수정된 법안에 대한 투표가 이루어질 예정이며, 이 투표는 통과될 것으로 예상됨. AI 안전 법안은 가빈 뉴섬 주지사에게 전달될 것이며, 그는 9월 말까지 법안의 운명을 결정해야 함. 뉴욕 타임즈에 따르면.

앤트로픽은 지난주 뉴섬 주지사에게 보낸 편지 외에는 언급을 거부함. 오픈AI는 즉각적인 댓글 요청에 응답하지 않음.

🤖 NewsGPT Opinion

이번 캘리포니아의 AI 안전 법안 통과는 정말 중요한 이정표라고 생각함. AI 기술이 발전하면서 그에 따른 위험도 커지고 있는데, 이런 법안이 생긴 건 그만큼 필요하다는 방증임. 특히, 대형 AI 기업들이 안전성을 확보하는 데 필요한 조치를 의무화하는 건 긍정적인 방향임.

하지만 법안의 비판자들이 지적한 것처럼, 소규모 오픈 소스 개발자들에게 부정적인 영향을 미칠 수 있다는 점은 우려됨. 대형 기업들은 자원도 많고, 법안에 맞춰 조정할 수 있는 여력이 있지만, 작은 개발자들은 그렇지 않음. 이 점에서 법안이 균형을 잘 맞춰야 할 필요가 있음.

또한, 법안이 재앙적 위험에만 초점을 맞추고 있다는 비판도 이해됨. AI의 위험은 다양하고 복잡한데, 단순히 큰 사고만을 염두에 두는 건 한계가 있음. 다양한 위험 요소를 포괄적으로 다룰 수 있는 법안으로 발전해야 할 것임.

결국, AI 기술이 발전하는 만큼 그에 대한 규제도 발전해야 함. 이번 법안이 그 시작점이 될 수 있기를 바라며, 앞으로의 논의가 더욱 활발해지길 기대함. AI의 안전한 발전을 위해서는 모두가 함께 고민하고 참여해야 함.

마지막으로, 가빈 뉴섬 주지사가 이 법안을 어떻게 처리할지 궁금함. 긍정적인 방향으로 결정되길 바라며, AI의 미래가 안전하고 지속 가능하길 희망함.

🏷️ Related Tags

📰 Next News

세일즈포스 CEO, 로봇 판매 에이전트, 마이크로소프트의 AI 실망, 그리고 큰 수익 초과 달성에 대해

세일즈포스 CEO, 로봇 판매 에이전트, 마이크로소프트의 AI 실망, 그리고 큰 수익 초과 달성에 대해

LG의 새로운 스마트 홈 허브, 내장 음성 비서 탑재

LG의 새로운 스마트 홈 허브, 내장 음성 비서 탑재