캘리포니아 주지사 개빈 뉴섬이 화요일에 2024년 선거를 앞두고 정치 광고에서 허위 이미지나 비디오를 생성하는 인공지능 사용을 단속하기 위한 세 가지 법안을 서명함.
새로운 법안은 즉시 시행되며, 선거일 120일 전과 60일 후에 선거와 관련된 딥페이크를 생성하고 게시하는 것을 불법으로 만든다. 또한 법원은 이러한 자료의 배포를 중단하고 민사적 처벌을 부과할 수 있다.
“선거의 무결성을 보호하는 것은 민주주의에 필수적이며, AI가 허위정보를 통해 대중의 신뢰를 훼손하는 데 사용되지 않도록 하는 것이 중요하다. 특히 오늘날의 정치적 긴장 속에서 더욱 그렇다”고 뉴섬은 성명에서 밝혔다. “이 조치는 정치 광고와 기타 콘텐츠에서 딥페이크의 유해한 사용을 방지하는 데 도움이 될 것이다. 이는 주가 투명하고 신뢰할 수 있는 AI를 촉진하기 위해 적극적으로 나서고 있는 여러 분야 중 하나다.”
대형 소셜 미디어 플랫폼은 내년에 시행될 법에 따라 기만적인 자료를 제거해야 한다. 뉴섬은 또한 정치 캠페인이 AI로 수정된 자료로 광고를 진행하는 경우 이를 공개적으로 알리도록 요구하는 법안도 서명했다.
주지사는 샌프란시스코에서 열린 연례 회의에서 세 법안에 대한 서명을 하며 큰 박수를 받았다. 새로운 법안은 미국 내 AI 규제에서 캘리포니아의 입장을 재확인하며, 특히 선거 딥페이크 단속에 있어 선두주자로 자리매김하고 있다. 캘리포니아는 2019년 선거와 관련된 조작된 비디오와 사진을 금지한 최초의 주였다. 업계 전문가들은 캘리포니아 입법자들이 제안한 기술 및 AI 조치가 전국의 입법자들에게 청사진으로 사용되었다고 말했다.
AI가 전 세계적으로 선거 허위정보의 위협을 가중시키면서, 각국의 입법자들은 조작된 자료가 대중의 신뢰를 해칠 수 있다는 우려 속에 이 문제를 해결하기 위해 서두르고 있다.
“총선까지 50일도 채 남지 않은 상황에서, 선거에 영향을 미칠 수 있는 오해의 소지가 있는 디지털 수정 콘텐츠로부터 보호할 긴급한 필요가 있다”고 법안을 발의한 게일 펠러린 의원은 성명에서 밝혔다. “캘리포니아는 유권자를 속이기 위한 딥페이크 기술의 조작적 사용에 맞서 싸우고 있다.”
뉴섬의 결정은 엘론 머스크가 부통령이자 민주당 대선 후보인 카말라 해리스를 조작한 이미지를 담은 비디오를 게시한 것에 대한 반응으로, 7월에 선거 딥페이크 단속을 강화하겠다고 약속한 이후 이루어졌다.
새로운 캘리포니아 법안은 연방 의회가 선거 딥페이크를 막기 위한 연방 법안을 공개한 날과 같다. 이 법안은 연방선거위원회(FEC)에 AI 사용을 규제할 권한을 부여하여 수십 년 동안 정치적 허위 진술을 규제해온 방식과 동일하게 다룰 수 있도록 한다. FEC는 유권자를 낙담시키기 위한 AI 생성 로보콜을 금지한 이후 이러한 규제를 고려하기 시작했다.
뉴섬은 캘리포니아를 AI의 초기 채택자이자 규제자로 홍보하며, 주가 곧 고속도로 혼잡 문제를 해결하고 세금 안내를 제공하기 위해 생성 AI 도구를 배포할 수 있다고 말했다. 그의 행정부는 채용 관행에서 AI 차별에 대한 새로운 규제를 고려하고 있다.
그는 또한 화요일에 할리우드 공연자들을 무단 AI 사용으로부터 보호하기 위한 두 개의 법안도 서명했다.
