일론 머스크의 도널드 트럼프 행정부에 대한 영향력이 인공지능에 대한 더 강력한 안전 기준으로 이어질 수 있다고, AI의 위험을 다루는 데 세계에서 가장 부유한 사람과 밀접하게 작업해온 저명한 과학자가 말했다.
맥스 테그마크는 머스크가 캘리포니아에서 실패한 AI 법안에 대한 지지를 보인 것이, 트럼프의 캠페인에서 크게 부각되지 않았던 문제에 대한 억만장자의 지속적인 우려를 강조한다고 말했다.
그러나 머스크는 AI의 무제한 개발이 인류에 재앙이 될 수 있다고 정기적으로 경고해왔다. 지난해 그는 강력한 AI 기술에 대한 작업을 일시 중지하자는 편지에 3만 명 이상의 서명자 중 한 명이었다.
리스본에서 열린 웹 서밋에서 가디언과의 인터뷰에서 테그마크는 머스크가 대통령 당선자의 행정부에서 큰 영향을 미칠 것으로 예상되며, 트럼프에게 인공지능 일반 지능(AGI)의 개발을 방지하는 기준을 도입하도록 설득할 수 있다고 말했다.
“내 생각에 일론이 AI 문제에 대해 트럼프의 귀를 얻는다면, 우리는 AGI를 방지하는 어떤 형태의 안전 기준을 얻을 가능성이 더 높아질 것”이라고 그는 말했다.
MIT에서 AI를 전공하는 교수인 테그마크는 “그가 트럼프에게 AGI 경쟁이 자살 경쟁이라는 것을 이해하도록 도와줄 수 있다”고 덧붙였다.
테그마크는 머스크가 많은 기술 동료들의 반대에도 불구하고 캘리포니아의 SB 1047 법안에 대한 지지를 보인 것이 AI 안전 캠페인자들에게 긍정적인 신호라고 말했다. 이 법안은 기업들이 대규모 AI 모델을 출시하기 전에 스트레스 테스트를 수행하도록 요구했으나, 캘리포니아 주지사 개빈 뉴섬이 이 법안이 AI 기업들을 주에서 쫓아내고 혁신을 저해할 수 있다고 말하며 거부했다.
“일론 머스크는 나와 함께 하겠다고 나섰고, 규제를 원한다고 말했다. AI가 통제되어야 한다는 것을 트럼프에게 설득할 수 있을 것이라고 생각한다”고 테그마크는 말했다.
머스크는 테그마크의 생명 미래 연구소의 초기 지지자이자 재정 후원자였으며, 이 연구소는 첨단 기술의 안전한 사용을 위해 캠페인하고 있다. 테슬라 CEO이자 X의 소유자인 머스크의 개인 재산은 지난주 트럼프의 승리 이후 크게 증가했다.
머스크는 지난해 자신의 AI 스타트업을 시작했으며, 인류가 최악의 시나리오인 AI 시스템이 인간의 통제를 피하는 “터미네이터 미래”에 대해 걱정해야 한다고 말했다. 다른 AI 전문가들은 종말론적 우려에 집중하는 것이 조작된 콘텐츠와 같은 AI 시스템의 단기 문제에 대한 집중을 방해한다고 주장했다.
트럼프는 바이든 행정부의 AI 안전에 관한 행정 명령을 폐지하겠다고 다짐했으며, 공화당의 선거 플랫폼은 이를 “이 기술의 개발에 급진적인 좌파 아이디어를 부과하는 제한”으로 묘사했다.
이 명령은 국가 안보, 경제 안보 또는 건강과 안전에 위협이 되는 고위험 시스템을 개발하는 기업들이 안전 테스트 결과를 정부와 공유하도록 요구하는 내용을 포함하고 있다.
