지난 주, OpenAI가 미국 인공지능 안전 연구소(US AISI)와 MOU를 체결함. 이는 미국 상무부의 국가 표준 기술 연구소의 일환으로, AI 혁명의 이 시점에서 OpenAI의 안전, 투명성 및 인간 중심 혁신에 대한 약속을 더욱 발전시키기 위한 협력임. 이 협력은 세계가 기여할 수 있는 프레임워크를 구축하는 것을 목표로 함. 이를 통해 미국 AI 안전 연구소는 공개 출시 전에 미래 모델을 테스트하고 평가할 수 있는 조기 접근 권한을 가질 수 있음. Anthropic도 이 파트너십에 동의함.
OpenAI의 CEO인 샘 알트먼은 X(구 트위터)를 통해 이 파트너십의 중요성을 강조함. "우리는 미래 모델의 사전 출시 테스트를 위해 미국 AI 안전 연구소와 협정에 도달하게 되어 기쁩니다,"라고 알트먼은 말하며, 이는 중요하며 국가 차원에서 이루어져야 한다고 제안함. "미국은 계속해서 선도해야 합니다!"
그렇다면 왜 미국 AI 안전 연구소인가?
미국 AI 안전 연구소의 이사인 엘리자베스 켈리는 AI 혁신의 안전성을 강력히 지지해왔으며, 과거에도 여러 전략적 파트너십을 중재해왔음. "이러한 협정이 체결됨에 따라, Anthropic 및 OpenAI와의 기술 협력을 시작하게 되어 기대가 큽니다,"라고 그녀는 성명에서 말함.
미국 AI 안전 연구소는 2023년 바이든-해리스 행정부 하에 설립되어 미국 내 안전한 AI 혁신을 위한 테스트 가이드라인을 개발하는 데 도움을 주기 위해 만들어짐.
"안전성은 신뢰를 촉진하고, 신뢰는 채택을 촉진하며, 채택은 혁신을 이끌어냅니다. 이것이 우리가 미국 AI 안전 연구소에서 촉진하고자 하는 것입니다,"라고 그녀는 또 다른 인터뷰에서 말하며, 이 연구소의 향후 역할을 강조함.
이러한 이니셔티브를 통해 미국은 자발적인 AI 안전 채택을 위한 길을 선도할 수 있음. Anthropic은 이전에 영국의 인공지능 안전 연구소(AISI)와 협력하여 모델의 사전 배포 테스트를 수행한 바 있음. OpenAI도 그들과 파트너십을 맺을지 지켜보는 것이 흥미로울 것임.
왜 이게 중요한가?
미국 AI 안전 연구소(US AISI)의 필요성은 민주주의에 대한 잘못 관리된 AI 시스템의 영향에 대한 우려에서 비롯됨. Anthropic의 CEO인 다리오 아모데이는 AI가 인간의 가치와 윤리에 맞춰져야 민주적 기관을 효과적으로 지원할 수 있다고 말함. Anthropic, OpenAI, 그리고 미국 AISI 간의 협력은 AI의 힘이 커짐에 따라, 국가 정부와 경제를 초과할 수 있는 가능성에 대한 대응임. 이 파트너십은 안전 기준을 설정하고, 사전 배포 테스트를 수행하며, AI의 오용을 방지하기 위해 규제하는 것을 목표로 함. 특히 선거와 같은 정치적으로 민감한 분야에서의 오용을 방지하는 것이 중요함.
"우리가 이러한 서비스를 잘 제공하는 것이 정말 중요하다고 생각합니다. 이는 민주주의 전체를 더 효과적으로 만들고, 우리가 이를 잘 제공하지 않으면 민주주의의 개념을 약화시킵니다,"라고 아모데이는 말함.
미국 vs 중국 vs 인도
미국의 OpenAI 및 Anthropic과 함께하는 AI 안전 리더십 추진은 중국의 빠른 AI 발전에 대응하고 윤리적 AI 거버넌스에서 글로벌 우위를 유지하기 위한 것임.
동시에, 정치적 교착 상태로 인해 미국의 노력이 저해되고 있는 가운데, 중국이 AI 경쟁에서 승리할 것이라는 우려가 있음. "중국은 아마 AI 게임에서 이길 것입니다. 그들의 국가 통제는 부패한 미국 정치인들보다 훨씬 효율적입니다,"라고 프라틱 데사이는 말하며, 미국과 자유가 이기기를 원한다고 덧붙임. "현재 정치인들을 믿지 않습니다."
중국은 여러 AI 및 기술 분야에서 우위를 점하고 있으며, "시각 AI 및 LLM 분야에서 최고의 국가 운영 감시 시스템을 보유하고 있습니다,"라고 데사이는 덧붙임.
긍정적인 면에서, 표준화된 검토는 모델 개발에 더 민주적인 접근 방식을 촉진할 수 있으며, 이는 아마도 중국과 같은 경제에서는 부족할 수 있음. 더 많은 국가들이 AI 연구소의 중요성을 인식하고 있으며, AI 개발만큼 AI 안전에 투자할 필요성을 느끼고 있음.
인도도 이제 영국과 미국과 유사한 AI 안전 연구소를 설립하여 AI 기술의 빠른 성장에 책임 있게 대응할 필요가 있음. "우리는 지금 여기에서 AI 안전 연구소가 필요합니다,"라고 CSIR의 전 총재인 라구나트 마셸카르가 말하며, 세계에서 가장 인구가 많은 국가에서 AI의 이점을 극대화하고 위험을 최소화할 필요성을 강조함.
