/cdn.vox-cdn.com/uploads/chorus_asset/file/25462044/STK155_OPEN_AI_CVirginia_2_B.jpg)
Miles Brundage, OpenAI의 AGI(인간 수준 인공지능) 준비에 대한 수석 고문이 수요일 퇴임을 발표하며 강력한 경고를 전함. "OpenAI나 다른 최전선 연구소는 AGI에 준비되지 않았고, 세상도 준비되지 않았다"고 언급함. 그는 6년 동안 회사의 AI 안전 이니셔티브를 형성하는 데 도움을 줌. "이것은 OpenAI의 리더십 사이에서 논란의 여지가 없는 발언이라고 생각함. 이는 회사와 세상이 관련 시점에 준비될 수 있는지 여부와는 다른 질문임"이라고 덧붙임.
그의 퇴임은 OpenAI의 안전 팀에서의 고위 인사 퇴직 중 하나임. 저명한 연구자인 Jan Leike는 "안전 문화와 프로세스가 화려한 제품에 뒤처졌다"고 주장하며 퇴사함. 공동 창립자인 Ilya Sutskever도 안전한 AGI 개발에 초점을 맞춘 자신의 AI 스타트업을 시작하기 위해 떠남.
Brundage의 "AGI 준비" 팀 해체는 회사가 장기 AI 위험 완화에 전념하는 "슈퍼 얼라인먼트" 팀을 해체한 지 몇 달 만에 발생함. 이는 OpenAI의 원래 사명과 상업적 야망 간의 긴장이 고조되고 있음을 보여줌. 회사는 최근 66억 달러 투자 라운드에서 자금을 반환할 위험이 있는 비영리에서 영리 공익 법인으로 전환해야 한다는 압박을 받고 있음. 이러한 상업화로의 전환은 Brundage가 우려해온 사항임. 그는 OpenAI가 처음으로 영리 부서를 설립했을 때부터 우려를 표명함.
Brundage는 퇴임 이유로 고위 회사에서 연구 및 출판 자유에 대한 제약이 증가했다고 설명함. 그는 산업 편향과 이해 충돌에서 벗어난 AI 정책 논의에서 독립적인 목소리의 필요성을 강조함. 그는 OpenAI의 리더십에게 내부 준비에 대해 조언했으며, 이제 조직 외부에서 글로벌 AI 거버넌스에 더 큰 영향을 미칠 수 있다고 믿음.
이 퇴임은 OpenAI 내의 더 깊은 문화적 분열을 반영할 수도 있음. 많은 연구자들이 AI 연구를 발전시키기 위해 합류했지만, 이제는 점점 더 제품 중심의 환경에 놓여 있음. 내부 자원 배분은 논란의 중심이 되었으며, Leike의 팀은 안전 연구를 위한 컴퓨팅 파워를 거부당한 것으로 알려짐.
그럼에도 불구하고 Brundage는 OpenAI가 그의 미래 작업을 지원하기 위해 자금, API 크레딧 및 초기 모델 접근을 제공했다고 언급함. 이는 아무런 조건 없이 이루어짐.
/cdn.vox-cdn.com/uploads/chorus_asset/file/23759761/bfarsace_190101_5333_0008.jpg)
