이 이야기에서
생성적 인공지능의 출현이 안전 문제를 제기하는 가운데, 안전한 AI 시스템을 개발하는 새로운 스타트업이 10억 달러를 유치함.
안전한 초지능(Safe Superintelligence, SSI)은 OpenAI 공동 창립자이자 전 수석 과학자인 일리야 수츠케버(Ilya Sutskever)가 공동 설립한 스타트업으로, 10억 달러의 자금을 확보함. 이 자금은 컴퓨팅 파워와 연구원 및 엔지니어를 고용하는 데 사용될 것이라고 경영진이 로이터에 전함.
이 스타트업은 인간 수준의 추론 능력을 가진 안전한 AI 시스템, 즉 '안전한 초지능' 구축에 집중할 것임.
“SSI는 우리의 사명, 이름, 그리고 전체 제품 로드맵이며, 우리의 유일한 초점임”이라고 공동 창립자들이 공개 서한에서 밝힘. “우리의 단일 초점은 관리 오버헤드나 제품 주기에 의해 방해받지 않으며, 우리의 비즈니스 모델은 안전, 보안, 그리고 진보가 단기 상업적 압력으로부터 보호받도록 함.”
자금 조달 라운드 후, 안드리센 호로위츠와 세쿼이아 캐피탈 같은 대형 투자자들이 참여하여 스타트업의 가치는 50억 달러로 평가됨. SSI는 로이터에 가치를 공유하지 않음.
“우리는 우리의 사명을 이해하고 존중하며 지원하는 투자자들로 둘러싸이는 것이 중요함. 이는 안전한 초지능으로 가는 직선 경로를 만들고, 특히 시장에 출시하기 전에 몇 년 동안 제품 연구 개발에 집중하는 것임”이라고 그로스가 로이터에 전함.
수츠케버는 6월에 다니엘 그로스(Daniel Gross), 전 애플 AI 리드, 그리고 다니엘 레비(Daniel Levy), 전 OpenAI 연구자와 함께 10인 규모의 스타트업을 공동 설립함. 그로스는 안전한 AI 스타트업의 CEO이며, 레비는 수석 과학자, 수츠케버는 수석 과학자로 활동함.
수츠케버는 AI의 존재적 위험에 초점을 맞춘 스타트업의 '슈퍼 얼라인먼트' 팀을 이끌며 OpenAI를 10년 가까이 재직한 후 5월에 OpenAI를 떠남. 이 팀은 수츠케버와 그의 공동 리드인 얀 라이케가 ChatGPT 제작사에서 사임한 후 해체됨. 수츠케버는 OpenAI의 CEO인 샘 알트만을 잠시 해임하는 데 역할을 함.
“우리는 이전에 작업하던 것과는 조금 다른 새로운 산을 오르기로 결정함”이라고 수츠케버가 쿼츠에 공유한 성명에서 밝힘. “우리는 같은 길을 더 빠르게 가려는 것이 아님. 다른 길을 가면 특별한 것을 할 수 있는 가능성이 생김.”
