AI는 슬라이스된 빵 이후 가장 핫한 기술일 수 있음. 하지만 그렇다고 해서 AI를 개발하고 운영하는 것이 쉬워진 것은 아님. 최근 보스턴 컨설팅 그룹의 조사에 따르면, 74%의 조직이 AI 투자에서 가치를 도출하는 데 어려움을 겪고 있음.
PyTorch Lightning의 창시자인 윌리엄 팔콘은 기업들이 AI 오케스트레이션에 필요한 수고를 과소평가하는 것이 가장 큰 실수 중 하나라고 말함. "오늘날 자신의 AI 플랫폼을 구축하는 것은 자신의 슬랙을 만드는 것과 같음 — 복잡하고 비용이 많이 들며 비즈니스의 핵심이 아님,"이라고 그는 TechCrunch에 전함. "기업의 가치는 데이터, 도메인 지식, 고유 모델에 있으며, AI 인프라를 유지하는 데 있지 않음."
팔콘은 전직 해군 특수부대원이며 페이스북 AI 연구 인턴으로, 컬럼비아 대학교에서 학부생일 때 PyTorch Lightning을 개발하기 시작함. 이 프레임워크는 AI 라이브러리인 PyTorch의 고급 인터페이스를 제공하여 AI 시스템을 설정하고 유지하는 코드를 추상화함.
NYU 박사 프로그램을 중퇴한 후, 팔콘은 포브스의 전 데이터 제품 책임자인 루이스 카펠로와 팀을 이루어 PyTorch Lighting을 상업화하기로 결정함. 그들의 벤처인 Lightning AI는 오픈 소스 프레임워크에 기업 중심의 서비스와 도구를 추가함.
"우리는 수천 명의 개발자가 Lightning AI를 사용하여 팀 없이도 모델을 훈련하고 배포하고 있음,"이라고 팔콘은 말함. Lightning AI는 서버 간 AI 작업 부하를 분산하고 AI를 평가하고 훈련하는 데 필요한 인프라를 제공하는 번거로운 작업을 처리함. 회사의 주력 제품인 AI 스튜디오는 고객이 선호하는 클라우드 환경에서 AI 모델을 미세 조정하고 실행할 수 있게 해줌.
기업들은 Lightning AI를 사용하여 개인 클라우드 인프라나 자체 데이터 센터에서 실행되는 AI 기반 앱을 호스팅할 수도 있음. 가격은 사용량 기반이며, 매달 22개의 "GPU 시간"을 포함하는 무료 요금제가 있음.
팔콘은 Lightning AI의 목표가 AI 개발을 "아이폰을 사용하는 것만큼 직관적으로 만드는 것"이라고 말함. 이 플랫폼은 시스코가 인프라 설정 시간을 이틀로 단축하는 데 도움을 주었고, 그의 모교인 컬럼비아 대학교의 연구자들이 12시간 만에 수백 개의 실험을 완료할 수 있게 했다고 주장함.
"대부분의 사람들은 모르지만, 세계 최고의 AI 제품 중 많은 수가 Lightning을 사용하여 훈련되거나 구축됨,"이라고 팔콘은 말함. "예를 들어, 엔비디아의 모델 모음인 NeMo는 Lightning 도구를 사용하여 구축되었고, 스테이블 디퓨전은 스테이블 AI에 의해 만들어짐."
확실히 Lightning AI는 탄력을 받고 있음. 현재 230,000명 이상의 AI 개발자와 3,200개 조직이 이 플랫폼을 사용하고 있으며, 최근 5천만 달러의 자금을 조달함.
하지만 경쟁도 존재함. Comet, Galileo, FedML, Arize, Deepset, Diveplane, Weights & Biases, InfuseAI 등이 유사한 유료 및 무료 AI 오케스트레이션 서비스를 제공함.
팔콘은 관리형 AI 솔루션 시장이 많은 플레이어를 지원할 만큼 충분히 크다고 믿고 있음. 그리고 그는 틀리지 않을 가능성이 높음. 포춘 비즈니스 인사이트에 따르면, 머신러닝 운영 산업은 2030년까지 약 130억 달러의 가치가 있을 것으로 예상됨.
최근 5천만 달러의 투자는 시스코가 주도했으며, J.P. 모건과 엔비디아도 참여함. 뉴욕에 본사를 둔 50인 규모의 회사는 이 자금을 사용하여 정부 고객을 포함한 신규 고객을 유치하고 Lightning 플랫폼을 새로운 시장으로 확장할 계획임.
"우리는 슬림하고 고성능 팀과 90% 이상의 총 마진 제품을 보유하고 있으며," 팔콘은 말함. "내년 말까지 연간 반복 수익이 1천만 달러에서 2천만 달러에 이를 것으로 예상하며, 그 직후에 수익성을 달성할 계획임."