AI의 라즈베리 파이: 한국 스타트업, 비밀 양자화 기술로 수십억 개 기기에 초저가 고성능 NPU 제공 목표

DeepX는 자율 시스템, 로봇 공학, 헬스케어 등 다양한 산업에서 딥러닝 솔루션을 전문으로 하는 한국의 AI 기술 회사임.

최근 2024 임베디드 비전 서밋에서 DeepX는 다양한 응용 프로그램을 위해 설계된 첫 번째 세대 칩인 V1과 M1을 발표하고, AI를 위한 차세대 칩에 대한 힌트를 제공함.

V1 SoC(이전 명칭 L1)는 DeepX 5-TOPS NPU와 쿼드 RISC-V CPU, 12-MP 이미지 신호 프로세서를 결합한 제품임. 이 10달러 이하의 SoC는 삼성의 28nm 공정으로 제작되었으며, YOLO v7 모델을 30fps로 실행하면서 1-2와트만 소비함. 최신 CNN 알고리즘을 지원하며 IP 및 CCTV 카메라, 로봇 카메라, 드론과 같은 제품에 적합함.

M1은 호스트 CPU와 함께 작동하도록 설계된 더 큰 가속기임. 이 제품은 비용 효율성(추론/$), 전력 효율성(TOPS/W), 성능 효율성(FPS/TOPS)에서 최고를 달성함. AI 성능은 25-TOPS이며 5와트를 소비함. 소비자 및 산업 로봇, 머신 비전, AI가 필요한 IPC 및 HPC, 스마트 공장 및 엣지 컴퓨팅에 적합함.

DeepX CEO Lokwon Kim은 EE 타임즈의 Sally Ward-Foxton과의 인터뷰에서 LG와 협력하여 LLM을 DeepX의 칩으로 포팅하고 있다고 밝힘. Kim은 "[장치 내 AI]는 LLM을 위한 비즈니스 모델에 정말 잘 맞는다. 그래서 우리는 협력하고 있다"고 말함. "그들은 모델의 특성을 배우고 장치 내 응용 프로그램을 최적화할 수 있도록 LLM 기술을 제공하고 있다"고 덧붙임. 결과적으로 LLM을 장치에서 실행할 수 있도록 최적화된 NPU 칩이 개발될 예정이며, 초기에는 가속기로만 기능할 것임. 완전한 LLM 기능을 갖춘 SoC 개발에는 3-5년이 더 걸릴 것으로 예상됨.

DeepX의 로드맵에 따르면 다음 칩은 V3로, 중국 및 대만 고객의 피드백에 따라 개발됨. V3는 15-TOPS 듀얼 코어 DeepX NPU와 쿼드 Arm Cortex A52 CPU 코어를 특징으로 하며 평균 5와트 이하로 작동할 것임. Kim은 "이전에는 RISC-V CPU를 사용했지만 고객들이 Arm을 원했다"고 말함. "그래서 Arm 쿼드 코어를 목표로 했다. 고객들은 USB 3.1과 더 강력한 ISP를 원했으며, NPU 업그레이드는 아니었다. 그래서 재설계했다"고 설명함.

EE 타임즈에 따르면 "고객들은 Arm CPU를 원하는 이유 중 하나는 Arm 생태계가 더 나은 보안 솔루션을 제공할 수 있기 때문임. 많은 고객들이 보안 카메라 시스템을 구축하고 있다. 다른 고객들은 로봇 운영 체제를 실행하고 싶어하는데, 이는 현재 Arm에서 지원되지만 RISC-V에는 아직 지원되지 않음"이라고 설명함.

DeepX는 RISC-V 기반의 V1을 Arm 기반의 V3와 함께 계속 제공할 것이라고 밝히며, 두 아키텍처를 향후에도 잘 지원할 것임을 약속함.