2024년 3월, 영국 AI 스타트업 리터럴랩스가 GPU 기반 훈련을 대체하기 위해 로직 기반 학습을 사용하는 기계 학습 모델인 체틀린 머신을 개발하고 있다는 소식을 전했다.
이 모델은 입력 데이터의 특징과 분류 규칙 간의 논리적 연결을 설정하는 체틀린 자동자를 통해 작동한다. 결정이 올바른지 잘못된지에 따라, 머신은 보상이나 처벌을 사용하여 이러한 연결을 조정한다.
1960년대 소련 수학자 미하일 체틀린에 의해 개발된 이 접근법은 생물학적 뉴런을 모델링하는 대신 학습 자동자에 초점을 맞추어 분류 및 패턴 인식과 같은 작업을 수행한다.
이제 리터럴랩스는 Arm의 지원을 받아 체틀린 머신을 사용한 모델을 개발했으며, 이 모델은 크기가 단 7.29KB에 불과하지만 높은 정확도를 제공하고 엣지 AI 및 IoT 배치에서 이상 탐지 작업을 극적으로 개선한다.
리터럴랩스는 MLPerf Inference: Tiny 스위트를 사용하여 모델을 벤치마킹하고, AI 가속기가 포함되지 않은 280MHz ARM Cortex-M7 프로세서를 특징으로 하는 30달러짜리 NUCLEO-H7A3ZI-Q 개발 보드에서 테스트했다. 결과는 리터럴랩스의 모델이 전통적인 신경망보다 54배 빠른 추론 속도를 달성하면서 52배 적은 에너지를 소비한다는 것을 보여준다.
업계 최고의 성능 모델과 비교했을 때, 리터럴랩스의 모델은 지연 시간 개선과 에너지 효율적인 설계를 보여주며, 센서와 같은 저전력 장치에 적합하다. 이 성능은 산업 IoT, 예측 유지보수 및 건강 진단과 같은 분야에서 이상을 신속하고 정확하게 감지하는 것이 중요한 응용 프로그램에 적합하다.
이러한 소형 저전력 모델의 사용은 다양한 분야에서 AI 배치를 확장하는 데 도움을 줄 수 있으며, 비용을 줄이고 AI 기술에 대한 접근성을 높일 수 있다.
리터럴랩스는 "소형 모델은 메모리와 처리 능력이 적게 필요하므로 더 저렴하고 사양이 낮은 하드웨어에서 실행할 수 있어 특히 유리하다. 이는 비용을 줄일 뿐만 아니라 고급 AI 기능을 지원할 수 있는 장치의 범위를 넓혀, 자원이 제한된 환경에서 AI 솔루션을 대규모로 배치하는 것을 가능하게 한다"고 밝혔다.
/cdn.vox-cdn.com/uploads/chorus_asset/file/25695210/Apple_WWDC24_Apple_Intelligence_Siri_ChatGPT_request_240610.jpg)