이 이야기를 들어보세요
인도 생성 AI 스타트업인 Rabbitt.ai가 대규모 언어 모델(LLM)과 문서 검색 시스템의 통합을 간소화하기 위해 코드 없는 검색 증강 생성(RAG) 솔루션인 ChanceRAG를 출시했다고 발표함.
Rabbitt.ai의 최고 AI 책임자인 Harneet Singh는 이 제품을 "RAG 구축을 위한 기업급 솔루션"으로 강조함.
"우리는 전통적인 검색 방법, 즉 의미 기반 또는 키워드 기반이 복잡한 쿼리에 필요한 깊이와 정확성을 제공하지 못한다는 것을 알게 되었습니다. ChanceRAG를 통해 우리는 독보적인 정밀도와 맥락을 제공하는 융합 검색 기술을 만들었습니다. 현재 어떤 방법도 혼자서는 이룰 수 없는 것입니다,"라고 그는 말함.
ChanceRAG는 사용자가 PDF 문서를 업로드하고 이러한 문서에 LLM을 연결할 수 있도록 벡터 데이터베이스를 통해 연결함. 이 제품은 성능 향상을 위해 의미 이해와 키워드 매칭을 혼합한 고급 융합 검색 기술을 도입함.
Singh는 ChanceRAG의 동기가 기업들이 효과적인 RAG 파이프라인을 구축하는 데 직면한 도전에서 비롯되었다고 설명함. 그는 기존 검색 방법이 고객 지원 챗봇 및 AI 영업 에이전트와 같은 실제 애플리케이션에 비효율적이라고 언급함. ChanceRAG는 RAG 구현에서 시행착오를 없애고 조직이 최소한의 노력으로 LLM 애플리케이션을 출시할 수 있도록 함.
이 솔루션은 산업 벤치마킹을 거쳐 문서 검색에서 높은 정밀도를 제공함. 테스트 결과 nDCG@5 = 5, 정밀도 비율 80%, 환각 없이 정확한 응답을 보여줌. ChanceRAG의 기능을 테스트할 수 있는 라이브 데모가 HuggingFace에서 제공됨.
ChanceRAG는 PDF 처리, 벡터 저장소 생성, BM25 인덱싱 및 검색 방법의 융합과 같은 주요 기능을 중심으로 구축됨. 이러한 요소들은 함께 작동하여 정확하고 관련성 있는 쿼리 결과를 제공함. 사용자는 청크 크기, 중첩 설정 및 검색 및 재순위 방법을 조정하여 검색 옵션을 추가로 사용자화할 수 있음.
Rabbitt.ai는 향후 몇 주 내에 동적 쿼리 확장, 다중 모드 문서 요약, 적응형 재순위 및 맥락 기반 문서 분할을 포함한 추가 RAG 발전을 발표할 계획임.
Singh가 설립한 Rabbitt.ai는 맞춤형 LLM 개발, RAG 미세 조정 및 MLOps 통합을 포함한 생성 AI 솔루션에 집중하고 있음. 이 회사는 최근 TC Group of Companies로부터 210만 달러를 모금함.
