이 이야기를 들어보세요
올해 초, 미국의 한 변호사는 업무 압박에 시달리다 ChatGPT에 도움을 요청했지만, 챗봇이 잘못된 시나리오를 생성해 변호사가 해고되는 결과를 초래함.
대형 언어 모델(LLM)은 부정확한 정보를 생성할 수 있지만, 여전히 법률 전문가들에게는 귀중한 도구임.
방갈로르에 본사를 둔 스타트업 Jhana.ai는 최근 인도 법률 실무를 위한 AI 기반 법률 연구 및 초안 작성 도구인 Jhana를 출시함. 공동 창립자들은 '지능형 법률 시스템'을 구축하고 있다고 주장함.
법률 AI 에이전트
Benjamin Hoffner-Brodsky, Em McGlone, Hemanth Bharatha Chakravarthy가 설립한 Jhana는 최근 Together Fund로부터 160만 달러를 모금했으며, OpenAI의 Shyamal Anadkat와 Cred의 Kunal Shah 등이 참여함.
Hemanth Chakravarthy는 AIM과의 인터뷰에서 "우리가 만들고자 하는 것은 변호사들이 사용하는 모든 데이터 세트를 중앙 집중화하여 AI를 통해 다양한 방식으로 접근하고 활용할 수 있도록 하는 패러다임 전환"이라고 말함.
이 아이디어는 변호사들이 새로운 사건을 온보딩하고, 이전 법적 이력을 검토하며, 청원서와 법정 주장을 준비하는 등 모든 단계에서 도움을 주는 것임.
"우리는 인간과 유사한 에이전트를 가지고 있음. 느슨한 쿼리, 구조화된 지침 등 어떤 형태의 지시를 보내면, 그것에 대한 생각을 가지고 있음. 여러 전문가에게 접근할 수 있음, 거의 친구에게 전화하는 것처럼," Chakravarthy가 말함.
현재 변호사들은 검색 엔진과 다양한 저널 및 학술 자료를 통해 판례법과 법령을 찾고, 문서를 수동으로 초안하고 검토하며, 개인의 전문성에만 의존함.
Jhana는 모든 관련 데이터 세트를 통합하여 변호사들이 AI를 사용해 원활하게 상호작용할 수 있도록 함. 또한 약 1,500만 개의 문서와 1조 5천억 개의 토큰을 포함한 독점 데이터 세트를 제공함.
LLM이 Jhana를 구동함
"우리의 철학은 방대한 데이터 세트에서 대규모 모델을 생성하고 모든 문제를 해결할 수 있다고 주장하는 회사의 접근 방식과 대조됨 - 이는 종종 비효율적임," Benjamin Hoffner-Brodsky가 AIM에 말함. "대신 우리는 변호사들이 어떻게 일하는지를 관찰하는 생체 모방 접근 방식을 믿음."
그는 또한 그들의 접근 방식이 정보를 단순히 가져와 반복하는 것이 아니라, 연구를 수행하고 동료와 협력하며 질문을 하는 것을 포함한다고 설명함. 목표는 특정 작업에 가장 효과적인 모델을 통합하고 인간의 방법을 반영하는 워크플로를 개발하는 것임.
창립자들은 이 접근 방식이 모델을 현실에 맞게 유지하고 환각을 방지하는 데 도움이 된다고 믿음. 또한 Jhana가 생성하는 모든 결과는 인용으로 뒷받침되어 변호사들이 출처를 쉽게 식별할 수 있도록 함.
이 도구는 독점 모델과 미세 조정된 오픈 소스 모델, 유료 API 제공 모델을 혼합하여 다양한 모델을 활용함. 그들의 접근 방식은 법적 문서에서 날짜 테이블을 추출하는 것과 같은 특정 작업에 맞춘 수많은 전문 모델을 사용하는 것임.
"그건 거의 우리의 상업 비밀의 일부임. 법적 문서에서 날짜 테이블을 추출하는 것과 같은 모든 작은 작업에 대한 전문 모델이 있음. 그리고 그것이 우리가 AI를 진실에 연결하는 방법의 일부임," Chakravarthy가 말함.
이 스타트업은 UAE에서 개발된 오픈 소스 모델인 Falcon의 자체 버전을 구축했으며, OpenAI의 GPT 모델도 활용함. "우리는 또한 Antrophic의 Claude가 Sonnet을 출시한 이후 실험해봤지만, 역사적으로 OpenAI의 모델이 우리의 사용 사례에 더 적합하다고 발견함," 그가 덧붙임.
Jhana를 활용할 수 있는 사람들
Brodsky는 Jhana가 법률 커뮤니티의 거의 모든 이해관계자가 플랫폼의 혜택을 누릴 수 있도록 설계되었다고 언급함.
"우리는 대형 로펌과 내부 법률 부서를 위한 제품을 제공함. 이러한 솔루션은 귀하의 개인 데이터와 통합할 수 있는 옵션과 온프레미스 옵션을 포함함.
"소규모 로펌과 개인 사용자에게는 그들의 필요를 충족시키기 위해 설계된 제품이 있음. 독립 변호사, 소규모 로펌의 일원, 법대 학생 등 누구든지 저렴한 개인 구독 계획을 통해 우리의 방대한 외부 데이터에 접근할 수 있음," 그가 밝혔음.
현재 Jhana는 기본 요금제에 대해 월 3,300 INR, Pro 버전은 월 5,000 INR에 제공됨. 기업의 경우 가격은 비슷하지만 추가 서비스에 따라 맞춤화될 수 있음. 흥미롭게도, 이 회사는 판사와 사법 공무원에게 Jhana를 무료로 제공하기로 결정함.
8월까지 이 스타트업은 초대장을 통해 500명 이상의 사용자를 온보딩함. 여기에는 인도 첸나이의 가장 큰 2티어 세무 로펌 중 하나인 CNGSN & Associates LLP가 포함됨.
"또 다른 예는 Reliance로, 우리는 JioGenNext 프로그램의 일환으로 참여하고 있음. 우리는 현재 조달 시스템에 대해 협력하고 있으며, 그곳에서 우리의 노력을 확장할 방법을 모색하고 있음," Chakravarthy가 밝혔음.
한편, 여러 다른 스타트업들도 유사한 제품을 개발하고 있음.
올해 초, Vinod Khosla가 지원하는 Sarvam AI가 변호사들을 지원하기 위한 생성적 AI 작업대인 Sarvam AI Legal을 출시함. 이 제품은 규제 채팅, 문서 초안 작성, 수정 및 데이터 추출과 같은 기능을 제공하여 그들의 능력을 향상시킴.
그러나 Chakravarthy는 실망함. 그는 4천만 달러 이상의 자금을 보유한 스타트업에서 더 나은 성과를 기대했음.
"나는 LangChain API를 사용하여 Google 검색을 수행하는 제품을 보았음. 이는 GitHub 리포지토리에서 쉽게 복사할 수 있음. 그들은 PDF OCR과 결합하여 PDF와 상호작용할 수 있도록 하며, 웹 검색과 법률 프롬프트를 통해 결과를 필터링하여 법률 사이트만 포함함. 경쟁업체에 대해 이야기하고 싶지는 않지만, 건강 기술이나 법률 기술과 같은 분야에서는 이러한 관행이 무책임할 수 있다고 생각함," 그가 말함.
인도에서 스타트업 창립하기
Chakravarthy는 Harvard에서 Brodsky와 McGlone을 만났음. Brodsky는 2018년에 J-PAL South Asia의 인턴십 프로그램을 위해 인도로 이주했으며, 인도가 더 큰 문제를 더 빨리 해결할 수 있는 곳이라는 것을 발견했음.
"내가 온 미국에서는 모든 SaaS 스타트업이 매우 작은 인구 통계의 작은 문제를 해결하고 있음. 그러나 우리가 여기서 직면한 문제는 크고 기초적임. 그들은 노력을 요구함."
AIM이 미국인들에게 인도에서 스타트업을 창립하는 경험에 대해 물었을 때, 그들은 많은 이야기를 했음. Brodsky는 방갈로르가 그가 살아본 최고의 도시 중 하나라고 선언함. "우리가 하고 있는 것, 즉 고성장 기술 회사를 시작하는 것에 대해, 나는 세계에서 더 나은 도시를 본 적이 없음."
그러나 그들은 몇 가지 도전에 직면했음. 예를 들어, Brodsky는 "인도는 도장을 사랑하는 나라임!"이라고 언급함.
그의 발언은 미국과 비교할 때 인도에서 사업을 하는 데 있어 어려움을 강조함. "우리는 투자 목적으로 미국과 인도 두 개의 법인 구조를 가지고 있음. 미국에서 스타트업을 설립할 때는 수수료를 지불하고 몇 번의 버튼을 클릭하면 24시간 이내에 정부에 등록된 법인체를 가질 수 있음 - 종종 직접적인 인간 상호작용 없이.
"반면 인도에서는 더 많은 손이 필요한 참여가 필요함. 전문가를 고용해야 하며, 이는 1개월에서 4개월까지 걸릴 수 있음. 이 과정은 종종 사무실이나 집을 직접 방문해야 하며, 수많은 서류 작업과 도장이 필요하고, 사무실 외부에 간판을 표시해야 하는 필요성도 있음," 그가 말함.
개인적으로 Brodsky는 서류 작업이 많아 인도에서 은행 계좌를 여는 것이 어려웠다고 밝혔음. "나는 운전 면허증과 은행 계좌를 얻으려는 시도를 포기했음. 너무 많은 서류 작업이었음. 내 공동 창립자 Em은 지금 6개월째 시도 중임," 그가 말함.
현지 은행 계좌가 없기 때문에, 그는 UPI를 활용할 수 없다는 것에 대한 실망감을 공유했음. 외국인을 위해 설계된 Cheq UPI와 같은 서비스가 있지만, 이는 비즈니스와 거래할 수 있지만 개인과는 거래할 수 없음.
"인도의 아름다운 마이크로 경제의 많은 부분에 접근할 수 없게 됨. 누군가에게 INR 30을 휴대폰으로 지불하는 것과 같은 것들이 사라짐. 그건 좀 아쉬움," 그가 말함.