FTC가 허위 AI 주장을 하거나 쉽게 악용될 수 있는 기술을 제공하는 회사들에 대해 법적 조치를 취함.
새로운 이니셔티브인 Operation AI Comply는 '로봇 변호사', 가짜 리뷰, 의심스러운 온라인 상점 등 불법적인 관행에 AI가 사용된 다섯 가지 사례를 밝혀냄.
예를 들어, DoNotPay는 클릭 한 번으로 누구든지 고소할 수 있는 '세계 최초의 로봇 변호사'를 주장하며 비난받고 있음.
연방거래위원회(FTC)는 기만적인 AI 관행을 단속하고 있으며, 허위 AI 주장을 하거나 사기를 위해 쉽게 악용될 수 있는 기술을 제공하는 회사들에 대해 법적 조치를 시작함.
Operation AI Comply는 회사들이 AI를 사용하여 기만적인 관행을 강화한 다섯 가지 사례를 밝혀냄. 여기에는 이른바 '로봇 변호사', AI가 생성한 가짜 리뷰, 의심스러운 온라인 상점이 포함됨.
DoNotPay는 클릭 한 번으로 누구든지 고소할 수 있는 '세계 최초의 로봇 변호사'를 주장하며 비난받고 있음. 현재 FTC는 이 회사가 약속을 이행하지 않았다고 조사 중임.
DoNotPay는 가상 카드를 사용해 무료 체험 요금을 피하고 기업에 대한 불만을 제기하는 서비스 등을 제공했지만, FTC는 이 회사가 '폭행에 대해 변호사 없이 고소할 수 있다'는 등의 주장을 과장했다고 주장함.
FTC는 DoNotPay가 '로봇 변호사'가 법적 문서를 작성하는 데 인간 변호사를 대체할 수 있다는 근거 없는 주장을 했다고 지적함. DoNotPay는 인공지능으로 '2000억 달러 규모의 법률 산업을 대체할 것'이라고 주장했지만, FTC는 이러한 주장에 대한 증거가 없다고 반박함. 결과적으로 이 회사는 FTC와 193,000달러의 합의에 동의함.
FTC는 또한 AI가 사람들에게 온라인 상점에서 수익을 올릴 수 있다고 주장한 회사들에 대해서도 조치를 취하고 있음. 한 사례는 Ascend Ecom으로, 이 회사는 '무위험' AI 기반 비즈니스 기회에 투자하도록 개인을 유인하기 위해 수익 잠재력에 대해 잘못된 정보를 제공했다고 주장함. FTC는 Ascend Ecom이 이러한 투자에서 손실이 발생했을 때 환불 보장을 이행하지 않았다고 주장함.
언급된 회사들 외에도 Ecommerce Empire Builders, Rytr, FBA Machine도 FTC의 조사를 받고 있음. Rytr에 대한 고발은 구독자가 AI 플랫폼을 사용해 소비자를 오도할 수 있는 가짜 리뷰를 생성할 수 있다고 밝혀짐. 일부 사용자는 이러한 의심스러운 리뷰를 수천 개 생성함.
한편, Ecommerce Empire Builders와 FBA Machine은 고객이 AI 기반 온라인 비즈니스에 투자함으로써 수익을 올릴 수 있다고 주장하지만, FTC는 Ecommerce Empire Builders가 고객이 부정적인 리뷰를 남기는 것을 막는 계약서에 서명하도록 강요했다고 주장함.
