미국 연방거래위원회(FTC)는 AI를 이용해 소비자에게 해를 끼치는 기만적이거나 불공정한 행위를 한 기업을 겨냥하고 있음.
FTC는 'Operation AI Comply'의 일환으로 AI 관련 기만을 폭로하는 다섯 가지 특정 사례를 발표했으며, 그 중 하나는 '로봇 변호사' 서비스를 제공한다고 주장하는 영국 기반의 DoNotPay에 대한 것임.
또한, 소비자들이 온라인 상점에서 돈을 벌 수 있다고 주장하는 기업들에 대한 사례도 포함되어 있음.
Lina M Khan FTC 의장은 "사람들을 속이거나 기만하거나 사기를 치기 위해 AI 도구를 사용하는 것은 불법"이라고 말함.
"FTC의 단속 조치는 법률에 AI 면제가 없음을 분명히 하고 있음. 불공정하거나 기만적인 관행을 단속함으로써, FTC는 정직한 기업과 혁신가들이 공정한 기회를 가질 수 있도록 하고 소비자들이 보호받을 수 있도록 하고 있음."
DoNotPay에 대한 사례에서 FTC는 이 회사의 서비스가 "과장된 기대에 미치지 못했다"고 언급하며, 이 회사가 사람들을 오도하는 것을 중단하고 193,000달러를 지불하라고 명령함.
Ascend Ecom은 FTC에 따르면, 사람들을 설득하기 위해 기만적인 수익 주장을 사용하여 '무위험' 비즈니스 기회에 투자하도록 유도했으나, 상황이 나빠졌을 때 환불 보장을 이행하지 않았음.
또 다른 두 회사인 Ecommerce Empire Builders와 FBA Machine은 고객들이 AI로 구동되는 온라인 상점이나 비즈니스 기회에 투자하여 돈을 벌 수 있다고 약속함. FTC는 또한 Ecommerce Empire Builders가 고객들이 부정적인 리뷰를 작성하지 못하도록 계약서에 서명하게 한다고 주장함.
다섯 번째 사례는 온라인 리뷰 생성을 위한 AI 작문 도구를 판매하는 미국 기반의 Rytr에 관한 것으로, FTC의 고발에 따르면 이 도구는 수천 개의 허위 리뷰를 생성하는 데 사용됨. Rytr는 리뷰 생성을 위해 홍보된 서비스의 광고나 판매를 금지하는 제안된 합의에 동의함.
이번 단속은 AI 기만이 온라인 세계에 계속 침투하고 있는 가운데 이루어짐. 2023년 7월에 발표된 연구에 따르면, 이러한 고급 시스템은 사람들을 속이는 데 있어 인간보다 더 효과적일 수 있음.
미국 대선이 다가오면서 AI 딥페이크가 소셜 미디어 플랫폼에 등장하고 있으며, 이는 잘못된 정보를 퍼뜨리는 데 매우 효과적일 수 있음.
사기를 치기 위한 이러한 능력과 현재의 AI 과대광고가 결합되면서, 기업들은 AI를 활용하여 자사 제품을 강화할 기회를 보고 있음, 비록 그것이 'AI 세탁'에 불과하더라도.
FTC의 최신 사례는 시장에서 AI 관련 문제를 다각도로 해결하기 위한 기관의 작업의 일환임. 지난달에는 허위 리뷰, 특히 AI가 생성한 허위 리뷰의 생성이나 구매를 금지함.
"우리는 제품이나 서비스가 실제로 광고된 대로 AI를 사용하고 있는지, 그렇다면 마케팅에서 말하는 대로 작동하는지 확인하고 있음"이라고 성명에서 밝힘.
"우리는 AI 및 기타 자동화 도구가 사기, 기만, 불공정 조작 또는 기타 해로운 목적으로 사용되고 있는지 조사하고 있음."
