Grammarly는 이번 주에 AI가 작성한 텍스트를 감지하는 새로운 기능을 발표함. Grammarly Authorship는 구글 문서에서 베타 버전으로 제공되며, 특히 교육자들이 학생들이 AI를 사용해 과제를 작성했는지 확인하는 데 도움을 주기 위해 설계됨.
교사와 교육 정책 입안자들은 오랫동안 AI로 작성된 내용을 구별하는 문제에 대해 고민해왔음. 하지만 ChatGPT와 그 경쟁자들이 등장하면서 이러한 도구의 필요성이 더욱 커졌음. 기존의 방법들이 신뢰할 수 없게 되면서 문제는 더욱 복잡해졌음. 특히 영어를 제2외국어로 배우는 학생들이 글을 쓰는 과정에서 AI 작성물과의 구별이 어려워졌음.
Grammarly Authorship는 기존의 많은 AI 감지 도구들이 텍스트가 완료된 후 분석하는 방식을 피하고, 텍스트가 작성되는 실시간을 추적함. 이 도구는 사용자가 입력한 내용, 다른 곳에서 복사한 내용, AI로 생성된 내용을 구별할 수 있다고 함. 이 기능은 구글 문서, 마이크로소프트 워드, 애플 페이지와 같은 글쓰기 플랫폼을 중심으로 50만 개 이상의 애플리케이션 및 웹사이트와 통합될 예정임.
이 기능은 작성 중인 내용을 실시간으로 추적하고, 텍스트가 복사되거나 AI 도구에 의해 생성되거나 수정된 경우를 기록함. Grammarly Authorship는 이후 보고서를 작성하고, 작성된 내용, AI 생성 내용, 다른 곳에서 복사된 내용에 따라 논문을 분류함. 작성 과정의 재생을 보여주어 정확히 어떤 일이 있었는지를 보여줌.
개인은 Grammarly Authorship에 접근할 수 있지만, 교육자들이 이 도구의 주요 시장임. 학생들 사이에서 AI로 작성된 글은 논란이 되고 있으며, 교사들에 의해 잘못된 혐의를 받는 경우도 발생하고 있음. Grammarly 교육 부서의 제니 맥스웰은 "학교가 시작되면서 많은 기관들이 일관되고 명확한 AI 정책이 부족하다"고 설명함. "이러한 불확실성은 불완전한 AI 감지 도구에 대한 과도한 의존으로 이어져, 논문이 AI 생성으로 표시될 때 교수와 학생 간의 적대적인 상황을 초래하고 있음. 시장에서 필요한 것은 AI의 역할에 대한 생산적인 대화를 촉진할 수 있는 도구임. Authorship는 학생들이 AI 도구와 어떻게 상호작용했는지를 포함해 논문을 작성한 방법을 쉽게 보여줄 수 있도록 해줌."
물론, 교육자들이 Grammarly의 새로운 개념을 신뢰하기로 결정해야만 의미가 있음. 실제 상황에서 성과 목표를 달성해야 함. 또한 경쟁자들과의 경쟁도 있어야 함. OpenAI는 ChatGPT와 그 AI 모델로 생성된 콘텐츠를 감지하기 위한 새로운 도구를 개발했지만, 악용될 수 있는 문제를 피하기 위해 아직 출시하지 않기로 결정함. 이는 첫 번째 AI 텍스트 감지기가 6개월 만에 중단된 실패를 따름.
Authorship 보고서와 같은 증거가 있다면 학생이 정말로 자신의 논문을 작성했는지에 대한 의문이 사라질 수 있지만, 학생들이 이 도구를 사용하는 데 주저할 수 있는 개인정보 보호 문제가 있음. 학생들은 자신의 글쓰기 과정에서의 모든 실패를 공유하고 싶지 않을 수 있음. 최종 결과물만 공유하고 싶어하는 것은 비밀이 아닐 수 있지만, 선택의 여지가 없을 수도 있음. 집에서 글쓰기를 하는 것이 시험을 보는 것처럼 보일 수 있으며, 부정행위를 방지하기 위해 감독이 학생들을 지켜보는 상황이 올 수도 있음.
