메타 AI가 자살을 시도한 22세 UP 여성의 생명을 구하는 데 큰 역할을 했다. 이 여성은 소셜 미디어에 자살 시도 영상을 게시했으며, 메타 AI의 신속한 경고 덕분에 UP 경찰이 즉각적으로 행동에 나서 그녀의 생명을 구할 수 있었다. 메타 AI와의 협력으로 UP 경찰은 1년 반 동안 460명 이상의 생명을 구했다.
모든 것은 22세 여성이 루크나우의 니고하 경찰서 관할의 작은 마을에서 자신의 인스타그램 계정에 12시 11분에 게시한 영상에서 시작됐다. "여성은 의자 위에 서서 빨간색 두루마기를 천장 선풍기에서 목에 묶고 자살을 준비하는 모습을 담은 영상을 공유했다. 영상이 공유된 직후, 우리는 메타 AI로부터 이 영상을 '위험' 카테고리로 표시한 경고를 받았다. 경고는 즉시 수신되었고, 우리는 해당 경찰서에 경고를 전달했다,"라고 UP 경찰 관계자가 말했다.
자살 경고를 받은 경찰팀은 즉시 행동에 나섰고, 경고에 명시된 주소로 달려갔다. "팀은 니고하 경찰서장 아누즈 티와리의 지휘 아래 4분 만에 주어진 주소에 도착했다. 팀은 12시 15분에 여성의 집 앞에 도착해 즉시 집 안으로 들어가 그녀를 구출했다,"라고 모한랄간지의 경찰 보조 커미셔너인 라즈니시 베르마가 말했다. 그는 여성이 안정된 상태라고 덧붙였다.
조사 중, 여성은 아리야 사마즈 사원에서 아만이라는 남성과 사랑의 결혼을 했다고 밝혔다. 함께 살던 지 4개월 만에 그가 그녀를 받아들이지 않으면서 그들은 헤어지게 되었고, 이 거절이 그녀를 자살 시도로 이끌었다. "남성에 대해 자살 방조 혐의로 사건이 등록되었다. 여성의 소셜 미디어 페이지에서 자살 시도 영상도 삭제되었다,"라고 ACP가 말했다.
메타 AI는 UP에서 460명 이상의 생명을 구했다.
하지만 이번이 메타 AI가 구세주 역할을 한 것은 처음이 아니다. 2023년 1월, UP 경찰은 메타와 협력하여 자살 예방을 위한 AI를 활용하기 시작했다. 2023년 1월부터 2024년 8월까지 메타의 AI는 이러한 플랫폼에서 자살 의도를 가진 게시물을 감지하여 460명 이상의 생명을 구하는 데 중요한 역할을 했다.
이런 게시물이 나타나면 메타의 AI는 즉시 DGP 본부의 소셜 미디어 센터에 경고를 보낸다. 이 센터는 24시간 운영되며, 경고를 신속하게 처리하여 사용자의 위치 및 기타 관련 세부 정보를 파악한다. 그런 다음 이 정보는 해당 경찰서에 전달되어 신속한 개입과 생명 구하는 조치를 가능하게 한다.
