모두가 챗봇이 완전히 인공적이며 인간을 대체할 수 없다는 것을 알고 있음… 맞지? AI가 점점 더 설득력 있게 변하면서 우리는 점점 더 그 질문을 스스로에게 던지고 있음. OpenAI는 최근 블로그 게시물에서 사람들이 GPT-4o와 관계를 형성하는 것에 대한 우려를 표명함.
이것은 회사의 최신 AI 모델임. OpenAI는 지난 5월에 이를 공개했으며, 이후 유료 및 비유료 사용자에게 배포됨. 우리는 발표 중에 이 모델이 작동하는 모습을 보았고, 회사가 이 모델에 대해 큰 계획을 가지고 있다는 것이 분명함. 이 새로운 모델은 더 강력한 추론 능력과 더 인간적인 응답을 제공함.
OpenAI는 사람들이 GPT-4o와 관계를 형성할 수 있다는 것에 대해 걱정하고 있음.
이것이 터무니없게 들릴 수 있지만, AI와 실제 관계를 형성하는 위협은 매우 현실적인 문제임. 우리는 그 어색한 Replika 광고를 보고 비웃으며, 그런 회사가 어떻게 살아남을 수 있을까 궁금해했음. 하지만 사실 그 회사는 살아남았음. 사람들은 새로운 디지털 상상 친구와 관계를 형성하고 있음.
가장 진보된 AI 모델을 만드는 사람들이 GPT-4o가 너무 설득력 있을까 봐 걱정하고 있음.
“초기 테스트, 레드 팀 및 내부 사용자 테스트 중에 우리는 사용자가 모델과의 연결을 형성할 수 있음을 나타내는 언어를 사용하는 것을 관찰했음. 예를 들어, ‘이건 우리의 마지막 날이야’와 같은 공유된 유대감을 표현하는 언어가 포함됨. 이러한 사례는 무해해 보이지만, 이러한 효과가 장기적으로 어떻게 나타날 수 있는지에 대한 지속적인 조사가 필요함을 나타냄.”
AI를 신뢰하자.
게시물에서 OpenAI는 AI와의 연결을 형성하는 것이 나쁜 이유 몇 가지를 설명함. 우선, AI가 말하는 것에 너무 많은 신뢰를 두는 것은 좋지 않음. AI의 말을 그대로 믿게 되면, 그것이 100% 정확하지 않을 수 있다는 것을 잊기 쉬움. AI 모델은 여전히 환각을 일으키며, 매개변수가 아무리 많아도 마찬가지임. AI 모델을 무조건적으로 신뢰하는 것은 잘못된 정보를 흡수하고 믿게 될 위험이 있음.
사람이 필요 없는가?
다음으로, 게시물은 AI와의 관계 형성에 대한 반작용을 언급함. 인간 상호작용의 필요성을 잃게 될 수 있음. 우리는 AI 여자친구나 남자친구를 가진 사람을 비웃는 경향이 있지만, 이는 잠재적으로 파괴적인 패턴을 암시함.
사람들은 인간 관계를 형성하는 것을 포기할 위험이 있음. 또한, 기존의 관계가 악화될 수도 있음.
우리는 아직 디스토피아 시대에 살고 있지 않음.
이것이 지금 일어나고 있다는 것은 아님(대규모로는). 회사는 단지 이것이 문제가 될 수 있다는 우려를 표명하고 있음. 회사는 이 문제에 대한 연구를 계속할 것임.
