OpenAI의 새로운 도구는 ChatGPT로 작성된 텍스트를 식별하는 데 도움이 될 수 있습니다.

OpenAI는 도구 출시 텍스트가 인간 또는 AI에 의해 작성되었을 가능성이 더 높은지 판단하는 데 도움이 됩니다. 그러나 ChatGPT 제작자는 블레이드 러너Voight-Kampff 테스트도 틀릴 수 있습니다.

이 도구에는 1,000자 이상의 텍스트를 붙여넣을 수 있는 상자가 포함되어 있습니다. 그런 다음 "분류자는 텍스트가 AI 생성 가능성이 매우 낮다고 생각합니다." 또는 "분류자는 텍스트가 AI 생성 가능성이 있다고 간주합니다."와 같은 평결을 내뱉습니다.

나는 ChatGPT가 조류의 철새 패턴에 대한 에세이를 작성하도록 유도하여 테스트했으며, 탐지 도구는 이를 "아마도 AI 생성"이라고 설명했습니다. 한편, 사람이 쓴 여러 기사를 "AI가 생성할 가능성이 매우 낮다"고 평가했습니다. 따라서 도구가 어느 방향으로든 거짓 플래그를 일으킬 수 있지만 내(작은 샘플 크기) 테스트는 적어도 어느 정도의 정확도를 제안합니다. 그래도 OpenAI는 콘텐츠의 진위 여부를 판단하기 위해 도구만 사용하지 말라고 경고합니다. 또한 1,000단어 이상의 텍스트에서 가장 잘 작동합니다.

이 스타트업은 때때로 사람의 글로 통할 수 있는 AI 작성 콘텐츠를 생성하는 ChatGPT 도구의 XNUMX월 릴리스 이후 교육자들로부터 압력을 받았습니다. 자연어 모델은 간단한 텍스트 프롬프트를 기반으로 몇 초 만에 에세이를 작성할 수 있으며, 대학원 경영 및 법률 시험을 통과하는 동시에 학생들에게 유혹적인 새로운 부정 행위 기회를 제공합니다. 그 결과 뉴욕 공립학교는 WiFi 네트워크와 학교 기기에서 봇을 금지했습니다.

ChatGPT의 출현은 최근 화제가 된 주제였으며 심지어 SEO 친화적인 기사를 자동화하려는 언론 매체까지 확장되었지만 봇은 OpenAI의 큰 사업입니다. 이 회사는 이달 초 Microsoft로부터 10억 달러의 투자를 확보한 것으로 알려졌으며, Microsoft는 이를 Bing 및 Office 365에 통합할 계획입니다. OpenAI는 작년 말 29억 달러 가치의 주식 매각을 논의했으며, 이는 가장 가치 있는 미국 신생 기업 중 하나가 될 것입니다. .

ChatGPT는 현재 공개적으로 사용할 수 있는 최고의 자연어 AI 모델이지만 Google, Baidu 등은 경쟁업체에서 작업하고 있습니다. Google의 LaMDA는 한 전직 연구원이 작년에 챗봇이 지각력이 있다고 주장함으로써 검색 거대 기업에서 자신의 직업을 포기했다고 충분히 설득력이 있습니다. (감정과 의식을 알고리즘에 투사하는 인간의 경향은 앞으로 몇 년 동안 많이 듣게 될 개념입니다.) Google은 아마도 윤리적 문제로 인해 극도로 제한된 버전의 챗봇 베타 버전만 출시했습니다. 병에서 지니를 꺼내면 그 구속이 얼마나 오래 지속되는지 보는 것이 흥미로울 것입니다.