La nueva herramienta de OpenAI puede ayudarlo a identificar el texto escrito por ChatGPT

OpenAI tiene lanzó una herramienta para ayudarlo a determinar si es más probable que el texto haya sido escrito por un humano o por una IA. Sin embargo, el creador de ChatGPT advierte que su equivalente a Blade RunnerLa prueba de Voight-Kampff también puede fallar.

La herramienta incluye un cuadro donde puede pegar texto de al menos 1,000 caracteres. Luego emitirá un veredicto, como "El clasificador considera que es muy poco probable que el texto haya sido generado por IA" o "El clasificador considera que el texto posiblemente haya sido generado por IA".

Lo probé pidiéndole a ChatGPT que escribiera un ensayo sobre los patrones migratorios de las aves, que la herramienta de detección luego describió como "posiblemente generado por IA". Mientras tanto, calificó varios artículos escritos por humanos como "muy poco probables generados por IA". Entonces, aunque la herramienta podría generar falsas banderas en cualquier dirección, mi prueba (tamaño de muestra pequeño) sugiere al menos un grado de precisión. Aún así, OpenAI advierte que no se use la herramienta sola para determinar la autenticidad del contenido; también funciona mejor con texto de 1,000 palabras o más.

La startup se ha enfrentado a la presión de los educadores después del lanzamiento en noviembre de su herramienta ChatGPT, que produce contenido escrito por IA que a veces puede pasar por escritura humana. El modelo de lenguaje natural puede crear ensayos en segundos basados ​​en indicaciones de texto simples, incluso aprobar un examen de negocios y derecho de posgrado, al tiempo que brinda a los estudiantes una nueva y tentadora oportunidad de hacer trampa. Como resultado, las escuelas públicas de Nueva York prohibieron el bot de sus redes WiFi y dispositivos escolares.

Si bien la llegada de ChatGPT ha sido un tema muy comentado últimamente, incluso extendiéndose a los medios de comunicación ansiosos por automatizar artículos compatibles con SEO, el bot es un gran negocio para OpenAI. Según se informa, la compañía aseguró una inversión de $10 mil millones a principios de este mes de parte de Microsoft, que planea integrarla en Bing y Office 365. OpenAI supuestamente discutió la venta de acciones a una valoración de $29 mil millones a fines del año pasado, lo que la convertiría en una de las empresas emergentes más valiosas de EE. UU. .

Aunque ChatGPT es actualmente el mejor modelo de IA de lenguaje natural disponible públicamente, Google, Baidu y otros están trabajando en la competencia. LaMDA de Google es lo suficientemente convincente como para que un ex investigador desperdiciara su trabajo en el gigante de las búsquedas el año pasado al afirmar que el chatbot es inteligente. (La tendencia humana a proyectar sentimientos y conciencia en algoritmos es un concepto del que probablemente escucharemos mucho en los próximos años). Google solo ha lanzado versiones extremadamente restringidas de su chatbot en una versión beta, presumiblemente por preocupaciones éticas. Con el genio fuera de la botella, será interesante ver cuánto dura esa moderación.