En esta guía vamos a hablarte de OpenAI Classifier. Como sabrás, ChatGPT se está convirtiendo en toda una sensación. Si bien es cierto que la expectación inicial se ha ido rebajando a medida que pasan los meses desde su lanzamiento, esta herramienta continúa llamando la atención de millones de usuarios por todo el mundo. Una de las cosas que permite esta aplicación basada en el modelo de lenguaje GPT-4 es generar texto.
A pesar de la credibilidad de los escritos ofrecidos por ChatGPT, hay que ser cauto, pues la inteligencia artificial tiende a alucinar y a inventarse toda clase de datos. Como solemos decir, su objetivo es generar texto a toda costa, no decir la verdad. En vista de esto, la empresa responsable de esta tecnología ha lanzado OpenAI Classifier, una herramienta para detectar textos generados por ChatGPT. ¿Funcionará realmente? La hemos analizado a fondo para contarte nuestra experiencia.
OpenAI ya ha cerrado el proyecto Classifier.
¿Qué es OpenAI Classifier?
OpenAI Classifier es un detector de textos generado por inteligencia artificial. Es otra de las aplicaciones que ha lanzado la compañía responsable del desarrollo de GPT-4, el modelo de lenguaje, y ChatGPT, la interfaz de acceso en forma de chatbot a esta tecnología.
Debido a que ChatGPT es capaz de crear fragmentos de textos verosímiles, aunque no necesariamente fiables, OpenAI ha entrado un clasificador que, supuestamente, es capaz de distinguir entre texto escrito por humanos y texto redactado por inteligencia artificial. Su funcionamiento, como te contaremos más adelante, es muy simple. De hecho, nos recuerda un poco a ChatGPT. Hablamos de una herramienta muy sencilla y fácil de utilizar que da acceso a una tecnología realmente compleja y puntera.
Pero antes de hablar de cómo funciona, permítenos que echemos un vistazo a sus limitaciones. Te avanzamos que son bastante notables.
Limitaciones de OpenAI Classifier
OpenAI, en su página oficial, lanza algunas advertencias con respecto a este clasificador de textos. Textualmente, avisan de que “no debe utilizarse como herramienta primaria de toma de decisiones”.
Además, dejan muy claro que OpenAI Classifier presenta las siguientes limitaciones:
- La fiabilidad del clasificador es muy baja si se analizan textos cortos. Pero es que OpenAI también explica que los aún más largos a veces son etiquetados incorrectamente.
- Ocasionalmente, el texto escrito en humanos será etiquetado incorrectamente.
- Se recomienda usar el clasificador sólo para texto en inglés. La fiabilidad baja si se emplea en otros idiomas.
- Los textos que contengan verdades irrefutables no se pueden etiquetar. Y aquí la compañía pone un ejemplo: “es imposible predecir si una lista de los primeros 1.000 números primos fue escrita por IA o humanos, porque la respuesta correcta es siempre la misma”.
- El texto escrito en IA puede ser editado para evadir al clasificador. O, dicho de otro modo, el humano puede hackear al clasificador haciendo modificaciones oportunas en el texto.
Lo cierto es que, teniendo en cuenta estas limitaciones, las previsiones de que OpenAI Classifier acierte son bastante bajas. De hecho, si ChatGPT puede no ser fiable por sus alucinaciones y el clasificador, que, presumiblemente, detecta sus textos, tampoco lo es, es como si un ciego guía a otro ciego. No obstante, para extraer conclusiones definitivas, primero vamos a hacer algunas pruebas.
Cómo acceder a OpenAI Classifier
Para poder utilizar el detector de texto generado por ChatGPT, primero debes crearte una cuenta de OpenAI. Si ya eres usuario del chatbot, entonces lo único que necesitas es iniciar sesión. 
Accede a este enlace, presiona en Log in e introduce las credenciales de tu cuenta. Seguidamente, se cargará el clasificador de textos de OpenAI. Tiene el siguiente aspecto:
Básicamente, se trata de un cajón de texto en el que introducir el fragmento que se desea evaluar y un botón para enviar la consulta. En la parte superior, aparecen varios ejemplos de lo que sería un texto generado por un humano y una inteligencia artificial. Si presionas en Misclassified Human-Written se muestra un fragmento de un texto que podría resultar en un falso positivo.
¿Funciona realmente OpenAI Classifier?
Como queríamos obtener los resultados más fiables y no dominamos tan bien el inglés, hemos hecho la siguiente prueba. Por un lado, le hemos pedido a ChatGPT que redacte un explicando la vida de Cristóbal Colón. El fragmento tiene más de 1000 caracteres y está redactado en inglés.
Luego, hemos accedido a la Wikipedia y hemos copiado un fragmento del artículo que habla sobre este personaje histórico. ¿Cuáles han sido los resultados?
En la imagen anterior, se muestra el texto generado por ChatGPT y enviado a OpenAI Classifier. Abajo se puede leer lo siguiente:
- The classifier considers the text to be very unlikely AI-generated.
Es decir, el detector considera que es muy poco probable que el texto sea generado por inteligencia artificial. Empezamos mal. ¿Y qué pasa si enviamos el texto de la Wikipedia?
El resultado es exactamente el mismo. Tampoco considera que sea un texto generado por inteligencia o, cuanto menos, es poco probable que lo sea.
Es evidente que la historia de Cristóbal Colón podría considerarse como una de esas verdades irrefutables y quizá por eso el detector no es capaz de diferenciar. Vamos a probar con otra cosa.
Ahora vamos a enviarle dos textos de opinión sobre el iPhone 14 Pro. Uno de ellos ha sido extraído de este artículo y el otro generado por ChatGPT que, supuestamente, no sabe nada sobre este modelo porque fue lanzado en 2022. La sentencia para ambos fragmentos es la misma: The classifier considers the text to be very unlikely AI-generated, es decir, que ninguno de ellos probablemente fue escrito por inteligencia artificial.
Además de estas dos pruebas que mencionamos, hemos hecho muchas otras. También hemos usado textos en español, pero hemos confirmado que la fiabilidad de este detector es extremadamente baja. Nuestra impresión es que, por el momento, no cumple en absoluto con su objetivo.
Y tú, ¿has podido probar OpenAI Classifier? Déjanos tus impresiones y cuéntanos tu experiencia. ¡Te esperamos en los comentarios!
