OpenAI tampoco sabe distinguir si un texto es de ChatGPT o
un humano y mata a su herramienta para ello
===========================================================

por Rubén Chicharro 26 de julio de 2023

La plataforma, bautizada como IA Classifier, ya no está
disponible debido a una “baja tasa de precisión”, afirma
OpenAI.

OpenAI, desarrolladora de ChatGPT, ha matado AI Classifier,
la herramienta que permitía a los usuarios detectar si un
texto lo ha escrito una inteligencia artificial o, en
cambio, lo ha redactado un humano. La plataforma, que se
lanzó en enero de este año con una gran cantidad de
limitaciones, ya no está disponible. Al acceder a la web se
muestra un mensaje conforme la página “no se ha
encontrado”.

La compañía dirigida por Sam Altman ha confirmado en la
publicación donde presentan AI Classifier, que han decidido
eliminar la herramienta a causa de su “baja tasa de
precisión”. OpenAI, en concreto, destacaba en su web que AI
Classifier solo “identifica correctamente el 26 % del texto
escrito por IA”. Es un porcentaje bastante pequeño.

La herramienta de OpenAI, además, detectaba falsos
positivos un 9 % de las veces. Esto quiere decir que, en
algunas ocasiones, un texto escrito como IA lo califica
como escrito por humano o viceversa.

AI Classifier, por otro lado, no ofrecía un resultado claro
a la hora de detectar si un texto estaba escrito una IA o
un humano. Simplemente, los categorizaba como “poco claro o
posible”, en el caso de que no pudiese detectar con
precisión si un texto se ha generado por ChatGPT u otra IA.
O como “muy improbable” que ese texto se haya escrito por
un humano.

Además, la firma aseguraba que para que la herramienta
detectase un texto correctamente, este debía tener más de
1.000 caracteres para que fuese un poco más fiable a la
hora de detectar texto. Aunque OpenAI subrayaba que
“incluso los textos más largos a veces son etiquetados
incorrectamente por el clasificador”.

OpenAI afirma estar trabajando en una herramienta más
precisa

En cualquier caso, esto no parece ser un adiós definitivo.
La compañía ha confirmado que están trabajando en una
herramienta una más fiable y precisa. El objetivo es que
los usuarios puedan “comprender” si el contenido, ya sea de
audio, vídeo o escrito, lo ha generado una IA.

    Actualmente estamos investigando técnicas de
    procedencia más efectivas para el texto, y nos hemos
    comprometido a desarrollar e implementar mecanismos que
    permitan a los usuarios comprender si el contenido de
    audio o visual es generado por IA.

    OpenAI en una nota sobre la suspensión de IA
    Classifier.

Por el momento, y a falta de una herramienta por parte de
OpenAI para detectar si un texto está escrito por ChatGPT,
es posible utilizar diferentes plataformas que funcionan de
forma similar a como lo hacía AI Classifier. Una de ellas
es CPTZero, que incluso permite compartir documentos.

## Via

https://hipertextual.com/2023/07/openai-mata-la-herramienta-que-detecta-si-un-texto-lo-ha-escrito-chatgpt