En este momento, la batalla contra los LLM y en especial ChatGPT (sus rivales, Bard o Claude todavía no están a su altura por la adopción en su uso) se centra en descifrar si el texto que estamos leyendo es generado completamente por IA, parcialmente por IA, o si no se ha utilizado en absoluto.
La fuente, que es OpenAI, decidió cerrar hace meses su detector de IA debido a su incapacidad actual para distinguir de manera precisa entre el texto generado por IA y el escrito por humanos.
La opción de OpenAI se llamaba AI Classifier
Hace unos meses, escribíamos un artículo sobre ello avisando que «no era infalible».
Lo que no pensábamos, es que directamente, a los pocos meses lo cerraran porque estaba recibiendo multitud de FALSOS POSITIVOS.
Un falso positivo se produce cuando un texto escrito completamente por un humano es identificado como un texto generado con IA.
Ante estos casos, OpenAI, terminó eliminando su opción de clasificador de texto.
En este enlace, se puede consultar su blog donde lo presentaban: AI text Classifer
Ahora bien, si queremos pulsar en probar: Try the classifier , la página web ya no existe.
Por lo tanto, debemos tener en cuenta esta premisa para valorar cualquier opción que nos ofrezcan
Lo más fácil sería establecer en cada documento escrito, una marca de agua correspondiente. Y que lo mismo se hiciera con las imágenes, vídeos, textos o libros, tal y como proponen las grandes marcas como Canon o Nikon.
Sin embargo, como siempre suele ocurrir, a menos que nos lo impongan por obligación, esa tarea no se realiza de forma voluntaria.
— Primero, porque su uso parece disminuir la credibilidad del contenido, y segundo, porque tendemos a percibirlo como algo automático, lo que lleva a nuestro cerebro a descartarlo como una opinión fiable.
Un ejemplo son los nuevos anuncios en las redes sociales
Los nuevos comerciales operan como influencers aparentes que nos hacen creer que están compartiendo opiniones completamente personales, cuando en realidad están siendo remunerados por las marcas patrocinadoras y deben incorporar elementos de «cotidianeidad» en su contenido.
La aplicación que hoy os mostramos trata acerca de la detectabilidad de la IA y se llama BYPASSGPT
Qué es BYPASSGPT
Aseguran que humanizan el texto generado automáticamente por la IA y lo hacen indetectable para la mayoría de los «revisores/inspectores» de contenido generado por IA.
Pretende competir contra:
Pero como en otras ocasiones, creemos que todavía no existe la fiabilidad al 100% porque no contamos con herramientas suficientes para que nos aseguren esa certeza.
Mientras existan textos escritos exclusivamente por humanos que el detector identifique como generados por IA, seguiremos reconociendo que el sistema no funciona correctamente.
Por lo tanto, cabe recordar que no podemos otorgar una certeza absoluta a todo lo que lleve aparejado el nombre de «IA» y debemos evitar, confiar ciegamente en herramientas que podrían tener consecuencias negativas en algunos casos.
Para seguir la actualidad de las noticias más interesantes sobre robótica colaborativa e inteligencia artificial, no dudes en visitar nuestras Últimas noticias
