Un estudiante de informática en la Universidad de Princeton, en Estados Unidos, da respuesta a una de las principales preocupaciones generadas por el chatbot creado por la compañía cofundada por Elon Musk, OpenAI.
Desde siempre, el surgimiento de nuevas tecnologías ha generado incertidumbre en los ámbitos a los que va dirigida, siendo el reemplazo del talento humano, uno de los principales temores. Actualmente, esta alarma se encendió con el lanzamiento del ChatGPT desarrollado por OpenAI, que es capaz de generar textos, conversaciones y hasta líneas de código. A tan solo dos meses desde su lanzamiento, ya hay quienes la aprovechan para generar textos de todo tipo, pero generan nuevas preocupaciones sobre la autenticidad del contenido.
Para resolver este dilema ético, el estudiante de informática en la Universidad de Princeton, Edward Tian, desarrolló GPTZero, un sistema que detecta textos escritos utilizando inteligencia artificial como la de ChatGPT.
GPTZero resuelve el principal temor contra ChatGPT.
Según la información compartida desde The Daily Beast, el estudiante de último año de Princeton, de 22 años, pasó sus vacaciones de invierno en su cafetería local creando GPTZero. Cuando lo subió a la plataforma de creación y alojamiento de aplicaciones Streamlit, no esperaba que llamara tanto la atención.
Esperaba, como máximo, unas pocas docenas de personas probando la aplicación. De repente, fue una locura el número de usuarios con más de 2000 personas que se registraron para la versión beta en unas pocas horas.
Para Tian, quien también es estudiante de periodismo, la principal motivación para generar GPTZero, es atentar contra en plagio o el “IAgiarismo”, como se ha comenzado a denominar a la práctica generada por el uso indiscriminado de este tipo de herramientas, pero sobre todo entender que hay sectores donde la originalidad es un valor irremplazable:
Los humanos merecen saber cuándo la escritura no es humana. Últimamente hay tanta expectación en torno a ChatGPT y la generación de inteligencia artificial que los humanos merecen saber la verdad.
Perplejidad y explosión
Gracias a sus conocimiento en tecnología y lenguaje e inspirado especialmente por una clase que tomó con el escritor estadounidense John McPhee, quien le enseñó sobre esas hermosas cualidades de la escritura humana, Tian utilizó dos métricas para la evaluación de textos que realiza GPTZero: perplejidad y explosión.
La perplejidad es una medida de la aleatoriedad en una oración. Si una oración se construye o usa palabras de una manera que sorprende a la aplicación, obtendrá una puntuación más alta en perplejidad.
Mientras que la explosión es la cualidad de aleatoriedad general para todas las oraciones en un texto. Así, la escritura humana tiende a tener oraciones que varían en complejidad. Algunos son simples. Los bots tienden a generar oraciones que son relativamente bajas en complejidad, a lo largo de todo el texto.
A pesar de construir la herramienta, Tian no es anti-IA. Él cree que hay un momento y un lugar para ellos si se usan éticamente y con consentimiento.
No me opongo a usar AI para escribir cuando tiene sentido.
Por supuesto, GPTZero resulta un alivio para quienes en su oficio de profesores, académicos, periodistas y otras profesiones requieren comprobar la veracidad de los textos que llegan a sus manos. Aunque Tian fue pertinente con su propuesta, desde OpenAI han asegurado que eventualmente implementarán “marcas de agua” para verificar si ChatGPT creó algo o no, pero todavía no existe un método oficial para hacerlo.