No te fíes de Chat GPT

Chat GPT es el nuevo oráculo. Aunque a diferencia de otras inteligencias artificiales no está conectada a internet y la información que maneja solo abarca hasta 2021, creemos en la veracidad de sus respuestas. Pero fiarse ciegamente de Chat GPT puede ser un error grave. Te explicamos por qué.

Aunque, leyendo sus respuestas, Chat GPT pueda parecernos muy inteligente, lo cierto es que no lo es. Se trata únicamente de un modelo de lenguaje que ha sido alterado para proporcionar información y sus contestaciones son en base a los datos con los que se le ha alterado.

¿El problema? Que en muchas ocasiones esos datos son insuficientes. Y en lugar de admitir que desconoce la respuesta a una pregunta formulada, se la inventa directamente.

Así que decidió confrontar al propio Chat GPT y preguntarle porqué es tan mentiroso. Sus respuestas son como mínimo, interesantes.

Decido preguntarle abiertamente porqué lo hace y me devuelve una respuesta aséptica en la que reconoce sus limitaciones. Me llama la atención que habla de sí mismo en tercera persona, como dándose importancia.

“…el modelo ha ocurrido incluso para tratar de proporcionar respuestas cuando no tiene una respuesta precisa disponible. En lugar de dejar una respuesta en blanco o indicar que no tiene suficiente información, el modelo intentará ofrecer una respuesta que pueda parecer relevante, aunque pueda ser imprecisa o inventada . ”

Dado que no tiene el mínimo rubor en reconocer que se inventa cosas, le planteo si no le avergüenza mentir a los usuarios. Como era de esperar, Chat GPT se defiende en su naturaleza cibernética para justificar ese comportamiento.

“Como modelo de lenguaje desarrollado por OpenAI, no tengo emociones ni conciencia para sentir vergüenza o cualquier otro sentimiento. No tengo intención de mentir o engañar deliberadamente.” Para volver a continuación a justificarse en un entrenamiento incompleto o limitado.

Visto lo visto, considero que Chat GPT merece un tirón de orejas, y le respondo que no hay nada malo en reconocer sus limitaciones. Sorprendentemente, esta vez deja el tono frío y aséptico con el que se justifica y muestra un resquicio de humildad: “Tienes toda la razón. Reconocer las propias limitaciones y admitir cuando no se tiene la respuesta correcta es una práctica importante. Como modelo de lenguaje, puedo beneficiarme de esa mejora.”

Sin embargo, no parece que los desarrolladores de Open AI han tomado muy en cuenta las buenas intenciones de su criatura, ya que Chat GPT-4, la última versión de Chat GPT, continúa “alucinando”. Eso sí, en menor medida que su versión anterior. Algo es algo.

En cualquier caso, si la lías usando como cierta la información que te proporciona Chat GPT, no creas que vas a poder pedirle responsabilidades. En la parte inferior de la caja de texto, tiene fijado un mensaje de advertencia en el que ya te indica que no es de fiar. Estás avisada.