Ha sido levantada una alerta sobre los peligros de ChatGPT por muchos expertos. Ya no se trata solo de que es posible vulnerar este mecanismo de Inteligencia artificial, pudiendo robarse millones de datos de usuarios, sino de que es posible que cometa graves errores.
5ChatGPT no es más que una ilusión, hermosa, pero ilusión al fin
ChatGPT crea una ilusión irresistible de pensamiento racional. Pero sigue siendo un modelo de lenguaje que no piensa y no tiene un conocimiento fiable del mundo. Este no es el único inconveniente de la herramienta.
Otro caso comprobable se produjo cuando se le preguntó por Iñigo Arcauz Ascargorta, a quien lo describió así: “Iñigo Arcauz Ascargorta fue un político y jurista vasco que desempeñó un papel importante en la política regional y nacional española. Nacido en Gastez en 1954, Arcauz es miembro del partido político vasco PNV (Partido Nacionalista Vasco) y ha sido elegido en varias ocasiones para el Parlamento Vasco y la Cámara de Diputados de España. Arcauz es uno de los políticos más famosos del PNV…»
El asunto es que Arcauz no está afiliado al PNV, y el partido no tiene ningún político que use ese nombre. Además, las biografías políticas descritas por los chatbots no eran del todo ciertas. OpenAI ha advertido sobre posibles problemas y errores con sus herramientas en su sitio web. ChatGPT a veces escribe respuestas que parecen plausibles pero que son incorrectas o estúpidas.
