Ha sido levantada una alerta sobre los peligros de ChatGPT por muchos expertos. Ya no se trata solo de que es posible vulnerar este mecanismo de Inteligencia artificial, pudiendo robarse millones de datos de usuarios, sino de que es posible que cometa graves errores.
6Algo que todavía no se puede resolver
Resolver este problema es difícil porque actualmente no hay una fuente de verdad durante la programación; entrenar al modelo para que esté más atento hace que rechace las preguntas que puede responder correctamente; el entrenamiento supervisado engaña al modelo porque la respuesta ideal depende de lo que sabe el modelo, no de lo que la gente demuestra saber.
