Han transcurrido aproximadamente treinta días desde que Sora, el último modelo de inteligencia artificial desarrollado por OpenAI, hizo su debut en la escena pública. A diferencia de sus predecesores, como ChatGPT o DALL-E, conocidos por generar texto e imágenes respectivamente a partir de instrucciones escritas, Sora lleva las capacidades de generación de contenido un paso más allá al ofrecer la posibilidad de crear videos en cuestión de segundos. Este avance ha avivado un debate cada vez más candente desde su presentación: ¿es seguro lanzar una herramienta de este tipo?
1El problemón con los desnudos de la revolucionaria nueva IA de vídeo de ChatGPT
Mira Muratti, Directora de Tecnología de OpenAI, abordó recientemente la controversia sobre la posibilidad de que Sora pueda generar contenido explícito, incluyendo desnudos y escenas de naturaleza sexual. En una entrevista reciente con el portal Gizmodo, Muratti reconoció que, en la actualidad, no se puede descartar completamente la posibilidad de que Sora produzca este tipo de contenido dentro de los límites de sus creaciones.
Es importante recordar que tanto OpenAI como otras empresas líderes en inteligencia artificial, como Google y Microsoft, han establecido restricciones sobre el uso de sus tecnologías para evitar la generación de contenido inapropiado. Sin embargo, Muratti señaló que están colaborando con artistas y creadores de contenido de diversos campos para determinar qué tipos de contenido son útiles y cuál debería ser el grado de flexibilidad de la herramienta. Por otro lado, instituciones como el AI Policy Institute (AIPI), fundado por Daniel Colson, han destacado que, ya sea para bien o para mal, es probable que una gran parte de la demanda de contenido generado por IA esté relacionada con material pornográfico.
Por lo tanto, si Sora llega a permitir la generación de contenido con desnudos, los expertos advierten que nos enfrentamos a un escenario extremadamente preocupante y potencialmente peligroso. Lamentablemente, las capacidades de Sora brindan a los usuarios la capacidad de crear cualquier escena que puedan imaginar, siempre y cuando puedan describirla adecuadamente. Como resultado, organizaciones como la AIPI han expresado su inquietud por el aumento de los deepfakes, la suplantación de identidad, la extorsión sexual y otros escenarios alarmantes que podrían surgir a raíz de las posibles creaciones realizadas con Sora.
