El Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) se encuentra inmerso en un importante proyecto de ciberseguridad enfocado en analizar las vulnerabilidades presentes en sistemas que incorporan Inteligencia Artificial (IA).
El Proyecto ‘Sprint’ y sus objetivos
En el marco del proyecto ‘Sprint’, denominado Seguridad y Privacidad en Sistemas con Inteligencia Artificial, se han investigado las dificultades a las que se enfrentan los desarrolladores de asistentes que hacen uso de la IA, como es el caso de Amazon y Alexa. Las conclusiones de esta investigación serán presentadas en la prestigiosa USENIX Security Symposium, uno de los eventos más relevantes a nivel internacional en el ámbito de la ciberseguridad, que se llevará a cabo del 14 al 16 de agosto de 2024 en Philadelphia, Estados Unidos.
El proyecto ‘Sprint’ cuenta con el respaldo financiero del Instituto Nacional de Ciberseguridad (INCIBE) y se centra en abordar tres principales focos de vulnerabilidad en los sistemas que emplean IA.
Focos de vulnerabilidad en sistemas de IA
- Seguridad y Privacidad de los Datos: Se analiza tanto la seguridad y privacidad de los datos utilizados por los modelos de IA, como las capacidades que estos modelos ofrecen y la posible implicación de datos de terceros.
- Vulnerabilidades del Sistema: Se estudian posibles fallos en el sistema que puedan afectar su correcto funcionamiento, como la presencia de malware.
- Usabilidad de los Sistemas de IA: Se busca hacer que los sistemas basados en IA sean comprensibles tanto para usuarios finales, operadores y desarrolladores, de manera que puedan brindar el contexto necesario para su correcta utilización.
El Dr. José Such, investigador principal de VRAIN y Catedrático de Universidad en la UPV, destaca que «la inteligencia artificial está experimentando un crecimiento y un impacto significativos en la sociedad. Muchos de los sistemas actuales integran algún tipo de IA para ofrecer funcionalidades avanzadas que antes no estaban disponibles».
Beneficios y desafíos de la inteligencia artificial
Such también menciona que el uso generalizado de la IA en los sistemas «proporciona numerosos beneficios en términos de funcionalidad y conveniencia, permitiendo realizar tareas complejas o repetitivas de manera sencilla y rápida».
El desafío de los nuevos vectores de ataque
No obstante, al introducir la IA, también se abren nuevos vectores de ataque, como suele ocurrir con la implementación de nuevas tecnologías. Muchas de las técnicas de IA fueron desarrolladas sin considerar la posibilidad de adversarios que pudieran atacarlas o aprovecharse de ellas al integrarse en sistemas.
Resultados y avances del Proyecto ‘Sprint’
Los resultados obtenidos en el marco de este proyecto permitirán identificar las vulnerabilidades asociadas al uso de IA en los sistemas, así como los mecanismos que pueden implementarse para garantizar la máxima seguridad posible. El proyecto está siendo liderado por el Human-Centred & AI Security, Ethics and Privacy (HASP) Lab de VRAIN de la UPV.
El Proyecto ‘Sprint’, iniciado en noviembre de 2023, se extenderá durante dos años, hasta diciembre de 2025. Esta iniciativa forma parte de un convenio establecido entre INCIBE y la Universitat Politècnica de València, enmarcado en los Proyectos Estratégicos en España, como parte del Plan de Recuperación, Transformación y Resiliencia, con financiación proveniente de los Fondos Next Generation-EU.
Al abordar las vulnerabilidades en los sistemas con IA, el Proyecto ‘Sprint’ no solo contribuirá al avance en ciberseguridad, sino que también sentará las bases para un uso más seguro y efectivo de la inteligencia artificial en diversos ámbitos de la sociedad.
