La Universidad de Cádiz analiza los retos jurídicos de la inteligencia artificial en ciberseguridad
Especialistas debaten en el INDESS sobre el uso de la inteligencia artificial en ciberseguridad en la Universidad de Cádiz, en el marco del proyecto de investigación PR2024-040 centrado en la detección y prevención del cibercrimen en Andalucía.
La Universidad de Cádiz ha acogido esta semana una jornada dedicada a los retos jurídicos y organizativos de la inteligencia artificial en ciberseguridad, celebrada en el Salón de Actos del Instituto Universitario de Investigación para el Desarrollo Social Sostenible (INDESS). La actividad se enmarca en el proyecto de investigación PR2024-040, orientado al desarrollo de normativas y herramientas basadas en inteligencia artificial para la detección y prevención de cibercrímenes en Andalucía.
El encuentro reunió a investigadores del Instituto Andaluz Interuniversitario de Criminología para analizar los riesgos y oportunidades que plantea la incorporación de sistemas de inteligencia artificial en el ámbito de la seguridad. La jornada estuvo dirigida por la investigadora principal del proyecto, Mariana Solari Merlo, y contó con la participación de Luis Ruiz Rodríguez, Antonio Díaz Fernández y Manuel Ruiz Morales.
Durante las intervenciones se abordaron tanto experiencias prácticas como líneas de investigación prospectiva relacionadas con el uso de estas tecnologías en procesos de detección y prevención del cibercrimen. Los especialistas coincidieron en que la aplicación de inteligencia artificial en ciberseguridad abre nuevas posibilidades para mejorar la eficacia en la investigación de delitos digitales, aunque también plantea interrogantes legales y organizativos.
Uno de los ejes centrales del debate fue el análisis de los principales riesgos asociados a estos sistemas. Entre ellos, se señaló la vigilancia algorítmica, la opacidad en el funcionamiento de determinados modelos y la posible reproducción de sesgos en los resultados. Según se expuso, estos factores pueden tener un impacto directo en las garantías del debido proceso penal si no se establecen límites claros y mecanismos de control adecuados.
En este contexto, el proyecto PR2024-040 ha permitido identificar desafíos normativos vinculados a la implantación de herramientas automatizadas en tareas de seguridad. Los investigadores subrayaron la necesidad de que el uso de inteligencia artificial en ciberseguridad en la Universidad de Cádiz y en otros entornos institucionales se ajuste a principios jurídicos consolidados, especialmente en lo relativo a la legalidad, la proporcionalidad y la supervisión humana.
Como parte de los resultados del proyecto, el equipo ha desarrollado un marco conceptual destinado a delimitar las condiciones de legitimidad jurídica en la utilización de estas tecnologías. Este planteamiento propone integrar, desde la fase de diseño de los sistemas, garantías como la rendición de cuentas y la posibilidad de revisión por parte de operadores humanos.
La jornada también sirvió para reflexionar sobre el futuro desarrollo normativo en este ámbito, en un contexto marcado por la creciente presencia de herramientas de inteligencia artificial en la gestión pública y en las estrategias de seguridad. Los participantes destacaron que la innovación tecnológica debe avanzar de forma compatible con el respeto a los principios del Estado de Derecho.
El debate se produce en un momento de expansión del uso de tecnologías automatizadas en la investigación de delitos informáticos y en la prevención de amenazas digitales. En este escenario, la comunidad académica desempeña un papel relevante en el análisis de sus implicaciones jurídicas y sociales.
Con esta iniciativa, la Universidad de Cádiz refuerza su línea de investigación en criminología y seguridad, promoviendo espacios de estudio sobre la aplicación de la inteligencia artificial en ciberseguridad y sus efectos en el marco normativo vigente. La jornada concluyó con un intercambio de propuestas sobre posibles líneas de mejora legislativa y organizativa para garantizar un uso responsable de estas herramientas en el ámbito de la seguridad.
