El reto de incorporar la Inteligencia Artificial a la defensa de España

Y es que, tal y como ha referido Enseñat, el Ejército de Tierra (ET) está inmerso hoy día en un proceso de transformación que le permita hacer frente a los escenarios futuros de batalla, donde la digitalización se convertirá en factor clave para la obtención de capacidades tanto de los mandos como de los soldados. Disponer de tecnologías de automatización será fundamental para mantener las capacidades de disuasión y respuesta que garanticen la supervivencia de la nación ante amenazas presentes y futuras, ha considerado.

Según ha señalado Enseñat, el ET, consciente de que las nuevas tecnologías conllevarán la incorporación de la IA, precisa integrarlas y, al mismo tiempo, aplicarlas con responsabilidad moral, ética y transparencia, y que cumplan con las leyes. En este sentido, apuntó que la «IA afecta a toda la sociedad, también al ámbito militar, lo que a buen seguro requerirá una renovación del derecho internacional». Y confió en que estas jornadas supongan un ladrillo de un edificio que hemos de construir entre todos. «La Universidad de Granada, con la que el Mando de Adiestramiento y Doctrina (Madoc) mantiene un centro mixto y colabora en el desarrollo de actividades de gestión del conocimiento, está desempeñando un papel principal», ha significado Enseñat.

Por su parte, Pilar Aranda ha reseñado que la UGR «está trajabando en el desarrollo de todo lo que pueda aportar la IA a la sociedad». A ello hay que sumar, la implicación en proyectos junto al sector empresarial para la transferencia del conocimiento, y la relevancia internacional que tiene la propia UGR en todo lo referente a la IA, con los catedráticos Enrique y Francisco Herrera como grandes referentes. Avales que, a juicio de Aranda, sitúan a Granada como la gran candidata a albergar el centro de referencia sobre IA en España.

El director del Centro de Sistemas y Tecnologías de la Información y las Comunicaciones del Ministerio de Defensa, José María Millán, ha sido el encargado de pronunciar la ponencia matutina. Millán ha subrayado la importancia de discernir qué es virtual y qué real, y ha advertido sobre los riesgos de ese pensamiento, cada vez más extendido, que asimila lo digital con un poder ilimitado.

Cambios de paradigmas que se están produciendo a gran velocidad y que afectan a las Fuerzas Armadas, integradas por personas cuya capacitación y actuación se basa en la aplicación de valores éticos, ha señalado. «Pronto será imposible encontrar un mando de combate que no esté determinado por la IA», ha afirmado José María Millán. «¿Puede aplicarse a una máquina un código de comportamiento?», se ha preguntado. «La ética no prescribe la acción, pero orienta la respuesta», ha contestado.

En la primera de las mesas de diálogo, moderada por la periodista de TVE Marisa Rodríguez, presentadora del programa Informe Semanal, se ha valorado el impacto de la IA sobre el empleo. El subdirector del Centro Criptológico Nacional, Luis Jiménez, ha indicado que estamos viviendo un momento disruptivo, al igual que en su día sucedió, por ejemplo, con la revolución industrial. Por ello, ha abogado por abordar la IA de la manera más provechosa para la generación de empleos especializados en campos como la programación o el 'big data'. Respecto a los aspectos en que la IA aún se halla lejos de la inteligencia humana, Luis Jiménez ha apuntado tres: la empatía, la creatividad y el razonamiento.

Francisco Herrera, director del Instituto Universitario Andaluz Universitario en Data Science and Computational Intelligence, ha contextualizado la IA desde su aparición en los años cincuenta del siglo pasado hasta la actualidad. Incialmente para el desarrollo de artefactos inteligentes, como puede ser una aspiradora, y en los últimos treinta años abordando problemas y ofreciendo soluciones. Herrera ha apuntado dos histos. El primero en 1996, cuando un ordenador ganó una partida de ajedrez al campeonísimo Kasparov, y la segunda, con las primeras pruebas exitosas de los coches que funcionaban sin conductor. «Ahora vivimos en la era del 'big data' y la eclosión de aplicaciones que han entrado en nuestras vidas de manera silenciosa», ha indicado Herrera.

Herrera ha comentado que uno de los primeros retos es la asunción, desde el punto de vista de la empleabilidad, que la economía digital, que ahora mismo supone el 22% del PIB, representará el 40% a la vuelta de cinco años. Y ha apuntado otros tres retos: la explicabilidad de la IA, la creación de datos sintéticos para desarrollar la IA en campos donde no está tan evolucionada y la adaptación de los algoritmos a la resolución de problemas.

Joaquín Catalá, jefe de la Unidad de Proyectos Tecnológicos de la Dirección General de Armamento y Material del Ministerio de Defensa, ha manifestado que la implementación de la IA se está orientando ahora al mantenimiento predictivo de los equipos y las plataformas. Y ha agregado que buena parte del trabajo se está centrando en comprobar hasta qué punto la tecnología basada en IA permite al Ministerio «lograr sus fines de una manera eficiente». Donde la IA está resultando más efectiva en estos momentos es en la generación y gestión de imágenes, ha agregado Catalá.

Sergio de los Santos, director del Área de Innovación y Laboratorio de Telefónica Tech, ha comentado que la IA debe de estar acompañada del desarrollo de otras tecnologías para que sea realmente efectiva. Concretamente ha hablado de la mejora de la capacidad de computación de datos, la expansión del 5G por todo el territorio y los avances en ciberseguridad. Sergio de los Santos ha dicho que los sistemas de IA se están aplicando de forma prioritaria en los ámbitos de la privacidad de los datos, el incremento de los estándares de seguridad y el márquetin aplicado a maximizar ventas. Respecto a los perfiles profesionales, De los Santos ha resaltado la figura del 'ojo experto'.

Después del almuerzo habrá un segundo panel titulado 'Retos éticos y jurídicos de la IA' donde intervendrá, entre otros, el segundo jefe del Cuerpo de Reacción Rápida de la OTAN en España. Por último, a las cinco y media de la tarde se conocerán las conclusiones.

El segundo de los paneles de expertos ha versado sobre 'Los retos éticos y jurídicos de la IA' y ha estado moderado por el subdirector de IDEAL, Quico Chirino. El juez Alfonso Peralta ha planteado que la nueva Ley Europea de Inteligencia Artificial obligará a la actualización de la legislación nacional en campos como daños causados por robots, publicidad y prohibición de manipulación subliminal o propiedad intelectual. En cuanto a sistemas policiales predictivos, también habrá que poner al día temas como la búsqueda entrecruzada de datos para detectar conexiones ocultas.

Paralta ha analizado la propuesta del reglamento de la Ley Europea de Inteligencia Artificial que establece, por ejemplo, usos prohibidos para la IA y determinadas aplicaciones consideradas de alto riesgo que deben ser sometidas a controles redundantes. En el caso de estas segundas, cabe destacar la identificación biométrica en tiempo real, el acceso a la educación o la formación profesional o los sistemas de contratación y selección. «Debemos saber -ha concluido Peralta- que la IA es principalmente una herramienta que nos permitirá ventajas, pero que también existen riesgos de sesgo, discriminación y fallos que pueden afectar a derechos fundamentales».

El segundo jefe del Cuerpo de Reacción Rápida de la OTAN en España, Joao Boga, ha comentado que el actual entorno estratégico y operativo acrecienta la tendencia al uso de la IA «y sistemas cada vez más autónomos en las operaciones» que se organizan en cuatro grandes grupos donde los aspectos éticos y legales están más presentes. De forma más intensa en el mando de control, información y armas, y en menor medida en la gestión de los recursos. Esta mayor autonomía conlleva, a su vez, retos relacionados con la fiabilidad, la simplicidad, la variabilidad y la paroja entre oportunidad y vulnerabilidad.

Francisco Muñoz, presidente del Consejo Social de la Universidad de Córdoba y reconocido jurista, ha iniciado su intervención reflexionando sobre la IA como la «tecnología basada en la computación que extediende las capacidades humanas» y sobre lo cibernético asociado a la gobernanza. Un exordio que le ha llevado a afirmar que la «IA debe tener el factor de gobierno, nada debe escapar a la supervisión humana porque la responsabilidad perdería toda su eficacia». Muñoz ha defendido la eficacia del binomio 'hombre máquina'. Y ha subrayado la importancia del capital humano en las fuerzas armadas. «Hay conceptos, como la regla del enfrentamiento o la necesidad de evitar los daños colaterales, que no pueden escapar al control de los humanos», ha finalizado.

José Carlos de la Fuente, presidente de la Sección de Prospectiva de la Tecnología Militar de la Academia de las Ciencias y de las Artes Militares, ha acudido a los orígenes de las primeras innovaciones para sustentar su argumentario. «La tecnología surge cuando el hombre se da cuenta de que es débil y que los demás animales pueden acabar con él». Un 'juego' cuyas reglas se pueden romper por la IA, que también amenaza otras reglas, las de la vida. De la Fuente ha subrayado el papel primordial de la universidad en la gestación del conocimiento más allá de los resultados inmediatos que piden las grandes empresas. También ha recalcado que la IA está presente en todos los ámbitos sociales, pero que la última responsabilidad siempre debe ser de los seres humanos.