«Los productos de Inteligencia Artificial vendrán con un prospecto, como las medicinas»

El sol asoma por la avenida del Conocimiento. Natalia Díaz Rodríguez (Granada, 1986) cruza el puente que da entrada al edificio UGR AI –el viejo Bioregión– hasta encontrar la sombra que proyecta la fachada, bajo unas enormes letras grises que dicen inteligencia artificial (IA). Natalia lleva once años cruzando de un lugar a otro, trabajando en algunas de las instituciones más punteras del mundo: Nokia Foundation, Sillicon Valley, CERN, Phillips Reasearch de Santa Cruz... «De San Francisco, donde trabajé en una empresa que se conoce como el Netflix de la moda, volví a Europa. Encontré una oportunidad en París, en la Escuela Nacional Superior de Técnicas Avanzadas, dentro del Instituto Politécnico».

Tras pasar cuatro años en la capital gala, el año pasado regresó con una beca de investigación al Departamento de Ciencias de la Computación e Inteligencia Artificial de la Universidad de Granada, da clase de Fundamentos de la Programación en la Facultad y continúa su investigación en el campo de la IA, donde es una eminencia internacional. Ella es uno de los referentes en la materia y ha trabajado en la candidatura a la agencia de IA junto a Francisco Herrera; ahora en vías de impugnación. «Granada brilla por mucho más que el turismo –explica–. Aquí hay mucho talento y conseguir la candidatura sería una palanca de empuje a todos los sectores».

–Hablan de usted como una de las mayores expertas en IA.

–(Ríe) Cambia tanto la ciencia cada día que prefiero decir que sigo aprendiendo. Supongo que sí soy de las primeras que estudia la IA Responsable, que es mi tema, un tema muy en boga, muy necesario, un tema que avanza tanto y tan rápido que no te permite relajarte ni un segundo.

–¿Qué es la IA Responsable?

–Es un nuevo enfoque de estudio que intenta asegurarse de que la IA no va a tener consecuencias perjudiciales para los humanos: crear sesgo, acentuar diferencias, discriminar... Como los sistemas de IA aprenden de datos y los humanos somos el ser más sesgado de la creación, es inevitable que aprendan de nosotros y de nuestros errores. La idea es conseguir que sea una IA inclusiva.

–¿Se puede enseñar a una máquina a no cometer errores?

–Podemos enseñarles igual que lo hacemos con los niños o con animales, procesando tanta información como nosotros. La esperanza es conseguir una IA que sea responsable y ética desde el punto de vista más humano, desde la benevolencia. Muchas veces digo que la IA haría las cosas mejores que los humanos en ciertos casos...

–¿Podrá un robot enseñarnos lo que está bien y lo que está mal?

–Estaría muy bien que los agentes artificiales fueran imparciales, sin sesgo y que pudieran decir que hay una verdad universal. Pero eso no existe. Es como el caso de los coches automáticos: hay un accidente y el vehículo va a atropellar a alguien, pero puede elegir entre tres personas mayores o un menor. ¿A quién elige? Nadie lo tiene claro, pero podemos tener el objetivo de ser lo más justos y éticos posibles.

El pasado mes de junio, Díaz recibió el premio Andalucía de Futuro en la categoría de ciencia, por su trayectoria profesional tan apasionante como innovadora. En los últimos años, ha intentado enseñar a un robot a pulsar un botón, «algo terriblemente complicado», asegura. Para enseñar a estos robots o agentes artificiales a aprender algo, lo que sea, se usan toneladas de datos. Por ejemplo: se le muestran millones de ojos para que, llegado el momento, el agente sea capaz de señalar qué es un ojo en una fotografía. Díaz acaba de empezar un proyecto para traducir la lengua de signos española de manera automática. «Las personas con necesidades especiales son los que más se pueden beneficiar de la IA».

–¿Algún caso concreto de uso?

–He trabajado con médicos o, últimamente, con historiadores de arte para Monumai, un sistema capaz de identificar un estilo arquitectónico con una imagen. A mí lo que me interesa no es solo que el sistema clasifique bien una fachada gótica, si no que nos diga debido a qué elementos sabe que es gótica. Porque lo mismo ha acertado porque hay una farola francesa detrás o por el marco de la foto o por lo que sea... Si eso coincide con que acierta, va a aprender ese atajo y nos va a traicionar en casos críticos que no podemos controlar. Eso me interesa: romper el sistema y ver de qué carece para arreglarlo.

–Ahora hay un sistema que dibuja lo que le pides...

–Es muy novedoso. Le dices pinta un perro verde volando y lo hace... Se predice que con la IA van a desaparecer 85.000 tipos de trabajo, pero la buena noticia es que se van a crear 97.000.

–Pero ¿desaparece el artista?

–No creo que eso se pierda nunca. Los expertos nunca dejarán de ser necesarios. Es cierto que unos serán más necesarios que otros y requerirán que todos nos adaptemos a nuevas tareas. La sociedad debe familiarizarse y entender qué es la IA. Tiene que dejar de verse como algo mágico, como un dios de una película de ciencia ficción. Para los coches autónomos nos queda tiempo, pero el tema de transparencia y explicabilidad es ya una realidad. El reglamento que está a punto de salir, en un año o dos, va a hacer que cada producto de IA que usemos venga con un prospecto, como las medicinas: efectos secundarios, indicaciones, para qué ha sido diseñada, quién la puede usar, bajo qué circunstancias... Todo va a tener una explicación clara, concisa, completa, correcta, pertinente, accesible y comprensible. Para que si alguien tiene que tomar control sobre el sistema pueda actuar acordemente, pueda decidir cuándo es necesario apagarlo o corregirlo o informar a las autoridades de que necesita una nueva evaluación.

• Temas
• Inteligencia artificial