Tecnologías iatrogénicas

Siempre será más fácil justificar y secundar las decisiones de una máquina, bajo el supuesto de la infalibilidad de la inteligencia artificial, paradigma de la objetividad y de la ausencia de errores, que cuestionar las de una persona. Dudar de la inteligencia humana no es problema, solo hay que echar mano de sus interferencias emocionales, de su subjetividad en el manejo de toda la información relevante o de su voluntad para considerar otras razones que estén fuera del guion marcado. Pero… ¿quién duda de una máquina?

Es posible que no consideremos que, en los árboles de decisión de la inteligencia artificial, se ponderan alternativas meramente condicionales y dualistas. «Si sucede A, entonces haz X», «si sucede B, entonces haz Y»… Obviamente es una simplificación, de la compleja secuencia de órdenes que conforman un algoritmo, para entender cómo una máquina está programada para llegar a la conclusión de que una persona sea despedida o descartada en un proceso de selección, de que un coche autónomo decida atropellar un perro en lugar de a su amo, de que un juez virtual sentencie a una pena mayor o menor a un infractor o que se aplique uno u otro tratamiento en una teleconsulta médica.

Y no olvidemos que la programación de los algoritmos la realizan personas con unos objetivos claros de cómo organizar la entrada de datos (imputs) y cómo analizarlos (procesamiento o cálculo lógico) para llegar a una conclusión (output) que puede condicionar la vida de una persona real, en positivo o en negativo. Tampoco descartemos que se pueda cometer algún error en la secuencia de instrucciones; al fin y al cabo, los programadores son humanos.

Cabría admitir el supuesto de que la tecnología está contribuyendo a reducir ostensiblemente muchas de las ineficiencias que aquejan a la sociedad actual, tanto desde el punto de vista empresarial como de estructuras sociales sí, además de reducir costes y tiempos, optimizar procesos, mejorar y acercar las relaciones interpersonales, ampliar las posibilidades creativas y simplificar las soluciones a muchos problemas (la lista es inabarcable), tuvieran el objetivo de afianzar la conciencia individual como personas y como colectivos. No obstante, pareciera que hay más interés en perfeccionar los sistemas de inteligencia artificial a través del aprendizaje continuo y los modelos de predicción (machine learning), y de la emulación del cerebro humano mediante redes neuronales (deep learning), que en ayudar a las personas para que perfeccionen su propia inteligencia.

Aún no existe unanimidad en la definición de conciencia ni en determinar qué estructuras cerebrales la sustentan, pero da la sensación de que el camino prioritario es dotar a las máquinas de conciencia. Algo que podría suceder cuando se las capacitase para poder enlazarse entre ellas de manera autónoma y, a la vez, se pudieran conectar directamente a nuestros cerebros. Quizá presenciaríamos entonces la aparición de los, en palabras de R. Bartra, exocerebros robóticos capaces de superar su actual unidimensionalidad y de construir redes simbólicas multidimensionales, con una inteligencia general que les permita ser conscientes de su papel y del nuestro.

Esa 'conciencia artificial' aún es ciencia ficción, pero no descartemos que se consiga si tenemos en cuenta cómo los algoritmos ya son los que crean y distribuyen el exceso de información que llega puntualmente a través de diversos canales y que alimenta las redes sociales para influir en las conductas personales y colectivas y extirpar su pensamiento crítico; son también los que 'enganchan' a los usuarios de videojuegos, los que están 'inflando' el mercado de la criptoeconomía, los que ayudan a llenar el carrito de la compra en las plataformas de comercio electrónico, los que nos seducen con mundos virtuales en sustitución de los reales… Un largo etcétera encaminado a que las personas tengan menos capacidad de libre decisión y, ulteriormente, a allanar el camino para que los implantes intracerebrales hagan del ser humano un ente más 'perfecto', como pretenden algunos magnates de la tecnología y como vislumbran los defensores del transhumanismo (R. Kurzweil).

Nos sabemos cuánto tiempo se tardará en trasladar a las máquinas lo que nos define como humanos, pero el viaje ha empezado ya liderado por Facebook, Microsoft, Epic Games y Roblox, y sus propuestas de construir una mejor versión de la realidad: el 'Metaverso'. Espacio donde aprenderemos, colaboraremos, trabajaremos, viajaremos, socializaremos y jugaremos en entornos tridimensionales donde estaremos representados por un avatar. Esto no es nuevo, ya que la tecnología VR y AR ha permitido a diversas aplicaciones de juegos y de trabajo crear avatares con los que cada usuario ha representado su físico. No así ha sucedido con su personalidad, la cual, según un estudio de N. Yee y J. Bailenson, sufre substanciales variaciones dependiendo de cuestiones tan banales como el aparente atractivo, la altura o la indumentaria que elija para el mundo virtual. En función de estos atributos, un individuo puede mostrarse allí más dominante, seguro, seductor, intimidador…, que en el mundo real. Efecto Proteus lo han denominado.

La inteligencia artificial ha aportado importantes soluciones a la ciencia en cualquiera de sus áreas, a la mejora de procesos industriales, mayor eficiencia en la producción, simplificación de tareas, coordinación de diversidad de plataformas técnicas, ampliación de los modelos de ocio, etc., y que ello ha redundado en la mejora de calidad de vida de los ciudadanos. Pero cuando se pretende que la tecnología substituya al ser humano, no solo en la realización de su trabajo, sino que decida por él, asuma responsabilidades que deberían ser indelegables, le evite disquisiciones morales, reduzca su capacidad de búsqueda de alternativas, le ofrezca espacios en los que mostrar un 'yo' diferente (que terminará modificando su 'superyó') y le ofrezca una realidad más cómoda e indolora, hemos de estar alertas porque será una tecnología iatrogénica. Nos proporcionará, a la larga, más perjuicios que beneficios, abriendo una brecha social difícil de superar: a un lado los desarrolladores (y sus empleadores), y al otro el resto de la humanidad aceptando ir poco a poco cayendo en una distopia anunciada y alienadora.