Natalia Zuazo: «La IA debe garantizar todos los derechos del usuario en internet»

«La moderación de contenidos tiene que ver estrechamente con los derechos de las personas. Actualmente, hay una serie de problemas en las redes sociales y demás plataformas que suponen ciertos peligros en la vida de la gente y que hay que solucionar. Por ejemplo, la propagación de bulos o el acceso a pornografía», explica Zuazo en su ponencia en #TAIGranada22.

Se trata de problemáticas presentes en internet y que pueden condicionar los hábitos de los usuarios en la vida real. Por ello, la asesora propone la utilización de la inteligencia artificial como solución. «Gracias a esta tecnología, cuando un contenido incumple las condiciones de uso de la plataforma, el propio soporte puede reducir su alcance de manera automática de cara a la audiencia. Esto fomenta la protección del usuario», añade.

Sin embargo, también pueden darse casos donde la libertad de expresión quede en entredicho. Por ejemplo, Zuazo cita situaciones donde las publicaciones en redes sociales son eliminadas por la propia plataforma al mostrar unos pechos femeninos en la imagen. «Existen unas reglas de moderación que penalizan ciertas publicaciones. Varias usuarias han denunciado cómo su mensaje ha quedado borrado de la red sin dejar rastro», cuenta. Por otro lado, aquellas publicaciones que incluyen el pecho masculino perduran en internet. «La moderación sí tiene en cuenta este contenido dentro de su algoritmo moderador. ¿Hasta qué punto esto es legal?».

La asesora de tecnología e inteligencia artificial en la UNESCO para Sudamérica y el Caribe hace hincapié en la necesidad de establecer una regulación acorde a las necesidades del usuario en la red. «Es necesario democratizar el proceso de moderación de contenidos. Hay que abrir esta tarea a más actores» con el objetivo de que una amplia representación de la audiencia de las plataformas digitales quede bajo el amparo de estas normas.

Zuazo concluye con que «no se trata de legislar por legislar a causa de la inteligencia artificial, sino que la clave está permitir que las personas gocen de sus derechos humanos de manera plena en internet sin obstaculizar el desarrollo de esta tecnología a nivel privado». Con diálogo y consenso.