Los retos y amenazas para la democracia de la inteligencia artificial

Mientras escribo estas líneas está teniendo lugar el acto de investidura de Donald Trump en Washington. Como ya hemos podido comprobar, va a iniciar su segundo mandato con la adhesión absoluta de todos los grandes señores digitales, es decir, los dueños de las grandes plataformas tecnológicas que, para bien o para mal, se han convertido en elementos esenciales en nuestras vidas. Al indiscutible protagonismo que va a tener Elon Musk (Tesla, SpaceX y X, anteriormente conocida como Twitter) en el nuevo gobierno, se le suman los apoyos de gente como Sundar Pichai (Google), Jeff Bezos (Amazon), Sam Altman (OpenAI) o Mark Zuckerberg, quien como un gesto para congraciarse con el nuevo presidente ha suprimido en Facebook su sistema de verificación de datos por terceros, sustituyéndolo por notas de la comunidad como en la red X (por lo menos en Estados Unidos). Se ha extendido un miedo generalizado a que a partir de ahora estas grandes empresas tengan todavía más capacidad de control sobre las personas de la que han tenido hasta ahora, y más libertad para hacer lo que les venga en gana sin responder ante nadie.

Existe consenso sobre el hecho de que la digitalización, y en especial la inteligencia artificial, van a modelar el futuro de la humanidad y a transformar la idea de democracia que hemos tenido hasta ahora. Esto es algo que analiza un reciente informe de UNESCO que, dirigido por el filósofo Daniel Innerarity, ha estudiado cómo la digitalización reforma los procesos colectivos de toma de decisiones e influye en la acción ciudadana (Artificial intelligence and democracy).

El trabajo plantea que la proliferación a través de medios digitales de la  desinformación, los bulos y los discursos de odio está dañando profundamente la esfera pública, que constituye un elemento esencial para garantizar la buena salud de las democracias. Y ésta reside en una ciudadanía bien informada y progresa con el diálogo activo que busque espacios de encuentro entre los puntos de vista divergentes. Sin embargo, la utilización de algoritmos que generan y difunden la información a través de plataformas digitales, tanto con fines comerciales como ideológicos, contribuye a generar discursos de odio y desinformación que lo que consiguen es aislar al ciudadano en cámaras estancas de opinión, donde no tiene acceso a otras perspectivas de la realidad, y en las que no existe un espacio para el intercambio de ideas distintas, impidiendo el desarrollo del pensamiento crítico. En este sentido, un reciente artículo publicado en El País hablaba de un estudio que demuestra que la gente mayor elige la información dudosa, no por falta de habilidades digitales, sino porque confirma su ideología. De alguna forma, todos inconscientemente nos inclinamos a aislarnos con las noticias de opinión que refuerzan nuestros principios y puntos de vista.

A diferencia de lo que comúnmente se piensa, la tecnología no es neutral y refleja los valores de sus desarrolladores. Así, la inteligencia artificial tiene un inmenso potencial para impulsar la transparencia en las instituciones públicas y para garantizar un amplio espectro de participación ciudadana que enriquezca el proceso democrático, pero también puede ser concebida para propósitos maliciosos, como la manipulación de la opinión pública. Ya desde la década pasada hemos podido comprobar su capacidad para dirigir mensajes individualizados a colectivos específicos e incluso a ciudadanos concretos, y ya estamos familiarizados con la publicidad dirigida -esos anuncios que nos aparecen recurrentemente tras haber realizado una búsqueda online de un producto o servicio-, y también hemos podido comprobar cómo estos algoritmos pueden ayudar a manipular la opinión del público, como ocurrió en el escándalo de Cambridge Analytica.

Vivimos en la economía del dato, pero el dato no es políticamente neutral, pues su recolección y análisis se basan en decisiones específicas. A medida que las decisiones políticas reposen más en el big data, más relevante resulta monitorizar con precisión las posibles razones ocultas que guían la selección de datos o los  sesgos que manifiesta, pues pueden generar sesgos en la forma en que los algoritmos de inteligencia artificial ejecutan sus dictámenes. El tipo de información disponible establece los problemas que debe enfrentar un gobierno y el modo de hacerlo. Unos datos sesgados intencionadamente pueden condicionar el funcionamiento de la Administración. Como nos recuerda Innerarity en el informe, en gran medida la gobernanza se está convirtiendo en algorítmica, y cada vez lo será más, de forma que la inteligencia artificial progresivamente automatiza una mayor proporción de la toma de decisiones gubernamental. La gobernanza algorítmica presenta no pocos retos para el sistema democrático, principalmente la identificación de aquellas cuestiones susceptibles de ser automatizadas sin comprometer los valores democráticos, y las condiciones para garantizar esa compatibilidad.