IA, ¿un riesgo para la democracia?

Las nuevas tecnologías amenazan a la democracia por la puerta principal -censura, vigilancia, manipulación electoral directa-, pero lo que se avecina podría ser aún más preocupante por su sutilidad. La inteligencia artificial (IA) generativa empieza a ser vista como un elemento que configurará desde cero a la humanidad, desde generar valor y todo lo que implica en el reacomodo económico hasta cómo se compite, accede y mantiene el poder. 

No ataca el voto, pero sí ataca la infraestructura informativa que hace posible que el voto signifique algo, los canales por los que un sistema político sabe qué quiere su gente, comprueba qué hicieron sus representantes y decide en quién confiar. Ese es el argumento de Sarah Kreps y Doug Kriner en su artículo en la edición reciente del Journal of Democracy en el que plantean que la IA generativa amenaza la arquitectura de retroalimentación de la que depende toda democracia representativa.

Conviene tomar en serio la escala antes que el contenido. ChatGPT llegó a cien millones de usuarios en un mes; la velocidad determina si las instituciones o los ciudadanos tienen tiempo de adaptarse, asimilar o quedar expuestos. El problema no es el deepfake viral, sino la herramienta barata que cualquiera puede usar para producir, a escala industrial, la apariencia de participación ciudadana.

El primer frente es la representación. La democracia exige que los representantes sepan cuáles son las preferencias de su electorado, y uno de los canales que habían estado funcionando para ello eran los mails para estar en contacto con los legisladores. Sin embargo, Kreps y Kriner pusieron a prueba ese canal y -en el contexto estadounidense- enviaron 35 mil correos, entre los hechos por humanos y generados con ChatGPT-3 a 7 mil 200 legisladores estatales. Lo que observaron fue que la respuesta a los correos de IA fue estadísticamente indistinguible de la respuesta a los humanos. 

La implicación, sostienen, es que cualquier actor con acceso a un modelo de lenguaje puede fabricar diez mil voces para posicionarse sobre un tema y posiblemente nadie lo notaría. Esto se puede trasladar a definiciones sobre aspectos públicos como contaminación, salud o telecomunicaciones, las cuales se justifican apelando a la participación ciudadana.

En 2017, por ejemplo, ocho millones de comentarios falsos inundaron a la Comisión Federal de Comunicaciones en el debate sobre neutralidad de la red; se detectó la operación sólo porque los textos eran casi idénticos, torpeza que la IA actual ya no comete. El resultado es un sistema de supuesta retroalimentación saturable artificialmente y con ello manipulable. 

El segundo frente, refieren, es la rendición de cuentas. Es decir, las elecciones funcionan como mecanismo de control sólo si los votantes evalúan, con información confiable, lo que hicieron sus gobernantes. 

Kreps y Kriner comparan la interferencia rusa de 2016 -limitada por errores gramaticales detectables en textos de operadores no nativos- con el escenario actual en el que la IA produce prosa fluida e indistinguible, combinada con microsegmentación.  

La consecuencia no es sólo más desinformación, sino desinformación dirigida con precisión a las dudas específicas de cada votante, lo que erosiona la idea de que las elecciones reflejan un juicio informado.

El tercer frente, y el más corrosivo, es la confianza. Aquí el argumento se vuelve contraintuitivo. La evidencia citada por los autores indica que la persuasión política sigue siendo difícil, ya que la gente no cambia de bando fácilmente, ni ante propaganda generada por IA tan creíble, en pruebas controladas, como la escrita por humanos. 

El daño no se centra específicamente por la conversión ideológica, sino por saturación. Cuando ningún contenido puede verificarse con certeza, la respuesta racional -y también la más destructiva- es dejar de confiar en cualquier contenido. 

Esa desconfianza sólo fortalece la polarización a través de emociones como la ira y el miedo ante la imposibilidad de verificar la realidad.

Frente a un diagnóstico tan duro, las soluciones del artículo resultan modestas: detección algorítmica del texto generado por IA, autorregulación voluntaria de las plataformas, alfabetización digital. Tareas que ya se están implementando e impulsando. 

Si bien el artículo no resuelve la tensión entre el tamaño del problema y la escala de las soluciones, el retrato de esa asimetría es su conclusión más honesta: el desgaste institucional ya está en marcha, y todavía no existe una respuesta a su altura.