La entrada al mercado de ChatGPT3 —a finales de 2022— no sólo dominó la cobertura de noticias por meses, también obligó al público a repensar a la sociedad y la forma en la que ésta se relaciona con la tecnología. Sin embargo, las diferentes aplicaciones de IA llevan más de 50 años en desarrollo y los Modelos de Lenguaje Grandes (LLM), así como la IA generativa, son solo algunas de muchas iteraciones de esta tecnología. Entonces ¿qué hay de nuevo bajo el sol?

           La tecnología es una parte intrínseca de la vida cotidiana a nivel mundial. No obstante, ante recientes desarrollos, una gran variedad de actividades humanas —artísticas, administrativas, manuales, entre otras— se enfrentan a un proceso de transformación y automatización que obligan al replanteamiento de diversos paradigmas antes pensados inamovibles. Esto ocurre también en relación con los procesos e instituciones democráticas en México y en el mundo. La IA cambia la relación entre las personas y la información y facilita la elaboración de actividades relacionadas con elecciones y democracia.

           La gobernanza de la IA, particularmente en temas sensibles como libertad de expresión y manejo de información, requiere enfrentarse a un fenómeno propio de las innovaciones de frontera: la incertidumbre. Los tomadores de decisiones tienen el reto de actuar en un ambiente de información en evolución y de forma incompleta. Todavía hay factores desconocidos sobre la IA, como sus capacidades y sus limitaciones.

           Las nuevas tecnologías significan una herramienta para el despliegue de campañas políticas y difusión de mensajes. Por un lado, la producción de información falsa por sistemas de IA representa un grave peligro a los procesos democráticos y electorales. Por el otro, estas innovaciones tienen el potencial de acercar a los tomadores de decisiones a la población, ayudarlos a entender de manera más cercana los intereses de sus ciudadanos y pueden ser un poderoso instrumento para candidatos independientes y partidos pequeños, los cuales carecen de recursos tradicionales para llevar a cabo campañas de alto impacto.

Cambridge Analytica: ¿Caso de uso o advertencia?

Uno de los episodios más notorios de las elecciones presidenciales de 2016 en Estados Unidos estuvo relacionado con la empresa Cambridge Analytica y su estrecha vinculación con la campaña presidencial de Donald Trump. El escándalo se originó en la obtención, por parte de Cambridge Analytica, de datos personales de usuarios de Facebook, los cuales fueron utilizados para crear una estrategia de marketing altamente específica, dirigida hacia perfiles de votantes que se consideraban especialmente receptivos a los mensajes de la campaña. La estrategia consistió en la segmentación detallada de la audiencia, utilizando información individual como gustos, intereses, temores y preocupaciones personales, para personalizar mensajes políticos de manera efectiva.

Este episodio planteó importantes cuestionamientos sobre la privacidad y la ética en el uso de datos personales con fines políticos. Además, subrayó el impacto de las nuevas tecnologías y la analítica de datos en la política. El error, de acuerdo al ámbito político y legal, recayó en la manera en la que se obtuvo esta información, no necesariamente en lo que se hizo con ella.

Nuevas tecnologías relacionadas con la IA y el Machine Learning (ML) han evolucionado significativamente los modelos de recomendación, es decir, los sistemas que procesan información sobre preferencias y tendencias de un usuario y generan opciones de acuerdo al perfil generado. A esto hay que sumar la capacidad de la IA de generar contenido falso, incuyendo discursos o comunicados de personajes públicos, lo cual nos lleva a la discusión de IA en la democracia más allá de la protección de la privacidad de datos de los individuos y hacia la formulación de medidas para prevenir la contaminación de procesos electorales con información adulterada. Sin embargo, cualquier esfuerzo de regulación impuesta a este sector tiene que considerar los beneficios presentados por estas tecnologías, como el acceso a las opiniones de la población sobre temas específicos y la capacidad de poder interpretarlos para producir propuestas acordes. Empleados de una manera responsable, los mecanismos de análisis de datos impulsados por IA pueden ser herramientas clave para mejorar los sistemas democráticos y vincular la opinión pública con la toma de decisiones de una manera informada.

El caso de Cambridge Analytica resulta un parteaguas que el potencial y las amenazas asociadas con el uso de la IA. Nuevas aplicaciones —como ChatGPT de OpenAI y Bard de Google— ya tienen el nivel de sofisticación para ir más allá de lo ocurrido en 2016 y ya se hallan en uso en distintos niveles en todo el mundo, desempeñando un papel cada vez más prominente en la concepción de estrategias políticas. Un candidato, movimiento o partido político que opte por incorporar este tipo de sistemas en la planificación de sus campañas podría obtener una ventaja considerable sobre su oponente, especialmente si este último decide abstenerse, ya sea por razones técnicas o éticas, de emplearlos.

IA y los procesos democráticos: la otra cara de la moneda

La cobertura de los medios sobre IA en la democracia tiende a centrarse en su potencial de generar información falsa y establecer campañas altamente dirigidas a través del uso de datos privados y sistemas de recomendaciones. Sin embargo, existen aplicaciones de IA en democracia que suelen pasar desapercibidas, como las que están relacionadas con sistemas administrativos y de gestión de información que brindan respaldo a las campañas políticas y a los esfuerzos de participación ciudadana.

Hasta la fecha, se han utilizado diversos sistemas de IA para mejorar la creación de estrategias de mercadotecnia, establecer planes de crecimiento empresarial y, en algunos casos, actuar como asistentes en tiempo real en contextos educativos. La incorporación de la IA en los procesos electorales tiene el potencial de representar un hito significativo en la evolución de la democracia, comparado en importancia con la introducción de los debates y las entrevistas televisadas en la segunda mitad del siglo XX. Esta tendencia adquiere una relevancia especial en el caso de los partidos políticos pequeños, movimientos locales y campañas independientes, que a menudo carecen de los extensos equipos de estrategas, expertos en marketing, administradores y analistas que suelen estar a disposición de los partidos establecidos. Desde esta perspectiva, la IA se posiciona como un factor nivelador en el panorama político.

No obstante, es fundamental destacar que los candidatos y partidos políticos no siempre poseen el conocimiento necesario para identificar estas herramientas o utilizarlas de manera efectiva y ética. Este desafío puede dar lugar a obstáculos y altas barreras de entrada que limitan la difusión equitativa de las tecnologías entre los diferentes actores políticos.

La IA puede también fortalecer los procesos democráticos, al mejorar la participación ciudadana y la toma de decisiones políticas. Por ejemplo, sistemas de IA pueden ser implementados para facilitar la votación en línea y la inscripción electoral, haciendo que los procesos electorales sean más accesibles y eficientes, o ayudar en la identificación y resolución de problemas públicos, al analizar datos en tiempo real sobre temas como la salud, la educación y la seguridad, y proporcionando información valiosa a los responsables de la formulación de políticas y a los ciudadanos.

           La IA puede, asimismo, incidir en la transparencia y la rendición de cuentas en las estructuras gubernamentales y los sistemas democráticos. En un mundo donde la información es poder, la IA puede ser una herramienta crucial para empoderar a los ciudadanos y garantizar que los líderes políticos y las instituciones sean responsables ante la sociedad. La IA puede facilitar la apertura, al permitir una recopilación y presentación eficiente de datos gubernamentales relevantes, automatizando la generación y publicación de información sobre gastos gubernamentales, políticas públicas y proyectos en curso. Esto no sólo proporciona a los ciudadanos acceso rápido y sencillo a datos cruciales, sino que también reduce la posibilidad de ocultar información o de prácticas opacas.

La rendición de cuentas es otro aspecto crucial. La IA puede ser empleada para monitorear y evaluar el desempeño gubernamental. Los sistemas de IA pueden analizar datos relacionados con la ejecución de políticas públicas, la asignación de recursos y la entrega de servicios gubernamentales, identificando áreas donde se necesitan mejoras. Con esto se fomentaría una mayor responsabilidad en los procesos gubernamentales, lo que fortalece la democracia al garantizar que las acciones de los líderes políticos estén alineadas con el bienestar de la sociedad.

Reflexiones finales

La IA, como tecnología disruptiva, se erige como una fuerza capaz de generar transformaciones significativas de los procesos democráticos, pues su aplicación puede tanto fortalecer como plantear desafíos a la democracia. La incertidumbre en torno a la capacidad actual y futura de estas tecnologías dificulta su gestión y regulación eficaz, especialmente en aquellos países y economías que carecen de sistemas nacionales de innovación plenamente desarrollados y de los vínculos necesarios entre centros de investigación y responsables de la toma de decisiones, elementos cruciales para la creación de instituciones y marcos legislativos adecuados.

Para México, la IA representa uno de los desafíos más trascendentales en su historia democrática. El país se encuentra en una encrucijada, con la oportunidad de aprovechar estas nuevas tecnologías para robustecer sus instituciones democráticas. Esto podría lograrse mediante la implementación de sistemas innovadores de consulta ciudadana, un mayor nivel de transparencia y rendición de cuentas, y la democratización de recursos electorales fundamentales, como las tareas administrativas y la gestión informática. No obstante, el manejo inadecuado de estas tecnologías podría socavar las instituciones y tradiciones democráticas de México, erosionando la confianza de los ciudadanos en los procesos de representación política a través de la propagación de información falsa. En este contexto, la gobernanza efectiva de la IA se convierte en un imperativo para salvaguardar y fortalecer la democracia en el país.