AI Steve es la novedad del superaño electoral. En julio se celebran elecciones en Reino Unido y, a diferencia de las recurrentes (y necesarias) reflexiones sobre tecnología y desinformación, este proceso electoral ha traído una novedad: el primer candidato basado en Inteligencia Artificial (IA).
Su campaña está basada en la promesa de tomar decisiones políticas imparciales y basadas en datos. Pero, ¿realmente sería mejor que una IA maneje las decisiones técnicas complejas? AI Steve procesa información de diversas fuentes, pero: ¿qué pasa si los datos están sesgados o incompletos? ¿Puede realmente una IA comprender las sutilezas y complejidades de la vida humana? Estos son los dilemas que enfrentamos al considerar la integración de IA en la política.
¿Qué es AI Steve?
Conscientemente se ha optado por no usar la pregunta ¿quién es AI Steve? Con el fin de evitar la humanización de los algoritmos, se ha elegido la pregunta ¿qué es AI Steve?Aunque esta propuesta poco convencional tiene detrás al empresario y candidato Steve Endacott, AI Steve es un avatar potenciado por algoritmos.
Sin embargo, fue popularmente presentado como el primer candidato al parlamento británico generado por IA. El avatar promete lo que ningún humano —político o no—podría ofrecer: trabajar las 24 horas del día, los siete días de la semana.
Su campaña está construida sobre la premisa de tomar decisiones imparciales, basadas en datos. La promesa de una revolución sobre cómo se toman las decisiones políticas. Ofrece un representante que escucha y responde directamente a la voluntad popular, procesando abundantes cantidades de información para formular políticas efectivas.
La propuesta es crear políticas públicas mediante la participación directa de los ciudadanos. Todas las contribuciones se resumen, analizan y pasan a ser propuestas de políticas públicas utilizando ChatGPT. La tarea, que parece automática, depende de dos grupos humanos: los creadores de las propuestas y quienes las validan. Estos últimos votan sobre las políticas en una escala del 1 al 10 y las que obtienen más del 50% de apoyo son adoptadas por el candidato humano.
A pesar del revuelo, el organismo de control de las elecciones ha sostenido que si Endacott gana, él sería el miembro del parlamento (MP). En ningún caso el MP sería una versión del candidato basada en IA.
Inteligencia limitada
La revolucionaria propuesta plantea una serie de interrogantes sobre la naturaleza de la representación política y su impacto en el sistema democrático.
Una de las principales preocupaciones radica en los sesgos que podrían estar presentes en los datos utilizados para entrenar los algoritmos. Si los datos históricos contienen prejuicios raciales, de género o socioeconómicos, la IA, en lugar de corregir estos sesgos, puede perpetuarlos y amplificarlos. Esto plantea serias preguntas sobre los resultados de las políticas generadas por una entidad no humana, incapaz de discernir este tipo de sutilezas.
Además, aunque se espera que en un futuro próximo los desarrollos tecnológicos cambien el escenario, actualmente los algoritmos de IA operan como cajas negras. Los procesos de la IA son complejos y opacos, difíciles de entender y auditar. Esta falta de transparencia es particularmente preocupante en el ámbito político, donde la rendición de cuentas y la claridad son esenciales para la confianza pública. Si estos avatars son utilizados a escala en la política y los ciudadanos no comprenden cómo y por qué se tomaron determinadas decisiones, la legitimidad del sistema democrático podría verse gravemente comprometida.
Riesgos
Asimismo, la IA ha avanzado enormemente en el procesamiento del lenguaje humano. Aunque todavía puede fallar en captar los matices o contextos culturales específicos que son claves en la formulación de políticas. Un factor final es el riesgo de manipulación con datos malintencionados o por actores con intereses específicos. Con la capacidad de infiltrar y sesgar los datos de entrenamiento, dichos actores podrían manipular las decisiones políticas.
En este contexto, la introducción de IA en la política, aunque innovadora, debe abordarse con cautela y un robusto marco ético y regulatorio para evitar socavar los principios democráticos. La promesa de una IA infalible se enfrenta a la realidad de un campo de batalla digital, donde la manipulación y la desinformación pueden ser las armas más potentes.
¿Cómo prepararnos?
En un mundo globalizado e hiperconectado es posible que veamos con más frecuencia este tipo de desarrollos tecnológicos. Sin embargo, en una región como América Latina la tarea se vuelve compleja no solo por las limitaciones del desarrollo de este tipo de tecnología a nivel regional, sino por la generación de data que responda a las complejas realidades propias de la región.
En este contexto, los líderes políticos tienen la obligación de cuestionarse si es viable transferir la legitimidad del poder a una entidad no humana, como AI Steve. ¿Cómo redefinir la responsabilidad y la rendición de cuentas en un sistema donde las decisiones políticas serían tomadas por algoritmos y no por seres humanos? ¿Podrá la IA entender y representar con precisión las complejas dinámicas humanas y culturales que moldean América Latina? Y quizás lo más crucial: ¿qué impacto podría tener la IA en los principios fundamentales de la democracia y la gobernanza de la región?
Estas preguntas deben ser abordadas con un enfoque crítico antes de adoptar tecnologías que, aunque prometedoras, aún enfrentan desafíos significativos. Como hemos visto, con la tecnología disponible, es difícil confiar plenamente en sistemas que pueden estar sujetos a sesgos, manipulaciones y errores inherentes. La aspiración a una IA infalible aun se contrapone a la realidad de un contexto digital lleno de vulnerabilidades, donde la manipulación y la desinformación pueden socavar la integridad de las decisiones políticas.
La introducción de IA en la política debe garantizar que los principios democráticos se preserven en todo momento. Este camino hacia una nueva era de gobernanza tecnológica exige una consideración profunda de sus implicaciones éticas, sociales y políticas, asegurando que cualquier avance tecnológico esté al servicio del bien común y no comprometa la democracia.
