Resumen
La IA actual sigue requiriendo de personas que trabajen con ella y la controlen y conduzcan. ¿Cuáles son las tareas específicas de la política en términos de buen gobierno con este nuevo avance tecnológico? Conversamos sobre el efecto de la IA en la transformación del Estado con un experto dedicado a la modernización e innovación de la administración pública.
Lars Zimmermann es cofundador y miembro del consejo de GovTech Campus Deutschland e. V., el primer espacio mundial de innovación, desarrollo y aprendizaje para la modernización del gobierno y la administración. El gobierno alemán impulsa el Campus como plataforma conjunta con el objetivo de desarrollar innovaciones y tecnologías digitales para la administración federal, estatal y local junto con la escena tecnológica. Busca poner este insumo a disposición para su reutilización.
Antes de fundar el GovTech Campus, Lars Zimmermann se desempeñó como consultor en tecnología y transformación y fue fundador y portavoz de la junta de la Stiftung neue Verantwortung. Lleva muchos años implicado en los ámbitos de la modernización del Estado y la reforma administrativa y ha desarrollado un gran número de medidas y proyectos en este ámbito. Desde comienzos de 2024 se desempeña como investigador asociado de la Fundación Konrad Adenauer.
—Con la llegada de la IA, ¿estamos a punto de dar un salto similar al de la llegada de la máquina de vapor?
—Sinceramente, aún no lo sabemos. Siempre soy un poco cauteloso a la hora de proclamar una gran revolución. Sin embargo, sospecho que la IA tendrá un impacto igualmente significativo en la sociedad. Estamos a punto de dar un salto en el desarrollo que habría sido impensable hace 15 años. Hace cuatro años, ninguno de nosotros hablaba de grandes modelos lingüísticos como ChatGPT y menos aún trabajaba con ellos.
Se ha producido un gran avance disruptivo en la IA, que por primera vez ha llegado a la población en general, a distintos niveles. Si extrapolamos este avance, tenemos que llegar a la conclusión de que la IA, como la máquina de vapor u otras grandes tecnologías, podría suponer un gran salto en el desarrollo. Por supuesto que esto implica riesgos pero, sobre todo, también hay numerosas oportunidades. Y, en mi opinión, esta evolución llega en el momento justo.
—¿Por qué llega en el momento oportuno?
—Por ejemplo, en todo el mundo, especialmente en los países industrializados, tenemos el problema de que aumenta la brecha demográfica. Si desarrollamos y utilizamos adecuadamente la inteligencia artificial, podremos colmar estas lagunas en muchas profesiones. Un segundo ejemplo es la mejora de las capacidades informáticas. Con la inteligencia artificial y el fortalecimiento de las infraestructuras informáticas, actualmente podemos procesar, gestionar y contextualizar datos, capacidades de las que no disponíamos hace diez años. Estos avances aportan grandes beneficios, por ejemplo, en la investigación sanitaria y en cuestiones de seguridad.
Por eso creo que, si bien estamos en una época de grandes retos, también tenemos grandes oportunidades gracias a la IA. Estamos experimentando grandes saltos tecnológicos que pueden ayudarnos a vencer enfermedades, desarrollar medicamentos y compensar la escasez de personal.
—¿De qué periodo de tiempo estamos hablando ahora?
—Es una buena pregunta que nadie puede responder hoy con certeza. Tal vez podamos formularlo de la siguiente manera: los saltos innovadores de la IA a corto plazo suelen sobreestimarse considerablemente, mientras que se subestiman mucho los que se producen a mediano y largo plazo. Si miramos hacia atrás, hace cuatro años nadie sabía lo que era un gran modelo lingüístico. Estoy convencido de que veremos enormes saltos en el desarrollo en los próximos 15 a 20 años.
—¿Y a corto plazo?
—A corto plazo, por ejemplo, los grandes modelos lingüísticos pueden suponer un aumento de la eficiencia. Estos modelos ya son muy potentes y capaces de asumir muchas tareas. Sin embargo, no pueden, por ejemplo, sustituir asesores en un ministerio federal. La IA actual sigue requiriendo de personas que trabajen con ella y la controlen y conduzcan. Evidentemente, esto podría cambiar cuando la tecnología y las capacidades informáticas estén tan avanzadas que la IA pueda asumir determinadas tareas sin ayuda humana.
Naturalmente, estos cambios también nos afectarán a nosotros. La IA podría hacerse cargo de actividades que actualmente son realizadas por humanos, haciendo que los puestos de trabajo correspondientes sean superfluos. Pese a ello, no creo que la IA provoque un desempleo masivo. Por lo contrario, veo a la IA como una forma de subsanar las carencias causadas por la escasez de mano de obra. No se trata de reducir recursos, sino de llenar lagunas.
—A menudo se percibe a la IA como una amenaza, y se la asocia frecuentemente con la pérdida de puestos de trabajo, las noticias falsas y los deepfakes. Entonces, ¿cuáles son las oportunidades?
—Por lo pronto, la IA puede mejorar significativamente los procesos administrativos. La IA proporciona al personal administrativo una herramienta que le permite cumplir mejor sus tareas y más rápidamente. Un buen ejemplo de ello son los grandes modelos lingüísticos, que permiten redactar y sintetizar textos con rapidez.
Supongamos que los asesores y asesoras ministeriales tengan que crear plantillas. A menudo, un ministro o una ministra solicita que un texto largo se reduzca a una página concisa. En el pasado, esto solía llevar mucho tiempo. Con los grandes modelos lingüísticos actuales, este proceso puede automatizarse fácilmente. Lo que antes llevaba una hora, ahora puede resolverse en unos segundos. Esto ahorra muchísimo tiempo y aumenta la eficacia.
Otro ejemplo es esta misma entrevista, que realizamos en alemán pero que después se imprimirá en español. En el pasado, la traducción habría costado mucho dinero y tiempo. Hoy en día, gracias a grandes modelos lingüísticos como ChatGPT, se pueden traducir textos de forma rápida y eficaz a cualquier idioma. Esto simplifica y acelera considerablemente todo el proceso.
—Sin embargo, no podemos sustituir al traductor que empleamos actualmente. Necesitamos a alguien que revise las soluciones que se han desarrollado con los modelos lingüísticos.
—No me parece mal que un humano siga controlando las traducciones. Sin embargo, es probable que la tecnología de la traducción siga desarrollándose de tal manera que el control humano deje de ser necesario en algún momento. La tasa de error podría entonces ser comparable a la de un traductor simultáneo, que tampoco está libre de errores. Es probable que esta evolución se produzca con relativa rapidez. Sin embargo, no creo que las personas traductoras se queden sin trabajo. Cuando se trata de analizar e interpretar el lenguaje y evaluar matices que indiquen confianza en uno mismo o inseguridad en la voz, la IA aún no está preparada. Estas habilidades requieren percepción humana, así que pasará un tiempo antes de que la IA esté al mismo nivel en este ámbito. Pero es muy probable que lo consiga en algún momento.
—¿No significa esto que se sustituyen sobre todo tareas rutinarias de calificación media, con lo que se suprimen muchos puestos de trabajo, mientras que persiste la escasez de especialistas altamente calificados?
—Aún no estoy seguro de eso. Creo que los puestos de nivel medio tienden a correr más riesgo que los de nivel muy bajo. Cuanto más exigente sea un puesto de trabajo, es decir, de calificación media o superior, más probable es que sea sustituido por la IA. Esto afecta también a muchas instancias de control en la administración, que actualmente llevan a cabo especialistas más calificados, pero que podrían automatizarse en el futuro. Por ejemplo, los puestos de trabajo desempeñados por académicos en el sector de los seguros también podrían verse amenazados por la IA. Así que no se trata solo de trabajos sencillos, sino también de aquellos que requieren un mayor nivel de calificación. En el siguiente paso, la IA no hará obsoleto ningún trabajo, pero cambiará los perfiles de requisitos tradicionales de esos empleos. Quien no esté de acuerdo con esto, lo tendrá difícil.
—Nos gustaría saber su opinión sobre cómo afectará el desarrollo de la IA a Latinoamérica.
—En última instancia, el desarrollo de la IA sigue abierto. No se trata tanto de lo buenos que sean los distintos países en el desarrollo de la IA como de las capacidades de las empresas en este ámbito. En la actualidad, solo hay un puñado de empresas que impulsan la IA a escala mundial y la mayoría de ellas proceden de Estados Unidos.
El impacto de la IA en los distintos sistemas sociales aún no está claro. Las oportunidades y los riesgos están tan presentes en los países industrializados como en otras partes del mundo. Tomemos África como ejemplo: muchos países africanos lograron mayores avances que Alemania en cuanto a sistemas de pago y apoyo digital a las microempresas. Esto muestra que incluso las economías menos desarrolladas pueden beneficiarse de los saltos tecnológicos.
Si economías como las de América del Sur o América Central siguen desarrollándose, existe un riesgo real de que las innovaciones apoyadas en la IA conduzcan también a una mayor eficiencia laboral y, por tanto, a una reducción de puestos de trabajo. Esto significa que los gobiernos de dichas economías deben examinar de cerca el impacto de la IA para evitar quedarse atrás y para aprovechar en forma óptima las oportunidades que ofrece la tecnología.
Los gobiernos
—Las mayores empresas del sector de la IA proceden actualmente de Estados Unidos. El llamado efecto red se aplica especialmente en este sector, donde el líder del mercado se beneficia enormemente y deja poco espacio a los competidores.
—Existe esta famosa frase: «En el campo de la inteligencia artificial ya no hay un tercer puesto». O eres el líder del mercado mundial o eres el que le pisa los talones. Pero este riesgo se aplica a todos los países. En mi opinión, no se trata de una cuestión típica de la política de desarrollo.
Es importante entender que estos retos no pueden ser abordados por un solo país. Especialmente en regiones como Sudamérica, sería muy importante que los países trabajaran juntos a nivel supranacional y suprarregional para abordar la cuestión de la IA. Sin embargo, sigue siendo necesaria una buena gobernanza. Los países mal gobernados seguirán teniendo dificultades para utilizar las innovaciones tecnológicas en el futuro. Una gobernanza de alta calidad basada en los valores democráticos fundamentales será aún más decisiva frente a dinámicos avances tecnológicos. La IA no puede hacerse cargo de esta tarea de buen gobierno; esta labor debe seguir en manos de los ciudadanos y probablemente adquiera mayor importancia.
—¿Cuáles son las tareas específicas de la política en términos de buen gobierno con estos nuevos avances tecnológicos?
—En primer lugar, creo que los políticos deben desarrollar una gran curiosidad por la IA. Los países que triunfan en tiempos de innovación suelen ser los que se muestran abiertos y curiosos ante las nuevas tecnologías. Es importante no tener miedo a la tecnología ni demonizarla. La apertura a lo nuevo es crucial.
En segundo lugar, es esencial buscar la cooperación. Ningún país, ni siquiera Estados Unidos, puede abordar la IA por sí solo y con la profundidad requerida. Incluso países grandes como Estados Unidos y China se ven confrontados a desafíos. Para los países más pequeños como Alemania y Francia es aún más importante trabajar juntos más allá de las fronteras. Por lo tanto, es mucho más importante un alto grado de voluntad para cooperar y trabajar juntos en estos temas.
El tercer paso también es muy importante: crear las condiciones marco que permitan la innovación.
El cuarto paso es la aplicación real de la IA. Es importante que los países y sus ciudadanos no demonicen la IA, sino que la utilicen activamente. Quien utiliza IA también puede opinar. Un ejemplo del pasado: los alemanes se convirtieron en líderes mundiales del sector automovilístico porque el mercado nacional era fuerte y los propios alemanes compraban masivamente coches. En el campo de la IA, todavía no hay ningún país que haya tomado la delantera de forma creíble en su aplicación, ya sea en la educación o en la salud. Por lo tanto, todas las regiones aún siguen teniendo puntos de partida similares. Tal vez los países que aún no están tan saturados y que tienen menos estructuras posean incluso una ventaja, porque pueden estar especialmente abiertos a nuevos desarrollos.
El quinto paso se refiere a la formación. Para todos los temas, incluida la IA, la educación es crucial. El desarrollo y la aplicación de la IA y otras tecnologías no tendrán éxito si no contamos con centros de formación y sistemas educativos de primera clase. Es esencial que contemos con buenas instituciones educativas capaces de preparar a las próximas generaciones para las nuevas tecnologías e integrarlas en los sistemas educativos.
—¿Cuáles serían las narrativas positivas que los partidos políticos podrían contar sobre la IA?
—Hay muchas historias positivas que pueden contarse sobre la IA. Por ejemplo, puede dar respuesta a nuestros retos demográficos haciendo más eficientes los servicios públicos. Podría ayudar a reducir la necesidad de personal, lo que a largo plazo reduciría los costos administrativos. También podría suponer una mejor gestión del dinero de los contribuyentes e incluso una reducción de los impuestos.
Otra ventaja es la ganancia en materia de innovación. La IA permite procesar grandes cantidades de datos y utilizar eficazmente los centros de procesamiento de datos. Esto puede dar lugar a investigaciones pioneras (disruptivas, revolucionarias) en el sector de la salud. Estoy convencido de que viviré para ver cómo el cáncer deja de ser una sentencia de muerte. Con el avance de la potencia de cálculo y el procesamiento de datos sanitarios podríamos desarrollar fármacos que derroten enfermedades que hace veinte o treinta años se consideraban incurables.
Tomemos el ejemplo de la guerra en Ucrania. Sin las capacidades de IA, Ucrania no podría utilizar sus drones de forma tan eficiente y eficaz para su defensa, a pesar de estar tan mal equipada en cuanto a disponibilidad de armas. Esta capacidad de IA en combinación con los drones es crucial para la defensa del país.
Estos ejemplos demuestran que la IA puede aportar grandes avances en diversos ámbitos políticos. Esencialmente, podemos distinguir dos grandes áreas: la IA lleva a una mayor eficiencia y menores costos, y fomenta la innovación y las soluciones en diversos ámbitos.
—¿Llevará la IA también a nuevos formatos de participación en una democracia representativa?
—Antes de responderle, quisiera decirle que está hablando con alguien muy partidario de la forma tradicional de democracia. Estoy convencido de que la tecnología no nos liberará de las tareas esenciales de la democracia. ¿Qué quiero decir con esto? No creo que la IA nos haga automáticamente mejores demócratas o que nos convierta en votantes mejor informados. A mis ojos, la democracia es un sistema que funciona entre personas e instituciones. Las personas siempre serán los actores centrales de una democracia, tomando decisiones por mayoría de votos. Por eso soy conservador, en el mejor sentido de la palabra. No creo que los sistemas democráticos de IA vayan a salvar la democracia.
— En la campaña electoral estadounidense vimos que los votantes se están volviendo transparentes para los estrategas gracias al análisis de grandes cantidades de datos. ¿Qué impacto tiene esto en la democracia?
—Esto no es necesariamente problemático. Demócratas fuertes hacen fuertes a las democracias. Usted alude al hecho de que los partidos conocen mejor a sus votantes y pueden colocarles anuncios específicos. Pero esto es parte de un desarrollo que siempre existió. Si miramos atrás en la historia económica, con la invención de la imprenta tipográfica de repente se pudieron imprimir y distribuir en masa octavillas, y estoy seguro de que la primera octavilla política apareció no mucho después de la invención de la imprenta tipográfica.
El principio sigue siendo el mismo: las tecnologías nos ayudan a difundir información más rápidamente y en tiempo real. ¿Es un riesgo que los políticos sepan más sobre la población? No necesariamente. Se convierte en peligroso cuando los Estados lo saben todo y están autorizados a combinar esta información dispersa en un bloque de información global y a utilizarla para dar forma a la política. También aquí podemos ver que, en última instancia, la buena gobernanza será decisiva.
Se podría culpar indirectamente de ello a la IA, porque sin ella el Estado no podría recopilar esta información en la misma medida. Pero hay que ser capaz de resistir a la innovación. La democracia ha sobrevivido a la imprenta y a la invención de la televisión, y también sobrevivirá a la IA.
—¿Qué pueden hacer las personas para prepararse?
—Por de pronto, es importante mantener la curiosidad y la mente abierta. Mientras uno se involucre activamente en los nuevos avances, estará más informado y seguro de sí mismo. El mayor peligro es volverse perezoso y dejar que los demás le indiquen constantemente qué tiene que pensar.
Es decisivo cuestionarse las cosas. Por ejemplo, por qué ves anuncios de un coche en Instagram después de haber hablado de él con tus amigos. ¿Acaso el smartphone está escuchando? ¿Puede reconocer esos fragmentos de frases? Este tipo de preguntas te ayudan a ser crítico con las nuevas tecnologías y a tomar tus propias decisiones.
Es importante desarrollar una actitud crítica y constructiva. No tiene sentido rechazar inmediatamente todo lo nuevo ni adoptarlo acríticamente. Por el contrario, hay que intentar formarse una opinión equilibrada y analizar críticamente lo nuevo.
También es útil probar cosas. Quien entiende cómo funciona algo, puede decidir mejor si quiere usarlo o no. Alemania ha alcanzado el liderazgo en innovación en muchas áreas porque la gente estaba dispuesta a probar cosas nuevas. También en el campo de la IA, la gente debe probar y comprender diferentes aplicaciones.
Por ejemplo, hoy ya utilizamos la IA tal vez sin darnos cuenta. Mi banco utiliza un sencillo sistema de IA para reconocer movimientos sospechosos en mi cuenta. Este tipo de IA nos protege y facilita muchas tareas cotidianas.
En resumen, la apertura a nuevas ideas, el pensamiento crítico y la experiencia práctica son claves para encontrar el camino en la era de la IA y reconocer las oportunidades y los riesgos para uno mismo. De este modo, cada individuo puede contribuir a que la sociedad y el país avancen por este camino.
Traducción alemán-español: Manfred Steffen
