El uso de la Inteligencia Artificial (IA) preocupa en el ámbito político por su potencial capacidad de generar desinformación. Esto es especialmente grave en contextos de elecciones democráticas. Siete países del continente americano tendrán elecciones en 2024. El Salvador, Panamá, República Dominicana, México, Uruguay, Venezuela y los Estados Unidos.
En febrero de este año se divulgó un audio en Estados Unidos en el que el presidente y precandidato Joe Biden desalentaba a los electores de New Hamphshire a votar en las elecciones primarias. ¿Es posible abordar este riesgo desde la legislación? En Uruguay, el diputado del Partido Nacional, Rodrigo Goñi, presentó un proyecto de ley que pretende sancionar penalmente a creadores y difusores de deepfakes.
«No solo genera confusión, además vamos a gastar nuestras energías —los ciudadanos, políticos y medios— en tratar de fundamentar si algo es cierto o no. No va a haber conversación, no va a haber diálogo. Va a haber desinformación generalizada. Cuando esas cosas se dan, no es posible la democracia ni un proceso electoral limpio», afirma el legislador en entrevista con Diálogo Político.
Herramientas legislativas
Varios países y entidades trabajan en este tema. ¿Cuál o cuáles fueron los principales modelos para presentar el proyecto de ley?
—La IA generativa empezó a estar a disposición de las personas en marzo de 2023. La capacidad de falsificación y el alcance que tiene sobre las mayorías es un fenómeno nuevo. El Parlamento europeo, en su preámbulo de la ley de IA, expresa que la IA pone en riesgo la democracia y la transparencia. Hoy, varios parlamentos que tienen elecciones en 2024, como México o Estados Unidos, están abordando la legislación referida a las deepfake. Se han aprobado pocos proyectos, porque es nuevísimo. Pero van a ser muchos los aprobados porque tienen que llegar antes de las elecciones.
¿Cuáles son los elementos legislativos para regular deepfakes?
—En primer lugar, la obligatoriedad de la divulgación; informar, advertir, a las personas que la imagen ha sido manipulada. En segundo lugar, la sanción penal, la más dura en los estados de derecho. Pero al sancionar penalmente se excluyen los casos en los que se señala que ese contenido es creado con IA. Ahora, yo creo que la obligación de etiquetar no es suficiente, porque el riesgo es muy amplio.
El proyecto también plantea sancionar a quienes difundan la desinformación, es decir medios de comunicación así como miles de usuarios que utilizan las redes sociales. ¿Cuál es el límite para aplicar la pena a terceros?
—El proyecto establece que tiene que haber una intencionalidad de desinformar. Por supuesto que para aplicar una sanción penal en un estado de derecho siempre se tiene que determinar con pruebas si, en este caso, la persona lo hizo con ánimos de desinformar. El principal responsable es quien creó la falsificación. Hoy ponemos todos los mecanismos para que se identifique quiénes son los que ponen en circulación este tipo de imágenes. Los propios creadores de estos sistemas están trabajando para la identificación.
Evitar la campaña sucia
Las redes son escurridizas, los contenidos circulan de forma masiva e instantánea. Identificar al creador o difusor implica un desafío. ¿Cómo se piensa regular en la práctica?
—Las leyes también son pedagógicas, en el mundo occidental al menos. Dicen lo que se puede hacer y lo que no se puede hacer, tienen cierta moralidad. En el mundo digital, cualquiera puede hacer un daño al apretar una tecla. Tiene que haber normas que señalen: ciudadanos esto no se puede hacer porque hace daño a la sociedad. Por eso, el que lo haga será sancionado penalmente. Las sanciones penales son utilizadas para indicar que un bien es demasiado importante. La norma también tiene un efecto preventivo. Si yo sé que al difundir la imagen de un candidato puedo tener una sanción penal, lo pienso dos veces. Cuando una conducta tiene un efecto muy dañino no puedo hacer y después ver qué pasa. El marco normativo indica que esta conducta puede destruir la convivencia y la democracia. Promueve que antes de difundir haya que verificar.
¿Quién se va a ocupar de la verificación y a través de qué herramientas se piensa aplicar?
—Las herramientas van a estar disponibles porque las plataformas están poniendo a disposición de los usuarios sistemas de verificación. Están interesadas en que no se les dañe el negocio; si en algún país hay elecciones cuestionadas por desinformación electoral o falsificación en alguna plataforma, esa plataforma va a estar en problemas.
¿Tuvo conversaciones con agentes concretos?
—Sí, trabajamos siempre en colaboración, es parte de la gobernanza del mundo de hoy. Conversé con Meta, Microsoft, Amazon. Estudian el tema desde hace un mes. Van a ser convocados todos a dar su opinión. Pretendo que sea un proyecto presentado por todos los partidos.
Además de las plataformas aliadas, ¿qué organismos del Estado van a asegurar el cumplimiento de la ley?
—Cuando hay norma penal, siempre está la justicia y sus auxiliares, la fiscalía y la policía. Esos mecanismos están. Por supuesto, para este mundo digital, esos departamentos se tienen que ampliar muchísimo. Contra esos delitos, la gobernanza colaborativa realmente empieza a funcionar porque las plataformas están interesadas en que eso suceda.
Elevar la capacidad crítica
La pena es de seis meses a dos años de penitenciaría. ¿Cuál fue el criterio para determinar el castigo?
—Es una pena que estaba establecida para delitos electorales graves. Las penas de menos de dos años pueden ser sustituidas por otras medidas alternativas que no sean prisión, pero también puede ser prisión. Si faltan tres días para una elección, alguien arma videos sobre un candidato, se los manda a los indecisos y cambia la tendencia… terminamos como Brasil o Estados Unidos. Es gravísimo. ¿Alguien puede decir que la mayoría de la gente no se queda con el primer video que ve y lo da como cierto aunque sea un disparate? Estamos en esa contexto, no poner foco en esto es de una ingenuidad que un legislador no puede tener.
El contenido falso es un problema en varias democracias en el mundo. ¿Tiene planes de colaborar con colegas en el extranjero?
—Trabajo en una ley modelo de IA para América Latina. Después, cada país tendrá que aplicarla. Además estoy en permanente contacto con parlamentarios europeos. Ellos tiene un camino un poquito más recorrido que nosotros y un montón de expertos que les permite estudiar estos temas mucho más rápido y en profundidad. Y también con congresistas estadounidenses. El consenso es que hay que legislar, sino pasamos al mundo de la confusión generalizada.
¿Hay desacuerdos?
—No, hasta China está de acuerdo.
Fue el primer país en legislar sobre el tema.
—Fue el primero, paradójicamente, porque el sistema chino no prioriza los derechos humanos y la democracia. También tiene sanción penal. Pero debería cuestionarnos legislar. El bien a proteger es tan evidente: el derecho a informarse verazmente de la realidad. Es imposible la convivencia social. Si permitimos la falsificación no solamente se daña la reputación, también poder comunicarnos sobre la realidad.
