Fraudes, vocerías y audios manipulados: La IA agita el clima electoral para presidenciales en México

La precampaña para los comicios de junio de 2024 en México tampoco se escapa de la influencia de la Inteligencia Artificial (IA), una herramienta con enormes beneficios, pero que está siendo usada como arma de desinformación con clonación de voces e identidades de gran realismo.

Claudia Sheinbaum, candidata presidencial de Morena, denunció este jueves la manipulación de un video, en el que se usa su voz y su imagen a través de IA. "Fíjense qué barbaridad. Es un vídeo que están haciendo con Inteligencia Artificial, porque van a ver que es mi voz. Pero es un fraude. Están diciendo que vamos a entregar dinero", explicó.

En la falsa grabación, se pide la inversión de 4.000 pesos (unos 230 dólares) en una plataforma financiera, que promete alcanzar ganancias mensuales de unos 100.000 pesos (unos 5.800 dólares) "sin riesgo".

"¿Cómo creen que yo voy a andar en estas barbaridades? Piden depósitos y es un absoluto fraude. Ya lo reportamos a las páginas de estas redes sociales y, si es necesario, tendremos que poner una denuncia penal. Pero es muy importante que nadie se deje engañar (...) mucha gente nos ha avisado, quiere decir que está circulando mucho", advirtió. 

No es la primera vez que, para dañar a un político, se hace uso de tecnología 'deepfake', que son videos, imágenes o voces manipuladas a través de un software de IA y tan hiperrealistas que hacen que sea muy difícil distinguir si es falso o no.

El jefe de Gobierno de Ciudad de México, Martí Batres, fue víctima en octubre de algo parecido, cuando se difundió una grabación con su voz en la que parecía interferir en el proceso interno de su partido.  

"Está circulando un audio en el que se pretende atribuirme expresiones relacionadas con el proceso interno de Morena en la Ciudad de México. Aclaro que es totalmente falso. Nunca he hecho tales afirmaciones. Está producido con inteligencia artificial. No es real", aseguró entonces.

A pesar de las amenazas, políticos de todo el mundo utilizan IA para sus estrategias de comunicación. Y en México, por ejemplo, la aspirante presidencial de la oposición, Xóchitl Gálvez, anunció la creación de su propia portavoz impulsada por esta tecnología. 

"La Inteligencia Artificial Generativa eficienta los tiempos y los recursos. Es muy rápido tener el material y es muy barato, lo cual es perfecto cuando andas del tingo al tango y con poca lana", dijo iXóchitl, la nueva portavoz creada a partir de la imagen de la candidata.

La idea es que los mensajes de su personaje de IA tengan el aval de la candidata de la coalición opositora Fuerza y Corazón por México, que incluye también a los conservadores Partido Revolucionario Institucional (PRI) y Partido de la Revolución Democrática (PRD).

"Incidencia importante"

El Instituto Nacional Electoral de México (INE) admitió que la IA plantea "múltiples desafíos a las autoridades electorales" porque "están incidiendo de manera importante en el ámbito político-electoral".

La senadora Alejandra Lagunes, integrante de la Comisión de Derechos Digitales del Senado, recordó en un evento sobre el 'Impacto y retos de la inteligencia artificial en procesos electorales', que la IA amplifica el análisis de la información, pero solo si se usa de manera efectiva.

Una vocera creada con IA es el 'as bajo la manga' de la candidata presidencial opositora en México

"Está remodelando todos los aspectos de nuestra vida, puede enriquecer el debate político y la democracia (...), y utilizada de manera efectiva se convierte en una herramienta valiosa para promover la democracia", señaló Lagunes, quien destacó que también puede ser "esencial en la lucha contra la desinformación ayudando a señalar y detectar contenidos falsos". 

Sin embargo, añadió que "la veracidad de la información es un desafío crítico y existe el riesgo de que la IA sea utilizada para manipular electoralmente a los votantes, generar discursos de odio, polarizar a la población e influir en el proceso democrático".

Por su parte, el secretario general de las Naciones Unidas, António Guterres, alertó este mes de la necesidad "urgente" de que "los gobiernos trabajen junto a las compañías tecnológicas para crear redes de gestión de riesgo para el actual desarrollo de la IA, unas redes que controlen y supervisen futuros daños".

Si te ha gustado, ¡compártelo con tus amigos!