La Inteligencia Artificial IA juega un papel estelar en los procesos electorales en todo el mundo, dado que esta herramienta es utilizada por los partidos políticos para analizar datos y tendencias del electorado. Y es aquí donde hay que tener cuidado con los Deepfakes.

El futuro de la democracia tendrá su capítulo decisivo para muchos países durante el 2024. Ante los ojos de un mundo cada vez más digital y conectado, la inteligencia artificial se ha convertido en una herramienta poderosa que también plantea riesgos significativos cuando intercede en las campañas electorales. 

La IA juega un papel estelar en los procesos electorales en todo el mundo dado que esta herramienta es utilizada por los partidos políticos para analizar datos y tendencias del electorado, así como también para segmentar a los votantes en grupos específicos con base en sus preferencias y comportamientos, permitiendo campañas políticas más dirigidas. 

Con el uso de la IA es posible automatizar tareas administrativas, como la verificación de la identidad de los votantes y el conteo de votos, lo cual agilizaría el proceso electoral y reduciría los errores humanos.

Pero de la mano de esta evolución surge una problemática que se puso en el centro de debate de la escena electoral a nivel mundial: el peligroso uso de IA para los llamados deepfakes  que se refieren a campañas realizadas con base a imágenes o audios tergiversados mediante el uso de esta tecnología. 

En este contexto, estrategas y políticos comenzaron a manifestar su preocupación de que los avances en la IA puedan influir en los votantes y que esto pueda afectar la democracia. Cabe destacar que la deepfake es una noticia o nota falsa que a simple vista se ve que es real pero solo engaña Deepfake o ultrafalso ​ es un acrónimo del inglés formado por las palabras fake, falsificación, y deep learning, aprendizaje profundo.​

Los deepfakes no son solo un juego o un truco tecnológico, son una amenaza seria para la integridad de las elecciones y la democracia en su conjunto y los electores corren el riesgo de caer en campañas de desinformación y manipulación.

En el mundo ya se empieza a hablar de la necesidad de trazar límites para el uso de la IA y en este plano Google tomó la delantera y acaba de anunciar que a partir de noviembre, de cara a las elecciones 2024 en los Estados Unidos,  exigirá una etiqueta en todos los anuncios políticos que utilizan herramientas de inteligencia artificial y contenido sintético en sus videos, imágenes y audio.  

Tal es el caso de Google empresas que exigirá la divulgación del uso de la IA en los anuncios políticos. Los anuncios de elecciones y campañas tendrán que indicar claramente si utilizan contenido sintético o generado por la IA en noviembre.

Fuente: https://mercadeodigital.cl/2023/11/25/cuidados-y-riesgos-de-usar-la-ia-en-campanas-electorales/