Personalización y Manipulación. El Impacto de las IA Generativas en la Política -y en Argentina-

Introducción

En el complejo panorama político actual, las inteligencias artificiales generativas -IA generativas- están emergiendo y teniendo cada vez más protagonismo como agentes transformadores cruciales. Estas tecnologías, capaces de crear contenido original a partir de datos brindados – y algunos datos sintéticos-, están redefiniendo el modo de encarar campañas electorales al permitir una personalización sin precedentes de los mensajes, una segmentación precisa de las audiencias y una creación de contenido altamente persuasivo. Sin embargo, junto con estos avances surgen desafíos significativos, como la proliferación de deep fakes y la manipulación de la información. En este contexto, es crucial examinar cómo las IA generativas están influyendo en la política y qué implicaciones tienen para el futuro.

 

Personalización de las Campañas

Uno de los mayores avances de las IA generativas en el ámbito político es la capacidad de personalizar los mensajes de manera extremadamente precisa. Al analizar datos demográficos, comportamentales – desde tus likes en las redes sociales, hasta el tiempo que pasas viendo una historia en instagram – y las preferencias individuales, estas tecnologías pueden generar contenido adaptado a diversos segmentos de la población. Tradicionalmente esto no fue así, hasta hace muy pocos años la publicidad política debía ser única, estándar y uniforme para todos los destinatarios. Podría pensarse que esta personalización no solo mejora la efectividad de los mensajes, sino que también fortalece la conexión entre el candidato y el votante, alineando el discurso con las preocupaciones y aspiraciones de cada grupo. 

Por ejemplo, una IA generativa puede estudiar las inquietudes económicas de una ciudad/barrio o comuna y elaborar un discurso que aborde estos temas directamente, utilizando un lenguaje y ejemplos que resuenen y sean significativos para esa audiencia. 

Además de la personalización, las IA generativas pueden optimizar las estrategias de comunicación al identificar patrones y tendencias en los datos de redes sociales y otras plataformas digitales. Entender qué tipo de contenido genera mayor interacción y qué temas son más sensibles permite a los equipos de campaña ajustar sus mensajes para maximizar el impacto. Esta optimización basada en datos no solo mejora la eficiencia de las campañas, al basarse supuestamente en análisis objetivos en lugar de intuiciones subjetivas, traería como primera consecuencia negativa la probable adaptación a lo – en principio- la gente quiere, más que lo que la gente necesita.

 

Los Peligros de las IA Generativas: Deep Fakes y Manipulación, Amenazas a la Veracidad y la Confianza

A pesar de los avances, el uso de IA generativa en la política también presenta riesgos importantes, particularmente en lo que respecta a la creación de deep fakes y la manipulación de la información. Los deep fakes, pueden resumirse como la creación de contenidos falsos que imitan a personas reales con alta precisión, que pueden ser utilizados para difamar a oponentes, distorsionar la verdad o sembrar desconfianza en el proceso democrático.

La proliferación de los mismos plantea una amenaza significativa a la veracidad de la información y a la confianza pública en los medios y en los políticos. En un entorno ya marcado por la desinformación y la polarización, la capacidad de crear y difundir contenido falso con alta credibilidad puede erosionar aún más la confianza en las instituciones y en los procesos electorales, incrementando la desconfianza del sistema político actual y generando mayor desorden e incertidumbre. 
 
Por eso, es crucial desarrollar mecanismos robustos para detectar y mitigar los efectos de los deep fakes, incluyendo la educación del electorado sobre los riesgos de la desinformación y el fortalecimiento de las regulaciones y tecnologías para verificar la autenticidad de los contenidos digitales.
 
Además, recuérdese cómo el contexto político ya atravesó anterior y actualmente la manipulación de la opinión pública mediante, por ejemplo, la posibilidad de crear perfiles de votantes y difundir mensajes dirigidos que exploten sus vulnerabilidades y sesgos. Esta segmentación avanzada puede influir de manera sutil pero efectiva en las percepciones y comportamientos de los votantes, sobre todo en épocas donde parecería ser que la veracidad
de la información pasa a un segundo plano, y cuando el público destinatario no tiene intención de comprobar la misma, comprometiendo la integridad del proceso democrático.
 
Este tipo de manipulación no solo distorsiona la competencia electoral, sino que también puede perpetuar la desigualdad y la injusticia social, al favorecer a quienes tienen acceso a tecnologías avanzadas sobre aquellos que no lo tienen.
 

Desafíos Específicos en Argentina 

No obstante, la implementación de IA generativa en la política argentina enfrenta desafíos específicos. y la polarización política son factores que pueden influir en la manera en que estas tecnologías son adoptadas y recibidas por la sociedad. Es esencial abordar estas desigualdades mediante políticas públicas que promuevan el acceso equitativo a la tecnología y la educación digital, asegurando que los beneficios de las IA generativas sean accesibles para todos los ciudadanos, y no solo para aquellos con mayores recursos.
 
Inclusive, escenarios locales pueden resultar incluso más vulnerables a los deepfakes en comparación con las de mayor magnitud debido a una menor cobertura mediática y menos recursos para la verificación de información. La falta de expertos en los medios locales para discernir entre información veraz y fabricada, la brecha digital, la desigualdad socioeconómica puede agravar el problema, haciendo que la desinformación y los contenidos falsos tengan una mayor determinación en los resultados electorales. 
 

Remedios contra los Deepfakes

¿Y la respuesta por parte del Estado? Las medidas varían globalmente. Las IA generativas, al desafiar las formas tradicionales de hacer política, requieren una respuesta igualmente innovadora y flexible. Esto implica no solo adoptar nuevas tecnologías, sino también repensar las estructuras y procesos políticos para integrarlas de manera efectiva y ética.

En un reciente y enriquecedor trabajo, Maria Victoria Carro y Enzo Maria Le Fevre Cervini plantean algunas respuestas globales a esta problemática, entre las que se destacan:

  1. Moderación de Contenidos: Las plataformas de redes sociales como Facebook, YouTube y TikTok están implementando sistemas de etiquetado y moderación para identificar y eliminar deepfakes. No obstante, estas políticas pueden ser modificadas, no son perfectas ya que no detectan todos los contenidos falsos, o el problema se presenta cuando lo que se quiere informar es parcialmente cierto.
  2. Legislación Específica: Se está avanzando en la legislación para regular los deepfakes, pero esto plantea desafíos para equilibrar la protección contra daños y la libertad de expresión. Actualmente Argentina no cuenta con legislación específica sobre este tema.
  3. Etiquetado y Marcas de Agua: La nueva ley de IA de Europa exige el etiquetado de contenidos generados o manipulados por IA. Herramientas como el SynthID de Google buscan crear marcas de agua invisibles para identificar el origen artificial de los contenidos. No obstante, la implementación efectiva de estas marcas enfrenta desafíos técnicos y ético, además de la gran dificultad de poder controlar que todos los contenidos generados o manipulados por IA cumplan con dicho requisito..
  4. Verificación de Datos: El periodismo, los medios, pero sobre todo la ciudadania, juega
    un papel fundamental en la verificación de la veracidad de la información que le es
    brindada. En nuestro país, sitios como https://chequeado.com/ fueron uno de los
    primeros en ganar notoriedad en la dificultad y necesidad de cuestionar la veracidad de
    lo que se informa en las redes.

 

Conclusión 

Las inteligencias artificiales generativas representan una innovación disruptiva en las campañas políticas, ofreciendo herramientas poderosas para la personalización, optimización y creación de contenido. En el contexto argentino de 2024, estas tecnologías tienen el potencial de transformar las campañas, fomentando una mayor conexión con los votantes y una comunicación más efectiva. Sin embargo, también presentan desafíos significativos, como la proliferación de deep fakes y la manipulación de la opinión pública, que deben ser abordados con seriedad y responsabilidad. Así, es esencial comprender cómo las IA generativas están remodelando las formas tradicionales de pensar y hacer política. Solo a través de una reflexión crítica, el debate ciudadano y una adaptación consciente podremos construir cimientos firmes en un sistema en constante cambio, con respuestas tradicionales, que muchas veces, se quedan cortas.

 

 
Por: Joaquin Diaz Salin

Otras Noticias