Cuando la mentira tiene rostro y voz: El peligro de los deepfakes en la política

Desde la llegada de las primeras imágenes, audios y videos generados con inteligencia artificial (IA), se ha hablado de su peligro político. En sus inicios, quizás debido a la complejidad de su creación y a sus evidentes inexactitudes, el público parecía asimilarlas con cierta naturalidad. Incluso el anunciado riesgo de los deepfakes se percibía como una amenaza futura más que una realidad inmediata. Sin embargo, la evolución de esta tecnología ha demostrado que el peligro es tangible y creciente.

Los deepfakes son videos, imágenes o audios creados mediante IA que imitan de manera realista la apariencia, voz y gestos de una persona. Utilizan redes neuronales avanzadas, como las redes generativas adversarias (GANs), para generar contenido falso con una precisión que desafía la percepción humana. Su potencial de manipulación es enorme, y su aplicación en el ámbito político y social abre un debate ético crucial.

En el caso de las imágenes y videos, el peligro radica en la capacidad de generar discursos inexistentes, alterar eventos históricos o incriminar falsamente a figuras públicas. En la voz, el impacto es aún más sutil y perverso, pues es más difícil detectar manipulaciones en audios que simulan la entonación y dicción exacta de una persona real. Estos usos no solo amenazan la confianza en la información, sino que pueden ser armas para el fraude, la extorsión y la desestabilización política.

Un ejemplo reciente y alarmante ocurrió en Colombia. Según la denuncia presentada por el alcalde de Cartagena, Dumek Turbay, su identidad fue suplantada mediante inteligencia artificial con el objetivo de estafar a políticos, ministros y alcaldes en todo el país. La senadora Angélica Lozano alertó sobre el hecho tras haber sostenido una conversación telefónica con el supuesto Turbay, quien, en realidad, era un impostor utilizando su voz generada por IA. Este falso alcalde solicitaba dinero a cambio de citas y se presentaba como intermediario de una agencia de seguros.

Además, ya existen varios casos de políticos que han utilizado imágenes falsas en sus publicaciones, generando indignación y rechazo en la opinión pública. Desde fotografías alteradas para exagerar multitudes en eventos hasta imágenes fabricadas para desprestigiar adversarios, la IA está siendo utilizada como una herramienta de manipulación con fines propagandísticos. Estos episodios han encendido las alarmas sobre la necesidad de regular su uso y de que los ciudadanos desarrollen una mayor capacidad crítica ante los contenidos digitales.

Este caso pone en evidencia los riesgos concretos de los deepfakes y su potencial para socavar la confianza en las instituciones y figuras públicas. La facilidad con la que se pueden replicar voces y rostros genera un dilema: ¿cómo distinguir la verdad de la manipulación? Si ya no podemos confiar en lo que vemos y oímos, el impacto en la democracia y la vida pública podría ser devastador.

El debate ético y regulatorio sobre los contenidos con IA es urgente. Mientras la tecnología avanza a pasos agigantados, la legislación y las herramientas de detección parecen ir un paso atrás. ¿Estamos preparados para enfrentar esta nueva era de desinformación digital? ¿Cómo podemos proteger la integridad de la comunicación en tiempos donde la realidad misma puede ser fabricada? Estas preguntas no solo requieren respuestas urgentes, sino también un debate abierto y profundo que involucre a ciudadanos, expertos y legisladores.

Alfredo Jones Sánchez – @alfredojonessan