Page 164 - LAS REDES SOCIALES Y SU IMPACTO DEMOCRACIA

162 Pablo Rodríguez Canfranc

Otro dato curioso que arroja el estudio anterior es que los ro-
bots web que operan en Twitter y otras redes sociales diseminan las
noticias falsas y las verdaderas en la misma proporción, así que la
responsabilidad de que las primeras tengan una mayor presencia y
recorrido es únicamente humana.

Una tendencia preocupante y cada vez más presente dentro del
ámbito de la desinformación es el deepfake, la manipulación de imá-
genes de fotografía y vídeo, generalmente para atacar o desacreditar
a personajes públicos. El espectacular desarrollo de la inteligencia
artificial en la década pasada la ha convertido en una herramienta
capaz de falsificar imágenes de forma que parezcan reales, y, así, es
posible, por ejemplo, poner en boca de políticos afirmaciones que no
han realizado, o alterar escenas de películas pornográficas situando
los rostros de personajes conocidos en el cuerpo de los actores en-
frascados en actos sexuales.

A pesar de que su origen es reciente —los primeros casos infor-
mados se producen en 2017—, el deepfake ha ido creciendo a pasos
agigantados, y los 7 964 casos detectados en diciembre de 2018 se
habían convertido en 14 600 menos de un año después. La mayor
parte de estos vídeos —el 96%— tiene un contenido de tipo porno-
gráfico, y se centran en gran medida en atacar a mujeres, en muchos
casos relacionadas con el mundo del espectáculo, es decir, actrices o
cantantes (Deeptrace, 2019).

En 2020, la compañía de ciberseguridad Sensity desveló la exis-
tencia de un ecosistema deepfake embebido dentro de la plataforma
de mensajería instantánea Telegram que permitía a los usuarios des-
nudar digitalmente fotos de mujeres mediante la inteligencia artifi-
cial. Se trataba de una aplicación para teléfono móvil y ordenador
increíblemente fácil de manejar, pues solamente había que cargar la
fotografía de una mujer y el programa la devolvía desnuda, además
de compartirla en ese y otros canales de Telegram. La actividad de es-
te sistema llegó a crecer hasta un 198% en solo tres meses, y, a finales
de julio, más de 104 000 fotografías de mujeres habían sido tratadas
allí. Durante la primera mitad del año, el bot pudo reclutar a más de