Deepfakes: cuando la mentira parece real

Enaela García CEO de CYCSAS

Los deepfakes o videos, imágenes o audios falsos creados con IA -inteligencia artificial– que imitan la apariencia y la voz de una persona real de forma hiperrealista; dejaron de ser una curiosidad tecnológica para convertirse en una amenaza digital. Con la IA que genera contenido, hoy es rápido, barato y sencillo fabricar imágenes, representaciones o audios capaces de suplantar a una persona real y hacerla parecer responsable de hechos que nunca ocurrieron.

Aunque algunos se utilizan como entretenimiento, los ciberdelincuentes los aprovechan para cometer fraudes, extorsiones y suplantación de identidad. También han adquirido una dimensión especialmente grave con la creación de imágenes íntimas falsas, utilizadas para acosar, humillar y amenazar a las víctimas, incluidos menores de edad.

La respuesta legal comienza a evolucionar. En Estados Unidos, la Ley TAKE IT DOWN, establece mecanismos para denunciar y retirar imágenes íntimas no consensuadas. Europa y otros países también avanzan en regulaciones para enfrentar estos abusos.

Pero el desafío va más allá de prohibir contenidos. Los deepfakes amenazan la confianza en fotografías, videos y audios como evidencia. Si cualquier grabación puede ser cuestionada como falsa, incluso los hechos verdaderos pueden ser puestos en duda.

Por ello, la sociedad necesita mejores herramientas de detección, legislación, responsabilidad de las plataformas y, sobre todo, alfabetización digital.

enaela.garcia@cycsas.com.mx
contacto@cycsas.com.mx