Skip to main content
Ciberseguridad

Deepfakes: definición, tipos y ejemplos clave

Explore el auge de los deepfakes, cómo se crean, sus amenazas y las formas de detectar y prevenir su uso malicioso. Conozca las tendencias, los casos reales y cómo adoptar un enfoque de protección.

Por SentinelOne
Deepfakes: definición, tipos y ejemplos clave

Con el uso generalizado de la IA para transformar sectores, los deepfakes se han convertido en un fenómeno global que difumina los límites entre lo real y lo manipulado. Según las encuestas, más de la mitad de los empleados de las organizaciones no recibe formación adecuada sobre los riesgos de los deepfakes. Al mismo tiempo, 1 de cada 4 líderes aún desconoce estas sofisticadas falsificaciones llamadas deepfakes, y se producen incidentes cada cinco minutos en todo el mundo. En este contexto, las defensas contra los deepfakes ya no son opcionales, y las empresas necesitan saber qué son los deepfakes y cómo mitigarlos.

Comencemos este artículo definiendo los deepfakes y explicando cómo han llegado a ejercer tanta influencia en los medios y la seguridad. Después, abordaremos su evolución histórica, sus distintas formas, cómo se crean y cómo se detectan. También describiremos sus usos reales, tanto positivos como negativos, las perspectivas de futuro y algunos consejos para protegerse de los deepfakes. Por último, explicaremos cómo proteger a las organizaciones de estas manipulaciones sofisticadas y responderemos algunas de las preguntas más frecuentes sobre qué es un deepfake en ciberseguridad.

¿Qué son los deepfakes?

Los deepfakes son, en esencia, contenidos sintéticos (generalmente videos o audios) creados por modelos de IA que imitan rostros, voces o movimientos de personas reales con un realismo inquietante. Estos sistemas utilizan técnicas de aprendizaje profundo, específicamente redes generativas adversarias (GANs), que enfrentan dos redes neuronales entre sí, una que crea falsificaciones y otra que evalúa su autenticidad. El generador perfecciona el resultado tras numerosas iteraciones hasta engañar al discriminador y crear imitaciones muy realistas, conocidas como los mejores deepfakes cuando el producto final resulta indistinguible de una grabación real.

A veces pueden ser cómicos o creativos, pero también pueden utilizarse para robar identidades o difundir desinformación. Los deepfakes se han convertido en un importante desafío de ciberseguridad, según una encuesta de 2023 en la que el 92 % de los directivos expresó ‘gran preocupación’ por el uso indebido de la IA generativa.

Impacto de los deepfakes

Como demuestran varios ejemplos que veremos más adelante en el artículo, el contenido deepfake es peligroso y puede utilizarse para diversos ataques, desde daños a la reputación a pequeña escala hasta campañas de desinformación a gran escala. Una cifra alarmante revela que el fraude mediante sustitución de rostros con deepfakes en la verificación de identidad aumentó un 704 % en 2023, lo que muestra cómo los delincuentes usan la IA para robar identidades. A continuación se presentan cinco formas en que los deepfakes definen los riesgos actuales.

  1. Pérdida de confianza en las pruebas visuales: Durante muchos años, el video se consideraba una prueba casi irrefutable. Ahora es posible poner la cabeza o la voz de una persona en el cuerpo de otra. Esto significa que lo que parece una prueba podría no ser real. Estas ilusiones llevan al público a dudar de los videos auténticos y a cuestionar la veracidad de las noticias o las confesiones que muestran. Al desdibujarse la distinción entre lo auténtico y lo falso, la pregunta «¿qué es un deepfake y qué es real?» se convierte en un problema importante para la justicia y el público.
  2. Daño a la reputación y desprestigio personal: Un video puede mostrar a la persona objetivo diciendo algo provocador o cometiendo una falta. Una vez publicado en internet, se difunde rápidamente antes de que se desmienta la información falsa. La duda persiste y la credibilidad del canal queda dañada, incluso cuando se demuestra que el video es falso. Los deepfakes utilizados en campañas de desprestigio político ya muestran lo rápido que las falsificaciones pueden imponerse a las declaraciones reales.
  3. Ingeniería social y fraude empresarial: Las empresas pierden dinero cuando llamadas o videos deepfake engañan a los empleados para que transfieran fondos o revelen información. Los atacantes se aprovechan de la confianza de los empleados al imitar la voz o el aspecto de usuarios legítimos para conseguir que aprueben sus solicitudes. En la autenticación basada en la identidad, una identidad comprometida pone en riesgo toda la cadena de suministro o los procesos financieros. Esto demuestra que la tecnología deepfake amplifica las técnicas existentes de ingeniería social.
  4. Promoción de noticias falsas: Los grupos extremistas pueden grabar vídeos de sus líderes apoyando la agenda de noticias falsas o falsificando documentos recién filtrados para causar división. En este caso, las ilusiones se difunden en las plataformas sociales donde la gente comparte noticias falsas antes de que las organizaciones de verificación de datos puedan intervenir. Para cuando un clip es desacreditado, ya ha influido en miles de personas. Esto es especialmente cierto porque el contenido deepfake es de naturaleza viral y puede causar una agitación política o social significativa.
  5. Difusión de noticias falsas: Los grupos extremistas pueden crear videos de sus líderes respaldando noticias falsas o falsificar documentos supuestamente filtrados para provocar divisiones. Estas falsificaciones se difunden en plataformas sociales, donde las personas las comparten antes de que intervengan las organizaciones de verificación de datos. Para cuando se desacredita un video, ya ha influido en miles de personas. Esto es especialmente relevante porque el contenido deepfake se propaga con facilidad y puede causar graves conmociones políticas o sociales.
  6. Ataques a la verificación y autenticación de la identidad: El reconocimiento facial o de voz como método biométrico es muy vulnerable a los deepfakes. Se puede utilizar para crear vídeos falsos de intercambio de rostros para pasar los procesos de KYC o para desbloquear el teléfono o cualquier otro dispositivo de otra persona. Por eso aumentaron los robos de identidad, lo que llevó a otras soluciones a integrar la detección de vida o el análisis de microexpresiones. La presencia de ilusiones de "deepfakes de IA" en los dominios de autenticación supone una amenaza para la capa central de ciberseguridad.
  7. Ataques contra la verificación de identidad y la autenticación: El reconocimiento facial o de voz como método biométrico es muy vulnerable a los deepfakes. Estos pueden utilizarse para crear videos falsos con sustitución de rostros y superar procesos KYC, o para desbloquear el teléfono u otro dispositivo de una persona. Por ello, el aumento del robo de identidad ha llevado a otras herramientas a incorporar detección de vida o análisis de microexpresiones. Las falsificaciones mediante “deepfakes con IA” en los sistemas de autenticación amenazan una capa fundamental de la ciberseguridad.

Deepfakes frente a shallowfakes

No todos los videos manipulados requieren IA compleja. «Shallowfake» se refiere a técnicas de edición más sencillas, como ralentizar o acelerar clips. En cambio, los métodos de Deepfake utilizan redes neuronales avanzadas para lograr resultados más realistas. Los Deepfakes emplean técnicas de aprendizaje profundo para replicar un rostro, una voz o incluso un cuerpo entero con una precisión casi perfecta. Mantienen una iluminación uniforme, reproducen los movimientos faciales y adaptan las expresiones del rostro de la persona imitada. Estas ilusiones pueden engañar incluso a los espectadores más cautelosos gracias al sofisticado procesamiento de datos. Su rasgo distintivo es el uso de capas avanzadas y modelos generativos para crear resultados de gran realismo.

Sin embargo, un “shallowfake” suele recurrir a cortes manuales, técnicas para ralentizar o acelerar un video, o filtros de edición sencillos. Puede engañar a quienes no saben que el video se ha acelerado o sacado artificialmente de contexto. Los shallowfakes son más fáciles de detectar, pero pueden ser muy eficaces para difundir verdades parciales o falsificaciones cómicas. Aunque son menos avanzados que los deepfakes, también se utilizan para desinformar y manipular los medios.

Historia de la tecnología deepfake

Los deepfakes tienen su origen en los avances del aprendizaje profundo y la colaboración de código abierto, que impulsaron una oleada de innovaciones en la sustitución de rostros. Los experimentos de manipulación facial existen desde hace décadas, pero las redes neuronales modernas llevaron el realismo a niveles sorprendentes.

Una estimación prevé que, para 2026, el 30 por ciento de las empresas dejará de confiar por completo en la verificación de identidad como prueba de confianza debido a los avances en las falsificaciones basadas en IA.

  1. Primeros experimentos y trasplante de rostros: En la década de 1990, los especialistas en CGI experimentaron con sustituciones de rostros rudimentarias, animadas a mano, para efectos cinematográficos. Aunque las herramientas avanzaron, los resultados parecían poco naturales y exigían editar los fotogramas manualmente. Los investigadores de informática probaron el aprendizaje automático para transformar rostros, pero las limitaciones del hardware frenaron los avances. El concepto sentó las bases de los deepfakes, pero los verdaderos avances no llegaron hasta que se dispuso de conjuntos de datos más amplios y mayor capacidad de procesamiento con GPU.
  2. Redes generativas adversarias (GAN): Ian Goodfellow presentó las GAN en 2014 y revolucionó los medios sintéticos. Los ciclos de retroalimentación entre un generador y un discriminador perfeccionaron los rostros sintéticos e inspiraron falsificaciones muy realistas. Al superar las antiguas limitaciones del trabajo manual, los creadores descubrieron que los “mejores deepfakes” podían reproducir microexpresiones y matices de iluminación antes inalcanzables.
  3. La comunidad y la popularización en Reddit: Los deepfakes ganaron notoriedad pública alrededor de 2017, cuando algunos subreddits comenzaron a difundir sustituciones de rostros de celebridades: unas graciosas y otras no tanto. Así se descubrió que el código abierto y las GPU de consumo habían puesto las falsificaciones al alcance de muchos. Las plataformas de deepfakes prohibieron el contenido creado sin consentimiento, pero ya era imposible contener a los deepfakes: proliferaron las variantes del código y las nuevas interfaces fáciles de usar. Esto puso de manifiesto los dilemas éticos de una manipulación facial tan accesible.
  4. Herramientas comerciales y avances en tiempo real: Hoy, las aplicaciones y los productos comerciales realizan sustituciones de rostros, sincronizaciones labiales o clonaciones de voz a gran escala con poca intervención del usuario. Otras herramientas crean falsificaciones en tiempo real para transmisiones o bromas en videoconferencias. Mientras tanto, los estudios perfeccionan la tecnología deepfake con IA para recrear actores en el cine o adaptar contenido a otros idiomas. Sin embargo, a medida que aumentaba su uso, las empresas y los organismos gubernamentales comenzaron a reconocer las amenazas de infiltración y propaganda.
  5. Respuesta normativa y esfuerzos de detección: Los gobiernos de todo el mundo proponen o promulgan leyes para prohibir el uso malicioso de los deepfakes, especialmente en casos de difamación o fraude. Al mismo tiempo, las empresas tecnológicas colaboran con especialistas en inteligencia artificial para mejorar la detección de deepfakes en las redes sociales. Sin embargo, esto genera una dinámica en la que una parte desarrolla un nuevo método de detección y la otra inventa una nueva forma de crear deepfakes. Se prevé que la creatividad y el creciente problema de las amenazas de ciberseguridad asociadas a los deepfakes seguirán enfrentándose en el futuro.

Tipos de deepfakes

Aunque los videos con rostros sustituidos acaparan los titulares, las falsificaciones deepfake adoptan muchas formas, desde imitaciones de audio hasta recreaciones de cuerpo completo. Conocer cada tipo permite entender el alcance de los posibles abusos.

A continuación, clasificamos los principales tipos de deepfakes presentes en los medios cotidianos y en contextos avanzados de seguridad.

  1. Videos con sustitución de rostros: En la versión más conocida, se superpone el rostro de una persona al cuerpo en movimiento de otra. Las redes neuronales rastrean las expresiones y las ajustan fotograma a fotograma para crear falsificaciones realistas. Algunos de estos videos deepfake son memes inofensivos, mientras que otros son engaños maliciosos que pueden arruinar reputaciones. Incluso a los espectadores más atentos les puede resultar difícil detectar los detalles de alta fidelidad sin herramientas avanzadas.
  2. Sincronización labial y superposición de audio: Las falsificaciones de sincronización labial, a veces llamadas ‘manipulación de marionetas’, modifican los movimientos de la boca para hacerlos coincidir con audio sintético o manipulado. ¿El resultado? Parece que una persona pronuncia palabras que nunca dijo. Si se combina con la clonación de voz, el ‘rostro’ del video puede interpretar guiones completos de forma convincente.
  3. Clonación solo de voz: Los deepfakes de audio se basan únicamente en la reproducción de voces mediante IA, sin imágenes. Los estafadores los utilizan en fraudes telefónicos, por ejemplo, para hacerse pasar por un directivo y ordenar transferencias urgentes. Otros crean voces de “celebridades invitadas” para campañas de marketing. Detectar este tipo de deepfake es difícil porque no ofrece pistas visuales y requiere análisis espectral avanzado o identificar indicios sospechosos en el contexto.
  4. Recreación de cuerpo completo: Los modelos generativos pueden captar la postura, los movimientos y los gestos de un actor y aplicarlos a otra persona. El resultado muestra a alguien bailando, practicando deportes o realizando tareas que nunca hizo. El cine y las experiencias de realidad aumentada requieren falsificaciones de cuerpo completo. Sin embargo, en ciberseguridad preocupa especialmente la posibilidad de falsificar ‘videos que sirvan de coartada’ o pruebas escenificadas mediante deepfakes.
  5. Clones conversacionales basados en texto: Aunque no se los denomina deepfakes con tanta frecuencia, los sistemas de generación de texto imitan el estilo de escritura o la forma de chatear de una persona. Los ciberdelincuentes crean conversaciones que imitan el lenguaje y el estilo de escritura del usuario. Al añadir la voz o la imagen a la ilusión, se puede crear una falsificación en varios niveles – o incluso un personaje deepfake completo. Es previsible que, a medida que aumente la complejidad de la IA generativa basada en texto, se utilice no solo para falsificar imágenes, sino también en campañas de ingeniería social a través de plataformas de mensajería.

¿Cómo funcionan los deepfakes?

Los deepfakes se crean mediante un proceso de recopilación de datos, entrenamiento de modelos y perfeccionamiento de las ilusiones. Los delincuentes están aprovechando la IA generativa para cometer fraudes, y las investigaciones muestran un crecimiento del 700% en los incidentes de deepfakes en el sector fintech.

gt;IA generativa para cometer fraudes, y las investigaciones muestran un crecimiento del 700 % en los incidentes de deepfakes en el sector fintech.

Conocer el proceso permite a las empresas comprender las vulnerabilidades y las posibles medidas de defensa.

    Al conocer el proceso, las empresas pueden comprender las vulnerabilidades y las posibles contramedidas.
  1. Recopilación y preparación de datos: Los creadores reúnen grandes bibliotecas de imágenes o audios de la persona objetivo, a menudo procedentes de redes sociales, entrevistas o archivos públicos. Cuanto más variados sean los ángulos, las expresiones o las muestras de voz, más realista será el deepfake final. Después, normalizan los fotogramas, estandarizan la resolución y etiquetan los rasgos relevantes (por ejemplo, los ojos o la forma de la boca). Esta preparación garantiza que la red neuronal reciba datos coherentes durante las distintas etapas del entrenamiento.
  2. Entrenamiento de redes neuronales: Los modelos de aprendizaje adversarial, como las GANs, son fundamentales para las ilusiones creadas con IA porque perfeccionan cada fotograma o fragmento de audio generado. El generador intenta engañar a un discriminador que evalúa la autenticidad. Tras numerosas iteraciones, perfecciona el resultado para reproducir matices reales, como los patrones de parpadeo o la entonación. Esta interacción da lugar a deepfakes que pueden resultar casi indistinguibles de las grabaciones auténticas.
  3. Alineación y adaptación de rostros y voces: Una vez que el modelo aprende a reproducir los rasgos faciales o vocales de la persona objetivo, los incorpora a la cabeza, el cuerpo o la pista de voz de otra persona en una grabación real. Para sincronizarlos con el video de referencia, se alinean los labios, los ojos o los movimientos. En el caso del audio, el análisis de la forma de onda combina el timbre de la persona objetivo con el ritmo de la pista original. Los pequeños defectos o diferencias de color que podrían revelar el deepfake se corrigen durante la posproducción.
  4. Posproducción y renderizado final: Para dar los últimos retoques, los creadores suelen procesar los fotogramas o el audio con herramientas de edición. Así suavizan los bordes, igualan la iluminación o ajustan el tono de voz. Algunos incluso reducen deliberadamente la calidad del video para que parezca una grabación habitual de un smartphone. Cuando están satisfechos, publican el contenido en plataformas sociales o lo envían a sus destinatarios. El resultado parece auténtico, lo que genera preocupación y aumenta la necesidad de métodos de detección más eficaces.

¿Cómo se crean los deepfakes?
  • Recopilación y preprocesamiento de datos: Los creadores recopilan enormes bibliotecas de imágenes o audio del objetivo, a menudo a partir de redes sociales, entrevistas o archivos públicos. Cuanto más variados sean los ángulos, las expresiones o las muestras de voz, más realista será el deepfake final. A continuación, normalizan los fotogramas, estandarizan la resolución y etiquetan los puntos de referencia relevantes (por ejemplo, los ojos o la forma de la boca). Con este fin, esta curación garantiza que la red neuronal vea los mismos datos en las diferentes etapas del entrenamiento.
  • Entrenamiento de la red neuronal: Los marcos de aprendizaje adversarial como las GAN son el núcleo de las ilusiones basadas en la IA, ya que refinan cada fotograma o fragmento de audio creado. Intentan engañar a un discriminador que critica la autenticidad. A través de muchas iteraciones, el generador es capaz de pulir el resultado para que coincida con los matices del mundo real, como los patrones de parpadeo o la entonación vocal. La sinergia da lugar al fenómeno del deep fake, que da como resultado falsificaciones casi perfectas.
  • Alineación y deformación de la cara y la voz: Una vez que aprende a replicar los rasgos faciales o vocales del objetivo, los combina con la cabeza, el cuerpo o la pista de voz de una segunda persona en imágenes reales. Para garantizar la sincronización con el clip de referencia, se realiza una alineación de los labios, los ojos o los movimientos. El análisis de la forma de onda mezcla el timbre de la voz del objetivo con la sincronización de la pista base para el audio. Los pequeños artefactos o desajustes de color que podrían sugerir que se trata de un deepfake de IA se corrigen con el posprocesamiento.
  • Postproducción y renderización final: Para los toques finales, los creadores suelen pasar los fotogramas o el audio resultantes por herramientas de edición para suavizar los bordes, igualar la iluminación o ajustar el tono del audio. Algunos incluso pueden degradar intencionadamente la calidad del vídeo para que se parezca al tipo de grabaciones típicas de los teléfonos inteligentes que podrían contener posibles deepfakes. Los productores publican el contenido en las plataformas sociales o lo envían a los destinatarios una vez que están satisfechos. El resultado parece auténtico, lo que causa alarma y da lugar a una demanda de métodos de detección mejorados.
  • Pese a las controversias, muchas personas quieren entender mejor cómo se crean los deepfakes. Hoy, cualquiera puede producir ilusiones avanzadas con software fácil de usar y modelos de código abierto. A continuación, describimos los métodos habituales de aficionados y profesionales para mostrar lo fácil que puede ser crear este tipo de contenido malicioso.

      Aunque existen varias controversias, muchas personas están interesadas en comprender mejor el concepto para crear deepfakes. Ahora, cualquiera puede crear ilusiones avanzadas con software fácil de usar y modelos de código abierto. A continuación describimos los métodos habituales que utilizan los aficionados y los profesionales, mostrando lo fácil que es crear este tipo de contenido malicioso.
    1. Aplicaciones de intercambio de rostros: Existen diversas herramientas de consumo con las que incluso los principiantes pueden intercambiar rostros desde un teléfono o una computadora con poco esfuerzo. Basta con cargar dos videos (uno de origen y otro de destino) para que el software automatice el entrenamiento y la combinación. Sin embargo, estas aplicaciones pueden utilizarse para suplantar identidades con fines maliciosos. Su accesibilidad favorece tanto el entretenimiento como el uso indebido de deepfakes.
    2. Modelos GAN y código abierto: Los resultados avanzados son accesibles mediante frameworks como TensorFlow o PyTorch, con repositorios dedicados a la falsificación de rostros o voces. Quienes experimentan y dominan la arquitectura de redes, los parámetros de entrenamiento o incluso la combinación de datos pueden personalizar las arquitecturas de red, ajustar los parámetros de entrenamiento o integrar varios conjuntos de datos. Este enfoque permite crear los mejores deepfakes, pero exige más hardware (GPU) y conocimientos de programación. Esto eleva significativamente el nivel de sofisticación del engaño al permitir ajustar las ilusiones más allá de las opciones predeterminadas de las herramientas listas para usar.
    3. Ilusiones basadas en audio: Quienes crean ilusiones basadas en audio utilizan scripts de síntesis de voz y los combinan con módulos de sincronización labial para generar movimientos de boca realistas. El sistema se entrena con muestras de voz y genera nuevas frases con el acento o la forma de hablar de la persona objetivo. La alineación de los labios hace que los movimientos coincidan con cada fonema. Estas combinaciones de voz y sincronización labial pueden crear ilusiones sorprendentemente precisas de una persona hablando frente a la cámara.
    4. Servicios de renderizado en la nube: Algunos proveedores comerciales de deepfakes o herramientas de IA se encargan del entrenamiento intensivo de modelos en servidores remotos. Los usuarios solo tienen que enviar conjuntos de datos o parámetros de un guion y esperar el resultado final. Esto elimina las limitaciones de las GPU locales y permite crear ilusiones grandes o complejas con una infraestructura potente. Por otra parte, también facilita la producción rápida de falsificaciones avanzadas y plantea preocupaciones para la ciberseguridad.
    5. Superposiciones manuales y edición híbrida: Después de generar un mapa facial con una red neuronal, los creadores usan programas como Adobe After Effects para retocar manualmente los fotogramas. Corrigen defectos en los bordes, ajustan la iluminación o incorporan fragmentos manipulados de forma sencilla para que las transiciones apenas se noten. La combinación de contenido generado con IA y una posproducción experta puede resultar casi perfecta. Así se crea un deepfake capaz de situar a una persona donde nunca estuvo, desde escenas cómicas hasta suplantaciones maliciosas.

    ¿Cómo detectar los deepfakes?
  • Aplicaciones de intercambio de caras: Existen diversas herramientas de consumo que permiten a los principiantes crear intercambios de caras desde un teléfono o un ordenador con un esfuerzo mínimo. El software automatiza el entrenamiento y la mezcla mediante la carga de dos vídeos (uno de origen y otro de destino). Sin embargo, estas aplicaciones pueden utilizarse para falsificar identidades si se utilizan con fines maliciosos. La democratización fomenta tanto el entretenimiento lúdico como el uso indebido y grave de los deepfakes.
  • Marcos GAN y código abierto: Se pueden obtener resultados avanzados a través de marcos como TensorFlow o PyTorch con repositorios dedicados a la falsificación de rostros o voces. Los aficionados a la tecnología, expertos en arquitectura de redes, parámetros de entrenamiento o incluso combinaciones de datos, pueden adaptar las arquitecturas de red, ajustar los parámetros de entrenamiento o integrar múltiples conjuntos de datos. Con este enfoque se pueden conseguir los mejores deepfakes, pero requiere más hardware (GPU) y conocimientos de programación. Esto supone un aumento significativo del nivel de engaño, ya que permite ajustar las ilusiones más allá de los valores predeterminados de fábrica.
  • Ilusiones basadas en audio: Los creadores que se centran en las ilusiones basadas en audio utilizan scripts de síntesis de voz y los combinan con módulos de sincronización labial para conseguir movimientos de boca realistas. El sistema puede entrenarse con muestras de voz y generar nuevas líneas con el acento o los gestos del objetivo. Para garantizar que las imágenes coincidan con cada fonema pronunciado, se proporciona la alineación del movimiento de los labios. Estas "combinaciones de sincronización labial deepfake" son capaces de crear ilusiones de "cabezas parlantes" sorprendentemente precisas.
  • Servicios de renderización basados en la nube: Algunos proveedores comerciales de deepfakes o de herramientas de IA pueden encargarse del pesado entrenamiento de modelos en servidores remotos. Los usuarios solo tienen que enviar conjuntos de datos o parámetros de script y esperar los resultados finales. Se eliminan las limitaciones de las GPU locales y se pueden ejecutar ilusiones grandes o complejas en una infraestructura robusta. Por otro lado, también permite realizar pedidos rápidos de falsificaciones avanzadas, lo que suscita preocupaciones sobre la ciberseguridad de los deepfakes.
  • Superposiciones manuales y edición híbrida: A continuación, los creadores utilizan software como Adobe After Effects para refinar manualmente los fotogramas, incluso después de haber generado un mapa facial basado en una red neuronal. Resuelven los artefactos de los bordes, cambian la iluminación o incluyen empalmes shallowfake para que las transiciones de los artefactos sean lo más mínimas posible. La combinación de contenido generado por IA y una hábil posproducción es casi perfecta. El resultado es un deepfake que puede colocar fácilmente un sujeto falso en cualquier lugar, desde sketches divertidos hasta imitaciones maliciosas.
  • Detectar deepfakes se vuelve más difícil a medida que las ilusiones ganan realismo. Dado que la mitad de los profesionales de ciberseguridad no ha recibido formación específica sobre deepfakes, las organizaciones corren el riesgo de sufrir fraudes graves o campañas de desinformación. Estos son algunos métodos probados, tanto manuales como basados en IA, para detectar deepfakes.

      El arte y la ciencia de la detección se vuelven más difíciles a medida que las ilusiones se hacen más realistas. Dado que la mitad de los profesionales de la ciberseguridad carecen de formación formal en deepfakes, las organizaciones corren el riesgo de convertirse en víctimas de fraudes o desinformación de alto riesgo. A continuación se presentan algunos enfoques probados, tanto manuales como basados en la inteligencia artificial, que funcionan bien para la detección de deepfakes.
    1. Observación humana y pistas contextuales: Incluso las ilusiones avanzadas tienen limitaciones. Un parpadeo irregular, sombras extrañas o comisuras que no coinciden con los movimientos de la boca pueden despertar sospechas. También conviene buscar transiciones faciales poco naturales cuando la persona gira la cabeza. Revisar el fondo o las marcas de tiempo puede servir para contrastar posibles indicios de edición. Las comprobaciones manuales no son infalibles, pero siguen siendo la primera línea de defensa para reconocer un deepfake a simple vista.
    2. Análisis forense con IA: Los clasificadores de redes neuronales entrenados para detectar indicios de contenido sintético analizan patrones a nivel de píxel o en el dominio de la frecuencia. Comparan la distribución normal de los rasgos faciales con los fotogramas sospechosos para señalar alineaciones o tonalidades anómalas. Algunas herramientas también examinan señales temporales, como las microexpresiones entre fotogramas. Estos algoritmos de detección deben evolucionar a medida que mejoran los deepfakes creados con IA.
    3. Inspección de metadatos y EXIF: Si un archivo contiene metadatos, pueden aparecer discrepancias entre las fechas de creación y modificación, datos incorrectos del dispositivo o rastros de codificación y recodificación. En algunas falsificaciones avanzadas, también se eliminan los datos EXIF para ocultar pistas. Aunque muchos videos legítimos tienen metadatos incompletos, las diferencias repentinas pueden indicar manipulación. Este método complementa los análisis más profundos, especialmente al verificar contenido empresarial o informativo.
    4. Interacciones en tiempo real (pruebas de presencia y seguimiento del movimiento): Las interacciones en tiempo real, como reaccionar espontáneamente durante una videollamada en vivo, pueden revelar o confirmar una falsificación. Si la IA no se adapta con suficiente rapidez, aparecen retrasos o fallos en el rostro. Los sistemas de detección de presencia suelen analizar micromovimientos musculares, ángulos de la cabeza o patrones de parpadeo aleatorios que las falsificaciones rara vez reproducen de forma constante. Otros sistemas de verificación de identidad piden al usuario que mueva el rostro de determinadas maneras. Si el video no sigue esos movimientos, el deepfake queda al descubierto.
    5. Comparación con las grabaciones originales: Si un video sospechoso muestra a una persona en un evento o pronunciando ciertas palabras, consultar la fuente oficial puede confirmar o desmentir lo que presenta. Los comunicados de prensa, las tomas desde otros ángulos y las declaraciones oficiales permiten detectar discrepancias. Este método combina la verificación de hechos con la detección de deepfakes. Ante la difusión viral de engaños, los medios de comunicación recurren a estas comprobaciones para proteger su credibilidad.

    Aplicaciones de los deepfakes
  • Observación humana y pistas contextuales: Las ilusiones avanzadas tienen sus límites, y factores como parpadear de forma inconsistente, sombras extrañas o comisuras de los labios que no coinciden pueden levantar sospechas. Los observadores también pueden buscar "transiciones" faciales poco naturales cuando el sujeto gira la cabeza. Las ediciones sospechosas se pueden verificar cruzando los fondos o las marcas de tiempo. Las comprobaciones manuales no son infalibles, pero siguen siendo la primera línea de defensa para detectar un deepfake de un vistazo.
  • Análisis forense con IA: Los clasificadores de redes neuronales entrenados específicamente para detectar artefactos sintetizados pueden analizar patrones a nivel de píxeles o dominios de frecuencia. El sistema señala alineaciones poco naturales o sombreados de color comparando las distribuciones normales de los rasgos faciales con los fotogramas sospechosos. Algunas soluciones utilizan señales temporales, por ejemplo, el seguimiento de microexpresiones a lo largo de los fotogramas. Estos algoritmos de detección también deben evolucionar a medida que las ilusiones de deepfake con IA siguen mejorando en una carrera armamentística perpetua.
  • Inspección de metadatos y EXIF: Si un archivo tiene metadatos, la marca de tiempo de creación a menudo no coincide con la marca de tiempo del archivo, la información del dispositivo es incorrecta o hay rastros de codificación y recodificación. Algunas ilusiones avanzadas también eliminan los datos EXIF para ocultar rastros. Aunque la mayoría de los clips legítimos tienen metadatos deficientes, las disparidades repentinas sugieren manipulación. Este enfoque se complementa con un análisis más profundo, en particular para la verificación empresarial o de noticias.
  • Interacciones en tiempo real (comprobaciones de vitalidad y seguimiento del movimiento): Con interacciones en tiempo real, como la capacidad de reaccionar espontáneamente en una videollamada en directo, se pueden revelar o confirmar las ilusiones. Si la IA no se adapta con la suficiente rapidez, se producen retrasos o fallos faciales. Los marcos de detección de vida, en general, se basan en movimientos musculares microscópicos, ángulos de la cabeza o patrones de parpadeo aleatorios que las falsificaciones rara vez imitan de forma consistente. Otros sistemas de identificación requieren que el usuario mueva la cara de determinadas formas, y si el vídeo no puede seguir el ritmo, el deepfake queda al descubierto.
  • Referencia cruzada con el metraje original: Si un clip sospechoso afirma que una persona está en un evento concreto o dice ciertas frases, la comprobación de la fuente oficial puede confirmar o refutar lo que se afirma. A menudo se encuentran contenidos que no coinciden en comunicados de prensa, ángulos de cámara alternativos o declaraciones oficiales que conocemos. Combina la verificación de datos estándar con la detección de deepfakes. En la era de los bulos virales, los medios de comunicación convencionales ahora confían en estas verificaciones cruzadas en nombre de la credibilidad.
  • Aunque los deepfakes suelen tratarse desde una perspectiva negativa, también pueden tener usos valiosos e innovadores en distintos sectores. Sus aplicaciones van más allá de las falsificaciones maliciosas e incluyen las artes creativas y las herramientas especializadas.

    Estos son cinco ejemplos destacados de cómo las ilusiones creadas con IA pueden aportar utilidad y entretenimiento cuando se usan de forma ética.

    A continuación se presentan cinco ejemplos destacados de cómo el uso de ilusiones basadas en la IA puede utilizarse con fines utilitarios y de entretenimiento, si se utiliza de forma ética.
    1. Resurrecciones digitales en el cine: A veces, los estudios recrean digitalmente a un actor fallecido para una breve aparición o vuelven a rodar escenas sin cambiar el reparto. Un modelo de IA analiza imágenes de archivo y reconstruye expresiones faciales para incorporarlas a nuevas escenas. Esta técnica puede rendir homenaje a las estrellas clásicas, aunque también plantea dudas sobre la autenticidad y los derechos de los actores. Si se utiliza con respeto, combina la nostalgia con efectos digitales avanzados.
    2. Adaptación lingüística realista: Por ejemplo, las cadenas de televisión y las plataformas de streaming utilizan la reanimación facial para sincronizar las voces dobladas con los movimientos de labios de los actores. Este uso de deepfakes va más allá del doblaje convencional: hace que el actor en pantalla parezca hablar el idioma local. Así, el público internacional disfruta de una experiencia más inmersiva y se reduce la necesidad de volver a grabar. Aunque en círculos pequeños se ha usado como novedad cómica, las grandes plataformas de contenido ven su potencial para la distribución mundial.
    3. Formación y simulación empresarial: Algunas empresas crean videos deepfake personalizados para formar al personal sobre políticas y seguridad interna. Por ejemplo, pueden mostrar al director ejecutivo transmitiendo mensajes motivadores personalizados o representar una situación incorrecta con los rostros reales de los empleados. Aunque el método puede resultar manipulador, también puede aumentar la participación. Si se identifica claramente el contenido como sintético, estas simulaciones muestran qué es un deepfake en el entorno empresarial y enseñan lecciones útiles.
    4. Campañas de marketing personalizadas: Las marcas experimentan con ilusiones creadas con IA en las que sus representantes saludan a los usuarios por su nombre o pronuncian mensajes personalizados. Utilizan técnicas avanzadas de mapeo facial para mejorar la interacción con el público y combinar entretenimiento con marketing. La comercialización de los deepfakes se mueve entre la novedad y la intrusión: despierta curiosidad en algunas personas y preocupaciones sobre privacidad y autenticidad en otras.
    5. Narración de historias en museos históricos o culturales: Los museos y educadores pueden animar a figuras históricas (como Abraham Lincoln o Cleopatra) para que pronuncien monólogos en exposiciones inmersivas. Estos deepfakes se presentan con advertencias claras porque su fin es educar, no engañar. El público puede ver la «historia viva» y establecer vínculos emocionales con acontecimientos del pasado. Las organizaciones controlan cuidadosamente el uso de estas ilusiones para despertar la curiosidad y acercar los registros históricos al público actual.
  • En el cine, resurrecciones digitales: Los estudios a veces resucitan a un actor fallecido para un cameo o vuelven a rodar escenas sin cambiar el reparto. Un modelo deepfake de IA escanea material de archivo y reconstruye expresiones faciales, para luego integrarlas a la perfección en nuevos contextos cinematográficos. Esta técnica muestra un gran respeto por las estrellas clásicas, aunque plantea cuestiones sobre la autenticidad y los derechos de los actores. Pero, si se hace con respeto, combina la nostalgia con la magia avanzada de los gráficos por ordenador.
  • Localización lingüística realista: Por ejemplo, las cadenas de televisión o los servicios de streaming utilizan la reanimación facial para sincronizar las voces dobladas con los movimientos labiales de los actores. El enfoque Deepfake sustituye el doblaje de voz estándar por el uso del idioma local por parte de la estrella que aparece en pantalla, alineando así la forma de la boca. Esto promueve una mayor inmersión en el público global y reduce los gastos generales de regrabación. Aunque el concepto está dirigido a la novedad cómica en un círculo reducido, las principales plataformas de contenido ven el potencial para la distribución mundial.
  • Formación y simulación corporativas: Varias empresas crean vídeos deepfake personalizados para la formación en políticas y la seguridad interna. Pueden mostrar a un director ejecutivo pronunciando discursos motivadores personalizados o un escenario "incorrecto" con los rostros reales del personal. Aunque se trata de una manipulación límite, este enfoque puede generar un mayor compromiso. Claramente etiquetado, aclara "qué es el deepfake en un entorno empresarial", utilizando ilusiones para enseñar lecciones útiles.
  • Campañas de marketing personalizadas: Las marcas están experimentando con ilusiones de IA que saludan a los usuarios por su nombre o con embajadores de marca, repitiendo frases personalizadas. Utilizan un mapeo facial avanzado para ajustar la participación del público y vincular el entretenimiento con el marketing. La comercialización de los deepfakes se mueve en una delgada línea entre la novedad y la intrusión, despertando la curiosidad de algunos y suscitando preocupaciones sobre la privacidad y la autenticidad en otros.
  • Narración de historias en museos históricos o culturales: Los museos o los educadores pueden animar a personajes históricos (Abraham Lincoln o Cleopatra) para que pronuncien monólogos en exposiciones inmersivas. Con el objetivo de educar, no de engañar, estos deepfakes van acompañados de avisos legales. El público puede ver "historia viva" y establecer vínculos emocionales con acontecimientos del pasado. Las organizaciones controlan cuidadosamente el uso de ilusiones para despertar la curiosidad y tender puentes entre los registros antiguos y el público moderno.
  • ¿Cuáles son los usos más habituales de los deepfakes?

    ¿Cómo se utilizan habitualmente los deepfakes?

    Los deepfakes tienen usos legítimos o creativos, pero la pregunta más frecuente es: “¿Cómo se usan los deepfakes en la vida real?” La técnica es tan fácil de usar que se está adoptando ampliamente, desde intercambios cómicos de rostros hasta robos de identidad maliciosos.

    Los deepfakes tienen usos legítimos o creativos, pero la pregunta más habitual es: "¿Cómo se utilizan los deepfakes en la vida real?". La técnica es tan fácil de usar que se está generalizando su adopción, lo que significa que se utiliza desde intercambios cómicos de caras hasta el robo malicioso de identidades.

    A continuación, presentamos usos habituales que han contribuido al debate mundial sobre qué son los deepfakes en la IA.

    A continuación, señalaremos los escenarios de uso más comunes que contribuyeron a la creación del debate global sobre qué son los deepfakes en la IA.
    1. Retos cómicos de intercambio de rostros: TikTok y Reddit albergan todo tipo de retos cómicos de intercambio de rostros. Los usuarios superponen sus caras a rutinas de baile o escenas virales de películas. Estas ilusiones se difunden rápidamente y algunos de los mejores deepfakes pasan a formar parte de la cultura popular. Aunque suelen ser inofensivos, incluso los usos cómicos pueden generar desinformación involuntariamente si no se identifican como tales. Este fenómeno muestra hasta qué punto se aceptan las ilusiones en la vida cotidiana.
    2. Pornografía sin consentimiento: El lado más oscuro aparece cuando los responsables insertan a personas, a menudo celebridades o exparejas, en videos explícitos sin su consentimiento. Esta invasión de la privacidad convierte la tecnología deepfake en un instrumento de humillación sexual o chantaje. El contenido se difunde en plataformas poco fiables y resulta difícil retirarlo. El debate social sigue siendo intenso y muchos exigen medidas legales estrictas para frenar este abuso.
    3. Comunicaciones empresariales fraudulentas: Un ejemplo es recibir una llamada que parece provenir de un socio conocido, pero cuya voz se ha duplicado mediante un sofisticado deepfake. Los atacantes solicitan cambios de última hora en los datos de pago o acciones financieras urgentes. Estas imitaciones eluden las señales de alerta habituales de los correos electrónicos o mensajes de texto porque el personal confía en el «reconocimiento de voz». Este tipo de deepfake aparece cada vez más en los registros de riesgos empresariales a medida que madura la técnica.
    4. Difamación y propaganda política: En elecciones de varios países se han usado discursos manipulados para hacer que un candidato parezca incompetente, corrupto o intolerante. Un video breve que se vuelve viral puede moldear opiniones antes de que los canales oficiales desmientan su autenticidad. Se difunde rápidamente gracias al impacto que causa y a su circulación en redes sociales. El poder de estos videos deepfake socava el debate libre y la integridad electoral.
    5. Sátira o expresión artística con IA: Aunque la tecnología deepfake tiene usos negativos, algunos artistas y comediantes la utilizan para entretener al público con escenas cómicas, cortometrajes y danza interpretativa. Estas obras se identifican como deepfakes para que los espectadores sepan que el contenido representado es puramente ficticio. Este tipo de entretenimiento ofrece a los creadores la oportunidad de representar el futuro, por ejemplo, mediante musicales en los que personajes históricos viven en la actualidad. Estos artistas han logrado que las personas se familiaricen más con la IA generativa y sus posibilidades al utilizarla de forma creativa.
  • Reto de intercambio cómico de caras: TikTok o Reddit son lugares donde se realizan todo tipo de retos cómicos de intercambio de caras, en los que los usuarios se superponen a sí mismos en rutinas de baile o escenas de películas virales. Estas ilusiones lúdicas se vuelven virales rápidamente y se convierten en los mejores deepfakes para entrar en la cultura pop mainstream. A pesar de ser inofensivos en la mayoría de los casos, incluso los usos cómicos pueden dar lugar a información errónea si no se etiquetan. Es un fenómeno que ilustra la aceptación casual de las ilusiones en la vida cotidiana.
  • Pornografía no consentida: El lado más oscuro surge cuando los autores incluyen a personas (a menudo famosos o exparejas) en vídeos explícitos sin su consentimiento. Esta invasión de la privacidad en particular utiliza la tecnología deepfake como arma para la humillación sexual o el chantaje. El contenido se difunde en plataformas poco fiables y es difícil de eliminar. El debate social sigue siendo acalorado y muchos exigen intervenciones legales estrictas para contener este tipo de explotación abusiva.
  • Comunicaciones comerciales fraudulentas: Un ejemplo es recibir una llamada telefónica que parece provenir de un socio conocido, pero que en realidad es una sofisticada duplicación de voz deepfake. Los ataques se orquestan como cambios finales en los detalles de pago o acciones financieras urgentes. Estas ilusiones logran eludir las señales de alerta habituales del correo electrónico o los mensajes de texto porque el personal confía en el "reconocimiento de voz". Pero este escenario de deepfake centinela es lo que se está volviendo cada vez más frecuente en los registros de riesgos corporativos a medida que la técnica madura.
  • Calumnias y propaganda políticas: Se han utilizado discursos manipulados en elecciones de varios países para hacer que un candidato parezca incompetente, corrupto u odioso. Un breve clip viral puede formar opiniones antes de que los canales oficiales puedan desmentirlo como falso. Se hace rápidamente, utilizando el "factor sorpresa" y las redes sociales impulsadas por el intercambio. Este uso tiene una "potencia de vídeo deepfake" que socava el libre discurso y la integridad electoral.
  • Sátira impulsada por la IA o expresión artística: Aunque existen usos negativos de la tecnología deepfake, algunos artistas y cómicos la utilizan para entretener al público con la ayuda de sketches cómicos, cortometrajes y danza interpretativa. Estas obras de arte se marcan como deepfakes para que los espectadores sepan que el contenido representado es puramente ficticio. Este tipo de entretenimiento ofrece a los creadores la oportunidad de representar el futuro, por ejemplo, con la ayuda de musicales, en los que se representa a personajes históricos viviendo en la actualidad. Estos artistas han conseguido que la gente se familiarice con la IA generativa y sus posibilidades utilizándola de forma creativa.
  • Amenazas y riesgos de los deepfakes

    Amenazas y riesgos de los deepfakes

    Si una amenaza puede cambiar opiniones, dañar reputaciones o causar pérdidas económicas a las empresas, las organizaciones deben comprenderla a fondo.

    Si la amenaza es lo suficientemente grave como para influir en las opiniones, manchar la reputación o mermar las arcas de las empresas, las organizaciones deben tener un control claro sobre la amenaza subyacente.

    En esta sección analizamos cinco amenazas y riesgos principales de los deepfakes para destacar la importancia de la detección avanzada y las medidas normativas.

    En esta sección, se analizan cinco amenazas y riesgos importantes relacionados con los deepfakes para centrar la atención en las medidas avanzadas de detección y políticas.
    1. Llamadas con voces sintéticas: Los ciberdelincuentes usan voces sintéticas para hacerse pasar por un «directivo» o un «familiar» que presiona a la víctima para que actúe de inmediato, normalmente transfiriendo dinero o revelando datos. Una voz o un rostro familiar inspiran confianza emocional y reducen las sospechas. Cuando ambos elementos se combinan, desbaratan las comprobaciones habituales de identidad. Si el personal se basa en una verificación de voz mínima, el riesgo para las empresas es alto.
    2. Propaganda avanzada u operaciones de influencia: Se puede mostrar a figuras públicas respaldando ideologías extremistas o estableciendo alianzas que nunca existieron. En regiones inestables, estas falsificaciones provocan inquietud o pánico, desencadenan disturbios o socavan la confianza en el gobierno. Cuando se desmienten, la opinión pública ya ha cambiado. Es un ataque a la credibilidad de los medios audiovisuales que intensifica las estrategias mundiales de ciberseguridad frente a los deepfakes.
    3. Desacreditación de pruebas auténticas: Por el contrario, una persona acusada puede negar la autenticidad de un video real que muestra sus actos indebidos y calificarlo de «deepfake». Este fenómeno amenaza a los sistemas judiciales: la afirmación de que se trata de una «noticia falsa» puede eclipsar una prueba audiovisual creíble. Así, la carga de verificarla recae en los expertos forenses durante procesos judiciales complejos. Con el tiempo, la «negación del deepfake» podría convertirse en una astuta estrategia de defensa en disputas penales o civiles graves.
    4. Manipulación bursátil: Un video falso de un director ejecutivo anunciando adquisiciones o desmentidos puede hacer subir o bajar las acciones antes de que las declaraciones reales lleguen a las noticias. Los atacantes aprovechan la difusión viral en redes sociales y el momento oportuno cerca del horario de negociación. La confusión provoca pánico o euforia en el mercado y da a quienes conocen la operación la oportunidad de tomar posiciones cortas o largas. Estas manipulaciones forman parte de los riesgos de ciberseguridad asociados a los deepfakes y pueden tener efectos desastrosos en los mercados financieros.
    5. Pérdida de confianza en la comunicación digital: Cuando las falsificaciones proliferan en los medios digitales, empleados y consumidores empiezan a desconfiar de las llamadas de Zoom y los boletines de noticias. Exigir verificaciones presenciales o comprobaciones de identidad multifactor para tareas rutinarias perjudica la productividad de los equipos. Este panorama de riesgos de los deepfakes erosiona la confianza en el ecosistema digital y exige que organizaciones y plataformas colaboren para autenticar el contenido.
  • Llamadas de voz sintéticas: Los ciberdelincuentes utilizan llamadas de voz sintéticas de un "ejecutivo" o "miembro de la familia" que presiona a la víctima para que actúe de inmediato (normalmente para transferir dinero o revelar datos). Una cara o voz familiar tiene credibilidad emocional y evita la sospecha habitual. Cuando estos dos elementos se combinan, alteran los controles de identidad estándar. Si el personal se basa en una verificación mínima basada en la voz, el riesgo para las empresas es alto.
  • Propaganda avanzada u operaciones de influencia: Se puede mostrar a figuras públicas respaldando ideologías extremistas o forjando alianzas que nunca han hecho. Las ilusiones en regiones inestables incitan al malestar o al pánico y provocan disturbios o socavan la confianza en el gobierno. Cuando se denuncian las falsificaciones, la opinión pública ya está influenciada. Se trata de un ataque a la veracidad de los medios de comunicación que intensifica las estrategias globales de "ciberseguridad deepfake".
  • Desacreditar pruebas legítimas: Por el contrario, el acusado puede desautorizar un vídeo real de una infracción como "deepfake". El problema de este fenómeno es que amenaza los sistemas legales al eclipsar las pruebas videográficas creíbles con la afirmación de que se trata de "noticias falsas". Sin embargo, esto traslada la responsabilidad a los expertos forenses en complicados procesos judiciales. Con el tiempo, la "negación deepfake" podría convertirse en una astuta estrategia de defensa en disputas penales o civiles graves.
  • Manipulación bursátil: Un vídeo falso de un director ejecutivo sobre adquisiciones o renuncias puede hacer que los precios de las acciones suban o bajen antes de que las renuncias reales lleguen a las noticias. Los atacantes se aprovechan de la viralidad de las redes sociales y de las ilusiones temporales cercanas a las ventanas de negociación. El pánico o la euforia del mercado se producen debido a esta confusión y los iniciados tienen la oportunidad de vender en corto o en largo las acciones. Estas manipulaciones son un subconjunto de las preocupaciones de ciberseguridad relacionadas con los deepfakes, que pueden tener un efecto desastroso en los mercados financieros.
  • Disminución de la confianza en la comunicación digital: Una vez que las ilusiones están por todas partes en los medios digitales, los empleados y los consumidores comienzan a dudar de las llamadas de Zoom y los boletines de noticias. Los equipos que solicitan verificaciones presenciales o comprobaciones de identidad multifactoriales para tareas rutinarias perjudican la productividad. El escenario más amplio de los "riesgos de deepfake" erosiona la confianza en el ecosistema digital y requiere que las organizaciones y las plataformas se unan para encontrar soluciones de autenticación de contenidos.
  • Ejemplos reales de deepfakes

    Ejemplos reales de deepfakes

    Más allá de la teoría, los deepfakes han aparecido en varios incidentes de gran repercusión en todo el mundo. Estas falsificaciones tienen consecuencias tangibles, desde parodias cómicas en YouTube hasta sofisticados robos a empresas.

    Más allá de la teoría, los deepfakes han aparecido en varios incidentes de gran repercusión en todo el mundo. Estas ilusiones tienen consecuencias tangibles, desde parodias cómicas en YouTube hasta sofisticados robos corporativos.

    A continuación, presentamos ejemplos de cómo los deepfakes afectan a distintos ámbitos en la práctica.

    A continuación se recogen algunos ejemplos de cómo los deepfakes influyen en diversos ámbitos de la realidad.
    1. Fraude con un deepfake de Elon Musk: En diciembre de 2024, apareció un video falso de Elon Musk en el que afirmaba que regalaría $20 millones en criptomonedas. El video parecía mostrar a Musk promocionando el sorteo e instando a los espectadores a enviar dinero para participar. La noticia falsa se compartió en varias cuentas de redes sociales y muchas personas la creyeron. El incidente planteó preguntas sobre el posible uso de los deepfakes para cometer fraudes y la importancia de aprender a distinguir la información verdadera de la falsa.
    2. Incidente con un deepfake en la empresa de ingeniería Arup: En enero de 2024, la consultora de ingeniería Arup, con sede en el Reino Unido, fue víctima de un sofisticado fraude con deepfakes que le costó más de 25 millones de USD. Durante una videoconferencia, empleados de la empresa fueron engañados por personas que suplantaron al Director Financiero y a otros compañeros para autorizar varias transferencias a cuentas bancarias en Hong Kong. Este incidente demuestra la grave amenaza que los deepfakes representan para las empresas y la necesidad de reforzar sus medidas de seguridad.
    3. Llamada automatizada con un deepfake de Joe Biden: En enero de 2024, se realizó una llamada automatizada falsa con la voz del presidente Joe Biden para disuadir al público de votar en las primarias de New Hampshire. El audio, cuya producción suele costar $1, pretendía influir en miles de votantes y desató debates sobre la integridad electoral. Las autoridades lograron rastrear la llamada hasta una persona que tenía desavenencias con la administración escolar. El caso demuestra cómo pueden usarse los deepfakes para influir en acontecimientos políticos.
    4. Estafa mediante la clonación de la voz de Jay Shooster:  En septiembre de 2024, unos estafadores lograron imitar la voz de Jay Shooster a partir de una muestra de solo 15 segundos de su reciente aparición en televisión. Llamaron a sus padres y les dijeron que había sufrido un accidente y necesitaba $30,000 para pagar la fianza. Este caso muestra cómo puede emplearse la clonación de voz para cometer fraudes y apropiarse indebidamente de dinero.
    5. Audio deepfake contra un director escolar de Baltimore: En abril de 2024, se difundió en medios y redes sociales un audio deepfake de Eric Eiswert, director de una escuela secundaria de Baltimore, que contenía comentarios racistas sobre la comunidad afroamericana. Esto provocó numerosas críticas y amenazas contra el director, que fue suspendido hasta que se determinó que el audio era falso. El caso también muestra cómo los deepfakes pueden provocar conflictos sociales y dañar la reputación de una persona, aunque el contenido sea falso.
  • Fraude deepfake con Elon Musk: En diciembre de 2024, apareció un vídeo falso con Elon Musk en el que afirmaba que estaba regalando 20 millones de dólares en criptomonedas. El vídeo parecía indicar que Musk estaba promocionando el sorteo e instando a los espectadores a enviar dinero para participar. Esta noticia falsa se compartió en varias cuentas de redes sociales y mucha gente la dio por cierta. El suceso suscitó dudas sobre el posible uso de la tecnología deepfake para cometer fraudes y la importancia de desarrollar una mayor conciencia para distinguir entre la información verdadera y la falsa.
  • El incidente deepfake de la empresa de ingeniería Arup: En enero de 2024, la consultora de ingeniería británica Arup fue víctima de un sofisticado fraude con deepfakes que le costó a la empresa más de 25 millones de dólares. Los empleados de la empresa fueron víctimas de deepfakes durante una videoconferencia en la que los suplantadores de su director financiero y otros empleados autorizaron varias transacciones a cuentas bancarias en Hong Kong. Este incidente demuestra cómo la tecnología deepfake supone una grave amenaza para las organizaciones empresariales y por qué es necesario contar con mejores medidas de seguridad en las organizaciones.
  • Llamada automática deepfake de Joe Biden: En enero de 2024, se realizó una Estafa de clonación de voz con Jay Shooster: En septiembre de 2024, unos estafadores lograron imitar la voz de Jay Shooster a partir de una muestra de solo 15 segundos de su reciente aparición en televisión. Llamaron a sus padres y les dijeron que había tenido un accidente y que necesitaba 30 000 dólares para pagar la fianza. Este caso ilustra cómo la tecnología de clonación de voz puede emplearse en casos de fraude y malversación.
  • Deepfake Audio Targeting Baltimore Principal: En abril de 2024, se difundió en los medios de comunicación y las redes sociales un clip de audio deepfake de Eric Eiswert, director de un instituto de Baltimore, que contenía comentarios racistas sobre la comunidad afroamericana. Esto provocó numerosas reacciones negativas y amenazas contra el director, lo que llevó a su suspensión hasta que se desmintió que se trataba de una noticia falsa. Este caso también demuestra la capacidad de los deepfakes para causar malestar social y manchar la reputación de alguien, incluso si se trata de noticias falsas.
  • El futuro de los deepfakes: desafíos y tendencias

    El futuro de los deepfakes: retos y tendencias

    Con los avances de la IA generativa, los deepfakes se encuentran en un punto decisivo: pueden impulsar la creatividad en la sociedad o facilitar el fraude. Los expertos creen que, en los próximos años, el intercambio de rostros en las videoconferencias comerciales será casi en tiempo real, lo que favorecerá su adopción generalizada.

    Con el avance de la IA generativa, los deepfakes se encuentran en una encrucijada, lo que significa que pueden potenciar la creatividad en la sociedad o impulsar el fraude. Los expertos creen que, en los próximos años, el intercambio de rostros en las videoconferencias comerciales será casi en tiempo real, lo que significa una alta adopción.

    Estas son cinco tendencias que describen el futuro de los deepfakes desde una perspectiva técnica y social.

    A continuación se presentan cinco tendencias que describen el futuro de los deepfakes desde el punto de vista técnico y social.
    1. Avatares en tiempo real: Pronto, los usuarios podrán utilizar GPU en la nube para modificar rostros o voces en tiempo real durante transmisiones o llamadas grupales. Podrán adoptar cuerpos sintéticos realistas o transformarse en cualquier persona al instante. Aunque la idea pueda parecer divertida, plantea problemas de identidad y amenazas de infiltración en oficinas distribuidas. Verificar la identidad de los participantes durante una llamada se vuelve crucial ante las transformaciones mediante deepfakes.
    2. Normativa y estándares de autenticidad del contenido:  Prepárese para leyes nacionales que exijan advertencias o «marcas de agua basadas en hashes» en el contenido generado por IA. La propuesta de Ley de IA de la Unión Europea contempla el control de los medios manipulados, mientras que Estados Unidos promueve alianzas entre empresas tecnológicas para armonizar los estándares de detección. Así, cualquier deepfake difundido al público deberá incluir una advertencia. Sin embargo, aplicar estas leyes sigue siendo difícil si los creadores alojan el contenido manipulado en otros países.
    3. Verificación mediante blockchain y criptografía: Algunos expertos recomiendan incluir firmas criptográficas al crear imágenes o videos auténticos. Así, se pueden cotejar las señales con los mensajes previstos y confirmar su autenticidad. Si faltan o no coinciden, surge la duda de si se trata de una falsificación o un deepfake. Integrar la creación de contenido con la blockchain reduce las oportunidades de fraude. Sin embargo, como se señaló antes, su adopción solo es posible con un amplio respaldo de todo el sector.
    4. La doble vertiente de la detección de deepfakes basada en IA: A medida que los modelos generativos se vuelven más sofisticados, la detección requiere patrones más complejos y múltiples comprobaciones cruzadas. Puede identificar microexpresiones, cambios de iluminación o «rastros de IA» imperceptibles para el ojo humano. Sin embargo, quienes crean las falsificaciones perfeccionan sus redes neuronales para superar estas comprobaciones. Es un ciclo de evolución constante. Para las organizaciones, mantener actualizadas las herramientas de detección sigue siendo esencial para defenderse de los deepfakes.
    5. Nuevas fronteras éticas y artísticas: Además de las amenazas, las posibilidades creativas son enormes. Los documentales pueden recrear a personajes históricos para entrevistarlos en directo, y el público de todo el mundo puede ver programas adaptados a su idioma con los movimientos de labios sincronizados. La pregunta es cuándo hablamos de innovación y cuándo somos víctimas de una ilusión creada para manipular nuestros pensamientos. A medida que se extienden los deepfakes, es crucial aprovecharlos para fines legítimos y detectar los que se utilizan con fines maliciosos.
  • Avatares en tiempo real: Los usuarios pronto podrán utilizar GPU basadas en la nube para realizar operaciones faciales o de voz en tiempo real en streaming o llamadas grupales. Las personas podrían tener cuerpos sintéticos reales o transformarse en cualquier persona sobre la marcha. Aunque se trata de un concepto bastante divertido, plantea problemas de identidad y amenazas de infiltración en otras oficinas dispersas. Garantizar la identificación de los participantes en medio de la llamada se convierte en algo crucial cuando se trata de transformaciones deepfake.
  • Regulación y normas de autenticidad de contenidos: Prepárese para la legislación nacional sobre el uso de avisos legales o "marcas de agua basadas en hash" en los contenidos generados por IA. La propuesta de Ley Europea de IA menciona el control de los medios manipulados, mientras que Estados Unidos fomenta la formación de asociaciones entre empresas tecnológicas para armonizar las normas de detección. De este modo, cualquier deepfake que se ofrezca al público deberá ir acompañado de avisos legales. Sin embargo, la aplicación de estas leyes sigue siendo un reto si los creadores alojan las ilusiones en otros países.
  • Blockchain y verificación criptográfica: Algunos expertos recomiendan que se incluyan firmas criptográficas en el momento de la creación de imágenes o vídeos auténticos. De este modo, se pueden verificar las señales con los mensajes previstos y, por lo tanto, asegurarse de que son auténticos. Si faltan o no coinciden, se plantea la cuestión de si se trata simplemente de una falsificación o de un deepfake. Mediante la integración de la creación de contenidos con la cadena de bloques, se minimiza el ámbito de las actividades fraudulentas. Sin embargo, como se ha visto anteriormente, la adopción solo es posible si existe un amplio apoyo por parte del conjunto del sector.
  • Dualidad de la detección de deepfakes basada en IA: A medida que los modelos generativos se vuelven más sofisticados, la detección debe añadir comparaciones de patrones más complejas y múltiples verificaciones cruzadas. Puede capturar microexpresiones, cambios de iluminación o "rastros de IA", que no son distinguibles por el ojo humano. Sin embargo, los falsificadores mejoran las redes neuronales para superar estas comprobaciones, lo que es una señal de un ciclo perpetuo de evolución. Para las organizaciones, las actualizaciones de las soluciones de detección siguen siendo una parte importante del concepto de ciberseguridad de los deepfakes.
  • Fronteras éticas y artísticas en evolución: Además de las amenazas, las oportunidades creativas disponibles son enormes. Los documentales pueden traer de vuelta a personajes históricos para entrevistas en directo, o el público global puede ver sus programas localizados sincronizadosen su idioma. Surge la pregunta de dónde podemos hablar de innovación y dónde somos víctimas de una ilusión creada para manipular nuestros pensamientos. A medida que se extienden los Deepfakes, se hace crucial permitir su uso con fines buenos y, al mismo tiempo, garantizar su detección cuando se utilizan con fines malos.
  • Conclusión

    Conclusión

    Los deepfakes muestran cómo la IA puede utilizarse tanto con fines artísticos como para engañar al público. Esta tecnología avanza rápidamente y expone a las organizaciones y a la sociedad a diversos escenarios de proliferación de deepfakes, desde el phishing llamadas telefónicas del máximo directivo de la empresa hasta la difusión de videos falsos de políticos. Cuando la imagen de un objeto resulta más creíble que el propio objeto, la identificación se convierte en la base de la credibilidad digital. Al mismo tiempo, los estafadores usan sus mejores deepfakes para eludir las verificaciones de identidad o difundir noticias falsas. Para las empresas, siguen siendo esenciales tres medidas: detectar los deepfakes, establecer directrices sólidas y capacitar al personal para garantizar el uso seguro de la IA en los medios. La lucha entre crear y detectar ilusiones continúa, y es crucial destacar la necesidad de un enfoque multinivel, desde el usuario hasta el escáner basado en IA.

    Los deepfakes son un buen ejemplo de cómo la IA puede utilizarse con fines artísticos, así como para engañar al público. Avanzan a un ritmo rápido y sitúan a las organizaciones y a la sociedad ante escenarios de invasión de deepfakes, desde phishing llamadas telefónicas del máximo responsable de la empresa hasta la difusión de vídeos falsos de políticos. Cuando la imagen del objeto es más creíble que el propio objeto, la identificación se convierte en la base de la credibilidad digital. Al mismo tiempo, los estafadores utilizan sus mejores deepfakes para evitar los controles de identidad o difundir noticias falsas. Para las empresas, quedan tres pasos esenciales que incluyen la detección, el desarrollo de directrices sólidas y la formación del personal para garantizar el uso seguro de la IA en los medios de comunicación. La batalla entre la creación y la detección de ilusiones sigue en curso, y es fundamental hacer hincapié en el enfoque multinivel necesario, que comienza con el usuario y termina con el escáner basado en IA.

    Esperamos haber respondido a la pregunta «¿Qué es un deepfake en ciberseguridad?». Pero queda otra cuestión: ¿Está preparado para afrontar los riesgos de las falsificaciones generadas por IA? Si no es así, elija las herramientas adecuadas y proteja hoy su empresa frente a la creciente amenaza de los deepfakes.

    Así pues, esperamos que ahora haya recibido la respuesta a "¿qué es un deepfake en ciberseguridad?". Pero, una duda: ¿está preparado para afrontar los peligros de las falsificaciones generadas por IA? Si no es así, elija las soluciones adecuadas y proteja su empresa de la creciente amenaza de los deepfakes hoy mismo.

    "

    Preguntas frecuentes

    En ciberseguridad, un deepfake es contenido sintético generado por IA que suplanta a personas reales con gran fidelidad. Estos videos o grabaciones de audio manipulados pueden utilizarse para cometer fraudes, difundir desinformación o eludir controles de seguridad.

    Los deepfakes pueden utilizarse en ciberataques. Los ciberatacantes pueden usarlos para suplantar a personas de confianza, manipular comunicaciones o eludir la autenticación biométrica.

    Los deepfakes representan graves amenazas para las organizaciones, como daños a su reputación, fraude financiero y pérdida de confianza en las comunicaciones digitales. Los deepfakes maliciosos pueden suplantar a directivos, manipular la opinión pública o eludir controles de seguridad.

    La manipulación tradicional de imágenes, como la realizada con Photoshop o mediante intercambios sencillos de rostros, requiere edición manual y suele dejar rastros visibles. En cambio, los deepfakes utilizan algoritmos de aprendizaje profundo para generar contenido muy realista, como videos o audio, con una intervención humana mínima. El resultado es más convincente y puede ser más difícil de detectar y desenmascarar.

    La legalidad de los deepfakes depende de la jurisdicción y de la intención. En muchos lugares, crear o compartir contenido manipulado no es ilegal por sí mismo, pero utilizar deepfakes para cometer fraudes, difamar o acosar puede infringir la ley. Algunas regiones están introduciendo leyes para sancionar la creación y distribución maliciosa de deepfakes ante la creciente preocupación por su uso indebido.

    Los deepfakes pueden erosionar la confianza en los medios digitales al crear imágenes, videos o grabaciones de audio falsos pero convincentes. Pueden utilizarse para difundir desinformación, manipular la opinión pública o presentar falsamente a personas en situaciones comprometedoras. Los ciberdelincuentes los aprovechan para cometer estafas, chantajes y espionaje corporativo, lo que los convierte en una grave amenaza para la privacidad, la reputación y la seguridad.

    Sí. Los investigadores utilizan sofisticados algoritmos de IA para identificar artefactos o inconsistencias en imágenes, videos o grabaciones de audio creados mediante deepfakes. Los métodos de detección analizan movimientos faciales, anomalías a nivel de píxel o metadatos en busca de señales de manipulación. Sin embargo, estas técnicas deben adaptarse continuamente a la evolución de los deepfakes, lo que convierte su identificación en un desafío constante para la ciberseguridad.

    La IA suele utilizar redes generativas adversarias (GANs) para crear deepfakes. Un modelo generador crea contenido sintético, mientras que un modelo discriminador evalúa su autenticidad. Mediante ciclos de entrenamiento repetidos, el generador perfecciona los resultados hasta que parecen reales. Este proceso permite a la IA fabricar rostros, voces o escenas completas con un alto grado de realismo.

    Crear deepfakes básicos es cada vez más accesible gracias a aplicaciones fáciles de usar y tutoriales en línea. Sin embargo, producir deepfakes muy convincentes y de alta resolución todavía requiere hardware avanzado, conocimientos técnicos y una capacidad de procesamiento considerable. La dificultad depende en gran medida de la calidad y el realismo deseados, pero las barreras de entrada han disminuido, lo que genera preocupación por su uso indebido generalizado.

    Busque movimientos faciales poco naturales, iluminación o sombras inconsistentes y una sincronización labial deficiente. Preste atención a anomalías sutiles en la textura de la piel, los patrones de parpadeo o los reflejos. El audio también puede presentar una entonación o un ritmo extraños. Utilice herramientas de análisis de video o detectores basados en IA para verificar la autenticidad. Contraste siempre las fuentes antes de confiar en contenido sospechoso.

    La tecnología de deepfakes aún tiene limitaciones para reproducir expresiones faciales extremas, fondos complejos o iluminación dinámica. Los resultados de alta calidad requieren considerables recursos de procesamiento y conocimientos técnicos. Además, las restricciones éticas y legales limitan sus aplicaciones legítimas, como el entretenimiento o la investigación académica. A medida que se amplía la normativa, el uso responsable debe equilibrar la innovación con la privacidad y la seguridad.

    Las organizaciones pueden implementar MFA y controles biométricos para confirmar identidades y reducir la dependencia exclusiva de señales visuales o auditivas. La formación periódica del personal sobre las amenazas de los deepfakes y la verificación de solicitudes inusuales por canales seguros también refuerzan la protección. Implementar herramientas de detección de deepfakes basadas en IA, supervisar las redes sociales y colaborar con especialistas en ciberseguridad fortalece la estrategia de defensa.

    Sí. Los atacantes pueden crear suplantaciones realistas de directivos, políticos o empleados para engañar a sus objetivos y conseguir que revelen información confidencial, autoricen transacciones o cambien sus decisiones. Las voces falsas en llamadas telefónicas o los videos alterados de forma convincente pueden superar los métodos de verificación tradicionales.

    Descubra más sobre Ciberseguridad

    Decorative background gradient

    Experimente la plataforma de ciberseguridad más avanzada

    Vea cómo la plataforma de ciberseguridad autónoma e inteligente líder del mundo puede proteger a su organización hoy y en el futuro.
    Dark dashboard UI with purple-highlighted nav, summary cards showing 149, 7, 78, 56, 1.2 h, and a status table with linked purple text