IA Deepfake (deep fake)

Deep fake (también deletreado deepfake) es un tipo de inteligencia artificial que se utiliza para crear imágenes convincentes, engaños de audio y video. El término, que describe tanto la tecnología como el contenido falso resultante, es un acrónimo de aprendizaje profundo y falso.

Un ejemplo de caso de uso incluye cuando una organización benéfica de salud en el Reino Unido utilizó un deepfake para que David Beckham transmitiera un mensaje contra la malaria. Este mensaje también se entregó en nueve idiomas. Sin embargo, el caso de uso más notable, y más peligroso, es cuando otros eligen usar la tecnología para propósitos nefastos. Podrían usarse para difundir información falsa de una fuente que de otro modo sería confiable, por ejemplo, con propaganda electoral. Esto ha llevado a pensar que esta tecnología es disruptiva para la vida moderna.

Cómo funcionan los Deepfakes

El contenido deepfake se crea mediante el uso de dos algoritmos de IA que compiten entre sí: uno se llama generador y el otro se llama discriminador. El generador, que crea el contenido multimedia falso, pide al discriminador que determine si el contenido es real o artificial.

Juntos, el generador y el discriminador forman algo llamado red generativa adversaria (GAN). Cada vez que el discriminador identifica con precisión el contenido como fabricado, proporciona al generador información valiosa sobre cómo mejorar el próximo deepfake.

Este artículo es parte de

La tecnología, un arma de doble filo para la seguridad electoral de EE. UU.

  • Que también incluye:
  • Tecnología central para el recuento de votos en unas elecciones ajustadas
  • CISA: sin piratería electoral, pero con mucha desinformación
  • El presidente Trump despide al director de CISA, Christopher Krebs

Descargar1

¡Descarga esta guía completa GRATIS ahora!

El primer paso para establecer una GAN es identificar la salida deseada y crear un conjunto de datos de entrenamiento para el generador. Una vez que el generador comienza a crear un nivel aceptable de salida, los videoclips se pueden enviar al discriminador.

A medida que el generador mejora en la creación de videoclips falsos, el discriminador mejora en detectarlos. Por el contrario, a medida que el discriminador mejora en la detección de videos falsos, el generador mejora en su creación. 

Hasta hace poco, el contenido de video era más difícil de alterar de manera sustancial. Sin embargo, debido a que los deepfakes se crean a través de la inteligencia artificial, no requieren la habilidad considerable que se necesitaría para crear un video realista de otra manera. Desafortunadamente, esto significa que casi cualquier persona puede crear un deepfake para promover su agenda elegida. Por ejemplo, un deepfake podría usarse para difundir información falsa a través de un candidato presidencial. Microsoft, sin embargo, ha trabajado en un software de detección de deepfake impulsado por IA para este propósito. La herramienta puede analizar automáticamente videos y fotos para proporcionar un puntaje de confianza de que los medios han sido manipulados.

Otro posible peligro que introducen los deepfakes es que las personas tomarán esos videos al pie de la letra y, después de darse cuenta de que son falsos, dejarán de confiar en la validez de cualquier contenido de video.

Obtenga más información sobre los deepfakes y la tecnología detrás de ellos: