Hablemos de deepfakes

Es muy probable que usted no sepa qué es un ‘deepfake’. Quizás lo haya leído u oído en alguna parte en los últimos meses, pero realmente no ha reparado en él. Es tanta la jerga que arroja el mundo de la tecnología que uno ya no sabe a qué es a lo que se le debe prestar atención.

El ‘deepfake’, definitivamente, es algo que debemos comenzar a tener en nuestro radar. El diario El Tiempo, que ha hecho un cubrimiento minucioso sobre este nuevo fenómeno de contenido digital, señala que es una tecnología que genera “una capa artificial sobre la boca de alguien y luego mimetiza la animación sobre un video real”.

Es decir, es una tecnología que permite falsear las palabras que alguien pronuncia en un video. El fundador de Facebook, la presidenta de la Cámara de Representantes de los Estados Unidos y el expresidente Barack Obama han sido las víctimas más representativas hasta el momento de esta tendencia.

Hasta ahora el asunto no ha pasado a mayores. A Mark Zuckerberg lo falsearon en un video de 20 segundos en el que “cínicamente dice” que quien controla los datos, controlará el futuro. A la congresista Nancy Pelosi le publicaron un video en el que pareciera estar totalmente ebria durante una sesión del Congreso, mientras que Obama apareció diciéndole idiota a Donald Trump.

Estos episodios no dejarían de ser una mera anécdota en el actual mundo de los memes, pero el peligro de los ‘deepfakes’ es incluso más grave que el de las noticias falsas, puesto que el primero usa la imagen de la persona diciendo cualquier cosa que se le ocurra al generador de la mentira.

Una vez esta tecnología sea perfeccionada, ¿se imaginan las consecuencias que podría tener el ‘deepfake’ en una elección si se viraliza un video falso de un político diciendo cualquier atrocidad y millones de personas creen lo que ven?

La organización Media Witness Lab acaba de publicar un extenso reporte (https://lab.witness.org/projects/synthetic-media-and-deep-fakes/) que nos ayuda a entender, detectar y combatir los ‘deepfakes’ y todos aquellos contenidos sintéticos generados por la Inteligencia Artificial.

Zuckerberg, en tanto, ya está debatiendo con su equipo qué clase de políticas regirán los deepfakes en sus plataformas -Facebook, Instagram y WhatsApp-. Falta ver qué hará Twitter o YouTube al respecto, ya que hasta el momento no se han pronunciado.

Periodistas, políticos y activistas temen que este uso de la Inteligencia Artificial sea usado para desacreditar sus trabajos o atacarlos personalmente. Pero estos no son los únicos grupos que podrían verse afectados por un uso perverso del ‘deepfake’. Empresarios, doctores, jueces, abogados y muchos otros correrían riesgos similares.

Es por eso que Virginia, en los Estados Unidos, se convirtió en el primer estado en prohibir el ‘deepfake’. El lunes pasado comenzaron a emitirse penas criminales por la distribución de estos, en particular imágenes de cuerpos desnudos.

El estado de Nueva York también está debatiendo una ley que sancionaría la distribución de imágenes o videos falsos, mientras que el Senado de los Estados Unidos también contempla penalizar cualquier tipo de ‘deepfake’ que pueda tener un efecto nocivo en una contienda electoral.

Colombia aún no ha estado expuesta a un episodio de esta naturaleza, pero ojalá la ministra TIC ya tenga un plan de acción para estar preparados.