O de la manipulación de la realidad (audio, imágenes y videos) con Inteligencia Artificial
Los alcances de los avances tecnológicos son inimaginables, lamentablemente no siempre son positivos. Durante el último año la práctica del deepfake se ha masificado, falsificando la identidad de muchas figuras públicas del ámbito político y del entretenimiento a través de videos intervenidos por la Inteligencia Artificial, situación que pone en alerta a grandes corporaciones y países como Google y China.
El termino deepfake se conoció por primera vez en una publicación de Reddit en 2017; y proviene del concepto Deep Learning, una de las corrientes de la Inteligencia Artificial que se refiere a la capacidad de aprendizaje de este tipo de tecnología; y cómo es utilizada con la intención de crear contenido falso. Actualmente se considera como un nuevo procedimiento de robo de identidad.
Especialistas advierten que existen evidencias que demuestran cómo la producción de este tipo de contenido se está convirtiendo en un negocio lucrativo. A pesar de que la preocupación por el uso de esta técnica se centra en el ámbito político, la pornografía lleva la delantera concentrando la mayor cantidad de casos de videos intervenidos.
Los inicios
El deseo de cambiar o manipular la identidad de las personas no es algo nuevo. Quizás es una anhelo intrínseco de la humanidad. Una de las primeras manifestaciones puede reflejarse en uno de los famosos cuentos de los hermanos Grimm, La caperucita Roja, en el que el Lobo Feroz intenta suplantar a la abuelita con el fin de comerse a la inocente nieta. Un caso más actual podría ser Striking Vipers, uno de los últimos capítulos de la serie Black Mirror, en el que 2 amigos asumen las personalidades de los personajes de su videojuego favorito.
Fuera de los libros y de la ficción, hoy podemos ver en redes sociales la sustitución de las identidades de actores, políticos y famosos en general; casos como Donald Trump, Barack Obama, Jim Carrey o Mark Zuckerberg. Los ejemplos se multiplican y también la calidad de los mismos.
Y es que con los avances digitales y el big data, se logra suplantar al ser humano en tres de sus elementos distintivos: obra, imagen y voz. Reemplazar la voz, técnica conocida como vishing, resulta más sencillo. Ya se han registrado fraudes telefónicos en los que un familiar o un compañero de trabajo pide que realicemos una transferencia a determinada cuenta bancaria.
Se trata de softwares comerciales accesibles, como el Lyrebird, que solo necesitan de una pequeña grabación de la voz original y el conocimiento del Deep Learning para realizar una transacción. Lo demás se consigue en cuestión de minutos.
La data
La firma Deeptrace, que se dedica a evaluar y dar respuesta a la amenaza de esta nueva tecnología, entregó el pasado mes de octubre un estudio sobre los avances de esta práctica. Entre los hallazgos, la firma indica que en los últimos once meses la presencia de estos vídeos se duplicó en internet. “Es un fenómeno muy real y muy actual que está perjudicando a muchas mujeres”, explicó Henry Ajder, responsable de análisis de Deeptrace.
Al término del estudio, encontraron en total 14.698 vídeos realizados con esta técnica, mientras que en diciembre de 2018 solo dieron con 7.964. También destacan que el 96% de estas animaciones son contenidos pornográficos muy rentables. Deeptrace ha descubierto que los cuatro principales sitios web de pornografía con deepfakes (todos con ingresos por publicidad en la web) han conseguido 134 millones de visitas en sus vídeos modificados desde febrero de 2018.
Las consecuencias
Grandes corporaciones y países han manifestado su preocupación ante la presencia de deepfakes y las consecuencias que acarreen para la sociedad y situaciones específicas como períodos electorales. Es por ello que muchos han comenzado a tomar cartas en el asunto:
- Google anunció en septiembre de este año la intensificación de sus esfuerzos para combatir los deepfakes, al publicar nuevos datos para ayudar a los investigadores a detectar videos manipulados mediante la inteligencia artificial (AI).
- Otras firmas tecnológicas y académicos también se unieron para mejorar las herramientas destinadas a detectar videos y otros contenidos manipulados por medio de la inteligencia artificial (IA). Esta iniciativa incluye una bolsa de 10 millones de dólares aportada por el gigante Facebook, con el objetivo de frenar lo que se considera una gran amenaza para la información en línea.
- El estado de California se convirtió en el primer estado de EEUU en prohibir por ley el uso de esta técnica durante periodos electorales. Según la ley aprobada el pasado 8 de octubre, el uso de esta tecnología estará prohibida hasta 60 días antes de las elecciones, y no se podrán crear ni distribuir videos deepfake.
- Por su parte, China se está convirtiendo en el primer país del mundo en clasificar a los deepfakes como ilegales, aquellos que los distribuyan incurrirán en un delito de carácter penal. Esta iniciativa forma parte de una modificación a la actual ley de contenido multimedia, que entrará en vigor a partir del 1 de enero de 2020.
¿Cómo evitar los deepfakes?
Especialistas recomiendan estar atentos a ciertos aspectos para determinar si los videos que vemos son deepfake:
- Fuente que lo publica: es importante determinar si es desconocida o poco fiable, por ejemplo, una cadena de WhatsApp
- Los lugares y las fechas no coinciden: presta atención a esos y otros detalles, como el logotipo o el lugar desde donde se grabó.
- Prestar atención a la boca: además de los ojos, los movimientos de la boca pueden ser reveladores.
- Prestar atención al mensaje: suele apelar a la emoción y busca generar ciertas reacciones en quien lo escucha.
- Mirar lo que ocurre a cámara lenta: ralentiza y para partes del video para observar más de cerca las transiciones.
Algunos analistas señalan que esperan que se utilicen falsificaciones realistas para distorsionar las elecciones estadounidenses de 2020. Es por ello que tenemos que estar atentos ante este tipo de materiales. Estamos viviendo una realidad modificada, llena de inseguridades que pueden significar desconfianza y paranoia.
Superemos a la Inteligencia Artificial, y apreciemos la realidad.
¡Nos vemos en la red!
