Especialistas en ciberseguridad y tecnologías de la información.

Una empresa 100% mexicana.

Poussin 4, Mixcoac, CDMX
55-62-68-90-82
[email protected]

Tecnología deepfake en el uso de estafas: ¿qué es y cómo funciona?

Tecnología deepfake en el uso de estafas: ¿qué es y cómo funciona?

Es probable que en la actualidad muchos nos hayamos encontrado con diferentes imágenes o videos donde se usan rostros de celebridades para crear videos graciosos o ediciones que llamen la atención. Todo esto ha sido posible gracias a las tecnologías deepfake, las cuales consisten en que, por medio de Inteligencia Artificial, permiten modificar las caras reemplazándolas por las de alguien más. Su nombre proviene de la combinación de palabras de “deep learning” y “fake”: la unión de la forma en la que opera (aprendizaje profundo) y el uso que se le da (falso). Aunque actualmente es más utilizado en videos, es una tecnología que también se utiliza en otros medios, como lo puede ser en imágenes o incluso voces.

A la izquierda un ejemplo de deepfake, que monta el rostro del actor Jim Carrey sobre el cuerpo de Jack Nicholson, cuya imagen original aparece del lado derecho.

Con el paso del tiempo, ha sido una tecnología que ha ido creciendo por lo que no es de extrañar que ya existan diferentes aplicaciones que cualquier persona puede utilizar. Algunos ejemplos son Faceswap, Reface, Faceplay.  Aunque la principal razón de su uso es por curiosidad y diversión, también hay ciertos usuarios que empezaron a ver el surgimiento de esta tecnología como una nueva oportunidad para buscar nuevas maneras de aprovecharse de esta herramienta y sacar algún beneficio.

Estafas en redes sociales

Un método que ha sido identificado es el uso de deepfake para engañar a usuarios en diferentes redes sociales. Su forma de operar consiste en crear diversos videos para campañas publicitarias fraudulentas. Un ejemplo de esto es un anuncio que fue creado por medio de deepfake donde supuestamente Elon Musk aparecía a un video y aconsejaba a las personas a invertir en un sitio donde prometía que se ganaría mucho dinero, pero al final se dio a conocer que el video era falso y el sitio que se publicitaba únicamente era para engañar y quedarse con el dinero.

Robo de identidad

Aunque en el caso anterior el objetivo principal era una cuestión monetaria, también han surgido diferentes tipos de videos generados con deepfake con una motivación política o de daño reputacional a la imagen de alguien.

Uno de los ejemplos más conocidos y recientes es el video creado con el rostro del presidente ucraniano, Zelenski, pidiendo la rendición del ejército y pueblo ucraniano. El video fue compartido por hackers rusos y en su momento buscó crear desinformación, por lo que tuvo que salir el verdadero Zelenski a desmentir el video. Este suceso sirvió para que muchos empezarán a tomar con seriedad el impacto y gravedad que podrían tener este tipo de videos.

Otro caso, donde empezó a hacer sonar más el uso de los deepfakes, fue el de Obama, donde crearon un video deepfake en que ex presidente de los Estados Unidos decía que Killmonger tenía razón y Donal Trump era un idiota. A partir de esto punto fue cuando se empezaron a ver más videos de esta naturaleza.

Uso en videollamadas

Un caso de uso más que se le ha dado a esta tecnología ha sido en videollamadas, donde unos usuarios usaron la identidad de Leonid Volkov para engañar a otras personas durante una reunión de políticos europeos, con el objetivo de dañar la reputación de Leonid y su grupo. Otro caso donde, por cuestiones políticas, la reputación de algunas personas se pone en riesgo.

¿Cómo protegernos ante los deepfake?

Aunque podría seguir dando ejemplos del uso que se le ha dado a esta tecnología y los riesgos que implica, con los casos anteriores podemos obtener un panorama amplio para comenzar a visualizar los riesgos. Lo que sigue es ver cómo nos podemos proteger ante todo este tipo de ataques.

Algunas medidas simples que se han llegado a recomendar, como puede ser el caso de videollamadas, es pedir a las personas que muestren el lado lateral del rostro, de esta manera el programa no podría generar un rostro de lado para engañar al público, y así demostraría si la persona es quien realmente dice ser.

En el caso de videos, lo mejor es empezar a buscar incongruencias, como que la iluminación sea incorrecta, que el vello facial o alguna cicatriz no sea totalmente convincente, así como fijarse que la piel no sea demasiado lisa o que el movimiento de los labios parezca poco natural.

Aunque a pesar de todo lo anterior, puede que para muchos no sea suficiente, por lo que se ha empezado a desarrollar programas que nos permitan identificar este tipo de tecnologías, como Fakecatcher, desarrollada por Intel, la cual busca detectar los deepfake y actualmente presume de tener un 96% de eficacia.

×