La detección de DeepFakes

La detección de DeepFakes
Para la detección de estos vídeos se suelen considerar dos formas de análisis: análisis forense de las imágenes y extracción de datos biológicos a partir de imágenes.
Chema Alonso, CDCO de Telefónica, junto a su equipo de Ideas Locas, han desarrollado un plug-in de Chrome para que un usuario pueda seleccionar un vídeo por Internet y ejecutar distintos algoritmos de detección de DeepFakes, basados en el análisis forense de imágenes.

Este plug-in implementa cuatro investigaciones científicas:
FaceForensics++: Que nos permitirá comprobar DeepFakes en base a un modelo entrenado sobre su propia base de datos, y aumentarla a medida que vayamos procesando nuevos vídeos.

Exposing DeepFake Videos by Detecting Face Warping Artifacts: Dado que los algoritmos de DeepFakes actuales solo pueden generar imágenes de resoluciones limitadas, dejan artefactos distintivos en los vídeos DeepFake. Esta herramienta es capaz de detectarlos con un modelo de CNN.

Exposing Deep Fakes Using Inconsistent Head Poses: Los DeepFakes se realizan con un swap entre una cara original y una cara sintetizada, por lo que esto introduce errores en la detección de la pose de la cabeza en 3D. Con estas incoherencias, y gracias al modelo HopeNet, se hace un estudio estadístico entre los distintos vectores calculados.

CNN-generated images are surprisingly easy to spot…for now: Dadas las características especiales de las imágenes creadas por 11 modelos distintos de generadores basados en CNNs, un clasificador de imágenes estándar puede generalizar bien a otras arquitecturas. De esta manera se confirmó que las imágenes actuales generadas por CNN comparten defectos sistemáticos, evitando que logren una síntesis realista.

Los DeepFakes ya forman parte de la sociedad. Ya hemos visto que las técnicas de Inteligencia Artificial y Machine Learning se pueden aplicar a la ciberseguridad, de hecho, diversos grupos criminales los están utilizando para intentar desestabilizar relaciones internacionales con ciberataques. Y es que, a pesar del gran número de investigaciones y de profesionales que se dedican a su estudio, todavía quedan muchos años de mejora.
Y es que, como comenta Chema Alonso “esto empieza a ser real, Black Mirror Style. Si no nos podemos fiar de lo que vemos, ¿qué nos queda?”.

Chema Alonso impartió esta conferencia en exclusiva en la inauguración de OpenExpo Virtual Experience 2021, evento empresarial líder en innovación tecnológica, transformación digital y open source.
Este evento, que ha celebrado su octava edición, segunda en virtual, ha contado con la participación de más de 140 profesionales y con más de 4000 asistentes virtuales.

 

También podría gustarte

Los comentarios están cerrados.