En un comunicado difundido hace unos días, el FBI alertó que aumentará la circulación de contenido digital manipulado en el próximos 12 a 18 meses. Según la agencia de investigación, este tipo de material engañoso podría ser utilizado para llevar adelante diferentes ciberdelitos tal como campañas de phishing, es decir suplantación de identidad: esto es hacerse pasar por alguien más para obtener información confidencial o robar datos

El FBI describe al contenido manipulado como sintético y hace foco especialmente en el uso de técnicas de aprendizaje automático para el desarrollo de los conocidos deep fakes. Según el comunicado, usuarios extranjeros, como rusos y chinos, están generando perfiles falsos, realizados a partir de redes generativas antagónicas (GAN). De esta manera buscan difundir su narrativa y llevar adelante campañas de influencia.

“Desde 2017, actores desconocidos han creado `periodistas´ ficticios que generaron artículos que fueron publicados y amplificados sin saberlo por una variedad de medios impresos y en línea, según informes de prensa”, se menciona en el comunicado.

Estos deep fake podrían ser utilizado para crear contenido creíble con el objetivo de lanzar mensajes de phishing dirigidos a una persona o público en particular (spearphishing) así como para realizar ataques de ingeniería social cada vez más sofisticados.

El contenido sintético también se puede utilizar en un ataques conocidos como Compromiso de identidad empresarial (BIC), que hace alusión principalmente el compromiso de las cuentas de correo electrónico corporativas para realizar operaciones financieras fraudulentas.

“El BIC implicará el uso de herramientas de generación y manipulación de contenido para desarrollar personas corporativas sintéticas o para crear una emulación sofisticada de un empleado existente”, advierte el FBI.

Cómo identificar los deep fakes

Como primera medida se debe prestar atención a ciertos indicadores visuales como distorsiones, deformaciones o inconsistencias en las imágenes y el video que pueden dar cuenta de que se trata de contenido manipulado.

En este sentido, en los deep fakes se puede identificar demasiada distancia entre los ojos, problemas de sincronización entre los movimientos de la cara y los labios, o entre los del torso y la cabeza.

También podría haber otras distorsiones en el fondo de la imagen o en la zona de los lóbulos de la oreja, que se pueden tener en cuenta.

Entre otras cuestiones, la agencia comparte las siguientes recomendaciones para evitar consumir contenido falso:

1. Estar alerta cuando se consuma información en línea, particularmente cuando los temas son temas sensibles.
2. Buscar fuentes de información múltiples e independientes.
3. No asumir que una persona o un individuo en línea es legítimo basándose en la video, fotografías o audio en su perfil.
4. Busque recursos de alfabetización o resiliencia como SIFT, que son las siglas en inglés para detenerse, investigar la fuente, encontrar cobertura confiable y rastrear el contenido original al consumir información online.
5. Utilizar la autenticación multifactorial en todos los sistemas, especialmente en redes sociales corporativas compartidas y cuentas.
6. Capacitar a los usuarios para identificar y reportar intentos de ingeniería social y spearphishing que puede comprometer cuentas personales y corporativas.
7. Establecer y ejercitar planes de continuidad de las comunicaciones en las redes sociales en caso de que se comprometan las cuentas en redes sociales.
8. No abrir archivos adjuntos ni hacer clic en enlaces dentro de los correos electrónicos recibidos de remitentes que no se conocen.
9. No proporcionar información personal, incluidos nombres de usuario, contraseñas, fechas de nacimiento, números de seguro social, datos financieros u otra información en respuesta a consultas.
10. Tener cuidado al proporcionar información personal o corporativa confidencial de forma electrónica o por teléfono. Confirmar, si es posible, las solicitudes para información sensible a través de canales secundarios.
11. Verificar siempre la dirección de los sitios web legítimos y escribirlos manualmente en el navegador.

Hace unas semanas, investigadores de la Universidad de Buffalo desarrollaron una herramienta que permite identificar automáticamente las fotos deep fake analizando los reflejos de luz en los ojos de los usuarios.

La herramienta, según los investigadores, demostró una efectividad del 94% con imágenes similares a retratos en experimentos descritos en un documento aceptado en la Conferencia Internacional IEEE sobre Procesamiento de Acústica, Habla y Señal que se celebrará en junio en Toronto, Canadá.


 

Con información de Infobae