Claves para identificar deepfakes con Inteligencia Artificial
ESET recomienda a los usuarios concientizarse y educarse en el uso de herramientas para detectar amenazas y hacer denuncias sólidas en las plataformas de donde proceden.
Centroamérica, 3 de diciembre de 2024. Cada vez más, los cibercriminales están utilizando la Inteligencia Artificial (IA) para fraguar estafas en línea, mediante la creación de contenidos falsos que utilizan a personalidades públicas para intentar darle veracidad a sus intenciones de fraude cibernético.
Estos cibercriminales utilizan tecnología para crear deepfakes, manipulan imágenes y voces para generar videos y audios con figuras y personajes públicos que alientan a realizar inversiones, pero que en realidad son estafas creadas con Inteligencia Artificial.
Martina López, especialista en Seguridad Informática de ESET Latinoamérica, explica que “con frecuencia vemos videos o audios, lo que agrega fidelidad por estar oyendo de la “propia voz” o “propia imagen” de la personalidad suplantada. Además, este contenido puede combinarse para reforzar la narrativa de las estafas o noticias falsas y confundir a las víctimas”.
La especialista detalla que las plataformas más utilizadas por delincuentes para llegar a potenciales víctimas, son redes sociales como: Facebook, Instagram, TikTok y también X (antes Twitter), esto debido a su capacidad de alcanzar a millones de personas en pocos minutos. Añade que las aplicaciones de mensajería como WhatsApp y Telegram también son utilizadas para compartir enlaces o mensajes fraudulentos que aparentan ser personales.
ESET, compañía líder en detección proactiva de amenazas, recomienda estar atentos a las señales de alerta y comparte detalles ante posibles contenidos falsos a los que el usuario de estas plataformas debe estar en alerta:
· Movimientos faciales extraños o gestos poco naturales, sombras que no corresponden al foco de luz del video o imagen.
· Desfase entre los labios de la persona y el audio en los videos.
· Imágenes o sonidos de poca calidad, con artefactos, distorsiones o falta de nitidez.
· Fuentes no confiables, como perfiles nuevos, sin verificación o con pocos seguidores.
· Contenido que busca una reacción emocional inmediata, como preocupación, enojo o felicidad.
En caso de detectar alguno de los mencionados, López recomienda verificar la fuente de la información, así como su posible veracidad objetiva: si parece demasiado extraño para ser real, quizás no lo sea.
Para no ser víctimas de estafadores, ESET sugiere a los cibernautas que ante este tipo de amenazas que parecen tan reales, consultar directamente los perfiles oficiales de la figura pública o las páginas confiables relacionadas con el tema. Además, en plataformas como TinEye o Google Reverse Image Search es posible buscar capturas de imagen de videos para verificar si el mismo ha sido denunciado previamente en otro contexto.
También se debe contrastar esta información, buscando en medios reconocidos si el contenido ha sido confirmado. Y lo más importante que se recomienda es analizar el contexto, y preguntarse si el comportamiento mostrado en el video o audio es coherente con lo que se espera de esa figura pública.
¿Qué podemos hacer al detectar una amenaza de estafa?
Cuando el usuario detecta o sospecha que ha sido víctima de un intento de ciberestafa mediante deepfakes, lo más adecuado es denunciarlo en la plataforma por la cual recibió el contenido utilizando las funciones de «denunciar» en cada plataforma, contando algunas con la justificación “Información falsa” o “suplantación de identidad”.
Es importante que el denunciante proporcione una descripción clara del problema y de ser posible, adjuntar evidencia. Adicional, en casos graves, se puede contactar con organismos locales de ciberseguridad o presentar la denuncia ante las autoridades competentes para que se inicie una investigación.
Educar a la sociedad para anticiparse a fraudes
A medida que las plataformas de IA avanzan será más difícil detectar fraudes. Las mejoras en la calidad de los deepfakes y el desarrollo de herramientas que generan contenido personalizado podrían permitir ataques más dirigidos y efectivos, por lo que ESET hace énfasis en la educación digital.
“Los programas de capacitación en escuelas, empresas y comunidades pueden enseñar a las personas a identificar contenido falso y protegerse en línea. Además, las campañas de concientización pueden ayudar a reducir la vulnerabilidad colectiva al informar sobre los riesgos y las técnicas más comunes de los ciberdelincuentes”, puntualiza la especialista en Seguridad Informática de ESET Latinoamérica.
