Cada vez es más recurrente hablar de los crecientes riesgos de seguridad que se generan con el avance de las tecnologías; es el caso de las denominadas redes GAN, (Generative Adversarial Network, redes generativas adversarias o antagónicas), las cuales aunque fueron creadas para apoyar la industria de los videojuegos, ahora son utilizadas por la ciberdelincuencia.
“Los avances que se están dando dentro del campo de la Inteligencia Artificial (IA) son amplios, por eso recordamos que como usuarios debemos tratar de estar informados sobre las últimas técnicas utilizadas por los ciberdelincuentes para saber cómo protegernos de las distintas amenazas en línea”, alerta Camilo Gutiérrez Amaya, Jefe del Laboratorio de Investigación de ESET Latinoamérica.
El especialista explicó que la tecnología GAN es un tipo de IA que permite crear rostros ficticios mediante algoritmos que se basan en el Deep Learning, se trata de tecnologías capaces de generar rostros realistas y otro tipo de imágenes, incluso audios o videos, lo cual también ha sido aprovechado por los ciberdelincuentes.
Desde 2021 se publicaron, estudios sobre el proceso de las imágenes creadas mediante Inteligencia Artificial, las cuales son cada vez “más convincentes pues existe 50 por ciento de posibilidades de confundir un rostro falso con uno real”.
“GAN funciona con base en el entrenamiento de imágenes, fue creada en 2014 por Ian Goodfellow y su equipo de colegas. Se necesita ingresar datos de entrada, como pueden ser rostros reales de diferentes personas, y el modelo ofrece como resultado nuevos rostros con nuevas características de apariencia real”.
Originalmente el objetivo de los rostros GAN, fue para apoyar a la industrias de los videojuegos para la generación de personajes, o para efectos visuales que luego son utilizados en películas, pero ahora también pueden ser utilizados con fines malintencionados”, indicó el experto de la firma especializada en ciberseguridad ESET.
Los cibercriminales saben utilizar las nuevas tecnologías para poder desplegar estafas cada vez más persuasivas, con las redes GAN crean imágenes o incluso videos de personas conocidas o de representantes de servicios ficticios para engañar a las víctimas y obtener información confidencial, como nombres de usuario, contraseñas, o números de tarjetas de crédito.
La creación de fake news es otro actividad ilegal donde utilizan el avance de logrado en el machine learning, y en la app ChatGPT, tecnologías con las cuales crean noticias con videos o imágenes para hacerse pasar por personas reales.
Ya hay casos de deepfakes donde imágenes ficticias de políticos han sido utilizados para distribuir fake news, como fue caso subido a redes sociales donde supuestamente el presidente de Ucrania, Volodymyr Zelensky, hizo un llamado a sus soldados a deponer las armas.
Robo de identidad es otro de los delitos más recurrentes y donde se crean rostros similares a los de personas públicas o celebridades para facilitar fraudes, robo o suplantación de identidad. Es oportuno tener presente que el reconocimiento facial como método de autenticación es utilizado por las instituciones financieras para acceder a una cuenta bancaria.
ESET ha destacado también los enormes y crecientes riesgos de seguridad que circulan en sitios y aplicaciones de citas donde con redes GAN, los cibercriminales pueden crear rostros falsos, para crear perfiles apócrifos en aplicaciones de citas y perfiles de redes sociales para engañar y extorsionar a las víctimas, de esto ya ha dado cuenta Meta, dueña de Facebook, Instagram, WhatsApp, y Oculus.
Ante este contexto ESET recomienda:
- Verificar que la fuente de la imagen sea confiable, así como la veracidad de dicha imagen.
- Las imágenes generadas por este tipo de tecnología tienen un aspecto perfecto y sin defectos, por lo que es importante desconfiar de ellas y buscar más información en otras fuentes confiables.
- Existen herramientas como Google Reverse Image Search en línea que pueden ayudar a verificar la autenticidad de imágenes y videos.
- Mantener los sistemas de seguridad actualizados para protegerse contra las estafas y malware, así como instalar antivirus de buena reputación que ayuden a detectar código malicioso, sitios falsos o sospechosos.
- No compartir información personal o financiera con nadie.
- C$T-EVP