Se ha observado que los actores de amenaza desconocidos Pegar V0, una aparejo generativa de inteligencia químico (AI) de Vercel, para diseñar páginas falsas de inicio de sesión que se hacen acontecer por sus contrapartes legítimas.
“Esta observación señala una nueva transformación en la armamento de la IA generativa por parte de los actores de amenazas que han demostrado la capacidad de suscitar un sitio de phishing utilitario a partir de simples indicaciones de texto”, dijeron los investigadores de inteligencia de amenazas de Okta Houssem Eddine Bordjiba y Paula de La Hoz.
V0 es una proposición con AI desde VERCEL que permite a los usuarios crear páginas de destino básicas y aplicaciones de pila completa utilizando indicaciones de jerga natural.
El proveedor de servicios de identidad dijo que ha observado a los estafadores utilizando la tecnología para desarrollar réplicas convincentes de páginas de inicio de sesión asociadas con múltiples marcas, incluido un cliente no identificado. Posteriormente de la divulgación responsable, Vercel ha bloqueado el entrada a estos sitios de phishing.
Todavía se ha descubierto que los actores de amenaza detrás de la campaña albergan otros fortuna, como los logotipos de la compañía del imitador en la infraestructura de Vercel, probablemente en un esfuerzo por forzar de la confianza asociada con la plataforma de desarrolladores y evitar la detección.
A diferencia de los kits de phishing tradicionales que requieren cierta cantidad de esfuerzo para establecer, herramientas como V0, y sus clones de código libre en GitHub, permite a los atacantes voltear las páginas falsas simplemente escribiendo un aviso. Es más rápido, más factible y no requiere habilidades de codificación. Esto hace que sea simple que incluso los actores de amenaza de desprecio calificación construyan sitios de phishing convincentes a escalera.
“La actividad observada confirma que los actores de amenaza de hoy están experimentando activamente y armando las principales herramientas de Genai para racionalizar y mejorar sus capacidades de phishing”, dijeron los investigadores.
“El uso de una plataforma como V0.DEV de Vercel permite a los actores de amenaza emergente producir rápidamente páginas de phishing engañosas y de ingreso calidad, aumentar la velocidad y la escalera de sus operaciones”.
El progreso se produce a medida que los malos actores continúan aprovechando los modelos de idiomas grandes (LLM) para ayudar en sus actividades criminales, construyendo versiones sin censura de estos modelos que están diseñados explícitamente para fines ilícitos. Una de esas LLM que ha yeguada popularidad en el paisaje del delito cibernético es Whiterabbitneoque se anuncia a sí mismo como un “maniquí de IA sin censura para los equipos (Dev) Secops”.
“Los ciberdelincuentes son cada vez más gravitantes en torno a LLM sin censura, LLM diseñados por cibercrimen y LLM legítimos de jailbreak”, dijo el investigador de Cisco Talos, Jaeson Schultz.
“Los LLM no censurados son modelos no alineados que funcionan sin las restricciones de las barandillas. Estos sistemas generan felizmente un resultado sensible, controvertido o potencialmente dañino en respuesta a las indicaciones del adjudicatario. Como resultado, los LLM sin censura son perfectamente adecuados para el uso cibercriminal”.
Esto se ajusta a un cambio más excelso que estamos viendo: Phishing está siendo alimentado por AI en más formas que antiguamente. Los correos electrónicos falsos, las voces clonadas, incluso los videos de Deepfake están apareciendo en ataques de ingeniería social. Estas herramientas ayudan a los atacantes a prosperar rápidamente, convirtiendo pequeñas estafas en grandes campañas automatizadas. Ya no se alcahuetería solo de engañar a los usuarios, se alcahuetería de construir sistemas enteros de patraña.
