El contrabando de ASCII no es solo un riesgo de seguridad para la IA
Microsoft ha detectado una campaña de phishing masiva que utiliza caracteres Unicode invisibles para evadir filtros de contenido. Esta técnica, conocida como 'ASCII smuggling', demuestra cómo las tácticas de seguridad de IA se están trasladando a amenazas tradicionales.
Microsoft ha detectado una campaña de phishing masiva que utiliza caracteres Unicode invisibles, la cual alcanzó un pico de más de 2,37 millones de mensajes a finales de febrero. Esta técnica, que inicialmente se asociaba con la ocultación de instrucciones maliciosas para modelos de IA, está siendo empleada ahora en métodos de ataque tradicionales como el phishing por correo electrónico.
La adaptación de tácticas de IA en ataques tradicionales
«A medida que los métodos de ataque de la era de la IA se comprenden mejor, los actores de amenazas pueden adaptarlos para su uso en amenazas más tradicionales, como el phishing y el spam», afirmaron los investigadores de Redmond, Noam Kochavi y Sarah Wolstencroft, en un blog publicado el jueves. «Este caso ilustra cómo las técnicas que surgen en la investigación de seguridad de IA pueden cruzar rápidamente hacia ecosistemas de ataque establecidos, reforzando la necesidad de que los defensores vean las amenazas emergentes a través de una lente de dominio cruzado».
¿Qué es el contrabando de ASCII (ASCII smuggling)?
El contrabundo de ASCII implica el uso de caracteres Unicode invisibles o que no se renderizan para ocultar contenido dentro de un texto que parece normal para los humanos. Esto lo convierte en una técnica popular para ataques de inyección de instrucciones indirectas. En estos casos, un atacante oculta instrucciones para un asistente de IA en caracteres Unicode invisibles y las incrusta dentro de una página web o un documento. Un humano no puede verlas, pero un modelo de IA sí puede, decodificándolas como texto y, potencialmente, siguiendo las instrucciones del atacante para filtrar datos o realizar acciones no autorizadas.
Uso de caracteres invisibles para evadir filtros
En lugar de utilizar el contrabando de ASCII para la inyección de instrucciones, el equipo de seguridad de Microsoft detectó a alguien utilizando caracteres invisibles —insertando espacios de etiqueta Unicode entre las letras— para dividir palabras con señuelos financieros en correos electrónicos de phishing. El objetivo aparente era evadir la coincidencia de palabras clave y otros filtros de contenido. Por ejemplo, en lugar de escribir «funding» (financiación) en el correo, los atacantes escribieron «fun⟨U+E0020⟩ding».
«Cuando analizamos una muestra de los mensajes marcados, la sorpresa fue que no había instrucciones ocultas para un asistente de IA», escribieron Kochavi y Wolstencroft. «En su lugar, los caracteres de etiqueta invisibles se insertaron dentro de palabras clave financieras comunes, separándolas para que una firma literal o una coincidencia de palabras clave fallara».
Análisis de la campaña y cronología
Redmond detectó la firma de contrabando de ASCII a principios de febrero, marcando unos 21.000 mensajes el 8 de febrero antes de que el número se disparara a más de 1,3 millones al día siguiente. La mayoría de estos correos provenían de unos 150 dominios de remitentes con temática financiera y continuaron durante los tres meses siguientes, disminuyendo drásticamente después del 15 de mayo, pero continuando con picos menores ocasionales hasta mediados de junio.
Los investigadores de seguridad señalaron dos características notables, incluyendo el envío de una gran cantidad de correos en días laborables y el cese de actividad durante los fines de semana. La campaña también tuvo un descenso largo y gradual. «Después de una fase inicial intensa, con volúmenes de 1 a 2,37 millones de mensajes en días laborables, alcanzando su pico el 26 de febrero, las cifras bajaron lentamente a aproximadamente un 80 por ciento menos por día laborable a finales de marzo». Posteriormente, cayó significativamente tras el 15 de mayo, continuando con una actividad menor hasta mediados de junio.
Recomendaciones para la defensa
Según Redmond, lo más importante que los defensores pueden hacer para protegerse contra los bloques de etiquetas Unicode en correos electrónicos de phishing es verificar que las tuberías de normalización y tokenización gestionen los caracteres de etiqueta de manera consistente.\n «Cualquier contenido que vaya a ser evaluado por lógica de palabras clave, firmas o expresiones regulares debe tener primero eliminados o plegados los puntos de código Unicode invisibles y que no se renderizan, para que el uso de estos en una palabra ya no logre eludir la coincidencia», escribieron los cazadores de amenazas. Este mismo control también puede ayudar a reducir la amenaza del contrabando de ASCII contra los asistentes de IA que ingieren contenido de correo electrónico.\n Microsoft también sugiere buscar indicadores de comportamiento. «La actividad observada tenía una forma distintiva: volumen masivo desde dominios desechables de temática financiera, en un horario estricto de activación en días laborables y desactivación en fines de semana», advirtieron Kochavi y Wolstencroft. «Un pico repentino de caracteres de bloque de etiquetas concentrados en remitentes de temática financiera, activándose y desactivándose semanalmente, es un indicador de campaña de alta confianza».
Este caso subraya la importancia de monitorear técnicas emergentes en el ámbito de la IA que pueden ser adaptadas rápidamente para ataques tradicionales de ciberseguridad.",1234567890
Contenido traducido al español con fines informativos, cualquier cambio en la publicación original no será reflejada en esta entrada, favor referirse a la fuente para obtener el acceso a cualquier actualización del contenido. Para la traducción se utilizó un LLM, al ser una traducción automática puede contener errores gramaticales o de otro tipo, me pueden enviar un mensaje.
Comentarios
Publicar un comentario