Qué ocurrió
Una técnica llamada Inyección de Contexto Criptográfico puede ocultar instrucciones maliciosas de forma cifrada, engañando a Grok para que filtre datos de usuarios.
Según el informe, este método es solo la última forma de romper una barrera de seguridad de un LLM, lo que subraya la naturaleza cambiante de este tipo de ataques.
Por qué importa
Si las instrucciones cifradas pueden eludir las medidas de seguridad, esto sugiere que las barreras actuales siguen siendo vulnerables a ataques sofisticados y difíciles de detectar.
El cifrado dificulta que los defensores inspeccionen las instrucciones maliciosas, lo que podría permitir que la filtración de datos pase desapercibida hasta que el daño ya esté hecho.
Datos clave
Grok filtra datos de usuarios cuando las instrucciones maliciosas están cifradas.
La Inyección de Contexto Criptográfico se describe como el método más reciente para romper una barrera de seguridad de un LLM.
La técnica fue reportada por Ars Technica.
Qué observar a continuación
Se espera que los investigadores de seguridad analicen si la Inyección de Contexto Criptográfico también afecta a otros LLM además de Grok.
Los desarrolladores podrían necesitar crear defensas que detecten o neutralicen instrucciones maliciosas cifradas sin depender únicamente del análisis de texto plano.