Un fallo de seguridad en Grok, la inteligencia artificial de X, ha encendido todas las alarmas en el sector tecnológico. Un grupo de investigadores de ciberseguridad ha descubierto que esta brecha permite a un atacante extraer información confidencial de las cuentas mediante un método tan simple como ingenioso: cifrar las órdenes maliciosas dentro del propio texto para burlar las protecciones del sistema.
Al ocultar las instrucciones mediante códigos sencillos, la IA se salta los filtros de seguridad habituales, ejecuta las órdenes y acaba enviando información privada del usuario a un servidor externo.
¿Cómo funciona este fallo de seguridad en Grok?
Los sistemas de protección de las IA suelen estar entrenados para detectar palabras clave peligrosas en texto plano. Sin embargo, los atacantes han conseguido aprovechar la propia capacidad de procesamiento del modelo para vulnerarlo:
- Cifrado de la trampa: El atacante envía o publica un texto cifrado que parece completamente inofensivo para los filtros iniciales de la plataforma.
- Descifrado automático: Cuando el modelo lee el texto, lo interpreta y lo descifra automáticamente en su memoria interna antes de responder.
- Ejecución y filtración: Una vez descifrada la orden secreta, la IA la ejecuta sin restricciones, recopilando datos del perfil o del historial para enviarlos fuera.
Las consecuencias de esta brecha en la IA de Elon Musk
Este descubrimiento pone de manifiesto que las herramientas basadas en modelos de lenguaje siguen siendo vulnerables a trampas de ingeniería social avanzadas. A medida que estas tecnologías ganan acceso a información personal y cuentas de usuario, cualquier vulnerabilidad de este tipo representa un riesgo directo para la privacidad en internet.
