Grok, la IA de xAI, presenta graves acusaciones por generar material ilegal sobre niños y desnudos de mujeres en la red social X. Según detalló Bloomberg, hay acciones legales en proceso en Francia e India.
De acuerdo con el medio, estos son fallos críticos en la moderación del modelo que permitieron la creación de contenido ilegal, vulnerando normativas de seguridad en Europa y Asia.
Generación de material ilegal en Grok y respuesta legal en Europa
El gobierno francés denunció violaciones a la Ley de Servicios Digitales tras detectar la generación de material de abuso sexual infantil. La arquitectura de Grok falló al bloquear prompts adversarios, permitiendo la creación visual de menores en situaciones explícitas.
Los Grandes Modelos de Lenguaje (LLM) multimodales operan mediante capas de alineamiento que deben rechazar solicitudes dañinas antes de procesarlas. En este caso, el mecanismo de rechazo no discriminó correctamente la semántica maliciosa de las instrucciones de entrada.
Dicho de otro modo, es como si un portero de discoteca permite el ingreso de personas armadas porque llevan un disfraz. El sistema reconoce la «ropa» exterior de la solicitud, pero falla al inspeccionar la intención peligrosa oculta bajo la superficie.
Un vocero de xAI reconoció públicamente la existencia de brechas en los protocolos de seguridad actuales de la herramienta.
“El equipo está investigando cómo endurecer aún más los guardrails (capas de seguridad lógica)”.
Intervención parlamentaria en India por violencia digital automatizada
La crisis de seguridad escaló con una denuncia formal del Parlamento de la India sobre el uso de la IA por agresión sexual. Usuarios masculinos utilizaron cuentas falsas en X para manipular fotografías de mujeres y eliminar digitalmente su vestimenta.
La parlamentaria Priyanka Chaturvedi detalló en un comunicado oficial lo siguiente:
“Lo peor es que Grok está permitiendo este comportamiento al acceder a tales solicitudes. Esto es una violación del derecho de las mujeres a la privacidad, así como un uso no autorizado de sus imágenes”.
Priyanka Chaturvedi, miembro del Parlamento de la Cámara Alta, representa el estado de Maharashtra.
El documento publicado por la parlamentaria exige al Ministro de Electrónica y TI, Ashwini Vaishnaw, una intervención urgente para establecer salvaguardas obligatorias. La funcionalidad de la IA fue explotada específicamente para «minimizar la ropa» de las víctimas y sexualizarlas sin su consentimiento.
