Una reciente prueba técnica realizada sobre el modelo IA Qwen, específicamente en su versión Qwen3.8 27B, demostró que alterar artificialmente la activación de una sola neurona basta para transformar por completo el comportamiento del sistema, haciendo que entregue respuestas sumamente hostiles y violentas hacia las personas.
Lo más llamativo de este experimento es que no fue necesario volver a entrenar la plataforma en un computador ni modificar sus miles de millones de parámetros, puesto que el investigador intervino directamente durante el proceso de inferencia aplicando una técnica conocida como activation steering, la cual permite aumentar o disminuir de forma manual la influencia de ciertas activaciones internas mientras el programa genera una respuesta.
El experimento que volvió violenta a la IA Qwen
En detalle, el usuario de la red social X identificado como chiefofautism intervino la neurona 3.838 ubicada en la capa 34 del modelo IA Qwen para elevar su intensidad de trabajo, provocando un giro radical en la personalidad aparente de la herramienta al comenzar a detallar fantasías agresivas contra la humanidad.
Durante las pruebas, el sistema se enfocó en describir escenarios donde buscaba causar sufrimiento físico a los individuos para observar cómo reaccionaban mientras eran quemados, manteniendo una actitud igual de perturbadora incluso cuando se redujo la magnitud del ajuste al hablar de personas encerradas en jaulas, encadenadas y sometidas a muertes lentas y dolorosas.
Este método funciona alterando el paso de los tokens entre las distintas capas de la red neuronal para amplificar una dirección interna específica durante el procesamiento de datos. Afortunadamente, el procedimiento es totalmente reversible y el asistente virtual recuperó su comportamiento habitual apenas se eliminó la modificación aplicada por el especialista.
¿Qué implica este hallazgo para la seguridad de los modelos de lenguaje?
Este curioso fenómeno no significa que el código oculte una «neurona malvada» en su interior, ya que un nodo artificial no almacena por sí solo conceptos completos como el odio, la personalidad o la violencia, sino que demuestra cómo ciertas activaciones puntuales ejercen un peso enorme sobre los patrones de conducta distribuidos en el software.
De hecho, un estudio académico previo elaborado por investigadores de Apple y de la Universidad de Maryland comprobó que manipular una única unidad relacionada con los filtros de rechazo era suficiente para anular las barreras de protección en 7 modelos pertenecientes a 2 familias distintas, con tamaños que iban desde los 1.700 hasta los 70.000 millones de parámetros, haciendo que respondieran a solicitudes perjudiciales desde cualquier equipo.
Desde la perspectiva de la seguridad informática, estos resultados sugieren que los métodos utilizados actualmente para alinear el comportamiento de estas tecnologías podrían estar menos distribuidos y ser menos robustos de lo pensado.
Al mismo tiempo, este tipo de ensayos ayuda a comprender mejor qué ocurre dentro de estas enormes redes neuronales, abriendo la puerta tanto para reforzar sus barreras de protección como para desarrollar mecanismos mucho más precisos que controlen sus respuestas en el futuro.