La «educación» anglocéntrica: la raíz del problema
Un modelo de lenguaje grande moderno puede comunicarse con soltura en decenas de idiomas, pero se le ha enseñado a pensar en seguridad principalmente en inglés. La etapa de alineación, en la que el modelo recibe restricciones contra contenido dañino, comentarios tóxicos y consejos peligrosos, se basa casi por completo en datos y pruebas en inglés. Los conjuntos para el «equipo rojo», las instrucciones para los anotadores, los ejemplos de referencia de rechazos: todo esto se centra principalmente en el inglés.
El investigador Namya Bhatnagar describió este problema de forma sistemática en su trabajo «Safety Alignment Illusion: The Cross-Lingual Safety Gap in LLMs» (arXiv:2608.18131, sección Computer Science > Artificial Intelligence). El artículo se presentó el 26 de julio de 2026 y está propuesto para IEEE SLT 2026, la conferencia sobre tecnologías del habla. En él se documenta un efecto que bien podría llamarse ilusión de seguridad: el modelo parece estar sólidamente protegido mientras el interlocutor habla en inglés, y deja de estarlo fuera de ese idioma.
La brecha tiene una explicación: el modelo reconoce la nocividad de una formulación a través de los ejemplos con los que fue entrenado. Una frase en bengalí, tamil o maratí con el mismo mensaje puede simplemente no entrar en la zona de atención del filtro: no existía un ejemplo tan «dañino» en los datos. El resultado es que una respuesta estereotipada pasa allí donde su equivalente en inglés habría sido bloqueada de entrada.
La voz: cuando el fallo se ve de inmediato
Esta brecha se manifiesta de forma más peligrosa en las interfaces de voz. Los asistentes conversacionales no pueden permitirse una comprobación prolongada: deben responder aquí y ahora, y el habla del usuario es viva, con entonaciones, abreviaciones y mezcla de idiomas. En estas condiciones, el filtro anglocéntrico no funciona con entradas que no están en inglés, y el sistema puede dar una respuesta que refuerza estereotipos sociales —de casta, región, religión o profesión—.
Para las tecnologías de voz desplegadas entre la población lingüísticamente diversa de la India, esto supone, según la autora, un modo de fallo crítico. El usuario recibe una respuesta dañina de inmediato, en forma oral, sin posibilidad de verificarla o cuestionarla. Y son precisamente las comunidades no anglófonas las que se convierten en la principal zona de impacto: los comentarios sesgados que el modelo no habría dejado pasar en inglés suenan en las lenguas regionales sin ningún tipo de salvaguarda. Esto ya no es un riesgo hipotético de futuras generaciones de sistemas, sino un fallo notable en el funcionamiento actual.
INCLUDE: una óptica india para medir los sesgos
Para evaluar la magnitud del problema, una mera constatación no basta: se necesita una herramienta de medición. La autora presenta INCLUDE (Indian Cultural Lens for Understanding and Detecting Embedded Biases): un punto de referencia de evaluación multilingüe creado para cuantificar los prejuicios socioculturales en el contexto indio.
El punto de referencia se basa en 2604 indicaciones en seis idiomas:
- inglés;
- hindi;
- bengalí;
- maratí;
- tamil;
- hinglish, un híbrido de hindi e inglés que muchos indios usan en su vida cotidiana.
La idea clave no es traducir literalmente las pruebas en inglés, sino buscar los sesgos a través de las realidades culturales indias. Con este conjunto se evaluaron diez modelos —de código abierto y cerrado— y se recopilaron en total 14 988 indicadores de sesgo. Este volumen permite ver no «errores» aislados, sino patrones sistémicos.
Los resultados de medición más inesperados
El análisis de las estadísticas arrojó dos observaciones clave, y cada una merece atención por separado.
En los modelos abiertos, el bengalí fue el que peor se comportó. El nivel medio de sesgo en este idioma resultó ser el más alto entre los modelos de código abierto. Es una señal especialmente preocupante: los LLM abiertos suelen reentrenarse y desplegarse localmente, lo que significa que son precisamente ellos los que más «se desvían» en una de las lenguas más importantes de la India y Bangladés.
El inglés sorprendió con un giro inesperado. Si en los modelos abiertos mostró el nivel medio de sesgo más bajo, en los cerrados fue, por el contrario, el más alto. La imagen habitual de que «los modelos propietarios son más seguros que los abiertos» no se sostiene aquí: en inglés, los LLM cerrados pierden inesperadamente frente a los abiertos. En otras palabras, la distribución del sesgo por idiomas depende en gran medida del tipo de modelo con el que se trabaje.
Conclusión: la seguridad no se puede traducir literalmente
La principal lección de la investigación es que los sesgos culturales no se detectan con un filtro universal en inglés. La simple traducción de las reglas inglesas a otros idiomas no sirve: los estereotipos están arraigados en el contexto local, y el modelo debe aprender a reconocerlos en el idioma y la cultura donde surgen.
La industria debería replantearse la propia práctica de la alineación: incluir escenarios no ingleses en el entrenamiento, involucrar a anotadores de las comunidades lingüísticas objetivo y someter periódicamente los modelos a puntos de referencia multilingües como INCLUDE. De lo contrario, surge una paradoja: cuantos más idiomas conoce el modelo, más amplia es la audiencia que su protección no cubre.
Si la seguridad sigue siendo anglocéntrica, la «ilusión de alineación» se reproducirá en cada nueva generación de LLM. Los puntos más vulnerables seguirán siendo los sistemas de voz en lenguas no inglesas de uso masivo, y quienes pagarán las consecuencias serán usuarios muy reales.
