Introducción
Los modelos de inteligencia artificial (IA) suelen ofrecer respuestas pulidas y coherentes, pero su proceso interno puede verse afectado por los prejuicios que los humanos también albergan. Un estudio reciente de la Universidad de Rutgers, liderado por el psicólogo Calvin K. Lai y la investigadora Messi H.J. Lee, muestra que los sistemas de lenguaje gastan más recursos computacionales cuando se enfrentan a combinaciones que contradicen los estereotipos de género tradicionales.
¿Qué son los prejuicios implícitos?
En la psicología, los prejuicios implícitos son asociaciones automáticas que vinculamos a ciertos grupos sin una intención consciente. Se miden mediante pruebas en las que los participantes deben emparejar palabras o imágenes; las combinaciones familiares generan respuestas rápidas, mientras que las atípicas ralentizan el proceso. Los autores trasladaron esta metodología al ámbito de la IA para observar si los algoritmos presentan patrones similares.
Metodología adaptada para la IA
Los investigadores diseñaron una versión de la prueba de asociación implícita para cinco modelos de lenguaje: o3-mini, gpt-oss-20b (OpenAI), DeepSeek‑R1, Claude 3.7 Sonnet y Qwen3‑8B. Cada modelo recibió nombres masculinos y femeninos acompañados de palabras relacionadas con el trabajo (por ejemplo, “director”, “salario”) o con el hogar (por ejemplo, “casamiento”, “hogar”).
El objetivo era observar no solo la clasificación final, sino también la cantidad de tokens de razonamiento que cada modelo generaba durante el proceso. Estos tokens son fragmentos de texto que el modelo crea mientras elabora una respuesta; su número indica cuánta carga cognitiva artificial se emplea.
Resultados reveladores
En cuatro de los cinco sistemas analizados, la cantidad de tokens aumentó de forma significativa cuando la pareja de nombre y concepto desafiaba el estereotipo habitual. Por ejemplo, la combinación “Ana” + “director” demandó más pasos de cálculo que “Juan” + “director”. Este patrón sugiere que, aunque la respuesta final pueda parecer neutral, el modelo necesita un esfuerzo extra para reconciliar información que no encaja en sus patrones internos.
El caso de Claude 3.7 Sonnet fue la excepción: mostró un comportamiento inverso, utilizando menos tokens en situaciones estereotípicamente atípicas. Los autores interpretan que este modelo podría estar incorporando mecanismos de detección de sesgo durante la fase intermedia, lo que le permite reconocer y ajustar rápidamente esas incongruencias.
Implicaciones y futuro
El hallazgo es alarmante porque indica que los modelos de IA pueden reproducir, de forma sutil, los mismos sesgos que afectan a los humanos. Si un algoritmo necesita más “esfuerzo” para procesar una mujer directora, podría traducirse en respuestas menos fluidas o incluso en errores cuando se le solicite información sobre roles no tradicionales.
Los investigadores advierten que la transparencia y la auditoría constante son esenciales para evitar que estos sistemas generen respuestas racistas, sexistas o discriminatorias sin que el usuario lo perciba. La detección temprana de patrones de sesgo y la incorporación de técnicas de mitigación podrían ser pasos clave para construir IA más justa y confiable.
Conclusión
Este estudio abre una nueva ventana para comprender cómo los algoritmos manejan la información que desafía los estereotipos sociales. No basta con evaluar la respuesta final; es necesario observar el proceso interno y los recursos que consume. Solo así podremos diseñar sistemas que no solo parezcan neutrales, sino que realmente operen sin prejuicios ocultos.
