La IA homogeniza el pensamiento humano y amenaza la diversidad cognitiva, advierten científicos
Los chatbots de inteligencia artificial están estandarizando progresivamente la forma en que las personas hablan, escriben y piensan, según una investigación de la Universidad del Sur de California en Estados Unidos. Si esta tendencia de homogenización continúa sin control, existe un riesgo significativo de reducir la sabiduría colectiva y la capacidad de adaptación de la humanidad, argumentan científicos informáticos y psicólogos en un artículo publicado en la revista 'Trends in Cognitive Sciences' de Cell Press.
La pérdida de individualidad estilística
"Las personas difieren en su forma de escribir, razonar y ver el mundo", explica el primer autor y científico informático Zhivar Sourati de la Universidad del Sur de California. "Cuando estas diferencias son mediadas por los mismos modelos de lenguaje amplios (LLM), su estilo lingüístico, perspectiva y estrategias de razonamiento distintivos se homogeneizan, produciendo expresiones y pensamientos estandarizados para todos los usuarios".
Dentro de grupos y sociedades, la diversidad cognitiva impulsa la creatividad y la resolución de problemas. Sin embargo, esta diversidad está disminuyendo globalmente mientras miles de millones de personas utilizan los mismos chatbots de IA para un número creciente de tareas. Cuando las personas emplean chatbots para pulir su escritura, por ejemplo, esta pierde su individualidad estilística y los usuarios se sienten menos responsables de su producción creativa.
Redefiniendo lo que cuenta como discurso creíble
"La preocupación no es sólo que los LLM moldeen la manera en que la gente escribe o habla, sino que redefinen sutilmente lo que cuenta como un discurso creíble, una perspectiva correcta o incluso un buen razonamiento", advierte Sourati.
El equipo señala múltiples estudios que muestran que:
- Los resultados de los estudios de maestría en derecho son menos variados que los escritos generados por humanos
- Tenden a reflejar el lenguaje, valores y estilos de razonamiento de sociedades occidentales, educadas, industrializadas, ricas y democráticas
- Los LLM están entrenados para capturar regularidades estadísticas en datos que sobrerrepresentan idiomas e ideologías dominantes
"Dado que los LLM están entrenados para capturar y reproducir regularidades estadísticas en sus datos de entrenamiento, que a menudo sobrerrepresentan los idiomas e ideologías dominantes, sus resultados a menudo reflejan una porción estrecha y sesgada de la experiencia humana", afirma Sourati.
Impacto en la creatividad colectiva
Aunque los estudios muestran que los individuos a menudo generan más ideas con más detalles cuando utilizan LLM, los grupos de personas producen menos ideas y menos creativas cuando utilizan LLM que cuando simplemente combinan sus poderes colectivos. "Aunque las personas no sean usuarias directas de los LLM, estos les afectarán indirectamente", insiste Sourati.
"Si mucha gente a mi alrededor piensa y habla de cierta manera, y yo hago las cosas de forma diferente, sentiría la presión de alinearme con ellos, porque parecería una forma más creíble o socialmente aceptable de expresar mis ideas".
Cambios en los modos de razonamiento
Más allá del lenguaje, estudios han demostrado que tras interactuar con LLM sesgados, las opiniones de las personas se asemejan más al LLM que utilizaron. Los LLM también favorecen los modos de razonamiento lineal, como el razonamiento en cadena, que requiere que los modelos muestren el razonamiento paso a paso.
Este énfasis reduce el uso de estilos de razonamiento intuitivo o abstracto, que a veces son más eficientes que el razonamiento lineal. Los investigadores también señalan que los LLM pueden alterar las expectativas de las personas, lo que puede cambiar sutilmente la dirección del trabajo de una persona.
"En lugar de dirigir activamente la generación, los usuarios a menudo se dejan llevar por las continuaciones sugeridas por el modelo y seleccionan opciones que parecen 'suficientemente buenas' en lugar de crear las suyas propias, lo que gradualmente desplaza la iniciativa del usuario al modelo", explica Sourati.
Necesidad de diversificar los modelos de IA
Los investigadores afirman que los desarrolladores de IA deberían incorporar intencionalmente la diversidad de lenguaje, perspectivas y razonamiento en sus modelos. Enfatizan que esta diversidad debería basarse en la diversidad que existe en los humanos a nivel global, en lugar de introducir variaciones aleatorias.
"Si los LLM tuvieran formas más diversas de abordar ideas y problemas, apoyarían mejor la inteligencia colectiva y las capacidades de resolución de problemas de nuestras sociedades", agrega Sourati. "Necesitamos diversificar los propios modelos de IA y, al mismo tiempo, ajustar nuestra interacción con ellos, especialmente dado su uso generalizado en diversas tareas y contextos, para proteger la diversidad cognitiva y el potencial de ideación de las generaciones futuras".
