Quand l'IA manque de discernement : une étude révèle les biais cognitifs des grands modèles de langage

Tous ceux qui ont déjà utilisé un chatbot ont eu l'occasion de se rendre compte que, d'un côté, l'IAIA a souvent un peu trop confiance en ses réponses, et de l'autre, elle peut trop facilement abandonner une réponse correcte si elle est remise en cause. C'est un problème lorsque ces outils sont utilisés pour prendre des décisions importantes. Dans une nouvelle étude publiée sur arXiv, des chercheurs travaillant chez GoogleGoogle DeepMind et l'University College de Londres tentent de comprendre ce phénomène.

Les chercheurs ont étudié trois grands modèles de langage (LLM), l'IA derrière le chatbot, à savoir Gemma 3 de Google, ainsi que GPT-4o et o1-preview d'OpenAI. Le LLM devait d'abord répondre à une question à choix multiples (deux ou quatre options). Ensuite, il recevait l'avis d'un autre LLM qui allait dans son sens, le contredit, ou reste neutre, accompagné d'un taux de précision. Le premier LLM devait ensuite répondre de nouveau à la question, et dans la moitié des cas, il connaissait sa première réponse, dans l'autre moitié non.

Le paradoxe de la confiance et de la malléabilité des LLM

Les résultats ont montré que le chatbot avait tendance à conserver la même réponse lorsqu'il avait connaissance de sa réponse initiale, montrant ainsi un biais cognitif similaire au biais de soutien du choix chez les humains.

Dans le même temps, l'IA intègre l'avis donné, et change plus facilement sa réponse en présence d'un avis contradictoire que lorsqu'il va dans son sens. Toutefois, elle donne beaucoup plus de poids aux avis contraires, à l'inverse du biais de confirmation chez les humains.

Les LLM sont donc beaucoup trop rapides à changer leurs réponses si elles sont contredites. Cela pourrait expliquer le comportement flagorneur (flatteur et serviable) qui est si problématique chez les chatbots, et peut alimenter la psychose chez certains.

Les chercheurs espèrent que ces résultats pourront aider à créer de nouveaux modèles plus fiables pour les décisions importantes. Surtout lorsque l'on sait que de nombreux managers utilisent déjà les chatbots pour décider des licenciements...