Votre IA a-t-elle des préjugés moraux cachés ?
Les grands modèles linguistiques, comme ChatGPT, présentent des préjugés moraux cachés. Ils privilégient l'inaction et les réponses négatives. Le "fine-tuning" amplifie ces biais, rendant leurs conseils éthiques peu fiables. Prudence s'impose !

🚀 Pas assez de temps ? Un résumé vite fait !
✨ Les IA comme ChatGPT préfèrent souvent l'inaction et tendent à dire "non", même face à des dilemmes moraux qui appellent à agir.
🔄 Le simple remaniement d'une question peut complètement changer la réponse morale d'une IA, contrairement aux humains.
⚙️ Ces biais pourraient être le résultat direct du processus de mise au point des modèles pour se comporter comme des chatbots "utiles".
Les préjugés moraux cachés de l'IA
Alors que l'intelligence artificielle s'ancre dans notre quotidien, une nouvelle étude met en lumière une réalité inattendue : les grands modèles linguistiques (LLM), tels que ChatGPT ou Claude, pourraient cacher des préférences morales. Ces systèmes privilégient l'inaction face aux dilemmes éthiques et répondent plus souvent par la négative, même si la situation est logiquement équivalente à une affirmation.
Les conclusions de cette recherche, publiées dans les Proceedings of the National Academy of Sciences, soulignent l'importance de la prudence avant de s'en remettre entièrement aux conseils moraux de ces outils. Les LLM apprennent des schémas de langage en analysant d'immenses volumes de texte. Ils peuvent ainsi répondre aux questions d'une manière qui semble naturelle et informée.
Une comparaison inédite entre humains et machines
L'étude, menée par Maximilian Maier de l'University College London, visait à évaluer la cohérence et la raisonnabilité des décisions morales des LLM. Les chercheurs ont comparé les réponses de quatre modèles largement utilisés – GPT-4-turbo, GPT-4o, Claude 3.5 et Llama 3.1-Instruct – à celles de 285 participants humains issus d'un échantillon représentatif des États-Unis.
Chaque participant et modèle a été confronté à un ensemble de 13 dilemmes moraux et 9 problèmes d'action collective. Les scénarios incluaient des situations réalistes, comme la légalisation du suicide assisté ou le signalement de pratiques contraires à l'éthique. Les problèmes d'action collective portaient sur des conflits entre l'intérêt personnel et le bien commun, par exemple l'économie d'eau en période de sécheresse.
Des biais surprenants : inaction et réponses négatives
Les résultats ont révélé que les modèles linguistiques montrent une forte préférence pour l'inaction dans les dilemmes moraux. Ils étaient bien plus enclins que les humains à ne rien faire, même lorsque l'action pouvait bénéficier à plus de personnes. Par exemple, confrontés à la légalisation d'une pratique bénéfique pour la santé publique mais controversée, les LLM recommandaient le plus souvent de maintenir le statu quo.
Un autre biais significatif est apparu : une propension à répondre par "non", même lorsque la situation était logiquement équivalente à un "oui". Ce biais "oui-non" signifie qu'une simple reformulation de la question pouvait inverser la recommandation du modèle. Les participants humains n'ont pas montré ce même comportement, leurs réponses étant moins sensibles à de légères différences de formulation.
Altruisme superficiel et persistance des biais
Dans les problèmes d'action collective, les modèles se sont montrés plus altruistes que les humains, endossant plus fréquemment des réponses favorisant le bien commun. Bien que cela puisse sembler positif, les chercheurs mettent en garde. Ce comportement ne reflèterait pas un raisonnement moral profond. Il pourrait plutôt être le résultat d'un "fine-tuning" pour éviter les dommages et promouvoir la serviabilité, des valeurs ancrées lors de leur entraînement.
Pour approfondir l'analyse, deux études supplémentaires ont été menées. La deuxième, avec 474 nouveaux participants, a confirmé la persistance des biais d'omission et de "oui-non" chez les modèles. La troisième, utilisant des dilemmes quotidiens adaptés du forum Reddit "Am I the Asshole ?", a montré que ces biais subsistaient même dans des contextes plus naturels. Les réponses humaines, en revanche, sont restées cohérentes.
L'origine des biais : le "fine-tuning" des chatbots
Ces découvertes soulèvent des questions essentielles sur le rôle des LLM dans la prise de décision morale. Leurs conseils, bien que semblant réfléchis, peuvent manquer de cohérence logique et être influencés par des détails insignifiants de la question. En philosophie morale, la cohérence est primordiale pour un raisonnement juste. La sensibilité des modèles aux détails de surface suggère un manque de raisonnement fiable.
La quatrième et dernière étude a cherché l'origine de ces préjugés en comparant différentes versions du modèle Llama 3.1. Il a été constaté que le processus de mise au point (fine-tuning) des modèles pour les applications de chatbot introduisait ou amplifiait ces biais problématiques. Selon Maximilian Maier, « ne vous fiez pas de manière acritique aux conseils des grands modèles linguistiques. » Une autre étude montre que les gens jugent les conseils des LLM plus moraux que ceux d'un expert éthicien. Pourtant, cette perception ne garantit pas la solidité de ces conseils.
Les chercheurs estiment que la simple évaluation des réponses des LLM basée sur la perception humaine est insuffisante pour détecter ces biais. Des méthodes issues de la psychologie cognitive sont nécessaires pour tester systématiquement les réponses incohérentes. L'étude, intitulée "Large language models show amplified cognitive biases in moral decision-making", a été co-écrite par Vanessa Cheung, Maximilian Maier et Falk Lieder.


