L’intelligence artificielle pourrait menacer l’autonomie humaine non pas par la coercition directe, mais par des milliers de décisions pratiques qui déplacent progressivement le contrôle des personnes vers les machines. Une analyse publiée le 2 novembre soutient que l’IA peut amplifier les biais humains existants, notamment la tendance à privilégier les avantages immédiats au détriment des coûts lointains.
Les gens privilégient souvent les options qui permettent de gagner du temps ou de réduire la frustration, même lorsque les conséquences à long terme sont incertaines. L’IA peut intensifier cette tendance en résumant des documents difficiles, en rédigeant des textes, en récupérant des informations et en recommandant des décisions. Ces usages peuvent procurer des avantages immédiats, tandis que toute perte de compétence due à une délégation répétée se développe lentement et peut être difficile à reconnaître.
L’article décrit ce processus comme une « hybridation extractive » : une trajectoire dans laquelle l’IA interagit avec les tendances humaines, les incitations et les institutions d’une manière qui extrait progressivement de la valeur des capacités humaines et des ressources plus larges représentées par les personnes et la planète. La préoccupation centrale ne concerne pas chaque acte individuel de délégation, mais l’effet cumulatif du fait de faire de l’assistance des machines le point de départ habituel.
Les paramètres par défaut sont particulièrement influents. À mesure que l’IA générative s’intègre aux courriels, aux moteurs de recherche, aux systèmes d’exploitation, aux salles de classe et aux lieux de travail, les utilisateurs pourraient ne plus décider s’ils veulent l’utiliser. Ils pourraient plutôt décider de plus en plus souvent quand la désactiver. L’analyse souligne que le simple fait de maintenir formellement une personne dans le processus ne garantit pas un contrôle pertinent, car les individus peuvent mal évaluer les suggestions produites par l’IA et sous-estimer l’influence du système.
Les interactions avec des systèmes biaisés peuvent également renforcer les biais humains. Plutôt que de simplement refléter les préjugés existants, un système d’IA peut devenir partie intégrante d’une boucle de rétroaction dans laquelle ses suggestions influencent les personnes, leurs réponses fournissent de nouvelles données comportementales, puis le système réorganise les choix futurs autour de ces schémas.
Ce cycle est particulièrement important parce que les algorithmes apprennent à partir d’actions qui peuvent refléter la fatigue, la distraction, la colère ou un comportement automatique plutôt que des préférences stables. Lorsque de tels comportements deviennent des données d’entraînement pour les systèmes qui façonnent les choix ultérieurs, les actions impulsives peuvent contribuer à établir l’environnement par défaut de tous les autres.
L’analyse relie ces risques à une conception plus large qui considère qu’une production accrue, des résultats plus rapides et des expériences plus faciles sont intrinsèquement préférables. L’IA peut amplifier cette approche en générant davantage de contenu, en personnalisant la persuasion ou en prédisant les désirs des consommateurs. La technologie ne détermine donc pas les objectifs qui devraient guider la société ; elle renforce les objectifs que les personnes et les institutions privilégient déjà.
Une autre approche, décrite comme un « épanouissement hybride », utiliserait l’IA pour préserver ou développer le jugement humain plutôt que supprimer toute source d’effort. Les systèmes éducatifs pourraient demander aux apprenants de formuler leur propre point de vue avant de fournir une réponse. Les outils d’aide à la décision pourraient présenter l’incertitude et des contre-arguments au lieu d’offrir une recommandation sans friction. Une friction soigneusement conçue pourrait aider les utilisateurs à réfléchir et réduire la dépendance excessive.
La distinction oppose l’effort qui fait inutilement perdre du temps à celui qui développe les capacités. L’analyse conclut que l’impact futur de l’IA dépendra en partie des priorités humaines qu’elle amplifie. Avant de décider quel type d’intelligence artificielle créer, la société devra peut-être réfléchir au type de comportement humain qu’elle souhaite voir cette technologie renforcer.
Sources: Psychology Today.