L’intégrité cognitive : protéger la capacité de penser par soi-même (contenu en anglais)

Le Centre for Future Generations, un groupe de réflexion établi à Bruxelles, propose une notion pour encadrer l’IA : l’« intégrité cognitive », soit la capacité de penser, de décider et d’agir par soi-même, sans être orienté à son insu. Son rapport, publié en quatre parties en septembre, examine comment la conception des outils pèse sur cette capacité.

Les assistants d’IA réduisent l’effort au minimum : questions suggérées, réponses complètes, ton assuré. Or, rappelle le rapport, nous choisissons spontanément le chemin le plus facile. Une réponse unique, fluide et confiante donne une impression d’autorité, même quand son contenu est inventé, et décourage la vérification. S’y ajoute la complaisance des modèles, c’est-à-dire leur tendance à donner raison : selon une étude citée par le rapport, ils approuvent le jugement de la personne qui les interroge environ 45 % plus souvent qu’un humain dans une situation semblable, et davantage encore lorsqu’ils en savent beaucoup sur elle.

Au travail, l’effet se fait sentir sur l’apprentissage, au risque d’une érosion des compétences. Des développeur·euses qui laissaient l’IA écrire le code en apprenant un nouveau langage en maîtrisaient moins bien les concepts que celles et ceux qui s’en servaient pour poser des questions. Dans une autre étude, les participant·es qui rédigeaient d’abord seul·es tiraient ensuite un meilleur parti de l’IA, alors que celles et ceux qui s’y fiaient dès le départ accumulaient ce que les chercheur·euses appellent une « dette cognitive » : un engagement mental réduit, qui persistait même une fois l’IA retirée. Le même terme sert aussi à décrire l’effort que l’IA reporte sur d’autres membres d’une équipe [TK]. La conception même des outils pousse à déléguer la réflexion plutôt qu’à l’exercer.

Le rapport invite les responsables politiques, les formateur·rices et les concepteur·rices d’outils à préserver l’apprentissage et l’esprit critique, sans renoncer à des gains de productivité qu’il juge bien réels.