Un écrivain qui a commencé sa carrière professionnelle en 1985 affirme que le fait de travailler en étroite collaboration avec de grands modèles de langage a changé son rapport à l’écriture, faisant de l’IA non plus un outil de production de texte, mais un participant à l’élaboration des idées. Selon lui, cette expérience peut élargir la réflexion d’une personne, tout en facilitant le recours à une machine pour accomplir une trop grande part du travail cognitif.
Dans un essai publié dans Psychology Today, il se souvient s’être adapté aux évolutions antérieures des technologies de l’écriture, du crayon et du papier aux ordinateurs et aux moteurs de recherche sur Internet. Ces outils ont modifié sa façon d’écrire, dit-il, mais sont restés essentiellement mécaniques. Les grands modèles de langage étaient différents : il pouvait leur soumettre une idée incomplète et recevoir une réponse qui réorientait ou faisait progresser sa réflexion.
Il décrit l’échange qui en résulte comme une intelligence itérative : un va-et-vient au cours duquel une personne et un modèle d’IA élaborent une idée ensemble. Une suggestion inattendue peut réorienter les pensées de l’écrivain, faisant de ce processus autre chose qu’une simple demande de réponse à un système. Il explique que c’est pourquoi il remet en question les descriptions de l’IA comme un simple moyen de déléguer le travail intellectuel.
Mais ce même échange peut brouiller la question de savoir qui réfléchit. À mesure qu’une personne réagit aux suggestions générées par l’IA, l’idée de départ change, et il peut devenir difficile de déterminer l’origine d’une pensée. L’écrivain appelle cela « la pensée qui perd son adresse », en particulier à mesure que les systèmes d’IA deviennent plus capables d’agir avec moins d’intervention directe.
Il se demande également si éliminer la difficulté de l’écriture constitue toujours une amélioration. L’IA peut aider à surmonter la frustration de coucher une idée sur la page, mais, selon lui, le fait de s’efforcer de développer une pensée inachevée peut lui-même contribuer aux progrès. Si les modèles raccourcissent ce cheminement, on ne sait pas encore quelles parties du processus disparaissent.
L’écrivain relie cette préoccupation à ce qu’il appelle la « capitulation cognitive » : les gens peuvent participer moins à la réflexion, même si le résultat final s’améliore. Il emploie l’expression « pensée fantôme » pour désigner les cas où l’IA peut fournir non seulement le texte, mais aussi l’idée sous-jacente, laissant la personne approuver un résultat qui lui semble malgré tout être le sien.
Il reste enthousiaste à l’égard de l’IA et affirme qu’elle l’a aidé à envisager des choses auxquelles il n’aurait peut-être pas pensé autrement. En même temps, il reconnaît qu’il lui arrive d’accepter ses résultats trop rapidement. Après des années de travail avec cette technologie, dit-il, il cherche encore à comprendre où s’arrête l’outil et où commence sa propre réflexion.
Sources: Psychology Today.