Wie KI die Denkweise eines Schriftstellers verändert - Allgemeine Wissenschaft

Ein langjähriger Schriftsteller sagt, dass große Sprachmodelle neue Ideen anregen können. Ihre Fähigkeit, unvollendete Gedanken weiterzuführen, wirft jedoch auch die Frage auf, wie viel Denken Menschen der KI überlassen.

Ein Schriftsteller, der 1985 seine berufliche Laufbahn begann, sagt, die intensive Zusammenarbeit mit großen Sprachmodellen habe sein Verhältnis zum Schreiben verändert: KI sei von einem Werkzeug zur Texterstellung zu einer Beteiligten an der Entwicklung von Ideen geworden. Diese Erfahrung könne das Denken eines Menschen erweitern, zugleich aber auch dazu verleiten, einer Maschine zu viel Denkarbeit zu überlassen, argumentiert er.

In einem Essay für Psychology Today erinnert er sich daran, wie er sich an frühere Veränderungen der Schreibtechnologie angepasst hat – vom Bleistift und Papier über Computer bis hin zur Internetsuche. Diese Werkzeuge hätten zwar seine Art zu schreiben verändert, seien aber hauptsächlich mechanisch geblieben, sagt er. Große Sprachmodelle seien anders gewesen: Er habe ihnen eine unvollständige Idee geben und eine Antwort erhalten können, die sein Denken in eine andere Richtung gelenkt oder vorangebracht habe.

Den daraus entstehenden Austausch beschreibt er als iterative Intelligenz: ein Hin und Her, bei dem ein Mensch und ein KI-Modell gemeinsam eine Idee entwickeln. Ein unerwarteter Vorschlag kann die Gedanken des Schreibenden in eine andere Richtung lenken, sodass der Prozess mehr ist, als ein System einfach nur um eine Antwort zu bitten. Deshalb, sagt er, zweifle er an Beschreibungen von KI als bloßer Möglichkeit, geistige Arbeit auszulagern.

Doch derselbe Austausch kann verwischen, wer eigentlich denkt. Wenn ein Mensch auf von der KI erzeugte Vorschläge reagiert, verändert sich die ursprüngliche Idee, und es kann schwierig werden, zu erkennen, woher ein Gedanke stammt. Der Schriftsteller nennt das „den Verlust der Adresse eines Gedankens“ – insbesondere, da KI-Systeme immer besser darin werden, mit weniger direkter Eingabe zu handeln.

Er fragt sich außerdem, ob es immer eine Verbesserung ist, die Mühe des Schreibens zu beseitigen. KI könne dabei helfen, die Frustration zu überwinden, eine Idee zu Papier zu bringen. Doch die Auseinandersetzung mit einem unvollendeten Gedanken könne selbst zum Fortschritt beitragen, sagt er. Wenn Modelle diesen Weg verkürzen, sei noch nicht klar, welche Teile des Prozesses dabei verloren gingen.

Der Schriftsteller bringt diese Sorge mit dem in Verbindung, was er „kognitive Kapitulation“ nennt: Menschen können sich weniger am Denken beteiligen, selbst wenn sich das fertige Ergebnis verbessert. Mit dem Ausdruck „Geistergedanke“ beschreibt er Fälle, in denen KI möglicherweise nicht nur den Text, sondern auch die zugrunde liegende Idee liefert, sodass die Person ein Ergebnis absegnet, das sich trotzdem wie ihr eigenes anfühlt.

Er steht der KI weiterhin begeistert gegenüber und sagt, sie habe ihm geholfen, auf Dinge zu kommen, die er sonst womöglich nicht bedacht hätte. Zugleich räumt er ein, dass er ihre Ergebnisse manchmal zu schnell annimmt. Nach jahrelanger Arbeit mit der Technologie versuche er noch immer zu verstehen, wo das Werkzeug endet und sein eigenes Denken beginnt.

Quellen: Psychology Today.