Künstliche Intelligenz könnte die menschliche Autonomie nicht durch direkten Zwang bedrohen, sondern durch Tausende bequemer Entscheidungen, die die Kontrolle allmählich von Menschen auf Maschinen verlagern. Eine am 2. November veröffentlichte Analyse argumentiert, dass KI bestehende menschliche Verzerrungen verstärken kann, insbesondere die Tendenz, unmittelbaren Nutzen gegenüber langfristigen Kosten zu bevorzugen.
Menschen entscheiden sich häufig für Optionen, die Zeit sparen oder Frustration verringern, selbst wenn die langfristigen Folgen ungewiss sind. KI kann dieses Muster verstärken, indem sie schwieriges Material zusammenfasst, Texte entwirft, Informationen abruft und Entscheidungen empfiehlt. Diese Anwendungen können unmittelbare Vorteile bringen, während ein durch wiederholte Delegation verursachter Kompetenzverlust sich langsam entwickelt und nur schwer zu erkennen sein kann.
Der Artikel beschreibt diesen Prozess als „extraktive Hybridisierung“: eine Entwicklung, bei der KI mit menschlichen Tendenzen, Anreizen und Institutionen auf eine Weise interagiert, die schrittweise Wert aus menschlichen Fähigkeiten und den umfassenderen Ressourcen schöpft, die durch Menschen und den Planeten verkörpert werden. Die zentrale Sorge gilt nicht jeder einzelnen Delegation, sondern der kumulativen Wirkung, wenn maschinelle Unterstützung zum normalen Ausgangspunkt wird.
Standardeinstellungen sind besonders einflussreich. Da generative KI in E-Mail, Suchfunktionen, Betriebssysteme, Klassenzimmer und Arbeitsplätze eingebettet wird, entscheiden Nutzer möglicherweise nicht mehr, ob sie sie verwenden. Stattdessen entscheiden sie zunehmend, wann sie sie außer Kraft setzen. Die Analyse weist darauf hin, dass die formale Einbindung einer Person keine verlässliche Kontrolle garantiert, weil Menschen von KI erzeugte Vorschläge falsch einschätzen und den Einfluss des Systems unterschätzen können.
Interaktionen mit voreingenommenen Systemen können menschliche Vorurteile ebenfalls verstärken. Ein KI-System spiegelt bestehende Vorurteile nicht lediglich wider, sondern kann Teil einer Rückkopplungsschleife werden, in der seine Vorschläge Menschen beeinflussen, deren Reaktionen neue Verhaltensdaten liefern und das System daraufhin künftige Entscheidungen anhand dieser Muster neu organisiert.
Dieser Kreislauf ist besonders bedeutsam, weil Algorithmen aus Handlungen lernen, die möglicherweise Müdigkeit, Ablenkung, Ärger oder automatisches Verhalten widerspiegeln statt stabile Präferenzen. Wenn ein solches Verhalten zum Trainingsmaterial für die Systeme wird, die nachfolgende Entscheidungen prägen, können impulsive Handlungen dazu beitragen, die Standardumgebung für alle anderen festzulegen.
Die Analyse bringt diese Risiken mit einer umfassenderen Denkweise in Verbindung, die mehr Leistung, schnellere Ergebnisse und einfachere Erfahrungen grundsätzlich als besser betrachtet. KI kann diesen Ansatz verstärken, indem sie mehr Inhalte erzeugt, Überzeugungsarbeit personalisiert oder Verbraucherwünsche vorhersagt. Die Technologie legt daher nicht fest, welche Ziele die Gesellschaft leiten sollten; sie stärkt die Ziele, die Menschen und Institutionen bereits priorisieren.
Ein alternativer Ansatz, der als „hybrides Aufblühen“ beschrieben wird, würde KI einsetzen, um menschliches Urteilsvermögen zu bewahren oder weiterzuentwickeln, statt jede Anstrengungsquelle zu beseitigen. Bildungssysteme könnten Lernende auffordern, ihre eigenen Ansichten zu formulieren, bevor sie eine Antwort erhalten. Werkzeuge zur Entscheidungsunterstützung könnten Unsicherheit und Gegenargumente aufzeigen, statt eine reibungslose Empfehlung anzubieten. Sorgfältig gestaltete Reibung könnte Nutzern helfen, nachzudenken und eine übermäßige Abhängigkeit zu verringern.
Der Unterschied liegt zwischen Anstrengung, die unnötig Zeit verschwendet, und Anstrengung, die Fähigkeiten aufbaut. Die Analyse kommt zu dem Schluss, dass die künftigen Auswirkungen von KI teilweise davon abhängen werden, welche menschlichen Prioritäten sie verstärkt. Bevor die Gesellschaft entscheidet, welche Art künstlicher Intelligenz sie schaffen will, muss sie möglicherweise überlegen, welche Art menschlichen Verhaltens diese Technologie fördern soll.
Quellen: Psychology Today.