L’intelligenza artificiale potrebbe minacciare l’autonomia umana non attraverso la coercizione diretta, ma tramite migliaia di decisioni comode che trasferiscono gradualmente il controllo dalle persone alle macchine. Un’analisi pubblicata il 2 novembre sostiene che l’IA può amplificare i pregiudizi umani esistenti, in particolare la tendenza a privilegiare i benefici immediati rispetto ai costi lontani nel tempo.
Le persone spesso preferiscono le opzioni che fanno risparmiare tempo o riducono la frustrazione, anche quando le conseguenze a lungo termine sono incerte. L’IA può intensificare questo schema riassumendo materiali difficili, redigendo testi, recuperando informazioni e raccomandando decisioni. Questi usi possono offrire benefici immediati, mentre qualsiasi perdita di competenza causata dalla delega ripetuta si sviluppa lentamente e può essere difficile da riconoscere.
L’articolo descrive questo processo come “ibridazione estrattiva”: una traiettoria nella quale l’IA interagisce con le tendenze, gli incentivi e le istituzioni umane in modi che estraggono progressivamente valore dalle capacità umane e dalle risorse più ampie rappresentate dalle persone e dal pianeta. La preoccupazione centrale non riguarda ogni singolo atto di delega, ma l’effetto cumulativo del rendere l’assistenza delle macchine il punto di partenza normale.
Le impostazioni predefinite sono particolarmente influenti. Man mano che l’IA generativa viene integrata nelle e-mail, nei motori di ricerca, nei sistemi operativi, nelle aule e nei luoghi di lavoro, gli utenti potrebbero non decidere più se utilizzarla. Potrebbero invece decidere sempre più spesso quando ignorarla. L’analisi osserva che il semplice mantenimento di una persona formalmente coinvolta non garantisce una supervisione adeguata, perché le persone possono valutare erroneamente i suggerimenti generati dall’IA e sottovalutare l’influenza del sistema.
Anche le interazioni con sistemi distorti possono rafforzare i pregiudizi umani. Invece di limitarsi a riflettere i pregiudizi esistenti, un sistema di IA può diventare parte di un ciclo di feedback nel quale i suoi suggerimenti influenzano le persone, quelle risposte forniscono nuovi dati comportamentali e il sistema riorganizza quindi le scelte future attorno a tali schemi.
Questo ciclo è particolarmente significativo perché gli algoritmi apprendono da azioni che possono riflettere stanchezza, distrazione, rabbia o comportamenti automatici, anziché preferenze stabili. Quando tali comportamenti diventano materiale di addestramento per i sistemi che modellano le scelte successive, le azioni impulsive possono contribuire a stabilire l’ambiente predefinito per tutti gli altri.
L’analisi collega questi rischi a una mentalità più ampia che considera intrinsecamente migliori una maggiore produzione, risultati più rapidi ed esperienze più semplici. L’IA può amplificare questo approccio generando più contenuti, personalizzando la persuasione o prevedendo i desideri dei consumatori. La tecnologia, pertanto, non determina quali obiettivi debbano guidare la società; rafforza gli obiettivi che persone e istituzioni già considerano prioritari.
Un approccio alternativo, descritto come “fioritura ibrida”, utilizzerebbe l’IA per preservare o sviluppare il giudizio umano, anziché eliminare ogni fonte di sforzo. I sistemi educativi potrebbero chiedere agli studenti di formulare le proprie opinioni prima di fornire una risposta. Gli strumenti di supporto alle decisioni potrebbero presentare l’incertezza e le argomentazioni contrarie invece di offrire una raccomandazione priva di attriti. Un attrito attentamente progettato potrebbe aiutare gli utenti a riflettere e ridurre l’eccessiva dipendenza.
La distinzione riguarda la differenza tra lo sforzo che fa perdere tempo inutilmente e quello che sviluppa capacità. L’analisi conclude che l’impatto futuro dell’IA dipenderà in parte dalle priorità umane che essa amplifica. Prima di decidere quale tipo di intelligenza artificiale creare, la società potrebbe dover considerare quale tipo di comportamento umano desideri che quella tecnologia rafforzi.
Fonti: Psychology Today.