A inteligência artificial pode ameaçar a autonomia humana não por meio da coerção direta, mas através de milhares de decisões convenientes que gradualmente transferem o controle das pessoas para as máquinas. Uma análise publicada em 2 de novembro argumenta que a IA pode amplificar preconceitos humanos existentes, especialmente a tendência de priorizar benefícios imediatos em detrimento de custos distantes.
As pessoas frequentemente favorecem opções que economizam tempo ou reduzem a frustração, mesmo quando as consequências de longo prazo são incertas. A IA pode intensificar esse padrão ao resumir materiais difíceis, redigir textos, recuperar informações e recomendar decisões. Esses usos podem proporcionar benefícios imediatos, enquanto qualquer perda de competência causada pela delegação repetida se desenvolve lentamente e pode ser difícil de reconhecer.
O artigo descreve esse processo como “hibridização extrativa”: uma trajetória na qual a IA interage com tendências, incentivos e instituições humanas de maneiras que extraem progressivamente valor das capacidades humanas e dos recursos mais amplos representados pelas pessoas e pelo planeta. A preocupação central não é cada ato individual de delegação, mas o efeito cumulativo de tornar a assistência das máquinas o ponto de partida normal.
As opções predefinidas são particularmente influentes. À medida que a IA generativa se incorpora ao e-mail, às buscas, aos sistemas operacionais, às salas de aula e aos locais de trabalho, os usuários podem deixar de decidir se devem utilizá-la. Em vez disso, podem passar cada vez mais a decidir quando substituí-la. A análise observa que manter uma pessoa formalmente envolvida não garante uma supervisão adequada, porque as pessoas podem avaliar incorretamente sugestões geradas por IA e subestimar a influência do sistema.
As interações com sistemas tendenciosos também podem reforçar os preconceitos humanos. Em vez de simplesmente refletir preconceitos existentes, um sistema de IA pode tornar-se parte de um ciclo de retroalimentação no qual suas sugestões influenciam as pessoas, essas respostas fornecem novos dados comportamentais e o sistema então reorganiza escolhas futuras em torno desses padrões.
Esse ciclo é especialmente significativo porque os algoritmos aprendem com ações que podem refletir cansaço, distração, raiva ou comportamento automático, e não preferências estáveis. Quando esse comportamento se torna material de treinamento para os sistemas que moldam escolhas posteriores, ações impulsivas podem ajudar a estabelecer o ambiente predefinido para todos os demais.
A análise relaciona esses riscos a uma mentalidade mais ampla que trata maior produção, resultados mais rápidos e experiências mais fáceis como inerentemente melhores. A IA pode ampliar essa abordagem ao gerar mais conteúdo, personalizar a persuasão ou prever os desejos dos consumidores. Portanto, a tecnologia não determina quais objetivos devem orientar a sociedade; ela fortalece os objetivos que as pessoas e as instituições já priorizam.
Uma abordagem alternativa, descrita como “florescimento híbrido”, usaria a IA para preservar ou desenvolver o julgamento humano, em vez de remover todas as fontes de esforço. Os sistemas educacionais poderiam pedir aos alunos que formulassem suas próprias opiniões antes de fornecer uma resposta. As ferramentas de apoio à decisão poderiam apresentar incertezas e contra-argumentos, em vez de oferecer uma recomendação sem atrito. Uma fricção cuidadosamente planejada poderia ajudar os usuários a refletir e reduzir a dependência excessiva.
A distinção está entre o esforço que desperdiça tempo desnecessariamente e o esforço que desenvolve capacidades. A análise conclui que o impacto futuro da IA dependerá, em parte, das prioridades humanas que ela amplifica. Antes de decidir que tipo de inteligência artificial criar, a sociedade talvez precise considerar que tipo de comportamento humano deseja que essa tecnologia reforce.
Fontes: Psychology Today.