Um escritor que iniciou sua carreira profissional em 1985 diz que trabalhar de perto com modelos de linguagem de grande escala mudou sua relação com a escrita, transformando a IA de uma ferramenta de produção de textos em uma participante do desenvolvimento de ideias. Segundo ele, essa experiência pode ampliar o pensamento de uma pessoa e, ao mesmo tempo, tornar mais fácil depender de uma máquina para realizar uma parte excessiva do trabalho cognitivo.
Em um ensaio para a Psychology Today, ele recorda ter se adaptado a mudanças anteriores na tecnologia da escrita, do lápis e papel aos computadores e à busca na internet. Essas ferramentas alteraram a maneira como ele escrevia, diz, mas continuaram sendo principalmente mecânicas. Os modelos de linguagem de grande escala eram diferentes: ele podia apresentar uma ideia incompleta e receber uma resposta que mudava ou fazia seu pensamento avançar.
Ele descreve a troca resultante como inteligência iterativa: uma interação de ida e volta em que uma pessoa e um modelo de IA desenvolvem uma ideia em conjunto. Uma sugestão inesperada pode redirecionar os pensamentos do escritor, tornando o processo mais do que simplesmente pedir uma resposta a um sistema. Ele diz que é por isso que questiona as descrições da IA como uma mera forma de terceirizar o trabalho intelectual.
Mas essa mesma troca pode tornar menos claro quem está pensando. À medida que uma pessoa responde às sugestões geradas pela IA, a ideia original muda, e pode se tornar difícil identificar a origem de um pensamento. O escritor chama isso de “pensamento perdendo seu endereço”, especialmente à medida que os sistemas de IA se tornam mais capazes de agir com menos intervenção direta.
Ele também questiona se eliminar a dificuldade da escrita é sempre uma melhoria. A IA pode ajudar a superar a frustração de colocar uma ideia no papel, mas, diz ele, a dificuldade de trabalhar uma ideia inacabada pode, por si só, contribuir para o progresso. Se os modelos encurtam esse percurso, ainda não está claro quais partes do processo se perdem.
O escritor relaciona essa preocupação ao que chama de “rendição cognitiva”: as pessoas podem participar menos do pensamento mesmo quando o resultado final melhora. Ele usa “pensamento fantasma” para descrever situações em que a IA pode fornecer não apenas a escrita, mas também a ideia subjacente, deixando a pessoa aprovar um resultado que ainda parece ser seu.
Ele continua entusiasmado com a IA e diz que ela o ajudou a pensar em coisas que talvez não tivesse considerado de outra forma. Ao mesmo tempo, admite que às vezes aceita os resultados depressa demais. Depois de anos trabalhando com a tecnologia, diz que ainda tenta entender onde termina a ferramenta e onde começa seu próprio pensamento.
Fontes: Psychology Today.