Ano passado circulou bastante uma matéria sobre uma pesquisa do MIT que investigou os efeitos do uso de LLMs (Large Language Models) durante o processo de escrita. O interesse despertado pelo estudo me parece menos proporcional à sua importância científica do que à atmosfera que ajudou a produzir: uma sensação difusa de que a tecnologia está silenciosamente nos emburrecendo.
Antes de continuar o argumento, vale olhar com atenção para o que o estudo realmente mostra. Os pesquisadores recrutaram participantes que foram divididos em três grupos: um escreveu um texto com auxílio de mecanismos de busca, outro pôde utilizar um LLM e um terceiro não pôde usar nenhuma dessas ferramentas. Durante a escrita, os pesquisadores registraram a atividade cerebral por EEG (eletroencefalografia). Essa técnica consiste em grudar eletrodos no couro cabeludo que captam oscilações elétricas permitindo assim estimar engajamento e conectividade entre regiões cerebrais. O grupo que não pode usar nenhuma ferramenta exibiu redes neurais mais distribuídas e maior conectividade, o grupo que usou mecanismos de busca teve desempenho intermediário e o grupo que usou LLM apresentou menor conectividade durante a tarefa.
Talvez, se taxistas fossem colunistas, teríamos lido dezenas de matérias sobre os efeitos deletérios do GPS em nossa cognição e nosso senso de direção
O resultado do experimento não é surpreendente. Na verdade, seria estranho se fosse diferente. Façamos um experimento imaginário semelhante para testar nossa intuição. Em vez de escrever um texto, imaginemos que os participantes fossem instruídos a fazer cálculos aritméticos com números moderadamente grandes. Algo simples, mas cuja resposta não pudesse ter sido memorizada de antemão. Como no experimento do MIT, atribuímos essa mesma tarefa para três grupos: um pode usar uma calculadora, outro pode usar papel e caneta, e o último tem que fazer as contas de cabeça. É razoável supor que o EEG registraria maior carga interna naqueles que fizeram o cálculo mental, um padrão intermediário quando se usa anotações e, por fim, menor carga quando a calculadora fez o trabalho todo. Externalizar parte do trabalho intelectual para uma máquina reduz nosso esforço cognitivo. Afinal, é para isso que criamos máquinas de calcular.
Esse tipo de ansiedade com novas tecnologias não é recente. Quando as calculadoras de bolso se popularizaram nos anos 1970, a reação foi tudo menos tranquila. Não encontrei registros no Brasil, mas nos EUA há vários. O dilema foi bem traduzido pelo título de uma matéria do New York Times na época: “A Kind of Liberation vs. the Undermining of Basic Skills”, que poderia ser livremente traduzido como “Uma espécie de libertação versus a fragilização das habilidades básicas”. Diversos colunistas e instituições falaram em dependência, em “muleta”, em estudantes se tornando incapazes de realizar operações simples. Eventualmente o National Council of Teachers of Mathematics — uma organização profissional que promove o ensino e a aprendizagem de matemática — decidiu se pronunciar para tentar estabilizar a controvérsia. Sua posição foi favorável ao uso pedagógico das calculadoras com cautela quanto ao momento da introdução. O argumento era que o ensino havia se tornado refém de rotinas mecânicas. Ao transferir operações repetitivas à máquina, o aluno poderia focar naquilo que parecia mais importante, a saber, como resolver problemas, estimar, modelar e interpretar resultados.
Fiquei me perguntando se algum tipo de pânico moral como esse aconteceu quando da invenção da escrita. Por razões óbvias não temos registros dessa época. Além disso, a escrita foi desenvolvida e popularizada ao longo de muito tempo em um processo bem diferente da calculadora. No meu ímpeto de curiosidade, porém, encontrei uma anedota escrita por Platão há quase 2400 anos, que merece o registro. Em “Fedro”, Sócrates narra o mito egípcio de Thoth, o inventor da escrita. Toth teria apresentado a invenção revolucionário ao rei Tamos como um remédio para a memória e a sabedoria. Então o rei teria respondido o seguinte: “Essa invenção irá gerar esquecimento nas mentes dos que farão o seu aprendizado, visto que deixarão de praticar com sua memória. A confiança que passarão a depositar na escrita, produzida por esses caracteres externos que não fazem parte deles próprios, os desestimulará quanto ao uso de sua própria memória, que lhes é interior. O que descobriste não é uma poção para a memória, mas sim para a evocação; proporcionarás aos teus discípulos a aparência da sabedoria, mas não a verdadeira sabedoria”.
Tenho uma lembrança nebulosa de uma conversa no começo dos anos 2000 com algum parente, algum tio de segundo grau talvez. Com certeza um homem. Ele fazia pouco da popularização do GPS. Uma máquina nunca iria substituir o conhecimento que ele acumulara por décadas. Rimos de histórias de pessoas que foram levadas a becos sem saída ou tiveram que passar por regiões consideradas perigosas seguindo as instruções do aparelho. Ele se orgulhava desse conhecimento e o exibia como marca de distinção. Na minha memória vaga penso que o comentário tinha até uma certa misoginia, um tom implícito de que só mulheres e homens não dignos da masculinidade usariam a nova tecnologia. Machismo à parte, hoje em dia quando estou em um carro de aplicativo as vezes me pergunto se o motorista teria condições de me guiar sem o aparelho. O conhecimento que, na minha memória, marcava a masculinidade do meu parente era uma distinção que garantia o ganha-pão de milhares de taxistas, os quais não gostaram nada da nova concorrência. Talvez, se taxistas fossem colunistas, teríamos lido dezenas de matérias sobre os efeitos deletérios do GPS em nossa cognição e nosso senso de direção.
Minha mãe conta que conseguiu seu primeiro emprego porque fez um curso de datilografia. Ela conseguia escrever rápido e com poucos erros, qualidades valorizadas pelo escritório de advocacia que a contratou entre o final dos anos 1970 e começo dos anos 1980. De lá ela foi trabalhar como secretária em uma grande empresa e conheceu meu pai. Certa vez meu avô, pai do meu pai, me mostrou um caderno de garranchos. Achei graça naqueles rabiscos incompreensíveis para mim. Ele explicou que aquilo era uma técnica para se tomar notas de maneira veloz, uma habilidade valorizada em um tempo em que não existiam gravadores portáteis.
Um minuto de silêncio para as competências que um dia foram valorizadas e se tornaram obsoletas.
Gratuita, com os fatos mais importantes do dia para você
Márcio Moretto Ribeiro é professor doutor na EACH-USP (Escola de Artes, Ciências e Humanidades da Universidade de São Paulo) e pesquisador do Cebrap (Centro Brasileiro de Análise e Planejamento). Atua na interface entre ciência da computação, comunicação e ciências sociais, com pesquisas sobre polarização política, esfera pública digital e métodos computacionais. Coordena o Monitor do Debate Político no Meio Digital e desenvolve estudos sobre contagem de multidões com uso de inteligência artificial e análise de dados.