Vieses cognitivos e o ChatGPT: O uso desmedido e as armadilhas ocultas

Antes de ir direto ao assunto, preciso introduzir alguns conceitos-chave que considero requisitos para uma compreensão mais rica do assunto em questão. Começo com uma breve definição do que são vieses cognitivos e, em seguida, contextualizo a Lei do Instrumento no tema central deste artigo, bem como seus efeitos no dia a dia e algumas formas de lidar com ela.

Lei do Instrumento

Na psicologia, vieses cognitivos são “erros sistemáticos na forma como os indivíduos raciocinam sobre o mundo devido à percepção subjetiva da realidade.” São também “padrões previsíveis de erro em como o cérebro humano funciona e, portanto, são comuns”(Enciclopédia Britânica). Em outras palavras, são armadilhas criadas pelo nosso cérebro na tentativa de poupar energia, mas que podem nos prejudicar. Na década de 1960, dois importantes pesquisadores escreveram sobre um tipo específico de viés cognitivo, a Lei do Instrumento. Tanto KAPLAN (1964), quanto MASLOW (1966), deram maior visibilidade a essa ‘armadilha cognitiva’, a esse ‘erro sistemático’ na forma de raciocinar humana.Esse erro nos faz, ao adquirir uma nova habilidade, ter uma forte inclinação de usá-la em tudo como se fosse uma ‘bala de prata’, como se essa habilidade fosse suficiente para resolver a maioria dos problemas aos quais lidamos diariamente.

Para dar um exemplo, imagine que você descobriu um novo aplicativo de organização pessoal e, depois de passar um bom tempo assistindo a tutoriais de como usá-lo em vários cenários da vida, decidiu por fazer dele o seu novo hub digital. A partir de hoje, sua vida estará nele. Sua agenda, anotações pessoais e profissionais, fotos com amigos, receitas favoritas e tudo mais… Até que, num determinado momento, você também quer usá-lo para controle financeiro, registrar gastos, investimentos, receitas, etc. Porém, mesmo que você consiga fazer isso, usar um software de planilha convencional, como o Excel, é muito mais adequado, mesmo que você não domine o Excel tanto quanto domina esse novo e empolgante aplicativo de organização. Isso o fará desconsiderar uma forma muito melhor de resolver o problema. Bem, você acaba de ser vítima da Lei do Instrumento.

De fato, Maslow descreve esse efeito como uma forte inclinação: “Suponho que seja tentador, se a única ferramenta que você tem é um martelo, tratar tudo como se fosse um prego.” Embora meu exemplo alcance apenas um prejuízo individual, ele também pode ser sistêmico e ter um efeito em cadeia. Imagine um professor que usa apenas uma forma de avaliação, talvez por ser nova, tida como inovadora. Agora, os alunos cujas formas de aprender talvez não sejam evidenciadas por essa nova e única forma de avaliação, serão prejudicados pela abordagem única e enviesada de seu mestre.

Apenas mais uma ferramenta

Nesse ponto, podemos trazer à tona o ChatGPT (modelo de inteligência artificial generativa da OpenAI) como uma ferramenta. Embora ela seja tratada por muitos como algo próximo de um modelo de I.A. geral, ela não o é! Isso significa que, diferente do que possa parecer, ela não foi desenvolvida para resolver qualquer tipo de problema. Ela ainda é um modelo convencional, criado para um fim muito específico: gerar textos. Ela não tem consciência do que faz. Na verdade, tudo o que ela sabe fazer como ferramenta é calcular a probabilidade, em um contexto, da próxima palavra ou parte de palavra ser escrita após uma sequência de palavras. Em termos mais leigos, o modelo é um “papagaio” muito bem treinado que sabe repetir coisas depois de ter processado todo tipo de estruturas de textos coletados inadvertidamente de todos os tipos de conteúdo online (BENDER, 2021).

Ao utilizar essa ferramenta para compor textos como e-mails, resenhas, cartas, materiais pedagógicos ou algo do tipo, você pode se deparar com um texto aparentemente muito bem escrito, sintática e semanticamente, coeso e coerente que, contudo, pode conter erros conceituais, referências inexistentes e ser bastante superficial e prolixo. Em essência, o ChatGPT se comporta como um autocorretor (sim, como no teclado virtual do seu smartphone) super sofisticado, mas que não tem a menor ideia do significado do texto gerado, uma vez que tudo se resume à probabilidade de cada sentença aparecer antes e após a outra.

Aqui, podemos refletir que enquanto ferramenta tecnológica, ainda que muito impressionante, está suscetível à Lei do Instrumento como qualquer outra ferramenta ou habilidade que um ser humano possa ter. Logo, seu uso indiscriminado e prolongado pode tirar de nós a capacidade de discernir quando é melhor utilizar outra abordagem para resolver um determinado problema. Ela, como qualquer ferramenta, pode ser bem utilizada em determinados contextos, mas de forma racional e ponderada.

Efeito Einstellung

Isso me faz lembrar de outro efeito frequentemente relacionado à Lei do Instrumento. Trata-se do Efeito Einstellung, palavra de origem alemã que significa literalmente “atitude”. Num primeiro momento, esse efeito nos beneficia se considerarmos que estamos tão acostumados a resolver, eficientemente, um determinado problema que, ao nos depararmos com ele, tomamos nossa decisão rapidamente. Contudo, pode haver uma solução ainda melhor, mas que não enxergamos, já que estamos pré-condicionados a resolver o problema de uma determinada forma.

Em seu artigo intitulado “Por que bons raciocínios bloqueiam outros melhores” (em tradução livre), BILALIC et al. (2008) mostram o Efeito Einstellung sobre enxadristas que, ao se depararem com uma jogada cuja solução era bem conhecida, deixaram de ver um caminho ainda mais curto para o xeque-mate. Eram jogadores experientes que precisavam tomar decisões rápidas e, nesse caso, o efeito negativo não foi sentido completamente, mas também nos faz refletir sobre as possíveis consequências em cenários de crise, por exemplo.

Voltando ao ChatGPT, ao decidir “supervisionar” um conteúdo gerado pela ferramenta, argumentando poder posteriormente revisar, verificar e corrigir quaisquer erros, você involuntariamente abre mão de pensar e definir previamente toda a estrutura textual. Além da parte criativa, um escritor pensando em seu público deve considerar pontualmente cada parágrafo e o objetivo dele na obra como um todo. Em oratória, a introdução e a conclusão determinam as chances do público tanto continuar ouvindo o orador quanto, ao final, sua motivação em aplicar o que lhes é proposto. Um texto tem ainda mais elementos a considerar. Por exemplo, mesmo que um relatório técnico seja tedioso de se fazer, ele não apenas desempenha um passo fundamental na formação de um estudante ao desenvolver seu projeto, como pode dar nova perspectiva a uma etapa e fazê-lo repensar a abordagem atual.

Ao escrever este texto, por vários momentos durante o processo de escrita e pela organização textual que elaborei antes de iniciá-la, lembrei ou considerei novos elementos e cenários que não me vieram à cabeça num primeiro momento. Isso me deu suporte para argumentar melhor e pensar em exemplos para sustentar tais argumentos. Se eu apenas tivesse pedido ao ChatGPT para fazer isso por mim, dificilmente teriam me ocorrido tais insights.

Como um cientista da computação em formação, não poderia deixar de fora o uso do ChatGPT, e outras ferramentas do gênero, como apoio na resolução de problemas computacionais. Sim, eu as uso e digo que de fato ajudam, poupando tempo, oferecendo novas opções e abordagens. Não quero aqui me contradizer e, de fato, pode parecer paradoxal dizer que a tecnologia oferece novas perspectivas e, ao mesmo tempo, nubla a mente de enxergar melhor. A questão é: se você depender APENAS da ferramenta para ter novas perspectivas, por mais sedutor que isso seja, vai se fechar para outras tantas, além de pontos de vista humanos, de pessoas que já lidaram com problemas semelhantes e que têm soluções diferentes a oferecer.

Como evitar o viés?

Reconhecer que estamos suscetíveis a isso é o primeiro passo para evitarmos cair na nossa própria armadilha cognitiva. Um passo igualmente importante é, ao se deparar com um novo problema, ponderar sobre ele, considerando possíveis estratégias antes de correr para a ferramenta, habilidade ou estratégia usual. Devemos fazer um esforço deliberado para enxergar o problema com base nas informações que temos dele e nos questionar sobre os recursos que temos à disposição no momento, possíveis restrições de tempo, possibilidade de ajuda externa, dentre outros. É um ponto de partida prudente para evitar cair na tentação de resolvê-lo da primeira forma que vier à mente, provavelmente influenciada pelos nossos vieses.
Ao considerar ferramentas como o ChatGPT, é necessário lembrar que por mais potencial que elas tenham, por mais contribuições que possam oferecer, ainda têm muitas limitações (FLORIDI, 2023) e não devem ser ignoradas. Ofereço o seguinte exemplo: imagine que você precise escrever um ensaio ou uma resenha crítica. Independente do tema, deverá basear seus argumentos em fatos, em dados reais e fontes confiáveis. Por melhor que uma ferramenta baseada em I.A. generativa possa construir frases, parágrafos ou até seções inteiras, ela não indicará referências bibliográficas confiáveis e, mesmo se o fizesse, não poderíamos confiar totalmente nisso, é necessário verificar e validar. Dessa forma, o possível tempo que seria poupado na escrita, poderia ser gasto checando as informações geradas. Do contrário, tudo que você terá em mãos é um texto bem escrito gramaticalmente falando, porém, não confiável. Ignorar essa limitação não é apenas problemático, mas perigoso, podendo contribuir para o mundo de desinformação à nossa volta.

Considerações finais

Vieses cognitivos são naturais e, neste artigo, apenas arranhei a superfície deles. O que eles fazem é tornar um processo de decisão ou uma tarefa cognitivamente exigente um pouco mais fácil de executar. É necessário entender que somos vulneráveis a isso e refletir de tempos em tempos nas abordagens que temos usado para lidar com problemas e decisões de caráter pessoal e profissional. Um artesão tem um leque razoável de ferramentas para tarefas específicas mesmo que trabalhe com a mesma matéria-prima, como madeira, por exemplo. Com o tempo, treinamento e experiência ele decide qual delas usar e em qual etapa. Cada uma dessas ferramentas têm seu papel no trabalho e cabe ao artesão dar a elas o uso mais adequado para o momento e a tarefa apropriada. Devemos fazer o mesmo com as nossas ferramentas.

Em última análise, enquanto humanos, estamos sempre pensando em novas formas de desempenhar melhor nossas atividades independente da finalidade, seja ela pessoal, profissional, ou social. As ferramentas têm enorme importância nisso e são a nossa forma de enxergar o que não poderíamos de outra forma e alcançar espaços e lugares inalcançáveis sem elas. Ainda assim, é preciso colocar na balança as contribuições e as limitações potenciais, definir limites e conscientemente aplicá-los da forma mais positiva possível. Finalizo essas reflexões lembrando da frase de Henry David Thoreau:

“Nós nos tornamos a ferramenta de nossas ferramentas.”

Referências

BENDER, Emily M. et al. On the dangers of stochastic parrots: Can language models be too big. In Proceedings of the 2021 ACM conference on fairness, accountability, and transparency. 2021. p. 610-623.
BILALIĆ, M.; McLeod, P.; Gobet, F. Why good thoughts block better ones: The mechanism of the pernicious Einstellung (set) effect. Cognition, v. 108, n. 3, p. 652–661, 1 set. 2008.
FLORIDI, Luciano. AI as agency without intelligence: on ChatGPT, large language models, and other generative models. Philosophy & Technology, v. 36, n. 1, p. 15, 2023.
KAPLAN, Abraham. The Conduct of Inquiry: Methodology for Behavioral Science; Chandler Pub. Co.: San Francisco, CA, USA, 1964.
MASLOW, Abraham H. The Psychology of Science: A Reconnaissance. gateway editions, p. 15, 1966.

Giorgio Artur Garcia Braz é estudante de Ciência da Computação pela Universidade Tecnológica Federal do Paraná (UTFPR). Tem experiência em educação básica, tendo lecionado Computação no Ensino Médio pela rede pública estadual do Paraná. Atualmente, pesquisa aplicações de Machine Learning na educação.

Agradecimentos:
Profa. Dra Natalia Neves Macedo Deimling (DAQUI-UTFPR) e Prof. Dr. Juliano Henrique Foleis (DACOM-UTFPR) pela revisão do texto.

Como citar este artigo: BRAZ, Giorgio Artur Garcia. Vieses cognitivos e o ChatGPT: O uso desmedido e as armadilhas ocultas. SBC Horizontes. ISSN 2175-9235. Novembro de 2023. Disponível em: https://horizontes.sbc.org.br/index.php/2023/11/vieses-cognitivos-e-o-chatgpt-o-uso-desmedido-e-as-armadilhas-ocultas/. Acesso em: dd mês aaaa.

Compartilhe: