ChatGPT: democratização ou pulverização do conhecimento?

Autora: Soraya Roberta dos Santos Medeiros (19/05/2023)

O Chat-GPT, modelo de linguagem desenvolvido pela Open AI, tem possibilitado que a forma como obtemos respostas em espaços digitais fique mais direta. Mas o acesso a ele se dará de forma democrática ou pulverizada? Em minha opinião, ele está acontecendo de forma pulverizada, prevalecendo e contribuindo para manter pessoas em situações de privilégios e ampliando vieses e lacunas sociais. Assim, sobre os questionamentos/afirmações e as conclusões a que cheguei, compartilho com vocês neste artigo.

Nem todas as pessoas serão ensinadas a fazer perguntas que tornem a interação com a Inteligência Artificial (IA) mais eficiente

Sim, embora o chat esteja disponível para qualquer pessoa com acesso à internet, a interação com essa ferramenta demandará do usuário um pensamento crítico, e diga-se de passagem, bem detalhado, sobre as respostas que se deseja alcançar.

Vejamos um exemplo de uma pergunta que fiz para o Chat sobre aquecimento Global:

Eu queria que ele me retornasse uma discussão sobre aquecimento global com dados da ONU, opinião de especialistas e que fosse tão próxima de uma coluna de jornal diário que leio em meu cotidiano.

Inicialmente, resolvi colocar uma descrição bem geral, sem especificações, mas que me desse uma compreensão sobre o problema e me trouxesse essas expectativas de respostas, já que são temáticas comuns de serem associadas em textos sobre o assunto.

Soraya Roberta: um resumo sobre o aquecimento global.
 

Chat-GPT: O aquecimento global é um fenômeno que se refere ao aumento gradual da temperatura média da Terra, especialmente desde meados do século XX, devido às emissões de gases de efeito estufa, como o dióxido de carbono, provenientes da atividade humana. Esse aumento da temperatura pode causar mudanças significativas no clima e nos ecossistemas, como o derretimento de geleiras, aumento do nível do mar, alteração de padrões de precipitação e aumento da frequência e intensidade de eventos climáticos extremos, como tempestades e ondas de calor. O aquecimento global é uma preocupação global, pois pode ter consequências negativas para a saúde humana, segurança alimentar, biodiversidade e economias em todo o mundo.

Em seguida, escrevi uma descrição mais detalhada e correlacionada com o que eu estava querendo obter, de fato, como resultado.

Soraya: Elabore um resumo de até 2 parágrafos sobre o tema “Aquecimento global” traga citações de relatórios da ONU, falas de especialistas na área, e deixe-o em uma linguagem adequada para ser postada em uma coluna de um jornal de grande circulação brasileira.
 

Chat-GPT: O aquecimento global é um fenômeno que preocupa especialistas em todo o mundo. Segundo relatórios da ONU, as emissões de gases de efeito estufa provenientes da atividade humana têm sido a principal causa do aumento da temperatura média da Terra nas últimas décadas. De acordo com o Painel Intergovernamental sobre Mudanças Climáticas da ONU, se não houver medidas drásticas para reduzir as emissões de gases de efeito estufa, as consequências podem ser catastróficas. “O aquecimento global é um problema sério que afeta a todos nós. Precisamos agir agora para proteger o nosso planeta e garantir um futuro sustentável para as próximas gerações”, afirmou o secretário-geral da ONU, António Guterres.
 

Especialistas destacam que o aquecimento global pode ter consequências negativas para a saúde humana, segurança alimentar e economias em todo o mundo. “O aumento da temperatura média da Terra pode causar mudanças significativas no clima e nos ecossistemas, como o derretimento de geleiras, aumento do nível do mar e alteração de padrões de precipitação”, explicou a pesquisadora brasileira Thelma Krug, membro do Painel Intergovernamental sobre Mudanças Climáticas da ONU. Diante desse cenário, é essencial que governos, empresas e a sociedade civil trabalhem juntos para reduzir as emissões de gases de efeito estufa e adotar práticas mais sustentáveis.

Com essa outra pergunta chegamos ao que eu esperava, mas já entramos em contato com outro ponto que precisamos comentar: o fracionamento e a condensação extrema do conhecimento.  Quando interagimos com o Chat, ele nos retorna um conteúdo bem sucinto. Se o usuário não fizer mais perguntas, o conhecimento extraído dessa pergunta será esse de 3 parágrafos: sem fundamentação concreta, sem fontes ou data de postagem, tampouco menção à propriedade intelectual. Mas como fica a ética e o direito nesse caso? (MARTINS DE ALMEIDA, 2023), ou, ainda, podemos  falar sobre a era da autoria híbrida  (PIMENTEL; AZEVEDO;  CARVALHO, 2023) de quem o produziu.

Mas quem vai ensinar que é preciso fazer mais perguntas detalhadas e por quê?

Prossigamos, então, para os próximos pontos que sustentam o meu argumento de que o Chat-GPT cria uma pulverização do conhecimento.

Vieses gerados na interação

Os vieses que são gerados na intenção comunicativa do texto com o leitor, por meio do chat, nos permitem olhar para um padrão que é frequentemente questionado em discussões políticas/inclusão/diversidade/equidade. Em “The Dark side of ChatGPT” existe uma discussão mais ampla dessa minha afirmação. Aqui, perceba que o chat escolheu uma linha de argumentação que sustenta que o aquecimento global existe e que fatores humanos contribuem para ele. Mas e se fosse o contrário e houvesse uma negação dessa narrativa, como saberíamos se existiria uma opinião distinta? Não tem uma fonte ou outro link que nos aponte outros cenários, implicações. Por isso ocorre a pulverização do conhecimento.

Entendemos que o cenário da pulverização passa também pelo viés. Mas, e soluções? Teríamos soluções para lidarmos com o Chat-GPT e a pulverização do conhecimento, já que não podemos, ainda, combatê-las de forma geral? A curiosidade, atrelada à criatividade e ao senso crítico, habilidades tão pertinentes e intrínsecas ao humano, que levou a inúmeras descobertas ao longo da história da humanidade, pode ser uma solução? 

Percebam que na segunda vez que digitei no chat, ele me gerou um texto bem mais próximo do que estamos acostumados a encontrar em uma fonte confiável. Contudo, ainda assim paira um receio no ar: Esses dados são realmente verídicos? Esses especialistas existem? Eles disseram mesmo essas afirmações? Onde disseram? O dado é mesmo de 2021? Lembremo-nos dos vários tipos de fake news existentes. Recomendo a leitura do post “Fake news. It’s complicated”. Apesar disso, o tipo de suporte textual que foi solicitado para o texto ser produzido, neste caso, um texto jornalístico, que faz parte de uma  coluna de um jornal de grande circulação brasileira, aparenta estar correto. Logo, a saída do conteúdo diz muito sobre as especificações que foram passadas como entrada. Mas precisamos focar na importância da interação que temos com a ferramenta de um ponto de vista questionável, visto que utiliza muito bem o design emocional na sua comunicação (NORMAN, 2004).

A primeira, que poderia ser emitida por uma pessoa que não compreende como a ferramenta pode gerar textos em formatos específicos, ou seja, sem intimidade com a proposta. Por fim, a segunda, feita por uma pessoa que já explorou a ferramenta e que reconhece a existência de padrões em  textos comuns sobre aquecimento global ou correlatos. Cabe destacar que esses questionamentos também podem vir de uma mesma pessoa, mas com níveis de proximidade e detalhamento que podem ser ensinados em relação à ferramenta. Mas como ensinar isso?

Coach’s do Chat-GPT

Com o surgimento de qualquer novidade, as páginas das redes sociais se enchem de coaches com cursos nos assuntos. Cada um explorando habilidades e traços distintos da ferramenta com o objetivo de captar engajamento e consequentemente dinheiro com as postagens.

O que nenhum deles está focado é ensinar sobre Pensamento Computacional (WING, 2006), Aprendizagem Baseada em Problemas e outras Metodologias Ativas, bem como a construção de um senso crítico para lidar com qualquer que seja a ferramenta (FERRARINI; SAHEB;  TORRES, 2019). Não irei me deter em discutir sobre estas temáticas, pois, em outras oportunidades, já dissertei, bem como outros colegas.

Mas percebam que para usarmos de forma consciente o Chat-GPT ou qualquer outro modelo de linguagem, precisamos aplicar aquelas habilidades para identificarmos, dentre outros pontos, as chamadas “alucinações” do modelo de linguagem.

Falar em democratização de uma IA, seria dizer que todas as pessoas, de todos os lugares, teriam um mesmo acesso e uma experiência próxima ou tão próxima do que a ferramenta proporciona com o mesmo nível de conhecimento e recursos.

E aqui chegamos em um ponto nevrálgico que vocês veem em todas as minhas falas: a Educação Emancipatória (FREIRE, 1967). Não adianta falarmos neste tipo de acesso de linguagem sem falarmos da influência e do impacto de uma pedagogia freireana em sala de aula.

Refletir sobre quem somos em um círculo de cultura impacta diretamente em saber fazer perguntas e construir um senso crítico para trabalharmos o Pensamento Computacional. Eu fiz isso com professores da Educação de Jovens e Adultos em meu Mestrado (MEDEIROS, 2022).

Paulo Freire nos fornece boa parte das etapas de algoritmos (sim, no plural, é Educação, estamos falando de diversidade e são vários os algoritmos em suas obras) para pensarmos sobre os impactos da inserção de ferramentas em nosso cotidiano ou de vieses educacionais em nossas práticas em sala de aula ou no âmbito das pesquisas.

Em suma, o fato desse modelo ser acessado por diferentes pessoas não garante que ele é democrático, mas sim, pulverizado. E, isso, só com a nossa produção científica poderemos provar. O fato é que o Chat-GPT concordou, em parte, com este argumento principal do texto. Vejamos o que ele disse, de forma geral, indo e vindo nas definições, sobre a minha inquietação:

Democratização ou pulverização do conhecimento com o chat-GPT?
 

O Chat-GPT pode ser considerado uma ferramenta que contribui para a democratização do conhecimento, ao permitir que qualquer pessoa com acesso à internet possa fazer perguntas e obter respostas sobre diversos temas, independentemente do seu nível de conhecimento prévio. Além disso, a tecnologia de inteligência artificial utilizada pelo Chat-GPT permite que ele aprenda continuamente com as interações dos usuários, tornando-se cada vez mais preciso e abrangente.
 

Por outro lado, é importante destacar que a democratização do conhecimento não significa necessariamente uma pulverização ou fragmentação do conhecimento em si. Ainda é importante que haja especialistas em diversas áreas que possam aprofundar e contextualizar o conhecimento de forma mais completa e precisa. Portanto, o Chat-GPT pode ser considerado uma ferramenta complementar aos processos de ensino e aprendizagem, permitindo a democratização do conhecimento e o acesso a informações de qualidade, mas sem substituir a necessidade de especialização e aprofundamento em áreas específicas.

Diante desse cenário, reitero a necessidade de nos preocuparmos mais em ensinar nossos alunos a fazerem as perguntas, aprenderem a consultar bases e referências em espaços adequados, sempre olhando para o que de novo surge e como utilizar essas ferramentas como uma extensão do nosso conhecimento, mas não uma validação. Seja resumindo nossas falas, seja ajudando a consertar erros de traduções para outros idiomas ou ainda fazendo tarefas burocráticas, conforme menciona Blikstein (2008) ao argumentar sobre o uso do computador como um aumento do poder cognitivo e operacional humano. Portanto, com o surgimento do chat, estamos, novamente, diante de mais um cenário de pulverização de acesso ao conhecimento e não de democratização.

Como citar este artigo:

MEDEIROS, Soraya Roberta dos Santos. Chat-GPT: democratização ou pulverização do conhecimento? SBC Horizontes, 19 maio 2023. ISSN 2175-9235. Disponível em: <http://horizontes.sbc.org.br/index.php/2023/05/chatgpt-democratizacao-ou-pulverizacao-do-conhecimento/>. Acesso em: DD mês. AAAA.

Soraya Roberta dos Santos Medeiros é doutoranda em Computação no CIn-UFPE. É Mestra em Inovação em Tecnologias Educacionais (UFRN). Idealizadora do projetos @makingartwithcode, @projetopoesiacompilada, @ciencianointerir e @guiadopcparaafamilia.

Compartilhe: