ChatGPT: inovação, dominação ou alienação?
Desde o fim de 2022 o ChatGPT tem se tornado assunto comum nas rodas de conversas. Desenvolvido pela OpenAI, o software é capaz de criar histórias, responder dúvidas, aconselhar, resolver problemas matemáticos, criar textos, artigos, poemas, letras de músicas, códigos de programação, gerir empresas, fazer negócios e muito mais, com uma linguagem semelhante à humana.
O chatbot se tornou tão popular, que chegou a atingir a marca de um milhão de usuários em apenas uma semana de lançamento, desencadeando incalculáveis experiências – umas divertidas, outras preocupantes – mas sobretudo reacendendo uma recorrente discussão: a inteligência artificial (IA) irá substituir os seres humanos nas atividades intelectuais?
Ainda é cedo para fazer qualquer afirmação nesse sentido, mas é certo que a inteligência artificial abre as portas para isso. A própria lógica de funcionamento do ChatGPT, nos induz a uma conclusão negativa, uma vez que se baseia em algoritmos que se inspiram na organização do sistema nervoso humano, associado ao aprendizado de máquina, um campo de estudo que permite extrair padrões de grandes volumes de dados e fazer predições a partir deles.
Não que essa seja uma tecnologia nova, pois desde 2018, o Google usa esse modelo tecnológico em seus sites de pesquisa e de tradução. Mas a OpenAI deu um salto olímpico quando lançou um programa de processamento de linguagem capaz de analisar e processar dados de texto em uma escala sem precedentes.
Além disso, o GPT-3, passou meses em treinamento, apurando informações na internet – livros, artigos científicos, páginas da Wikipédia, notícias, registros de bate-papo – e identificou 175 bilhões de parâmetros, o que o tornou capaz de escrever sobre qualquer assunto em qualquer estilo. E é importante ressaltar que, apesar de ter acabado de lançar o GPT-4, a OpenAI já está trabalhando no GPT-5.
No entanto, embora a ferramenta pareça incrivelmente inteligente e sedutora, a lógica de produção utilizada é a de cópia de padrões de outros textos semelhantes; o que causa ainda mais preocupações.
O sistema é incapaz de diferenciar fatos, de notícias falsas ou teorias da conspiração, não tendo nenhum compromisso com a veracidade da informação. Na verdade, a ferramenta favorece uma realidade onde teremos cada vez menos certeza do que é real ou falso. Para se ter uma ideia, estudos recentes demonstraram que a ferramenta consegue produzir resumos falsos de artigos científicos, sendo capaz de driblar detectores de plágio e os mais experientes pareceristas.
Isso sem falar na questão dos direitos autorais, já que o robô pode criar textos completos e complexos, pautando-se no formato de linguagem de autores reais; e não há um consenso ou regramento sobre a quem a produção será atribuída, se ao autor original ou ao Chatbot.
Um outro perigo é o uso do sistema para atividades ilegais ou para a geração de códigos maliciosos que podem infectar os dispositivos com vírus. A OpenAI até programou o ChatGPT com algumas restrições. No entanto, muitos usuários encontraram formas de driblá-las, fazendo solicitações falsas para experimentos, roteiros de cinema, brinquedos ou simplesmente orientando o software a desativar seus recursos de segurança.
E as preocupações não param por aí, pois também se estendem à área do ensino.
Reflexões, produções intelectuais e científicas, teses, experiências, ficam todas ameaçadas, alijadas de suas funções originais e à mercê do ChatGPT. E o pior, com um grande risco de algo errado ou até mesmo absurdo, estar sendo reproduzido.
Diante disso, resta a pergunta: “eles” não estão passando dos limites do aceitável?
Talvez. Mas é necessário que “nós” também nos perguntemos: queremos que a IA seja banida da educação formal e da sociedade?
Sem dúvida, essa é uma questão complexa. Principalmente, porque tudo é muito novo e ainda não há legislações que estabeleçam regras para todos esses aspectos; nem tampouco, discussões suficientes nas escolas, universidades, empresas e poder público.
Todos estamos assistindo os impactos do ChatGPT na produção de conhecimento e na integridade da ciência e aguardando passivamente as cenas dos próximos capítulos.
Segundo o físico Ney Lemke, da Coordenadoria de Tecnologia da Informação da UNESP, “não há como colocar o gênio de volta na garrafa”. Ou seja, o ChatGPT continuará sendo aprimorado cada vez mais rápido e precisamos aprender a conviver com ele.
Mas será que a sociedade e, sobretudo, a educação tecnológica, devem ficar apenas de expectadoras? Será que podemos nos esquivar da responsabilidade de promover discussões pertinentes, consistentes e coerentes sobre ética, legislação, regulação, direcionamento e limites? O que lhes parece?
Ao que tudo indica, mais uma vez a educação é chamada a se transformar diante de uma tecnologia e, além disso, avançar nos processos pedagógicos. Se por um lado não há como negar e resistir, por outro, se faz necessário refletir sobre as possibilidades de uso dessa tecnologia.
Toda essa discussão ainda incita outros questionamentos: será que podemos tornar essa tecnologia, que abala alguns pressupostos positivistas, uma aliada das práticas pedagógicas? Em que medida podemos potencializar o ensino com essa novidade? Essa IA pode ser um impulso para romper práticas enraizadas nos modelos reprodutivistas? Como provocar reflexões e críticas sobre as produções apresentadas pelo ChatGPT?
Sem dúvida o rol de inquietações sobre o tema é interminável, mas uma coisa é certa: embora a ferramenta pareça (e a depender da finalidade talvez seja) milagrosa, vamos necessitar ainda mais de leitura, pesquisa, estudo, análise e crítica para utilizá-la. Senão, corremos o risco de emburrecer, de ficarmos reféns da IA ou completamente alienados.
Diante disso, fica o desafio de conhecer e buscar alternativas para implementar a IA nos espaços educacionais, pois uma coisa é certa, a intuição criativa do humano ainda não é capturada pela máquina. Pois felizmente, a intuição ainda não faz parte do mundo da quantificação.