Conecta: O Papel da IA na Educação, e da Educação na IA

Por André Carlos Ponce de Leon Ferreira de Carvalho (ICMC-USP), pesquisador associado à Rede CpE

A Inteligência Artificial (IA) está na moda. Parece que só se fala nisso. E em todas as áreas, inclusive na Educação. Afinal, a IA pode afetar a educação, tanto de forma positiva quanto negativa.

Primeiro, deixa eu lembrar o que é a IA. A Inteligência Artificial é uma área de conhecimento que busca simular a inteligência humana em máquinas. Para isso, se apoia em conceitos de várias áreas, principalmente da Computação, das Engenharias, da Estatística e da Matemática, mas também utiliza conhecimentos de áreas como Biologia Filosofia, Física, Linguística e Psicologia, para citar alguns.

Além disso, a IA possui várias subáreas, como robótica, processamento de linguagem natural, e aprendizado de máquina. Aprendizado de máquina (AM) cria e utiliza algoritmos capazes de treinar máquinas, hipóteses, funções ou modelos, a partir de experiências passadas ou conhecimentos pré-existentes. Algoritmos de AM utilizam diferentes abordagens para treinar esses modelos, para diferentes tarefas. Uma dessas tarefas é criar ou treinar modelos preditivos que consigam predizer a saída ou resposta correta para uma dada entrada ou pergunta.

A IA vem sendo utilizada há bastante tempo na Educação, tanto que uma das suas subáreas – que realiza eventos, agrega grupos de pesquisa e publica periódicos – tem o nome de IA na Educação. Nela, a IA tem sido utilizada para ajudar a entender como as pessoas aprendem, para ajudá-las a aprender mais e melhor e para avaliar como estão aprendendo.

Além disso, a IA vem sendo utilizada para ajudar professores a corrigir exercícios, provas e redações. Existem inclusive empresas com produtos baseados em IA para essas atividades.

Na área de Educação, tarefas preditivas incluem treinar um modelo capaz de predizer, para um(a) dado(a) aluno(a), qual a melhor sequência e profundidade de conteúdos a serem apresentados, de forma que ele(a) tenha uma melhor experiência de aprendizado. Outro exemplo é utilizar algoritmos de AM para que um modelo aprenda como um(a) professor(a) corrige provas na disciplina que leciona, podendo assim ser utilizado para apoiar o(a) docente na correção das próximas provas, de forma que consiga corrigir mais provas, em menos tempo e com menor variação na forma de corrigir provas de diferentes alunos(as).

Um grupo de algoritmos de IA, chamados de algoritmos de IA generativa, ou algoritmos generativos, ganhou fama pelo seu uso na ferramenta ChatGPT. Esses algoritmos têm sido utilizados para aprender a gerar coisas novas, a partir do que já existe. Eles produzem “novos” conteúdos por meio da busca por padrões e pela combinação, modificação ou generalização de conteúdos já existentes. Não são poucos os exemplos de seu uso, que incluem escrever músicas, algumas vezes copiando o estilo de compositores(as) famosos, pintar quadros e escrever textos, inclusive textos de artigos científicos.

Mas voltemos ao ChatGPT. Ele é um chatbot, um software que simula conversas com seres humanos, desenvolvido pela empresa OpenAI. Nessas conversas, ele consegue responder perguntas, escrever redações, resolver problemas matemáticos e escrever códigos em uma linguagem de programação. Todo esse poder tem despertado um grande debate sobre seu uso na Educação. Já apareceram vários casos de se uso para trapaças por estudantes que entregam tarefas escolares feitas pelo ChatGPT, como se fossem suas.

Por isso, algumas escolas e universidades chegaram a proibir o uso da ferramenta nos trabalhos e exames. Uma crítica frequente é que isso pode levar a uma busca pelo caminho mais fácil e rápido, prejudicando o processo de aprendizado. Por ser tão simples e fácil de usar, pode criar o que tem sido chamado de “síndrome do estudante preguiçoso”, quando o estudante não precisa pensar para ter novas ideias, nem tem vontade ou iniciativa para realizar tarefas trabalhosas. Pior ainda, existem vários relatos de que o uso de ferramentas como ChatGPT podem levar ao aprendizado de informações incorretas, pois frequentemente as respostas ou material gerados apresentam erros. Por conta dessa resistência, um aluno de uma universidade americana chegou a desenvolver uma ferramenta para identificar se um texto foi gerado por ChatGPT, o GPTZero. No entanto, essa ferramenta também pode errar ao responder se um texto foi ou não escrito pelo ChatGPT.

Outras escolas e universidades explicitamente permitem seu uso, pois consideram que não tem como impedi-lo ou que podem trazer benefícios. Consideram que ela pode ser usada, por exemplo, para criar uma versão inicial ou melhorar a qualidade de um texto, desde que fique claro que foi utilizada.

Entendo que o problema não está na tecnologia, mas na forma como a utilizamos. A discussão não deve ser se ferramentas como ChatGPT devem ou não ser utilizadas na educação, mas sim como usá-las de forma segura, adequada e efetiva. E de como avaliar seu uso. É importante pensar e discutir seu uso, seus possíveis impactos e desafios. Assim, ao invés de proibir ferramentas como ChatGPT, devemos identificar como elas utilizadas para melhorar o processo de aprendizagem, e não são poucas as formas como essa melhora pode ser perseguida.

Vamos a algumas delas, sem deixar de observar cuidados que devem ser tomados.

Algoritmos generativos podem sugerir questões para uma prova, assim como a resposta à essas questões. Mas devemos fazer isso com cuidado, pois podem dar respostas erradas ou escrever fatos incorretos apresentando uma grande confiança. Podem ajudar na geração de versões iniciais de um texto, que pode ser analisado de forma crítica pelo aluno(a) ou aprimorado por ele, mas deve-se ter cautela para não gerar textos que apresentam algum tipo de viés ou preconceito, ou reduzir o hábito de leitura. Seu uso possibilita um aprendizado personalizado, que, levando em conta as especificidades, facilidades e dificuldades de cada aluno, define um conjunto de conteúdos e a profundidade e sequência de sua apresentação. No entanto, um diagnóstico incorreto dessas especificidades pode ter o efeito oposto ao pretendido.

Outra forma de utilizar esses algoritmos é para gerar rascunhos de provas e de tarefas e para a correção de redações e de respostas discursivas, reduzindo trabalho braçal, distrações e tempo de correção, e destacando aspectos que passariam desapercebidos. Mas é preciso ter prudência para não gerar preguntas banais ou que não avaliem de forma adequada o aprendizado, ou correções injustas.

Finalmente, assim como a IA tem o papel importante na Educação e a forma como ela for introduzida pode trazer benefícios e malefícios, a qualidade das soluções baseadas em IA que forem desenvolvidas, não só para a Educação, mas em qualquer área de conhecimento, depende da qualidade da Educação em IA dos desenvolvedores.

Uma boa educação em IA, para quem desenvolve aplicações e ferramentas de IA, não é saber usar pacotes e bibliotecas, mas tem uma sólida base nas áreas de Computação, Estatística e Matemática para entender bem os algoritmos da IA, em que se baseiam, como funcionam, como se ajustam aos dados utilizados, além de seus aspectos positivos e negativos. O mal uso da IA em decorrência de uma educação inadequada, ao invés de ganhos, está fadado a trazer perdas.