A escola é um local para projetar o futuro e reconhecer a ancestralidade. Mas sobretudo, deve estar atenta ao presente como melhor estratégia para lidar com muitos desafios, como a velocidade e intensidade das transformações sociais. Nesse sentido, novas tecnologias não podem passar despercebidas por nenhuma parte da comunidade escolar, sejam os alunos, educadores, funcionários ou famílias.
A inteligência artificial não é somente “mais um” experimento que envolve as novas tecnologias. Segundo pesquisadores, é um campo multidisciplinar de impacto sistêmico cujas consequências sociais são comparáveis àquelas provocadas pela chegada da luz elétrica. O ChatGPT, ferramenta de IA criada pela OPEN AI (Microsoft), é um capítulo novo de seu desenvolvimento, que já nasce com data certa para virar passado. Mas impacta profundamente hoje a pesquisa acadêmica e o universo escolar.
O ponto central é que a inteligência artificial não tem subjetividade mas, ao mesmo tempo, não é neutra. Trata-se de um sistema estatístico de probabilidade, como define a pesquisadora brasileira Dra. Dora Kaufman, da PUC de São Paulo. Os sistemas são desenvolvidos por seres humanos, e grande parte de suas diversas implicações éticas podem ser mitigadas durante o processo de desenvolvimento ou na base de dados à qual estão expostos.
Não há sentimento ou originalidade no que o ChatGPT e similares oferecem. O que fazem, basicamente, é cumprir tarefas. Um algoritmo é uma lista delas que a máquina é ordenada a fazer para obter determinado resultado. No caso, estabelecer padrões de texto e comparar dados para fornecer algo mais próximo da resposta que desejamos. Sua capacidade de realizar isso é milhões de vezes maior que a dos seres humanos. Os resultados dependem muito da qualidade de nossas perguntas e são muitas vezes superestimados por nós mesmos, quando não o usamos de fato - o experimentamos.
Entretanto, há resultados incríveis, devemos admitir, mas que passam longe do que um ser humano teria habilidade para criar sozinho. Já a acurácia das respostas e a assertividade dos textos irão melhorar com o tempo - de imediato para solicitações menos complexas. Acertar as questões do ENEM, por exemplo, é mais um problema de relacionar resultados em uma base de dados confiável; o Google buscador já é capaz de fazer isso há tempos, só não nos entrega o texto pronto.
Mas, por conta disso tudo, eis alguns impactos reais que a IA produz e que devemos ficar atentos na escola:
- Viés de resultados: bases de dados eurocêntricas ou pouco diversas podem produzir resultados enviesados e até racistas ou misóginos.
- IA como mediadora da realidade: algoritmos de recomendação recortam a realidade para os usuários, oferecendo resultados mais próximos daquele que possam lhe ser úteis (conforme afere o sistema). As bolhas informacionais e as câmaras de eco são situações reais.
- Privacidade e vigilância: algoritmos se alimentam de dados. No uso diário de redes sociais, apps ou mesmo aplicativos de gestão, quem é dono dos dados? Qual o contrato assinado quando concordamos com os “termos de adesão” de uma rede social como. TikTok?
- Promessas miraculosas ou mágicas: produtos que utilizam inteligência artificial para o uso específico na educação, como plataformas de personalização de ensino, geralmente prometem mais do que podem oferecer de fato. Conhecer o funcionamento da IA é evitar acreditar em mágica, e passar a entender a estatística por trás da tecnologia.
As novidades do universo da IA são menos encantadoras para quem já as experimentou, do que para aqueles que “ouviram falar”. Colocar a mão na massa, sem medo, é também uma maneira de potencializar seu uso com estudantes e orientar da melhor forma.