[{"jcr:title":"Como usar inteligência artificial de forma ética na sala de aula","cq:tags_0":"area-de-conhecimento:tecnologia/inteligência-artificial","cq:tags_1":"area-de-conhecimento:tecnologia","cq:tags_2":"tipos-de-conteudo:acontece-no-insper/ensino","cq:tags_3":"tipos-de-conteudo:acontece-no-insper/institucional"},{"richText":"Workshop promovido pela Comunidade de Aprendizagem em IA discutiu o uso responsável da tecnologia na educação e o novo papel dos professores","authorDate":"01/10/2025 11h07","madeBy":"Por","tag":"area-de-conhecimento:tecnologia/inteligência-artificial","title":"Como usar inteligência artificial de forma ética na sala de aula","variant":"imagecolor"},{"jcr:title":"transparente - turquesa - vermelho"},{"themeName":"transparente - turquesa - vermelho"},{"containerType":"containerTwo"},{"jcr:title":"Grid Container Section","layout":"responsiveGrid"},{"text":"p.MsoNormal, li.MsoNormal, div.MsoNormal { margin: 0.0cm; font-size: 12.0pt; font-family: Aptos , sans-serif; } *.MsoChpDefault { font-family: Aptos , sans-serif; } div.WordSection1 { page: WordSection1; } * { } * { } * { } * { } * { } * { } * { } * { } * { } * { } No mundo atual, em que novos modelos de inteligência artificial são lançados quase semanalmente, cresce a necessidade de refletir não apenas sobre o que essas tecnologias podem fazer, mas sobre como e por que elas devem ser utilizadas. Essa foi a proposta central do workshop conduzido por Diego Ciarrocchi, professor do Insper, em setembro, como parte das atividades da Comunidade de Aprendizagem em IA, lançada pela escola há um ano. Criada com o propósito de estimular o uso criterioso e pedagógico da IA no ensino, a Comunidade de Aprendizagem em IA, voltada aos docentes do Insper, busca oferecer um espaço estruturado para que professores compartilhem experiências, aprofundem seus conhecimentos e desenvolvam práticas inovadoras com apoio institucional. A iniciativa surgiu como resposta às dúvidas crescentes sobre como integrar a IA de forma ética, eficaz e alinhada aos objetivos educacionais, reforçando o compromisso do Insper com a formação docente e a construção coletiva de conhecimento. “Agora a gente só tem duas certezas na vida: que a gente vai morrer um dia e que algum novo modelo de IA vai ser lançado nas próximas semanas”, brinca Ciarrocchi, destacando a velocidade das mudanças. Apesar do tom bem-humorado, a provocação aponta para um ritmo frenético de inovações que muitas vezes atropela o debate ético. Letramento em IA com responsabilidade social O workshop conduzido pelo professor teve como premissa o letramento em inteligência artificial com foco na responsabilidade social. Como destaca Ciarrocchi: “Ainda há pouca gente discutindo os dilemas morais e éticos com relação ao uso de IA. A maioria está preocupada em escalar modelos e buscar lucro”. O conteúdo do workshp foi estruturado em três grandes blocos: 1) Discussão sobre ética e dilemas da IA; 2) Casos concretos com foco na educação; 3) Propostas e caminhos para um uso responsável. Vários exemplos foram apresentados para ilustrar como a IA já está moldando práticas educacionais e criando novos dilemas. Entre eles, o caso do aplicativo de educação Duolingo, que anunciou a substituição de professores por inteligência artificial na criação de cursos. Outro caso foi o de uma aluna nos Estados Unidos que processou um professor por usar IA na criação do conteúdo das aulas sem aviso prévio. Esses exemplos levantam questões importantes: até que ponto o uso de IA compromete a autoria? Qual o limite ético entre automação e responsabilidade pedagógica? E o que acontece com a humanização do ensino? “Se eu terceirizo tudo para a IA, o que sobra?”, questiona Ciarrocchi. “Essa dependência tecnológica pode atrofiar habilidades cognitivas e prejudicar a interação humana.” O papel do professor Uma das reflexões centrais do workshop foi a transformação do papel do professor diante das novas tecnologias. Não se trata mais de ser um mero transmissor de conteúdo, mas um mediador crítico. “O professor passa a ser um mediador entre o aluno e a tecnologia. Precisa ensinar o aluno a usar a IA de forma consciente, ética e responsável”, diz Ciarrocchi. No entanto, há um desafio ainda maior: muitos docentes ainda estão inseguros sobre como lidar com as novas ferramentas. Casos de trabalhos com citações fictícias, referências inventadas e uso indiscriminado de IA já se tornaram recorrentes. Em uma situação recente, um aluno foi reprovado na pós-graduação de uma universidade brasileira por entregar uma dissertação gerada quase inteiramente por IA, com referências inexistentes. “Estamos dando uma ferramenta superpotente na mão dos alunos, mas poucos sabem como usá-la corretamente. E cabe a nós, professores, fazer essa mediação”, observa Ciarrocchi. O risco da desigualdade e da exclusão Outro ponto sensível discutido foi o acesso desigual às ferramentas de IA, o que pode ampliar ainda mais as disparidades já existentes na educação. Ciarrocchi destaca que, segundo alguns levantamentos, mais de 70% dos estudantes universitários no Brasil já utilizam IA nos estudos, mas apenas 32% receberam algum tipo de orientação sobre seu uso ético. Além disso, o uso da IA em comunidades vulneráveis, como populações ribeirinhas, também foi colocado em pauta. “É melhor não ter nenhum professor ali ou ter um agente de IA exercendo esse papel? São dilemas reais que precisamos encarar com responsabilidade.” Grande parte da discussão girou em torno da necessidade de transparência e explicabilidade nos modelos de IA. Ciarrocchi chamou atenção para os chamados modelos “caixa-preta”, cuja lógica de funcionamento é pouco transparente. “Às vezes a IA alucina, erra com convicção, e você nem sabe que ela errou. Precisamos entender o raciocínio por trás das respostas que ela fornece.” O professor também alertou para os riscos dos vieses e da discriminação algorítmica, como em um caso no Reino Unido em que um sistema atribuiu notas mais baixas a alunos de escolas públicas. Para mitigar esses riscos, destacou-se a importância da engenharia de prompts e da criação de agentes éticos, com parâmetros definidos de atuação. Ações práticas no Insper No contexto do Insper, Diego destacou os esforços que estão sendo promovidos para um uso responsável da IA. Entre as iniciativas, estão: Criação de comunidades de prática e grupos de discussão multidisciplinares sobre IA. Parcerias com empresas como a OpenAI e a AWS para garantir ambientes seguros e éticos de uso da inteligência artificial. Desenvolvimento de plataformas próprias com foco em privacidade e apoio pedagógico. Adesão ao princípio do “human in the loop”, modelo em que sistemas de inteligência artificial contam com a intervenção humana em pontos críticos para assegurar precisão, segurança e responsabilidade nas decisões. “Tudo o que o Insper faz é com o humano no centro. Isso evita desinformação, erros e garante responsabilidade”, afirma Ciarrocchi. O workshop evidenciou que estamos diante de uma verdadeira mudança de paradigma. Assim como no passado houve resistência à chegada da calculadora ou da internet, agora o desafio é entender como conviver com a IA sem abrir mão do senso crítico, da autonomia intelectual e da responsabilidade ética. “O mundo sempre mudou. O problema é que agora está mudando muito mais rápido”, observa o professor. Essa transformação exige não apenas preparo técnico, mas disposição ao diálogo. A proposta do Insper, com a Comunidade de Aprendizagem em IA, é justamente abrir espaço para essa conversa acontecer de forma estruturada, coletiva e contínua. “Não é uma política de cima para baixo. É uma construção conjunta, com diálogo aberto e que estimula a vontade de aprender”, reforça Ciarrocchi. Feedback positivo O workshop, que contou com a participação de mais de 30 docentes do Insper, foi muito bem avaliado pelos participantes, tanto pela qualidade do conteúdo quanto pela condução da atividade. A maioria dos docentes atribuiu nota máxima à experiência e destacou como pontos fortes a clareza das explicações, a escolha de cases reais e atuais, além do espaço dedicado à discussão ética. Como afirmou um dos docentes, “é assustador o que já está acontecendo e, por isso, necessária a discussão”. Outro participante comentou: “A excelente exposição foi clara, bem fundamentada e a atividade prática bem ilustrativa”. Alguns participantes sugeriram mais tempo para debate e trocas entre grupos, evidenciando o interesse em aprofundar ainda mais as questões abordadas. A criação de agentes éticos, a utilização consciente de prompts e os impactos da IA em contextos educacionais diversos foram alguns dos tópicos que mais despertaram interesse. Ao final do encontro, a maioria expressou entusiasmo com a continuidade da iniciativa, e a expectativa já está voltada para o próximo evento da Comunidade de Aprendizagem em IA, programado para os dias 29 e 30 de outubro."}]