IFSP investiga uso de IA em imagem racista contra aluna hoje

Inteligência Artificial

Instituto apura criação de conteúdo ofensivo gerado por IA contra estudante, com medidas disciplinares aplicadas.

Leia também: EUA ligam Jensen Huang a suspeita de espionagem chinesa

O Instituto Federal de São Paulo (IFSP), campus Presidente Epitácio, apura uma denúncia de racismo contra uma aluna após a criação de uma imagem com conteúdo racista e pejorativo produzida por meio de uma ferramenta de inteligência artificial. A direção confirmou que o caso está sob investigação e que os estudantes suspeitos já foram advertidos e orientados a não manter contato com a vítima.

IFSP investiga caso e acolhe estudante

De acordo com a Direção-Geral do campus, a aluna procurou a instituição para relatar que colegas teriam usado inteligência artificial para gerar uma imagem ofensiva direcionada a ela. Em nota, a direção informou ter recebido o relato sobre “a criação, por meio de uma ferramenta de inteligência artificial, de uma imagem dirigida a ela, que continha conteúdo racista e pejorativo”.

A estudante também relatou ter passado por situações semelhantes anteriormente dentro do ambiente escolar. Com base nas normas internas, o IFSP abriu procedimento de apuração conforme o Regime Disciplinar Discente (RDD), que prevê etapas formais de investigação e possível aplicação de sanções administrativas.

A direção afirma que os suspeitos foram imediatamente notificados. “Os alunos suspeitos foram advertidos e orientados a não terem contato com a denunciante para que não haja outras situações de constrangimento”, informou a Direção-Geral. A instituição diz ainda que a aluna está sendo acompanhada e acolhida por seus serviços internos.

Os nomes da vítima e dos estudantes investigados não foram divulgados, sob justificativa de preservação da privacidade de todos os envolvidos durante a apuração.

Instituição repudia racismo e fala em compromisso permanente

Nas redes sociais, o IFSP de Presidente Epitácio publicou uma nota pública de repúdio ao racismo. O texto reforça o compromisso do campus com o combate a qualquer forma de discriminação racial, inclusive no ambiente digital, e destaca que manifestações desse tipo são incompatíveis com a missão da instituição de ensino.

O caso, tratado internamente como grave, mobiliza diferentes setores do campus, que trabalham tanto no acolhimento da estudante quanto na responsabilização dos envolvidos, caso a denúncia seja confirmada. A direção também sinaliza a necessidade de ações educativas para discutir racismo, uso ético de tecnologias e convivência respeitosa entre os alunos.

Entenda o contexto

O episódio lança luz sobre um uso considerado inédito e preocupante da inteligência artificial no ambiente escolar: a produção de conteúdo racista direcionado a uma colega de classe. A facilidade de criação e circulação de imagens sintéticas amplia o alcance de ataques discriminatórios, exigindo das instituições de ensino protocolos específicos para lidar com esse tipo de violência digital.

Para especialistas, situações como essa pressionam escolas e universidades a atualizar regras disciplinares, treinar equipes e incorporar a discussão sobre tecnologia e direitos humanos na rotina acadêmica. Além da esfera administrativa, condutas dessa natureza podem ser enquadradas na legislação penal.

Desde a Constituição de 1988, o racismo é crime inafiançável e imprescritível no Brasil. A chamada Lei do Racismo, de 1997, ampliou o arcabouço jurídico ao prever também o crime de injúria racial, ligado ao uso de expressões depreciativas para atingir a honra da vítima em razão de raça ou cor.

Uma alteração legal em vigor desde 11 de janeiro de 2023 equiparou as penas de racismo e injúria racial, que hoje variam de 2 a 5 anos de prisão, e passou a abranger também manifestações de racismo religioso, recreativo e praticado por funcionário público. Na prática, episódios de violência racial, inclusive no ambiente digital e escolar, estão sujeitos a responsabilização criminal e administrativa.

No IFSP de Presidente Epitácio, a investigação segue em curso. Ao fim do processo interno, o relatório poderá resultar em punições que vão de advertência mais severa a medidas disciplinares previstas no Regime Disciplinar Discente, sem prejuízo de eventual encaminhamento às autoridades competentes, caso haja entendimento de que houve crime.