USP cria sistema que identifica fake news de IA em português
Ferramenta do ICMC-USP analisa traços linguísticos de textos em português e identifica, com alta precisão, se uma notícia falsa foi escrita por humanos ou por grandes modelos de linguagem.
Inteligência Artificial
Nova ferramenta da USP detecta com precisão se notícias falsas em português foram geradas por IA ou humanos.
Leia também: YYForce anuncia plataforma unificada para hotéis com IA e robôs
Pesquisadores do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, desenvolveram um sistema capaz de analisar a linguagem de textos em português brasileiro e dizer se uma notícia falsa foi escrita por um humano ou gerada por inteligência artificial, abrindo caminho para novas estratégias de combate à desinformação no País.
Ferramenta foca em fake news em português brasileiro
O trabalho é liderado pelo professor Thiago Pardo e pelo mestrando Pedro Lucas Castro de Andrade e foi apresentado na 25ª Conferência Internacional sobre Inteligência Artificial (EPIA), realizada em Portugal, entre 2 e 4 de setembro. A pesquisa está em fase de prova de conceito, mas já obteve resultados considerados muito altos em testes de laboratório.
“O objetivo é investigar se é possível distinguir computacionalmente notícias falsas escritas por humanos das geradas pelos grandes modelos de língua (LLMs) em português brasileiro, uma língua sub-representada nessa área”, afirma Pardo, do ICMC. Segundo ele, essa diferença de origem ajuda a entender melhor como a desinformação circula e a orientar respostas específicas.
De acordo com o professor, a urgência do tema é diretamente ligada à popularização da IA generativa. “Com a evolução da IA e seu uso indiscriminado pela sociedade, essa tarefa tem ganhado grande importância, uma vez que ajudaria a ‘rastrear’ a origem da informação falsa veiculada”, diz.
Como o sistema identifica se o texto é de humano ou de máquina?
O sistema parte de duas frentes principais. A primeira é a caracterização linguística detalhada de bases de notícias falsas em português, como Fake.br e FakeTrueBR, que foram ampliadas com textos fabricados artificialmente pelo Sabiá-3, um grande modelo de linguagem especializado em português. A segunda é a avaliação de classificadores automáticos de aprendizado de máquina treinados nesse material.
Nesses conjuntos, para cada fake news escrita por humanos há uma versão falsa equivalente gerada por máquina, o que permite comparar padrões de escrita. A análise é feita em camadas. Na parte lexical e sintática, os pesquisadores observam vocabulário, complexidade silábica, distribuição de classes gramaticais e regras sintáticas mais usadas por pessoas ou por IA. Na camada semântica e psicolinguística, entram indicadores como tipos de verbos empregados, frequência de palavras concretas e abstratas e outras pistas de estilo.
Pardo explica o fluxo técnico em três etapas: “Inicialmente, o texto é pré-processado, ou seja, preparado para que a máquina possa fazer a classificação automática. Em seguida, é representado numericamente, no que se conhece na área como ‘embeddings’…; por fim, o classificador baseado em aprendizado de máquina analisa essa representação numérica e decide se o respectivo texto foi produzido por humano ou por máquina”.
Além de classificar, a camada de caracterização linguística permite apontar quais traços da escrita pesaram mais na decisão, o que ajuda a interpretar o resultado e a entender como humanos e modelos de IA produzem desinformação de maneiras distintas.
Impacto no combate à desinformação
Em testes com métricas usuais da área, como precisão, revocação e F1, as abordagens de aprendizado de máquina do tipo neural ultrapassaram 99% de F1 nos dados utilizados, indicando alta capacidade de identificar a origem das notícias falsas. Para Pardo, um classificador desse tipo pode se tornar um aliado de plataformas digitais, órgãos públicos, veículos jornalísticos e agências de checagem.
A possibilidade de apontar se um conteúdo enganoso veio de pessoas ou de grandes modelos de linguagem cria espaço para políticas diferentes de moderação, educação midiática e responsabilização. Para os produtores de desinformação, humanos ou automatizados, o risco de detecção aumenta.
O foco no português brasileiro também preenche uma lacuna tecnológica, já que muitas soluções disponíveis hoje são desenvolvidas e testadas principalmente em inglês. Ao trabalhar com traços linguísticos e psicolinguísticos específicos do português do Brasil, a pesquisa amplia a capacidade de resposta à desinformação em um contexto cultural próprio.
Entenda o contexto
O desenvolvimento do sistema integra o projeto Synestech.AI, que reúne dezenas de pesquisadores de diversas instituições brasileiras em torno da combinação de diferentes tipos de dados, como linguagem natural, visão computacional e imagens, em referência ao fenômeno da sinestesia. A frente de Processamento de Linguagem Natural, que inclui o estudo sobre fake news, concentra hoje mais de 80 pesquisadores de universidades como USP, Unesp, UFSCar, UFAL, UFS, UFPA, UFBA e UFSC, entre outras.
Por enquanto, não há um software pronto para uso público. A equipe ainda testa o método em novos conjuntos de dados, investiga o efeito de outros modelos de linguagem, analisa estratégias de produção de fake news e estuda casos em que pessoas tentam deliberadamente enganar os classificadores. Há também a perspectiva de, no futuro, integrar sinais de imagens, vídeos e áudio à análise textual.
Com o interesse crescente de plataformas digitais, órgãos governamentais e organizações de checagem, a apresentação na EPIA abre portas para parcerias e financiamentos que podem acelerar a transformação da prova de conceito em ferramenta prática para uso em larga escala.
Fonte: matéria original
