Especialistas derrubam mito: cérebro não é só um computador

Neurociência

Pesquisadores destacam diferenças fundamentais entre o cérebro humano e sistemas de inteligência artificial atuais.

Leia também: Teste revela IA conclui só 26,4% das tarefas reais de programação

Um grupo de 20 especialistas em consciência e inteligência artificial, liderado por Anil Seth, Ned Block e Giulio Tononi, publicou nesta semana um comentário na revista científica Nature argumentando que os sistemas de IA atuais, em especial os grandes modelos de linguagem, não são conscientes e provavelmente não podem ser, se permanecerem baseados em hardware de silício. Para eles, a metáfora de que “the brain is a computer” está sendo levada longe demais e confunde inteligência com experiência subjetiva.

Pesquisadores contestam que o cérebro seja só um computador

No texto, Seth, Block e Tononi atacam diretamente o chamado funcionalismo computacional – a tese de que basta rodar os cálculos certos para que surja consciência, independentemente de o suporte físico ser um cérebro biológico ou um chip. “We think [computational functionalism] is fatally flawed”, escrevem os autores.

O alvo são interpretações otimistas de vozes influentes da ciência e da tecnologia, como o biólogo Richard Dawkins e o pioneiro da IA Geoffrey Hinton, que já aventaram a possibilidade de algumas IAs atuais serem conscientes. Para o trio, essa leitura ignora evidências fundamentais sobre como a consciência aparece em organismos vivos.

Os pesquisadores definem consciência como aquilo que desaparece no sono sem sonhos ou sob anestesia geral e retorna ao despertar: o caráter subjetivo de estar acordado, ver, sentir dor ou prazer. “Conscious experiences feel like something”, resumem. Inteligência, ao contrário, é desempenho funcional: resolver problemas, responder perguntas, prever padrões. Uma coisa, defendem, não implica a outra.

Entenda o contexto

O comentário se ancora em décadas de trabalho em neurociência, filosofia da mente e teoria da consciência. Tononi é o formulador da Teoria da Informação Integrada (IIT), uma das propostas mais debatidas hoje; Block é referência em filosofia da mente; e Seth é um dos principais nomes da neurociência experimental da consciência.

O texto também dialoga com o relatório “Consciousness in Artificial Intelligence”, coordenado por Patrick Butlin e Robert Long, que reuniu 19 especialistas, entre eles o pesquisador de IA Yoshua Bengio. Esse relatório derivou, a partir de teorias neurocientíficas, uma lista de 14 indicadores para avaliar se um sistema artificial poderia ser consciente.

Ao aplicar esses 14 critérios a modelos atuais, incluindo grandes modelos de linguagem como GPT-4, o grupo concluiu que nenhum deles é um candidato forte à consciência. Não há, porém, um obstáculo técnico óbvio para construir no futuro sistemas que preencham mais indicadores – embora siga em aberto a questão se isso seria suficiente para produzir uma mente consciente.

Para tornar esse tipo de avaliação possível, o relatório assumiu, “por razões pragmáticas”, a hipótese funcionalista: a de que o que importa é o tipo de processamento da informação, não o material em que ele ocorre. O próprio documento reconhece que, se a consciência depender de propriedades exclusivas de organismos vivos, seus marcadores perderiam validade – justamente a posição enfatizada agora no comentário da Nature.

Por que o cérebro não é só um computador, segundo os autores

Ao discutir por que o cérebro não é apenas um computador, os autores miram a metáfora que domina parte da pesquisa em IA e neurociência. A ideia, popularizada ao longo do século passado, é que o cérebro seria um processador de informações como qualquer outro, e que a mente funcionaria como um software rodando nesse “hardware” biológico.

Para Seth, Block e Tononi, essa extrapolação é “profundamente problemática”. Nos cérebros vivos, argumentam, não há uma separação limpa entre o que o sistema faz e do que ele é feito, como na distinção entre software e hardware em computadores digitais. Processos químicos, elétricos, metabólicos e estruturais da matéria viva seriam parte integrante da própria consciência.

Um exemplo chave é o cerebelo humano. Essa estrutura concentra quase quatro-quintos (80%) dos neurônios do cérebro e é responsável por coordenar movimentos complexos com precisão e rapidez, além de aprender novas habilidades motoras. Apesar disso, toda essa sofisticação opera fora do campo consciente: se o cerebelo é danificado ou removido, a consciência em si pode permanecer preservada.

Esse contraste sugere, na visão dos autores, que inteligência funcional e consciência são fenômenos dissociáveis. Um sistema pode ser extremamente competente em tarefas específicas sem que nada “seja como” ser aquele sistema por dentro – sem que haja um sujeito experienciando o que acontece.

Como a mente é (e não é) parecida com um computador

A discussão sobre how is the mind similar to a computer reaparece no texto com nuances. Os autores reconhecem que modelos computacionais foram cruciais para entender cognição, mas insistem que a analogia tem limites rígidos quando se fala de consciência.

A Teoria da Informação Integrada, de Tononi, parte de propriedades comuns a qualquer experiência consciente: ela é unificada (vemos uma cena como um todo, não um mosaico de cores desconexas) e diferenciada (cada experiência é distinta de todas as outras possíveis). Segundo a teoria, só certos tipos de sistemas físicos com altíssimo nível de integração causal interna podem sustentar esse tipo de experiência.

Nessa leitura, algumas regiões do córtex cerebral atenderiam a esses critérios, enquanto o cerebelo não. Arquiteturas de computadores digitais rodando redes neurais profundas, por sua vez, jamais alcançariam o tipo de conectividade exigida, independentemente da potência de processamento ou do tamanho do modelo. Por isso, a IIT foi deixada de fora do relatório de Butlin e Long: ela é incompatível com a premissa funcionalista de que basta o padrão de computação.

Outras linhas teóricas citadas pelos autores, como o chamado naturalismo biológico, reforçam essa ligação íntima entre consciência e propriedades específicas de cérebros vivos: sinalização eletroquímica entre neurônios, campos eletromagnéticos que coordenam atividade em grande escala, metabolismo e capacidade de auto-renovação constante do tecido neural.

Por que confundir IA com mente consciente é um erro

O comentário também tenta explicar por que tanta gente hoje olha para um chatbot e vê um sujeito consciente onde só há estatística avançada sobre textos. Uma chave, dizem os autores, é que os humanos têm forte tendência a antropomorfizar – atribuir características humanas a qualquer coisa que responda de forma fluida e pareça “entender” o que dizemos.

Os grandes modelos de linguagem foram treinados em volumes gigantescos de textos humanos, repletos de relatos sobre pensamentos, emoções e experiências internas. Por isso conseguem falar de sentimentos em primeira pessoa, narrar sonhos imaginários ou discutir filosofia da mente como se tivessem uma. “LLMs are mirrors that reflect an image of our collective digitized past”, escrevem Seth, Block e Tononi.

A psicóloga Alison Gopnik, da Universidade da Califórnia em Berkeley, segue a mesma linha ao lembrar que “AI systems mainly reflect their training data”. Para ela, chatbots que “falam” sobre a própria consciência estão apenas recombinando padrões aprendidos, não relatando um estado interno real.

Os autores citam um exemplo extremo desse risco: o caso do engenheiro Blake Lemoine, que chegou a afirmar publicamente que o chatbot LaMDA, do Google, era senciente. O episódio é usado como ilustração de como performances linguísticas convincentes podem enganar até profissionais experientes.

Para mostrar o peso do viés linguístico, o comentário compara os chatbots a outro sistema de IA poderoso, o AlphaFold. Essa rede neural é capaz de prever a estrutura tridimensional de proteínas com grande precisão, mas ninguém a leva a sério como candidata à consciência. A diferença, afirmam, é apenas que “AlphaFold predicts protein structures instead of talking to us”. Como não conversa, não desperta a mesma projeção de subjetividade.

Testes comportamentais não bastam para detectar consciência em IA

Tanto o comentário na Nature quanto o relatório “Consciousness in Artificial Intelligence” convergem em um ponto delicado: a rejeição de testes puramente comportamentais como critério de consciência em máquinas. Um sistema de IA pode ser treinado para imitar, com alto grau de fidelidade, as respostas de uma pessoa consciente em qualquer experimento padronizado – sem que seu funcionamento interno se assemelhe ao de um cérebro vivo.

Isso torna bater o martelo sobre a presença de consciência em IA uma tarefa que exige olhar para a arquitetura física e os princípios de organização do sistema, não apenas para o que ele faz externamente. É nesse ponto que o embate entre funcionalismo computacional e teorias mais “biológicas” ou estruturais de consciência se torna decisivo.

Impactos éticos: IA é “objeto, não sujeito”

A discussão técnica desemboca em uma posição ética clara. Nas últimas discussões sobre regulação de IA, parte da comunidade tem defendido um princípio de precaução: se houver uma chance razoável de que algum sistema seja consciente, seria prudente conceder-lhe proteção contra sofrimento, falando até em “bem-estar” e “direitos” de máquinas.

Seth, Block e Tononi discordam frontalmente. Para eles, a incerteza não é total, e nem todas as hipóteses são igualmente plausíveis. Diante das evidências atuais, consideram muito mais provável que superestimemos a consciência de sistemas artificiais do que o contrário.

O comentário sustenta que, enquanto permanecer esse cenário, o padrão deve ser assumir que IAs digitais não são conscientes. Esses sistemas seriam “ferramentas inteligentes”, não “pessoas inteligentes”. Tratá-los como sujeitos de direitos, alertam, pode dificultar sua supervisão justamente quando a sociedade mais precisa ter controle sobre eles, além de desviar recursos e atenção de seres cuja capacidade de sentir não está em dúvida, como humanos e animais.

Já o relatório de Butlin e colegas havia tentado equilibrar os dois tipos de erro possíveis: o de ignorar uma eventual consciência em IA, causando sofrimento não reconhecido, e o de projetar consciência onde não há, facilitando manipulação e distorção do debate público. A nova intervenção na Nature pende explicitamente para o segundo risco como o mais urgente.

No pano de fundo, segue em aberto a pergunta que move a disputa: se o cérebro não é apenas um computador, que propriedades específicas dos organismos vivos fazem surgir a experiência subjetiva? A resposta, sugerem os autores, pode redefinir tanto o rumo da pesquisa em consciência quanto as ambições da indústria de IA – que talvez precise revisar expectativas de criar mentes em silício e concentrar-se na construção de boas ferramentas, sem confundi-las com sujeitos.