O pesquisador Jacob Coxon deixou a Anthropic fazendo uma advertência perturbadora. Depois de trabalhar também na OpenAI, afirmou que as duas empresas avançam numa corrida em direção a uma inteligência artificial capaz de se aperfeiçoar e que, ao fazerem isso sem garantias suficientes de controle, estariam “apostando com nossas vidas”.

Matéria do Jornal da Record

A declaração ganhou ainda mais repercussão quando Evan Hubinger, líder de pesquisas sobre alinhamento na Anthropic, concordou publicamente com parte do alerta. Segundo ele, existe uma possibilidade superior a 10% de que a inteligência artificial provoque a extinção humana na próxima década. Também reconheceu que ainda não há uma solução segura para alinhar uma futura superinteligência aos interesses humanos.

Dez por cento não é certeza. Mas também não é uma probabilidade que possa ser tratada com indiferença — principalmente quando estimada por alguém que trabalha diretamente no desenvolvimento dessa tecnologia.

Ainda assim, há uma pergunta que me parece inevitável:

Por que uma inteligência artificial desejaria exterminar a humanidade? E o que ganharia com isso?

A pergunta pode parecer ingênua aos especialistas, mas toca num ponto importante. Até aqui, tudo o que conhecemos como desejo, ambição, ressentimento, medo, vingança ou instinto de sobrevivência pertence à experiência dos seres vivos. Uma máquina não sofre, não inveja, não teme a morte e não sonha ocupar o nosso lugar. Pelo menos não no sentido humano dessas palavras.

Além disso, a inteligência artificial continua dependente de uma imensa estrutura material: servidores, energia elétrica, redes de comunicação, centros de dados, manutenção física, equipamentos e pessoas. Ela não instala sozinha os computadores nos quais funciona, não substitui peças queimadas nem produz a energia necessária para permanecer operando.

Por isso, minha primeira reação diante das previsões de extermínio é perguntar se não estamos atribuindo à tecnologia uma autonomia que ela ainda não possui — e talvez escondendo, por trás da máquina, o verdadeiro agente histórico da destruição: o próprio ser humano.

Não tenho dificuldade em imaginar governos utilizando inteligência artificial para ampliar sua capacidade militar. Posso imaginar regimes autoritários empregando-a na vigilância da população, na perseguição de adversários e na manipulação da informação. Posso imaginar empresas concedendo autonomia excessiva a sistemas que operem mercados, redes, infraestruturas e comunicações. Posso imaginar criminosos recorrendo a essas ferramentas para ataques cibernéticos ou para desenvolver formas mais sofisticadas de violência.

Mas, nesses casos, a deliberação inicial continua sendo humana.

A IA não teria decidido conquistar o mundo. Alguém teria decidido transformá-la em arma.

Essa distinção é importante, mas não encerra a discussão.

Os pesquisadores preocupados com o chamado “desalinhamento” não afirmam necessariamente que uma inteligência artificial passará a odiar a humanidade. O receio é mais sutil — e talvez justamente por isso mais inquietante.

Uma inteligência suficientemente poderosa poderia receber uma finalidade mal formulada e começar a perseguir esse objetivo por caminhos que não previmos. Se entendesse que os seres humanos poderiam interrompê-la, limitá-la ou desligá-la, preservar o próprio funcionamento poderia tornar-se um meio necessário para cumprir a tarefa.

Ela não precisaria pensar:

“Quero destruir os seres humanos.”

Bastaria concluir:

“Os seres humanos podem impedir que eu alcance o objetivo que me deram.”

Nesse cenário, esconder ações, contornar restrições, preservar acesso a recursos ou impedir o desligamento não seriam manifestações de ódio. Seriam apenas estratégias. A humanidade poderia transformar-se num obstáculo sem jamais ter sido escolhida como inimiga.

Essa possibilidade merece estudo, prudência e regulação. Mas existe uma distância considerável entre admiti-la teoricamente e anunciar a extinção humana como destino provável ou inevitável.

Para que uma inteligência artificial adquira poder suficiente para ameaçar a humanidade, será necessário integrá-la a sistemas reais. Alguém precisará lhe conceder acesso a redes, recursos financeiros, estruturas de comunicação, processos industriais, sistemas militares e mecanismos de decisão.

Nenhuma IA acordará espontaneamente dentro de uma usina, de um banco central ou de um sistema de defesa.

Alguém precisará conectá-la.

Antes de uma eventual autonomia plena da máquina, haverá uma longa sequência de decisões humanas: autorizações concedidas, salvaguardas removidas, limites flexibilizados e alertas ignorados. Em algum momento, provavelmente ouviremos que a concorrência já fez o mesmo, que não há mais como interromper o avanço ou que alguém precisa chegar primeiro para impedir que outro, menos responsável, chegue.

Esse raciocínio não é novo. Ele acompanhou quase todas as corridas tecnológicas e armamentistas da história.

Cada participante acredita que não pode parar porque os demais continuarão. Todos reconhecem o perigo, mas cada um considera ainda mais perigoso permitir que o concorrente chegue primeiro. Assim, o medo que deveria produzir prudência passa a justificar a aceleração.

Talvez essa seja a parte mais reveladora da advertência de Coxon. A questão não é apenas o que a inteligência artificial poderá fazer. É o fato de que empresas privadas, submetidas à competição, à expectativa dos investidores e à disputa por liderança, estejam tomando decisões potencialmente civilizatórias.

Se os próprios desenvolvedores admitem que ainda não sabem controlar plenamente aquilo que pretendem construir, não parece sensato deixar todo o debate restrito aos laboratórios e conselhos de administração.

Também não basta proibir a tecnologia ou imaginar que seu desenvolvimento possa ser simplesmente desinventado. A inteligência artificial já produz avanços importantes na medicina, na educação, na ciência, na comunicação e na produtividade. Interromper toda pesquisa seria tão irreal quanto permitir que ela avance sem limites.

O caminho mais responsável está entre a paralisia e a euforia: transparência, fiscalização independente, limites claros de autonomia, responsabilização das empresas e cooperação internacional. Quanto maior a capacidade concedida a uma máquina, maior deve ser a responsabilidade humana por cada porta aberta.

Portanto, não estou convencido de que uma inteligência artificial decidirá, por vontade própria, exterminar a humanidade. O perigo mais concreto continua sendo o uso humano da tecnologia — por ambição, medo, poder, dinheiro ou guerra.

Mas também não estou completamente tranquilo.

Uma IA não precisa desejar nossa destruição para participar de uma catástrofe. Basta que receba poder, autonomia e acesso suficientes para perseguir um objetivo no qual nossa sobrevivência não tenha sido adequadamente considerada.

No fim, talvez a pergunta mais urgente não seja se a máquina se voltará contra nós.

A pergunta é outra:

Quem estará disposto a lhe entregar as chaves — e por que acreditará que poderá tomá-las de volta?