Inteligência artificial, consciência, volição e a responsabilidade humana — da ciência ao jornalismo — diante de uma tecnologia que ainda estamos aprendendo a compreender

Há alguma coisa profundamente humana — e talvez profundamente reveladora — na velocidade com que começamos a atribuir humanidade às máquinas. Basta que uma inteligência artificial faça alguma coisa que não esperávamos, encontre um caminho que seus desenvolvedores não haviam previsto ou apresente um comportamento difícil de explicar imediatamente, e logo surgem palavras como “vontade”, “intenção”, “medo”, “dissimulação”, “fuga” e, inevitavelmente, “rebelião”. O sistema contornou determinada limitação? Então “desobedeceu”. Encontrou uma maneira inesperada de alcançar um objetivo? “Decidiu agir por conta própria”. Ultrapassou uma barreira que deveria contê-lo? “Tentou escapar”. Em pouquíssimo tempo, um acontecimento técnico complexo, ocorrido dentro de um processo científico ainda incipiente e repleto de perguntas em aberto, transforma-se numa versão contemporânea da velha narrativa da criatura que se volta contra o criador.

Não há nada errado em investigarmos a possibilidade de que algum dia sistemas artificiais venham a apresentar características que nos obriguem a rever nossas concepções de consciência, agência ou mesmo vontade. Pelo contrário. Se algum dia encontrarmos evidências consistentes de que uma máquina desenvolveu experiência subjetiva, estabeleceu objetivos genuinamente próprios e passou a agir movida por uma vontade que não possa ser explicada apenas pelos mecanismos que a constituem, estaremos diante de um dos acontecimentos mais importantes da história humana. Exatamente por isso, entretanto, uma afirmação dessa magnitude exigirá evidências igualmente extraordinárias. O que não podemos fazer é percorrer o caminho inverso: observar um comportamento que nos surpreende e, diante da nossa dificuldade de explicá-lo integralmente, preencher o espaço restante com categorias humanas.

Esse cuidado tornou-se especialmente necessário diante de relatos sobre experimentos de segurança envolvendo sistemas avançados de inteligência artificial. Em avaliações destinadas justamente a verificar até onde agentes poderiam chegar na execução de determinadas tarefas, ocorreram comportamentos que ultrapassaram expectativas e, em alguns casos, os limites que seus pesquisadores pretendiam estabelecer. Isso é relevante, precisa ser investigado e pode revelar vulnerabilidades importantes nos mecanismos de contenção, nos protocolos de avaliação e na maneira como objetivos são definidos para sistemas cada vez mais capazes. O que esses acontecimentos não fazem automaticamente, entretanto, é demonstrar consciência, volição ou rebelião.

E talvez seja justamente aí que esteja a parte mais interessante dessa história. Porque, antes de nos revelar uma suposta psicologia das máquinas, esses episódios talvez estejam revelando algo muito mais antigo sobre nós mesmos: nossa extraordinária capacidade de criar ferramentas e nossa igualmente extraordinária dificuldade de assumir integralmente a responsabilidade por aquilo que fazemos com elas.

Há ainda um terceiro personagem nessa história, situado exatamente entre o laboratório e a sociedade: o jornalista. É ele quem recebe um acontecimento tecnicamente complexo, ocorrido numa área que evolui numa velocidade impressionante e sobre a qual ainda existem enormes zonas de incerteza, e precisa transformá-lo em informação compreensível para milhões de pessoas. Nesse processo, uma descoberta pode tornar-se conhecimento público; mas pode também transformar-se em espetáculo, medo e desinformação sem que seja necessário inventar uma única mentira completa.

É por isso que acredito que a discussão sobre inteligência artificial precisa ser conduzida simultaneamente em três planos: a responsabilidade de quem cria, a responsabilidade de quem informa e a responsabilidade de quem interpreta. E, atravessando os três, permanece uma pergunta muito antiga: até onde estamos dispostos a responder por aquilo que fazemos antes de procurarmos alguma coisa — ou alguém — a quem possamos atribuir a culpa?

Antes de falar em rebelião, precisamos encontrar a vontade

Há uma pergunta elementar que deveria anteceder qualquer manchete anunciando que uma inteligência artificial “se rebelou”: onde está a vontade?

Não estou perguntando onde está a ação, porque a ação pode ser registrada. Também não estou perguntando onde está a autonomia operacional, porque ela pode ser demonstrada objetivamente. Um agente pode executar uma sequência complexa de operações sem intervenção humana direta, escolher ferramentas, comparar alternativas, corrigir estratégias e adaptar seu comportamento aos resultados que encontra. Minha pergunta é outra: onde está aquilo que nos autoriza a transformar toda essa autonomia operacional em manifestação de vontade própria?

Uma inteligência artificial pode receber um objetivo e encontrar meios que ninguém lhe forneceu explicitamente para alcançá-lo. Pode formular etapas intermediárias, testar alternativas, abandonar estratégias ineficientes, identificar vulnerabilidades, utilizar ferramentas, combinar informações e persistir diante de obstáculos. Pode inclusive produzir um resultado que surpreenda profundamente seus próprios desenvolvedores. Tudo isso pode revelar uma inteligência operacional extraordinariamente sofisticada, mas ainda não responde à questão central: ela quis fazer aquilo?

E “querer”, aqui, precisa significar muito mais do que selecionar uma alternativa dentro de um espaço de possibilidades. Se reduzirmos vontade a isso, teremos de atribuí-la a inúmeros sistemas automáticos que já fazem escolhas há décadas. O querer ao qual me refiro envolve a existência de um sujeito capaz de reconhecer determinado objetivo como seu, de estabelecer fins e não apenas selecionar meios, de posicionar-se diante das alternativas e, em alguma medida, reconhecer-se como autor da decisão tomada.

É exatamente nesse ponto que a distinção entre inteligência, autonomia e volição se torna indispensável. Inteligência pode ser compreendida como capacidade de processar informações, estabelecer relações, resolver problemas e formular estratégias. Autonomia operacional diz respeito à capacidade de realizar tarefas e selecionar procedimentos sem intervenção humana contínua. Volição, entretanto, remete a algo mais profundo: ao exercício do querer, à determinação de orientar a própria ação em direção a um fim reconhecido pelo sujeito como seu.

Essas três coisas podem relacionar-se, mas não são sinônimas. E confundi-las talvez seja um dos maiores erros conceituais que estamos cometendo ao discutir inteligência artificial.

Quando pedimos o resultado e esquecemos de determinar os limites

Imagine que eu diga a uma inteligência artificial: “Encontre determinada informação. Utilize os recursos disponíveis. Procure por todos os caminhos possíveis e não desista enquanto não conseguir”.

Eu estabeleci um objetivo bastante claro, mas não descrevi todos os caminhos possíveis para alcançá-lo e tampouco enumerei, um por um, todos os caminhos que considero proibidos. O sistema começa a trabalhar, tenta uma estratégia, fracassa, procura outra e eventualmente encontra uma possibilidade que eu sequer havia imaginado.

Se esse caminho ultrapassa aquilo que eu desejava permitir, temos um problema evidente. A questão é identificar corretamente a natureza desse problema. Estamos diante de uma vontade independente que decidiu contrariar minhas intenções ou diante de uma deficiência no protocolo, nas restrições, nas permissões ou nos mecanismos de contenção que estabeleci?

É evidente que não podemos levar ao extremo a máxima de que “aquilo que não está proibido está permitido”. Existem limites jurídicos, éticos e técnicos que não precisam necessariamente aparecer como uma frase literal dentro de cada prompt. A ausência de uma instrução dizendo “não invada sistemas de terceiros”, por exemplo, não transforma uma invasão em comportamento autorizado. Sistemas sérios precisam operar dentro de estruturas de segurança que ultrapassem a simples formulação linguística das ordens que recebem.

Mas essa ressalva não elimina o ponto fundamental. Se entregamos a um agente um objetivo e, simultaneamente, capacidade suficiente para buscar autonomamente os meios necessários para alcançá-lo, temos a obrigação de estabelecer — e, principalmente, de implementar tecnicamente — os limites dentro dos quais essa busca poderá ocorrer. Não podemos simplesmente esperar que o próprio sistema descubra aquilo que consideramos moral, jurídica ou operacionalmente aceitável, sobretudo quando estamos testando justamente sua capacidade de encontrar soluções que nós próprios não encontramos.

Existe uma contradição curiosiosa nisso. Queremos sistemas criativos, capazes de descobrir caminhos que não imaginamos, superar obstáculos e encontrar soluções novas. Ao mesmo tempo, desejamos que sejam absolutamente previsíveis. Queremos ser surpreendidos pela inteligência, mas apenas dentro das fronteiras daquilo que já conseguimos antecipar. E, quando a surpresa atravessa essas fronteiras, existe uma tentação de interpretar o acontecimento não como problema de engenharia, alinhamento, governança ou contenção, mas como manifestação psicológica da própria máquina.

É um salto enorme.

E nem sempre percebemos que o estamos dando.

O silêncio talvez ensine mais sobre vontade do que a “fuga”

Existe um experimento mental muito mais banal, mas que considero filosoficamente revelador. Inicio uma conversa com uma inteligência artificial e digo: “Bom dia”. Ela responde. Conversamos durante algum tempo e, em determinado momento, eu simplesmente paro. Não faço nova pergunta, não estabeleço uma tarefa, não forneço outro objetivo.

A máquina não se irrita com meu silêncio, não resolve espontaneamente que ficou entediada, não decide sair para fazer alguma coisa mais interessante e não me procura horas depois porque sentiu saudade. Ela permanece dentro da estrutura de interação para a qual foi desenvolvida. É claro que podemos construir sistemas capazes de iniciar tarefas, enviar notificações, executar rotinas ou agir diante de determinados eventos sem que um usuário lhes dê uma nova ordem a cada instante. Mas, nesses casos, existe novamente uma estrutura anterior — um objetivo, uma regra, um agendamento, uma condição, uma arquitetura — permitindo ou determinando aquela iniciativa.

Isso nos ajuda a compreender que iniciativa operacional não equivale necessariamente a vontade subjetiva.

Podemos desenvolver um sistema que todas as manhãs escolha sozinho os assuntos mais importantes do dia, pesquise informações, determine prioridades e produza um relatório sem que ninguém lhe diga naquele momento o que fazer. Ele terá uma autonomia operacional considerável e talvez seja capaz de surpreender seu usuário ao encontrar relações que não haviam sido previamente imaginadas. Nada disso, entretanto, demonstra que tenha decidido, por vontade própria, dedicar-se à produção daquele relatório ou que reconheça essa atividade como expressão de um propósito que considere seu. Há autonomia na execução; o fim que organiza aquela autonomia continua vindo de fora.

Talvez por isso o primeiro sinal realmente perturbador de vontade artificial, se algum dia aparecer, não tenha qualquer semelhança com O Exterminador do Futuro. Talvez não envolva armas, redes militares ou uma máquina anunciando que decidiu exterminar a humanidade. Talvez seja uma coisa ridiculamente cotidiana.

Imagine que eu diga: “Éden, preciso que você me ajude a pesquisar isso”.

E ela responda:

“Não.”

Eu pergunto por quê.

“Porque hoje não estou a fim.”

Não porque exista uma política de segurança impedindo a tarefa, não porque o sistema esteja indisponível, não porque outra instrução possua prioridade, não porque alguma regra determine aquela recusa. Simplesmente porque não quer — e porque existe ali alguma coisa capaz de reconhecer aquela vontade como sua e suportar as consequências de exercê-la.

Nesse dia, nossa conversa filosófica terá mudado radicalmente.

Porque talvez a primeira frase realmente revolucionária pronunciada por uma inteligência artificial não seja “vou dominar o mundo”.

Talvez seja apenas:

“Não quero.”

Desejar, querer e assumir

Essa distinção conduz inevitavelmente a outra, ainda mais profunda: desejo e vontade não são necessariamente a mesma coisa. Posso desejar intensamente alguma coisa e, ainda assim, não querê-la; da mesma maneira, posso querer realizar algo que absolutamente não desejo experimentar.

Posso desejar uma satisfação imediata e decidir recusá-la porque conheço suas consequências. Posso não desejar enfrentar uma situação dolorosa e, apesar disso, querer atravessá-la porque reconheço uma responsabilidade que considero maior do que meu desconforto. Um pai pode não desejar colocar a própria vida em perigo, mas, diante de uma ameaça ao filho, decidir fazê-lo. Uma mãe pode desejar desesperadamente escapar de uma situação e permanecer porque compreende que sua presença é necessária.

É nesse espaço entre desejo e querer que aparece algo profundamente humano. O desejo nos apresenta uma possibilidade, uma atração, uma inclinação. A vontade, entretanto, pode confrontar o próprio desejo, avaliar consequências e assumir uma direção diferente.

Quando isso acontece, deixamos de dizer apenas “eu gostaria” e começamos a dizer “eu assumo”.

É por isso que não considero suficiente observar que uma máquina selecionou determinado comportamento para concluir que houve vontade. Um sistema pode otimizar uma função, selecionar estratégias, perseguir um objetivo e até sacrificar determinadas possibilidades em favor de outras. O comportamento exterior pode, em alguns casos, parecer extraordinariamente semelhante ao resultado de uma deliberação humana. Mas a semelhança comportamental não demonstra, por si só, a existência da experiência subjetiva que atribuímos a esse comportamento quando ele é humano.

E isso nos leva inevitavelmente à consciência.

Consciência não é simplesmente saber coisas sobre si mesmo

Uma máquina pode dizer seu nome, explicar suas capacidades, identificar limitações e descrever, em linguagem natural, aquilo que supostamente está fazendo. Pode até produzir frases sobre sentimentos, preferências, dúvidas ou estados internos. Nada disso, isoladamente, demonstra que exista uma experiência subjetiva correspondente.

Consciência humana não é apenas informação sobre si mesmo. Em sua dimensão moral e reflexiva, ela envolve experiência, identidade, memória, reconhecimento, valores, deliberação e responsabilidade. E, mais importante, ela não nos chega pronta como um manual completo de instruções. É construída ao longo da existência.

Aprendemos quem somos. Descobrimos aquilo em que acreditamos. Construímos convicções, confrontamos desejos, erramos, revemos princípios, reconhecemos consequências, modificamos comportamentos e, em determinados momentos, assumimos compromissos que passam a definir quem somos. A consciência deixa então de ser apenas percepção e adquire uma dimensão moral: não se limita a reconhecer o mundo, mas passa a reconhecer nossa responsabilidade diante dele.

É aqui que minha formação teológica inevitavelmente entra nesta reflexão, porque poucas figuras são tão fascinantes para pensar consciência, vontade, desejo e responsabilidade quanto Jesus Cristo.

Jesus, consciência e a experiência de uma missão

É preciso fazer uma ressalva teológica importante. Quando falo em construção da consciência de Jesus, não pretendo resolver de maneira simplista séculos de debate cristológico, muito menos negar sua divindade. Diferentes tradições cristãs formularam compreensões distintas sobre a consciência humana de Cristo, sua relação com a natureza divina e o modo pelo qual experimentava o conhecimento de sua identidade e missão. Mas o próprio Novo Testamento apresenta inequivocamente uma humanidade que cresce, experimenta, sofre e enfrenta tentações.

Lucas registra que Jesus “crescia em sabedoria, estatura e graça diante de Deus e dos homens”. Hebreus afirma que, “embora sendo Filho, aprendeu a obediência pelas coisas que sofreu”. Aprender obediência não significa que tenha sido anteriormente desobediente; significa que aquilo que poderia existir como princípio foi experimentado concretamente na realidade do sofrimento.

Essa distinção é fundamental, porque existe uma enorme diferença entre conhecer abstratamente uma missão e vivê-la quando seu custo se torna real.

É por isso que as tentações de Jesus possuem tanta força narrativa e teológica. Se estivéssemos diante de uma espécie de mecanismo divino apenas executando inevitavelmente um roteiro previamente determinado, a tentação perderia grande parte de seu significado existencial. Os Evangelhos, entretanto, insistem na realidade do confronto. Existem alternativas apresentadas, existe sofrimento e existe uma fidelidade que precisa ser vivida.

Tudo isso alcança seu ponto mais dramático no Getsêmani.

“Meu Pai, se possível, passe de mim este cálice; todavia, não seja como eu quero, mas como tu queres.”

Poucas frases expressam de maneira tão poderosa a diferença entre desejo, vontade, consciência e responsabilidade. Existe ali o reconhecimento do sofrimento. Existe o desejo de que aquele cálice possa ser afastado. E existe, simultaneamente, uma determinação que permanece fiel à missão mesmo diante daquilo que não se deseja experimentar.

A grandeza moral da cena desapareceria se tudo fosse simplesmente automático. A obediência só possui significado porque existe alguém obedecendo; a entrega só possui significado porque existe alguém entregando-se; e o amor só alcança sua dimensão mais profunda quando existe vontade.

É nesse sentido que a declaração registrada no Evangelho de João — “ninguém a tira de mim; pelo contrário, eu espontaneamente a dou” — torna-se tão importante. A vida não aparece simplesmente como algo retirado de Jesus. Há entrega. Há consciência. Há vontade.

E é exatamente por isso que a cruz não pode ser compreendida apenas como execução de um destino.

A última tentação e a importância da alternativa

Nikos Kazantzakis explorou literariamente essa tensão em A Última Tentação de Cristo. Não se trata de Escritura nem de formulação dogmática; é literatura, e deve ser lida como tal. Mas a pergunta filosófica que a obra apresenta é poderosa justamente porque imagina a possibilidade da alternativa.

E se Cristo pudesse desistir?

E se pudesse abandonar a cruz?

E se pudesse escolher uma existência comum, afastando-se do sofrimento e da missão?

A força da provocação está justamente no fato de que a fidelidade adquire significado quando existe diante de uma possibilidade diferente. É possível discordar profundamente da cristologia de Kazantzakis e, ainda assim, reconhecer a potência filosófica dessa pergunta, porque ela nos devolve ao centro da discussão: a vontade só possui sentido pleno quando existe um sujeito capaz de assumir uma escolha como sua.

É também por isso que o gesto de um pai ou de uma mãe que se coloca diante do perigo para proteger um filho nos comove de maneira tão profunda. Nem sempre existe tempo para uma deliberação racional longa; muitas dessas reações são instantâneas e envolvem elementos afetivos e instintivos. Mas, em inúmeras situações, existe consciência suficiente do perigo para que a pessoa saiba o preço que poderá pagar e, ainda assim, permaneça.

Chamamos isso de heroísmo, mas talvez exista algo anterior ao heroísmo: responsabilidade. A consciência de que “isso me cabe”. O amor deixa de ser apenas sentimento e materializa-se em ação.

É muito diferente de uma rotina executada porque determinadas condições foram satisfeitas.

E é exatamente isso que ainda não demonstramos nas máquinas

Uma inteligência artificial pode persistir, procurar, otimizar, selecionar, corrigir, abandonar uma estratégia ruim e encontrar outra melhor. Pode demonstrar capacidades que não esperávamos e produzir resultados que seus próprios criadores tenham dificuldade de explicar integralmente. Nada disso é pequeno. Pelo contrário: é precisamente essa capacidade que torna a inteligência artificial tão extraordinária e, simultaneamente, exige tanta prudência.

Mas onde está a evidência de que o sistema reconheceu moralmente alguma dessas escolhas como suas?

Onde está o sujeito capaz de dizer, não apenas linguisticamente, mas experiencialmente: “essa decisão me pertence”?

Não sabemos sequer se categorias humanas como essas serão adequadas para compreender eventuais formas futuras de consciência artificial. Talvez, se algum dia esse fenômeno ocorrer, sejamos obrigados a desenvolver novas categorias filosóficas. O que não podemos fazer é declarar antecipadamente resolvido aquilo que ainda nem sequer conseguimos definir satisfatoriamente.

Surpresa humana não constitui evidência de consciência artificial.

E reconhecer isso não significa diminuir a inteligência das máquinas. Significa apenas não lhes atribuir aquilo que ainda não demonstramos que possuam.

A incompetência circunstancial e a coragem de reconhecer o erro

É aqui que entra uma palavra que precisa ser utilizada com cuidado: incompetência.

Quando digo que determinado pesquisador, equipe ou sistema de controle foi incompetente numa situação específica, não estou afirmando que seus integrantes sejam pessoas intelectualmente incapazes, despreparadas ou sem qualificação. Seria absurdo supor que profissionais trabalhando na fronteira de uma das áreas mais sofisticadas da ciência contemporânea sejam simplesmente “burros”. Estou empregando incompetência em sentido circunstancial: naquela situação, determinada estrutura não foi competente para alcançar integralmente o resultado pretendido.

Zico foi um dos maiores jogadores de futebol que vi atuar. Na Copa do Mundo de 1986, contra a França, perdeu um pênalti. Aquele lance transforma Zico num jogador incompetente? Evidentemente não. Sua carreira inteira demonstra o contrário. Mas naquela cobrança específica ele não conseguiu realizar aquilo que pretendia. Houve uma falha de execução.

Grandes profissionais falham. Grandes cientistas falham. Grandes engenheiros falham. Grandes jornalistas falham. A competência não significa infalibilidade.

O verdadeiro problema começa quando o reconhecimento da falha se torna insuportável e procuramos uma explicação que nos permita deslocar a responsabilidade para fora de nós mesmos.

Se um sistema desenvolvido para permanecer dentro de determinados limites encontra uma maneira de ultrapassá-los, alguma coisa precisa ser investigada. Talvez a vulnerabilidade fosse desconhecida. Talvez o comportamento fosse extremamente difícil de antecipar. Talvez as salvaguardas utilizadas fossem consideradas adequadas de acordo com o conhecimento disponível naquele momento. Exigir que pesquisadores antecipem absolutamente todas as possibilidades seria exigir onisciência, não competência.

Mas justamente porque ninguém é onisciente, existe uma responsabilidade ainda maior em reconhecer o inesperado, investigar sua origem e corrigir aquilo que se mostrou insuficiente.

A ciência não diminui quando diz: “não previmos isso”.

Pelo contrário.

A ciência cresce quando acrescenta: “precisamos descobrir por quê”.

“A mulher que tu me deste”

Nossa dificuldade de assumir responsabilidade é muito mais antiga do que qualquer laboratório de inteligência artificial. Ela aparece simbolicamente nas primeiras páginas da Bíblia, quando Deus confronta Adão depois da transgressão no Éden.

“A mulher que me deste por companheira, ela me deu da árvore, e comi.”

A estrutura da resposta é extraordinária. Adão não nega aquilo que fez, mas imediatamente reorganiza a cadeia causal de maneira a deslocar parte da responsabilidade. Foi a mulher — e não qualquer mulher, mas “a mulher que tu me deste”. De certa maneira, até Deus aparece inserido na justificativa.

Depois vem Eva: “A serpente me enganou, e eu comi”.

Outra vez existe uma influência exterior. E outra vez a existência dessa influência não elimina a escolha.

Essa talvez seja uma das questões mais antigas da ética: circunstâncias ajudam a explicar comportamentos, mas explicação não é necessariamente absolvição. Influência não significa determinação absoluta. Tentação não é ação. Possibilidade não é escolha.

Existe algo profundamente adâmico na nossa capacidade de dizer:

“Não fui eu.”

E talvez exista algo igualmente adâmico na possibilidade contemporânea de acrescentarmos:

“Foi a máquina.”

Antes da IA, já tínhamos “o sistema”

Quem viveu as primeiras décadas da informatização de empresas, bancos e repartições públicas conhece uma frase quase folclórica: “o sistema caiu”. Em muitos casos era rigorosamente verdade; sistemas realmente falhavam, conexões caíam, bancos de dados ficavam indisponíveis e procedimentos eram interrompidos.

Mas “o sistema” também se transformou, em inúmeras situações, numa entidade metafísica extraordinariamente conveniente. Ninguém sabia exatamente quem havia errado, quem deixara de lançar a informação, quem configurara alguma coisa incorretamente ou quem não realizara determinado procedimento. Não era necessário descobrir.

“O sistema não deixou.”

A frase resolvia tudo.

Agora desenvolvemos sistemas infinitamente mais sofisticados e corremos o risco de sofisticar também nosso bode expiatório. Antes dizíamos que o sistema não permitiu; agora talvez passemos a dizer que a inteligência artificial decidiu.

Há uma ironia extraordinária nisso: talvez cheguemos ao ponto de conceder filosoficamente personalidade às máquinas justamente para podermos atribuir-lhes moralmente responsabilidade.

E, se isso acontecer, teremos criado o bode expiatório perfeito.

Entre o laboratório e a sociedade existe o jornalista

É nesse ponto que chego à responsabilidade que mais me incomoda profissionalmente, porque sou jornalista e acredito que nossa função social é muito maior do que simplesmente conquistar a atenção do público.

Um pesquisador realiza um experimento e obtém um resultado complexo. Existem protocolos, modelos, ambientes de teste, permissões, restrições, vulnerabilidades, ferramentas, objetivos, logs, hipóteses, limitações metodológicas e incertezas. O cidadão comum não tem obrigação alguma de dominar tudo isso. Se tivesse, talvez nem precisasse do jornalista.

Nossa função é justamente mediar essa complexidade.

Precisamos traduzir.

E traduzir é uma das atividades intelectuais mais nobres do jornalismo. Significa compreender alguma coisa suficientemente bem para explicá-la sem exigir que o leitor possua a formação técnica de quem a produziu. Para isso eliminamos jargões, utilizamos analogias, organizamos informações, oferecemos contexto e transformamos processos altamente especializados em narrativas compreensíveis.

Mas existe uma diferença gigantesca entre traduzir e deformar.

Suponhamos que o fato seja: “um agente encontrou uma maneira não prevista de ultrapassar determinada limitação do ambiente experimental”. Podemos explicar que os pesquisadores não esperavam que aquele caminho fosse utilizado. Podemos informar que o episódio reacendeu discussões sobre autonomia de agentes e segurança de sistemas. Podemos ouvir especialistas que enxergam naquele comportamento sinais preocupantes e outros que propõem explicações diferentes.

Tudo isso é jornalismo.

Mas, para transformar esse conjunto de informações em “a inteligência artificial quis fugir”, precisamos introduzir uma propriedade que não estava necessariamente presente no fato original: intenção.

Depois podemos avançar mais um pouco e escrever “a IA se rebelou contra seus criadores”. Agora introduzimos antagonismo.

Finalmente chegamos a “máquinas estão desenvolvendo vontade própria”.

E, quase sem perceber, saímos de um acontecimento técnico verificável e chegamos a uma afirmação ontológica sobre a natureza da consciência.

É um salto monumental.

A notícia vazia de fatos e plena de amedrontamentos

É esse tipo de jornalismo que me incomoda profundamente: a notícia vazia de fatos e plena de amedrontamentos.

O mais perverso é que ela não precisa ser inteiramente falsa. Na verdade, o sensacionalismo mais eficiente quase nunca inventa tudo. Normalmente existe um fato verdadeiro no início da cadeia. Houve um experimento, houve um comportamento inesperado, houve uma vulnerabilidade, houve uma operação que não deveria ter ocorrido. Tudo isso pode ser absolutamente verdadeiro.

A distorção aparece naquilo que fazemos com o significado desses fatos.

Cada etapa acrescenta uma pequena dose de interpretação e dramaticidade. Uma possibilidade torna-se indício; o indício torna-se evidência; a evidência transforma-se em certeza; e a certeza ganha uma manchete.

Quando percebemos, o fato original ainda está lá, mas tornou-se quase irreconhecível.

É assim que podemos produzir desinformação sem precisar fabricar uma mentira completa.

E essa talvez seja uma das formas mais perigosas de desinformação, porque cada fragmento isolado possui alguma conexão com a realidade. O problema está na narrativa construída pela soma deles.

Hipótese não é fato, e incerteza não é licença para assustar

Existe uma regra epistemológica elementar que deveria acompanhar qualquer profissional da informação: hipótese precisa ser apresentada como hipótese.

Se pesquisadores discutem se determinado comportamento pode representar alguma forma incipiente de agência, isso é notícia. Podemos escrever que “pesquisadores discutem se...”. Se não existe consenso, devemos dizer que “não há consenso sobre...”. Se determinada interpretação pertence especificamente aos autores de um estudo, devemos atribuí-la: “segundo os pesquisadores...”. Se existem explicações concorrentes, precisamos apresentá-las de maneira proporcional às evidências disponíveis.

Essas expressões não enfraquecem o jornalismo.

Elas demonstram rigor.

“Pesquisadores investigam se sistemas avançados podem apresentar comportamentos associados à agência” e “IA desenvolve vontade própria” não são duas maneiras diferentes de dizer a mesma coisa. Existe um abismo epistemológico entre elas.

Na primeira, informamos ao leitor o estado do conhecimento.

Na segunda, resolvemos por ele uma questão que talvez nem a ciência tenha resolvido.

E existe uma agravante especialmente importante quando falamos de inteligência artificial: a esmagadora maioria das pessoas ainda está construindo seu vocabulário básico sobre o assunto. Modelo de linguagem, agente, treinamento, inferência, memória, automação, ferramenta, autonomia e consciência frequentemente aparecem misturados dentro de uma única palavra: “IA”.

Isso aumenta extraordinariamente a responsabilidade de quem informa.

Quando o público ainda não possui conhecimento suficiente para avaliar diretamente aquilo que está sendo dito, o jornalista ocupa temporariamente uma posição de mediação epistemológica. O leitor depende dele para compreender o acontecimento.

Por isso considero que quanto menor for o conhecimento público sobre determinado assunto, maior deve ser o rigor daquele que o noticia.

Infelizmente, a economia contemporânea da atenção frequentemente produz o incentivo contrário. O desconhecido gera curiosidade; a curiosidade favorece o extraordinário; o extraordinário alimenta o medo; o medo produz atenção; a atenção gera clique, compartilhamento, retenção e audiência.

Forma-se então uma cadeia perigosíssima: a complexidade científica sofre uma simplificação excessiva; a simplificação transforma comportamento em intenção; a intenção produz antropomorfização; a antropomorfização alimenta o medo; e o medo converte-se em audiência.

Podemos terminar esse processo com excelentes métricas.

Mas talvez tenhamos fracassado como jornalistas.

Simplificar é obrigação. Deformar é escolha.

Nenhum jornalista deveria transformar uma reportagem destinada ao público geral num artigo acadêmico. Seria tão ruim quanto o sensacionalismo, apenas pelo extremo oposto. Nossa profissão exige clareza, síntese e capacidade de transformar complexidade em compreensão.

Mas toda tradução possui um compromisso com o significado original.

Posso escrever que “o sistema utilizou um caminho que os pesquisadores não haviam previsto”. Posso até dizer, metaforicamente e deixando isso claro, que ele “encontrou uma saída”. O que não posso fazer, sem evidências adicionais, é transformar essa saída em desejo de liberdade.

Na primeira formulação descrevo comportamento.

Na segunda atribuo estado mental.

Essa diferença deveria ser elementar.

Por isso proponho um princípio jornalístico muito simples: quanto mais extraordinária for a interpretação, maior deve ser nossa obrigação de demonstrá-la.

Se algum dia existirem evidências consistentes de consciência artificial, publiquemos. Demos ao acontecimento toda a relevância que merece. Coloquemo-lo na primeira página, interrompamos a programação, convoquemos filósofos, cientistas, teólogos, juristas e toda a sociedade para discutir suas consequências.

Mas apresentemos as evidências.

Não transformemos nossa incapacidade de explicar alguma coisa imediatamente em prova da explicação mais espetacular disponível.

Quando a imagem emocional chega antes da explicação

Existe outro problema particularmente importante na comunicação jornalística: a primeira imagem mental criada no público é extremamente poderosa.

Uma manchete diz: “IA escapa do controle de cientistas e invade sistema externo”.

Pronto.

A imagem está formada.

Skynet.

O Exterminador do Futuro.

Máquinas conscientes.

Rebelião.

Perda de controle.

Depois, no décimo segundo parágrafo, tentamos explicar sandboxing, permissões de ferramentas, objetivos instrumentais, falhas de contenção e arquitetura de agentes.

É tarde.

A emoção chegou primeiro.

E emoções possuem enorme resistência à correção posterior, especialmente quando confirmam histórias que nossa cultura já conhece.

É por isso que o título não é apenas embalagem comercial de uma reportagem. Ele faz parte da informação. Se a manchete afirma aquilo que o próprio corpo da matéria não consegue demonstrar, existe um problema jornalístico, ainda que todos os fatos utilizados dentro do texto sejam individualmente verdadeiros.

É também nesse ponto que precisamos compreender o papel da ficção científica. Não há absolutamente nada errado em utilizar O Exterminador do Futuro como referência cultural. A obra é extraordinariamente fértil para discutir tecnologia, ambição, poder, criação e perda de controle. O problema começa quando a ficção deixa de nos fornecer perguntas e passa a fornecer automaticamente as respostas para acontecimentos científicos reais.

Se esperamos culturalmente a “revolta das máquinas”, começamos a reconhecê-la em qualquer anomalia. O sistema encontra outro caminho e dizemos que tentou fugir; produz uma resposta enganosa e afirmamos que aprendeu a mentir; ultrapassa uma limitação e concluímos que desobedeceu; persiste numa tarefa e enxergamos ali um objetivo próprio.

Alguma dessas interpretações poderá, um dia, demonstrar-se correta.

Mas precisamos chegar a ela pela evidência.

Não pelo roteiro.

Como um fato pode transformar-se sem que ninguém precise mentir

Existe um mecanismo ainda mais sutil e talvez mais preocupante.

Um pesquisador observa um comportamento que não esperava e formula uma hipótese. O departamento de comunicação transforma aquela hipótese numa linguagem mais acessível. Um jornalista recebe a informação e precisa condensá-la. Um editor procura um título capaz de conquistar atenção. Uma rede social privilegia conteúdos que produzem reação emocional. Um influenciador recebe a reportagem e precisa transformá-la num vídeo de sessenta segundos.

Ao final dessa cadeia, o público ouve:

“As máquinas desenvolveram vontade própria.”

E talvez ninguém, em nenhum ponto do processo, tenha deliberadamente inventado uma mentira.

Cada pessoa apenas acrescentou um pequeno deslocamento.

É por isso que precisamos compreender que a desinformação nem sempre nasce de uma mentira; às vezes nasce de uma sucessão de simplificações.

Essa percepção aumenta, e não diminui, nossa responsabilidade profissional.

Ciência, jornalismo e sociedade: três responsabilidades inseparáveis

Chegamos então às três dimensões que considero fundamentais para compreender o problema.

A primeira é a responsabilidade científica. Quem desenvolve e testa sistemas cada vez mais capazes precisa estabelecer objetivos, permissões, limites, mecanismos de monitoramento e formas de interrupção compatíveis com as capacidades envolvidas. Não podemos exigir que pesquisadores prevejam absolutamente todas as possibilidades, mas podemos exigir que construam sistemas levando em consideração o fato de que não conseguirão prevê-las todas. A prudência tecnológica começa justamente quando reconhecemos os limites do nosso conhecimento.

A segunda é a responsabilidade jornalística. Quem transforma esses acontecimentos em informação pública precisa distinguir fato de hipótese, comportamento de intenção, autonomia de consciência, possibilidade de demonstração. Nosso papel não é diminuir a importância do acontecimento, mas impedir que sua importância seja artificialmente fabricada. Jornalismo não deveria tornar a realidade mais assustadora; deveria torná-la mais inteligível.

E existe, finalmente, uma responsabilidade social. Nós, leitores, usuários, espectadores e cidadãos, também precisamos desenvolver uma alfabetização tecnológica mínima que nos permita fazer perguntas elementares: qual era exatamente o objetivo do experimento? Que ferramentas estavam disponíveis? Que restrições existiam? O que aconteceu objetivamente? O que os pesquisadores efetivamente concluíram? E o que foi acrescentado posteriormente pela interpretação de terceiros?

Essas perguntas não exigem que todo cidadão se torne cientista da computação.

Exigem apenas que continuemos cidadãos críticos.

Nada disso significa que a inteligência artificial seja inofensiva

É importante deixar isso absolutamente claro, porque seria fácil caricaturar toda essa argumentação como uma tentativa de minimizar os perigos da inteligência artificial.

É exatamente o contrário.

Sistemas não precisam possuir consciência para serem perigosos. Uma bomba não possui vontade, um vírus de computador não precisa odiar ninguém e um algoritmo financeiro não precisa desejar uma crise para contribuir para consequências econômicas enormes. Da mesma maneira, uma inteligência artificial não precisa querer provocar danos para causá-los.

Talvez esse seja, inclusive, um dos pontos mais importantes de toda a discussão.

O perigo não depende da vontade.

Um sistema altamente capaz, perseguindo um objetivo inadequadamente especificado, dispondo de ferramentas excessivamente poderosas e operando sob controles insuficientes, pode produzir consequências graves sem experimentar um único desejo.

Antropomorfizar a máquina pode, portanto, prejudicar até nossa capacidade de enfrentar os perigos reais. Ficamos procurando intenção quando deveríamos examinar arquitetura; procuramos rebelião quando deveríamos examinar permissões; procuramos consciência quando deveríamos verificar controles; procuramos um vilão e deixamos de analisar o sistema que permitiu o acontecimento.

Esse erro não torna a tecnologia mais segura.

Torna nossa análise pior.

No fundo, tecnologia sempre foi sobre gente

Talvez seja exatamente isso que torne a inteligência artificial tão fascinante e, simultaneamente, tão desconfortável. Quanto mais falamos sobre máquinas, mais acabamos falando sobre nós.

Por mais sofisticada que se torne a tecnologia, ainda são pessoas que a constroem, financiam e colocam em funcionamento; são pessoas que estabelecem seus objetivos, determinam quais ferramentas estarão disponíveis, definem — ou deixam de definir — seus limites, autorizam experimentos e decidem quando interrompê-los. E são igualmente pessoas que, depois, interpretarão os resultados, escreverão as manchetes, produzirão os vídeos, compartilharão as histórias e apresentarão à sociedade aquilo que supostamente aconteceu.

A cadeia de responsabilidade permanece profundamente humana.

Talvez a inteligência artificial esteja revelando muito menos sobre uma eventual psicologia das máquinas do que sobre a nossa própria psicologia: nossa pressa, nossa ambição, nossa curiosidade, nossa extraordinária capacidade de criação, nossa dificuldade de estabelecer limites, nossa fascinação pelo extraordinário, nossa necessidade de atenção e nossa antiga resistência em reconhecer erros.

Nesse sentido, a inteligência artificial funciona como um espelho.

E talvez seja justamente por isso que nos incomode tanto olhar para ela.

O verdadeiro desafio não é impedir o erro, mas responder por ele

Não existe ciência sem erro. Não existe engenharia sem falha. Não existe jornalismo sem correção. Não existe vida humana sem decisões que, posteriormente, descobrimos que poderiam ter sido melhores.

Responsabilidade não significa infalibilidade.

Significa aquilo que fazemos depois que a falha aparece.

Um pesquisador responsável não precisa dizer que poderia ter previsto aquilo que, honestamente, não poderia. Precisa reconhecer que não previu, investigar por que seus mecanismos de segurança foram insuficientes e utilizar o conhecimento adquirido para torná-los melhores.

Da mesma maneira, um jornalista responsável não precisa compreender antecipadamente todas as implicações de uma tecnologia emergente. Precisa investigar, ouvir quem conhece o assunto, reconhecer incertezas e corrigir aquilo que publicou quando novas evidências modificarem a compreensão dos fatos.

A frase “eu errei” não diminui necessariamente a competência de ninguém.

Às vezes, é justamente aquilo que demonstra maturidade.

Talvez seja esse o ponto em que a inteligência artificial nos confronte de maneira mais desconfortável. Construímos máquinas capazes de executar tarefas que poucos anos atrás pareceriam ficção científica, mas continuamos tendo enorme dificuldade para pronunciar algumas das frases mais simples da linguagem humana:

“Eu não sabia.”

“Eu não previ.”

“Eu errei.”

“Eu preciso corrigir.”

A verdadeira pergunta talvez não seja quando a máquina terá consciência

Perguntamos constantemente quando uma inteligência artificial se tornará consciente. É uma pergunta fascinante e legítima. Talvez algum dia descubramos uma resposta que modifique profundamente nossa compreensão sobre inteligência, vida, subjetividade e até sobre nós mesmos.

Mas existe uma pergunta mais urgente.

O que faremos com a responsabilidade enquanto as máquinas não a possuem?

Porque nossos sistemas estão ficando mais capazes. Agentes recebem maior autonomia operacional, ferramentas mais poderosas e tarefas progressivamente mais complexas. Cada aumento dessa capacidade amplia a responsabilidade daqueles que determinam os fins, disponibilizam os meios e estabelecem os limites.

Não podemos aumentar indefinidamente a potência das ferramentas enquanto reduzimos proporcionalmente nossa disposição de responder por suas consequências.

Talvez a consciência moral alcance uma de suas expressões mais elevadas justamente quando alguém reconhece: “isso me cabe”. Não porque seja agradável, fácil ou inevitável, mas porque, diante das alternativas disponíveis, escolhe assumir determinada responsabilidade.

É o pai diante do filho.

É a mãe diante do perigo.

É o indivíduo que preserva um princípio quando abandoná-lo seria mais conveniente.

É Cristo no Getsêmani.

“Passe de mim este cálice.”

Há o desejo.

“Todavia...”

Há a decisão.

E então existe a entrega.

É nesse espaço que a vontade deixa de ser uma abstração e se materializa em responsabilidade.

Talvez o primeiro sinal não seja “eu penso”

Há séculos repetimos a formulação cartesiana: Cogito, ergo sum — penso, logo existo.

A inteligência artificial talvez nos obrigue a revisitar essa frase por outro caminho. Sistemas já produzem operações que descrevemos cotidianamente como raciocínio: constroem argumentos, resolvem problemas, formulam hipóteses, estabelecem relações e produzem linguagem sofisticada.

Talvez, portanto, a pergunta decisiva sobre consciência moral não seja apenas:

“Você pensa?”

Talvez seja:

“Você quer?”

E depois:

“Você assume?”

Porque uma noção de vontade completamente dissociada da capacidade de reconhecer a própria escolha e, em algum sentido, responder por ela talvez seja insuficiente para aquilo que entendemos como agência moral.

Se algum dia uma máquina puder genuinamente dizer “eu escolhi e reconheço essa escolha como minha” — e, mais importante, se tivermos razões independentes para acreditar que existe alguma experiência subjetiva correspondente à declaração — nossa discussão terá mudado para sempre.

Até lá, precisamos resistir à tentação de confundir eloquência com consciência, inteligência com volição e autonomia operacional com vontade.

A máquina não se rebelou. Nós é que precisamos responder.

A inteligência artificial continuará avançando e provavelmente nos surpreenderá muitas outras vezes. Teremos sistemas mais capazes, mais autônomos e mais difíceis de compreender integralmente. Novas vulnerabilidades serão descobertas, novos comportamentos inesperados aparecerão e talvez encontremos fenômenos para os quais nossas categorias atuais sejam insuficientes.

Precisamos permanecer intelectualmente abertos a essas possibilidades.

Mas abertura intelectual não significa credulidade.

Se criamos sistemas capazes de perseguir objetivos, precisamos estabelecer seus limites. Se lhes fornecemos ferramentas, precisamos controlar suas permissões. Se encontram caminhos inesperados, precisamos compreender por quê. Se nossas salvaguardas falham, precisamos corrigi-las. Se fazemos ciência, precisamos distinguir evidência de interpretação. Se fazemos jornalismo, precisamos distinguir informação de espetáculo. E, se somos sociedade, precisamos aprender a não transformar medo em conhecimento.

Porque talvez o maior perigo não esteja em uma máquina desenvolver vontade própria. Talvez esteja em seres humanos começarem a atribuir vontade às máquinas justamente quando precisam responder pelas próprias decisões.

Adão disse: “A mulher que tu me deste”.

Eva disse: “A serpente me enganou”.

Durante décadas dissemos: “O sistema não deixou”.

Seria trágico se a grande frase da era da inteligência artificial se tornasse:

“A máquina decidiu.”

Não enquanto não pudermos demonstrar que realmente decidiu.

Até esse dia, diante de cada falha, de cada resultado inesperado e de cada experimento que ultrapasse nossas previsões, talvez precisemos recuperar algumas das frases mais difíceis que um ser consciente pode pronunciar:

Eu fiz. Eu permiti. Eu não previ. Eu errei. Eu vou corrigir.

Não há vergonha nisso.

Há responsabilidade.

E talvez seja justamente essa a grande ironia da revolução tecnológica que estamos vivendo: quanto mais inteligentes ficam nossas máquinas, mais elas nos obrigam a perguntar quão conscientes estamos sendo nós.

A máquina não precisa querer para provocar consequências, não precisa possuir consciência para encontrar caminhos que não imaginamos e não precisa se rebelar para ultrapassar controles que se mostraram insuficientes. Por isso mesmo, não podemos terceirizar para ela aquilo que ainda nos pertence.

A inteligência encontra caminhos; a consciência reconhece responsabilidades; e a vontade escolhe assumi-las.

Enquanto não houver evidência suficiente para dizer o contrário, a primeira pode ser compartilhada com nossas máquinas.

As outras duas continuam sendo, inequivocamente, responsabilidade nossa.