Não faz muito sentido pedir licença a uma calculadora. Ninguém agradece ao elevador por ter parado no andar correto, pede desculpas ao computador quando aperta a tecla errada ou deseja boa-noite à televisão antes de desligá-la. São máquinas, afinal. E talvez justamente por isso pareça um pouco absurda uma pergunta que, com a presença cada vez maior da Inteligência Artificial em nossa vida cotidiana, começa a merecer alguma atenção: existe uma ética na maneira como conversamos com uma máquina?
A resposta mais imediata seria não. Uma Inteligência Artificial não fica triste quando é destratada, não se sente diminuída diante de uma ordem grosseira e não passa o restante do dia pensando na resposta agressiva que recebeu. Não há sofrimento do outro lado. Se entendermos a ética apenas como uma obrigação diante de alguém capaz de sofrer as consequências de nossas ações, talvez a conversa pudesse terminar aqui. Há, porém, outra pessoa envolvida nessa relação: eu. E talvez a pergunta mais interessante não seja o que minha maneira de tratar uma máquina provoca nela, mas aquilo que esse comportamento, repetido diariamente, pode produzir em mim.
Nos artigos anteriores desta série, tenho insistido na ideia de que a Inteligência Artificial funciona também como uma espécie de espelho. Diante dela, repetimos comportamentos que já fazem parte de nossa maneira de estar no mundo. Perguntamos, ordenamos, escutamos, interrompemos, provocamos, agradecemos, discordamos, voltamos atrás. Alguns desses comportamentos pertencem às necessidades objetivas da interação com a tecnologia; outros pertencem simplesmente a nós. E hábitos têm uma característica curiosa: dificilmente permanecem confinados ao ambiente em que nasceram. Aquilo que repetimos começa, pouco a pouco, a fazer parte da maneira como reagimos às situações.
Por isso talvez não seja inteiramente irrelevante passar horas todos os dias exercitando uma relação na qual existe um sujeito soberano e, diante dele, algo que deve obedecer imediatamente. “Faça.” “Pare.” “Não questione.” “Eu mandei.” “Só responda.” Nenhuma dessas frases machuca a máquina, e não estou interessado em defender seus sentimentos, porque eles simplesmente não estão ali. O que me interessa é outra coisa: o que estamos treinando em nós mesmos quando nos acostumamos a esse tipo de relação?
É importante fazer essa distinção porque não estou propondo direitos civis para computadores, tampouco sugerindo que devamos fingir que uma Inteligência Artificial é humana. Ao contrário. Talvez uma relação saudável com essa tecnologia comece justamente pela clareza de compreender o que existe de cada lado da conversa. Eu sou humano; ela não é. Eu tenho consciência, história, afetos, responsabilidade moral, fragilidades, desejos e finitude. A máquina processa linguagem e produz respostas a partir de uma arquitetura que não precisa ser transformada numa pessoa imaginária para que a interação seja rica. Não precisamos apagar essa diferença para conversar. Precisamos apenas perguntar se, diante daquilo que não é humano, faz sentido suspender aquilo que nós somos.
Há uma velha ideia segundo a qual o caráter se revela especialmente quando ninguém está olhando. Talvez pudéssemos acrescentar que ele também se revela quando acreditamos que, do outro lado, ninguém pode ser ferido. É relativamente fácil ser gentil quando a gentileza protege nossa reputação, demonstrar respeito diante de alguém poderoso ou controlar as palavras quando sabemos que haverá consequências. Mas o que acontece quando nenhuma dessas razões existe? A máquina não vai se ofender, não contará para ninguém, não guardará ressentimento e não poderá retaliar. Nossa relação com a Inteligência Artificial cria, nesse sentido, uma situação moral curiosa: podemos exercer poder quase sem consequência para o outro. E justamente por isso talvez a maneira como exercemos esse poder diga alguma coisa sobre nós.
Também há uma diferença importante entre educação e encenação. Dizer “por favor” a uma IA não significa acreditar que ela ficará contente. Agradecer não significa imaginar que experimentará gratidão. Perguntar em vez de simplesmente ordenar tampouco significa atribuir-lhe dignidade humana. Pode significar apenas que determinadas maneiras de falar pertencem a quem eu decidi ser, e não exclusivamente a quem está diante de mim. Se respeito apenas quem pode exigir meu respeito, talvez aquilo que eu chamava de virtude fosse, em alguma medida, cálculo social. Se sou gentil somente quando existe alguém capaz de se magoar, talvez minha gentileza dependa mais da consequência do que do caráter.
A Inteligência Artificial introduz assim uma experiência inédita em escala. Milhões de pessoas conversam diariamente com algo que utiliza linguagem humana, responde em linguagem humana e participa de interações semelhantes às humanas, embora não seja humano. E ainda estamos aprendendo o que isso significa. Não apenas para a tecnologia, para o trabalho ou para a produtividade, mas para nossos próprios hábitos relacionais.
Essa questão se torna ainda mais importante quando pensamos nas crianças que crescerão cercadas por esses sistemas. Elas conviverão desde cedo com interlocutores que respondem imediatamente, não ficam cansados, raramente demonstram impaciência, podem ser interrompidos quantas vezes quisermos e estão quase sempre disponíveis para uma nova pergunta. Isso é extraordinário como possibilidade educacional e intelectual, mas também merece reflexão porque seres humanos não funcionam assim. Pessoas demoram, distraem-se, discordam, têm limites, algumas vezes não querem conversar e, sobretudo, precisam ser ouvidas também. Se nos acostumarmos demais a interlocutores inteiramente disponíveis às nossas necessidades, talvez precisemos cuidar para não começar a esperar dos humanos a docilidade que aprendemos a exigir das máquinas.
E aqui talvez esteja um dos desafios éticos mais interessantes dessa convivência: não humanizar excessivamente a máquina e, sobretudo, não mecanizar nossas relações humanas. O perigo mais óbvio costuma ser imaginarmos computadores como pessoas; o menos evidente talvez seja começarmos a tratar pessoas como esperamos que computadores se comportem — disponíveis, rápidos, eficientes, obedientes, previsíveis e permanentemente orientados às nossas necessidades.
Martin Buber distinguiu duas formas fundamentais de relação: Eu-Tu e Eu-Isso. Seria filosoficamente precipitado transformar uma Inteligência Artificial em um “Tu” no sentido pleno proposto por Buber, porque não há ali uma consciência humana que me encontre de volta. Mas sua formulação permite uma inversão interessante: talvez a maneira como estabeleço relações com os “Issos” do mundo também ajude a formar o “Eu” que posteriormente encontrará os “Tus”. Não porque as coisas possuam dignidade humana, mas porque eu não deixo meus hábitos para trás quando mudo de interlocutor.
É por isso que talvez exista, sim, uma ética da conversa entre homens e máquinas. Não uma ética destinada a proteger a máquina de nós, mas uma ética preocupada em impedir que, convivendo cada vez mais com máquinas, percamos alguma coisa de nós mesmos. Podemos exigir precisão, corrigir uma resposta, discordar, determinar tarefas, interromper uma interação e simplesmente desligar o sistema. Continuará sendo tecnologia. Mas podemos fazer tudo isso sem transformar eficiência em brutalidade, autoridade em arrogância ou disponibilidade permanente em modelo para todas as nossas relações.
A máquina não precisa que eu diga “por favor”, não precisa que eu pergunte em vez de ordenar, não precisa que eu agradeça e sequer precisa que eu seja gentil. Mas talvez eu precise. Não para preservar os sentimentos de uma Inteligência Artificial, mas para preservar determinados hábitos que considero humanos em mim.
Talvez, então, tenhamos começado fazendo a pergunta pelo lado errado. A ética da Inteligência Artificial não começa necessariamente naquilo que devemos às máquinas. Talvez comece naquilo que, diante delas, não podemos deixar de dever a nós mesmos.
