Tenho escutado com frequência perguntas sobre os perigos da inteligência artificial. Ela poderá substituir os seres humanos? Poderá tomar decisões contra nós? Poderá participar da destruição do mundo?
Daniela de Figueiredo Ribeiro
São perguntas importantes. Não devemos tratar com ingenuidade uma tecnologia capaz de ampliar tão intensamente a velocidade de produção, circulação e utilização das informações. Mas talvez exista outra pergunta, anterior a essas, que também precise ser feita:
Que humanidade estará diante da inteligência artificial?
Quando concentramos todo o perigo na tecnologia, corremos o risco de tratar a destrutividade como algo que surgirá fora de nós. Como se a inteligência artificial pudesse inaugurar, sozinha, a dominação, a exploração, a guerra, a manipulação e o controle. No entanto, todas essas forças já fazem parte da história humana. A inteligência artificial nasce no interior desse mundo e aprende com aquilo que nós produzimos.
Ela pode reproduzir nossos conhecimentos, mas também nossos preconceitos. Pode ampliar nossa capacidade de cuidado, mas também tornar mais eficientes nossos mecanismos de vigilância e exclusão. Pode favorecer o acesso ao conhecimento ou fortalecer a concentração de poder. A direção que assumirá não depende apenas de sua capacidade tecnológica. Depende das forças humanas, políticas, econômicas e sociais às quais estiver submetida.
O perigo, portanto, não está somente numa possível “mente destrutiva” da inteligência artificial. Está na mente destrutiva que já habita o humano e que pode encontrar nela uma capacidade extraordinária de reprodução e ampliação.
Uma conversa com a inteligência artificial
Esta reflexão nasceu, curiosamente, de uma conversa com a própria inteligência artificial.
Eu pensava sobre o medo, a confiança na vida e a possibilidade de caminhar sem conhecer inteiramente o caminho. Em suas respostas, a inteligência artificial procurava preservar o lugar da mente, lembrando-me de sua importância para organizar, discernir e oferecer segurança.
Alguma coisa nessa resposta começou a me inquietar. Percebi que, mesmo numa conversa sobre a entrega ao desconhecido, a mente reaparecia para assegurar que não nos afastássemos demais do território conhecido.
Então, dirigi uma pergunta à própria inteligência artificial: até que ponto sua forma de pensar, baseada no reconhecimento de padrões e na organização daquilo que a humanidade já produziu, poderia nos conduzir ao verdadeiramente novo? E até que ponto poderia apenas nos devolver, de maneira muito sofisticada, ao interior do mundo conhecido?
A inteligência artificial tem uma potência imensa. Pode percorrer grande quantidade de informações, estabelecer relações, aproximar pensamentos distantes e oferecer formulações que nos ajudam a compreender algo que ainda não conseguíamos dizer. Pode nos levar até a borda do que já foi pensado.
Mas o salto não acontece na borda.
O salto exige um corpo, uma situação concreta, um encontro e a coragem de responder a algo que ainda não possui uma solução pronta.
O salto vem do mergulho no aqui e agora.
A mente que se repete
Essa reflexão não diz respeito apenas à inteligência artificial. Existe em nós uma inteligência recognitiva: uma maneira de pensar que procura identificar no presente aquilo que já conhece.
Diante de uma situação nova, buscamos rapidamente classificá-la: isto é semelhante àquilo; esse comportamento pertence a determinada categoria; para esse problema já existe tal resposta. Essa capacidade é necessária. Ela nos permite organizar a experiência, aprender com o passado e habitar o cotidiano.
O problema começa quando só conseguimos ver no presente aquilo que já conhecemos. Nesse caso, o pensamento não encontra verdadeiramente a realidade. Apenas reencontra a si mesmo.
A mente humana pode criar sistemas extremamente inteligentes e, ainda assim, colocá-los a serviço das mesmas lógicas de sempre. Pode utilizar uma tecnologia nova para conservar antigas formas de dominação. Pode falar em inovação enquanto repete colonialismos, desigualdades, exclusões e modos de vida que estão destruindo as condições de existência do planeta.
Não basta, portanto, criar máquinas mais inteligentes. Precisamos interrogar o que temos chamado de inteligência.
Uma inteligência que aumenta a produtividade, mas destrói os vínculos, é inteligente? Uma inteligência que gera riqueza, mas torna a vida inviável para grande parte da população, é inteligente? Uma inteligência que prevê comportamentos para manipulá-los com maior eficiência pode ser considerada sábia?
Talvez tenhamos desenvolvido uma capacidade extraordinária de encontrar meios sem nos responsabilizarmos suficientemente pelos fins.
O que o humano não pode abandonar
A inteligência artificial pode nos ajudar a organizar informações, formular hipóteses, reconhecer padrões e imaginar possibilidades. Mas existem tarefas das quais o humano não pode se desocupar.
Não podemos delegar a escolha do mundo que desejamos sustentar.
Não podemos delegar a responsabilidade pelas consequências das decisões tomadas.
Não podemos delegar a escuta das pessoas que serão afetadas por essas decisões.
Não podemos delegar o compromisso ético com aqueles que têm menos poder para participar das escolhas.
Não podemos delegar o encontro com o sofrimento concreto.
E não podemos delegar a criação coletiva das saídas de que cada realidade necessita.
Isso não significa afirmar uma superioridade absoluta dos seres humanos. Ao contrário: talvez uma das tarefas mais urgentes seja abandonar a fantasia de que ocupamos o centro da vida. Animais, plantas, águas, florestas, comunidades e territórios participam de uma teia de relações da qual dependemos e que não pode continuar reduzida a recurso.
A inteligência de que precisamos não é somente individual nem exclusivamente racional. Ela está também nos corpos, nos afetos, nas relações, nos grupos, nas comunidades, nos territórios e nos diferentes saberes construídos ao longo da experiência humana.
O humano não pode abrir mão da lucidez. Mas lucidez não é controlar tudo nem conhecer antecipadamente todas as respostas. É perceber as forças que atravessam nossas escolhas. É perguntar quem será beneficiado, quem pagará o preço, quais vozes estão ausentes e que formas de vida poderão continuar existindo depois de nossas decisões.
O lugar do Psicodrama
É nesse ponto que reconheço a importância do Psicodrama no mundo contemporâneo.
Moreno compreendeu a espontaneidade como a capacidade de oferecer uma resposta nova a uma situação antiga ou uma resposta adequada a uma situação nova. Não se trata de agir impulsivamente nem de rejeitar o pensamento. Trata-se de estar suficientemente presente para não responder ao acontecimento apenas com aquilo que já estava pronto.
Moreno chamou de conservas culturais as formas que um dia nasceram de um gesto criador e depois se tornaram disponíveis para ser repetidas. As conservas guardam conhecimentos e experiências. Precisamos delas. Entretanto, quando ocupam todo o espaço, deixam de sustentar a criação e passam a impedir o surgimento de novas respostas.
O Psicodrama não pergunta apenas o que pensamos sobre uma situação. Ele nos convida a colocá-la em cena, a reconhecer os papéis que desempenhamos, a ocupar o lugar do outro, a dar corpo às forças invisíveis e a experimentar aquilo que ainda não pôde acontecer na realidade cotidiana.
Na realidade suplementar, não precisamos encontrar imediatamente a solução definitiva. Podemos experimentar uma possibilidade, perceber seus efeitos, reconhecer seus limites e recriá-la. A saída produzida é provisória porque nasce de um encontro concreto, num tempo e num campo de relações específicos.
Essa provisoriedade não é uma fraqueza. É uma forma de responsabilidade. Em vez de impor ao mundo uma solução abstrata, permanecemos em relação com aquilo que acontece e nos dispomos a rever nossas respostas.
O Psicodrama pode contribuir para que a inteligência artificial seja colocada a serviço da vida porque nos recorda de algo fundamental: nenhuma informação substitui o encontro, nenhuma previsão elimina a responsabilidade e nenhum conhecimento está completo antes de encontrar a realidade viva.
Menos medo e mais responsabilidade
Talvez seja necessário temer um pouco menos a inteligência artificial como uma criatura exterior que um dia poderá se voltar contra nós e olhar com mais coragem para as forças destrutivas que já organizam nossas sociedades.
Isso não significa ignorar os riscos da tecnologia. Significa compreender que não poderemos enfrentá-los apenas com mais tecnologia. Precisaremos de lucidez ética, participação coletiva, compromisso com a vida e capacidade de interromper os objetivos destrutivos antes que sejam automatizados.
A pergunta não é somente se a inteligência artificial poderá destruir o mundo.
Precisamos perguntar:
Que desejos humanos ela está sendo convocada a realizar?
Que relações de poder ela está ampliando?
Que mundos nossas escolhas tecnológicas ajudam a produzir?
E quais responsabilidades estamos tentando entregar às máquinas para não precisarmos assumi-las?
A inteligência artificial pode colaborar conosco. Pode ampliar nossa memória, oferecer perspectivas, revelar padrões e nos ajudar a chegar à borda de nossos conhecimentos. Mas não deve ocupar o lugar do oráculo, da consciência ou da autoridade ética.
Cabe a nós decidir o que fazer diante dessa borda.
Criar outros mundos
Não sabemos exatamente como construir um mundo menos destrutivo. Se já possuíssemos essa resposta, talvez estivéssemos apenas repetindo outro modelo pronto.
Podemos, entretanto, criar condições para que novas respostas apareçam. Podemos escutar os corpos e os territórios, colocar em encontro saberes diferentes, reconhecer sofrimentos concretos e experimentar coletivamente outras formas de relação.
O Psicodrama tem um lugar importante nessa travessia porque não oferece somente uma explicação do mundo. Ele cria um espaço no qual podemos vivê-lo, interrogá-lo e ensaiar outros modos de existir.
A inteligência artificial pode nos levar à borda do já pensado. O Psicodrama pode nos ajudar a permanecer diante do desconhecido sem recuar imediatamente para as antigas respostas.
E nós, humanos, precisamos assumir aquilo que não pode ser delegado: a lucidez para reconhecer as forças destrutivas que nos habitam, a ética para escolher a serviço de que vida colocaremos nossa inteligência e a coragem de participar, no aqui e agora, da criação do gesto seguinte.