I.A., a ignorância artificial

Gislaine Marins

Nestes quase vinte e cinco anos do novo século aconteceram tantas coisas que até parecem cem anos. Lembro como se tivesse ocorrido há muito tempo, mas foi apenas há alguns anos: um ministro italiano estava renunciando e tentava dar a este epílogo melancólico um tom poético, chamando em causa Pablo Neruda. “Como disse o poeta”, declarou, e começou a recitar um poema de Martha Medeiros. Eu saltei da cadeira, pois mesmo ouvindo em italiano e não em português, aqueles versos não tinham a menor afinidade com a poética de Neruda. Além do mais, eu lembrava de ter lido numa dessas manhãs ensolaradas de inverno em Porto Alegre exatamente aquele poema.

As redes sociais ainda engatinhavam. Era a época em que eu passava a maior parte do tempo escrevendo para as pessoas: essa citação não é de Mario Quintana, isso nunca foi escrito por Luís Fernando Verissimo. Em quanto isso, os gigantescos arquivos digitais da internet guardavam na memória o certo e o errado, sem distinção de valor. Pior do que isso, para cada pobre professor que alertava sobre uma citação impropriamente atribuída, havia um exército de usuários dispostos a propagar frases bonitas de supostos autores que não tinham lido. Ou tinham lido muito mal.

Essa é a mala de recordações que alimenta a inteligência artificial. Ela é poderosa, mas é apenas quantitativa. Por isso é imperfeita e estimula o usuário a controlar os resultados e a corrigir o que não está bem. Não é a inteligência artificial que trabalha para nós. Somos nós que trabalhamos gratuitamente para afinar as respostas, para melhorar o desempenho das máquinas.

Cadê a fonte? Em um mundo em tudo o que lemos está sujeito a ser falso, distorcido e manipulado, o método mais confiável para termos algumas certezas precárias ainda é representado pela fonte, com autor, título, data, editor e número de página. Mas não basta, pois o que lemos também está sujeito a interpretações equivocadas ou mesmo à incompreensão pelos mais variados motivos, inclusive a nossa limitação cognitiva ou interpretativa.

Muita gente já embarcou alegremente na onda da automatização dos textos, da criação à tradução, acreditando cegamente em equipamentos que jamais foram programados para entender o significado de um amanhecer, o sorriso de uma criança ou a dor de quem perde o trabalho ou o teto sob o qual repousar. As máquinas podem criar somente o que já foi criado por nós, seres humanos. Não só: trata-se sempre de um produto simplificado, desprovido de emoções refinadas, aquelas que tocam a nossa alma.

Além disso, as máquinas não sabem operar sem comandos. Para receber a resposta certa é preciso saber fazer a pergunta certa. Não há software ou tradutor automático que possa encontrar o que desconhecemos, por não sabermos o que estamos procurando. Navegar, às vezes, é como a viagem de Colombo, que descobriu a América achando que tinha desembarcado na Índia. E se a história está repleta de exemplos de equívocos tão clamorosos, o que se dirá do pobre leitor sujeito a naufragar no mar de respostas automáticas, documentos gerados por inteligência artificial e materiais intencionalmente criados para iludir e enganar.

Convém não sermos ingênuos: muitas vezes a sigla I.A. indica ignorância artificial. Se o conhecimento avança continuamente, é lógico pensar que à medida que a inteligência artificial aumenta, aumenta também a ignorância artificial, reflexo do que geramos equivocadamente. E isso representa um duplo problema, pois soma-se à ignorância humana sobre tudo o que é artificial, pensando que aquilo que é gerado de modo controlado é necessariamente confiável. Não é; e o risco que corremos hoje é o de confiarmos naquilo que é artificial e deixar de acreditar naquilo que podemos descobrir pelos esforços do nosso próprio cérebro. O perigo é darmos por real algo que foi artificialmente construído e não sermos mais capazes de identificarmos o que a natureza nos deu.

A natureza nos deu o sentido de orientação espacial, por exemplo. Tempos atrás, seguindo as indicações do navegador do seu automóvel, um motorista virou à direita descendo e estragando a escadaria da Piazza di Spagna, uma das mais célebres de Roma. Poderia ter sido muito pior: imagina se nós começássemos a seguir as orientações automáticas para escolher com quem viajar, com quem casar, com quem ver os melhores crepúsculos da nossa vida e ler os nossos poemas preferidos. Seria um completo desastre e a prova cabal de que de ignorância já temos muito na vida real, não precisamos de ignorância artificial. Então, todo cuidado com a inteligência artificial é pouco.