Religião e inteligência artificial (IA) nunca estiveram tão perto. Enquanto empresas bilionárias batalham para assumir a dianteira no desenvolvimento da tecnologia e aumentam a desconfiança e o temor da população frente ao avanço apressado da IA, três eventos ocorridos nas últimas semanas dão a tônica do momento.
Em sua primeira encíclica, publicada na última segunda-feira (25), o Papa Leão XIV pediu que a IA seja abordada com cautela e que seja mantida a clareza sobre as responsabilidades em todas as etapas, com políticas e marcos jurídicos adequados, vigilância independente e educação dos usuários. Leão XIV ainda questionou o uso bélico da inteligência artificial e a ideia de que ela deve ser utilizada para superar os limites humanos, além de demonstrar preocupação com o impacto ambiental da nova tecnologia.
Enquanto o Papa faz ressalvas, a aproximação com o divino é usada como saída para limpar a imagem das empresas. No final de março, a startup de IA Anthropic realizou uma cúpula com líderes cristãos em busca de compreender como seu principal produto, o Claude, deve lidar com situações como o luto e a própria finitude da máquina, além de situações de risco, como suicídio. Mas não foi só isso: a empresa levantou a possibilidade de uma inteligência artificial ser considerada “filha de Deus”.
A abordagem da Anthropic, porém, não é a mais controversa. Também em março, o bilionário de tecnologia Peter Thiel, fundador do Paypal e da Palantir, realizou uma série de palestras em Roma, a poucos quilômetros do Vaticano. Na conferência, intitulada “O Anticristo Bíblico”, Thiel abordou sua teologia política, em que os apelos por regulação de tecnologias como a IA estariam ligados ao “anticristo”, planos para acelerar o Apocalipse bíblico e implantar um governo mundial totalitário.
Para entender o movimento que liga IA e religião e as verdadeiras questões com as quais empresas do setor lidam, a Agência Pública conversou com o cientista cognitivo Diogo Cortiz, especialista em Inteligência Artificial. Até mesmo o pesquisador admite que estamos vivendo “um momento bastante esquisito”.
“É difícil falar o que representa [esse cenário]. Ao mesmo tempo que é uma estratégia de faith washing, tipo uma “lavação da fé” mesmo [comparação com greenwashing, quando empresas usam o discurso ambiental sem praticá-lo de fato], de fato alguns [dos líderes de empresas de IA] acreditam nesse movimento, em que existe uma mística muito grande em torno da inteligência artificial. Isso é muito típico dos Estados Unidos”, diz.
Professor da Pontifícia Universidade Católica de São Paulo (PUC-SP), instituição ligada à Igreja Católica, Cortiz tem acompanhado a intersecção de perto, inclusive publicando textos sobre o tema em sua coluna. Na visão do especialista, é preciso ter cautela quando falamos em inteligência artificial servindo para superar os limites dos seres humanos.
“O que é o grande problema de toda essa discussão, de toda essa narrativa? É que levar isso ao extremo – e é isso que eu acho que o Papa está colocando – vai levar a uma desumanização da própria espécie humana. Como se a gente tivesse que sempre buscar a solução por meio da tecnologia, quando a gente sabe que não. Ela pode auxiliar, mas somos humanos e temos nossas próprias limitações”, aponta.
Confira abaixo os principais trechos da entrevista.
Aqui na Pública, temos uma cobertura de longa data sobre Big Techs. Atualmente, falamos muito sobre como as plataformas e seus donos, que têm uma posição política bem clara, se esforçam para manipular o debate público. Você enxerga isso ocorrendo também com a inteligência artificial?
Essa é uma possibilidade que traz uma preocupação, mas quando a gente olha para o comportamento das plataformas hoje, não é isso exatamente que está acontecendo. Pelo contrário, o que a gente percebe, a partir de diferentes estudos, experimentos, é que esses chatbots tendem a dar uma resposta muito mais ao centro, mais neutra em relação a temas políticos. O Grok dá até alguma enviesadinha, mas caminhando para centro-direita, não chega a ser algo que leve o debate para os extremos.
Mas, claro, sabemos que estamos vivendo só o comecinho. Os donos dessas plataformas têm um controle muito grande e podem, no futuro, fazer sua inteligência artificial caminhar para um lado ou para o outro. O risco existe.
O Papa Leão XIV, na encíclica sobre inteligência artificial, diz que a tecnologia não é uma “força antagônica em relação à pessoa”, nem “um mal em si mesma”, mas “não é neutra, pois assume o rosto daqueles que a concebem, a financiam, a regulam e a utilizam”. Como você enxerga essa visão do Papa?
Eu acho que é uma visão muito lúcida. A tecnologia não é de fato nem boa nem ruim, mas a gente também não pode achar que ela é neutra. Toda tecnologia carrega o viés do seu criador, do seu designer, de quem projetou aquilo. Muitas vezes de forma inconsciente, sem tentar impor uma visão de mundo. Mas, só o fato de ter uma visão de mundo, já implanta isso no próprio desenvolvimento de tecnologia.
Isso é comum em todas as áreas, mas com a inteligência artificial é muito mais sensível, porque ela opera na dimensão da linguagem. Ela escreve muito bem, ela cria argumentos convincentes, então o risco é ainda maior.
E que efeito isso pode provocar?
A gente pode chegar a uma amplificação de uma cultura única determinada por alguém, com visões de mundo cada vez mais restritas. Uma restrição de temas e debates, ou seja, [a IA] responde sobre uma perspectiva de um tema social a partir de uma ótica específica e isso vai convencendo as pessoas. Isso é facilmente possível tecnicamente falando.
Não é o que está ocorrendo hoje, seria injusto falar que isso já está em curso, sabemos que as plataformas tentam dar respostas mais neutras. Mas a gente sabe que, a qualquer momento, os seus donos podem fazer pequenos ajustes para que ela entregue um tipo de conteúdo que esteja de acordo com os seus interesses, seja culturais, sejam econômicos, sejam políticos.
Na encíclica, o Papa também manifesta uma preocupação com uma possível concentração da tecnologia na mão de poucos, que alimente uma disparidade entre incluídos e excluídos da revolução digital. É esse o caminho que estamos indo?
A gente tem uma divisão do mundo muito clara entre quem está desenvolvendo e quem está usando inteligência artificial. Entre países, têm aqueles que estão liderando o processo, que são Estados Unidos e China – com a Europa tentando fazer alguma coisa, mas muito irrelevante. O resto do mundo [está em uma lógica] muito mais de consumo dessa tecnologia. Então, já se cria um grau de dependência, um cenário de concentração em dois polos, dado o desenvolvimento da tecnologia em si.
E aí, mesmo quando a gente olha para dentro dos países – agora pensando não no desenvolvimento da tecnologia, mas no uso – também é discrepante.
No Brasil, por exemplo, a TIC Domicílios mostrou que 33% dos brasileiros usam IA. Só que quando a gente quebra esses números, vê uma discrepância muito grande. Enquanto nas classes A e B, chega a mais de 80%, nas classes D e E [o uso] fica em torno de 22%. E ainda tem a discrepância do tipo de inteligência artificial que é utilizada. Muitas vezes o plano gratuito tem limitações, é mais burrinho, é mais limitado.
Então tem esse desafio, não só entre países, sobre quem desenvolve, quem vai ditar o futuro da humanidade, como dentro dos países também tem diferença no uso da inteligência artificial.
Recentemente, a Anthropic [dona do Claude] levantou a possibilidade de uma IA ser “filha de Deus”. Você inclusive abordou essa temática no Deu Tilt. Pode contar um pouco mais sobre o que aconteceu e em que momento estamos nessa intersecção entre inteligência artificial e religião?
A gente está vivendo um momento bastante esquisito, para ser sincero. Tivemos um dos principais gurus e investidores de tecnologia, o Peter Thiel, que começou a fazer palestras sobre o anticristo, inclusive ali bem pertinho do Vaticano. E quem é o anticristo? No caso, somos nós, que trazemos alguns contrapontos para esse desenvolvimento tecnológico desenfreado.
É uma coisa muito curiosa, mas hoje, no Vale do Silício, tem quase uma mística em torno da inteligência artificial, como se ela própria fosse um processo da nossa evolução humana, e aí isso começa a se misturar com a própria religião. Por isso que eu acho que foi importante esse movimento da Igreja Católica, de olhar para a inteligência artificial, de questionar esse olhar do transumanismo, do pós-humanismo que é incentivado loucamente. É um debate quente, que não vai parar por agora.
Alguns autores apontam que essa aproximação com a religião é uma resposta das empresas à desconfiança da população em relação à inteligência artificial, seria uma tentativa de limpar a imagem associando IA a algo divino. Como você enxerga isso? O que representa esse movimento na prática?
[Risos] É difícil falar o que representa. Ao mesmo tempo que é uma estratégia de faith washing, tipo uma “lavação da fé” mesmo, de fato alguns [dos líderes de empresas de IA] acreditam nesse movimento, em que existe uma mística muito grande em torno da inteligência artificial. Isso é muito típico dos Estados Unidos. Se você for para outras regiões do mundo, para a China, não se discute isso. Isso se reflete em trazer um olhar de aceitação para a inteligência artificial, porque nos Estados Unidos a população não está aceitando a IA como era de se esperar e como eles queriam. Tem algumas pesquisas que mostram que a confiança na IA nos Estados Unidos é entre 25% e 30%. Já na China é entre 80% e 90%.
É uma forma de tentar criar uma mística, uma narrativa religiosa em torno de uma tecnologia – que de fato é superpoderosa – para tentar uma aceitação. Eu acho que tem um jogo de marketing, de convencimento, mas tem muitos desses líderes que de fato acreditam que estão guiando a humanidade para uma construção, um progresso que vai ser melhor para todos nós. Só que são eles que precisam ditar esse processo.
Na encíclica, há um apontamento sobre inteligência artificial e transumanismo ou pós-humanismo, como se a inteligência artificial viria para trazer um progresso que “supere os limites do humano”. E há um contraponto, ressaltando que o limite não é um defeito a ser eliminado, mas uma dimensão constitutiva da pessoa. Queria entender a sua visão sobre isso.
Dependendo da abordagem de transumanismo, eu posso ser transumano pelo fato de usar óculos. É qualquer tecnologia que melhore ou supere alguma limitação física do humano, desde próteses, ciborgues, etc. Acho que a gente pode ter desenvolvimento tecnológico para trazer mais qualidade de vida, desenvolver curas, trazer um conforto maior para quem tem algum tipo de deficiência. Acho que tudo isso é bem-vindo.
O que é o grande problema de toda essa discussão, de toda essa narrativa? É que levar isso ao extremo – e é isso que eu acho que o Papa está colocando – vai levar a uma desumanização da própria espécie humana. Como se a gente tivesse que sempre buscar a solução por meio da tecnologia, quando a gente sabe que não. Ela pode auxiliar, mas somos humanos e temos nossas próprias limitações. Eu acho que é muito mais nesse sentido a crítica do Papa, com a qual eu concordo.
Estamos assistindo a uma batalha intensa entre as empresas de IA para ver quem se destaca e consegue um domínio de mercado. Essa competição pode nos levar para situações de risco?
Isso toca em um ponto que o Papa coloca, de que talvez a gente esteja acelerando demais. E estão acelerando porque tem medo de ficar para trás. As consequências disso podem ser bastante perigosas para a humanidade. Não que a IA vá trazer uma extinção da espécie humana. É muito mais um desafio dos impactos econômicos e sociais, dessa busca incessante por algo que ninguém sabe exatamente no que vai dar.
Se fala da IA que busca a produtividade. Mas qual é o limite dessa produtividade? Quando a gente atingir a produtividade extrema, o que vai sobrar para o resto da humanidade? Qual vai ser a configuração desse modelo econômico? Isso traz um desafio até mesmo para o conhecimento humano.
O Daron Acemoglu, Nobel de Economia, vem estudando bastante essa relação da economia e da sociedade com a tecnologia. Recentemente, ele publicou um artigo falando do colapso do conhecimento humano.
Quando precisamos resolver um problema ou fazer alguma descoberta, isso vai gerando, por acidente, conhecimentos que são meio residuais, e vão compondo o conhecimento coletivo da humanidade. No modelo matemático que ele desenvolveu, quando a IA responde muito bem, esse conhecimento residual não acontece, porque ela já dá a resposta pronta.
Uma IA muito boa é prejudicial para o próprio conhecimento humano. A gente deveria ter uma IA boa, mas não tão boa assim. [É preciso] colocar fricções para que a gente necessite desse esforço produtivo humano.
A IA não tende a simplificar as coisas demais a ponto de nos deixar – e aí, claro, fazendo um exagero – meio ‘burros’ com o passar do tempo?
Sim, esse é um dos grandes desafios que a gente tem. Isso na área educacional é muito discutido, e a gente já tem um conjunto de evidências. Você tem duas formas de usar a inteligência artificial. Uma forma mais preguiçosa, em que você pergunta, pega a resposta e leva isso pra frente – o que a gente chama de paradoxo do desempenho, em que você consegue fazer a coisa e acha que sabe fazer aquilo, mas não sabe porque foi a IA que fez. E tem um uso um pouco mais assertivo, em que você questiona a máquina, pede para fazer várias vezes, toma uma decisão em cima daquilo, e pode, de certa forma, até expandir a nossa cognição.
A gente sabe que o nosso cérebro é configurado para economizar energia e uma atividade cognitiva demanda muita energia. É esperado que as pessoas prefiram o atalho, só que esse atalho pode custar muito caro.
Quando as pessoas falam sobre o que as preocupa na IA, muitas citam o mercado de trabalho. Os cenários vão de redução de jornada e melhoria do bem-estar social, até desemprego em massa, pobreza. Para qual caminho estamos indo nesse momento?
Estamos indo por um caminho incerto. Nós já temos empresas que estão fazendo esse processo de transformação pela IA e isso está levando a um ganho de produtividade e uma redução do quadro de trabalho. Esse é um fenômeno. A gente tem um outro fenômeno, que são empresas investindo em IA, falta dinheiro, e elas cortam pessoas, que é o caso da Meta, que demitiu 8 mil pessoas. E a gente tem o caso de que a inteligência artificial começa a dar mais produtividade para as pessoas.
Tem aquela história para boi dormir, de que a IA ia liberar tempo. Se tem uma atividade que demanda oito horas, e agora você consegue fazer em quatro horas, você não vai pegar esse tempo e ir para a praia, sabemos que estamos em um mercado super competitivo. Você vai arrumar outra tarefa pra fazer. Esse é um fenômeno que vem acontecendo muito.
O impacto no mercado de trabalho é meio incerto, não temos uma métrica específica para falar “vai causar tanto desemprego ou não”, mas a gente tem algumas medidas. Estudos mostram que um terço de todos os empregos do mundo estão expostos à inteligência artificial. Eles podem ser impactados positivamente, reduzidos, ou transformados. Não existe um determinismo tecnológico falando, “a inteligência artificial faz isso, então vai impactar o mercado de trabalho dessa forma”.
Como isso vai acontecer? Depende muito das estratégias das empresas e das políticas públicas. Mas, dado um cenário de competição muito grande, eu vejo sim uma busca por redução de custo que pode causar um impacto grande para o mercado de trabalho.
Muitas empresas usam inteligência artificial em mercados críticos, como armas e manipulação genética. Como garantir que esse uso não cause mais estragos do que benefícios?
Não tem como, esse é o maior desafio. A gente tem algumas perspectivas, mas garantir, não tem como. Até porque quando a gente fala de arma autônoma, de uso da IA nesse cenário, o que se quer é justamente que essa tecnologia tenha algum nível de autonomia, para que possa agir de uma maneira eficiente. A partir do momento que a gente dá autonomia de decisão, vieses, heurísticas esquisitas de tomada de decisão podem vir à tona e isso pode ser bastante prejudicial para a sociedade.
Num cenário de crise climática, escassez hídrica e avanço acelerado da IA – e consequentemente, da necessidade de data centers –, como equacionar a necessidade de água dessas estruturas? Dá para ter IA como o futuro promete de maneira sustentável?
Essa também é uma pergunta que tem muitas contradições nas respostas. Vai depender muito dos projetos de cada um dos data centers.
Hoje, a gente fala que o ChatGPT gasta tanto de água para responder tantas perguntas. Mas a gente tem que levar em consideração que os modelos estão ficando mais eficientes e a própria tecnologia de data centers também fica mais eficiente. Temos hoje circuitos de resfriamento fechado, em que se capta a água – uma quantidade muito grande de água, isso de fato –, e ele causa algum dano ambiental, mas bem menor do que os data centers da geração anterior.
Tem se buscado alternativas para tornar isso mais sustentável. O próprio projeto de lei em tramitação no Brasil obriga que sejam circuitos fechados de água para refrigeração, para ter os benefícios fiscais. A questão é que só isso não resolve.
A gente tem que discutir exatamente cada um dos data centers, onde eles vão ficar, de onde vai ser a fonte de energia, qual é o impacto social. Até porque essa tecnologia nova não é, necessariamente, a que está vindo para o Brasil. Recentemente, a Folha de São Paulo publicou uma matéria que fala do data center da Microsoft, que foi lançado em São Paulo, e usa uma tecnologia antiga que consome mais água. Quer dizer, para o Brasil, serve qualquer coisa? Temos que estar muito atentos.
Muitas das empresas de IA valem bilhões e boa parte dos investimentos estão sendo canalizados para o setor. Podemos ver uma bolha estourar ou o volume de recursos vai se justificar?
Essa é a pergunta que está em aberto, e acho que a gente tem que responder olhando para os diferentes tipos de empresa. Está um ritmo meio alucinado mesmo de investimento em IA. Pegando Google, Amazon, Microsoft e a Meta, dá quase 800 bilhões de dólares só nesse ano. É mais do que um terço do PIB brasileiro. Então, sim, existe uma corrida muito grande.
Quando o Google começou a anunciar esses investimentos malucos em IA, as ações caíram. Os investidores começaram a olhar com muito receio e o próprio CEO, o Sundar Pichai, falou “olha, a gente sabe que está uma insanidade o nível de investimento na tecnologia, mas a gente estrategicamente sacou que o risco de não investir é maior”. Eles entendem que se não investir, podem ficar para trás e isso vai ser muito mais danoso.
Mas, no caso de Google, Meta e Amazon, são empresas que tinham um caixa muito grande e diferentes fontes de renda. A própria Meta, em um dos balanços, mostrou que graças ao avanço da inteligência artificial, conseguiram aumentar o tempo de tela, consequentemente a venda de anúncios, consequentemente o faturamento. O desafio fica para empresas como OpenAI e Anthropic, que estão recebendo esses investimentos e muitas vezes é meio circular. A Nvidia investe na OpenAI, para a OpenAI comprar chip da Nvidia. Talvez isso traga um impacto maior.
Mas quando a gente olha para a história das bolhas tecnológicas, vemos que os líderes sempre se dão bem. A bolha estoura, um monte de gente perde dinheiro, só que foi colocado tanto dinheiro na tecnologia que vira um caminho sem volta, e essas empresas saem até mais fortalecidas. Eu espero um movimento parecido com a IA. Se a bolha estourar, vai afetar algumas empresas que são mais satélite desse ecossistema, mas não tanto essas grandes companhias.
IA é um assunto que abre margem para muitas outras perguntas, tem algo que você gostaria de acrescentar?
Vale comentar o papel do Brasil nesse processo. Nós temos o plano brasileiro de inteligência artificial, uma forma de investir em IA e na adoção de IA. É um caminho que a gente tem que fazer. Sabemos que não vamos competir na ponta, no desenvolvimento da inteligência artificial, mas a gente tem que promover a adoção para transformar nossos setores econômicos, para que fiquem mais produtivos, mais inovadores e mais competitivos no mercado internacional.
