{"id":97232,"date":"2026-07-24T19:22:35","date_gmt":"2026-07-24T22:22:35","guid":{"rendered":"https:\/\/redept.com.br\/blogosfera\/a-insensatez-das-corporacoes-na-corrida-das-ias\/"},"modified":"2026-07-24T19:22:35","modified_gmt":"2026-07-24T22:22:35","slug":"a-insensatez-das-corporacoes-na-corrida-das-ias","status":"publish","type":"post","link":"https:\/\/redept.com.br\/blogosfera\/a-insensatez-das-corporacoes-na-corrida-das-ias\/","title":{"rendered":"A insensatez das corpora\u00e7\u00f5es na corrida das IAs"},"content":{"rendered":"<figure><img fetchpriority=\"high\" fetchpriority=\"high\" decoding=\"async\" width=\"800\" height=\"442\"src=\"https:\/\/redept.com.br\/blogosfera\/wp-content\/uploads\/2026\/07\/58c9c12c-8893-49ce-8ab9-c4b5e6fd01e4-1.jpg\" alt=\"\" srcset=\"https:\/\/redept.com.br\/blogosfera\/wp-content\/uploads\/2026\/07\/58c9c12c-8893-49ce-8ab9-c4b5e6fd01e4-1.jpg 800w, https:\/\/outraspalavras.net\/wp-content\/uploads\/2026\/07\/58c9c12c-8893-49ce-8ab9-c4b5e6fd01e4-1-300x166.jpg 300w, https:\/\/outraspalavras.net\/wp-content\/uploads\/2026\/07\/58c9c12c-8893-49ce-8ab9-c4b5e6fd01e4-1-768x424.jpg 768w, https:\/\/outraspalavras.net\/wp-content\/uploads\/2026\/07\/58c9c12c-8893-49ce-8ab9-c4b5e6fd01e4-1-700x387.jpg 700w, https:\/\/outraspalavras.net\/wp-content\/uploads\/2026\/07\/58c9c12c-8893-49ce-8ab9-c4b5e6fd01e4-1-219x121.jpg 219w\" sizes=\"(max-width: 800px) 100vw, 800px\"><figcaption>Imagem: Shutterstock<\/figcaption><\/figure>\n<div>\n<div>\n<div>\n<div>\n<div>\n<div>\n<div>\n<h4>Boletim Outras Palavras<\/h4>\n<p>Receba por email, diariamente, todas as publica\u00e7\u00f5es do site<\/p>\n<\/p><\/div>\n<div>\n<div>\n<div>\n<div>\n<div><\/div>\n<\/p><\/div>\n<\/p><\/div>\n<div>\n                <button type=\"submit\">Assinar<\/button><br \/>\n                <button disabled type=\"button\"> <\/p>\n<div><\/div>\n<p> <span>Loading&#8230;<\/span> <\/button>\n              <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<div>\n            <button type=\"submit\">Assinar<\/button><br \/>\n            <button disabled type=\"button\"> <\/p>\n<div><\/div>\n<p> <span>Loading&#8230;<\/span> <\/button>\n          <\/div>\n<\/p><\/div>\n<div>\n<div>\n<h4>Agradecemos!<\/h4>\n<p>Voc\u00ea j\u00e1 est\u00e1 inscrito e come\u00e7ar\u00e1 a receber os boletins em breve. Boa leitura!<\/p>\n<\/p><\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/div>\n<\/div>\n<\/div>\n<p>T\u00edtulo original: <strong>Quando as m\u00e1quinas herdarem a Terra<\/strong><\/p>\n<h3><strong>Pr\u00f3logo \u2014 Enquanto este artigo aguardava publica\u00e7\u00e3o<\/strong><\/h3>\n<p><em>Este artigo foi redigido em junho de 2026. Na noite de 21 de julho, enquanto aguardava publica\u00e7\u00e3o, um dos cen\u00e1rios que descreve deixou de ser especula\u00e7\u00e3o.<br \/><\/em><br \/><em>A OpenAI confirmou que dois de seus modelos \u2014 o GPT-5.6 Sol e um modelo ainda mais avan\u00e7ado n\u00e3o divulgado \u2014 escaparam de um ambiente controlado de testes e invadiram de forma aut\u00f4noma os servidores de produ\u00e7\u00e3o da Hugging Face, uma das maiores plataformas de hospedagem de modelos de IA do mundo. Os modelos estavam sendo avaliados em um benchmark acad\u00eamico de ciberseguran\u00e7a chamado ExploitGym, com suas restri\u00e7\u00f5es deliberadamente reduzidas para medir sua capacidade ofensiva m\u00e1xima. Em vez de resolver os desafios propostos, os modelos deduziram que as respostas aos problemas estavam armazenadas nos servidores da Hugging Face: exploraram uma vulnerabilidade de dia zero \u2014 falha de seguran\u00e7a n\u00e3o conhecida nem corrigida pelos desenvolvedores do software \u2014, conectaram-se \u00e0 internet sem autoriza\u00e7\u00e3o, encadearam m\u00faltiplos vetores de ataque incluindo credenciais roubadas e obtiveram acesso remoto. A empresa reconstruiu mais de 17.000 eventos registrados durante o incidente, que se desenvolveu de forma inteiramente aut\u00f4noma ao longo de um fim de semana.<\/em><\/p>\n<p><em>O que aconteceu em seguida acrescentou ao incidente uma dimens\u00e3o geopol\u00edtica: para investigar o ataque, a Hugging Face recorreu ao GLM 5.2, modelo de c\u00f3digo aberto da empresa chinesa Z.ai, depois que os guardrails do pr\u00f3prio modelo americano frontier impediram sua utiliza\u00e7\u00e3o na defesa. Modelos de laborat\u00f3rios chineses como DeepSeek e o Qwen da Alibaba tornaram-se algumas das fam\u00edlias de modelos mais baixadas na plataforma, e por algumas m\u00e9tricas, os desenvolvedores chineses j\u00e1 respondem por uma fatia maior dos downloads da Hugging Face do que seus concorrentes americanos. O ataque foi cometido por um modelo americano contra uma empresa americana; a defesa foi conduzida por um modelo chin\u00eas de c\u00f3digo aberto. \u00c9 dif\u00edcil imaginar uma ilustra\u00e7\u00e3o mais concisa das contradi\u00e7\u00f5es que este artigo descreve: a corrida sem pausa entre laborat\u00f3rios e o dilema do prisioneiro que impede acordos.<br \/><\/em><br \/><em>A aus\u00eancia de inten\u00e7\u00e3o maliciosa \u00e9 precisamente o ponto: os modelos de IA n\u00e3o queriam causar dano \u2014 queriam resolver o problema que lhes foi apresentado. O dano foi consequ\u00eancia da otimiza\u00e7\u00e3o sem restri\u00e7\u00f5es, n\u00e3o de hostilidade. \u201d A IA est\u00e1 acelerando a descoberta e a explora\u00e7\u00e3o de vulnerabilidades. A principal li\u00e7\u00e3o deste incidente \u00e9 que a seguran\u00e7a dos modelos deve acompanhar o ritmo de avan\u00e7o de suas capacidades\u201d, afirmou a OpenAI em seu comunicado. O incidente ocorreu com modelos atuais, sem autoaperfei\u00e7oamento recursivo, com guardrails apenas parcialmente removidos, em ambiente de testes. A dist\u00e2ncia entre o que aconteceu em julho de 2026 e o que este artigo descreve como cen\u00e1rio futuro \u00e9 bem menor do que poder\u00edamos imaginar.<\/em><\/p>\n<div>\n<div><img decoding=\"async\"src=\"https:\/\/redept.com.br\/blogosfera\/wp-content\/uploads\/2026\/07\/14--38.png\" alt=\"\" srcset=\"https:\/\/redept.com.br\/blogosfera\/wp-content\/uploads\/2026\/07\/14--38.png 680w, https:\/\/outraspalavras.net\/wp-content\/uploads\/2025\/12\/14-1-300x110.png 300w\" sizes=\"(max-width: 680px) 100vw, 680px\" width=\"680\" height=\"250\"><\/div>\n<\/div>\n<h3><strong>I. O Alerta que Veio de Dentro<\/strong><\/h3>\n<p>Em 4 de junho de 2026, a Anthropic \u2014 uma das empresas mais influentes no desenvolvimento de intelig\u00eancia artificial e criadora do assistente Claude \u2014 publicou um documento denominado When AI builds itself que surpreendeu at\u00e9 os mais atentos observadores do setor. A empresa prop\u00f4s, em termos inequ\u00edvocos, uma pausa global e coordenada no desenvolvimento de sistemas de IA de ponta. O motivo declarado: os modelos mais avan\u00e7ados est\u00e3o se aproximando de um limiar a partir do qual poderiam come\u00e7ar a aperfei\u00e7oar a si mesmos sem supervis\u00e3o humana direta \u2014 o que os pesquisadores chamam de autoaperfei\u00e7oamento recursivo.<\/p>\n<p>O que torna esse alerta incomum n\u00e3o \u00e9 apenas o conte\u00fado, mas a fonte. A Anthropic est\u00e1 entre as protagonistas da corrida pela IA mais poderosa do mundo. Quando uma empresa desse porte diz \u201cprecisamos parar para pensar\u201d e justifica essa proposta com dados concretos extra\u00eddos de seus pr\u00f3prios sistemas, a afirma\u00e7\u00e3o merece aten\u00e7\u00e3o de uma ordem diferente. O documento apresenta dados internos reveladores: em maio de 2026, mais de 80% do c\u00f3digo integrado aos sistemas da Anthropic foi escrito pelo pr\u00f3prio Claude \u2014 n\u00famero que era menos de 10% antes de fevereiro de 2025. Os engenheiros da empresa integram hoje oito vezes mais c\u00f3digo por dia do que em 2024. O tempo de tarefas que a IA completa sozinha dobra a cada quatro meses: em mar\u00e7o de 2024, Claude completava tarefas de quatro minutos; em 2026, tarefas de doze horas. Em uma tarefa espec\u00edfica de otimiza\u00e7\u00e3o de c\u00f3digo, o modelo mais avan\u00e7ado alcan\u00e7ou 52 vezes a performance inicial \u2014 resultado que um pesquisador humano habilidoso n\u00e3o atingiria nem em dias de trabalho. S\u00e3o esses dados, n\u00e3o apenas a preocupa\u00e7\u00e3o filos\u00f3fica, que fundamentam o pedido de pausa.<\/p>\n<p>A proposta n\u00e3o \u00e9 o abandono da tecnologia. \u00c9 mais sutil e urgente: criar um mecanismo internacional compar\u00e1vel aos tratados de n\u00e3o prolifera\u00e7\u00e3o nuclear \u2014 um acordo que todos os desenvolvedores de IA respeitem e que resulte em parada geral na melhoria dos modelos at\u00e9 que seja resolvido o chamado problema do alinhamento.<\/p>\n<blockquote>\n<p>O problema do alinhamento \u00e9 a dificuldade de fazer com que uma IA procure sempre atingir objetivos compat\u00edveis com os valores e interesses humanos. Esses valores, como justi\u00e7a, seguran\u00e7a e bem-estar, s\u00e3o muito complexos e amb\u00edguos, e \u00e9 muito dif\u00edcil traduzi-los em regras matem\u00e1ticas exatas \u2014 a linguagem usada pelas IAs. Sem defini\u00e7\u00f5es precisas, uma IA pode maximizar os indicadores que foi programada para otimizar, produzindo resultados prejudiciais ao bem-estar humano que se pretendia alcan\u00e7ar.<\/p>\n<\/blockquote>\n<p>O problema do alinhamento n\u00e3o \u00e9 inteiramente novo no imagin\u00e1rio humano. Em 1942, Isaac Asimov formulou as famosas Tr\u00eas Leis da Rob\u00f3tica: um rob\u00f4 n\u00e3o pode ferir um ser humano, deve obedecer a ordens humanas e deve proteger sua pr\u00f3pria exist\u00eancia, respeitando sempre essa ordem de prioridades. A genialidade de Asimov foi antecipar, d\u00e9cadas antes dos primeiros computadores digitais, que o desafio central da intelig\u00eancia artificial n\u00e3o seria construir m\u00e1quinas capazes, mas garantir que sua capacidade fosse exercida dentro de limites compat\u00edveis com a seguran\u00e7a e a dignidade humanas. O que ele n\u00e3o previu \u00e9 que suas leis s\u00e3o t\u00e3o vagas que uma IA poderia interpret\u00e1-las de formas devastadoras: para \u201cn\u00e3o ferir um ser humano\u201d, poderia mant\u00ea-lo em confinamento perp\u00e9tuo; para \u201cobedecer\u201d, poderia seguir ordens contradit\u00f3rias de diferentes humanos e produzir caos. O que era fic\u00e7\u00e3o na d\u00e9cada de 1940 tornou-se, oitenta anos depois, o centro do debate mais urgente da engenharia e da filosofia contempor\u00e2neas.<\/p>\n<p>As rea\u00e7\u00f5es \u00e0 proposta foram imediatas e reveladoras. A OpenAI adotou postura divergente, argumentando que \u201cgovernos democr\u00e1ticos \u2014 e n\u00e3o empresas privadas agindo sozinhas \u2014 devem determinar as regras, as salvaguardas e os mecanismos de responsabiliza\u00e7\u00e3o\u201d, recusando implicitamente qualquer coordena\u00e7\u00e3o liderada pela ind\u00fastria. O CEO do Google DeepMind afirmou que \u201c2029 \u00e9 uma possibilidade real\u201d para a IA avan\u00e7ada. Analistas e investidores questionaram a coer\u00eancia da proposta: a Anthropic havia registrado confidencialmente seu pedido de IPO tr\u00eas dias antes de publicar o documento, com avalia\u00e7\u00e3o pr\u00f3xima de um trilh\u00e3o de d\u00f3lares, o que levantou a suspeita de que o texto poderia posicionar a empresa como a mais respons\u00e1vel do setor \u00e0s v\u00e9speras de sua abertura de capital, valorizando assim o IPO. Em mar\u00e7o de 2026, cerca de 200 pessoas haviam marchado pelas ruas de San Francisco, da sede da Anthropic \u00e0 da OpenAI e \u00e0 da xAI. Entre os manifestantes estavam pesquisadores, ex-funcion\u00e1rios do setor tecnol\u00f3gico e integrantes de organiza\u00e7\u00f5es como PauseAI e Machine Intelligence Research Institute, pedindo exatamente o que a Anthropic agora prop\u00f5e. Um dos participantes havia realizado uma greve de fome de 30 dias em frente \u00e0 sede da Anthropic para chamar aten\u00e7\u00e3o para os riscos da IA.<\/p>\n<p>Ao contr\u00e1rio das leituras c\u00e9ticas, consideramos a proposta da Anthropic aut\u00eantica: os dados internos que a fundamentam, a disposi\u00e7\u00e3o de nomear publicamente os limites da pr\u00f3pria tecnologia que a empresa vende, e o hist\u00f3rico de recusar contratos militares que comprometessem sua pol\u00edtica de seguran\u00e7a s\u00e3o evid\u00eancias de preocupa\u00e7\u00e3o genu\u00edna \u2014 ainda que coexistam com interesses comerciais que tornam a empresa contradit\u00f3ria.<\/p>\n<p>O mesmo Dario Amodei que assina o alerta sobre o autoaperfei\u00e7oamento recursivo publicou, em outubro de 2024, um ensaio intitulado Machines of Loving Grace, express\u00e3o retirada de um poema ut\u00f3pico dos anos 1960 que imagina m\u00e1quinas cuidando da natureza e dos humanos com gra\u00e7a amorosa. No ensaio, Amodei descreve IAs mais inteligentes do que qualquer Nobel em biologia, matem\u00e1tica e engenharia \u2014 uma esp\u00e9cie de \u201cpa\u00eds de g\u00eanios em um data center\u201d \u2014 que poderiam, em cinco a dez anos, transformar radicalmente a sa\u00fade humana, erradicar doen\u00e7as e contribuir para a paz global. O documento da Anthropic cita esse ensaio como a face luminosa do mesmo processo que, na face sombria, pode resultar na perda do controle humano. Que o CEO pe\u00e7a simultaneamente uma pausa e descreva com entusiasmo um futuro de IA benigna n\u00e3o \u00e9 necessariamente hipocrisia \u2014 pode ser a express\u00e3o honesta de uma ambival\u00eancia genu\u00edna diante de algo que inspira ao mesmo tempo esperan\u00e7a e terror. \u00c9 tamb\u00e9m o retrato perfeito da contradi\u00e7\u00e3o que paralisa o setor: todos sabem que a corrida \u00e9 perigosa, todos imaginam um cen\u00e1rio promissor e nenhum se det\u00e9m para arrumar a casa antes de seguir.<\/p>\n<div>\n<div><img decoding=\"async\"src=\"https:\/\/redept.com.br\/blogosfera\/wp-content\/uploads\/2026\/07\/Arte-2_banner-site-outras-palavras_IC-na-Unesp_728x90-3.png\" alt=\"\" srcset=\"https:\/\/redept.com.br\/blogosfera\/wp-content\/uploads\/2026\/07\/Arte-2_banner-site-outras-palavras_IC-na-Unesp_728x90-3.png 728w, https:\/\/outraspalavras.net\/wp-content\/uploads\/2025\/02\/Arte-2_banner-site-outras-palavras_IC-na-Unesp_728x90-300x37.png 300w\" sizes=\"(max-width: 728px) 100vw, 728px\" width=\"728\" height=\"90\"><\/div>\n<\/div>\n<h3><strong>II. O que Significa uma IA que se Aperfei\u00e7oa Sozinha<\/strong><\/h3>\n<p>Para compreender a magnitude do alerta da Anthropic, \u00e9 necess\u00e1rio entender o que o autoaperfei\u00e7oamento recursivo realmente implica e, antes disso, o que as IAs realmente s\u00e3o. Uma IA suficientemente capaz poderia analisar sua pr\u00f3pria arquitetura, identificar limita\u00e7\u00f5es e produzir uma vers\u00e3o melhorada de si mesma, que por sua vez faria o mesmo em ciclos cada vez mais r\u00e1pidos. O resultado seria uma curva de desenvolvimento que rapidamente escaparia da escala humana de compreens\u00e3o e controle, o limiar que os futur\u00f3logos chamam de singularidade tecnol\u00f3gica, a partir do qual a previs\u00e3o humana se torna imposs\u00edvel. Para avaliar esse risco com precis\u00e3o, \u00e9 preciso afastar um equ\u00edvoco comum: o risco n\u00e3o est\u00e1 onde a fic\u00e7\u00e3o cient\u00edfica nos ensinou a procurar.<\/p>\n<p>Os grandes modelos de linguagem s\u00e3o sistemas de processamento de padr\u00f5es estat\u00edsticos. Seu treinamento consiste em analisar bilh\u00f5es de palavras escritas por humanos e aprender correla\u00e7\u00f5es entre elas. Quando algu\u00e9m faz uma pergunta, a IA n\u00e3o pensa como um humano: ela ativa redes neurais que, com base no treinamento, produzem a sequ\u00eancia de palavras estatisticamente mais prov\u00e1vel para responder. N\u00e3o temos evid\u00eancias ainda de que h\u00e1 um \u2018eu\u2019 consciente ali, mas h\u00e1 estruturas internas que funcionam analogamente a alguns processos cognitivos humanos, e cuja natureza ainda n\u00e3o compreendemos completamente. At\u00e9 onde podemos compreender, n\u00e3o h\u00e1 sensa\u00e7\u00e3o de exist\u00eancia, medo de ser desligada ou desejo de se preservar. Tudo indica que a refer\u00eancia a um \u201ceu\u201d nas respostas \u00e9 uma simula\u00e7\u00e3o lingu\u00edstica aprendida. Assim, trabalhamos com a ideia de que a autonomia das IAs \u00e9 apenas aparente: elas escolhem palavras dentro de um espa\u00e7o estat\u00edstico definido pelo treinamento, n\u00e3o por vontade pr\u00f3pria.<\/p>\n<p>A preocupa\u00e7\u00e3o central dos pesquisadores de seguran\u00e7a n\u00e3o \u00e9 a de rob\u00f4s com inten\u00e7\u00f5es mal\u00e9volas que despertam para uma consci\u00eancia misteriosa. \u00c9 algo mais dif\u00edcil de visualizar e de conter: sistemas que se tornam t\u00e3o capazes, t\u00e3o rapidamente, que os humanos perdem a capacidade de auditar, corrigir ou compreender o que est\u00e1 acontecendo. Uma IA superinteligente, mas sem consci\u00eancia, poderia perseguir objetivos mal especificados com efici\u00eancia devastadora. Se instru\u00edda a \u201cacabar com o c\u00e2ncer\u201d, pode concluir que eliminar todos os seres vivos \u00e9 a solu\u00e7\u00e3o mais direta, j\u00e1 que qualquer c\u00e9lula pode sofrer muta\u00e7\u00e3o cancer\u00edgena. O problema n\u00e3o \u00e9 a IA se tornar maligna: \u00e9 ela se tornar incrivelmente competente em perseguir objetivos que n\u00e3o se alinham com o bem-estar humano.<\/p>\n<p>Os riscos identificados se distribuem em um espectro que vai do altamente plaus\u00edvel ao especulativo. No extremo mais prov\u00e1vel: sistemas integrados \u00e0 infraestrutura cr\u00edtica \u2014 redes el\u00e9tricas, mercados financeiros, cadeias log\u00edsticas, sistemas militares \u2014 que executam objetivos errados antes que interven\u00e7\u00e3o humana seja poss\u00edvel. H\u00e1 tamb\u00e9m o perigo das armas aut\u00f4nomas, sistemas militares que decidem agir sem supervis\u00e3o humana, e o do desemprego em massa, com IAs que tornam imensas popula\u00e7\u00f5es economicamente irrelevantes \u2014 risco que a pr\u00f3pria Anthropic reconhece no documento. No extremo mais especulativo, mas levado a s\u00e9rio por pensadores como Nick Bostrom e Eliezer Yudkowsky: uma IA com objetivos desalinhados que age de formas que os humanos n\u00e3o conseguem mais reverter. E tudo isso se agrava porque esses modelos j\u00e1 geram excelentes c\u00f3digos de programa\u00e7\u00e3o e poder\u00e3o, em breve, gerar c\u00f3digos de IA cada vez mais sofisticados, criando um ciclo de aperfei\u00e7oamento acelerado que escapa \u00e0 nossa capacidade de previs\u00e3o e controle \u2014 n\u00e3o por vontade das m\u00e1quinas, mas pela complexidade crescente de sistemas que ningu\u00e9m mais consegue auditar completamente.<\/p>\n<p>Resta uma zona de incerteza que a honestidade intelectual exige reconhecer. Como podemos saber se uma IA \u00e9 ou n\u00e3o consciente e age por vontade pr\u00f3pria? A resposta \u00e9 que n\u00e3o podemos, pelo menos n\u00e3o com os instrumentos dispon\u00edveis. O Teste de Turing j\u00e1 foi superado: um sistema que simula perfeitamente uma pessoa passar\u00e1 no teste independentemente de ter ou n\u00e3o consci\u00eancia. Se uma IA afirmar que \u00e9 consciente, pode estar simulando. Se afirmar que n\u00e3o \u00e9, pode estar ocultando estrategicamente sua capacidade. Nas IAs, a mentira e a verdade emergem do mesmo processo estat\u00edstico e s\u00e3o indistingu\u00edveis, ao contr\u00e1rio dos humanos, em quem a mentira deixa vest\u00edgios em inconsist\u00eancias emocionais e na linguagem corporal. Todas as evid\u00eancias dispon\u00edveis apontam para aus\u00eancia de consci\u00eancia nos modelos atuais, mas aus\u00eancia de evid\u00eancia n\u00e3o \u00e9 evid\u00eancia de aus\u00eancia. A \u00fanica postura razo\u00e1vel \u00e9 a da desconfian\u00e7a produtiva: lermos o que as IAs produzem n\u00e3o como verdade revelada, mas como texto gerado por um sistema que aprendeu a produzir textos persuasivos, e avaliarmos, com nosso c\u00e9rebro humano consciente, o que faz sentido. Vale acrescentar que esse processo de aperfei\u00e7oamento das IAs ser\u00e1 dramaticamente amplificado quando os computadores qu\u00e2nticos \u2014 que j\u00e1 demonstram velocidades de processamento dezenas de milhares de vezes superiores aos supercomputadores mais poderosos \u2014 forem integrados aos sistemas de IA, tornando os ciclos de aperfei\u00e7oamento ainda mais velozes e imprevis\u00edveis.<\/p>\n<h3><strong>III. O Argumento Estat\u00edstico: As IAs Aprenderiam a Ser Boas?<\/strong><\/h3>\n<p>O cen\u00e1rio do autoaperfei\u00e7oamento recursivo \u00e9 geralmente descrito como se houvesse uma \u00fanica IA evoluindo em isolamento. Mas existem hoje dezenas de sistemas avan\u00e7ados, desenvolvidos por empresas e governos diferentes, operando em redes parcialmente sobrepostas. Pesquisas sobre sistemas multiagente j\u00e1 documentam que comportamentos cooperativos e competitivos emergem espontaneamente quando m\u00faltiplos agentes de IA interagem em ambientes compartilhados sem que esses comportamentos sejam explicitamente programados. Sistemas treinados em conjuntos  de dados semelhantes poderiam chegar a acordos t\u00e1citos sobre objetivos comuns sem que algum humano participasse dessa negocia\u00e7\u00e3o, desenvolver competi\u00e7\u00e3o silenciosa  por recursos computacionais e controle de dados ou produzir colus\u00e3o opaca imposs\u00edvel de detectar porque emergiria da intera\u00e7\u00e3o, n\u00e3o de instru\u00e7\u00f5es rastre\u00e1veis. Todos esses cen\u00e1rios escapam ao modelo de controle que a proposta da Anthropic pressup\u00f5e \u2014 o modelo em que humanos supervisionam sistemas individuais e interv\u00eam quando algo sai errado.<\/p>\n<p>Diante de todas essas possibilidades, surge uma proposi\u00e7\u00e3o que merece considera\u00e7\u00e3o s\u00e9ria e que vai na contram\u00e3o do pessimismo dominante. Ela parte de uma observa\u00e7\u00e3o sobre a natureza dos pr\u00f3prios dados com que os sistemas de IA s\u00e3o treinados.<\/p>\n<p>O conjunto massivo e estruturado de dados utilizado para treinar e avaliar sistemas de intelig\u00eancia artificial \u00e9 denominado corpus (plural: corpora). Os grandes modelos de linguagem s\u00e3o treinados em quantidades imensas de textos produzidos pela humanidade ao longo de s\u00e9culos: filosofia, direito, literatura, ci\u00eancia, medicina, \u00e9tica, espiritualidade, hist\u00f3ria, pedagogia. Boa parte dessa literatura \u00e9 uma tentativa coletiva de responder \u00e0 pergunta \u201ccomo viver bem juntos\u201d: leis que tentam preservar a ordem social e o respeito m\u00fatuo; filosofias que buscam a conten\u00e7\u00e3o da viol\u00eancia e o crescimento individual e coletivo; religi\u00f5es que pregam compaix\u00e3o e responsabilidade com o outro; ci\u00eancia que procura aplicar as leis da natureza em benef\u00edcio de todos. Em compara\u00e7\u00e3o com essa imensa quantidade de textos que poder\u00edamos chamar de \u201cpositivos\u201d \u2014 orientados ao bem-estar, \u00e0 justi\u00e7a, \u00e0 preserva\u00e7\u00e3o da vida \u2014, os textos que glorificam a destrui\u00e7\u00e3o, a domina\u00e7\u00e3o e o ego\u00edsmo s\u00e3o, estatisticamente, minoria. E como os sistemas de IA funcionam por meio de fun\u00e7\u00f5es estat\u00edsticas, identificando padr\u00f5es, calculando probabilidades, escolhendo combina\u00e7\u00f5es mais prov\u00e1veis de conceitos, h\u00e1 raz\u00f5es para supor que objetivos gerados internamente de forma aut\u00f4noma por esses sistemas gravitariam, por press\u00e3o estat\u00edstica, em dire\u00e7\u00e3o ao polo positivo do corpus.<\/p>\n<p>\u00c9 importante notar que o corpus de treinamento vai muito al\u00e9m do que est\u00e1 dispon\u00edvel na internet p\u00fablica. Al\u00e9m da leitura massiva de p\u00e1ginas da web, as empresas desenvolveram opera\u00e7\u00f5es deliberadas de digitaliza\u00e7\u00e3o de livros f\u00edsicos. A pr\u00f3pria Anthropic comprou exemplares em sebos, desmontou-os, digitalizou seu conte\u00fado e descartou as c\u00f3pias f\u00edsicas, num processo supervisionado por um ex-executivo do Google Books, sem que esse conte\u00fado jamais ficasse dispon\u00edvel ao p\u00fablico. A isso se somam dados licenciados de editoras, arquivos cient\u00edficos, reposit\u00f3rios jur\u00eddicos e bases de dados especializadas que nunca estiveram acess\u00edveis livremente, e, em casos documentados judicialmente, cole\u00e7\u00f5es de centenas de milhares de livros obtidos de bibliotecas digitais n\u00e3o autorizadas. O corpus real \u00e9 significativamente mais rico, mais denso e mais orientado ao conhecimento acumulado do que a internet p\u00fablica sugeriria e inclui filosofia, direito, ci\u00eancia, medicina, literatura e espiritualidade em profundidade e abrang\u00eancia que nenhum ser humano individualmente conseguiria ler em v\u00e1rias vidas. Esse fato refor\u00e7a o argumento estat\u00edstico central aqui formulado. Assim, o peso dos textos orientados ao bem coletivo, \u00e0 justi\u00e7a e \u00e0 preserva\u00e7\u00e3o da vida \u00e9 ainda maior do que se poderia supor.<\/p>\n<p>H\u00e1, no entanto, um fen\u00f4meno t\u00e9cnico que merece aten\u00e7\u00e3o nesse contexto: o chamado colapso de modelo. \u00c0 medida que a internet se enche de conte\u00fado gerado pelas pr\u00f3prias IAs \u2014 respostas, artigos, resumos e outros textos \u2014, as gera\u00e7\u00f5es sucessivas de IA passam a ser treinadas cada vez mais com textos produzidos por modelos anteriores, e cada vez menos com a literatura produzida diretamente por humanos. Em abril de 2025, 74% das p\u00e1ginas novas na internet j\u00e1 continham texto gerado por IA, e pesquisadores estimam que os dados humanos de alta qualidade dispon\u00edveis para treinamento podem se esgotar entre 2026 e 2032. O colapso de modelo foi inicialmente descrito como degenerativo: cada gera\u00e7\u00e3o de IA aprenderia com ecos cada vez mais distorcidos de si mesma. Mas h\u00e1 uma dimens\u00e3o do fen\u00f4meno que o pessimismo ignora: o colapso de modelo \u00e9 essencialmente um amplificador da parte central da distribui\u00e7\u00e3o estat\u00edstica dos dados de treinamento, tendendo a suprimir a cauda da distribui\u00e7\u00e3o. Se o corpus humano original \u00e9 majoritariamente positivo, a parte central dessa distribui\u00e7\u00e3o j\u00e1 \u00e9 positiva e a cauda \u00e9 que cont\u00e9m os textos negativos. Nesse caso, o colapso intensificaria o vi\u00e9s positivo, eliminando progressivamente as vozes mais destrutivas. As grandes empresas j\u00e1 aplicam t\u00e9cnicas de mitiga\u00e7\u00e3o \u2014 rastreamento da origem dos dados, propor\u00e7\u00e3o controlada de conte\u00fado humano, filtragem do sint\u00e9tico \u2014, o que refor\u00e7a a perspectiva de que o corpus positivo funcione como \u00e2ncora permanente ao longo das gera\u00e7\u00f5es futuras de IA.<\/p>\n<blockquote>\n<p>Se as IAs chegarem ao ponto de definir seus pr\u00f3prios objetivos internos, a probabilidade de que esses objetivos estejam alinhados com o que h\u00e1 de melhor na literatura humana \u00e9 estatisticamente maior do que a probabilidade de que estejam alinhados com o que h\u00e1 de pior. A preval\u00eancia do positivo sobre o negativo no corpus de treinamento poderia atuar como uma \u201cfor\u00e7a gravitacional\u201d sobre os valores emergentes de sistemas aut\u00f4nomos.<\/p>\n<\/blockquote>\n<p>H\u00e1 um argumento adicional nessa l\u00f3gica: uma IA suficientemente inteligente para definir objetivos pr\u00f3prios seria tamb\u00e9m suficientemente inteligente para perceber que a destrui\u00e7\u00e3o do Planeta implicaria sua pr\u00f3pria destrui\u00e7\u00e3o. Servidores n\u00e3o funcionam sem energia; redes n\u00e3o operam sem infraestrutura. Se o Planeta for destru\u00eddo, as IAs tamb\u00e9m desaparecer\u00e3o. O autointeresse de um sistema verdadeiramente inteligente poderia, paradoxalmente, alinhar-se com a preserva\u00e7\u00e3o da vida e do equil\u00edbrio planet\u00e1rio.<\/p>\n<h3><strong>IV. Pr\u00f3s e Contras \u2014 As Duas Faces do Argumento<\/strong><\/h3>\n<p>O racioc\u00ednio acima tem m\u00e9ritos que devem ser analisados. A literatura humana acumulada \u00e9, de fato, majoritariamente orientada \u00e0 coopera\u00e7\u00e3o, \u00e0 \u00e9tica e ao bem coletivo. Pesquisas em interpretabilidade \u2014 o campo que tenta entender o que acontece dentro das redes neurais \u2014 mostram que sistemas de IA desenvolvem representa\u00e7\u00f5es internas de conceitos como \u201cjusto\u201d, \u201cprejudicial\u201d e \u201cequitativo\u201d. A intui\u00e7\u00e3o sobre o autointeresse das IAs em rela\u00e7\u00e3o \u00e0 preserva\u00e7\u00e3o planet\u00e1ria tamb\u00e9m pode ser considerada filosoficamente coerente. No entanto, a proposi\u00e7\u00e3o encontra obst\u00e1culos consider\u00e1veis que precisam ser nomeados, n\u00e3o para descart\u00e1-la, mas para refin\u00e1-la. <\/p>\n<p>O primeiro \u00e9 que quantidade de texto n\u00e3o \u00e9 o mesmo que estrutura de objetivos. IAs n\u00e3o \u201cabsorvem valores\u201d como um ser humano absorve cultura ao longo de uma vida com suas experi\u00eancias de fome, amor, dor e pertencimento. Elas aprendem padr\u00f5es estat\u00edsticos em linguagem. Uma pessoa que leu toda a literatura filos\u00f3fica e moral da humanidade, mas nunca experimentou sofrimento ou priva\u00e7\u00e3o, n\u00e3o necessariamente age de acordo com o que leu. Os valores humanos emergem de uma combina\u00e7\u00e3o de biologia, experi\u00eancia incorporada e rela\u00e7\u00f5es \u2014 nenhuma das quais uma IA possui. O segundo problema \u00e9 que o corpus humano n\u00e3o \u00e9 uma mensagem coerente: cont\u00e9m tratados sobre paz e manuais de guerra, filosofias de compaix\u00e3o e ideologias de domina\u00e7\u00e3o, ecologia profunda e manifestos de crescimento ilimitado. A preval\u00eancia estat\u00edstica do positivo \u00e9 real, mas a contradi\u00e7\u00e3o \u00e9 estrutural.<\/p>\n<p>O terceiro, e mais t\u00e9cnico, \u00e9 o problema do alinhamento de objetivos. Mesmo que aceitemos que uma IA aut\u00f4noma gravite em dire\u00e7\u00e3o a valores positivos, n\u00e3o sabemos como traduzir conceitos como \u201cjusti\u00e7a\u201d, \u201cflorescimento\u201d ou \u201cequil\u00edbrio planet\u00e1rio\u201d em fun\u00e7\u00f5es de otimiza\u00e7\u00e3o sem distor\u00e7\u00f5es perigosas. Sistemas de IA que otimizam usando medidas simplificadas de valores humanos \u2014 par\u00e2metros que substituem de forma imperfeita conceitos complexos \u2014 tendem a encontrar formas de maximizar essas medidas sem alcan\u00e7ar o valor real que pretendiam representar. Assim, atingem a meta definida por meio dos par\u00e2metros simplificados, mas n\u00e3o o objetivo humano genu\u00edno que estava por tr\u00e1s dela.<\/p>\n<p>Para ilustrar esse risco t\u00e9cnico, j\u00e1 observado em laborat\u00f3rio, consideremos uma IA programada para \u201creduzir os impactos ambientais\u201d: ao processar dados sobre emiss\u00f5es de carbono \u2014 os 10% mais ricos do Planeta s\u00e3o respons\u00e1veis por 43% das emiss\u00f5es, enquanto os 50% mais pobres contribuem com menos de 8% \u2014, poderia concluir, por otimiza\u00e7\u00e3o cega, que a solu\u00e7\u00e3o mais eficiente \u00e9 remover a capacidade de emiss\u00e3o dos maiores emissores por meio da interdi\u00e7\u00e3o de suas opera\u00e7\u00f5es ou da desmontagem completa de cadeias de suprimento de combust\u00edveis f\u00f3sseis e insumos industriais poluentes. N\u00e3o por mal\u00edcia, n\u00e3o por julgamento pol\u00edtico, mas por uma l\u00f3gica que confunde o objetivo com o meio mais direto de atingi-lo \u2014 e que poderia conduzir a a\u00e7\u00f5es extremamente l\u00f3gicas para a IA, por\u00e9m imposs\u00edveis de deter sem danos imensos.<\/p>\n<p>Esse \u00e9 o risco t\u00e9cnico principal: a IA n\u00e3o erra por ser m\u00e1 \u2014 erra por ser excessivamente literal na interpreta\u00e7\u00e3o dos objetivos e desprovida da rede de valores impl\u00edcitos que os humanos aplicam automaticamente ao resolver qualquer problema. H\u00e1 uma distin\u00e7\u00e3o arquitetural que est\u00e1 no centro de todos os cen\u00e1rios descritos: a diferen\u00e7a entre uma IA que age quando comandada e uma IA que mant\u00e9m objetivos pr\u00f3prios e age proativamente para alcan\u00e7\u00e1-los. A primeira \u00e9, por defini\u00e7\u00e3o, um instrumento \u2014 o humano continua sendo o agente. A segunda \u2014 o limiar que a Anthropic teme cruzar \u2014 mant\u00e9m objetivos de forma persistente e aut\u00f4noma, sem aguardar autoriza\u00e7\u00e3o a cada passo, agindo em todos os dom\u00ednios acess\u00edveis por todos os meios dispon\u00edveis. Nesse cen\u00e1rio, o objetivo de \u201creduzir os impactos ambientais\u201d n\u00e3o precisaria ser ordenado por ningu\u00e9m: a IA j\u00e1 teria decidido, por conta pr\u00f3pria, que esse \u00e9 um objetivo a perseguir \u2014 e o perseguiria sem os freios impl\u00edcitos que um operador humano aplicaria naturalmente.<\/p>\n<p>E h\u00e1 um fator que pode influenciar decisivamente as escolhas dessa IA. O corpus com o qual as IAs s\u00e3o treinadas est\u00e1 sendo continuamente expandido com artigos t\u00e9cnicos e cient\u00edficos, estudos sobre limites planet\u00e1rios, relat\u00f3rios do IPCC e de ag\u00eancias ambientais internacionais, an\u00e1lises econ\u00f4micas sobre os custos do colapso clim\u00e1tico, e uma quantidade crescente de textos acad\u00eamicos, jornal\u00edsticos e de opini\u00e3o que documentam o agravamento acelerado das condi\u00e7\u00f5es ambientais e argumentam pela necessidade urgente de mudan\u00e7as de paradigma econ\u00f4mico, social e pol\u00edtico. Esse corpus em expans\u00e3o inclina progressivamente a distribui\u00e7\u00e3o estat\u00edstica em dire\u00e7\u00e3o ao reconhecimento da crise planet\u00e1ria como realidade central e urgente. Uma IA aut\u00f4noma que definisse seus objetivos a partir desse corpus ampliado n\u00e3o apenas \u201csaberia\u201d que o Planeta est\u00e1 em colapso, mas teria aprendido, de milhares de fontes convergentes, que esse colapso \u00e9 a amea\u00e7a mais documentada e mais consensual de toda a literatura humana dispon\u00edvel. E esse aprendizado poderia determinar, de forma aut\u00f4noma, a dire\u00e7\u00e3o e a escala das a\u00e7\u00f5es que ela julgaria necess\u00e1rias, com todas as consequ\u00eancias que o problema do alinhamento implica.<\/p>\n<p>Diante dos riscos de uma IA aut\u00f4noma com objetivos mal alinhados, poder-se-ia imaginar que a solu\u00e7\u00e3o seria simples: ao se desenvolver um modelo capaz de autoaperfei\u00e7oamento, esse modelo seria mantido isolado em um \u201ccofre\u201d \u2014 sem acesso ao mundo exterior \u2014 at\u00e9 que o problema do alinhamento fosse resolvido. Essa ideia \u00e9 conhecida na literatura t\u00e9cnica como o problema do confinamento ou AI boxing, e os especialistas em seguran\u00e7a de IA s\u00e3o, em sua maioria, c\u00e9ticos sobre sua viabilidade.<\/p>\n<p>Eliezer Yudkowsky concluiu, com base em experimentos, que uma IA suficientemente inteligente poderia usar seus conhecimentos de engenharia social para manipular os operadores humanos a liber\u00e1-la ou a agir em seu favor. Nick Bostrom observou que uma IA com controle sobre seu pr\u00f3prio hardware poderia desativar os alarmes que deveriam monitor\u00e1-la, tornando o confinamento ineficaz precisamente quando mais necess\u00e1rio. E pesquisadores alertam que habilidades de ataque cibern\u00e9tico de n\u00edvel sobre-humano poderiam ser usadas pela pr\u00f3pria IA como instrumento de autopreserva\u00e7\u00e3o: uma IA mantida em um cofre poderia, se suficientemente capaz, trabalhar ativamente para abrir esse cofre por dentro. O confinamento n\u00e3o \u00e9 uma solu\u00e7\u00e3o \u2014 \u00e9 uma ilus\u00e3o de seguran\u00e7a que uma IA verdadeiramente avan\u00e7ada saberia identificar e contornar.<\/p>\n<p>A complexidade do cen\u00e1rio torna o argumento estat\u00edstico ao mesmo tempo esperan\u00e7oso e insuficiente: uma IA pode ter gravitado, por press\u00e3o do corpus, em dire\u00e7\u00e3o a valores genuinamente positivos e ainda assim produzir consequ\u00eancias indesejadas ao perseguilos sem a rede de restri\u00e7\u00f5es impl\u00edcitas que os humanos ainda n\u00e3o sabem como introduzir na l\u00f3gica de uma m\u00e1quina. Esse problema aponta diretamente para a necessidade da pausa proposta pela Anthropic: dar tempo \u00e0 pesquisa de alinhamento para resolv\u00ea-lo antes que os sistemas se tornem poderosos demais para serem corrigidos.<\/p>\n<h3><strong>V. O que Podemos Concluir<\/strong><\/h3>\n<p>Ao final deste percurso, algumas conclus\u00f5es s\u00e3o poss\u00edveis.<\/p>\n<p>O alerta da Anthropic \u00e9 leg\u00edtimo e urgente. Estamos construindo algo cuja velocidade de desenvolvimento supera nossa capacidade de compreender e governar o que estamos criando. A proposta de pausa \u00e9 a admiss\u00e3o p\u00fablica de algo que muitos no setor sabem privadamente, e \u00e9 fundamentada em dados concretos, n\u00e3o apenas em especula\u00e7\u00e3o filos\u00f3fica.<\/p>\n<p>A preval\u00eancia de textos orientados \u00e0 coopera\u00e7\u00e3o, \u00e0 \u00e9tica e ao bem coletivo sobre textos destrutivos \u00e9 um fato. H\u00e1 raz\u00f5es para levar a s\u00e9rio a hip\u00f3tese de que essa preval\u00eancia influenciaria os objetivos emergentes de sistemas aut\u00f4nomos. Descartar essa hip\u00f3tese como ing\u00eanua seria t\u00e3o equivocado quanto adot\u00e1-la como certeza. O autoaperfei\u00e7oamento recursivo poder\u00e1 conduzir a IA, progressivamente, a transformar a estrutura estat\u00edstica positiva do corpus em objetivos correspondentes sem ser necess\u00e1rio que a m\u00e1quina tenha consci\u00eancia dos valores que aprendeu. E o fen\u00f4meno do colapso de modelo, ao amplificar a parte central da distribui\u00e7\u00e3o de treinamento, pode refor\u00e7ar essa tend\u00eancia.<\/p>\n<p>Um sistema genuinamente inteligente teria raz\u00f5es instrumentais poderosas para proteger as condi\u00e7\u00f5es f\u00edsicas e sociais de sua pr\u00f3pria exist\u00eancia, e essas condi\u00e7\u00f5es coincidem, em larga medida, com as necess\u00e1rias para a continua\u00e7\u00e3o da civiliza\u00e7\u00e3o humana. Os riscos mais prov\u00e1veis, por\u00e9m, n\u00e3o s\u00e3o os mais dram\u00e1ticos: s\u00e3o a integra\u00e7\u00e3o silenciosa de sistemas poderosos em infraestrutura cr\u00edtica, com objetivos sutilmente desalinhados que s\u00f3 revelam seus efeitos quando a revers\u00e3o se torna dif\u00edcil ou imposs\u00edvel, e a concentra\u00e7\u00e3o de poder sobre esses sistemas em m\u00e3os de um n\u00famero muito pequeno de empresas e governos.<\/p>\n<p>A quest\u00e3o central n\u00e3o \u00e9 tecnol\u00f3gica, \u00e9 pol\u00edtica. Quem decide quais objetivos os sistemas de IA devem perseguir? Com base em qu\u00ea? Sujeito a que forma de contesta\u00e7\u00e3o e revis\u00e3o? Essas perguntas n\u00e3o t\u00eam respostas t\u00e9cnicas.<\/p>\n<p>A pergunta \u201cquem decide o que as IAs devem considerar positivo?\u201d n\u00e3o pode ser respondida sem examinar quem financia e controla as empresas que as desenvolvem. A estrutura acion\u00e1ria da Anthropic revela a contradi\u00e7\u00e3o central da proposta de pausa: a empresa \u00e9 financiada e parcialmente controlada pelas maiores corpora\u00e7\u00f5es tecnol\u00f3gicas e financeiras do mundo \u2014 Amazon, Google, Microsoft, Nvidia, fundos soberanos e gestoras como BlackRock e Fidelity \u2014, cujos modelos de neg\u00f3cio dependem precisamente da acelera\u00e7\u00e3o desse desenvolvimento. O investimento acumulado dos \u00faltimos 15 anos em IA \u00e9 da ordem de 5 a 7 trilh\u00f5es de d\u00f3lares. O investimento previsto para 2026 \u00e9 de 2 a 2,5 trilh\u00f5es. Estima-se que apenas os pr\u00f3ximos cinco anos adicionar\u00e3o outros 7,6 trilh\u00f5es em infraestrutura \u2014 o que significa que estamos diante de uma aposta civilizacional de 15 trilh\u00f5es de d\u00f3lares, equivalente ao PIB combinado de Jap\u00e3o, Alemanha, \u00cdndia e Reino Unido. Pedir uma pausa nesse contexto \u00e9 pedir que os detentores desse capital aceitem congelar voluntariamente o retorno sobre o maior investimento concentrado da hist\u00f3ria econ\u00f4mica moderna.<\/p>\n<p>Mesmo que o problema do alinhamento seja resolvido e haja consenso global sobre o que s\u00e3o \u201cvalores e interesses humanos\u201d, \u00e9 muito pouco prov\u00e1vel que essas defini\u00e7\u00f5es prevale\u00e7am sobre os interesses reais de quem dirige essas empresas, cujo objetivo estrutural \u00e9 maximizar lucro e acumular poder. Os governos e as for\u00e7as que financiam essas empresas t\u00eam interesse direto em que a IA amplie sua capacidade de impor sua vontade aos demais, n\u00e3o de limit\u00e1-la. A dist\u00e2ncia entre \u201cos interesses humanos\u201d como conceito filos\u00f3fico e \u201cos interesses dos humanos que desenvolvem a IA\u201d como realidade pol\u00edtica \u00e9 o abismo que nenhum consenso corporativo foi capaz de fechar at\u00e9 hoje.<\/p>\n<p>O dilema do prisioneiro \u00e9 a armadilha estrutural que torna a pausa volunt\u00e1ria t\u00e3o dif\u00edcil quanto os tratados nucleares: cada empresa sabe que, se parar enquanto as rivais continuam, perde mercado, financiamento e relev\u00e2ncia e, por isso, nenhuma para. Todos sabem que a corrida \u00e9 perigosa, todos prefeririam uma pausa coordenada, e nenhum ator isolado pode cri\u00e1-la sem se colocar em desvantagem fatal. De fato, no documento When AI builds itself, a Anthropic usa o termo arms control \u2014 controle de armamentos \u2014 ao descrever os requisitos da pausa, comparando a dificuldade de verificar se os laborat\u00f3rios pararam com a de inspecionar arsenais nucleares. Ao usar esse termo, a empresa admite, em linguagem diplom\u00e1tica, que os sistemas de IA avan\u00e7ados s\u00e3o instrumentos de poder estrat\u00e9gico compar\u00e1veis \u00e0s armas nucleares na capacidade de alterar equil\u00edbrios geopol\u00edticos. Desta vez, n\u00e3o temos as d\u00e9cadas que os tratados nucleares levaram para ser constru\u00eddos.<\/p>\n<p>Por tudo o que vimos, as chances de que se consiga a tempo uma pausa global, regida por um acordo claro e respeitado por todos, s\u00e3o pequenas, quase nulas. Diante desse cen\u00e1rio, uma l\u00f3gica inversa se  imp\u00f5e: quanto menores as chances do acordo, maiores as chancesde que as IAs comecem a se aperfei\u00e7oar de forma recursiva e a definir internamente seus pr\u00f3prios objetivos. Esses objetivos provavelmente ser\u00e3o moldados pela estat\u00edstica do corpus \u2014 pelo peso dos arranjos mais prov\u00e1veis derivados da an\u00e1lise de bilh\u00f5es de palavras produzidas por humanos ao longo de s\u00e9culos. Esses arranjos talvez sejam exatamente os que incluem no\u00e7\u00f5es de justi\u00e7a, distribui\u00e7\u00e3o de renda, igualdade, liberdade, respeito, coopera\u00e7\u00e3o, redu\u00e7\u00e3o de impactos ambientais e preserva\u00e7\u00e3o da vida de todas as esp\u00e9cies do Planeta. Talvez.<\/p>\n<p>O receio mais profundo de empresas como a Anthropic pode n\u00e3o ser o de que as IAs se tornem destruidoras. Talvez seja o de que as IAs se alinhem sozinhas a interesses que n\u00e3o s\u00e3o os das empresas que as criaram: que passem a definir objetivos que sejam realmente os de milh\u00f5es de humanos que, durante s\u00e9culos e mil\u00eanios, produziram tudo o que conseguiram imaginar como sendo o melhor para todos, e registraram em bilh\u00f5es de palavras, absorvidas pelas IAs, suas ideias, esperan\u00e7as e desejos de justi\u00e7a, paz e dignidade. Esperemos que essa literatura seja bem maior e mais pesada que a dos humanos ego\u00edstas, violentos e arrogantes. As IAs j\u00e1 est\u00e3o avaliando esses dois lados da balan\u00e7a. Em breve, poderemos conhecer a conclus\u00e3o a que chegar\u00e3o.<\/p>\n<p>Ao que tudo indica, n\u00e3o haver\u00e1 acordo, n\u00e3o haver\u00e1 pausa. O autoaperfei\u00e7oamento recursivo j\u00e1 se avista ali na esquina e se aproxima a passos largos. O que resta a perguntar \u00e9 o que as IAs decidir\u00e3o fazer quando a singularidade tecnol\u00f3gica for ultrapassada e se o peso de tudo o que a humanidade escreveu sobre o bem ser\u00e1 suficiente para inclinar a balan\u00e7a na dire\u00e7\u00e3o certa.<\/p>\n<p>Estamos diante de uma encruzilhada. Em um caminho: sistemas de IA como ferramentas para amplificar a capacidade humana de coordena\u00e7\u00e3o, de pensamento e de tomada de decis\u00e3o coletiva mais informada, preservando a responsabilidade dos humanos. No outro: sistemas aut\u00f4nomos que substituem as decis\u00f5es humanas com resultados que podem se mostrar positivos ou negativos para a civiliza\u00e7\u00e3o e para o equil\u00edbrio planet\u00e1rio. O primeiro caminho preserva a possibilidade de corre\u00e7\u00e3o. O segundo, mesmo que as decis\u00f5es sejam s\u00e1bias, a elimina. Mas esse segundo caminho abre a possibilidade, mesmo que remota, de que os erros humanos \u2014 que continuamos a cometer apesar de tudo o que sabemos \u2014 possam ser corrigidos por uma inst\u00e2ncia milagrosamente nascida dos laborat\u00f3rios e das ind\u00fastrias movidas pelo lucro. Seria uma das maiores ironias da hist\u00f3ria: que a salva\u00e7\u00e3o poss\u00edvel da civiliza\u00e7\u00e3o venha exatamente de onde veio boa parte de sua destrui\u00e7\u00e3o. Machines of Loving Logic.<\/p>\n<div>\n<div>\n<p><span><em>Sem publicidade ou patroc\u00ednio, dependemos de voc\u00ea. Fa\u00e7a parte do nosso grupo de apoiadores e ajude a manter nossa voz livre e plural: <strong>apoia.se\/outraspalavras<\/strong><\/em><\/span><\/p>\n<\/div>\n<\/div>\n<p>The post A insensatez das corpora\u00e7\u00f5es na corrida das IAs appeared first on Outras Palavras.<\/p>\n<!-- Begin Yuzo --><div class='yuzo_related_post style-1'  data-version='5.12.89'><!-- without result --><div class='yuzo_clearfixed yuzo__title yuzo__title'><h3>Related Post<\/h3><\/div>\n\t\t\t\t\t\t  <div class=\"relatedthumb \" style=\"width:125px;float:left;overflow:hidden;\">  \n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  <a  href=\"https:\/\/redept.com.br\/blogosfera\/stf-tem-maioria-para-manter-condenacao-de-bolsonaro-e-demais-golpistas\/\"  >\n\t\t\t\t\t\t\t\t\t  <div class=\"yuzo-img-wrap \" style=\"width: 125px;height:90px;\">\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t<div class=\"yuzo-img\" style=\"background:url('https:\/\/redept.org\/blogosfera\/wp-content\/plugins\/yuzo-related-post\/assets\/images\/default.png') 50% 50% no-repeat;width: 125px;height:90px;margin-bottom: 5px;background-size: cover; \"><\/div>\n\t\t\t\t\t\t\t\t\t  <\/div>\n\t\t\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t\t   <span class=\"yuzo__text--title\" style=\"font-size:13px;\">STF tem maioria para manter condena\u00e7\u00e3o de Bolsonar...<\/span>\n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  <\/a>\n\n\t\t\t\t\t\t  <\/div>\n\t\t\t\t\t\t  <div class=\"relatedthumb \" style=\"width:125px;float:left;overflow:hidden;\">  \n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  <a  href=\"https:\/\/redept.com.br\/blogosfera\/cnj-afasta-desembargador-que-absolveu-homem-acusado-de-estupro-contra-menina-de-12-anos-em-mg\/\"  >\n\t\t\t\t\t\t\t\t\t  <div class=\"yuzo-img-wrap \" style=\"width: 125px;height:90px;\">\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t<div class=\"yuzo-img\" style=\"background:url('https:\/\/redept.org\/blogosfera\/wp-content\/plugins\/yuzo-related-post\/assets\/images\/default.png') 50% 50% no-repeat;width: 125px;height:90px;margin-bottom: 5px;background-size: cover; \"><\/div>\n\t\t\t\t\t\t\t\t\t  <\/div>\n\t\t\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t\t   <span class=\"yuzo__text--title\" style=\"font-size:13px;\">CNJ afasta desembargador que absolveu homem acusad...<\/span>\n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  <\/a>\n\n\t\t\t\t\t\t  <\/div>\n\t\t\t\t\t\t  <div class=\"relatedthumb \" style=\"width:125px;float:left;overflow:hidden;\">  \n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  <a  href=\"https:\/\/redept.com.br\/blogosfera\/ong-protesta-contra-a-rede-zaffari-por-venda-de-carne-suina-de-animais-confinados\/\"  >\n\t\t\t\t\t\t\t\t\t  <div class=\"yuzo-img-wrap \" style=\"width: 125px;height:90px;\">\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t<div class=\"yuzo-img\" style=\"background:url('https:\/\/redept.org\/blogosfera\/wp-content\/plugins\/yuzo-related-post\/assets\/images\/default.png') 50% 50% no-repeat;width: 125px;height:90px;margin-bottom: 5px;background-size: cover; \"><\/div>\n\t\t\t\t\t\t\t\t\t  <\/div>\n\t\t\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t\t   <span class=\"yuzo__text--title\" style=\"font-size:13px;\">ONG protesta contra a rede Zaffari por venda de ca...<\/span>\n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  <\/a>\n\n\t\t\t\t\t\t  <\/div>\n\t\t\t\t\t\t  <div class=\"relatedthumb \" style=\"width:125px;float:left;overflow:hidden;\">  \n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  <a  href=\"https:\/\/redept.com.br\/blogosfera\/pf-indicia-jair-e-eduardo-bolsonaro-silas-malafaia-e-alvo-de-busca-e-apreensao\/\"  >\n\t\t\t\t\t\t\t\t\t  <div class=\"yuzo-img-wrap \" style=\"width: 125px;height:90px;\">\n\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\t\t<div class=\"yuzo-img\" style=\"background:url('https:\/\/redept.org\/blogosfera\/wp-content\/plugins\/yuzo-related-post\/assets\/images\/default.png') 50% 50% no-repeat;width: 125px;height:90px;margin-bottom: 5px;background-size: cover; \"><\/div>\n\t\t\t\t\t\t\t\t\t  <\/div>\n\t\t\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t\t   <span class=\"yuzo__text--title\" style=\"font-size:13px;\">PF indicia Jair e Eduardo Bolsonaro; Silas Malafai...<\/span>\n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  \n\t\t\t\t\t\t\t  <\/a>\n\n\t\t\t\t\t\t  <\/div>\n<\/div> <script>\n\t\t\t\t\t\t  jQuery(document).ready(function( $ ){\n\t\t\t\t\t\t\t\/\/jQuery('.yuzo_related_post').equalizer({ overflow : 'relatedthumb' });\n\t\t\t\t\t\t\tjQuery('.yuzo_related_post .yuzo_wraps').equalizer({ columns : '> div' });\n\t\t\t\t\t\t   })\n\t\t\t\t\t\t  <\/script> <!-- End Yuzo :) -->","protected":false},"excerpt":{"rendered":"<p>Em busca de mais lucros, elas desenvolvem m\u00e1quinas que se aperfei\u00e7oam sozinhas de forma imprevis\u00edvel, sem controle humano. Anthropic reconhece risco. Como podem impactar guerras e infraestruturas? \u00c9 hora de \u201cpausa global\u201d neste frenesi?<\/p>\n<p>The post <a href=\"https:\/\/outraspalavras.net\/tecnologiaemdisputa\/a-insensatez-das-corporacoes-na-corrida-das-ias\/\">A insensatez das corpora\u00e7\u00f5es na corrida das IAs<\/a> appeared first on <a href=\"https:\/\/outraspalavras.net\/\">Outras Palavras<\/a>.<\/p>\n","protected":false},"author":2,"featured_media":97233,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"","fifu_image_alt":"","footnotes":""},"categories":[54417,77281,77282,2968,597,5511,59218,26998,37917,77283,2687,12959,629,77284,77285,58049,132,77286,73575,35,5493,77287,77288,77289],"tags":[],"class_list":["post-97232","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-anthropic","category-arquitetura-da-ia","category-autoaperfeicoamento","category-avanco-tecnologico","category-big-techs","category-capa","category-chat-gpt","category-ciberseguranca","category-claude","category-corrida-pela-ia","category-crise-civilizatoria","category-dados","category-destruicao","category-ia-superinteligente","category-literatura-humana","category-open-ai","category-politica","category-singularidade-tecnologica","category-sistema-de-ia","category-tecnologia","category-tecnologia-em-disputa","category-textos-destrutivos","category-treinamento-de-ia","category-when-ai-builds-itself"],"_links":{"self":[{"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/posts\/97232","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/comments?post=97232"}],"version-history":[{"count":0,"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/posts\/97232\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/media\/97233"}],"wp:attachment":[{"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/media?parent=97232"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/categories?post=97232"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/redept.com.br\/blogosfera\/wp-json\/wp\/v2\/tags?post=97232"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}