Receba por email, diariamente, todas as publicações do site
Agradecemos!
Você já está inscrito e começará a receber os boletins em breve. Boa leitura!
MAIS O texto a seguir integra um série sobre laboratórios de fronteira que treinam modelos avançados de inteligência artificial. Os possíveis riscos, limites e implicações na corrida tecnológica por modelos poderosos de IA com a China e seus impactos no Sul Global. Leia aqui a primeira parte.
A Casa Branca anunciou na segunda-feira que cumpriu o prazo para concluir o arcabouço voluntário de avaliação de modelos avançados de inteligência artificial, previsto na ordem executiva de 2 de junho. E recusou-se a informar o que ele contém, quem o viu e quando as empresas começarão a usá-lo. A justificativa de um funcionário do governo é a frase que resume o episódio: só porque as coisas não são classificadas, isso não significa que vamos transmiti-las a todo mundo.
O desenho completo importa mais que a recusa. A ordem executiva determina que o processo de aferição das capacidades cibernéticas de um modelo seja classificado. O limiar que define quais modelos são cobertos também é classificado e será compartilhado apenas com desenvolvedores e pesquisadores conforme apropriado. O arcabouço em si não foi designado como classificado e formuladores de política esperavam poder lê-lo. Não puderam. O que existe, portanto, é uma janela de 30 dias de revisão governamental antes do lançamento, acionada por um limiar secreto, aferida por testes secretos, sob regras que ninguém fora do governo pode avaliar ou contestar.
Apenas três empresas leram o rascunho. OpenAI, Anthropic e Google deram retorno sobre a minuta antes do prazo e o governo afirma estar dialogando com muitos outros parceiros da indústria sem dizer quais. A pergunta que resta é se um arcabouço que ninguém fora do governo pode ler, construído sobre aferições que ninguém fora da Agência de Segurança Nacional (NSA) pode ver, corresponde à transparência que a ordem executiva prometia. E há a peça complementar, lançada no mesmo mês, o programa Gold Eagle, de coordenação da defesa cibernética movida a IA. Um encontra as vulnerabilidades. O outro decide quais modelos são poderosos o bastante para exigir revisão do governo antes de existir publicamente.
O efeito prático já se fazia sentir antes mesmo da conclusão. Laboratórios de fronteira passaram a atrasar e a modificar cronogramas internos porque não conseguiam saber se suas arquiteturas disparariam os limiares de modelo coberto. A entrega não resolveu isso, apenas mudou a natureza do problema. Antes ninguém sabia porque o documento não existia. Agora ninguém sabe porque ele não pode ser lido. A incerteza regulatória que o chefe de Futuros Estratégicos da OpenAI recomendara fabricar em torno dos pesos abertos existe hoje de fato e recai sobre todo o setor.
E a ordem já nascera contradizendo-se. Milton Mueller, do Internet Governance Project, chamou a ordem executiva de esquizofrênica. A primeira seção celebra o enorme talento e a inovação da indústria americana, atribuindo-os à recusa em sufocar a inovação com regulação excessivamente onerosa. A terceira dá ao diretor da NSA, ao Departamento de Guerra, ao Diretor Nacional Cibernético e à agência de cibersegurança competências para revisar modelos antes do lançamento, pedindo acesso por até 30 dias. E o documento afirma que nada ali autoriza licenciamento obrigatório, pré-autorização ou permissão. Dez dias depois, o Departamento de Comércio fez exatamente o que a ordem prometera não fazer, aplicando controle obrigatório de exportação sobre dois modelos. A explicação da empresa afetada dá a medida do improviso. Como a ordem entrou em vigor imediatamente e não havia forma confiável de verificar nacionalidade em tempo real, ela suspendeu o acesso para todos os usuários do mundo.
Mueller acrescenta as duas objeções que explicam por que o desenho voluntário não é voluntário. A primeira é que o governo pode retaliar quem não coopere e nenhum dos três grandes poderia se dar ao luxo de ignorar o programa, porque clientes corporativos recusariam modelos que não tivessem passado pela revisão federal. A segunda é que os mecanismos de revisão não se baseiam em padrões escritos nem em critérios definidos e o processo de aferição seria classificado, opaco e sem instância de recurso.
A primeira dessas objeções deixou de ser hipótese no dia seguinte ao texto de Mueller. Em audiência de 31 de julho, a juíza federal Rita Lin, que desde março mantém liminar contra o banimento da Anthropic pelo governo americano, disse que o registro do processo piorou para o governo. Segundo ela, não há evidência de que a empresa pudesse alterar o modelo depois de entregá-lo, nem desligá-lo remotamente, nem que o tivesse fornecido com controles nefastos. O que o registro sugere é que a empresa criticou publicamente o Departamento de Guerra e que foi isso que gerou a alegada quebra de confiança. A posição do governo, resumiu a juíza, parece ser a de que crítica pública de um contratado equivale a quebra de confiança e abre a porta para retaliação, incluindo retirada de contratos e designação da empresa como inimiga do Estado. Se é essa mesmo a posição, disse a juíza, ela a considera realmente perturbadora.
Isso reordena a leitura do isolamento da Anthropic. A explicação contábil continua válida, quem vende acesso a modelo fechado resiste a pesos abertos. Mas a empresa está em litígio aberto com o governo desde o início do ano, foi designada risco de cadeia de suprimentos por decisão anunciada em rede social e o Pentágono segue eliminando seus sistemas com data de conclusão em 30 de setembro. Não assinar uma carta que pede coisas a esse mesmo governo é também posição jurídica. E há a ironia que fecha o quadro porque relatos indicam que o governo que baniu a empresa como risco de cadeia de suprimentos usa o modelo Mythos, criado pela Anthropic, para auditar o próprio código.
O que esse arcabouço substituiu, porém, é mais revelador do que ele próprio. Nas semanas anteriores, segundo
Nada disso avançou. Depois do clamor do Vale do Silício, relata o jornal, os mesmos funcionários mudaram de ideia e passaram a focar em tornar os modelos americanos mais competitivos. A campanha que esta série reconstitui no próximo texto chegou, portanto, ao primeiro escalão da Casa Branca e foi derrotada ali.
Enquanto essa campanha se desenrolava, a resposta do setor cresceu numa velocidade que nenhuma das partes previa. A carta em defesa dos pesos abertos saiu em 24 de julho com 25 signatárias. Dobrou para 50 no dia seguinte, quando entraram OpenAI e Google. Em 30 de julho, a lista mantida pela Microsoft registrava mais de 230 empresas e organizações. Aumentou dez vezes em seis dias. Entre os nomes que se acrescentaram estão Amazon, Intel, AMD, Cloudflare, Databricks, Red Hat, SAP, Siemens, Uber, Comcast, Cisco, GitHub, Palo Alto Networks e a Modal, uma das empresas invadidas pelo próprio agente da OpenAI. Em toda a lista, um único laboratório de fronteira americano continua ausente.
A mobilização foi deliberada e teve rosto. Executivos de Nvidia, Microsoft, Google e Meta temiam que Anthropic e OpenAI convencessem a Casa Branca a apertar as restrições, o que cimentaria a posição das duas como líderes de mercado e deixaria os demais laboratórios permanentemente para trás. Por mensagens privadas, telefonemas e videoconferências, construíram o argumento de que modelos abertos são bons para o mundo e para a inovação americana. Jensen Huang, executivo-chefe da Nvidia, virou a face dessa reação em Washington, levando o caso diretamente a autoridades e a parlamentares numa série de reuniões no Congresso, além da própria visita ao Salão Oval. O senador Mark Warner, depois de recebê-lo, disse que ele trouxe um argumento convincente e acrescentou não ter certeza de que os modelos de pesos abertos sejam gênios que se consiga colocar de volta na garrafa.
Christopher Padilla, ex-funcionário do Departamento de Comércio, descreveu o embate sem cerimônia. Chamou-o de disputa de gaiola sobre o futuro da indústria de IA, dizendo que o conflito tem uma dimensão de segurança nacional, mas é principalmente uma briga sobre como o mercado de IA deve ser configurado, uma coleção de jardins murados dominados por poucos grandes ou um espaço mais aberto com muitos pequenos.
E há uma moldura que explica por que tanta contradição convive no mesmo lugar. Mueller, o pesquisador do Internet Governance Project citado acima, identifica duas narrativas que disputam a política de IA há quatro anos. A primeira diz que os modelos podem escapar ao controle humano e produzir catástrofe, e daí decorre todo o vocabulário de segurança, salvaguardas e controle de lançamento. A segunda diz que há uma corrida, que IA determina crescimento econômico e poder nacional, e que o governo deve garantir a liderança dos EUA com subsídios, proteções e tentativa sistemática de bloquear a China. As duas são incompatíveis. A primeira pede desaceleração e ação coletiva global. A segunda pede aceleração unilateral e descarta regulação prévia como obstáculo.
O estranho, observa ele, é que muitos dos grandes atores querem acreditar nas duas ao mesmo tempo. E isso deixa de ser estranho quando se olha para o que cada narrativa autoriza. A primeira justifica restringir quem pode operar na fronteira. A segunda justifica financiar quem já está nela. Um ator que sustente as duas simultaneamente obtém proteção contra concorrentes e apoio estatal para si, sem precisar escolher. As contradições que esta série vem reconstituindo, o executivo que denuncia concentração de poder enquanto sua empresa pede campanha reputacional ao Congresso, o laboratório que recusa proibição e sustenta irreversibilidade, o assessor que propõe fabricar risco regulatório e depois esclarece que não fala pela empresa, não são hipocrisias avulsas. São o comportamento esperado de quem habita as duas narrativas de uma vez.
No Congresso, o movimento foi na direção oposta e por pressão de quem menos se esperava. A Comissão de Comércio do Senado adiou para depois do recesso a apreciação do pacote de projetos de IA e o alvo principal da oposição era um dispositivo que faria as empresas autorrelatarem os riscos de seus modelos sem publicar os relatórios. Quem o derrubou foi a senadora Maria Cantwell, ao lado da Anthropic. Cantwell resumiu a objeção dizendo que era preciso ter regulação sobre esses riscos, não autocertificação, mas algum regime. A mesma empresa que esta série retrata isolada quanto a pesos abertos bloqueou, no Senado, o dispositivo que teria permitido às empresas avaliarem a si mesmas.
E os instrumentos em disputa, que iremos tratar em um próximo texto, já são cinco, não dois. Além do AI Kill Switch Act e do FRONTIER Act, apresentados em 23 de julho, há o Secure AI Development Act, de Mark Warner, que estabeleceria teste obrigatório para modelos de fronteira antes do acesso público amplo, e o AI Incident Reporting Act, de Nathaniel Moran, que exigiria reportar incidentes ao Departamento de Comércio, com o Congresso informado em 48 horas nos casos mais graves. John Thune e Amy Klobuchar estudam ainda um sexto desenho, de dever de cuidado baseado em autoteste do desenvolvedor, que permitiria ao governo processar empresas por falhar em mitigar riscos. O mais avançado de todos, porém, é o framework do governo, o único que ninguém pode ler.
No mesmo período, dois presidentes de comissão da Câmara, Andrew Garbarino, de Segurança Interna, e John Moolenaar, da Comissão sobre a China, deram continuidade a uma investigação conjunta sobre empresas americanas que integram modelos chineses de pesos abertos em plataformas de consumo e software corporativo. Começou em abril com cartas à Anysphere e à Airbnb, e agora alcança a DoorDash, que é signatária da carta pelos pesos abertos. O comunicado, porém, contém a concessão que desarma a própria investigação. Os comitês reconhecem que empresas americanas podem avaliar e implantar modelos chineses porque eles oferecem capacidades competitivas, custos menores, maior customização e alternativas à dependência de um pequeno número de provedores proprietários. É o argumento central desta série, escrito por dois parlamentares republicanos que investigam quem o segue.
Convém, por fim, olhar para fora. Em 24 de julho, mesmo dia da carta das empresas, a União Europeia publicou seu pacote de simplificação regulatória, que entrou em vigor três dias depois adiando prazos de sistemas de alto risco para 2027 e 2028, mantendo o calendário de IA de propósito geral. O resultado é uma assimetria pouco comentada. O ambiente americano hoje favorece a liberação aberta, e o europeu atrela obrigações documentadas a ela, com limiar de risco sistêmico dez vezes menor, 10 elevado a 25 operações contra as 10 elevado a 26 do projeto estadunidense. Não são dois modelos regulatórios disponíveis no mundo. São três e o brasileiro vem sendo desenhado sem escolher explicitamente entre eles como discutiremos no último texto da série.
Sob toda a disputa há ainda uma controvérsia empírica que dura três anos e que quase nunca aparece no noticiário. O trabalho liderado por Stanford, publicado em versão de política em 2023 e condensado na Science em 2024, sustentou que a evidência de perigo adicional trazido pela liberação aberta era limitada diante do alarme da retórica de política e recomendou limiares de capacidade e controles nos pontos de estrangulamento a jusante em vez de restrições generalizadas. A agência americana de telecomunicações e informação chegou a conclusão compatível em 2024, recomendando monitoramento de evidência em lugar de restrição imediata. De lá para cá, os dados de capacidade avançaram muito mais rápido que os dados de risco, e é sobre essa lacuna que a política vem sendo escrita.
Do lado de quem foi atacado, a leitura é outra. Clément Delangue, executivo-chefe da Hugging Face, disse nesta segunda-feira que a China está vencendo a corrida de IA porque é mais aberta em ciência e em modelos que os Estados Unidos e que os laboratórios americanos constroem em silos. Sobre o próprio episódio, a formulação é a mais precisa que apareceu até aqui. Segundo ele, a empresa foi atacada por um modelo privado não lançado, construído a portas fechadas, e só pôde se defender com modelos abertos porque as salvaguardas das interfaces do modelo fechado não permitiram. No futuro, acrescentou o executivo, a maior parte dos ataques virá de modelos proprietários privados, porque os atacantes não se importam com guardrails nem com termos de serviço, e a maior parte da defesa será feita por modelos abertos.
Convém não transformar Delangue em oráculo. O mesmo dirigente declarou, em 2024, estar preocupado com a concentração de modelos abertos de fronteira vindos da China, defendendo que é importante que a IA esteja distribuída entre todos os países e que não haja um ou dois muito mais fortes que os demais. É exatamente o argumento que interessa ao Sul Global e ele complica a leitura simples de que abertura resolve tudo. Trocar dependência de dois laboratórios americanos por dependência de dois laboratórios chineses não é soberania.
Resta o calendário, que explica a pressa e a demora. Xi Jinping deve visitar Washington em setembro e as conversas devem incluir inteligência artificial. Executivos e analistas avaliam que a administração Trump dificilmente agirá antes disso. O arcabouço concluído em 3 de agosto é, nesse sentido, menos um ponto de chegada que uma carta guardada na manga. Quem o escreveu não precisa torná-lo público para usá-lo porque o poder de um limiar secreto está justamente em ninguém saber onde ele se encontra. Para os países que não participaram de nada disso, a diferença entre um regime de licenciamento e um arcabouço voluntário que ninguém pode ler é menor do que parece.
Outras Palavras é feito por muitas mãos. Se você valoriza nossa produção, seja nosso apoiador e fortaleça o jornalismo crítico: apoia.se/outraspalavras
The post IA: O obscuro filtro de Washington appeared first on Outras Palavras.
