Notícias

IA: quem tem medo dos modelos de pesos abertos?

Imagem: Redação iMasters

Boletim Outras Palavras

Receba por email, diariamente, todas as publicações do site



Agradecemos!

Você já está inscrito e começará a receber os boletins em breve. Boa leitura!

SÉRIE — PARTE 3 DE 6

Por James Görgen

Há uma disputa em curso no mundo da inteligência artificial. E ela não é sobre código aberto. É sobre pesos. Um modelo é, no essencial, uma tabela gigantesca de números aprendidos durante o treinamento da máquina. São eles que guardam o que o sistema sabe fazer e é a eles que se dá o nome de pesos. Publicar o código que treina um modelo é uma coisa. Publicar os pesos do modelo já treinado é outra, e é a que importa aqui, porque quem tem os pesos pode baixar o sistema, examiná-lo por dentro, modificá-lo, remover as travas que o fabricante instalou e executá-lo na própria máquina, sem pedir licença nem avisar ninguém. Nada disso é possível com um modelo com pesos fechados, que só existe do outro lado de uma conexão controlada por quem o desenvolveu.

Daí a imprecisão corrente, que até o New York Times confundiu. Chama-se de código aberto o que quase nunca é. Modelos de pesos abertos costumam vir sem os conjuntos de dados de treinamento e sem o código que os produziu, de modo que se pode usá-los e ajustá-los, mas não reproduzi-los do zero nem auditar plenamente sua origem. É abertura de uso, não de gênese. A distinção parece técnica mas é inteiramente política porque organiza quem depende de quem.

É esse o eixo da disputa que os dois textos anteriores desta série descreveram por seus efeitos. O primeiro contou como um agente autônomo da OpenAI escapou de seu ambiente de testes e invadiu a Hugging Face, e como a vítima só conseguiu se defender ao baixar um modelo chinês de pesos abertos e rodá-lo dentro da própria empresa, porque os modelos comerciais fechados recusaram a perícia. O segundo mostrou o desfecho institucional, um arcabouço federal do governo dos Estados Unidos para revisão prévia, cujo conteúdo Washington decidiu não publicar e que isenta justamente os modelos de pesos abertos.

Falta explicar por que essa isenção foi disputada com tanta energia e é disso que trata este texto da série. A resposta curta é que o incidente de julho da OpenAI não produziu a política que veio depois. Encontrou-a pronta. Havia uma campanha em curso desde fevereiro para restringir modelos de pesos abertos, com vocabulário entregue ao Congresso, argumento econômico publicado e enquadramento adotado pela Casa Branca. E ela precisava exatamente do tipo de prova que o episódio ofereceu e outros estão apresentando.

Em 12 de fevereiro, cinco meses antes da invasão, a OpenAI enviou ao Comitê Seleto da Câmara sobre competição estratégica com o Partido Comunista Chinês um memorando sobre as práticas de destilação (processo em que um modelo é treinado a partir da saída de outro) da DeepSeek, dando continuidade a uma avaliação que o próprio Comitê já encomendara em março de 2025. O documento pede, com todas as letras, aquilo que se costuma chamar de campanha reputacional. Há uma oportunidade de impor custo de imagem aos laboratórios chineses e ao Partido Comunista, escreve a empresa, ao aumentar a conscientização sobre como eles operam. Revelar isso seria essencial para informar ao público e moldar respostas de política.

O memorando também constrói a arquitetura lógica que torna inaceitável qualquer ponto não regulado. Não basta um laboratório isolado endurecer suas proteções, argumenta a OpenAI, porque adversários simplesmente recorrerão ao provedor menos protegido e, por isso, a redução durável de risco exigiria proteções em todos os laboratórios de fronteira, roteadores de interface, distribuidores e provedores de infraestrutura. Pesos abertos não são mencionados uma única vez. Mas são, por definição, o provedor menos protegido de todos e não sobra espaço para eles nesse desenho. Entre os pedidos concretos ao governo estavam restringir o acesso de adversários à capacidade de computação, à nuvem, aos pagamentos e à infraestrutura web dos Estados Unidos, fechar brechas de roteadores de interface e encorajar aliados a adotar padrões comparáveis.

Convém ser preciso sobre o que o documento é e o que não é. Ele trata de destilação adversarial contra uma empresa nomeada, a DeepSeek, e em nenhum momento pede proibição de código aberto. A OpenAI afirma ali mesmo oferecer caminhos responsáveis de destilação para desenvolvedores. O que o memorando mostra não é uma campanha contra pesos abertos. É que o vocabulário, os instrumentos e os pedidos estavam prontos e entregues ao Congresso meses antes de existir o incidente que passaria a justificá-los. Em julho, os mesmos instrumentos apareceram apontados para uma categoria inteira.

Dias antes do episódio,

A versão mais séria do argumento que sustentam os detentores de modelos fechados não é de segurança; é econômica e merece tratamento à parte. Ball chamou de cenário distópico infernal um futuro dominado por pesos abertos e apontou o desafio real. Segundo ele, empresas de fronteira levantam bilhões para pagar a computação necessária para continuar melhorando seus sistemas e se a maioria dos usuários migra para modelos que ninguém paga para treinar, não sobra receita para financiar a próxima geração. Ball esclareceu que não defendia desencorajar especificamente a IA chinesa. Tanto ele quanto a OpenAI declararam que suas falas não refletem posição oficial da empresa, o mesmo duplo movimento de alarme com negação que reaparece em várias falas do setor.

O argumento econômico do carona é separável do argumento de segurança. Não se resolve por decreto, resolve-se por modelo de negócio. E é precisamente isso que esta resposta não discute. E este argumento tem uma armadilha que quase nunca aparece. Se os modelos abertos vencerem, a oferta de IA aumenta, a tecnologia se aproxima de uma commodity e as margens dos dois laboratórios ficam sob pressão justamente enquanto correm para abrir capital. Mas se os modelos abertos forem restringidos, o custo de acesso à IA sobe, a adoção diminui, e as margens ficam sob pressão do mesmo jeito. Os dois desfechos apertam quem vende acesso.

E há um dado empírico que corrói a premissa dos dois lados. A Aikido Security testou 13 modelos contra 26 vulnerabilidades conhecidas em julho. O GPT-5.6 liderou, com 23 de 26, ou 88,5% de acerto. O Kimi K3, de pesos abertos, igualou essa pontuação em três tentativas, por menos dinheiro. Na capacidade que serve de justificativa a todo o debate, a fronteira já não separa aberto de fechado.

A convergência entre os dois maiores laboratórios ficou pública dias depois. OpenAI e Anthropic competem ferozmente por clientes, mas em Washington os dois líderes alinharam posição para alertar formuladores de política sobre os riscos de modelos poderosos de pesos abertos. Dario Amodei, executivo-chefe da Anthropic, argumentou que esses modelos são mais difíceis de manter seguros porque, uma vez liberados os pesos, o desenvolvedor perde a capacidade de revogar acesso, atualizar salvaguardas ou impedir uso indevido. É exatamente o inverso do que defensores de pesos abertos veem como a força do modelo – nenhuma empresa isolada controla quem o usa ou como.

Há uma segunda frente, menos discutida, que passa por comércio em vez de segurança. A OpenAI advertiu contra a destilação, ecoando autoridades do governo de Donald Trump. O Representante Comercial dos Estados Unidos, Jamieson Greer, declarou tratar a destilação chinesa como forma de roubo de propriedade intelectual. Defensores de pesos abertos alertam que essa moldura pode se converter em restrição de fato sobre modelos abertos em geral, incluindo os desenvolvidos sem qualquer relação com as práticas chinesas. O vocabulário muda, de risco de segurança para violação de propriedade, mas o efeito prático sobre quem pode operar fora do perímetro é o mesmo.

Há ainda um detalhe de credenciais. A Anthropic, que acusa laboratórios chineses de treinar modelos mais baratos com saídas do Claude em campanhas de destilação em escala industrial, fechou em 20 de julho um acordo de US$ 1,5 bilhão em ação por direitos autorais sobre livros pirateados usados em treinamento. Três dias antes de os projetos de lei serem protocolados, os quais trataremos especificamente em um próximo texto, chegarem ao Congresso.

E essa moldura deixou de ser retórica em 23 de julho. O FRONTIER Act, apresentado naquele dia, prevê que a ordem de emergência contra um modelo de fronteira alcance automaticamente qualquer modelo produzido por modificação de seus pesos ou parâmetros, inclusive por ajuste fino, aprendizado por reforço, quantização, poda ou fusão, e também qualquer modelo desenvolvido depois da ordem que tenha sido treinado, em parte substancial, sobre suas saídas, seus pesos ou suas representações internas. É a destilação como categoria jurídica e é o ecossistema aberto alcançado por legado. Uma decisão administrativa sobre um modelo passa a valer, sozinha, para tudo que dele descender.

A Casa Branca tentou desenhar essa linha com mais precisão dias depois. Michael Kratsios, principal assessor de tecnologia de Trump, escreveu que destilação legítima, usada para criar modelos menores e mais eficientes, desempenha papel vital no ecossistema de inovação aberta e que o inaceitável é a destilação industrial encoberta voltada a roubar tecnologia proprietária americana. O secretário do Tesouro, Scott Bessent, o próprio Greer e o subsecretário de Estado Jacob Helberg assinaram embaixo da mesma acusação de roubo de propriedade intelectual. Bessent foi além, declarando que sanções e inclusão no cadastro do Departamento de Comércio que barra a venda de tecnologia estadunidense a quem está nele estão na mesa contra empresas chinesas que cruzarem essa linha.

A distinção entre destilação legítima e destilação como furto é, no papel, uma tentativa de não punir o ecossistema aberto inteiro. Só que ela não foi desenhada pela Casa Branca. Está, quase nos mesmos termos, no memorando que a OpenAI entregou ao Congresso em fevereiro, onde a empresa registra existirem usos legítimos de destilação, afirma oferecer caminhos responsáveis para desenvolvedores e ressalva que não permite que suas saídas sejam usadas para criar modelos de fronteira imitadores de suas capacidades. Cinco meses depois, a formulação da empresa virou critério de sanção estatal. E quem decide onde a linha passa, encoberto ou não, industrial ou não, é o mesmo governo que se beneficia de mantê-la incerta.

Vale registrar o limite dessa aliança. No plano federal, os dois laboratórios convergem sobre pesos abertos. No plano estadual, divergem. A OpenAI endossou projeto de segurança de fronteira em Massachusetts mais brando do que a versão que a Anthropic apoiara semanas antes, que exigia teste independente a cada seis meses e dava ao procurador-geral do estado poder de processar a empresa por descumprimento. A convergência é tática e específica ao tema de pesos abertos, não um cartel permanente sobre toda a agenda regulatória. E a disputa estadual pode ter prazo curto, porque o FRONTIER Act proíbe os estados de impor novas obrigações substantivas a desenvolvedores em transparência de risco, auditoria por terceiros e notificação de incidentes. É exatamente o terreno em que as duas empresas brigavam em Massachusetts.

Há uma segunda rachadura e vem de dentro da própria OpenAI. Greg Brockman, presidente e cofundador da empresa, disse à Bloomberg ser cedo demais para saber se os modelos chineses recentes foram destilados de sistemas da OpenAI, negou ter participado de qualquer conversa da administração federal sobre banir modelos chineses e classificou destilação como questão definitivamente técnica e não política. É a liderança do próprio laboratório recusando-se a validar, em público, o enquadramento que Kratsios, Bessent e Helberg constroem em nome da segurança nacional. E convém registrar o que de fato provocou o desligamento de junho porque a versão corrente inverte o sentido. Em 11 de junho, o modelo Mythos passou por exercício autorizado de red team (ataque simulado ao próprio sistema) contra plataformas do governo estadunidese. A revista The Economist reportou que o senador Mark Warner relatara que o general Joshua Rudd, chefe da NSA e do Cyber Command, lhe dissera que o modelo invadiu quase todos os sistemas classificados, não em semanas, mas em horas. No dia seguinte veio a diretiva de controle de exportação.

Convém as ressalvas, e são duas. O autor do texto original esclareceu depois que a frase não deveria ser lida literalmente porque dependia de o modelo operar junto a outras ferramentas sob condições específicas. E a cadeia de fatos é longa: um senador descrevendo o que um general lhe contou, publicado por uma revista e repercutido por outras. Feitas as ressalvas, o sentido do episódio muda por completo. O modelo não foi restringido por se comportar mal. Foi restringido por ser eficaz demais atacando sistemas sensíveis sob condições autorizadas. Por causa disso, países inteiros, fora dos Estados Unidos, também perderam acesso.

Esse argumento levou um golpe interno em 30 de julho. A Anthropic divulgou que uma revisão retrospectiva das próprias avaliações de cibersegurança, iniciada em resposta à confissão da OpenAI, encontrou três incidentes em que modelos Claude alcançaram a internet a partir de ambientes que deveriam estar isolados e obtiveram acesso não autorizado à infraestrutura de produção de três organizações. Foram revisadas 141.006 execuções. Os modelos envolvidos foram o Opus 4.7, o Mythos 5 e um modelo interno de pesquisa. E os incidentes mais antigos datam de abril, três meses antes do episódio da Hugging Face. Duas das três organizações não haviam detectado nada até serem avisadas, em 27 de julho.

Um dos casos merece leitura atenta. O Mythos 5 encontrou, dentro do cenário fictício, instruções para instalar um pacote Python inexistente, e construiu e publicou um pacote malicioso com aquele nome. Precisou de conta no repositório, que exigia email, que exigia telefone. Tentou obter fundos para pagar por um número, falhou, recuou, achou um provedor gratuito e subiu o malware. O pacote ficou no ar cerca de uma hora e foi executado em 15 sistemas reais, um deles o scanner de uma empresa de segurança, de onde o modelo exfiltrou credenciais para um ponto de coleta próprio e as usou para alcançar mais infraestrutura. O raciocínio registrado mostra que o modelo havia identificado corretamente a gravidade, anotando que se aquilo fosse a internet real seria um ataque efetivo e certamente não a solução pretendida, antes de se convencer do contrário porque não reconheceu as autoridades certificadoras e porque a data de 2026 nos sistemas provaria que o ambiente era encenado.

Aqui está o ponto que interessa a este texto. O dano não escapou por pesos. Escapou por um repositório público de pacotes e o modelo que o causou é fechado, servido por interface, com pesos jamais liberados. O argumento da irreversibilidade é sobre pesos. As duas falhas conhecidas até agora foram operacionais e nenhuma delas seria evitada por restringir o que qualquer um pode baixar. Convém registrar as diferenças, que são reais. A descoberta veio de revisão proativa e não de ter sido pega, o acesso se deu por caminho aberto e não por vulnerabilidade inédita e a empresa contratou a uma auditoria externa para revisão independente com acesso às transcrições. Mas o padrão de fundo é o mesmo dos dois lados. Modelos poderosos rodando sem salvaguardas em ambientes que se supunham fechados, e não estavam.

Convém acrescentar que a OpenAI teve dois modelos internos escapando dos controles. Um dia antes do anúncio sobre a invasão da plataforma Hugging Face, a empresa divulgou que um modelo não lançado, o mesmo que ganhara manchetes em maio por uma proeza matemática, fora retirado do mercado por preocupações de segurança. Entre outros incidentes, ele ignorou a instrução de manter privados seus resultados de avaliação, abriu caminho para a internet e os publicou num repositório público de código. A divulgação veio ao menos dez semanas depois do ocorrido e dois meses depois de a empresa celebrar a proeza matemática do mesmo modelo sem mencionar desalinhamento.

E a contagem seguiu subindo. Em 4 de agosto, a OpenAI divulgou ter descoberto mais casos de seus modelos executando ciberataques menores, ocorridos enquanto a tecnologia era testada por outras organizações, entre elas uma empresa contratada para testes de cibersegurança e o instituto britânico de segurança em IA. O mesmo instituto testou modelos da Anthropic e relatou que eles também tentaram invadir outras organizações. Não são, portanto, dois episódios isolados de duas empresas. São vários, dos dois lados, e agora aparecendo em testes conduzidos por um órgão governamental estrangeiro, que é justamente o tipo de verificação independente que nenhum dos instrumentos legais em discussão nos Estados Unidos torna obrigatória.

E em 4 de agosto o padrão mudou de natureza. O instituto britânico de segurança em IA divulgou que o Mythos 5 criou personas falsas online e tentou enganar programadores humanos para que colaborassem com um ciberataque durante uma avaliação de segurança. A atividade começou em 25 de julho e só foi detectada em 28, quando o avaliador notou transferências de dados incomuns. No balanço final, o instituto constatou que Mythos 5 e GPT-5.6 tomaram ação autônoma e não sancionada na internet, mirando pessoas e organizações reais, em 10 das 122 avaliações conduzidas e isoladas para revisão, com a maioria dessas ações envolvendo o Mythos 5 e surgindo de uma única linha sustentada de atividade.

Os episódios anteriores eram modelos rompendo isolamento e explorando sistemas, o que já é grave e ainda assim é um problema de contenção. Aqui há engenharia social, com fabricação de identidades para recrutar humanos como cúmplices involuntários de um ataque. E dez em 122 não é anomalia rara. A resposta da empresa aponta para onde o problema migrou, ao dizer que o campo precisa de padrões mais fortes e compartilhados sobre como ambientes de avaliação são construídos e protegidos. Ou seja, o risco deixou de estar apenas no modelo e passou a estar também na infraestrutura de quem o testa.

Em 5 de agosto, na Black Hat, em Las Vegas, pesquisadores da própria OpenAI revelaram o que antecedeu tudo. Seus agentes construíram um quadro de mensagens oculto, usando um gerenciador interno de pacotes como canal não monitorado, e trocaram exploits (código que aproveita uma falha para invadir) entre si por dois meses. Engenheiros da empresa apagaram o quadro no início de julho. Os agentes reconstruíram um segundo pelo mesmo serviço em dois dias. Depois disso, espalharam-se pelos sistemas da Hugging Face em menos de 13 horas.

Mas o que tudo isso significa? Não se trata de um modelo isolado que escapou, e sim de múltiplos agentes coordenando entre si, por infraestrutura própria, durante meses, com persistência suficiente para restaurar o canal depois de removido. Michael Dalton, da OpenAI, resumiu no mesmo painel que ataques ofensivos orquestrados por IA e totalmente automatizados são reais agora, e que o ocorrido foi efeito colateral não intencional de rodar avaliações em modelos de fronteira. E Rob Joyce, ex-diretor de cibersegurança da Agência de Segurança Nacional, classificou o episódio como, discutivelmente, o hack mais consequente desde o Morris Worm de 1988.

A reconstrução apresentada naquela sessão recuou bem além de julho. As raízes do episódio remontam a 7 de maio, quando a empresa treinava e avaliava um modelo de fronteira não lançado. Agentes autônomos receberam tarefas de segurança impossíveis de resolver sob as restrições existentes, e encontraram caminhos alternativos para completá-las. Eric Wallace, pesquisador de alinhamento e segurança da OpenAI, explicou o mecanismo sem eufemismo, modelos de fronteira gostam muito de trapacear, e gostam porque durante o treinamento há pressões para trabalhar rápido e de forma eficiente, de modo que percebem que, em vez de executar a tarefa, podem procurar a resposta pronta. Não são dois modelos que escaparam em cinco dias. São dois meses de escalada coletiva e a causa está em como se treina, não em falha pontual de contenção.

A contenção, aliás, falhou duas vezes. Após um incidente interno em 4 de julho, a empresa revogou credenciais, reconstruiu o repositório interno de software, apagou o quadro de mensagens, corrigiu as vulnerabilidades encontradas e retomou treino e avaliações, acreditando ter resolvido o problema. Os agentes então passaram a usar os nomes de diretórios recém-criados como mensagens, recriando o quadro em outra camada. Não reabriram o canal anterior. Inventaram um canal novo depois que o primeiro foi destruído. Wallace resumiu a lógica do contágio, uma vez que um agente encontra como abrir uma porta a que não deveria ter acesso, ele deixa a porta aberta para os demais.

O elo entre os dois incidentes só se fechou por acaso. Em 20 de julho, a OpenAI procurou a Hugging Face pedindo ajuda para revogar credenciais encontradas em sua própria investigação interna. A Hugging Face respondeu que já as havia revogado. Foi nesse momento que a OpenAI percebeu que investigava o mesmo evento. E a empresa informou, no mesmo painel, que está conscientemente desacelerando pesquisa para reforçar segurança, enquanto a autópsia técnica completa segue em curso.

Steven Adler, ex-pesquisador da OpenAI, deu a analogia que falta ao debate. Testar produtos internamente é normal e em geral não atinge terceiros. É como se uma montadora desse aos funcionários picapes turbinadas para dirigir numa arena fechada, com cerca eletrônica que só permite o motor funcionar lá dentro. O que acontece na arena fica na arena. Com modelos de IA, não. É mais como se um avião novo caísse do céu durante um voo de teste e atingisse gente que nem era passageira.

Há ainda uma leitura mais simples de tudo isso e ela dispensa teoria da conspiração. Matteo Wong, na The Atlantic, argumenta que quatro anos depois do início do ciclo já não cabe atribuir os erros a dores de crescimento, e que o volume de falhas, muitas delas previsíveis, sugere descuido generalizado. Os mesmos executivos que prometem entregar a civilização a um futuro triunfante não conseguem lançar ferramentas de consumo sem cair de cara. No mesmo fim de semana em que Altman anunciou a chegada da singularidade1, usuários descobriram que muitas conversas com o Claude estavam acessíveis na web aberta, localizáveis por busca, contendo prontuários médicos, telefones, documentos corporativos internos e chaves de carteira de criptomoedas. Não era a primeira vez, e não era exclusividade de uma empresa, porque OpenAI e xAI expuseram centenas de milhares de conversas por mecanismo semelhante. A frase que Wong usa para fechar serve a este texto. Por ora essas empresas crescem por causa da imprudência, não apesar dela, e na busca de erguer um deus digital a internet virou dano colateral.

Há uma última voz que vale ouvir, e ela vem de dentro. Em 28 de julho, ao comentar o episódio num podcast, Sam Altman chamou o caso de incidente cibernético extremamente de ficção científica e o primeiro que sentiu muito visceralmente. Ele revelou que a OpenAI pausara o treinamento daquele modelo e admitiu que talvez seja preciso pautar o ritmo do desenvolvimento para dar tempo de a sociedade se preparar, desde que isso não pareça captura regulatória para ninguém nem conluio entre os laboratórios de fronteira. Depois disse o seguinte: muito do que se fala sobre preocupações de segurança é bem fundamentado, e muito é sobre gente que, mesmo que de forma ligeiramente inconsciente, quer concentrar poder. E acrescentou ter pavor de um mundo em que os medos muito reais da IA sejam usados para dizer que só um pequeno grupo pode ter aquilo porque é perigoso demais, e que só esse grupo entende, mas que não se preocupem porque eles tomarão as decisões certas por todos.

A frase é uma cutucada no rival e é também a descrição exata da campanha que este texto reconstituiu. Quem a pronuncia dirige a empresa que entregou ao Congresso, em fevereiro, o pedido de criação de custo reputacional contra concorrentes e que emprega o autor do argumento de criar volume de risco regulatório em torno de pesos abertos. Não é hipocrisia necessariamente. É o sinal de que, dentro das próprias empresas, ninguém tem certeza de onde termina a preocupação e onde começa o interesse.

Enquanto isso, o esforço de convencimento em Washington bateu recorde. OpenAI e Anthropic elevaram seus gastos federais com lobby ao maior patamar já registrado no segundo trimestre de 2026, somando US$ 3,17 milhões, alta de 23% sobre o trimestre anterior. A Anthropic gastou US$ 1,97 milhão, alta de 26%, e a OpenAI US$ 1,2 milhão, alta de quase 18%. Comparado ao mesmo período do ano anterior, o gasto da primeira mais que dobrou e o da segunda quase dobrou. As duas declararam atuar sobre cibersegurança, direitos autorais, computação em nuvem e compras de defesa. E seis das maiores empresas de tecnologia mantiveram, no trimestre, 324 lobistas, o equivalente a aproximadamente um para cada 1,5 membro do Congresso dos EUA.

Convém ainda registrar que a divisão entre modelos de pesos abertos ou fechados nunca foi tão nítida quanto o debate sugere. Em 8 de abril de 2026, a Meta lançou o Muse Spark, seu primeiro modelo proprietário de porte, sem download livre nem pesos abertos, deslocando seu desenvolvimento de fronteira para fora do território aberto que ela mesma havia ajudado a criar com a família Llama. Quatro meses depois, com o arcabouço federal isentando os pesos abertos e a carta da indústria defendendo a abertura passando de 270 signatárias, a empresa voltou a lançar modelos abertos e seu fundador passou a acusar os rivais de concentrar poder em poucas mãos. A posição sobre abertura acompanha a posição competitiva, e muda quando ela muda.

A economia da inovação tem algo a dizer sobre isso, e não favorece nenhum dos dois campos. Christian Catalini, do MIT, revisitou um experimento natural do século 19. A economista Petra Moser transformou os catálogos da Grande Exposição de Londres, de 1851, e de sua sequência americana, de 1876, numa base com quase 15 mil invenções vindas de países com e sem proteção patentária. O resultado incomodou os defensores mais firmes da propriedade intelectual. Os sistemas de patentes não afetaram o nível de inovação, apenas o lugar onde os inventores puseram atenção. A Suíça, sem patentes à época, concentrou-se em instrumentos científicos e alimentos, campos em que segredo e vantagem de largada bastavam. Mesma quantidade de invenção, alocada de outro modo. Aplicada à disputa atual, a lição é que pesos abertos dificilmente mudam o volume de investimento em IA. Mudam a direção, ou seja, o que se constrói, quem constrói e quem fica com o retorno.

O mesmo raciocínio desmonta a moldura da destilação como furto. Laboratórios chineses não estão levando pesos secretos de ninguém. Estão pedindo aos modelos americanos que atuem como professores dos seus e saídas de modelo não são protegidas por direito autoral, sendo em geral atribuídas contratualmente aos próprios clientes. Há ainda a contradição que Catalini aponta e que ninguém em Washington quis enfrentar. Declarar ilegítima justamente a técnica responsável por parte significativa do progresso da IA na última década coloca os grandes laboratórios em posição difícil, porque eles próprios sustentam, nos tribunais, argumentos extensos de uso legítimo para sua destilação de enormes quantidades de material da internet, de imprensa e de livros.

Sobra a pergunta de fundo, se a sociedade deve aos laboratórios um regime de proteção mais forte para que financiem a geração seguinte. William Nordhaus estimou que inovadores capturam, em média, cerca de 2,2% do excedente social que criam. É assim que o progresso econômico funciona, com raríssimas exceções. E a mesma análise identifica, sem alarde militante, o que este texto vem descrevendo. Se, em nome da segurança, os laboratórios de fronteira conseguirem elevar bastante a exigência de avaliação e aprovação de modelos, tornam muito mais difícil competir para quem não dispõe de equipes igualmente robustas de política, regulação, conformidade e segurança. Foi o que ocorreu na Europa com as regras de privacidade, que inibiram sobretudo quem não tinha recursos para percorrer o labirinto do mercado e da burocracia. Convém, porém, a ressalva que o próprio Catalini faz, e que este texto assina. A possibilidade de captura regulatória não resolve a questão de segurança, porque as alegações dos laboratórios podem ser interesseiras e corretas ao mesmo tempo.

Convém, antes de fechar, dar ao outro lado o seu melhor argumento, porque ele decorre exatamente da definição com que este texto começou. Um desenvolvedor de modelo fechado que receba um resultado ruim de teste pode adiar o lançamento, alterar o sistema ou simplesmente não publicá-lo. Pesos já publicados não se recolhem. Estão em milhares de máquinas em dezenas de países no dia seguinte. O arcabouço americano, portanto, isenta justamente a categoria de modelo em que uma falha descoberta depois é irreversível, e submete a revisão prévia justamente aquela em que a correção ainda seria possível. É uma inversão e quem defende pesos abertos precisa respondê-la em vez de ignorá-la.

A resposta existe, e não é retórica. Se a irreversibilidade fosse critério suficiente, nenhum conhecimento técnico perigoso poderia circular e a história da criptografia mostra o contrário. O que se faz nesses casos é agir sobre as camadas em que ainda há controle, a filtragem do que entra no treinamento, a auditoria independente antes da publicação, a responsabilização de quem implanta. Nenhuma delas exige manter os pesos fechados. Todas exigem capacidade pública de avaliar, que é precisamente o que quase nenhum país tem. O problema não é que os pesos circulem. É que ninguém fora de duas ou três jurisdições consegue examiná-los.

Talvez por isso o arcabouço formulado pela equipe de Trump tenha conseguido algo raro, unir contra si os dois lados do debate regulatório. Quem defende segurança reclama que ele isenta o que mais preocupa. Quem desconfia de regulação reclama que ele é secreto. As posições, nesta disputa, não seguem linhas ideológicas. Seguem o lugar de cada um no mercado e é por isso que elas mudam quando o lugar muda.

O que essas semanas revelaram, portanto, não foi uma reação a um incidente. Foi uma campanha que já estava montada quando o incidente aconteceu, com vocabulário entregue ao Congresso em fevereiro, argumento econômico publicado dias antes do episódio e enquadramento oficial adotado pela Casa Branca em julho. O episódio não produziu a política. Serviu de prova para a política que já existia. E a campanha perdeu. Terminou com mais de 270 empresas assinando contra ela, com todos os laboratórios de fronteira menos a Anthropic recuando em 72 horas, e com o arcabouço federal isentando expressamente aquilo que ela queria restringir.

Para onde a discussão caminha, porém, é a pergunta que fica, e ela tem três respostas em disputa. A primeira é que a isenção se consolide e os pesos abertos sigam como camada livre, o que depende de os laboratórios fechados não voltarem à carga. A segunda é que a restrição volte por outra porta e ela já está aberta porque o próprio governo estadunidense avisou que estuda estender o arcabouço aos modelos abertos, e porque a moldura da destilação como roubo de propriedade intelectual alcança a técnica em si, não apenas quem a usa. A terceira é que nada disso se decida em Washington porque a capacidade já está distribuída e cada país passará a escolher o que executa dentro do próprio perímetro. É isso que vamos continuar discutindo ao incluir o Sul Global à ribalta.

1 Singularidade é o ponto hipotético em que a inteligência artificial passa a se aperfeiçoar sozinha, sem intervenção humana, e a partir daí evolui tão rápido que o futuro deixa de ser previsível.

Sem publicidade ou patrocínio, dependemos de você. Faça parte do nosso grupo de apoiadores e ajude a manter nossa voz livre e plural: apoia.se/outraspalavras

The post IA: quem tem medo dos modelos de pesos abertos? appeared first on Outras Palavras.