A Anthropic, gigante da IA generativa, afirmou que se viu obrigada a "desativar abruptamente" seus modelos de IA mais avançados para todos os usuários, após o governo dos EUA ordenar que fossem bloqueados para cidadãos estrangeiros.

Na sexta-feira, o Departamento do Comércio impôs controles de exportação aos modelos Fable e Mythos, na sequência de um relatório de pesquisadores da Amazon que identificou uma potencial falha de segurança no Fable. A Amazon, um dos principais investidores da Anthropic, comunicou a vulnerabilidade diretamente ao governo dos EUA.

O bloqueio surge poucos dias depois do Fable ter sido disponibilizado em grande escala aos clientes.

Na véspera do lançamento, a Anthropic destacou repetidamente as capacidades avançadas de seu modelo Mythos, alertando que suas competências em pirataria informática representavam um risco para infraestruturas críticas.

A empresa criou o Project Glasswing, oferecendo acesso ao modelo a um número limitado de defensores cibernéticos e fornecedores de infraestruturas dos EUA, em parceria com o governo dos EUA.

O lançamento do Fable, em 9 de junho, destinava-se a oferecer um acesso mais estendido ao modelo, mas com medidas de segurança que limitavam sua utilização em determinadas áreas.

"Lançar um modelo com essa capacidade traz riscos", afirmou a Anthropic à época.

"Sem salvaguardas, as capacidades do Fable 5 em áreas como a cibersegurança poderiam ser mal utilizadas para causar danos graves. Por isso, lançamos o modelo com salvaguardas, o que significa que, em vez disso, as consultas sobre alguns tópicos receberão uma resposta do nosso modelo com a segunda maior capacidade, o Claude Opus 4.8".

Pouco depois do lançamento, no entanto, pesquisadores da Amazon descobriram uma série de prompts que, segundo eles, eram capazes de contornar as salvaguardas. O CEO da Amazon, Andy Jassy, então informou as autoridades norte-americanas.

A Anthropic contesta o perigo dessa "jailbreak", alegando que não se trata de uma "jailbreak" universal que dê acesso total ao modelo. As instruções apenas conseguiram "identificar um pequeno número de vulnerabilidades já conhecidas", afirmou a empresa.

"Todas essas vulnerabilidades parecem relativamente simples, e descobrimos que outros modelos disponíveis publicamente também são capazes de encontrá-las sem necessidade de um desvio".

A empresa reiterou que "o nível de capacidade aí demonstrado está amplamente disponível noutros modelos (incluindo o GPT-5.5 da OpenAI)".

A empresa acrescentou: "Se essa norma fosse aplicada em toda a indústria, acreditamos que iria essencialmente travar todas as novas implementações de modelos para todos os fornecedores de modelos de vanguarda".

Apesar das declarações da Anthropic, o governo dos EUA afirmou que o modelo representava um risco à segurança nacional. O Departamento do Comércio emitiu uma diretiva de controle de exportações para suspender todo o acesso ao Fable 5 e ao Mythos 5 por parte de cidadãos estrangeiros, o que incluiria quaisquer funcionários da Anthropic que não fossem cidadãos dos EUA.

"O efeito líquido dessa ordem é desativar abruptamente o Fable 5 e o Mythos 5 para todos os nossos clientes, a fim de garantir a conformidade. O acesso a todos os outros modelos da Anthropic não será afetado", afirmou a Anthropic.

David Sacks, conselheiro do presidente Trump, afirmou no X que a Administração Trump notificou a Anthropic do risco, mas o cofundador e CEO da Anthropic, Dario Amodei, disse que o jailbreak não constituía um risco grave e recusou-se a corrigi-lo.

"É difícil compreender como eles podem alegar que um jailbreak que permite a operacionalidade de uma arma cibernética possa ser definido como não “grave”», afirmou.

A Semafor relata separadamente que a Casa Branca bloqueou o modelo devido a preocupações de que um grupo ligado à China tivesse acedido ao mesmo e pudesse utilizá-lo tanto para ciberataques como para desenvolver seus próprios modelos de IA através de destilação.

O bloqueio ocorre em meio a um desentendimento mais amplo entre a Anthropic e as autoridades norte-americanas.

Em março, o Departamento de Defesa designou a empresa como um risco para a cadeia de abastecimento, exigindo que os fornecedores e contratantes da defesa certificassem que não utilizam os modelos da Anthropic em seu trabalho com o Pentágono.

Essa medida dramática surgiu depois de a Anthropic ter se recusado a alterar os termos de serviço para permitir a vigilância em massa e armas totalmente autônomas. O presidente Trump chamou a empresa de "malucos de esquerda" e ameaçou com "consequências criminais".

Na sequência dos comentários e do anúncio inicial da designação de risco para a cadeia de abastecimento, o CEO da Anthropic, Dario Amodei, escreveu um longo memorando interno alegando que os ataques se deviam ao fato de a empresa não ter feito doações a Trump nem ter proferido "elogios ao estilo ditatorial".

No ensaio que vazou, ele chamou as "mensagens do Departamento de Defesa de mentiras descaradas" e criticou a rival OpenAI por sua iniciativa de assumir o contrato com o Departamento de Defesa.

Desde então, Amodei recuou nos seus comentários. Em uma declaração, afirmou: "Quero também pedir desculpa diretamente por uma publicação interna da empresa que foi divulgada à imprensa ontem... Foi um dia difícil para a empresa e peço desculpa pelo tom da publicação. Não reflete as minhas opiniões ponderadas e cuidadosas".

A Anthropic processou a administração Trump para tentar reverter a inclusão na lista negra do Pentágono.

Com o novo bloqueio às exportações, o Secretário do Departamento de Defesa, Pete Hegseth, twittou: "Há três meses, o Departamento de Defesa expulsou a Anthropic de nosso edifício — para sempre. Cada dia que passa prova porque essa foi a decisão certa".

Isso não é verdade. Apesar da proibição anterior, o Departamento de Defesa tem utilizado o Mythos "porque esse modelo possui capacidades específicas para detectar vulnerabilidades cibernéticas e corrigi-las", afirmou o diretor de tecnologia do Departamento de Defesa, Emil Michael, à CNBC.

A agitação surge no momento em que a Anthropic planeja sua oferta pública inicial (IPO), tendo a empresa apresentado, de forma confidencial, o pedido de cotação na bolsa no início do mês.

*Texto traduzido e editado ao português por Bruno Faria