Ordem cita segurança nacional; empresa contesta bloqueio do modelo e corre para reembolsar assinantes.
Fable 5 foi desativado após ordem dos Estados Unidos (: Thássius Veloso/).
O governo dos EUA determinou restrições aos modelos de IA Fable 5 e Mythos 5, da Anthropic, alegando preocupações com a segurança nacional.
A decisão foi justificada por uma demonstração técnica que mostrou um método para burlar os protocolos de segurança do Fable 5, permitindo a identificação de falhas ocultas em softwares que poderiam ser usadas para ataques cibernéticos.
A Anthropic contestou a medida, considerando-a “desproporcional”, e iniciou um processo de reembolso para os assinantes afetados, enquanto busca resolver a questão com o governo. Aplicou uma sanção contra os modelos Fable 5 e Mythos 5. Em teoria, trata-se de um controle de exportação, mesmo mecanismo aplicado aos chips mais poderosos da Nvidia, por exemplo. Na prática, a Anthropic realizou o bloqueio total das ferramentas para todos os usuários. A medida está em vigor há quase 48 horas.
O Departamento de Comércio americano justificou a decisão com alegações de proteção à.
Já a Anthropic classificou a imposição como “desproporcional”.
A raiz do bloqueio foi uma demonstração técnica que chegou às mãos de autoridades americanas. De acordo com relatos, a Amazon teria documentado um método capaz de burlar os protocolos de segurança do Fable 5. Seria uma espécie de jailbreak.
Esta instrução forçava o modelo a ler códigos-fonte de terceiros e a identificar falhas ocultas em softwares. Considerando o potencial uso dessas informações para facilitar ataques cibernéticos em grande escala, a ordem inicial era barrar imediatamente o acesso aos sistemas por qualquer cidadão estrangeiro, tanto dentro quanto fora do território estadunidense.
As informações são do site Tecnoblog
