tem sido o assunto desde sexta-feira e mudou rápido o suficiente para perder qualquer um que piscasse. Aqui está meu tique-taque opinativo sobre o que aconteceu, quem está chamando o Anthropic de mocinho e quem o chama de bandido.
A Anthropic acertou em grande parte, e é um anúncio incrível para Fable.
Anthropic e o Departamento de Defesa sobre o uso dos modelos de IA da empresa; Anthropic quer certos limites sobre como sua tecnologia é usada.
A luta que se segue leva a que a Anthropic esteja teoricamente restringindo o uso governamental dos modelos da empresa e, ao mesmo tempo, limitando o acesso dos empreiteiros governamentais aos mesmos.
Anthropic apresenta Mythos, uma nova família modelo. Depois de descobrir que a Mythos é especialista em encontrar e explorar novas falhas de segurança cibernética, a Anthropic lança ‘.
'para fornecer às empresas de tecnologia crítica acesso a ferramentas para fortalecer seu próprio software antes de um lançamento mais amplo. para disponibilizar uma versão do Mythos para uso da agência.
Anthropic quer ampliar o número de grupos que podem acessar o Mythos; a Casa Branca supostamente estava preocupada com o fato de que a adição de mais parceiros tornaria a Antrópica restrita em termos de computação, limitando assim o acesso do governo dos EUA ao modelo. que os 50 parceiros iniciais do Projeto Glasswing encontraram mais de 10.000 falhas graves de software usando o Mythos. A empresa expande o Projeto Glasswing para 150 novas organizações em 15 países. A Anthropic também promete que está trabalhando para “liberar com segurança capacidades de nível Mythos para acesso geral”, mas que as “salvaguardas altamente robustas que evitam que as capacidades cibernéticas do modelo sejam mal utilizadas – salvaguardas que nós (e, até onde sabemos, todos os outros desenvolvedores de IA) ainda não desenvolvemos”. um modelo de “classe Mythos” construído para reduzir os riscos relacionados com a segurança cibernética e a biologia. A empresa disse em suas notas de lançamento que construiu salvaguardas para Mythos (Fable) suficientes “para um lançamento geral”. Na época, a Anthropic disse que havia “priorizado a segurança” ao tornar as grades de proteção do Fable 5 “mais rígidas do que seria o ideal”. restrito em certos casos de uso (principalmente consultas relacionadas à biologia) que era quase inútil.
Fable 5 também apresentava proteções de destilação e uma política rigorosa de retenção de dados de 30 dias que a Anthropic afirmava que ajudaria a “defender-se contra ataques complexos e novos (incluindo novos jailbreaks e ataques que operam em muitas solicitações), bem como ajudaria a identificar e reduzir falsos positivos”.
As informações são do site The New Stack
