Projeto prevê bloqueio de modelos que ameacem causar mais de 50 mortes ou ferimentos graves, ou prejuízos acima de US$ 1 bilhão.
Proposta limitaria o bloqueio do governo dos EUA (ilustração: Vitor Pádua/Tecnoblog).
A Anthropic propôs que o governo dos EUA só possa bloquear modelos avançados de IA em casos de riscos catastróficos.
Entre os exemplos, estão ameaças de morte ou ferimentos graves a mais de 50 pessoas ou prejuízos acima de US$ 1 bilhão.
Avaliadores independentes fariam análises regulares dos laboratórios e modelos de IA e deveriam comunicar o governo em até 72 horas. A Anthropic propôs que o governo federal dos EUA só possa bloquear modelos avançados de IA diante de riscos catastróficos, incluindo ameaças de morte, ferimentos graves em mais de 50 pessoas ou prejuízos acima de US$ 1 bilhão (R$ 5,08 bilhões). O veículo obteve o rascunho do projeto de lei. A iniciativa da Anthropic seria uma forma de estabelecer regras mais claras sobre o desenvolvimento e o uso de modelos avançados de inteligência artificial.
Segundo a reportagem, o governo poderia pedir a suspensão do lançamento ou uso de um modelo diante de risco previsível e iminente de matar ou ferir gravemente mais de 50 pessoas.
Outra possibilidade seria uma ameaça de prejuízo superior a US$ 1 bilhão.
O risco precisaria estar ligado à criação ou liberação de uma arma biológica, a um ciberataque ou à capacidade do modelo de escapar do controle.
As informações são do site Tecnoblog
