Um pesquisador sênior de segurança da Anthropic disse que há mais de 10 por cento de chance de a inteligência artificial "poder matar todos os humanos" até o final da década, poucas horas depois de um colega ter renunciado por temer que o laboratório de IA e seus rivais estejam correndo descuidadamente para construir "sistemas sobre-humanos" que não podem controlar.
Pesquisadores da Anthropic preocupados alertam que a IA ‘poderia matar todos os humanos’.
Um pesquisador que está saindo diz que as empresas de IA estão “jogando com nossas vidas”, correndo para desenvolver uma IA que se auto-aperfeiçoe.
Em uma postagem no X anunciando sua saída, Jacob Coxon, pesquisador que treinou sistemas de IA na Anthropic, disse que havia deixado a empresa por causa de sua abordagem negligente em relação à segurança. Coxon, que anteriormente treinou sistemas para OpenAI, acusou as duas empresas de IA de “correrem diretamente para a superinteligência auto-aperfeiçoada e de apostarem com as nossas vidas”, embora “as pessoas que constroem a IA acreditem sinceramente que esta poderá matar-nos a todos até ao final da década”.
Os membros da indústria há muito que expressam preocupações sobre os perigos potenciais do auto-aperfeiçoamento dos sistemas de IA, que alertam que podem sair do controlo humano num ciclo descontrolado muitas vezes descrito como auto-aperfeiçoamento recursivo. Embora ainda não tenha sido concretizado, as empresas estão perseguindo ativamente esse objetivo e grande parte do código de IA atual é escrito com a ajuda da IA.
Em uma resposta direta, Evan Hubinger, que lidera uma das equipes de segurança de IA da Anthropic, disse que se preocupa com o autoaperfeiçoamento da IA, acrescentando que isso “está acontecendo mais rápido do que pensávamos”. Ele também concordou com a caracterização de Coxon. “Acreditamos sinceramente que a IA pode matar todos os seres humanos”, disse ele, estimando pessoalmente que as probabilidades serão superiores a uma em 10 “na próxima década”.
Apesar disso, Hubinger disse que a Anthropic “ainda não tem um plano” para garantir que a IA avançada permaneça segura e alinhada com os valores humanos e “também não está claramente no caminho certo” para desenvolver um. Coxon diz que as empresas estão “travadas numa corrida” para desenvolver primeiro sistemas avançados, por isso estão avançando “apesar do risco”.
A saída de Coxon marca um dos exemplos mais notórios de um funcionário deixando a Anthropic, uma empresa fundada por ex-membros da OpenAI devido a preocupações com a segurança na empresa. Nos últimos anos, vários pesquisadores citaram preocupações de segurança como motivadores de sua decisão de deixar a OpenAI.
As informações são do site The Verge
