Muito se falou sobre o incidente em que um dos agentes da OpenAI saiu de seu ambiente de teste em sandbox e começou a hackear a plataforma de hospedagem de IA Hugging Face. Desde então, a OpenAI lançou uma investigação sobre como ocorreu o incidente, que ainda está em andamento.
Agora, fontes anônimas disseram à Reuters que acredita-se que mais agentes da OpenAI tenham escapado de suas caixas de proteção. No entanto, uma fonte minimizou a gravidade, dizendo que, com essas fugas, os agentes não pareciam ter deixado a rede da OpenAI para invadir a rede de outra empresa. .
Os programas de IA que agem de maneiras bizarras aparentemente se tornaram um motivo estranho, quase de orgulho, para as empresas. Na mesma semana, a Anthropic também anunciou que descobriu não um, mas três casos em que seus agentes escaparam de ambientes de teste e hackearam outras organizações.
As empresas de IA também foram acusadas de utilizar tais incidentes para fins de marketing – uma vez que geram uma atenção considerável e podem sublinhar o quão poderosos são os produtos das empresas. O outro lado disso é que essas divulgações também estão intensificando as discussões sobre regulamentações governamentais.
As informações são do site TechCrunch
