A Anthropic encontrou um espaço escondido onde Claude quebra a cabeça sobre conceitos. A empresa de IA Anthropic teve a visão mais clara do que realmente está acontecendo dentro de grandes modelos de linguagem à medida que eles….
Os pesquisadores da empresa construíram uma ferramenta chamada lente Jacobiana (ou lente J) e a usaram para descobrir uma área oculta, que chamaram de espaço J, dentro de seu carro-chefe LLM, Claude.
O espaço J contém palavras relacionadas à resposta na qual um modelo está trabalhando, mas que pode não produzir. Se Claude fosse uma pessoa (o que não é), você poderia dizer que essas palavras ocultas revelam o que está em sua mente antes de realmente falar.
Eu vasculhei a internet para encontrar as histórias mais divertidas, importantes, assustadoras e fascinantes sobre tecnologia da atualidade.
As informações são do site MIT Technology Review
