A matemática por trás do chip OpenAI Jalapeño

A trajetória financeira da OpenAI depende fortemente dos custos de infraestrutura, uma realidade que impulsionou o desenvolvimento do novo chip OpenAI Jalapeño personalizado. Desenvolvido em colaboração com a Broadcom, o circuito integrado de aplicação específica (ASIC) representa uma tentativa direta de mitigar as pesadas despesas de capital associadas a hardware de terceiros.  Embora a Nvidia atualmente comande uma margem de lucro estimada de 75% em [...].

Embora a Nvidia atualmente tenha uma margem de lucro estimada em 75% em seus processadores de última geração, a OpenAI opera com margens mais estreitas, mantendo cerca de 33 centavos de lucro por cada dólar gerado após contabilizar suas enormes despesas operacionais. O encargo financeiro de administrar grandes modelos linguísticos em escala é severo.

No ano passado, manter a capacidade de resposta dos servidores ChatGPT custou à OpenAI impressionantes US$ 8,4 bilhões. Com a plataforma atraindo agora 900 milhões de utilizadores semanais, esse custo operacional deverá atingir aproximadamente 14 mil milhões de dólares este ano. Nos próximos oito anos, a OpenAI comprometeu cerca de 1,4 biliões de dólares em poder computacional, uma aposta enorme para uma empresa que gera actualmente 25 mil milhões de dólares em receitas anuais.

O chip OpenAI Jalapeño, apelidado de o primeiro “Processador de Inteligência” da empresa, foi desenvolvido especificamente para inferência de modelo de linguagem grande (LLM), em vez de cargas de trabalho de IA de uso geral. A OpenAI forneceu o projeto arquitetônico central com base em seus roteiros de modelos específicos e sistemas de serviço, enquanto a Broadcom gerenciava a engenharia de silício e a integração de redes de alto desempenho.

A TSMC cuida da fabricação física em Taiwan, e a Celestica é encarregada de construir os sistemas de placas e racks. De acordo com a OpenAI, as primeiras amostras de laboratório já estão executando cargas de trabalho de fronteira, incluindo um modelo GPT-5.3-Codex-Spark não lançado, na frequência e potência de produção alvo.

Richard Ho, chefe do programa de hardware da OpenAI, observou que a arquitetura minimiza a movimentação de dados para aproximar a utilização realizada de seu desempenho máximo teórico. Ao contrário dos aceleradores de uso geral adaptados de cargas de trabalho de IA herdadas, essa arquitetura equilibra especificamente recursos de computação, memória e rede para resolver os gargalos de movimentação de dados nativos do serviço LLM interativo.

Para conseguir isso em escala, a plataforma integra o silício de rede Tomahawk da Broadcom diretamente no design, permitindo que os processadores personalizados se comuniquem em ambientes de data center massivos e agrupados.

Ao migrar para o silício personalizado, a OpenAI deixa de ser uma mera camada de software para se tornar uma empresa de infraestrutura verticalmente integrada.

As informações são do site AI News

Compartilhe este artigo

Continue lendo

Voltar ao Blog