A trajetória financeira da OpenAI depende fortemente dos custos de infraestrutura, uma realidade que impulsionou o desenvolvimento do novo chip OpenAI Jalapeño personalizado. Desenvolvido em colaboração com a Broadcom, o circuito integrado de aplicação específica (ASIC) representa uma tentativa direta de mitigar as pesadas despesas de capital associadas a hardware de terceiros. Embora a Nvidia atualmente comande uma margem de lucro estimada de 75% em [...].
Embora a Nvidia atualmente tenha uma margem de lucro estimada em 75% em seus processadores de última geração, a OpenAI opera com margens mais estreitas, mantendo cerca de 33 centavos de lucro por cada dólar gerado após contabilizar suas enormes despesas operacionais. O encargo financeiro de administrar grandes modelos linguísticos em escala é severo.
No ano passado, manter a capacidade de resposta dos servidores ChatGPT custou à OpenAI impressionantes US$ 8,4 bilhões. Com a plataforma atraindo agora 900 milhões de utilizadores semanais, esse custo operacional deverá atingir aproximadamente 14 mil milhões de dólares este ano. Nos próximos oito anos, a OpenAI comprometeu cerca de 1,4 biliões de dólares em poder computacional, uma aposta enorme para uma empresa que gera actualmente 25 mil milhões de dólares em receitas anuais.
O chip OpenAI Jalapeño, apelidado de o primeiro “Processador de Inteligência” da empresa, foi desenvolvido especificamente para inferência de modelo de linguagem grande (LLM), em vez de cargas de trabalho de IA de uso geral. A OpenAI forneceu o projeto arquitetônico central com base em seus roteiros de modelos específicos e sistemas de serviço, enquanto a Broadcom gerenciava a engenharia de silício e a integração de redes de alto desempenho.
A TSMC cuida da fabricação física em Taiwan, e a Celestica é encarregada de construir os sistemas de placas e racks. De acordo com a OpenAI, as primeiras amostras de laboratório já estão executando cargas de trabalho de fronteira, incluindo um modelo GPT-5.3-Codex-Spark não lançado, na frequência e potência de produção alvo.
Richard Ho, chefe do programa de hardware da OpenAI, observou que a arquitetura minimiza a movimentação de dados para aproximar a utilização realizada de seu desempenho máximo teórico. Ao contrário dos aceleradores de uso geral adaptados de cargas de trabalho de IA herdadas, essa arquitetura equilibra especificamente recursos de computação, memória e rede para resolver os gargalos de movimentação de dados nativos do serviço LLM interativo.
Para conseguir isso em escala, a plataforma integra o silício de rede Tomahawk da Broadcom diretamente no design, permitindo que os processadores personalizados se comuniquem em ambientes de data center massivos e agrupados.
Ao migrar para o silício personalizado, a OpenAI deixa de ser uma mera camada de software para se tornar uma empresa de infraestrutura verticalmente integrada.
As informações são do site AI News