Pimenta que queima as GPUs
Até recentemente, parecia que produzir chips para inteligência artificial era algo reservado a gigantes como NVIDIA, Google ou Amazon. A julgar pelas últimas informações vazadas, agora a OpenAI está pronta para se juntar a esse clube. Sob o codinome "jalapeño", os engenheiros da empresa estão testando seu próprio acelerador, projetado para a inferência de redes neurais. Os primeiros resultados, segundo relatos, foram tão bem-sucedidos que, dentro do laboratório, já se planejam lotes em grande escala para seus data centers.
Normalmente, os anúncios de "hardware" especializado acontecem em conferências e seminários, mas a informação sobre os testes do "jalapeño" foi divulgada pela imprensa especializada, citando fontes anônimas. No entanto, a atividade de patentes e as vagas abertas da OpenAI na área de design de hardware já indicavam anteriormente que por trás dos rumores havia um trabalho de engenharia real.
Chip moldado para o futuro da OpenAI
Desenvolver um chip próprio só faz sentido se você quiser otimizar o elo mais caro do produto. No caso dos modelos de linguagem, isso é a inferência — o momento em que milhares de usuários enviam solicitações simultaneamente. Cada uma dessas solicitações exige uma quantidade enorme de operações de multiplicação de matrizes. As GPUs modernas resolvem essa tarefa igualmente bem tanto para treinamento quanto para inferência, mas o treinamento ocorre raramente, enquanto a inferência é constante. Portanto, chegou a hora de uma ferramenta ajustada especificamente para cargas contínuas.
O "jalapeño" não é um processador universal. Não é possível executar aplicativos comuns nele, mas para o trabalho de redes neurais, ele é ideal. Sua arquitetura é simplificada para um conjunto de núcleos especializados que executam principalmente operações de multiplicação de matrizes e processam o mecanismo de atenção — a base dos transformadores e grandes modelos de linguagem.
Por que pimenta?
Os funcionários da empresa gostam de dar codinomes informais aos projetos. "Jalapeño" — uma pimenta ardida — tornou-se uma alusão à capacidade do chip de esquentar o mercado. O dispositivo não tem, obviamente, nenhuma relação com alimentação ou culinária mexicana.
Primeiros testes: velocidade e consumo de energia
Os dados mais interessantes estão disponíveis, por enquanto, apenas em relatos indiretos. De acordo com as fontes, em cargas de teste, o protótipo supera em várias vezes os principais aceleradores de servidor em velocidade de processamento de solicitações, mas a principal conquista é a eficiência energética. O chip próprio da OpenAI demonstra uma relação desempenho por watt muito maior.
Isso foi alcançado por meio de várias soluções técnicas.
- Computação de baixa precisão. Os pesos dos modelos podem ser armazenados e processados em formato de 8 bits sem perda visível de qualidade. O chip foi projetado desde o início para esses cálculos.
- Pipeline reduzido. Todas as instruções são subordinadas a uma única tarefa, portanto, os núcleos não gastam ciclos com ramificações desnecessárias e troca de contexto.
- Memória rápida. Os pesos dos modelos ficam diretamente no chip e próximos aos blocos de computação, e para modelos maiores, há uma conexão de alta velocidade com a memória externa.
O consumo de energia em carga total, segundo dados não oficiais, revelou-se significativamente menor do que o de soluções de uso geral. Isso significa que os servidores poderão processar mais solicitações sem expandir a energia e os sistemas de refrigeração.
O que mudará no mercado de IA?
O sucesso do "jalapeño" pode levar a mudanças tectônicas. O custo da geração de texto e do processamento de imagens cairá, tornando o acesso via API mais barato e acessível para pequenas empresas. Surgirão novos produtos que hoje são economicamente inviáveis: assistentes personalizados em tempo real, análise massiva de áudio e vídeo e até agentes autônomos capazes de executar longas cadeias de tarefas.
Além disso, um chip próprio fortalece a posição de negociação da OpenAI com provedores de nuvem. A empresa poderá transferir parte da carga para sua própria plataforma. Para os usuários, isso significará menos falhas e preços mais previsíveis.
Não devemos esquecer a ecologia: menor consumo de energia significa menor impacto ambiental. Ainda mais porque os data centers já são responsáveis por uma parcela significativa das emissões globais de carbono.
Perguntas restantes
Como costuma acontecer com notícias bombásticas, o "jalapeño" também gera ceticismo. As primeiras amostras de silício podem não ser representativas: em produção em série, as frequências de clock geralmente caem devido a limitações térmicas e variações de características. O custo de produção e o preço-alvo para os clientes são desconhecidos — se forem altos, a economia de eletricidade não salvará.
A compatibilidade do chip com frameworks populares também está em questão. A maioria das empresas usa aceleradores gráficos por meio de bibliotecas de alto nível como CUDA e PyTorch, e traduzir o código para uma nova plataforma leva tempo. A OpenAI provavelmente usará o "jalapeño" em conjunto com sua própria pilha de software, mas tornar o chip aberto para desenvolvedores terceiros é uma grande questão.
Conclusões
O primeiro sinal foi dado: o chip "jalapeño" tem grande probabilidade de se tornar um produto real, e não um protótipo experimental. Por enquanto, é apenas uma história de engenharia, sem especificações oficiais ou datas de lançamento. Mas se os resultados dos testes forem confirmados, o mercado de soluções de hardware para IA enfrentará um novo e forte player, capaz de reescrever as regras do jogo. Aguardamos declarações oficiais e as primeiras amostras.
