A OpenAI lançou um novo modo Ultrafast para seu principal modelo, o GPT-5.6 Sol, prometendo aumentar a velocidade de processamento em quatorze vezes. Essa melhoria vai além de um simples ajuste de desempenho; ela visa eliminar a tradicional relação inversa entre velocidade e capacidade, oferecendo respostas quase instantâneas sem comprometer a inteligência do modelo mais avançado da empresa.
A nova tecnologia, atualmente disponível em versão prévia para um grupo seleto de clientes, utiliza a infraestrutura da Cerebras, uma fabricante de chips especializada em inferência de IA. De acordo com dados fornecidos pela OpenAI, o sistema pode gerar até 750 tokens por segundo , um número quatro vezes maior do que a maioria dos modelos comerciais atuais, posicionando essa tecnologia em um novo patamar no setor.
Um salto em velocidade sem sacrificar o modelo.
Até agora, obter uma resposta rápida geralmente significava recorrer a um modelo menor ou mais especializado, um compromisso que a OpenAI procurou evitar com o Ultrafast. Em vez de criar uma versão simplificada, a empresa optou por acelerar o mesmo GPT-5.6 Sol , mantendo intactas suas capacidades de raciocínio e geração de texto. Isso significa que desenvolvedores e empresas que utilizam a API poderão desfrutar de latência mínima sem sacrificar a qualidade dos resultados.
A velocidade de 750 tokens por segundo significa que um parágrafo de resposta é produzido em menos de um segundo, tornando a interação praticamente instantânea. Esse recurso é especialmente valioso em aplicações onde cada milissegundo conta, como negociação algorítmica, suporte ao cliente com alto volume de consultas ou resposta a incidentes de segurança. A OpenAI enfatiza que a velocidade não exige mais sacrificar a inteligência , uma mensagem que repercutiu positivamente entre os primeiros usuários da versão prévia.
A infraestrutura da Cerebras é fundamental para o desempenho.
O segredo por trás do Ultrafast reside na sua colaboração com a Cerebras, cujo processador Wafer-Scale Engine integra 44 GB de SRAM e mantém os pesos do modelo próximos às unidades de computação. Essa arquitetura reduz drasticamente a movimentação de dados entre a memória externa e o processador, um dos principais gargalos na inferência de modelos complexos. Segundo a empresa, os pesos permanecem no chip enquanto os tokens percorrem as camadas , permitindo o processamento de centenas de tokens por segundo sem perda de desempenho.
A integração com a Cerebras não só beneficia a OpenAI, como também representa um marco para a fabricante de chips, que vê sua infraestrutura suportando um modelo de vanguarda dentro de um serviço comercial. Embora a capacidade ainda seja limitada, ambas as empresas confirmaram que expandirão o acesso à medida que os recursos se tornarem disponíveis. Atualmente, o Ultrafast é oferecido apenas via API e não está disponível no ChatGPT, uma distinção que a OpenAI deixou clara em seu comunicado à imprensa.
Casos de uso projetados para ambientes críticos
A OpenAI identificou diversos cenários em que a baixa latência faz uma diferença significativa. Entre eles, estão a resposta a incidentes , onde um agente pode analisar registros, revisar rastreamentos e propor soluções enquanto a interrupção ainda está ativa; a pesquisa financeira , que exige o processamento de sinais de mercado em tempo real; e o atendimento ao cliente , onde as conversas fluem perfeitamente, sem atrasos perceptíveis. O comércio eletrônico também é mencionado, com recomendações personalizadas e gerenciamento de estoque em tempo real.
Empresas como Jane Street, Podium, Basis e Rogo já estão testando o Ultrafast em aplicações relacionadas a programação, comércio e suporte. Os resultados iniciais indicam que a redução do tempo gasto em cada tarefa pode transformar processos que antes eram executados em lotes noturnos em iterações contínuas ao longo do dia . No entanto, a OpenAI alerta que o desempenho final depende da complexidade de cada fluxo de trabalho, incluindo ferramentas externas e chamadas a bancos de dados, portanto, a cifra de 750 tokens por segundo é apenas um ponto de referência para a taxa máxima de geração.
Disponibilidade limitada e próximos passos
O Ultrafast encontra-se atualmente em fase de pré-visualização restrita, e a OpenAI ainda não anunciou uma data para a sua disponibilidade geral. A empresa confirmou que o acesso será expandido à medida que a capacidade aumentar , mas, por agora, apenas um grupo seleto de clientes pode ativá-lo. O preço público deste novo nível de serviço também não foi divulgado, um fator crucial para as empresas avaliarem se a latência reduzida justifica o custo adicional.
Em comparação com a concorrência, a OpenAI afirma que o Ultrafast supera o modo Claude Fast da Anthropic, que não atinge as mesmas velocidades. Essa diferença pode ser um fator decisivo para organizações que dependem de respostas quase instantâneas. Enquanto isso, desenvolvedores já estão idealizando aplicações que antes eram inviáveis devido aos tempos de espera, desde geração de código em tempo real até jogos interativos baseados em texto.
Em resumo, a chegada do Ultrafast marca um ponto de virada na corrida pela IA mais rápida do mercado. Com a colaboração da Cerebras e uma abordagem que não compromete o poder do modelo, a OpenAI estabeleceu claramente um novo padrão no quesito baixa latência. Embora o preço e a disponibilidade geral ainda não tenham sido divulgados, a prévia já demonstra que a velocidade pode andar de mãos dadas com a inteligência e que os segundos economizados em cada tarefa têm valor real em ambientes corporativos.