DeepSeek abre DeepInfer e mira corte de custos em IA

Tecnologia

DeepSeek lança DeepInfer para otimizar inferência em IA, reduzindo custos e acelerando respostas com suporte a GPUs e NPUs avançadas.

Leia também: Startup de IA ASI capta US$ 325 mi e vale US$ 3 bi

A DeepSeek abriu o código do DeepInfer, seu framework de inferência de inteligência artificial, numa estratégia para acelerar respostas dos modelos da empresa, reduzir o uso de hardware caro e atrair clientes incomodados com a conta de tokens em projetos de IA.

O que é o DeepInfer da DeepSeek?

O DeepInfer é um framework de inferência, uma camada de otimização responsável por transformar os cálculos dos modelos de IA em respostas mais rápidas e baratas, rodando diretamente em chips como as GPUs Nvidia SM100 e as NPUs Huawei Ascend 950. Desenvolvido inicialmente como tecnologia proprietária, ele passa agora a ser open source.

Na prática, o DeepInfer funciona como um motor de execução para o DeepSeek V4.1 Flash, modelo conhecido pelas capacidades avançadas de agentes e de codificação. Essa camada ajusta como o modelo usa a memória, distribui operações pelos chips e aproveita melhor os recursos de cada hardware.

Com isso, empresas podem executar inferências offline, sem depender o tempo todo de serviços em nuvem, e adaptar o framework tanto a infraestruturas baseadas em Nvidia quanto em Huawei, de olho em maior autonomia tecnológica.

Como o DeepInfer open source pode ajudar a reduzir custos com IA?

O ganho de custo vem da redução da quantidade de GPUs necessária para rodar as mesmas cargas de trabalho e, em paralelo, do corte no consumo de tokens durante as interações com modelos de IA.

“Há muita discussão sobre a otimização de tokens”, afirma Lian Jye Su, analista da Omdia. Segundo ele, “se você consegue executar uma tarefa rapidamente e a baixo custo, isso ajuda a otimizar seu investimento em infraestrutura de IA”.

Ao acelerar o processamento de inferência dos modelos da DeepSeek, o DeepInfer permite que empresas fechem mais chamadas de IA em menos tempo e com menor ocupação de hardware, o que reduz tanto gastos com nuvem quanto a necessidade de comprar novas placas. “Você pode executar sua carga de trabalho mais rápido”, resume Su.

Esse efeito é especialmente relevante em cenários com agentes inteligentes, que trocam muitas mensagens com modelos de linguagem e disparam volumes altos de tokens — cada token processado pesa na fatura mensal de IA.

Entenda o contexto

Ao suportar ao mesmo tempo GPUs Nvidia SM100 e NPUs Huawei Ascend 950, a DeepSeek tenta falar com dois públicos: empresas chinesas, pressionadas a depender menos da Nvidia, e clientes ocidentais, que já operam grandes data centers com as placas da gigante americana.

A decisão também reforça a disputa entre fabricantes de chips. Para Jack Gold, presidente e analista da J. Gold Associates, o movimento ajuda a projetar tanto a DeepSeek quanto a Huawei. “Eles querem ser percebidos como líderes no espaço, então tudo que puderem fazer para mostrar essa liderança é bom para eles e para a China”, diz. “Se isso ajudar, fica bom para os chips e para o modelo de IA por cima.”

Ao mesmo tempo, o fato de o DeepInfer continuar suportando fortemente a Nvidia expõe que a Huawei ainda não alcança o mesmo patamar tecnológico em todas as frentes, apesar do avanço e do interesse em se consolidar como alternativa.

No pano de fundo, pesam as tensões políticas entre China e Estados Unidos, intensificadas após o governo americano proibir o uso de soluções da DeepSeek por agências federais. A decisão de abrir o código, porém, reforça a aposta da empresa em inovação transparente. “DeepSeek está bastante obcecada por inovação e por open source dessas ideias inovadoras”, afirma Lian Jye Su.

Para o analista, o recado ao mercado é claro: quem já apostou na tecnologia da companhia espera retorno rápido e previsível. “Se você já usa DeepSeek, a ideia é que você seja uma empresa mais consciente de custos”, diz.

Fonte: matéria original