DeepSeek lança DeepInfer aberto para cortar custo de IA

Inteligência Artificial

Nova ferramenta open source promete reduzir custos e consumo energético na inferência de IA.

Leia também: IA eleva 35% FIIs de data centers em SP e RJ com riscos claros

A chinesa DeepSeek lançou nesta quarta-feira, 21, o DeepInfer, uma ferramenta de código aberto criada para reduzir o custo e o consumo de energia na fase de inferência de modelos de inteligência artificial, abrindo suas técnicas para empresas e provedores de nuvem no mundo todo.

Como o software DeepSeek ajuda a reduzir custos de operação de IA?

O DeepInfer corta custos operacionais ao otimizar a etapa de inferência, quando o modelo já treinado é usado para responder perguntas, gerar textos ou executar tarefas em escala. É justamente nessa fase que empresas e provedores de nuvem mais gastam com servidores, energia e infraestrutura.

O software combina diferentes técnicas de otimização e destaca a chamada inferência distribuída: em vez de concentrar todo o processamento em um único chip ou servidor, o sistema divide a carga de trabalho entre vários componentes de hardware. Assim, o mesmo parque de máquinas pode entregar um volume maior de respostas no mesmo período, reduzindo o custo de cada solicitação.

Segundo a DeepSeek, essas técnicas já vinham sendo usadas internamente para manter baixos os custos de execução de seus próprios modelos. Agora, passam a ser disponibilizadas em código aberto para que outras empresas as adaptem às suas arquiteturas, seja em grandes data centers de nuvem, seja em servidores próprios instalados em escritórios e fábricas.

Na prática, operadores de nuvem que oferecem acesso aos modelos da DeepSeek podem incorporar o DeepInfer à sua infraestrutura para baixar o gasto computacional por requisição e melhorar as margens de lucro. Se parte dessa economia for repassada à base de clientes, serviços de IA podem ficar mais baratos para desenvolvedores, startups e empresas que consomem essas APIs.

Organizações que rodam modelos internamente, sem terceirizar para a nuvem, também aparecem entre as beneficiadas. Ao tornar o uso de GPU e outros componentes mais eficiente, o DeepInfer tende a diminuir contas de energia e a necessidade de expansão rápida do parque de servidores, dois custos que pesam no orçamento de projetos de IA.

Quais são os benefícios do DeepSeek para empresas que usam inteligência artificial?

Os principais benefícios para empresas que usam inteligência artificial são a redução de custo por requisição, o menor consumo de energia para rodar modelos e a possibilidade de customizar a infraestrutura sem depender apenas de soluções proprietárias. O efeito esperado é uma operação de IA mais barata e previsível.

Em setores que dependem intensamente desses sistemas — como tecnologia, serviços digitais, e-commerce e provedores de nuvem —, a economia pode melhorar as margens de lucro e até permitir que parte da redução de despesa chegue ao preço final de serviços baseados em IA, como assistentes virtuais, ferramentas de atendimento automático e motores de recomendação.

Para desenvolvedores e equipes técnicas, o fato de o DeepInfer ser aberto significa acesso direto às implementações da DeepSeek. Isso permite estudar, adaptar e integrar as técnicas de otimização a ambientes variados, inclusive misturando hardware de fabricantes diferentes e arquiteturas híbridas que combinam nuvem pública, nuvem privada e servidores locais.

Thibault Jaigu, presidente-executivo da startup Requesty, que desenvolve ferramentas de métricas e roteamento para serviços de IA, avalia que a iniciativa facilita o caminho para quem quer hospedar modelos por conta própria. Segundo ele, “a iniciativa reduz as barreiras para hospedar os modelos da empresa”.

Ao abrir o código, a DeepSeek também tenta criar um ecossistema em torno do DeepInfer. A expectativa é que outros desenvolvedores colaborem com melhorias, novos conectores e ajustes para diferentes padrões de hardware, o que pode acelerar a adoção e multiplicar os casos de uso em ambientes corporativos.

Entenda o contexto

A inferência — fase em que o modelo já treinado é acionado para produzir respostas em tempo real — virou um dos principais gargalos econômicos da inteligência artificial. Dois serviços que usem o mesmo modelo podem ter contas muito diferentes dependendo da eficiência do software que orquestra o hardware e do próprio desenho da infraestrutura.

Nesse cenário, o DeepInfer chega como uma espécie de referência técnica. Apesar de muitas das técnicas empregadas já existirem no setor, a DeepSeek afirma ter feito adaptações específicas para seus modelos e agora expõe esse trabalho à comunidade. Ainda não há estudos independentes que quantifiquem os ganhos de eficiência em diferentes ambientes, e a economia real deve variar conforme a infraestrutura, o tipo de aplicação e o volume de tráfego.

A adoção, porém, não é automática. Para tirar proveito do DeepInfer, as empresas precisam de equipamentos com capacidade de processamento adequada e de profissionais especializados para instalar, integrar e manter o sistema. Em companhias menores ou com infraestrutura tecnológica limitada, esses requisitos podem retardar o uso pleno da ferramenta.

Os próximos passos devem incluir testes em ambientes reais e comparações com outras soluções de otimização. Se os ganhos prometidos se confirmarem em escala, a abertura do DeepInfer tende a pressionar concorrentes a oferecer alternativas semelhantes, ampliando a corrida por sistemas de IA mais baratos e energeticamente eficientes.

Fonte: matéria original