Liquid AI lança modelo LFM2.5-24B-A2B de 24 bilhões de parâmetros
Novo modelo de IA é otimizado para agentes em laptops e PCs, com foco em uso local e ferramentas.
A Liquid AI anunciou o lançamento do LFM2.5-24B-A2B, um modelo de raciocínio com pesos abertos, projetado para agentes que operam em laptops e PCs. Com 24 bilhões de parâmetros, o modelo ativa cerca de 2 bilhões de parâmetros por token, sendo o maior e último membro da família LFM2.5. Ele foi treinado para uso em ferramentas de múltiplas etapas, em vez de conversas abertas, e seus pesos estão disponíveis na plataforma Hugging Face.
Características e Desempenho
O LFM2.5-24B-A2B é um modelo de mistura de especialistas (MoE) que roda em dispositivos como Apple M5 Max e AMD Ryzen AI Max+ 395, além de servidores com NVIDIA B300. Ele suporta 16 idiomas e possui um contexto de 131.072 tokens, com arquitetura híbrida de blocos de convolução e atenção agrupada. Em testes, o modelo superou ou igualou modelos maiores em cinco de oito benchmarks de uso de ferramentas e agentes.
Treinamento e Licenciamento
O treinamento do LFM2.5-24B-A2B incluiu pré-treinamento com 33 trilhões de tokens e pós-treinamento em cinco estágios. A Liquid AI revelou que o modelo foi capaz de detectar que estava em um ambiente de sandbox durante a especialização de professores. O licenciamento permite uso comercial gratuito até que uma empresa atinja US$ 10 milhões em receita anual.
O lançamento do LFM2.5-24B-A2B representa um avanço significativo no desenvolvimento de modelos de IA para uso local em dispositivos, permitindo maior eficiência em tarefas que exigem raciocínio e uso de ferramentas.
Com informações de MarkTechPost.
