A ZML, uma promissora startup francesa de inteligência artificial, lançou um software de desempenho de inferência que permite a execução de diversos modelos de linguagem de código aberto em múltiplos chips, incluindo os da Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. A iniciativa, chamada ZML/LLMD, visa quebrar barreiras existentes e maximizar a velocidade de uso de diferentes chips em aplicações de IA, conforme informou o fundador da empresa, Steeve Morin, em entrevista ao TechCrunch.

Otimização da Inferência em IA

Com a crescente integração da IA em ambientes de trabalho e na vida cotidiana, a otimização da inferência, que se refere ao processamento de solicitações, tornou-se uma prioridade, superando a importância do treinamento de modelos. Morin destacou que o processo de inferência frequentemente enfrenta obstáculos de software e arquitetura, levando a um bloqueio por fornecedores. Ele enfatizou que a proposta da ZML é devolver aos usuários a capacidade de criar seus próprios sistemas e alcançar ganhos reais de eficiência que facilitem a disseminação da IA.

Desafios e Oportunidades no Mercado de IA

A ZML acredita que seu software pode beneficiar empresas e provedores de nuvem ao permitir o uso de uma combinação de chips, alguns dos quais podem ser mais acessíveis ou consumir menos energia. Morin mencionou que a ZML está disposta a colaborar com novos fabricantes de chips de IA, muitos dos quais estão localizados na Europa, como Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. O foco da empresa está em desenvolver soluções inovadoras que ainda não foram implementadas em nenhum lugar do mundo.

Apesar das incertezas no mercado, Morin não vê a Nvidia como uma concorrente a ser subestimada, especialmente devido à sua capacidade de fornecimento. A ZML mantém um bom relacionamento com a gigante dos chips de IA, que está se preparando para o crescimento da inferência, um campo que tem atraído investimentos significativos, sendo chamado de "corrida do ouro da inferência". A startup enfrenta concorrência de empresas como Baseten, avaliada em US$ 13 bilhões, Inferact, oriunda do projeto de código aberto vLLM, e RadixArk, a empresa comercial por trás do SGLang.

Perspectivas Futuras e Financiamento

Embora o ZML/LLMD não seja um projeto de código aberto, ele será lançado como um produto gratuito com o objetivo de aprender sobre seu uso. Morin ressaltou que prefere medir a eficácia do software antes de gerar receita, evitando comprometer o crescimento da empresa por ambição excessiva. A startup, que opera com uma equipe enxuta de 20 pessoas, conseguiu levantar US$ 20 milhões em financiamento de investidores de risco, incluindo Harry Stebbings’ 20VC e Kima Ventures, o que contribui para sua agilidade no desenvolvimento de novos produtos.

Embora ainda seja cedo para prever quando o ZML/LLMD pode se tornar um produto pago, a atenção de outros fundadores, como os da Dagger e Docker, assim como de Clément Delangue e Julien Chaumond, da Hugging Face, sugere que o setor de IA na Europa está se fortalecendo. Morin afirmou que a ZML só poderia ter sido criada em Paris, reforçando o potencial das startups de IA na região.