Thinking Machines Lab lança Inkling: 975 bilhões de parâmetros open-weight

Quando Mira Murati deixou a OpenAI em setembro de 2024 — após anos como CTO e arquiteta de grande parte da estratégia de produto da empresa —, a pergunta óbvia era: o que ela vai construir? A resposta chegou com mais peso do que muitos esperavam. A Thinking Machines Lab acaba de lançar o Inkling, um modelo de linguagem open-weight baseado em arquitetura mixture-of-experts (MoE) com 975 bilhões de parâmetros totais e 41 bilhões de parâmetros ativos por inferência. Não é um experimento de laboratório. É uma declaração de posicionamento num mercado que, até pouco tempo atrás, parecia reservado a OpenAI, Google e Anthropic.

O que é o Inkling e como ele funciona

O Inkling adota a arquitetura MoE — a mesma lógica que está por baixo do GPT-4 e do Gemini 1.5 — mas com uma escala que posiciona o modelo na faixa frontier. Na prática, MoE significa que o modelo não usa todos os seus 975 bilhões de parâmetros ao mesmo tempo. A cada token gerado, apenas um subconjunto de "especialistas" é ativado — no caso do Inkling, cerca de 41 bilhões de parâmetros. Isso tem uma consequência direta e muito relevante para quem opera infraestrutura: o custo de inferência cai drasticamente em relação a um modelo denso de tamanho equivalente.

O fato de ser open-weight é o outro diferencial estrutural. Diferente de uma API fechada, um modelo open-weight pode ser baixado, ajustado (fine-tuned) e hospedado em infraestrutura própria. Empresas que têm restrições de compliance, dados sensíveis de clientes ou simplesmente querem controle sobre latência e custo por token passam a ter uma alternativa de ponta — sem depender de um único fornecedor.

Por que o tamanho importa aqui

975 bilhões de parâmetros totais coloca o Inkling na mesma conversa que o Mixtral 8x22B da Mistral e o DeepSeek-V3, ambos MoE de referência no segmento open. A diferença relevante é a origem: Thinking Machines Lab chega com capital de alto perfil, equipe formada por ex-OpenAI e o peso do histórico de Murati como uma das pessoas mais influentes na construção do ChatGPT. Isso importa porque a qualidade de treinamento — os dados, o processo de RLHF, o alinhamento — é tão determinante quanto o número de parâmetros.

O que muda no mercado de modelos

Até 2023, a conversa sobre modelos frontier era binária: você usava GPT-4 via API ou ficava com alternativas claramente inferiores. Esse cenário mudou com o Llama 3 da Meta, o DeepSeek da China e o Mistral da França. O Inkling aprofunda essa ruptura.

Para empresas que usam IA em produto, suporte ou engenharia, o impacto é concreto:

• Mais alavancagem em negociação de preço. Quando existem três ou quatro modelos frontier disputando o mesmo workload, fornecedores como OpenAI e Anthropic sentem pressão para ajustar preços e condições. Já vimos isso acontecer — o GPT-4o mini e o Claude Haiku existem, em parte, por causa dessa competição.
• Mais opções de licenciamento. Open-weight não é o mesmo que open-source puro, mas permite implantação on-premise ou em VPC privada. Para um banco, uma healthtech ou qualquer empresa com dados regulados, isso pode eliminar um bloqueador real.
• Benchmark deixa de ser o único critério. Com mais modelos de qualidade comparável, a decisão migra para latência, custo por token, capacidade de fine-tuning e suporte. Isso favorece empresas que constroem competência interna de avaliação de modelos — não apenas quem assina a API mais cara.

Um caso de uso para ancorar a decisão

Imagine uma empresa de e-commerce de médio porte que usa LLMs para três funções: geração de descrições de produto, triagem de tickets de suporte e sugestão de resposta para agentes humanos. Hoje, esse stack provavelmente roda sobre GPT-4o ou Claude 3.5, com custo mensal que pode variar de R$ 8 mil a R$ 40 mil dependendo do volume.

Com um modelo como o Inkling rodando em infraestrutura própria — via cloud dedicada ou até hardware on-premise para empresas maiores —, o custo de inferência cai para o preço do compute, sem margem de fornecedor. O fine-tuning permite que o modelo aprenda o tom e o catálogo da empresa sem depender de prompts gigantescos. E a latência pode ser otimizada de acordo com a arquitetura interna.

Isso não é ficção: é exatamente o que empresas europeias e norte-americanas de médio porte já fazem com Llama 3 e Mistral. O Inkling entra nessa conversa com parâmetros de qualidade mais altos.

O que ainda não sabemos — e importa saber

Toda avaliação honesta precisa de ressalvas. O Inkling foi anunciado, mas benchmarks independentes e comparações head-to-head em tarefas reais ainda estão sendo conduzidos pela comunidade. A qualidade de raciocínio em português — relevante para qualquer empresa brasileira — depende do mix de dados de treinamento, que a Thinking Machines Lab ainda não detalhou publicamente.

Além disso, rodar um modelo de 975 bilhões de parâmetros totais exige infraestrutura séria. Mesmo com MoE reduzindo o custo de inferência, o footprint de memória para carregar os pesos é substancial. Para a maioria das PMEs, a rota prática será via API — se e quando a Thinking Machines Lab disponibilizar um endpoint comercial — ou via provedores de cloud que hospedem o modelo.

O cenário que se consolida

O lançamento do Inkling confirma uma tendência que venho acompanhando de perto: a fronteira da IA deixou de ser propriedade exclusiva de dois ou três laboratórios americanos. Isso é estruturalmente bom para qualquer empresa que usa IA como insumo estratégico — porque competição gera melhores modelos, preços menores e mais opções de como e onde rodar.

Para gestores de tecnologia e produto no Brasil, a mensagem prática é simples: o momento de construir competência interna para avaliar, comparar e trocar de modelo conforme o mercado evolui é agora. Quem ficou refém de um único fornecedor em 2023 já sentiu o custo disso. Com o Inkling na mesa, as opções ficaram melhores — e a desculpa para não diversificar, menor.