Visual Studio CodeDownload

A Meta e a Apple afirmam que o modelo de 816 bilhões de parâmetros pode ser executado localmente para programação e tarefas no estilo de agentes, desde que você tenha memória unificada suficiente para suportá-lo. Dois Mac Studios de 512 GB podem comportar o modelo completo, basicamente o mesmo que uma configuração de 1 TB, embora a Apple observe que algumas implementações podem exigir de dois a quatro sistemas com pelo menos 1 TB combinados. O que torna isso viável, segundo a Apple, é o M5 Ultra: memória unificada mais 1,2 TB/s de largura de banda. Isso oferece aos desenvolvedores uma solução de desktop bastante incomum para um modelo desse porte, já que está muito além do que a maioria dos laptops, desktops ou PCs gamers consegue lidar de forma razoável.

Isso é importante para quem se preocupa com privacidade, menor latência ou simplesmente em ter mais controle sobre onde o modelo é executado. Mas o preço traz isso de volta à realidade rapidamente. Com base nos preços da Apple, um Mac Studio de 256 GB já ultrapassa os US$ 10.000, uma versão de 512 GB é esperada posteriormente e uma configuração local completa pode chegar a mais de US$ 40.000. Portanto, para a maioria das pessoas, isso soa menos como uma lista de compras e mais como uma demonstração do que é possível, a menos que você trabalhe em um laboratório, uma startup ou uma equipe corporativa.

Existe também uma sinergia excepcionalmente direta entre a Meta e a Apple. A Meta ganha uma vitrine de hardware impecável para sua estratégia de design open-weight. A Apple, por sua vez, demonstra que seus Macs são capazes de lidar com cargas de trabalho de última geração localmente.

A Meta afirma que o Muse Spark Open está disponível através do Baseten, Groq, Modal, Nebius e OpenRouter. Se você quiser os pesos diretamente, eles estão disponíveis no Hugging Face, Google Cloud Model Garden, Amazon SageMaker e Microsoft Foundry Models sob uma licença limitada para uso comercial.

PythonDownload