Análise do NVIDIA DGX Spark: Uma mini central de desenvolvimento de IA poderosa com GB10

 

NVIDIA DGX Spark - Preço sugerido de US$ 3.999. O compacto DGX Spark da NVIDIA, parceiro de desenvolvimento, abandona o foco em robótica de seus antecessores e entra no ambiente de trabalho com o desenvolvimento geral de IA em vista. Na CES de janeiro, a NVIDIA anunciou o que na época era chamado de Projeto DIGITS  e seu "superchip" GB10. O Projeto DIGITS foi desenvolvido para levar inteligência artificial local poderosa para desktops, com mais memória do que qualquer GPU para o consumidor comum pode oferecer. Agora chamado de NVIDIA DGX Spark, o sistema foi inicialmente anunciado com um preço de US$ 3.000 e a previsão de lançamento era para maio deste ano. No entanto, ajustes no hardware e no software, além de outros fatores externos globais, adiaram a disponibilidade para meados de outubro, e com um preço mais alto. Mas ele está aqui, e temos um para testes. Vamos conhecer o NVIDIA DGX Spark... Especificações do NVIDIA DGX Spark Encontre o DGX Spark em NVIDIA.com No coração do DGX Spark está o SoC Grace Blackwell GB10. Este SoC combina uma CPU Arm64 de 20 núcleos com uma GPU baseada em Blackwell, com núcleos RT de 4ª geração e núcleos Tensor de 5ª geração. Como todas as GPUs Blackwell, o suporte integrado ao tipo de dados NVFP4 permite que os desenvolvedores obtenham melhor desempenho e menor consumo de memória do que o INT8 ou mesmo o FP8 permitem. E tudo isso é suportado por 128 GB de memória de sistema LPDDR5x unificada, oferecendo até 273 GB/s de largura de banda máxima. Ao contrário de qualquer sistema x86, o pool de memória total de 128 GB está disponível para a CPU ou para a GPU sem qualquer particionamento estático. Por exemplo, no HP ZBook Ultra G1a que analisamos recentemente, tivemos que dividir a memória manualmente na BIOS. Se alocássemos apenas 32 GB para a GPU e reservássemos 96 GB para a CPU, qualquer carga de trabalho que ultrapassasse os limites da partição da GPU teria que ser transferida para o disco rígido (swap). No mundo Arm64, isso não é um problema; toda a memória está disponível para a CPU ou para a GPU, pois elas estão conectadas via NVLink-C2C.  Quando se trata de IA local, essa é uma distinção realmente importante e uma vantagem que as configurações baseadas em Arm parecem ter sobre os dispositivos x86 atuais. É uma vantagem que a Apple possui em IA desde o início da série Apple Silicon até o atual M4 Max, presente nos MacBooks e no Mac Studio de 2025 , e é algo que o DGX Spark também oferece. A NVIDIA afirma que, graças a essa arquitetura e ao pool de memória de 128 GB, modelos com 200 bilhões de parâmetros podem ser carregados na memória, desde que utilizem o formato de dados NVFP4.  A própria GPU também é bastante impressionante para um dispositivo tão pequeno. O desempenho é classificado em até 1 PFLOP (ou 1.000 TFLOP) de poder computacional de IA NVFP4. O que não conseguimos determinar com precisão é a quantidade exata de recursos da GPU. A ferramenta nvidia-settings no Linux mostra que existem 6144 núcleos CUDA, mas não informa a quantidade de núcleos RT ou Tensor. Se isso não for suficiente, um par de unidades DGX Spark pode ser emparelhado para compartilhar a carga, distribuindo um modelo com até 405B parâmetros entre os dois chips GB10 e suas respectivas memórias.  NVIDIA DGX Spark: Configuração e Recursos O DGX Spark é bastante compacto. Com dimensões de pouco menos de 15 x 15 cm e apenas 5 cm de altura (cerca de 1 litro de volume), ele deve apresentar uma excelente relação desempenho/volume. O chassi dourado talvez não seja dos mais elegantes, mas a grade texturizada na parte frontal e traseira impede que ele se torne um ponto brilhante e reflexivo na mesa. O único problema estético que encontramos é que o logotipo da NVIDIA está na vertical em vez de na horizontal, e não há pés laterais para que ele fique em pé.  Todas as conexões estão na parte traseira. Há quatro portas USB-C com USB 3.2 a 20 Gbps, uma única porta HDMI 2.1a compatível com 4K a 120 Hz e uma porta Ethernet de 10 Gbps. A conectividade sem fio inclui Wi-Fi 7 e Bluetooth 5.4. Embora já existam 4 TB de armazenamento interno, a rápida conectividade USB-C permitirá a expansão para dispositivos externos sem grande perda de desempenho, embora uma das portas USB-C fique ocupada pelo adaptador CA de 240 watts incluído.  Este ângulo faz com que o DGX Spark pareça incrivelmente pequeno — e ele é, de fato, muito pequeno. NVIDIA DGX Spark vs Jetson AGX Thor Developer Kit Você pode estar pensando: "Mas já não fizemos isso? A NVIDIA não lançou outro pequeno PC com IA?". E a resposta é um sim condicional. De fato, existe um kit de desenvolvimento baseado no NVIDIA Jetson AGX Thor , mas há algumas diferenças bastante significativas. Primeiramente, os SoCs são diferentes, com requisitos diferentes. O DGX Spark utiliza o SoC NVIDIA Grace Blackwell GB10 com a arquitetura de CPU Grace, enquanto o Jetson AGX Thor usa um SoC com núcleos de CPU Arm Neoverse e uma configuração de GPU diferente.  Há também diferenças de software. Os Jetsons vêm com o sistema operacional Jetpack, desenvolvido especificamente para robótica e que inclui um módulo Jetson propriamente dito, o mesmo que seria implantado em um robô, completo com seu próprio sistema operacional em tempo real e entradas para diversos sensores. Enquanto isso, o DGX Spark é voltado para IA de propósito geral. Embora seja possível realizar tarefas como desenvolvimento local de LLM e IA generativa de imagens no Jetson, você perderia a vantagem do hardware especializado para robótica. E você ficaria limitado a 1 TB de armazenamento interno com USB de 5 Gbit mais lento para expansão, em comparação com os 4 TB do Spark, sem mencionar os núcleos Arm mais rápidos e os limites térmicos e de energia mais altos do DGX Spark.  Outro ponto importante sobre o Jetson AGX Thor Developer Kit é que se trata de um lançamento limitado. Quando essas unidades se esgotarem, a NVIDIA afirma que não produzirá mais, pois espera que, nesse momento, os clientes estejam comprando os módulos para implantação em nuvem. Por outro lado, o DGX Spark veio para ficar e permanecerá disponível por muito tempo.  O DGX Spark é um acessório para desenvolvedores. A NVIDIA afirma que o DGX Spark não foi projetado para substituir o PC workstation de um desenvolvedor, mas sim para funcionar como um complemento. Ele pode, certamente, ser configurado no modo desktop, operando como uma workstation comum. No entanto, seu objetivo principal é ser acessado através do NVIDIA Sync, onde não haverá desperdício de memória e outros recursos renderizando um ambiente de desktop e gerenciando navegadores web e clientes de e-mail. Essa capacidade de processamento e memória são preciosas demais quando podem ser usadas para IA, e a conexão através da rede local preserva ao máximo esses recursos.  Este é um paradigma com o qual os desenvolvedores estão bem familiarizados. A ideia de usar sua estação de trabalho para controlar uma GPU remota é tão válida para um sistema DGX baseado em nuvem quanto para o DGX Spark. O Spark não será tão rápido quanto uma RTX Pro 6000 com 96 GB de VRAM, mas não precisa ser, já que essa GPU para data center custa US$ 10.000.  O aplicativo NVIDIA Sync está disponível para Windows, Linux e Mac. Supondo que seu ambiente de desenvolvimento (em nosso caso, o Visual Studio Code) já esteja configurado, o aplicativo Sync pode se conectar ao seu DGX Spark e usá-lo como um espaço de trabalho remoto por meio de uma conexão Ethernet local de 2,5 Gbps. É extremamente fácil de usar também. O Explorer do VS Code nos mostrou o conteúdo do armazenamento do Spark, o terminal integrado nos conectou ao Spark e os aplicativos em execução no Spark ficaram acessíveis localmente.  O NVIDIA Sync conecta seu ambiente de desenvolvimento integrado ao Spark com facilidade. Por exemplo, clonamos o repositório git do ComfyUI para o Spark, configuramos um ambiente virtual com Python e o utilitário virtualenv, instalamos nossas dependências a partir do requirements.txt no projeto e, em seguida, carregamos o ComfyUI no navegador em um Mac Studio. Depois que o Spark estiver configurado, você não precisará mais mexer nele.  É claro que conexões SSH padrão também são suportadas, mas considerando o quão perfeitamente o aplicativo NVIDIA Sync funcionou para nós, simplesmente não nos incomodaríamos. Além do Visual Studio Code, o Cursor e o NVIDIA AI Workbench também são suportados. Todas as três ferramentas de desenvolvimento estão disponíveis para as três principais plataformas de desktop, e distribuições Linux são suportadas em sistemas operacionais baseados em Debian (como o Ubuntu), Red Hat e Arch.  NVIDIA Build facilita o desenvolvimento remoto Um dos melhores aspectos do DGX Spark é o software. O hardware é incrível, sem dúvida, mas a NVIDIA garantiu que ele seja utilizável não apenas por desenvolvedores, mas por qualquer pessoa. Se você conseguir seguir um assistente para configurar o sistema assim que o tirar da caixa, conectar-se a ele com o NVIDIA Sync e colar alguns comandos em um terminal, você também poderá ser um desenvolvedor de IA.  Controlando o Spark remotamente a partir do Visual Studio Code Há também muitos "playbooks" disponíveis no hub Spark do NVIDIA Build . Desde um guia passo a passo para configurar o ComfyUI, gerar conteúdo localmente e criar e implantar um chatbot multiagente, a NVIDIA oferece tudo o que você precisa. Esses playbooks são feitos sob medida para o hardware Spark e todo o conteúdo está disponível publicamente desde o primeiro dia.  Isso não significa que esteja totalmente finalizado, no entanto. A NVIDIA nos informou que há mais novidades a caminho. Embora atrasos e mudanças de preço não sejam agradáveis, parece que as equipes de engenharia de software da NVIDIA trabalharam bastante para aprimorar o portal. Não deixe de conferir a próxima página, pois é lá que vamos testar alguns desses playbooks e finalmente começar a falar sobre alguns números de desempenho.