Infrastructure

Explore dypsis.ai insights, guides, and research in the Infrastructure category.

Infraestruturafevereiro de 2026

GPUStack com NVIDIA MIG: Um Mergulho Profundo na Orquestração de GPUs Multi-Instância

A tecnologia Multi-Instance GPU (MIG) promete maximizar a utilização da GPU ao particionar uma única GPU em instâncias isoladas. Mas fazer o MIG funcionar com ferramentas de orquestração de containers como o GPUStack requer navegar por um labirinto de configuração CDI, enumeração de dispositivos e patches de runtime. Este artigo técnico partilha as nossas soluções testadas em produção.

Frederico Vicente

15 min de leitura

Execução Privada de LLMs: Ambientes de Execução Confiáveis e Contentores Encriptados

Artigo

Infraestruturanovembro de 2025

Execução Privada de LLMs: Ambientes de Execução Confiáveis e Contentores Encriptados

Executar inferência de LLM e fine-tuning em conjuntos de dados privados requer a ponte entre criptografia teórica e sistemas práticos de alto desempenho. Aprenda como TEEs e contentores encriptados criam ambientes de execução isolados por hardware e em conformidade para cargas de trabalho de IA confidenciais.

Frederico Vicente

16 min de leitura

RAM vs VRAM em Modelos Mixture of Experts: O Gargalo Escondido nos LLMs de Nova Geração

Artigo

Infraestruturasetembro de 2025

RAM vs VRAM em Modelos Mixture of Experts: O Gargalo Escondido nos LLMs de Nova Geração

Explore como a VRAM da GPU e a RAM do sistema moldam o desempenho de modelos Mixture of Experts como o Qwen3-Next. Descubra porque a hierarquia de memória é o verdadeiro gargalo em implementações modernas de LLM e como otimizar a infraestrutura para velocidade e escalabilidade.

Frederico Vicente

8 min de leitura

← View all insights