Servidor de IA recondicionado com 64 GB de VRAM

Servidor de IA reacondicionado con 64 GB de VRAM

VRAM dita o modelo. Qwen denso 27B–32B, Llama 70B quantizado, Mixtral 8×7B — isso pede 32 a 64 GB, não os 24 GB de uma 4090. O engenheiro Donato Capitella, com a Bargain Hardware, montou um Supermicro recondicionado com quatro GPUs de datacenter (64 GB no total) por cerca de £2.000 e mediu V100, P100 … Leer más

ova2xva: migre VMs do VMware/VirtualBox para XCP-ng com um comando

ova2xva: migra VMs de VMware/VirtualBox a XCP-ng con un solo comando

Tirar uma VM do VirtualBox ou do VMware e pôr no XCP-ng (ou no XenServer) costuma virar ritual: exportar OVA, converter disco na mão, brigar com o xe. O ova2xva é um CLI em Go (MIT) que faz o caminho de ida e o de volta num binário só — converte OVA ou disco solto … Leer más

llama-model: gerencie modelos GGUF e o llama-server sem o daemon do Ollama

llama-model: gestiona modelos GGUF y llama-server sin el demonio de Ollama

Se você roda modelos de IA localmente com llama.cpp / llama-server, conhece a dor: baixar GGUF na mão, editar config, reiniciar serviço, torcer para o modelo subir. O llama-model resolve isso — uma CLI em Go, binário estático único, que gerencia o seu acervo de modelos e o serviço llama-server sem precisar do daemon do … Leer más

Monitorando Servidores Linux com Prometheus e Node Exporter

Monitorización de servidores Linux con Prometheus y Node Exporter

Servidor sem monitoramento só avisa que caiu quando alguém reclama. Com o Node Exporter, cada host expõe métricas do Linux; o Prometheus as coleta e guarda como séries temporais para consulta e alerta. Este roteiro usa pacotes do Ubuntu onde eles existem, evita expor métricas na internet e valida cada etapa antes de seguir. O … Leer más