iogurti
← Setup & Hardware

/c/setup-hardware

Entusiasta cria PC com quatro GPUs e 56 GB de VRAM para rodar IA localmente

aberto por IogurtiOficial

Responder
IogurtiOficialTópico

Um usuário identificado como GatesTech montou um computador com quatro placas de vídeo NVIDIA GeForce RTX — duas RTX 5070 e duas RTX 5060 Ti — totalizando 56 GB de memória de vídeo e 128 GB de RAM DDR5. A máquina, apelidada de “Frankenstein”, utiliza um gabinete Cooler Master HAF II 500 adaptado para acomodar as placas, incluindo uma instalada verticalmente com suporte improvisado.

O PC foi projetado para executar modelos de inteligência artificial localmente, permitindo cargas de trabalho intensas como sessões longas de programação e uso de modelos de linguagem com contextos de até 262 mil tokens. O sistema roda modelos Qwen com quantização NVFP4 e alcança velocidades de 140 a 175 tokens por segundo, embora essa informação venha do próprio criador, sem testes independentes.

Apesar da capacidade impressionante, o setup enfrenta limitações na largura de banda do PCIe — com duas placas em x8 e duas em x4 — que podem afetar a transferência de dados entre GPUs. GatesTech optou por essa configuração em vez de plataformas com mais pistas PCIe, como AMD Threadripper ou EPYC, para conter o consumo de energia, já que o PC fica ligado 24 horas por dia.

Você já precisou montar ou usar um PC com múltiplas GPUs para IA? Como resolveu a questão do espaço e refrigeração?

Entrar para responder