GPU-сервер Dell R740 (3xRTX 3090 24GB, 2xXeon Gold 6230R, 192GB)

72 ГБ VRAM в корпусе 2U: три GeForce RTX 3090 24GB на платформе Dell R740. Такой объём видеопамяти позволяет запускать 70B-модели в Q4 полностью локально: Llama, Qwen, Mistral — без облаков и подписок.

Платформа: 2 × Xeon Gold 6230R, 192 ГБ DDR4-2666, Broadcom 57412 2 × 10G. Питание — 2 × 1600 Вт: три 3090 берут до 1050 Вт, запас учтён. GPU-кит, рейки и кабельный менеджмент (CMA) включены.

Честно про 3090: почти все эти карты приезжают из майнинга. Мы тестируем каждую (FurMark + memtest_vulkan) и отвечаем за стабильность. При резервировании БП 1+1 рекомендуем ограничить power limit до 300 Вт — поможем настроить.