wiki/f-decisions/infra-gpu-instance/1-analyse/spezifikation.txt
2026-05-10 22:10:00 +02:00

16 lines
610 B
Text
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

# SPEZIFIKATION
Private LLM GPU Instance
## SERVER
1× Server Supermicro AS-4125GS-TNRT (4U Chassis mit Netzteilen, Mainboard, Kühlung)
1× CPU AMD EPYC 9354 (32 Cores)
12× 32 GB DDR5 ECC RDIMM (= 384 GB RAM)
2× SSD Samsung PM9A3 1.92 TB NVMe (für das Betriebssystem)
2× SSD Samsung PM9A3 3.84 TB NVMe (für Modelle und Daten)
1× Netzwerkkarte Mellanox ConnectX-6 Dx 2× 25 GbE + 2 passende Transceiver oder DAC-Kabel
1× Rail-Kit für den Server (passend zum Chassis)
1× USV APC Smart-UPS SRT 3000 (3 kVA)
1× Rack-Steckdosenleiste (PDU) mit C13/C19-Anschlüssen
## PRO GPU
1× GPU NVIDIA L40S 48 GB