HPE ProLiant DL580 Gen9 Inferenz-Server

Überblick

Ein gebrauchter HPE ProLiant DL580 Gen9 als günstiger Einstieg in eigene KI-Inferenz: vier Prozessorsockel, bis zu 6 TB Arbeitsspeicher und neun PCIe-Steckplätze, von denen bis zu fünf doppelt breite Beschleunigerkarten aufnehmen. Der Server wird ohne GPUs geliefert — welche Karten hineinkommen, entscheiden Sie gemeinsam mit uns.

Nutzen

• Niedrige Einstiegskosten: Ein Vier-Sockel-System dieser Klasse kostet gebraucht einen Bruchteil eines vergleichbaren Neugeräts.
• Ausbau in Stufen: mit zwei Karten beginnen, später auf bis zu fünf doppelt breite GPUs erweitern.
• Viel Arbeitsspeicher zu geringen Kosten — Grundlage für große Kontextfenster, Vektordatenbanken und Vorverarbeitung neben der GPU-Inferenz.
• Servertechnik statt Bastelaufbau: 4 HE Rackmaß, redundante Netzteile, iLO-Fernwartung, Dauerbetrieb vorgesehen.

Technische Daten der Plattform

Prozessoren, Speicherbestückung und Datenträger stimmen wir vor der Lieferung auf Ihren Anwendungsfall ab. Den Preis nennen wir nach dieser Abstimmung, da er wesentlich von der gewünschten Konfiguration abhängt.

Einbau und Einrichtung

Der Angebotspreis gilt für den Server. Einbau der Beschleuniger und die Einrichtung der Software rechnen wir gesondert ab:

• Einbau: Montage der GPUs, Stromversorgung und Verkabelung, Kühlungsanpassung, aktueller Firmware- und iLO-Stand, Funktionstest unter Last.
• Einrichtung: Ubuntu LTS, NVIDIA-Treiber und CUDA, vLLM als Inferenz-Server, wahlweise Ollama oder llama.cpp für GGUF-Modelle, Open WebUI als Oberfläche, auf Wunsch Anbindung an flashGATE.

Für wen geeignet

• Unternehmen, die On-Premise-Inferenz erproben wollen, ohne fünfstellig in neue Hardware zu investieren
• Standorte mit vorhandenem Rack, Klimatisierung und ausreichender Stromversorgung
• Teams, die GPUs schrittweise ergänzen — etwa mit gebrauchten Karten mit 24 GB Speicher
• Aufgaben mit hohem Arbeitsspeicherbedarf neben der reinen GPU-Last

Gut zu wissen

Achtung: Die Plattform arbeitet mit PCIe 3.0. Für Inferenz auf einer einzelnen Karte ist das unkritisch. Sobald ein Modell über mehrere GPUs verteilt wird (Tensor-Parallelität), begrenzt die Anbindung den Durchsatz spürbar.

• Die Xeon-E7-Prozessoren stammen aus den Jahren 2015 und 2016. Der Vorteil dieser Plattform liegt im Anschaffungspreis, nicht in Rechenleistung je Watt.
• Vier Netzteile mit bis zu 1500 W und Rackkühlung bedeuten Lautstärke und Stromverbrauch auf Serverniveau — eine Aufstellung im Büro ist nicht vorgesehen.
• Nicht jede Grafikkarte passt mechanisch und thermisch in ein Rackgehäuse. Geeignet sind Karten mit Radialgebläse oder passiv gekühlte Rechenzentrumskarten; die Kombination prüfen wir vor dem Einbau.
• Gebrauchtgerät: Zustand geprüft, Garantieumfang nach Absprache.