KI-Rechenzentrum für den Mittelstand: on premise, mit Energie vom eigenen Gelände

Als Beispielgröße nennen wir etwa 60 kW IT-Last. Kleinere Anwendungen laufen oft auf einzelnen GPU-Servern oder Racks im Bestand. Was für Sie passt, hängt von Ihren KI-Anwendungen, Datenmengen und Ausbauplänen ab; das klären wir im Standortcheck.

Das hängt vom Projekt ab. Container und GPU-Server können Sie direkt beim Hersteller kaufen oder leasen; Leasing oder Finanzierung ist oft über die Finanzierungsangebote der Hardware-Hersteller möglich. Wie wir die Beschaffung aufsetzen, besprechen wir gern mit Ihnen. Wir arbeiten herstellerneutral und übernehmen in jedem Fall Energie, Netzanschluss, elektrische Einbindung und die Koordination aller Gewerke.

Herstellerneutral: Wir sind an keinen Server- oder Container-Hersteller gebunden und empfehlen die Lösung, die zu Ihrem Standort passt.

Für die meisten Rechenzentren im Mittelstand heute nicht. Die Pflichten des Energieeffizienzgesetzes, darunter die bilanzielle Deckung mit erneuerbarem Strom, gelten für größere Rechenzentren, derzeit ab 300 kW nicht redundanter elektrischer Nennanschlussleistung; eine Änderung ist im Gesetzgebungsverfahren. Für eigene PV spricht vor allem, dass selbst erzeugter Strom in der Regel günstiger ist als Netzbezug.

Nur einen Teil. Ein Rechenzentrum mit 60 kW Dauerlast braucht rund 525 MWh im Jahr, eine PV-Anlage mit 60 kWp liefert üblicherweise 55 bis 60 MWh. Den Rest liefert weiter das Netz, vor allem nachts und im Winter. Eigener Solarstrom senkt die Kosten, macht aber nicht unabhängig vom Netz.

Das prüfen wir anhand Ihres Lastgangs und Ihrer Anschlussleistung. Ein Rechenzentrum zieht rund um die Uhr nahezu gleichmäßig Leistung; zusammen mit dem laufenden Betrieb wird es am Hausanschluss oft eng. Ein Batteriespeicher fängt Spitzen ab, ersetzt aber keine fehlende Dauerleistung.

Der Aufbau vor Ort ist schnell: Ein vorgefertigtes Container-Rechenzentrum kommt fertig verdrahtet und getestet und wird aufgestellt und angeschlossen. Für sein Referenzdesign DSX POD, gedacht für große KI-Rechenzentren, nennt NVIDIA an einem vorbereiteten Standort im besten Fall 14 Tage statt sechs Monaten. Den Zeitplan bestimmt in der Praxis aber meist der Netzanschluss: Leistungserhöhung oder ein neuer Mittelspannungsanschluss brauchen beim Netzbetreiber viele Monate, mit neuer Trafostation auch länger. Deshalb bereiten wir den Standort vor, bevor die Hardware bestellt wird.

Die IT-Inbetriebnahme übernehmen spezialisierte IT-Partner oder Ihr eigenes Team, einschließlich der Anbindung an bestehende Systeme wie ERP. Wir koordinieren Termine und Schnittstellen, damit Energie, Netz und IT zum selben Zeitpunkt fertig sind.

NVIDIA OpenShell, eine Open-Source-Laufzeitumgebung (Apache 2.0) mit Sandbox und Richtlinien je Agent, nutzbar für beliebige Agenten. Welchen Agenten Sie einsetzen, entscheiden wir mit Ihnen nach Anwendungsfall. StromWert ist kein Partner von NVIDIA.

Mit der richtigen Laufzeitumgebung lässt sich nachvollziehbar begrenzen, was ein Agent tun kann. Mit NVIDIA OpenShell arbeitet jeder Agent laut NVIDIA in einer eigenen, abgeschotteten Umgebung, erreicht nach außen nur freigegebene Ziele, sieht keine echten Zugangsdaten und bekommt neue Rechte in der Grundeinstellung erst nach Prüfung durch einen Menschen. Das ergänzt Ihr IT-Sicherheitskonzept, es ersetzt es nicht.

Ja. Ein offenes Modell wie NVIDIA Nemotron lässt sich per Nachtraining (Fine-Tuning) an Fachsprache, Formate und Abläufe Ihres Betriebs anpassen, auf Ihrer eigenen Hardware. Die eigentliche Arbeit ist ein sauberer Trainings- und Prüfdatensatz aus Ihren Firmendaten. Ob sich das lohnt oder die Dokumentensuche reicht, sagen wir Ihnen ehrlich.

Fine-Tuning bringt einem Modell bei, wie es arbeiten soll: Fachbegriffe, Aufbau eines Prüfberichts, Ton eines Angebots. Die Dokumentensuche (RAG) gibt ihm bei jeder Anfrage die passenden aktuellen Unterlagen mit. Fakten, die sich ändern, etwa Preise, Vorschriften oder Lagerbestände, gehören in die Dokumentensuche, nicht ins Training. Oft ist die Kombination am besten.

Für die Modelle, die wir nennen, ja: NVIDIA Nemotron 3 Super steht unter der NVIDIA Nemotron Open Model License, die kommerzielle Nutzung und eigene Weiterentwicklungen erlaubt; Nemotron 3.5 Lightning unter der offenen Lizenz OpenMDW 1.1. Die Lizenzbedingungen, etwa Hinweise bei der Weitergabe, prüfen wir für jedes Modell vor dem Start.

Neben dem Server selbst: einen ausreichend abgesicherten Stromkreis, eine USV, Kühlung für die Abwärme und einen Platz mit Netzwerkanbindung. Ein Server mit acht GPUs nimmt laut Herstellerangaben 10 bis 15 kW auf und braucht mehrere Netzteile an 200 bis 240 V; ab mehreren Servern oder Racks wird der Netzanschluss zum Thema.

KI-Modelle laufen auf eigener Hardware im eigenen Betrieb statt in einer Cloud. Dazu gehören GPU-Server, Speicher und Netzwerk, aber auch Stromversorgung, USV, Kühlung und Netzanschluss. Den IT-Teil übernehmen Hersteller und IT-Partner, den Energie- und Anschlussteil wir.

Ein einzelnes Arbeitsplatzsystem einige hundert Watt bis 1,6 kW, ein Server mit acht GPUs der aktuellen Generation laut NVIDIA 10,2 bis etwa 14,3 kW, ein Rack der Klasse GB200 NVL72 rund 120 kW. Bei Volllast rund um die Uhr braucht ein 14-kW-Server gut 120 MWh im Jahr, ohne Kühlung.

Das hängt von Rechenleistung, Standort, Netzanschluss und Energiekonzept ab. Konkrete Zahlen nennen wir erst, wenn wir Ihren Standort und Ihren Bedarf kennen, dann schriftlich.