0RES-0001selec-wTEN-0001tenders5t-sme0t-oth-eea3t-no-eea1t-esubm5CON-0001LOT-0001TEN-0001false1noTPA-0001LOT-0001Leibniz Universität Hannover - Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLMCON-00012025-11-11+01:00LUH_LLM2025 I Hinweis: Zum Schutz der Geschäfts- und Betriebsgeheimnisse kann der genaue Auftragswert nicht benannt werden.TEN-0001TPA-0001ORG-000329https://www.deutsche-evergabe.deORG-0001Gottfried Wilhelm Leibniz Universität HannoverAppelstraße 9aHannover30167DE929DEU10377+49 51154580vergabe.hannover@luther-lawfirm.comORG-0002Vergabekammer Niedersachsen beim Nds. Ministerium für Wirtschaft, Arbeit, Verkehr und DigitalisierungAuf der Hude 2Lüneburg21339DE929DEUbb0880ea-edf5-4a7c-8627-a1da9391b870+49 4131151334vergabekammer@mw.niedersachsen.delargeORG-0003T-Systems International GmbHFrankfurt am Main60528DE712DEUDE118645675+49 69200600info@t-systems.comORG-0004Datenservice Öffentlicher Einkauf (in Verantwortung des Beschaffungsamts des BMI)Bonn53119DEA22DEU0204:994-DOEVD-83+49228996100noreply.esender_hub@bescha.bund.de00786012-2025228/20252025-11-26+01:002.3eforms-sdk-1.1295305cb1-71e8-4423-8ee0-aa11481c9eb0dcf3b1ce-ad68-49b3-ad9a-c27b2f2864702025-11-25+01:0010:38:00+01:00022025-11-25+01:0032014L0024can-standardDEUhttps://www.deutsche-evergabe.depub-underteducationORG-0001ted-esenORG-0004vgvopenLUH_LLM2025Leibniz Universität Hannover - Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLMDie Gottfried Wilhelm Leibniz Universität Hannover schreibt für das Projekt "EU-SAI" die Beschaffung von GPU- und CPU-Rechenleistung für das Training eines großen Sprachmodells (Large Language Model, LLM) mit mindestens 100 Milliarden Parametern und mindestens 12 Billionen Token aus.services72250000DE929DEULOT-0001falseno-eu-fundsord-imp1pricePreisPreisORG-0001(1) Etwaige Vergabeverstöße muss der Bewerber/Bieter gemäß § 160 Abs. 3 Nr. 1 GWB innerhalb von 10 Tagen nach Kenntnisnahme rügen. (2) Verstöße gegen Vergabevorschriften, die aufgrund der Bekanntmachung erkennbar sind, sind nach § 160 Abs. 3 Nr. 2 GWB spätestens bis zum Ablauf der in der Bekanntmachung benannten Frist zur Abgabe der Bewerbung oder der Angebote gegenüber dem Auftraggeber zu rügen. (3) Verstöße gegen Vergabevorschriften, die erst in den Vergabeunterlagen erkennbar sind, sind nach § 160 Abs. 3 Nr. 3 GWB spätestens bis zum Ablauf der Frist zur Bewerbungs- oder Angebotsabgabe gegenüber dem Auftraggeber zu rügen. (4) Ein Vergabenachprüfungsantrag ist nach § 160 Abs. 3 Nr. 4 GWB innerhalb von 15 Kalendertagen nach der Mitteilung des Auftraggebers, einer Rüge nicht abhelfen zu wollen, bei der Vergabekammer einzureichen.ORG-0002truefalsenonenone0001Leibniz Universität Hannover - Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLMIm Rahmen eines staatlich geförderten Projekts, das bis zum 30. Juni 2026 läuft, veröffentlicht die Gottfried Wilhelm Leibniz Universität Hannover (LUH, Auftraggeber) diese europaweite Ausschreibung zur Beschaffung von GPU- und CPU-Rechenleistung für das Training eines Large Language Models (LLM) mit mindestens 100 Milliarden Parametern und mindestens 12 Billionen Token, einschließlich weiterer Aufgaben wie in den Vergabeunterlagen aufgeführt. Die verbindliche Mindestanforderung an die GPU-Rechenleistung beträgt 3,133 × 10²⁵ FLOPs. Dies entspricht ungefähr 8,8 Millionen GPU-Stunden auf einer NVIDIA H100 (H100 80 GB SXM5). Zusätzlich zur GPU-Kapazität verlangt der Auftraggeber 7,5 Millionen CPU-Kernstunden für ergänzende Vorverarbeitung, Orchestrierung und unterstützende Arbeitslasten. FLOPs werden definiert als das Produkt aus (Anzahl der gelieferten GPU-Stunden) x (vom Hersteller angegebener nicht-spärlicher BF16-Tensor-Core-Durchsatz pro GPU). Alle in dieser Ausschreibung definierten Anforderungen ergeben sich direkt aus dem Ziel des Auftraggebers, ein Modell mit mindestens 100 Milliarden Parametern auf mindestens 12 Billionen Tokes innerhalb von 8-10 Monaten zu trainieren. Für das Training des Modells und die zu erfüllenden Aufgabe sind ausschließlich NVIDIA-GPUs zugelassen (H100, H200 oder spätere Generationen wie B100, B200 oder GB200). Diese Einschränkung ist eine technische Notwendigkeit und stellt keine Präferenz für einen bestimmten Anbieter dar. Der Trainings-Framework und der Software-Stack der Vergabestelle sind ausschließlich auf NVIDIA-Hardware validiert und unterstützt. Insbesondere ist die bestehende Modell-Trainingspipeline (einschließlich CUDA, NCCL, PyTorch/Megatron-LM und zugehöriger Optimierungen) eng mit den NVIDIA-Toolchains verzahnt. Für alternative GPU-Anbieter existiert innerhalb des Zeitrahmens dieser Beschaffung keine gleichwertig validierte Umgebung. Die Portierung, das Testen und die Validierung auf Nicht-NVIDIA-Hardware würden umfangreiche Entwicklungsaufwände erfordern, die mit dem verfügbaren Zeitplan unvereinbar sind. Daher ist die Beschränkung dieser Beschaffung auf NVIDIA-GPUs unerlässlich, um Durchführbarkeit, Stabilität und termingerechte Lieferung sicherzustellen. Der Leistungszeitraum beträgt 8-10 Monate ab November 2025. Alle Dienstleistungen müssen innerhalb der EU/EEA oder in Ländern mit einem Angemessenheitsbeschluss der EU-Kommission erbracht werden. Nähere Informationen entnehmen Sie bitte der Leistungsbeschreibungservicesnone72250000DE929DEU1Aus technischen Gründen der Vergabeplattform wird die Laufzeit hier angegeben: Die Laufzeit des Rahmenvertrags soll am 1. November 2025 beginnen oder so bald wie möglich nach Vertragsschluss und wird für eine Dauer von 8 bis 10 Monaten abgeschlossen. Eine darüber hinausgehende Verlängerung ist nicht möglich!2025-11-25+01:00