GPU and CPU computing capacity for LLM training

16 https://www.deutsche-evergabe.de ORG-0001 Gottfried Wilhelm Leibniz Universität Hannover Appelstraße 4 Hannover 30167 DE929 DEU 10377 +49 51154580 vergabe.hannover@luther-lawfirm.com ORG-0002 Vergabekammer Niedersachsen beim Nds. Ministerium für Wirtschaft, Verkehr und Bauen Auf der Hude 2 Lüneburg 21339 DE935 DEU b31ecb9a-8b7a-42b9-b108-be9f71a56853 +49 4131153306 vergabekammer@mw.niedersachsen.de ORG-0003 Datenservice Öffentlicher Einkauf (in Verantwortung des Beschaffungsamts des BMI) Bonn 53119 DEA22 DEU 0204:994-DOEVD-83 +49228996100 noreply.esender_hub@bescha.bund.de 00688976-2026 193/2026 2026-10-06+02:00 2.3 eforms-sdk-1.13 eforms-sdk-1.13 032e51bb-b93a-44ac-b521-7dce72393d65 032e51bb-b93a-44ac-b521-7dce72393d65 2026-10-02+02:00 18:45:00+02:00 01 2026-10-02+02:00 32014L0024 cn-standard DEU https://www.deutsche-evergabe.de body-pl-ra education ORG-0001 ted-esen ORG-0003 vgv epo-notice exg-crim-corrpt exg-crim-fraud exg-crim-laund exg-crim-traffick exg-crim-part exg-crim-terror exg-mis-bre-env-law exg-mis-bre-lab-law exg-mis-bre-soc-law exg-mis-distortion exg-mis-misconduct exg-mis-misrepresent exg-mis-partic-confl exg-mis-prep-confl exg-mis-sanction exg-natl-bre-nat-law exg-pmt-bre-ssc exg-pmt-bre-tax exg-sitn-as-susp exg-sitn-insolvency exg-sitn-liq-admin exg-sitn-other 2 2 open true Das Offene Verfahren wird als beschleunigtes Verfahren durchgeführt und die Angebotsfrist wird entsprechend verkürzt, § 15 Abs. 3 VgV. Es besteht eine hinreichend begründete Dringlichkeit, die die Einhaltung der Regel-Angebotsfrist unmöglich macht. Es handelt sich um ein gefördertes Vorhaben, bei dem die Vorgaben zu beachten sind. Um die Ziele des Gesamtvorhabens erreichen zu können, müssen die infrastrukturellen Voraussetzungen für das Training des Basismodells (und mithin die zentrale Grundlage für alle nachgelagerten Entwicklungsschritte) noch innerhalb des Kalenderjahres 2026 geschaffen werden. Verausgabung und Zahlung müssen zwingend bis zum 15.12.2026 erfolgen. Nach Angebotsauswahl muss der Projektträger die Mittel entsperren, was ebenfalls einen gewissen Zeitraum in Anspruch nimmt. Die zwingende Zahlungsfrist bis zum 15.12.2026 gemäß Zuwendungsbescheid und die Zeit für die Entsperrung der Finanzmittel macht die Einhaltung der Regel-Angebotsfrist unmöglich. 2026/Soofi II Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLM Die Gottfried Wilhelm Leibniz Universität Hannover schreibt für das "Soofi-Projekt" die Beschaffung von GPU- und CPU-Rechenleistung für das Training eines großen Sprachmodells (Large Language Model, LLM) aus. Die Beschaffung ist in zwei Lose unterteilt, die zwei technisch unterschiedlichen Systemklassen entsprechen. services 1. Alle Nachweise können in Form von Eigenerklärungen erfolgen, soweit sich aus der Ausschreibung nicht etwas anderes ergibt. Alle vom Auftraggeber bereitgestellten Formblätter sind zwingend zu verwenden. 2. Alle weiteren Informationen zu diesem Vergabeverfahren wie Änderungen der Leistungsbeschreibung, Beantwortung von Bieterfragen oder sonstige verfahrensrelevante Informationen werden über das Vergabeportal bereitgestellt. Für Fragen und sonstige Kommunikation in diesem Verfahren ist ausschließlich die Kommunikationsfunktion des Vergabeportals Deutsche eVergabe zu verwenden. Sofern Unklarheiten in den Vergabeunterlagen bestehen, sind Bieterfragen bis spätestens zum 13.10.2026, 12:00 Uhr zu stellen. 3. Das Angebot ist in deutscher oder in englischer Sprache abzufassen und bis spätestens zum Ende der Frist vorzulegen. Angebote müssen in elektronischer Form eingereicht werden. Die Abgabe ist ausschließlich über das Vergabeportal Deutsche eVergabe möglich. 4. Eine Einreichung per E-Mail, Telefax oder in schriftlicher Form ist nicht zulässig. 5. Der Auftraggeber erstattet keine Kosten, die für die Teilnahme am Vergabeverfahren entstehen. 6. Es wird darauf hingewiesen, dass für die Auszahlung des Rechnungsbetrags eine Bankbürgschaft in Höhe von 100% des jeweiligen Vertragsbetrags (Los 1 bzw. Los 2) erforderlich ist. Nähere Informationen entnehmen Sie bitte Ziffer 1.3.7. der Leistungsbeschreibung. 7. Für beide Lose kann der Auftraggeber den Beginn durch Mitteilung mindestens 4 Wochen vor dem angebotenen Termin um bis zu 30 Tage verschieben. Die Laufzeit verschiebt sich entsprechend. 8. Wurde der vollständige Cluster nicht innerhalb von 30 Tagen nach dem Beginn der Leistungserbringung bereitgestellt und abgenommen, kann der Auftraggeber den Vertrag für das betreffende Los kündigen. Vorauszahlungen werden im Rahmen der Bankbürgschaft zurückgezahlt. 9. Die verbindliche Sprachfassung der Vergabeunterlagen ist entgegen Ziff. 5.1.11 der EU-Auftragsbekanntmachung, die aus technischen Gründen nicht veränderbar ist, die jeweilige Sprachfassung, die in den jeweiligen Unterlagen benutzt wird (Deutsch oder Englisch). Für die EU-Auftragsbekanntmachung ist die verbindliche Sprachfassung Deutsch. 74950000 72250000 DE929 DEU LOT-0001 slc-suit-reg-trade Als Bieter werden nur Unternehmen zugelassen, die ihre persönliche Lage gem. § 44 VgV wie folgt nachweisen können: a) Kurze Eigendarstellung des Bieters (Angaben zu Firma, Sitz, Gegenstand, Geschäftsleitung des Unternehmens, Unternehmensstruktur wie zum Beispiel Muttergesellschaften, Konzernzugehörigkeit, mit der Darstellung der Gesellschafts- und Kapitalverhältnisse des Bieters sowie gegebenenfalls zur zuständigen Niederlassung). b) Aktueller Auszug aus dem Berufs- oder Handelsregister nach Maßgabe der Rechtsvorschrift des Landes, in dem der Bieter ansässig ist. Vorlage einer Kopie ist ausreichend. c) Eigenerklärung über das Nichtvorliegen von Ausschlussgründen gemäß § 123 und § 124 GWB [vgl. Formblatt „Eigenerklärung zum Nichtvorliegen von Ausschlussgründen“]. d) Eigenerklärung, dass das Unternehmen die gesetzlichen Pflichten zur Zahlung der vom Finanzamt erhobenen Steuern, sowie der Zahlung der Beiträge zur gesetzlichen Sozialversicherung ordnungsgemäß erfüllt hat [vgl. Formblatt „Eigenerklärung zum Nichtvorliegen von Ausschlussgründen“]. e) Eigenerklärung, dass über das Vermögen des Unternehmens kein Insolvenzverfahren oder vergleichbares gesetzlich geregeltes Verfahren eröffnet, beantragt oder dieser Antrag nicht mangels Masse abgelehnt worden ist [vgl. Formblatt „Eigenerklärung zum Nichtvorliegen von Ausschlussgründen“]. f) Eigenerklärung über die Einhaltung der EURussland-Sanktionen [vgl. Formblatt„Eigenerklärungen zur Einhaltung der EU-Russland- Sanktionen“]. slc-stand-to-gen Der Bewerber legt den Gesamtumsatz für die Jahre 2023, 2024 und 2025 dar, § 45 Abs. 4 Nr. 4 VgV. Der Umsatz ist in Euro netto per anno anzugeben [vgl. Formblatt „ Eigenerklärungen zur Eignung“]. slc-stand-to-spec Gefordert ist zum Nachweis der wirtschaftlichen und finanziellen Leistungsfähigkeit des Bieters eine Eigenerklärung über den anteiligen, d.h. tätigkeitsbezogenen Jahresumsatz für die Jahre 2023, 2024 und 2025, den das Unternehmen im Tätigkeitsbereich der ausgeschriebenen Leistung (Bereitstellung von GPU- und CPU-Rechenleistung) erzielt hat, ggf. in Bezug auf das beherrschende Unternehmen [vgl. Formblatt „Eigenerklärungen zur Eignung“]. --- Mindestanforderung: Jährlicher Mindestumsatz mit vergleichbaren Leistungen / in vergleichbaren Projekten (Bereitstellung von GPU- und CPU-Rechenleistung) in den letzten drei Geschäftsjahren > 3 Mio. EUR. Es muss somit in jedem der letzten 3 Geschäftsjahre der geforderte Mindestumsatz erreicht sein (K.O.-Kriterium). slc-stand-ins Erklärung über das Bestehen oder die Bereitschaft zum Abschluss einer branchenüblichen Berufs- bzw. Betriebshaftpflichtversicherung mit einer Deckungssumme von mindestens EUR 1.000.000,- pro Kalenderjahr für Vermögensschäden sowie einer Deckungssumme von mindestens EUR 3.000.000,- pro Kalenderjahr für Sach- und Personenschäden. Eine Kopie der Versicherungspolice ist zusammen mit dem Angebot einzureichen. Alternativ ist mit dem Angebot eine rechtsverbindliche Erklärung abzugeben, zum Ausführungsbeginn eine solche Versicherung abzuschließen [vgl. Formblatt „Eigenerklärungen zur Eignung“]. slc-abil-ref-services Eigenerklärung zu Referenzen des Bieters über mit dem Auftragsgegenstand vergleichbare Leistungen aus den letzten drei Jahren vor Veröffentlichung dieser Bekanntmachung (Angaben zu Klient, Laufzeit, Volumen, Projektleitung, Leistungsinhalt) unter Berücksichtigung der folgenden Anforderungen: Der Bieter soll Erfahrung mit vergleichbaren Projekten haben. Vergleichbare Leistungen sind insbesondere Leistungen für einen öffentlichen Auftraggeber, die die Bereitstellung von GPU- und CPU-Rechenleistung für diesen Auftraggeber umfassen. Besonders vergleichbar, aber nicht zwingend erforderlich, wäre in diesem Zusammenhang, wenn die Leistung das Training von LLMs außerhalb von MLPerf-Benchmarkings betreffen würde. Es können bis zu 3 Referenzen zu früheren Auftraggebern angegeben werden (vgl. E6 der Leistungsbeschreibung). Außerdem können bis zu 3 Referenzen über das LLM Training angegeben werden (vgl. E7) der Leistungsbeschreibung). false allowed no-eu-funds not-requ false not-allowed DEU 032e51bb-b93a-44ac-b521-7dce72393d65 non-restricted-document https://www.deutsche-evergabe.de/dashboards/dashboard_off/032e51bb-b93a-44ac-b521-7dce72393d65 late-some Bitte beachten: Um einen eventuellen Ausschluss des Angebotes zu vermeiden, legen Sie bitte die geforderten Nachweise und Erklärungen dem Angebot unbedingt vollständig bei. epo-notice none no required not-allowed false Der Preis ist nicht das einzige Zuschlagskriterium; alle Kriterien sind in den Vergabeunterlagen aufgeführt ORG-0001 https://www.deutsche-evergabe.de/dashboards/dashboard_off/032e51bb-b93a-44ac-b521-7dce72393d65 55 (1) Etwaige Vergabeverstöße muss der Bewerber/Bieter gemäß § 160 Abs. 3 Nr. 1 GWB innerhalb von 10 Tagen nach Kenntnisnahme rügen. (2) Verstöße gegen Vergabevorschriften, die aufgrund der Bekanntmachung erkennbar sind, sind nach § 160 Abs. 3 Nr. 2 GWB spätestens bis zum Ablauf der in der Bekanntmachung benannten Frist zur Abgabe der Bewerbung oder der Angebote gegenüber dem Auftraggeber zu rügen. (3) Verstöße gegen Vergabevorschriften, die erst in den Vergabeunterlagen erkennbar sind, sind nach § 160 Abs. 3 Nr. 3 GWB spätestens bis zum Ablauf der Frist zur Bewerbungs- oder Angebotsabgabe gegenüber dem Auftraggeber zu rügen. (4) Ein Vergabenachprüfungsantrag ist nach § 160 Abs. 3 Nr. 4 GWB innerhalb von 15 Kalendertagen nach der Mitteilung des Auftraggebers, einer Rüge nicht abhelfen zu wollen, bei der Vergabekammer einzureichen. (5) Der Antrag ist unzulässig, soweit ein offensichtlicher Missbrauch des Antrags- oder Beschwerderechts gemäß § 180 Absatz 2 vorliegt. ORG-0002 DEU false false required true 2026-10-21+02:00 12:00:00+02:00 false none none 0001 Los 1: GPU nodes (DGX/HGX B200/B300 class) Im Rahmen eines öffentlich geförderten europäischen Projekts zu offenen großen Sprachmodellen veröffentlicht die Gottfried Wilhelm Leibniz Universität Hannover (LUH) diese europaweite Ausschreibung für GPU- und CPU-Rechenkapazitäten für das Pretraining und Post-Training großer Sprachmodelle (LLMs). Die Beschaffung ist in zwei Lose unterteilt, die zwei technisch unterschiedlichen Systemklassen entsprechen: Los 1 betrifft GPU-Knoten gemäß der NVIDIA-DGX/HGX-B200- oder B300-Referenzarchitektur (8 GPU-Module pro Knoten) oder neuer. Gegenstand sind die Fertigstellung und das Post-Training von Mixture-of-Experts-(MoE-)Modellen mit mehr als 100 Milliarden Parametern, die Evaluierung, die Generierung synthetischer Daten mit Generatormodellen von etwa 400 Milliarden Parametern sowie die Destillation kleinerer Modellvarianten. -Referenz-GPU NVIDIA B200 in Knoten der DGX/HGX-B200-Referenzarchitektur (2,25 × 10¹⁵ FLOPs/s BF16 Dense je GPU); DGX/HGX B300 oder neuere NVIDIA-Referenzarchitekturen derselben Klasse (z. B. DGX Rubin NVL8) sind zulässig. -Verbindliche Mindestrechenleistung 1,5 × 10²⁵ FLOPs ≈ 1,85 Millionen B200-GPU-Stunden - Referenzkonfiguration 1.024 GPUs (128 Knoten) während der ersten 65 Tage, anschließend 128 GPUs (16 Knoten) bis zum Ende der Laufzeit (155 Tage) = 1.873.920 GPU-Stunden = 1,52 × 10²⁵ FLOPs - Mindestanzahl gleichzeitig verfügbarer GPUs ≥ 1.024 (128 Knoten) während der ersten 65 Tage; anschließend ≥ 128 (16 Knoten) - Beginn / Ende des Leistungszeitraums Vom Bieter angebotener Beginn, nicht vor dem 1. Dezember 2026 und nicht nach dem 15. Januar 2027; Laufzeit 155 Tage (Referenz: 1. Dezember 2026 bis 4. Mai 2027), mit vorausgehender zweiwöchiger Testphase - Option Bis zu drei Monate nach der Grundlaufzeit, 128 GPUs - Preisobergrenze 16.400.000 EUR (einschließlich 19 % Umsatzsteuer) - CPU ≥ 15 Millionen Core-Stunden; Partition mit ≥ 4.096 physischen Kernen - Speicher ≥ 1 PB paralleles Dateisystem zuzüglich ≥ 1 PB S3-kompatibler Objektspeicher - Standort EU/EWR oder ein Land mit einem Angemessenheitsbeschluss der EU Nähere Informationen entnehmen Sie bitte der Leistungsbeschreibung. services false none 72250000 DE929 DEU 155 1 Hinweis zur Laufzeit: Der Bieter gibt den Beginn der Leistungserbringung an. Dieser darf nicht vor dem 1. Dezember 2026 und nicht nach dem 15. Januar 2027 liegen. Die Vertragslaufzeit beträgt ab diesem Zeitpunkt 155 Tage. Ihr geht eine Testphase von mindestens zwei Wochen voraus. Verlängerungsoption: Der Auftraggeber kann den Vertrag nach Ablauf der Grundlaufzeit um bis zu 3 Monate verlängern (Option) und zwar zu unveränderten Bedingungen sowie zu dem für die Grundlaufzeit angebotenen Einheitspreis je GPU-Stunde (Los 1: 128 GPUs). Die Option ist im geschätzten Auftragswert enthalten. Optionen können jederzeit nach Vertragsschluss und spätestens 4 Wochen vor Ende der Grundlaufzeit ausgeübt werden. Optionsmonate werden bei Abruf in Rechnung gestellt. Der Auftraggeber kann die Option auch für Zeiträume ausüben, die kürzer als ein voller Monat sind, einschließlich einzelner Tage oder Wochen. LOT-0002 slc-suit-reg-trade Als Bieter werden nur Unternehmen zugelassen, die ihre persönliche Lage gem. § 44 VgV wie folgt nachweisen können: a) Kurze Eigendarstellung des Bieters (Angaben zu Firma, Sitz, Gegenstand, Geschäftsleitung des Unternehmens, Unternehmensstruktur wie zum Beispiel Muttergesellschaften, Konzernzugehörigkeit, mit der Darstellung der Gesellschafts- und Kapitalverhältnisse des Bieters sowie gegebenenfalls zur zuständigen Niederlassung). b) Aktueller Auszug aus dem Berufs- oder Handelsregister nach Maßgabe der Rechtsvorschrift des Landes, in dem der Bieter ansässig ist. Vorlage einer Kopie ist ausreichend. c) Eigenerklärung über das Nichtvorliegen von Ausschlussgründen gemäß § 123 und § 124 GWB [vgl. Formblatt „Eigenerklärung zum Nichtvorliegen von Ausschlussgründen“]. d) Eigenerklärung, dass das Unternehmen die gesetzlichen Pflichten zur Zahlung der vom Finanzamt erhobenen Steuern, sowie der Zahlung der Beiträge zur gesetzlichen Sozialversicherung ordnungsgemäß erfüllt hat [vgl. Formblatt „Eigenerklärung zum Nichtvorliegen von Ausschlussgründen“]. e) Eigenerklärung, dass über das Vermögen des Unternehmens kein Insolvenzverfahren oder vergleichbares gesetzlich geregeltes Verfahren eröffnet, beantragt oder dieser Antrag nicht mangels Masse abgelehnt worden ist [vgl. Formblatt „Eigenerklärung zum Nichtvorliegen von Ausschlussgründen“]. f) Eigenerklärung über die Einhaltung der EURussland-Sanktionen [vgl. Formblatt„Eigenerklärungen zur Einhaltung der EU-Russland- Sanktionen“]. slc-stand-to-gen Der Bewerber legt den Gesamtumsatz für die Jahre 2023, 2024 und 2025 dar, § 45 Abs. 4 Nr. 4 VgV. Der Umsatz ist in Euro netto per anno anzugeben [vgl. Formblatt „ Eigenerklärungen zur Eignung“]. slc-stand-to-spec Gefordert ist zum Nachweis der wirtschaftlichen und finanziellen Leistungsfähigkeit des Bieters eine Eigenerklärung über den anteiligen, d.h. tätigkeitsbezogenen Jahresumsatz für die Jahre 2023, 2024 und 2025, den das Unternehmen im Tätigkeitsbereich der ausgeschriebenen Leistung (Bereitstellung von GPU- und CPU-Rechenleistung) erzielt hat, ggf. in Bezug auf das beherrschende Unternehmen [vgl. Formblatt „Eigenerklärungen zur Eignung“]. --- Mindestanforderung: Jährlicher Mindestumsatz mit vergleichbaren Leistungen / in vergleichbaren Projekten (Bereitstellung von GPU- und CPU-Rechenleistung) in den letzten drei Geschäftsjahren > 3 Mio. EUR. Es muss somit in jedem der letzten 3 Geschäftsjahre der geforderte Mindestumsatz erreicht sein (K.O.-Kriterium). slc-stand-ins Erklärung über das Bestehen oder die Bereitschaft zum Abschluss einer branchenüblichen Berufs- bzw. Betriebshaftpflichtversicherung mit einer Deckungssumme von mindestens EUR 1.000.000,- pro Kalenderjahr für Vermögensschäden sowie einer Deckungssumme von mindestens EUR 3.000.000,- pro Kalenderjahr für Sach- und Personenschäden. Eine Kopie der Versicherungspolice ist zusammen mit dem Angebot einzureichen. Alternativ ist mit dem Angebot eine rechtsverbindliche Erklärung abzugeben, zum Ausführungsbeginn eine solche Versicherung abzuschließen [vgl. Formblatt „Eigenerklärungen zur Eignung“]. slc-abil-ref-services Eigenerklärung zu Referenzen des Bieters über mit dem Auftragsgegenstand vergleichbare Leistungen aus den letzten drei Jahren vor Veröffentlichung dieser Bekanntmachung (Angaben zu Klient, Laufzeit, Volumen, Projektleitung, Leistungsinhalt) unter Berücksichtigung der folgenden Anforderungen: Der Bieter soll Erfahrung mit vergleichbaren Projekten haben. Vergleichbare Leistungen sind insbesondere Leistungen für einen öffentlichen Auftraggeber, die die Bereitstellung von GPU- und CPU-Rechenleistung für diesen Auftraggeber umfassen. Besonders vergleichbar, aber nicht zwingend erforderlich, wäre in diesem Zusammenhang, wenn die Leistung das Training von LLMs außerhalb von MLPerf-Benchmarkings betreffen würde. Es können bis zu 3 Referenzen zu früheren Auftraggebern angegeben werden (vgl. E6 der Leistungsbeschreibung). Außerdem können bis zu 3 Referenzen über das LLM Training angegeben werden (vgl. E7) der Leistungsbeschreibung). false allowed no-eu-funds not-requ false not-allowed DEU 032e51bb-b93a-44ac-b521-7dce72393d65 non-restricted-document https://www.deutsche-evergabe.de/dashboards/dashboard_off/032e51bb-b93a-44ac-b521-7dce72393d65 late-some Bitte beachten: Um einen eventuellen Ausschluss des Angebotes zu vermeiden, legen Sie bitte die geforderten Nachweise und Erklärungen dem Angebot unbedingt vollständig bei. epo-notice none no required not-allowed false Der Preis ist nicht das einzige Zuschlagskriterium; alle Kriterien sind in den Vergabeunterlagen aufgeführt ORG-0001 https://www.deutsche-evergabe.de/dashboards/dashboard_off/032e51bb-b93a-44ac-b521-7dce72393d65 55 (1) Etwaige Vergabeverstöße muss der Bewerber/Bieter gemäß § 160 Abs. 3 Nr. 1 GWB innerhalb von 10 Tagen nach Kenntnisnahme rügen. (2) Verstöße gegen Vergabevorschriften, die aufgrund der Bekanntmachung erkennbar sind, sind nach § 160 Abs. 3 Nr. 2 GWB spätestens bis zum Ablauf der in der Bekanntmachung benannten Frist zur Abgabe der Bewerbung oder der Angebote gegenüber dem Auftraggeber zu rügen. (3) Verstöße gegen Vergabevorschriften, die erst in den Vergabeunterlagen erkennbar sind, sind nach § 160 Abs. 3 Nr. 3 GWB spätestens bis zum Ablauf der Frist zur Bewerbungs- oder Angebotsabgabe gegenüber dem Auftraggeber zu rügen. (4) Ein Vergabenachprüfungsantrag ist nach § 160 Abs. 3 Nr. 4 GWB innerhalb von 15 Kalendertagen nach der Mitteilung des Auftraggebers, einer Rüge nicht abhelfen zu wollen, bei der Vergabekammer einzureichen. (5) Der Antrag ist unzulässig, soweit ein offensichtlicher Missbrauch des Antrags- oder Beschwerderechts gemäß § 180 Absatz 2 vorliegt. ORG-0002 DEU false false required true 2026-10-21+02:00 12:00:00+02:00 false none none 0002 Los 2: NVL72 Im Rahmen eines öffentlich geförderten europäischen Projekts zu offenen großen Sprachmodellen veröffentlicht die Gottfried Wilhelm Leibniz Universität Hannover (LUH) diese europaweite Ausschreibung für GPU- und CPU-Rechenkapazitäten für das Pretraining und Post-Training großer Sprachmodelle (LLMs). Die Beschaffung ist in zwei Lose unterteilt, die zwei technisch unterschiedlichen Systemklassen entsprechen: Los 2 betrifft Rack-Scale-Systeme gemäß der NVIDIA-GB200- oder GB300-NVL72-Referenzarchitektur oder neuer. Gegenstand sind das Pre-Training und Post-Training eines MoE-Modells mit mehr als 350 Milliarden Parametern, beispielsweise durch Reinforcement Learning mit verifizierbaren Belohnungen. Die NVLink-Domäne mit 72 GPUs ist für diese Modellgröße technisch erforderlich (Anhang A.4). - Referenz-GPU NVIDIA GB200 NVL72 (2,5 × 10¹⁵ FLOPs/s BF16 Dense je GPU); GB300 NVL72 oder neuere NVIDIA-Rack-Scale-Referenzarchitekturen (z. B. Vera Rubin NVL144) sind zulässig. - Verbindliche Mindestrechenleistung 2,4 × 10²⁵ FLOPs ≈ 2,67 Millionen GB200-GPU-Stunden (≈ 2.048 GPUs für mindestens 54 Tage) - Referenzkonfiguration 2.048 GPUs (29 NVL72-Racks, Reservekapazitäten gemäß A5) für 56 Tage ab dem Beginn der Leistungserbringung (Referenz: 15. Januar bis 11. März 2027) = 2.752.512 GPU-Stunden = 2,48 × 10²⁵ FLOPs - Mindestzahl gleichzeitig verfügbarer GPUs (F) 2.048 (29 NVL72-Racks), bis die garantierten FLOPs bereitgestellt sind - Beginn / Ende des Leistungszeitraums Vom Bieter angebotener Beginn, nicht vor dem 15. Januar 2027 und nicht nach dem 1. April 2027; Laufzeit bis zur Bereitstellung der garantierten FLOPs (Referenz: 56 Tage, 15. Januar bis 11. März 2027), mit vorausgehender zweiwöchiger Testphase - Option Bis zu drei Monate nach der Grundlaufzeit, 2.048 GPUs - Preisobergrenze 26.100.000 EUR (einschließlich Umsatzsteuer) - CPU Partition mit ≥ 8.192 physischen Kernen (RL-Sandboxes) - Speicher ≥ 1 PB paralleles Dateisystem zuzüglich ≥ 1 PB Objektspeicher (Checkpoints mit jeweils bis zu etwa 8 TB) - Standort EU/EWR oder ein Land mit einem Angemessenheitsbeschluss der EU Nähere Informationen entnehmen Sie bitte der Leistungsbeschreibung. services false none 72250000 DE929 DEU 56 1 Hinweis zur Laufzeit: Der Bieter gibt den Beginn der Leistungserbringung an. Dieser darf nicht vor dem 15. Januar 2027 und nicht nach dem 01. April 2027 liegen. Die Laufzeit endet, sobald die garantierten FLOPs bereitgestellt worden sind (Referenzwert: 56 Tage), und wird von einer Testphase (2 Wochen) eingeleitet. Verlängerungsoption: Der Auftraggeber kann den Vertrag nach Ablauf der Grundlaufzeit um bis zu 3 Monate verlängern (Option) und zwar zu unveränderten Bedingungen sowie zu dem für die Grundlaufzeit angebotenen Einheitspreis je GPU-Stunde (Los 2: 2.048 GPUs). Die Option ist im geschätzten Auftragswert enthalten. Optionen können jederzeit nach Vertragsschluss und spätestens 4 Wochen vor Ende der Grundlaufzeit ausgeübt werden. Optionsmonate werden bei Abruf in Rechnung gestellt. Der Auftraggeber kann die Option auch für Zeiträume ausüben, die kürzer als ein voller Monat sind, einschließlich einzelner Tage oder Wochen.