Handwerkskammer Wiesbaden · Lokale KI Recherchestand 28.07.2026
Konzept · Eigener KI-Server

Ein Server mit vier Plätzen.
Zum Start eine Karte.

Die Kammer kann sich eigene KI leisten. Aber nicht so, wie es zuerst geplant war — und aus einem anderen Grund als „das spart Geld“. Was die Zahlen sagen, wenn man sie wirklich nachrechnet.

1 Karte bestückt 3 Plätze frei für später 96 GB Grafikspeicher ~1,2 kW Leistung
01 — Der Kassensturz

Drei Zahlen, die die Planung ändern

Jede davon war vorher anders angenommen. Jede ist belegt oder nachgerechnet — und jede verschiebt die Anlage in Richtung kleiner, aber richtig.

angenommen: rund 400
0

Beschäftigte

Stand 31.12.2025, nach eigener Angabe der Kammer. Dazu 27.218 Mitgliedsbetriebe — die zählen für einen öffentlichen Chatbot, aber niemals für die interne Auslegung.

belegt · hwk-wiesbaden.de
geplant: 30 bis 50
0gleichzeitig, in der Spitze

Anfragen zur selben Zeit

Nachgerechnet mit dem höchsten je belegten Nutzungsniveau. Für 50 gleichzeitige Chat-Anfragen bräuchte es rund 6.400 Beschäftigte. Im Alltag sind es 2 bis 3.

nachgerechnet · Little’s Law
Annahme: „sehr teuer“
0pro Monat, gesamt

Was heute wirklich gezahlt wird

10.000 Credits plus Wissensdatenbank, für alle Mitarbeitenden zusammen, ohne Lizenz pro Kopf. Das ist ein kleines Paket — und genau darin liegt der Haken.

belegt · nele.ai Preisseite
Der Satz, der alles dreht

110 € im Monat decken die heutige Nutzung, weil die heutige Nutzung sehr klein ist — rund 60 Seiten Text pro Kopf und Monat für die ganze Kammer.

Der eigene Server ist damit heute kein Sparmodell. Er wird eines, sobald ernsthaft gearbeitet wird. Wer ihn als Sparmaßnahme in die Vollversammlung trägt und die Rechnung fällt moderat aus, hat keine Begründung mehr.

02 — Die ehrliche Rechnung

Ab wann sich eigene Hardware lohnt

Nicht als Gefühl, sondern als Schwelle. Die Antwort hängt vollständig davon ab, wogegen man rechnet.

Heute — Verbrauch bezahlen

nele.ai · Credits · keine Lizenz pro Kopf
110 € / Monat
  • 10.000 Credits 90,00 €
  • Wissensdatenbanken 19,95 €
  • Reichweite gesamt ~2,8 Mio. Wörter
  • pro Kopf und Monat ~60 Seiten

Eigener Server — Vollkosten

5 Jahre gerechnet, alles eingerechnet
2.423 € / Monat
  • Spanne 1.676 – 4.145 €
  • davon Personal (5 J.) 67.200 €
  • davon Hardware ~45.000 €
  • Strom (5 J.) 5.700 – 12.700 €
Wo der Punkt kippt

Gegen Lizenzen pro Kopf — Microsoft Copilot 18,20 €, Langdock 25 €, ChatGPT Business 29 € — kippt es bei rund 97 bis 155 aktiven Nutzern zugunsten des eigenen Servers. Bei 177 Beschäftigten wäre er klar im Recht.

Gegen ein verbrauchsbasiertes Modell wie heute kippt es erst bei 1,8 Milliarden Token im Monat. Das ist praktisch unerreichbar. Die Frage ist also nicht „lokal oder Cloud“ — sondern: Womit vergleichen wir eigentlich?

Übersehener Posten · zuerst klären

Eine Körperschaft des öffentlichen Rechts hat im hoheitlichen Bereich keinen Vorsteuerabzug. Dann ist die Umsatzsteuer echte Kostenbelastung.

60.000 € brutto sind 50.420 € netto Beschaffungsvolumen — fast eine ganze Grafikkarte Unterschied. Diese Frage gehört in Woche eins an die kaufmännische Leitung, nicht in die Schlussrechnung.

Preise netto, abgerufen 27./28.07.2026 · Personalansatz 224 Betriebsstunden/Jahr zu 60 €/h · Förderprogramme geprüft: DIGI-Zuschuss Hessen im Juni 2026 beendet, Kammern bei Distr@l nicht antragsberechtigt — nicht mit Förderung kalkulieren.

03 — Der Maschinenraum

Was in der Kiste steckt

Ein Modell wird nicht „ausgeführt“. Es liegt vollständig im Grafikspeicher und wartet. Wie viel dort hineinpasst, entscheidet alles Weitere.

Karte
RTX PRO 6000 Blackwell Server Ed.
Speicher
96 GB GDDR7 mit ECC
Gemessen
1.778 Token/s bei 50 Anfragen
Preis netto
~11.440 € ab Systemhaus
PLATZ 1 — BESTÜCKT
Die eine Karte
trägt gemessen 50 Anfragen
PLATZ 2 — FREI
Option, kein Kauf
preislich fixiert mitausschreiben
PLATZ 3 — FREI
Reserve
für Dokumentenarbeit
PLATZ 4 — FREI
Reserve
nächste Modellgeneration
Warum nur eine Karte

Eine Karte trägt gemessen 50 gleichzeitige Anfragen. Gebraucht werden 2 bis 15. Die zweite Karte kostet 11.000 bis 13.000 € und löst ein Problem, das die Kammer nicht hat.

Das Geld gehört in die Schicht, die die Leute tatsächlich sehen. Dort entsteht der Nutzen, nicht in der Grafikkarte. Nachrüsten bleibt jederzeit möglich — wenn heute ein Gehäuse mit vier Plätzen und Netzteilreserve gekauft wird.

Der eigentliche Engpass ist nicht die Zahl der Leute

Sondern die Länge der Texte. Genau das, was ein hochgeladenes PDF erzeugt.

8.000 ZEICHEN — CHAT
57 parallel
Kurze Fragen, schnelle Antworten. Hier ist die Anlage großzügig.
32.000 — MEHRSEITIGES PDF
14 parallel
Ein Viertel. Noch tragbar, wenn es nicht alle gleichzeitig tun.
128.000 — GROSSES DOKUMENT
3,6 parallel
Hier bricht es ein. Nicht wegen zu vieler Leute — wegen zu viel Text.
Daraus folgt eine Betriebsregel

Massenhafte PDF-Verarbeitung läuft als Auftrag im Hintergrund mit eigener Warteschlange — niemals im selben Kontingent wie der Chat. Sonst wartet die ganze Kammer, weil jemand einen Aktenordner hochgeladen hat.

Messwerte für gpt-oss-120b auf einer RTX PRO 6000 (Januar 2026) und Qwen3-32B-Kontextrechnung · Vor Bestellung eine Woche dieselbe Karte mieten und das Zielmodell tatsächlich starten — nicht annehmen, dass es startet.

04 — Die Modellfrage

DeepSeek R1 — die ehrliche Antwort

Sie lautet nicht „geht nicht“. Sie lautet „geht, aber nicht für euren Fall“ — und dieser Unterschied ist wichtig, weil die erste Version widerlegbar wäre.

Was gewünscht war

DeepSeek R1 · 671 Mrd. Parameter
  • Volles Modell ~685 GB
  • Dafür nötig 8 Karten
  • Nur die Grafikkarten ~92.000 €
  • Stark komprimiert 131 GB — passt
  • Dann aber < 2 Token/s

Technisch läuft es. Für mehrere Nutzer gleichzeitig ist es zu langsam und zu ungenau. Und R1 ist im Juli 2026 bereits ein Altmodell.

Was stattdessen läuft

gpt-oss-120b · Apache 2.0 · frei nutzbar
  • Belegt im Speicher 61 GB
  • Passt auf eine Karte
  • Gemessener Durchsatz 1.778 Token/s
  • Bis zum ersten Wort 342 ms
  • Pro Nutzer 31 Token/s

Braucht durch seine Bauweise sogar weniger Arbeitsspeicher je Anfrage als ein viermal kleineres Modell. Daneben passt noch ein schnelles Chat-Modell auf dieselbe Karte.

So sagt man es der Kammer

„Das volle Modell läuft auf dieser Hardware mit starker Kompression — technisch ja, aber zu langsam und zu ungenau für mehrere Nutzer gleichzeitig. Wir liefern die gewünschte Klasse mit einem Modell, das dafür gebaut ist.“

Das hält jeder Nachprüfung stand. Ein schlichtes „unmöglich“ nicht — und ein technisch versierter Gesprächspartner findet den Fehler in der ersten Sitzung.

05 — Die Menschen

Hier scheitern diese Projekte

Nicht an der Hardware. An dem, was danach kommt.

Der Warnbefund aus Baden-Württemberg

Keine einzige der neun größten Städte nutzt die Landes-KI. Sie vergleichen sie mit ChatGPT, finden sie schlechter — und nutzen dann eben ChatGPT.

Fällt die eigene Lösung sichtbar ab, entsteht kein Umstieg, sondern Schatten-IT: Die Leute nutzen private Werkzeuge, und das Datenschutzziel kehrt sich ins Gegenteil um. Souveränität allein erzeugt keine Nutzung.

Deshalb ist die Messlatte eine andere

Das ist kein Einführungsprojekt, sondern ein Umzug. 83 % der Beschäftigten im öffentlichen Dienst nutzen bereits KI, die Kammer hat zusätzlich nele.ai.

Der Maßstab ist nicht „besser als nichts“, sondern besser als das, was heute schon auf den Schreibtischen liegt. Als Konstruktionsregel: Mindestens 95 % der Anwendungsfälle müssen qualitativ abgedeckt sein — sonst wandern die Leute zurück.

Was die Mitarbeitenden tatsächlich vor sich haben

Lizenzkosten dieser gesamten Schicht: 0,00 €. Das Budget bleibt für Hardware, Einrichtung und die Menschen, die es danach pflegen.

Die Oberfläche — LibreChat

Anmeldung über die vorhandene Microsoft-Anmeldung mit Gruppen, echte Rechte auf Dokumentenebene, vorbereitete Arbeitshilfen für einzelne Abteilungen, Excel-Erzeugung eingebaut. Freie Lizenz ohne Fremd-Logo-Zwang.

Nicht Open WebUI: dessen Lizenz verbietet ab 50 Nutzern das Entfernen der fremden Marke — dafür bräuchte die Kammer einen Vertrag ohne öffentlichen Preis.

Dokumente hinein — Docling

Erkennt Tabellen und Formulare in PDFs, läuft vollständig ohne Internet, freie Lizenz. Wichtig: Extraktion nicht über die normale Datei-Upload-Funktion lösen — dort zerschneidet die Aufteilung die Tabellen.

Vor der Festlegung 20–30 echte Dokumente der Kammer durchlaufen lassen und ein Mensch schaut sich das Ergebnis an.

Outlook — über Microsoft Graph, mit delegierten Rechten

Jede Person greift auf ihr eigenes Postfach zu, nicht das System auf alle. Der bequeme Weg wäre ein Anwendungsrecht — das ist ein Generalschlüssel zum Postfach jeder Führungskraft und des Personalrats und wird zu Recht nie genehmigt.

Werkzeuge dürfen nie ohne menschliche Bestätigung senden, löschen oder weiterleiten — eine präparierte Mail kann das Modell sonst steuern.

06 — Der Weg

Vier Stufen statt einer Bestellung

Die Reihenfolge ist der eigentliche Vorschlag: erst messen, dann den Nutzen bauen, die Hardware zuletzt — und nur an harten Schwellen.

STUFE 0

Messen

Monat 1

Die Nutzungsstatistik der letzten sechs Monate anfordern. Diese eine Auswertung ersetzt jede Schätzung in diesem Konzept — und sie liegt bereits im Haus. Parallel: Steuerfrage, Serverraum ausmessen, Personalrat einbinden.

0 €NUR ZEIT
STUFE 1

Nutzen bauen

Monat 2 – 6

Oberfläche, Dokumentenerkennung, Anmeldung, Outlook, die ersten drei echten Arbeitshilfen — zunächst noch gegen ein Cloud-Modell. Über 90 % dieser Arbeit ist unabhängig davon, wo das Modell später rechnet. Dabei den echten Verbrauch messen.

10 – 14 T€NETTO
STUFE 2

Die Maschine

Monat 6 – 9

Jetzt erst, mit gemessenen Zahlen: Vergabeverfahren, Server mit vier Plätzen, eine Karte, Umzug auf das eigene Blech. Vorher eine Woche dieselbe Karte mieten und das Zielmodell tatsächlich messen.

30 – 36 T€NETTO
STUFE 3

Wachsen

ab Monat 12

Zweite Karte, wenn die Messung sie fordert. Ein öffentlicher Chatbot für die Mitgliedsbetriebe läuft getrennt in der abgeschirmten Zone — niemals aus demselben Kontingent, sonst legt ein Ansturm von außen die interne Arbeit lahm.

je ~12 T€NETTO, OPTIONAL
Das Budget, ehrlich aufgeteilt

Server mit vier Plätzen und fünf Jahren Vor-Ort-Service 17–20 T€ · eine Grafikkarte 11,4–13 T€ · Rack, Notstrom, Elektro 8–12 T€ · Einrichtung und Anwendungsschicht 10–14 T€. Summe 46 bis 59 T€ netto.

Das ist eng — und genau deshalb ist die Ein-Karten-Strategie keine Sparübung, sondern Voraussetzung. Mit zwei Karten von Anfang an sprengt das Vorhaben den Deckel, sobald die Umsatzsteuer echte Kosten sind.

07 — Stolpersteine

Was das Projekt wirklich aufhält

Keiner dieser Punkte ist technisch. Alle haben eine Frist oder ein Gremium.

Vergabe 8 – 12 WOCHEN

Der Betrag liegt unter allen Schwellenwerten — daraus folgt aber keine Entwarnung. Unterhalb der Schwelle endet nur das Landesgesetz, nicht die Vergabepflicht. Das Haushaltsrecht ordnet trotzdem ein Verfahren an.

Verhandlungsvergabe mit mindestens drei Angeboten planen, nicht „drei Angebote einholen“ als Fleißaufgabe. Vertragstyp EVB-IT.

Personalrat OFFENES ENDE

Ein System, das Anfragen protokolliert, ist eine technische Einrichtung zur Leistungsüberwachung — mitbestimmungspflichtig, bei jeder Variante, lokal wie Cloud. Verweigert der Personalrat, folgt das Stufenverfahren mit Einigungsstelle.

Dienstvereinbarung parallel zum Aufbau starten, nicht danach. Das ist der einzige Schritt, dessen Dauer niemand steuern kann.

Prüfungswesen ist Hochrisiko 02.12.2027

Die europäische KI-Verordnung stuft Zulassung zu Bildungsgängen, Bewertung von Lernergebnissen und Prüfungsaufsicht als Hochrisiko ein. Für eine Handwerkskammer ist das keine Randkategorie, sondern das Kerngeschäft.

Die Dienstvereinbarung muss Prüfungs-, Zulassungs- und Bildungsprozesse namentlich ausschließen — sonst hält die Einstufung „unkritisch“ nicht.

Der Raum VOR BESTELLUNG

Zwei Karten erzeugen 2 kW Abwärme — wie zwei Heizlüfter im Dauerbetrieb. Fällt die Kühlung aus, steigt ein fensterloser Serverraum in 15 bis 30 Minuten über 35 Grad. Und ein solcher Server ist rund 30 dB lauter, als ein Büro sein darf.

Freie Kälteleistung und Stromkreise messen, nicht schätzen. Reicht es nicht: Rechenzentrum mieten — das beschädigt die Datenschutz-Begründung nicht.

Outlook-Schnittstelle 01.10.2026

Microsoft schaltet die alte Exchange-Schnittstelle ab. Jede Outlook-Anbindung, die nicht von Anfang an auf den neuen Weg baut, ist bereits bei Auslieferung tot.

Im Verwaltungsportal prüfen, ob im Haus noch etwas Altes läuft — diese Frist läuft parallel zum Projekt.

Barrierefreiheit UNTERSCHÄTZT

Die Verordnung erfasst ausdrücklich auch das Intranet. Für keine der geprüften Oberflächen existiert eine Konformitätszusicherung — die Kammer müsste eine Erklärung für Software abgeben, die sie nicht selbst geschrieben hat.

Prüfung mit Tastatur und Screenreader als Abnahmekriterium vereinbaren, Budget für Nachbesserung einplanen.

Und ein Argument, das nicht trägt

Der heutige Anbieter verarbeitet bereits in Frankfurt, Frankreich und Deutschland. Der oft genannte Vorteil „keine Datenübermittlung mehr ins Ausland“ ist damit kein Vorteil gegenüber heute.

Was real wegfällt, ist ein Auftragsverarbeitungsvertrag — ein Formular. Wer das der Geschäftsführung als Hauptargument verkauft und die Datenschutzbeauftragte widerspricht, verliert die Glaubwürdigkeit für alles Übrige. Die tragfähigen Argumente sind andere: Kostenstabilität bei wachsender Nutzung, freie Modellwahl, Unabhängigkeit vom Kreditsystem.

08 — Was jetzt zu tun ist

Sechs Fragen vor jeder Bestellung

Alle sechs beantwortet die Kammer selbst. Die ersten drei entscheiden über die Stückliste — solange sie offen sind, ist jede Hardware-Entscheidung eine Wette.

1

Ist der 60.000-€-Deckel brutto oder netto?

Und besteht Vorsteuerabzug? Entscheidet über eine ganze Grafikkarte.
2

Verträgt der Serverraum 3 kW zusätzlich?

Freie Kälteleistung und getrennte Stromkreise — gemessen, nicht geschätzt.
3

Wer betreibt die Anlage namentlich?

Ein Server ohne benannten Betreiber ist verlorenes Geld, unabhängig von der Hardware.
4

Wie sieht die Nutzung der letzten sechs Monate aus?

Aktive Konten, Anfragen pro Monat, Kreditverbrauch, Jahresrechnung. Ersetzt jede Schätzung.
5

Wie viele der 177 arbeiten täglich am Bildschirm?

Werkstatt-, Ausbilder- und Internatspersonal in den Bildungszentren zählt anders.
6

Ist der öffentliche Chatbot im Startumfang?

27.218 Mitgliedsbetriebe sind eine andere Lastklasse — diese Frage allein verschiebt die ganze Auslegung.
09 — Der Satz für die Vollversammlung

Solange wir nicht wissen, wie viel diese Kammer tatsächlich rechnet, ist jede Hardware-Entscheidung eine Wette.

Die Anwendungsfälle, die wehtun — PDF zu Excel, Outlook, wiederkehrende Abläufe — sind zu über 90 % unabhängig davon, wo das Modell läuft. Wir bauen die zuerst, messen dabei den echten Verbrauch, und entscheiden dann mit Zahlen statt mit Annahmen.

Und die Begründung für den eigenen Server gehört so und nicht anders in den Beschluss: nicht „das spart Geld“, sondern Datenhoheit, Kostenstabilität bei wachsender Nutzung, freie Modellwahl, Unabhängigkeit vom Kreditsystem.