Ein eigener KI-Rechner: Was rund 6.600 Euro heute leisten

In der Walburgiskirche von Zutphen, einer alten Hansestadt an der IJssel, gibt es eine Bibliothek, in der die Bücher an Ketten liegen. Die Librije wurde 1564 eröffnet, ihre Einrichtung ist seither nahezu unverändert.¹ Die Bände ruhen auf schrägen Lesepulten, jeder an einer eisernen Kette, die gerade lang genug ist, um ihn aufzuschlagen. Gelesen wurde vor Ort. Das Buch blieb, wo es war.

Gut viereinhalb Jahrhunderte später stehen Unternehmen vor derselben Frage. Vertragsentwürfe, Personalakten, Kalkulationen: Viele der Dokumente, bei denen KI am meisten Arbeit abnehmen könnte, sollen das Haus nicht verlassen. Bis vor Kurzem hieß das, auf KI zu verzichten oder ein eigenes Rechenzentrum aufzubauen. Inzwischen genügt dafür ein Gerät, das auf einen Schreibtisch passt. Die Dokumente bleiben an der Kette, und der Leser kommt ins Haus.

Auf einen Blick

Für vertrauliche Dokumente braucht es kein Rechenzentrum mehr: Ein Rechner für rund 6.600 Euro betreibt ein offenes Sprachmodell ohne Internetverbindung und schreibt dabei schneller, als ein Mensch liest. Für einzelne Nutzer und kleine Runden reicht das.
Für ganze Teams beginnt eine andere Preisklasse: Viele gleichzeitige Nutzer bedient erst ein Grafikserver. Er kostet in der Anschaffung ein Mehrfaches des Arbeitsplatzrechners oder zur Miete ab rund 1.000 Euro im Monat.
Eigene Hardware lohnt sich unter drei Bedingungen: Vertraulichkeit, hohe Auslastung und planbare Kosten sprechen für sie, gelegentliche Analysen für die Cloud. Ob ein lokales Modell die eigenen Aufgaben löst, lässt sich vor dem Kauf für wenig Geld testen.

Ein Lesepult für 6.599 Euro

Ein Mac Studio mit dem Chip M5 Ultra und 96 GB Arbeitsspeicher kostet in der Grundausstattung 6.599 Euro.² Darauf läuft ein offenes Sprachmodell wie Qwen3.8 27B, das unter der Apache-2.0-Lizenz steht und damit auch kommerziell genutzt werden darf.³ Im Test von MacStories schrieb das Gerät mit diesem Modell rund 48 Token pro Sekunde.⁴ Ein geübter Leser schafft etwa 240 Wörter in der Minute.⁵ Auch wenn ein Wort oft aus mehreren Token besteht, liefert das Modell ein Vielfaches davon. Eine Zusammenfassung von zehn Seiten liegt nach Sekunden vor.

Damit lassen sich die wichtigsten Aufgaben erledigen: Fragen an Verträge, Handbücher oder Protokolle stellen, lange Berichte zusammenfassen, Entwürfe schreiben. Mit einem lokal laufenden Transkriptionsmodell wie Whisper werden zudem Gesprächsaufzeichnungen zu Text. Das Gerät arbeitet leise, braucht wenig Strom und keine eigene Serverumgebung. Die Leser in Zutphen hätten es vermutlich für ein besonders gelehriges Pult gehalten.

Was auf das Pult passt

Ein Sprachmodell läuft nur dann schnell, wenn es vollständig in schnellem Speicher liegt. Beim Mac teilen sich Prozessor und Grafikeinheit einen gemeinsamen Arbeitsspeicher, von dem der größte Teil für Modelle bereitsteht. Bei einem PC zählt allein der Speicher der Grafikkarte, und selbst die stärkste Karte für Endkunden, die RTX 5090, hat 32 GB. Für das genannte Modell genügt das. Im Test von MacStories schrieb ein solcher PC mit rund 59 Token pro Sekunde sogar etwas schneller als der Mac.⁴ Allerdings kostete die Karte allein Anfang September ab 4.850 Euro, mit steigender Tendenz.⁶ Größere Modelle passen nicht hinein.

Wie viel Platz ein Modell braucht, hängt von der Quantisierung ab. Dabei wird jede seiner Milliarden Zahlen mit weniger Bits gespeichert, wie ein Buch in kleinerer Schrift: Es passt auf weniger Seiten, doch irgendwann verschwimmen die Buchstaben. Vier Bit pro Zahl haben sich als Kompromiss durchgesetzt, darunter wachsen die Abweichungen vom Original spürbar. Ein großes Modell in starker Kompression ist deshalb nicht automatisch besser als ein mittleres in guter Qualität.

Ein Buch, ein Leser

Die Librije war ein öffentlicher Lesesaal. Jedes angekettete Buch konnte trotzdem nur einer zur Zeit lesen. Ähnlich verhält es sich mit dem Rechner auf dem Schreibtisch. Er bearbeitet mehrere Anfragen gleichzeitig, doch alle teilen sich dieselbe Speicherbandbreite. Bei drei parallelen Anfragen stieg die Gesamtleistung des Mac im Test von MacStories um 23 Prozent, jede einzelne Antwort kam entsprechend langsamer.⁴ Für zwei oder drei Personen, die gelegentlich fragen, reicht das. Für eine Abteilung, die den ganzen Tag damit arbeitet, reicht es nicht.

Für viele Nutzer gibt es Grafikserver mit Profikarten wie der RTX PRO 6000 mit 96 GB Speicher. Eine Serversoftware wie vLLM bündelt dort viele Anfragen zu einem Rechengang. Mit 16 bis 64 parallelen Anfragen erreichte eine solche Karte bei einem 27B-Modell der Vorgängergeneration über 2.300 Token pro Sekunde, ein Vielfaches dessen, was ein Arbeitsplatzrechner schafft.⁷ Der Preis liegt in einer anderen Klasse: Allein die Karte kostet derzeit rund 15.500 Euro.⁸ Hinzu kommen der Server selbst, die Einrichtung und der laufende Betrieb mit Zugängen, Rechten und Updates. Ein deutscher Rechenzentrumsbetreiber vermietet dieselbe Karte ab 999 Euro netto im Monat, zuzüglich einer einmaligen Einrichtungsgebühr in gleicher Höhe.⁹

Variante	Kosten	Gleichzeitige Nutzer	Wo die Daten liegen
Mac Studio M5 Ultra, 96 GB	6.599 Euro	wenige	im Haus
PC mit RTX 5090, 32 GB	Karte allein ab 4.850 Euro	wenige	im Haus
Server mit RTX PRO 6000, 96 GB	Karte allein rund 15.500 Euro	viele	im Haus
Gemieteter Server, gleiche Karte	ab 999 Euro netto im Monat	viele	im Rechenzentrum des Anbieters
Cloud-Dienst	nach Verbrauch	beliebig viele	beim Anbieter

Kette oder Fernleihe

Viele Bibliotheken jener Zeit kannten zwei Bestände. Kostbares lag an der Kette, Gewöhnliches durfte ausgeliehen werden. Für KI gilt eine ähnliche Arbeitsteilung, und sie folgt vor allem dem Geld.

Bei geringer Nutzung ist ein Cloud-Dienst fast immer günstiger, denn er wird nach Verbrauch abgerechnet. Eigene Hardware spielt ihre Stärken unter drei Bedingungen aus: wenn Dokumente das Unternehmen nicht verlassen dürfen, etwa in Kanzleien, in der Steuerberatung, im Personalwesen oder bei Konstruktionsdaten; wenn mehrere Personen oder automatisierte Abläufe das Modell täglich über Stunden nutzen; und wenn die Kosten mit dem Kauf feststehen sollen, unabhängig von den Preisänderungen eines Anbieters. Der gemietete Server liegt dazwischen. Die Daten verlassen das Haus, bleiben aber auf einer Maschine, die niemand sonst nutzt.

In der Praxis ergänzen sich die Wege. Vertrauliches läuft lokal, Anspruchsvolles ohne Personenbezug darf in die Cloud. Wo die Grenze verläuft, entscheidet die Unternehmensführung.

Was Sie vor dem Kauf klären sollten

Die wichtigste Frage ist, ob ein lokales Modell Ihre Aufgaben gut genug löst. Das lässt sich klären, bevor Sie ein Gerät bestellen:

Aufgaben, Dokumente und Nutzerkreis festlegen: Bestimmen Sie zwei oder drei Aufgaben, die Dokumentarten, die ein Modell dafür sehen darf, und wie viele Personen gleichzeitig damit arbeiten sollen. Diese Festlegung gehört zu den Fachbereichen und zur Geschäftsführung.
Stichprobe zusammenstellen: Wählen Sie fünf bis zehn typische Dokumente, die nicht vertraulich sind, etwa ältere Musterverträge oder anonymisierte Berichte.
Auf gemieteter Hardware testen: Ein Grafikserver mit ausreichend Speicher ist stundenweise zu mieten, bei Anbietern mit Rechenzentren in Deutschland ab gut einem Euro pro Stunde.¹⁰ Lassen Sie mehrere Personen gleichzeitig arbeiten, um die Wartezeiten unter Last zu sehen.
Ergebnisse von Fachleuten bewerten lassen: Die Antworten prüfen Mitarbeitende, die die Dokumente kennen. Entscheidend ist, ob sie mit den Ergebnissen weiterarbeiten würden.
Erst dann die Variante wählen: Für Einzelne und kleine Runden genügt ein Arbeitsplatzrechner. Kommen eine Abteilung oder automatisierte Abläufe hinzu, rechnen Sie Kauf und Miete eines Grafikservers gegeneinander.

Den größeren Teil der Arbeit erledigen Sie damit vor dem Kauf.

Was an die Kette gehört

In Zutphen hängen die Ketten bis heute an den Büchern. Bemerkenswert ist dabei weniger das Eisen als die Entscheidung, die ihm vorausging: welche Bände so wertvoll waren, dass sie den Raum nie verlassen sollten. Die Ketten schmiedete ein Handwerker. Welche Bücher daran gehörten, mussten andere entscheiden.

Bei der KI verhält es sich ebenso. Das Pult gibt es heute für 6.599 Euro im Handel. Die Auswahl liegt bei Ihnen.

Museum.nl, De Librije – Openbare leeszaal uit de 16e eeuw, abgerufen November 2026. ↩
Notebookcheck, Apple enthüllt Mac Studio mit Apple M5 Ultra und bis zu 512 GB RAM bei 1,2 TB/s, August 2026. Preis der Grundausstattung mit 30-Kern-CPU, 64-Kern-GPU, 96 GB und 1 TB SSD. ↩
eWeek, Alibaba Releases Qwen3.8-27B Under Apache 2.0 as Max Model Adds Licensing Limits, August 2026. ↩
MacStories, Federico Viticci, M5 Ultra Mac Studio Review: The Dream Mac for Local AI Agents, September 2026. Gemessen auf einem Testgerät mit 256 GB; die Schreibgeschwindigkeit hängt von der Speicherbandbreite ab, die bei allen M5-Ultra-Varianten 1,2 TB/s beträgt. ↩ ↩² ↩³
Journal of Memory and Language, Marc Brysbaert, How many words do we read per minute? A review and meta-analysis of reading rate, Dezember 2019. Mittelwert für stilles Lesen englischer Sachtexte: 238 Wörter pro Minute. ↩
PC Games Hardware, Geforce RTX 5090 kostet jetzt 5.099 US-Dollar: Aus dem Meme wird Realität, September 2026. Günstigstes Angebot im deutschen Preisvergleich am 1. September 2026. ↩
Trooper.ai, RTX Pro 4500 Blackwell vs RTX Pro 6000 Blackwell – GPU Benchmark Comparison, abgerufen November 2026. Messung des Anbieters auf eigenen Mietservern mit vLLM und dem Modell Qwen3.6-27B im 4-Bit-Format NVFP4. ↩
Gpuprix, RTX PRO 6000 Blackwell: Preisverlauf in Deutschland, Oktober 2026. Tiefstpreis am 3. Oktober 2026: 15.490 Euro; Median der letzten zwölf Monate: 12.192 Euro. ↩
WZ-IT, Hetzner GPU-Server im Vergleich, Oktober 2026. Server GEX63 mit RTX PRO 6000 Blackwell Max-Q, Preisstand 13. Oktober 2026. ↩
Trooper.ai, Preise für GPU-Server in der EU und Deutschland, abgerufen November 2026. Server mit einer Grafikkarte RTX Pro 6000 und 96 GB Grafikspeicher. ↩