Private KI vs. Cloud-KI im Mittelstand
Cloud-Anbieter bieten inzwischen EU-Datenresidenz an. Das verschiebt die Frage — es beantwortet sie nicht. Kosten, Kontrolle und Mandantentrennung im Vergleich.
Ihre Rechtsabteilung hat den Auftragsverarbeitungsvertrag abgezeichnet. Haken dran. Dann hat jemand die Aufbewahrungsregeln tatsächlich gelesen — und die Frage gestellt, die im Raum niemand beantworten konnte: Wie lange liegen unsere Eingaben eigentlich beim Anbieter, und wo?
Die Antwort steht in der Dokumentation, und sie ist präziser, als die meisten Vergleichsartikel zugeben. OpenAI schreibt zu seiner API wörtlich: "By default, abuse monitoring logs are generated for all API feature usage and retained for up to 30 days, unless longer retention is required by law, or is reasonably necessary to protect our services or any third party from harm" (OpenAI, Your data, gelesen am 13.08.2026). Dreißig Tage Missbrauchsprotokolle sind kein Skandal. Sie sind eine Voreinstellung, die man kennen muss, bevor man Mandantenakten hineingibt.
Was sich 2026 geändert hat — und warum das gegen uns spricht
Der übliche Aufhänger für private KI lautet: Ihre Daten verlassen die EU. Dieser Satz war lange richtig. Er ist es in dieser Pauschalität nicht mehr, und ein Anbieter, der Ihnen das verschweigt, verkauft Ihnen eine veraltete Angst.
Dieselbe Dokumentationsseite nennt als verfügbare Regionen die Vereinigten Staaten und Europa (EWR + Schweiz). Die Bedingung steht direkt daneben, wörtlich: "To use data residency with any region other than the United States, you must be approved for abuse monitoring controls, and execute a Modified Retention amendment" (ebd., gelesen am 13.08.2026). Wer die Freigabe erhält und den Nachtrag unterzeichnet, bekommt europäische Datenhaltung von einem amerikanischen Anbieter.
Das ist eine echte Verbesserung, und sie verkleinert den Abstand. Die ehrliche Konsequenz für diesen Vergleich: Datenresidenz allein ist kein Argument mehr für eigene Infrastruktur. Wenn Ihr einziges Ziel ist, dass Daten im EWR ruhen, ist der Weg über eine EU-Region des Anbieters der schnellere und billigere.
Drei Fragen, die die EU-Region nicht beantwortet
Erstens: Wer entscheidet über die Aufbewahrung? Eine Region ist ein Speicherort. Die Voreinstellung von 30 Tagen bleibt eine Voreinstellung des Anbieters, und sie ändert sich, wenn er sie ändert. Der Nachtrag, der sie verschiebt, ist ein Vertrag mit einer Partei, die eigene Gründe hat, Protokolle zu führen. Das ist kein Vorwurf — es ist eine Zuständigkeitsfrage, und die Antwort lautet: nicht Sie.
Zweitens: Was passiert zwischen zwei Mandaten? Dazu unten mehr, weil es der Punkt ist, den Vergleichsartikel regelmäßig auslassen.
Drittens: Was kostet es in achtzehn Monaten? Ein Preis pro Token ist keine Kostenstruktur, sondern eine Funktion Ihrer Nutzung. Er steigt genau dann, wenn das System endlich benutzt wird — also im Erfolgsfall. Das ist die unangenehmste Eigenschaft nutzungsabhängiger Preise: Sie bestrafen Adoption, und Sie merken es erst, wenn die Fachabteilung das Werkzeug liebgewonnen hat.
Eigene Hardware verhält sich umgekehrt. Ein GPU-Server bei Hetzner in Falkenstein kostet, was er kostet: Hetzner nennt für den GEX44 in der eigenen Pressemitteilung "€ 184.00 a month and a one-time setup fee of € 79.00" (Hetzner, 04.03.2024, gelesen am 13.08.2026) — NVIDIA RTX 4000 SFF Ada mit 20 GB, Intel Core i5-13500, 64 GB RAM. Größere Konfigurationen kosten ein Vielfaches, und die aktuellen Konfigurator-Preise haben wir hier nicht geprüft; die Zahl steht als Größenordnung, nicht als Angebot. Entscheidend ist nicht der Betrag, sondern dass er im Januar derselbe ist wie im Juni.
Das Mandantenproblem, das in keinem Vergleich steht
Cloud und eigene Infrastruktur teilen ein Problem, über das Anbietervergleiche schweigen, weil es unbequem für beide Seiten ist: die Vermischung mehrerer Mandanten in einem System.
Wenn Personalabteilung, Buchhaltung und Rechtsabteilung dieselbe Wissensdatenbank befragen — was verhindert, dass eine Personalfrage einen Vertragsentwurf aus einem anderen Bestand hervorholt? Bei einem Cloud-Dienst verlassen Sie sich vollständig auf die Trennungsarchitektur des Anbieters. Sie können sie nicht einsehen und einem Prüfer nicht zeigen.
Wir bauen die Trennung deshalb strukturell statt regelbasiert: ein eigenes PostgreSQL-Schema pro Mandant, Vektorsuche, die nie über das Schema hinausgreift, API-Schlüssel als SHA-256-Hash, keine schemaübergreifenden Abfragen im Datenmodell vorgesehen. Der Unterschied ist prüfbar: Sie legen Ihrer Datenschutzbeauftragten das Schema vor. Eine Zusicherung im Vertrag ist etwas anderes als eine Trennung, die man aufzeichnen kann.
Für Berufsgeheimnisträger ist das keine Feinheit, sondern der Kern. § 62a StBerG verlangt vier Dinge kumulativ, und ein Auftragsverarbeitungsvertrag deckt keines davon vollständig ab: Zugang nur, "soweit dies für die Inanspruchnahme der Dienstleistung erforderlich ist" (Abs. 1); die Pflicht, den Dienstleister "sorgfältig auszuwählen", und die Zusammenarbeit "unverzüglich" zu beenden, wenn die Voraussetzungen entfallen (Abs. 2); einen Vertrag in Textform, der den Dienstleister zur Verschwiegenheit verpflichtet — "unter Belehrung über die strafrechtlichen Folgen einer Pflichtverletzung" (Abs. 3); und bei mandatsbezogenen Diensten die Einwilligung des Mandanten (Abs. 5), ohne dass die Pflichten aus Abs. 2 und 3 dadurch entfallen (Abs. 6) (§ 62a StBerG, gesetze-im-internet.de).
Das Bemerkenswerte an dieser Norm: Sie stammt vom 9. November 2017 und wurde seither nicht geändert. Sie erwähnt künstliche Intelligenz mit keinem Wort — und musste es nie. Ihr Prüfmaßstab war immer, ob ein Dritter Zugang zu fremden Geheimnissen erhält und ob er verpflichtet ist. Ein Sprachmodell ist genau dieser Dritte.
Welche Variante zu Ihnen passt
Die EU-Region eines Cloud-Anbieters ist die richtige Wahl, wenn Sie einen Anwendungsfall validieren, wenn keine berufsrechtlich geschützten Daten im Spiel sind, und wenn Ihre Nutzung überschaubar bleibt. Sie ist schnell, sie ist gut, und sie ist inzwischen datenschutzrechtlich ernstzunehmen.
Eigene oder dedizierte Infrastruktur rechnet sich, wenn drei Dinge zusammenkommen: Sie verarbeiten Mandanten-, Personal- oder Finanzdaten; mehrere Bereiche oder Mandanten teilen sich ein System; und die Nutzung wächst so, dass ein Tokenpreis zur laufenden Unbekannten wird. Für EU-Kunden setzen wir dabei auf Hetzner in Deutschland; für Kunden außerhalb der EU auf die Infrastruktur, die deren Recht verlangt — eine pauschale Aussage über den Speicherort ist genau die Art von Zusage, die später niemand halten kann.
Dazwischen liegt ein Mittelweg, den man selten empfohlen bekommt, weil er niemandem eine Marge bringt: ein europäisch gehostetes verwaltetes Modell. Sie behalten den Tokenpreis, die Daten bleiben in Europa, und Sie betreiben keine eigenen GPUs. Für viele Häuser ist das für die ersten zwölf Monate die vernünftigste Antwort.
Wenn Sie hier nichts wiedererkannt haben, brauchen Sie wahrscheinlich keines von beidem. Das ist ein zulässiges Ergebnis, und wir sagen es Ihnen lieber vorher.
Wir zeigen Ihnen das System an Ihren eigenen Unterlagen — indiziert in Deutschland, Antworten auf Deutsch, Kosten als Zahl, die in einen Haushaltsplan passt. Termin über 30 Minuten buchen, ohne Folien.