On-Premise KI im Unternehmen: Warum CTA nicht auf Cloud setzt

Früher dachte ich, jedes Unternehmen landet irgendwann komplett in der Cloud. Diese Meinung habe ich mittlerweile revidiert. Zu oft sehe ich Mittelständler, die bewusst dagegenhalten. Cleanroom Technology Austria (CTA), ein Reinraumbauer mit rund 50 Mitarbeitern, betreibt den Großteil seiner IT bewusst on premise. Und baut das jetzt sogar für KI-Anwendungen weiter aus.

Geschäftsführer Patrick Schleich erklärt im Podcast, warum das für sein Unternehmen kein Nice-to-have ist, sondern eine Notwendigkeit. Der Grund ist einfach. CTA zählt zu kritischer Infrastruktur und muss strenge Anforderungen an IT-Sicherheit erfüllen. Nach diesem Artikel weißt du, wann On-Premise KI im Unternehmen die richtige Wahl ist und worauf es dabei ankommt.

Warum Cloud-KI für kritische Infrastruktur ein Problem ist

Für die meisten Unternehmen ist die Cloud der Standardweg, auch bei KI. Schnell verfügbar, keine eigene Serverwartung, planbare Kosten. Für Unternehmen, die unter Regularien wie NIS-2 fallen, sieht die Rechnung anders aus. Sie müssen ihre gesamte IT-Sicherheit lückenlos im Griff haben und nachweisen können, wo Daten liegen, wer Zugriff hat und wie sie geschützt sind.

Sobald Kundendaten, Pläne oder Zugriffe auf das ERP-System im Spiel sind, wird eine öffentliche Cloud-KI schnell zum Compliance-Risiko. Genau in diesem Spannungsfeld bewegt sich CTA. Einerseits will das Unternehmen die Chancen von KI nutzen. Andererseits muss es als kritische Infrastruktur besonders vorsichtig sein.

Wie CTA On-Premise KI im Unternehmen aufbaut

Schleich sagt es klar: CTA war schon vor dem KI-Thema ein sehr wenig cloudbasiertes Unternehmen. Die gesamte IT-Architektur ist historisch stark on premise ausgelegt, gerade wegen der NIS-2-Anforderungen. Diese Infrastruktur will das Unternehmen jetzt gezielt nutzen, statt sie für KI-Anwendungen aufzugeben.

CTA unterscheidet klar zwischen zwei Bereichen. Für unkritische Anwendungen, etwa Coding-Unterstützung oder internes Wissensmanagement, nutzt das Unternehmen aktuell Cloud-Tools wie Claude. Sobald es aber um kritische Kundendaten geht, um das Auslesen von Plänen, um Planungsdaten oder den Zugriff auf das ERP-System, zieht CTA eine klare Grenze. Hier baut das Unternehmen gerade ein eigenes LLM on premise auf und detailliert die IT-Architektur entsprechend.

Schleichs Ziel ist klar formuliert: So viele Daten und so viel Rechenleistung wie möglich zentral im eigenen Haus behalten. Für ihn ist das auch eine Frage der Haltung. Die Infrastruktur ist ohnehin vorhanden. Also nutzt man sie, statt sie brachliegen zu lassen und zusätzlich für Cloud-Leistung zu bezahlen.

Einordnung: für wen sich On-Premise KI im Unternehmen lohnt

Aus meiner Erfahrung ist On-Premise KI für die meisten Unternehmen nicht der richtige Startpunkt. Der Aufwand für Hardware, Wartung und Betrieb eines eigenen Modells ist real. Und für viele Anwendungsfälle liefert eine Cloud-Lösung schneller Ergebnisse. Trotzdem gibt es klare Kriterien, wann sich der Weg von CTA lohnt.

Erstens. Fällt dein Unternehmen unter NIS-2 oder zählt aus anderen Gründen zu kritischer Infrastruktur, sind Compliance-Anforderungen an Cloud-Anbieter oft schwerer darstellbar als der Betrieb eigener Server. Zweitens. Existiert bereits eine solide On-Premise-Infrastruktur, ist der Zusatzaufwand für ein eigenes LLM überschaubar. Ein kompletter Aufbau von null wäre deutlich teurer. Drittens. Verarbeitest du hochsensible Kundendaten oder geistiges Eigentum, wiegt die Kontrolle über die Daten schwerer als der Komfort einer Cloud-Lösung.

Der typische Fehler in der Praxis: Unternehmen versuchen, alles auf einmal on premise zu bringen, statt hybrid zu arbeiten. CTA macht es besser. Unkritische Anwendungen laufen in der Cloud, kritische Bereiche werden schrittweise on premise ausgebaut. Das senkt Risiko und Kosten gleichzeitig.

Checkliste: Cloud oder On-Premise für KI?

• Fällt dein Unternehmen unter NIS-2 oder vergleichbare Regularien?
• Verarbeitest du hochsensible Kundendaten oder geistiges Eigentum in KI-Anwendungen?
• Hast du bereits eine On-Premise-Infrastruktur, die sich erweitern lässt?
• Kannst du unkritische Anwendungsfälle klar von kritischen trennen?
• Ist der interne Aufwand für Betrieb und Wartung eines eigenen Modells tragbar?

Fazit

• On-Premise KI ist kein Selbstzweck. Sie ist eine Antwort auf konkrete Compliance-Anforderungen.
• Kritische Infrastruktur sollte kritische Daten grundsätzlich nicht in öffentlichen Cloud-KIs verarbeiten.
• Ein hybrider Ansatz, Cloud für unkritische, on premise für kritische Anwendungen, senkt Risiko und Aufwand.
• Bestehende On-Premise-Infrastruktur ist ein unterschätzter Vorteil beim Einstieg in eigene KI-Modelle.
• Die Entscheidung für On-Premise ist reversibel. Sie sollte trotzdem von Anfang an mit klarer Architektur geplant werden.

CTA-Absatz

Bist du unsicher, ob deine sensiblen Daten in einer Cloud-KI richtig aufgehoben sind? In einer KI-Engpass-Analyse klären wir gemeinsam, welche Architektur zu deinem Unternehmen und deinen Compliance-Anforderungen passt.