Einordnung
Die Frage ist selten „KI ja oder nein”, sondern „ein Tool oder ein System”. Ein einzelnes KI-Tool, zum Beispiel ein Chatbot auf der Website oder ein separates Telefon-KI-Abo, löst ein konkretes Problem schnell und mit überschaubarem Risiko. Ein KI-Betriebssystem verbindet mehrere solcher Bausteine über eine gemeinsame Wissensbasis, einheitliche Freigaberegeln und dieselben Systemanbindungen. Diese Seite klärt, wann sich der Schritt vom Einzeltool zum System lohnt. Was ein KI-Betriebssystem ist und aus welchen Bausteinen es besteht, erklärt der Beitrag KI-Betriebssystem erklärt.
Der Unterschied zeigt sich erst bei mehreren Tools. Ein einzelnes Tool hat eine Wissensbasis und eine Regel-Logik. Zwei unabhängige Tools haben zwei, und die können sich widersprechen, wenn niemand beide synchron pflegt. Ein System hat eine gemeinsame Wissensgrundlage, egal wie viele Kanäle daran hängen.
Eine solche zentrale Plattform kann von uns kommen, von einem anderen Anbieter oder aus einer Software, die Sie schon nutzen. Die Kriterien auf dieser Seite gelten für jede.
Tool-Wildwuchs und Schatten-KI: was das im Betrieb heißt
Mehrere KI-Tools können auch ohne bewusste Entscheidung entstehen: Jemand formuliert E-Mails mit einem privaten Chatbot-Konto, die Website bekommt einen eigenen Chatbot, das Telefon ein eigenes Abo. Nutzen Beschäftigte Tools, die der Arbeitgeber nicht bereitgestellt hat, spricht man von Schatten-KI.
Wie verbreitet das ist, zeigen zwei Befragungen, die Verschiedenes messen:
- Beschäftigte über sich selbst: In der IW-Beschäftigtenbefragung vom März und April 2026 gaben 29,1 % der erwerbstätigen KI-Nutzenden (n = 2.793) an, Tools zu verwenden, die ihr Arbeitgeber nicht bereitgestellt hat. In Unternehmen mit weniger als 50 Beschäftigten waren es 33,5 %, ab 250 Beschäftigten 25,5 %. Die Autoren schreiben selbst: „Nicht bereitgestellt heißt dabei nicht zwingend heimlich oder verboten“ (IW-Kurzbericht 63/2026). Die Daten sind ein Querschnitt und beruhen auf Selbsteinschätzungen.
- Unternehmen über ihre Belegschaft: Bitkom Research hat im Auftrag des Digitalverbands Bitkom 604 Unternehmen ab 20 Beschäftigten telefonisch befragt (KW 27 bis 32/2025). In 8 % der Unternehmen ist die Nutzung privater KI-Tools weit verbreitet, in 17 % gibt es Einzelfälle, weitere 17 % wissen es nicht sicher, gehen aber davon aus. 23 % hatten Regeln für den Einsatz von KI-Tools aufgestellt (Bitkom, 21.10.2025).
Die IW-Zahl beschreibt, was Beschäftigte von sich sagen. Die Bitkom-Zahlen beschreiben, was Unternehmen wissen oder vermuten. Als Trend nebeneinanderlegen lassen sie sich nicht.
Die Datenschutzkonferenz (DSK) schreibt zur eigenmächtigen, unkontrollierten KI-Nutzung ohne klare Regelungen: „Es ist davon auszugehen, dass dies derzeit Realität in vielen Unternehmen und Behörden ist“ (Orientierungshilfe KI, Rn. 36). Ein Verbot allein hilft nach Einschätzung der IW-Autoren wenig: „Reine Verbote würden vor allem engagierte Beschäftigte treffen“. Daraus folgt zuerst ein Überblick, noch keine Plattform.
Vergleichstabelle
| Kriterium | KI-Betriebssystem | Einzelne KI-Tools |
|---|---|---|
| Aufwand pro zusätzlichem Baustein | geringerer Aufwand für Wissensbasis und Regeln, weil beides schon besteht; Kosten je Baustein hängen vom Umfang ab (siehe Preise) | jeder Baustein bringt eigene Wissensbasis und Regeln mit |
| DSGVO/Datenhoheit | zentrale Übersicht über Anbieter, AVV und Unterauftragsverarbeiter (bei uns: Datenschutzerklärung, Abschnitt 17); Löschfristen einmal definiert, umgesetzt werden müssen sie von jedem beteiligten Dienst | ein AVV und ein Löschprozess pro Tool-Anbieter, die Übersicht führen Sie selbst |
| Wartung | zentral: eine Wissensbasis, die alle Kanäle nutzen; Kanaleinstellungen bleiben je Baustein | verteilt: jede Änderung muss in jedem Tool einzeln nachgezogen werden |
| Skalierung | neue Kanäle können leichter an die bestehende Struktur angebunden werden | jeder neue Kanal ist ein eigenes kleines Projekt |
| Anbindung ERP | Anbindung einmal aufgebaut, soweit das ERP eine nutzbare Schnittstelle bietet; ob Schreibzugriff möglich ist, ist je Hersteller zu klären | pro Tool einzeln einzurichten, soweit Tool und ERP das zulassen |
| Einstiegsrisiko | höher, weil die Architektur von Anfang an mitgedacht wird | niedriger, ein Tool lässt sich risikoarm testen |
| Konsistenz der Antworten | gleiche Wissensgrundlage; Antworten können je Kanal trotzdem abweichen, deshalb testen | Kanäle können sich widersprechen, wenn Wissen nicht synchron ist |
| Abhängigkeit vom Anbieter | alles hängt an einer Plattform; Export von Wissensbasis, Prompts und Protokollen vorab klären | verteilt sich auf mehrere Anbieter, jeder mit eigenem Vertrag |
KI-Tool-Chaos vermeiden: vier Grundregeln, auch ohne Plattform
Diese vier Regeln setzen keinen Kauf voraus (Stand: 20.10.2026):
- Tool- und AVV-Liste. Schreiben Sie auf, welche KI-Tools im Betrieb genutzt werden, wofür, mit welchen Daten und ob ein Auftragsverarbeitungsvertrag (AVV) besteht. Fragen Sie auch nach privaten Konten, ohne Vorwurf. Ein Anbieter darf weitere Auftragsverarbeiter nur mit Ihrer vorherigen schriftlichen Genehmigung einsetzen (Art. 28 Abs. 2 DSGVO); deren Liste gehört mit in Ihre Übersicht.
- Eine Wissensquelle mit Verantwortlichem. Leistungen, Öffnungszeiten und Standardantworten stehen an einer Stelle, und eine benannte Person hält sie aktuell. Jedes Tool, das Kundenfragen beantwortet, wird nach diesem Stand gepflegt.
- Betriebliche Accounts und Rollen. Die DSK empfiehlt, dass Arbeitgeber für die berufliche KI-Nutzung Geräte und Accounts zur Verfügung stellen (Rn. 41), interne Regelungen zum Einsatz treffen (Rn. 36) und Beschäftigte durch Schulungen und Leitfäden sensibilisieren (Rn. 46). Die Orientierungshilfe ist eine Empfehlung der Aufsichtsbehörden, kein Gesetz. Legen Sie außerdem fest, wer welches Tool mit welchen Daten nutzen darf.
- Protokoll. Halten Sie fest, welches Tool was an Kunden beantwortet oder verschickt hat, soweit das Tool es erlaubt. Ohne Protokoll lässt sich ein Fehler später kaum zurückverfolgen.
Mehr Punkte zum Abhaken stehen in der DSGVO-Checkliste für KI im Unternehmen.
Wann A, wann B
Ein einzelnes KI-Tool passt, wenn Sie zum ersten Mal KI im Betrieb testen und noch nicht wissen, ob und wie gut es funktioniert. Der Telefonassistent allein ist ein überschaubarer erster Schritt, ohne dass Sie sich sofort auf eine größere Architekturentscheidung festlegen.
Das KI-Betriebssystem passt, sobald absehbar ist, dass zwei oder mehr Kanäle KI brauchen, etwa Telefon plus WhatsApp oder Telefon plus ein Agent für Angebote. Dann bauen Sie Wissensbasis und Regeln nicht für jeden Baustein neu auf, und das kann den Pflegeaufwand je Baustein senken.
Als Faustregel: Ein Tool zum Ausprobieren ist völlig in Ordnung. Ab dem zweiten oder dritten KI-Baustein ist es häufig sinnvoll, die Systemfrage zu stellen. Ein System ist nicht grundsätzlich besser. Es kommt darauf an, wie viel doppelte Pflege Sie heute schon haben.
Zentrale KI-Plattform für den Mittelstand: wann sie sich nicht lohnt
Unsere Einschätzung, keine Messung. Eine zentrale Plattform ist meist zu viel, wenn
- Sie einen Anwendungsfall haben und kein zweiter Kanal absehbar ist,
- niemand im Betrieb die gemeinsame Wissensbasis pflegen kann (dann veraltet sie, und alle Kanäle antworten mit demselben veralteten Stand),
- Ihre vorhandene Büro- oder CRM-Software den Bedarf schon abdeckt,
- der Anbieter keinen Ausstiegsweg bietet, also keinen Export von Wissensbasis, Prompts und Protokollen,
- Sie besonders sensible Daten verarbeiten. Die DSK hält technisch geschlossene Systeme aus datenschutzrechtlicher Sicht für vorzugswürdig (Rn. 20). Ob eine Plattform das leistet, prüfen Sie dann besonders genau.
Bei uns gehören zentrale Wissensbasis, gemeinsame Freigaberegeln und ein Protokoll über alles zur Stufe 3. Was die einzelnen Stufen umfassen, steht auf der Preisseite.
Worauf Sie bei jeder Plattform achten
Egal, von welchem Anbieter die Plattform kommt, diese Punkte sollten Sie vor Vertragsschluss schriftlich haben:
- Subprozessorliste: Welche Dienste verarbeiten Ihre Daten, in welchem Land, und wie erfahren Sie von Änderungen? Bei einer allgemeinen Genehmigung muss der Anbieter Sie über geplante Änderungen informieren, und Sie können Einspruch erheben (Art. 28 Abs. 2 DSGVO).
- Export: Wissensbasis, Prompts und Gesprächsprotokolle in einem Format, das Sie weiterverwenden können.
- Rollen: Wer darf Wissen ändern, wer gibt Antworten frei?
- Protokolle: Was wird gespeichert, wie lange, und wer kann es einsehen?
Mehr zur Auswahl steht im Beitrag KI-Anbieter für KMU datenschutzgerecht auswählen.
Wenn Sie Ihre Tool-Liste einmal mit jemandem durchgehen wollen: Das kostenlose Erstgespräch dauert 30 Minuten und dient einer ersten Einordnung.
Dieser Beitrag ist eine allgemeine Orientierung (Stand: 20.10.2026) und ersetzt keine Rechts- oder Steuerberatung.
Quellen
- Bitkom: Beschäftigte nutzen vermehrt Schatten-KI, Presseinformation vom 21.10.2025 (abgerufen 20.10.2026)
- Engels/Hammermann: Schatten-KI: Beschäftigte sind schneller als ihre Betriebe, IW-Kurzbericht Nr. 63/2026 (abgerufen 20.10.2026)
- Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0 vom 6. Mai 2024 (abgerufen 20.10.2026)
- Art. 28 DSGVO (gdpr-info.eu) (abgerufen 20.10.2026)