KI im Unternehmen einführen: In 6 Stufen vom Ausprobieren zum eigenen Agenten

Simon Gütter · 13. November 2026 · Lesezeit etwa 12 Minuten

Titelbild „In 6 Stufen zur eigenen KI“: Holztreppe mit sechs Stufen auf einem Schreibtisch, unten ein Notizzettel, oben ein orangefarbener Würfel

57 Prozent der Unternehmen in Deutschland mit mindestens 20 Beschäftigten nutzen inzwischen KI. Doch kein Unternehmen mit KI im Einsatz sagt, dass es das Potenzial voll ausschöpft, und 59 Prozent schöpfen die Möglichkeiten nach eigener Einschätzung überhaupt nicht aus.1 Kleinere Betriebe sind noch weiter zurück. Laut Statistischem Bundesamt setzten 2025 erst 23 Prozent der Unternehmen mit 10 bis 49 Beschäftigten KI ein. Wer KI erwogen, aber nicht eingeführt hatte, nannte am häufigsten fehlendes Wissen als Grund.2 In diesem Artikel zeige ich dir, in welchen Stufen KI im Unternehmen wirklich ankommt, woran es zwischen den Stufen hängt und wie du mit dem Reifegrad-Check in drei Minuten herausfindest, wo ihr steht.

Kurz gesagt

Mit ein paar ChatGPT-Zugängen ist KI noch lange nicht im Betrieb angekommen. Viele kleine Firmen stehen erst auf Stufe 1 oder 2. Einzelne probieren herum, gute Prompts gehen per Zuruf durchs Büro. Der große Sprung kommt erst, wenn euer Firmenwissen an einem Ort liegt und die KI direkt in euren Programmen mitarbeitet. Ab da sparen eigene Agenten für feste Abläufe wie Terminanfragen, Angebote oder Belege richtig Zeit. Tief in die Technik musst du dafür nicht einsteigen. Wichtiger ist, dass ihr wisst, wo im Alltag die Zeit bleibt, welche Daten wohin dürfen und dass das Team mitzieht.

Das Wichtigste in Zahlen

  • 57 % der Unternehmen in Deutschland ab 20 Beschäftigten nutzen KI, 2024 waren es 20 %.1
  • 23 % der Unternehmen in Deutschland mit 10 bis 49 Beschäftigten nutzten 2025 KI, bei Unternehmen ab 250 Beschäftigten waren es 57 %.2
  • 73 % der kleinen Firmen, die KI erwogen, aber nicht eingesetzt haben, nennen fehlendes Wissen als Grund.2
  • 66 % der Unternehmen halten die KI-Kompetenz ihrer Beschäftigten für gering.1
  • 48 % der KI-Anwender konnten interne Abläufe damit deutlich beschleunigen.1
  • 11 % setzen bereits KI-Agenten ein, weitere 29 % planen es.1

Warum eine Lizenz noch keine KI-Einführung ist

Oft läuft es so ab. Die Geschäftsführung bucht einen KI-Zugang für alle, ein paar Leute sind begeistert, die meisten probieren es zweimal aus. Ein halbes Jahr später schreibt die KI ab und zu eine Mail, aber an den Abläufen hat sich nichts geändert.

Den größten Unterschied sehe ich zwischen KI als Komfort und KI in den Abläufen. Eine schneller formulierte Mail spart ein paar Minuten. Eine Terminanfrage, die ohne Abtippen im Kalender landet, spart jede Woche Stunden. Und dafür muss vorher klar sein, wie der Ablauf überhaupt geht. In vielen kleinen Betrieben steht das nirgends, es steckt im Kopf der Chefin oder eines erfahrenen Mitarbeiters.

Das deckt sich mit den Zahlen. Wer KI schon nutzt, nennt als größte Hürden Datenschutz (66 %), rechtliche Unsicherheit (56 %) und fehlende Akzeptanz im Team (42 %).1 Das sind keine technischen Probleme. Und wer KI noch nicht nutzt, scheitert vor allem an fehlendem Wissen.2 Plane für dein Team deshalb mindestens so viel Zeit ein wie für die Technik. Erklär, warum ihr KI einsetzt, gib Luft zum Ausprobieren und sag ehrlich dazu, dass es in den ersten Wochen erst einmal mehr Arbeit ist.

Die 6 Stufen der KI-Einführung

Ein KI-Reifegradmodell zeigt, wie weit KI in einem Betrieb vom losen Ausprobieren bis zu festen Abläufen gekommen ist. Als Grundlage nutze ich das Modell mit sechs Phasen, das der Hamburger Softwareanbieter awork für Agenturen beschrieben hat. Nach awork stehen die meisten Agenturen in Phase 2.3 Ich habe das Modell für kleine Betriebe wie Praxen, Handwerk, Dienstleister und Händler übersetzt. Dazu habe ich ergänzt, woran meine eigenen Automatisierungen anfangs gehakt haben.

Stufe So sieht es aus Woran es meist hängt
1. Einzelne probieren Einzelne nutzen ChatGPT und Co. für Texte und Recherche, jeder für sich keine Regeln, private Zugänge
2. Tipps per Zuruf KI ist im Alltag angekommen, gute Prompts werden mündlich geteilt Wissen steckt in Köpfen und Chatverläufen
3. Firmenwissen an einem Ort Leistungen, Preise, Abläufe, Vorlagen und Tonalität liegen zentral, die KI arbeitet damit niemand fühlt sich für die Pflege zuständig
4. KI in den eigenen Tools Die KI schlägt im Kalender, CRM oder Mailpostfach nach und legt Entwürfe an fehlende Schnittstellen, Daten von Hand übertragen
5. Eigene Agenten für feste Abläufe Ein Agent erledigt einen Ablauf, etwa Terminanfragen, ein Mensch gibt frei unklare Freigaben, Zahlen nicht im Code geprüft
6. Abläufe, die sich selbst steuern Mehrere Abläufe greifen ineinander, Menschen kontrollieren Ausnahmen keine Messung, ob es sich lohnt

Treppe mit 6 Stufen der KI-Einführung: Einzelne probieren, Tipps per Zuruf, Firmenwissen an einem Ort, KI in den eigenen Tools, eigene Agenten für Abläufe, Abläufe steuern sich selbst

Grafik auf deiner Seite verwenden

Du darfst die Grafik mit Quellenangabe frei verwenden. Kopiere dazu diesen Code:

<a href="https://simon-traffic.com/blog/ki-automatisierung/ki-reifegrad/"><img src="https://simon-traffic.com/assets/blog/ki-reifegrad/ki-reifegrad-6-stufen.png" alt="Die 6 Stufen der KI-Einführung im Unternehmen" width="1200" height="675"></a>
<p>Quelle: <a href="https://simon-traffic.com/blog/ki-automatisierung/ki-reifegrad/">Simon Traffic, KI im Unternehmen einführen</a></p>

Du musst nicht von Stufe 2 auf Stufe 6 springen. Jede Stufe für sich spart schon Zeit, und jede baut auf der vorigen auf.

Stufe 1: Einzelne probieren

Hier fängt fast jedes Unternehmen an, und das ist gut so. Wichtig ist nur, dass auf dieser Stufe noch keine Kundendaten in KI-Tools landen. Solange es keine Regel gibt, entscheidet jeder selbst, was er in ein Chatfenster kopiert.

Als Nächstes lass einfache Aufgaben testen, etwa Mails formulieren oder lange Texte zusammenfassen. Notiere dabei, welche Aufgaben sich jede Woche wiederholen.

Stufe 2: Tipps per Zuruf

Die KI wird regelmäßig genutzt, aber jeder mit seinem eigenen Werkzeug und seinen eigenen Tricks. Gute Prompts verschwinden in privaten Chatverläufen.

Legt als Nächstes ein Werkzeug für alle fest, am besten ein Firmenkonto mit Auftragsverarbeitungsvertrag statt privater Zugänge. Schreibt auf, welche Daten hinein dürfen. Gebt allen eine kurze Einweisung und sammelt gute Prompts an einem Ort.

Stufe 3: Firmenwissen an einem Ort

Auf dieser Stufe passiert der größte Sprung. Eine KI, die eure Leistungen, Preise, häufigen Kundenfragen und eure Tonalität kennt, schreibt Antworten, die nach euch klingen und stimmen. Ohne dieses Wissen rät sie.

Ich habe für meinen eigenen Assistenten eine Wissensdatenbank aufgebaut, die Bedeutungssuche mit klassischer Wortsuche kombiniert. In meinen Tests mit 30 Fragen stand die richtige Antwort damit in 93 statt 73 Prozent der Fälle unter den ersten fünf Treffern. Vor allem Kennungen wie Vertrags- oder Aktenzeichen fand sie zuverlässig. Für ein kleines Unternehmen reicht am Anfang aber schon ein gut gepflegter Ordner mit Leistungsbeschreibungen, Preisliste, FAQ und Mustervorlagen, den eine KI lesen darf. In einer Praxis gehören dazu etwa die Regeln für Rezept- und Terminanfragen, im Handwerksbetrieb Stundensätze, Anfahrtspauschalen und Standardantworten für Kleinaufträge.

Schreibt also auf, was eure Firma ausmacht, legt es an einem Ort ab und benennt eine Person, die es aktuell hält.

Stufe 4: KI in den eigenen Tools

Jetzt muss niemand mehr Inhalte in ein Chatfenster kopieren. Die KI schaut selbst im Kalender nach freien Terminen, liest den Kundenstand im CRM und legt eine Antwort als Entwurf im Postfach ab. Möglich machen das Schnittstellen und Automationswerkzeuge wie n8n, Make oder Zapier. In der Bitkom-Umfrage nennen 72 % der KI-Anwender den Kundenkontakt als Einsatzgebiet, etwa die Bearbeitung von Anfragen.1

Prüft dafür zuerst, welche eurer Programme eine Schnittstelle haben. Verbindet einen ersten Ablauf, zum Beispiel Kontaktformular an CRM an Bestätigungsmail. Eine eigene Online-Terminbuchung mit Schnittstelle ist oft ein guter Startpunkt, weil Termine in fast jedem kleinen Betrieb viel Zeit kosten.

Stufe 5: Eigene Agenten für feste Abläufe

Ein Chatbot beantwortet Fragen, ein KI-Agent arbeitet einen ganzen Ablauf ab. Ein typisches Beispiel: Eine Mail mit einer Angebotsanfrage kommt rein. Der Agent liest sie, schlägt Preis und Lieferbarkeit nach, legt einen Angebotsentwurf an und meldet sich, wenn etwas unklar ist. Ein Mensch prüft und schickt ab.

Beim Bau meines eigenen Assistenten habe ich dabei vor allem eins gelernt: Was Code kann, sollte Code machen. Auf die Frage nach überfälligen Aufgaben nannte das Sprachmodell vier, es waren 18. Seit die Datenbank zählt und die KI nur noch formuliert, stimmt es. Dasselbe gilt für Summen, Zahlungen und Freigaben. Wie ich das mit einem lokalen Modell umgesetzt habe, steht im Praxistest zu Nemotron 3.5 Bolt. Warum du Agenten keine Zahlungen allein überlassen solltest, liest du im Artikel KI-Agenten bezahlen lassen.

Für den Anfang wählt ihr einen häufigen, klar umrissenen Ablauf. Legt fest, was der Agent allein darf und was erst nach einem Ja. Lasst Zahlen und Berechtigungen im Programm prüfen.

Stufe 6: Abläufe, die sich selbst steuern

Auf der letzten Stufe greifen mehrere Abläufe ineinander. Eine Kundenmail mit einer Terminverschiebung passt automatisch Kalender, Einsatzplanung und Erinnerung an. Menschen steuern, prüfen Kennzahlen und kümmern sich um Ausnahmen. Das ist für die meisten kleinen Unternehmen heute noch Zukunft, und es muss auch nicht das Ziel für alles sein.

Wer dorthin will, misst je Ablauf, wie viel Zeit er vorher und nachher kostet, und wertet regelmäßig aus, wo die Agenten danebenlagen.

KI-Reifegrad-Check: Wie steht es um eure KI-Readiness?

Mit diesem KI-Readiness-Check findest du in 12 Fragen und etwa drei Minuten heraus, auf welcher Stufe dein Unternehmen steht und welcher Schritt als Nächstes am meisten bringt. Der Check läuft komplett in deinem Browser, es wird nichts gespeichert oder gesendet.

KI-Reifegrad-Check für kleine Unternehmen

12 Fragen, etwa 3 Minuten. Du erfährst, auf welcher von 6 Stufen dein Unternehmen steht und was der nächste sinnvolle Schritt ist. Alles bleibt in deinem Browser, es wird nichts gesendet.

Noch 12 Fragen offen.

Drei Grundlagen, die auf jeder Stufe gelten

1. Erst mitzählen, dann bauen

Bevor ich irgendetwas automatisiere, schaue ich mir an, wohin die Zeit geht. Welche Aufgaben wiederholen sich jede Woche? Wie lange dauern sie? Wer macht sie? Erst dann ist klar, welcher Ablauf sich für KI lohnt. Wer diesen Schritt überspringt, automatisiert schnell etwas, das kaum Zeit kostet. Das ist Prozessoptimierung im Kleinen, und eine Woche Mitzählen reicht oft schon. Wie oft dein Team die KI nutzt, sagt wenig. Als Kennzahl taugt vor allem, wie viele Minuten ein Ablauf vorher gedauert hat und wie viele es jetzt sind.

2. Regeln für Daten: Cloud, EU-Cloud oder lokal

Die Frage, wohin Daten gehen, entscheidet über das Werkzeug.

Variante Typisches Beispiel Wann sinnvoll
KI-Dienst ohne Firmenvertrag private ChatGPT- oder Gemini-Konten nur ohne Kunden- und Firmendaten
Firmenkonto mit Auftragsverarbeitungsvertrag Business-Tarife der großen Anbieter, KI über europäische Rechenzentren für den Alltag mit personenbezogenen Daten, nach Prüfung des Vertrags
Eigener Server in Deutschland KI-Modelle bei einem deutschen Hoster wenn Daten das Land nicht verlassen sollen
Lokales Modell ein offenes Modell auf dem eigenen Rechner für sensible Daten, kurze Antworten und feste Abläufe

Lokale Modelle sind inzwischen klein genug für normale Büro-Hardware, haben aber Grenzen. Was sie können und was nicht, habe ich im Praxistest zu Nemotron 3.5 Bolt beschrieben. Mehr zum Betrieb auf eigener Hardware steht unter Self-Hosting. Das ist keine Rechtsberatung, lass Verträge im Zweifel prüfen.

3. KI-Kompetenz: Was die EU verlangt

Seit dem 2. Februar 2025 gilt Artikel 4 der EU-KI-Verordnung, oft KI-Kompetenzpflicht genannt. Unternehmen, die KI-Systeme einsetzen, müssen sich um die KI-Kompetenz ihrer Leute kümmern. Das betrifft auch Personen, die in ihrem Auftrag mit den KI-Systemen arbeiten, etwa freie Mitarbeitende. Mit dem sogenannten Digital Omnibus wurde die Vorschrift 2026 entschärft. Unternehmen müssen jetzt Maßnahmen ergreifen, die die Entwicklung von KI-Kompetenz unterstützen. Ein bestimmtes Niveau ist nicht mehr vorgeschrieben.4

Laut EU-Kommission ist dafür weder ein Zertifikat noch eine bestimmte KI-Kompetenz-Schulung nötig. Es reicht, intern festzuhalten, welche Schulungen oder Hinweise es gab. Die Kommission empfiehlt vier Schritte: ein allgemeines Verständnis von KI schaffen, die eigene Rolle klären, die Risiken der eingesetzten Systeme prüfen und die Maßnahmen an das Wissen der Personen anpassen. Ihr Beispiel: Wer ChatGPT für Texte nutzt, sollte wissen, dass die KI Dinge erfinden kann.4

Für ein kleines Unternehmen heißt das ganz praktisch: eine Stunde Einweisung mit euren eigenen Regeln und Beispielen, eine kurze Notiz, wer wann teilgenommen hat, und eine Auffrischung, wenn neue Werkzeuge dazukommen. Inzwischen schulen 70 % der Unternehmen ab 20 Beschäftigten ihre Leute im Umgang mit KI.1 Auch hier gilt: Das ist keine Rechtsberatung.

Was du ohne große Kosten sofort tun kannst

  1. Zähl eine Woche lang mit, welche wiederkehrenden Aufgaben am meisten Zeit kosten.
  2. Schreib auf einer halben Seite auf, welche Daten in KI-Tools dürfen und welche nicht.
  3. Leg ein gemeinsames Werkzeug fest und gib allen eine kurze Einweisung mit Teilnehmerliste.
  4. Leg eine Wissensseite an mit Leistungen, Preisen, häufigen Fragen und eurer Tonalität.
  5. Such dir einen Ablauf aus, der sich jede Woche wiederholt, und bau dafür die erste Verbindung oder den ersten Agenten.

Fazit: Eine Stufe nach der anderen

Viele kleine Unternehmen stehen bei KI noch am Anfang, und das ist in Ordnung. Um KI im Unternehmen einzuführen, musst du keine teure Plattform kaufen. Geh der Reihe nach vor. Klärt zuerst die Regeln für Daten und holt das Team ab. Sammelt dann euer Firmenwissen an einem Ort, verbindet eure wichtigsten Programme und baut erst danach eigene Agenten. Jede dieser Stufen spart für sich schon Zeit.

Wenn du nicht sicher bist, welcher Ablauf sich bei euch als Erstes lohnt, sprechen wir gern kurz darüber. Im kostenlosen Erstgespräch schauen wir gemeinsam, wo bei euch die meiste Zeit liegen bleibt und ob sich eine Automatisierung dort überhaupt rechnet.

Häufige Fragen zum KI-Reifegrad

Was ist ein KI-Reifegrad?

Der KI-Reifegrad, oft auch KI-Readiness genannt, beschreibt, wie weit KI in einem Unternehmen schon in die Abläufe eingebaut ist. Der Weg reicht vom gelegentlichen Ausprobieren einzelner Personen bis zu Abläufen, die Agenten weitgehend selbstständig erledigen. Ein KI-Reifegradmodell teilt ihn in Stufen ein.

Wie führe ich KI in einem kleinen Unternehmen ein?

Starte mit einer Regel für Daten, einem gemeinsamen Werkzeug und einer kurzen Einweisung für alle. Lege danach dein Firmenwissen an einem Ort ab, verbinde die KI mit deinen wichtigsten Programmen und automatisiere erst dann einzelne Abläufe. Vorher lohnt es sich, eine Woche lang mitzuzählen, wo die meiste Zeit hingeht.

Brauchen meine Mitarbeitenden eine KI-Kompetenz-Schulung?

Wer KI-Systeme im Unternehmen einsetzt, muss nach Artikel 4 der EU-KI-Verordnung Maßnahmen ergreifen, die die KI-Kompetenz der Beschäftigten unterstützen. Ein Zertifikat oder eine bestimmte Schulung ist laut EU-Kommission nicht nötig, eine interne Dokumentation reicht.4

Was kostet die Einführung von KI?

Das hängt von der Stufe ab. Für die ersten Stufen reichen ein Firmenkonto bei einem KI-Anbieter und etwas Zeit für Regeln und Einweisung. Verbindungen zu eigenen Programmen und eigene Agenten kosten vor allem Einrichtungszeit. Laut Bitkom wenden 45 % der Unternehmen 2026 mehr Geld für KI auf als im Vorjahr.1

Was ist der Unterschied zwischen ChatGPT und einem KI-Agenten?

ChatGPT beantwortet eine Frage und ist danach fertig. Ein KI-Agent erledigt einen ganzen Ablauf: Er liest zum Beispiel eine Anfrage, schlägt in deinen Programmen nach, legt einen Entwurf an und fragt nach, wenn etwas fehlt.

Gibt es einen kostenlosen KI-Readiness-Check?

Ja, der Reifegrad-Check in diesem Artikel ist kostenlos und läuft in deinem Browser. Auch die öffentlich geförderten Mittelstand-Digital Zentren bieten kostenlose Checks und Beratung für kleine und mittlere Unternehmen an.5

Wo stehen die meisten Unternehmen bei der KI-Einführung?

Laut awork stehen die meisten Agenturen auf der zweiten von sechs Stufen: KI wird genutzt, Wissen aber nur mündlich geteilt.3 Laut Bitkom gibt kein Unternehmen an, das Potenzial von KI voll auszuschöpfen.1

Zitiervorschlag

Gütter, Simon (2026): KI im Unternehmen einführen: In 6 Stufen vom Ausprobieren zum eigenen Agenten. Simon Traffic, 13. November 2026. https://simon-traffic.com/blog/ki-automatisierung/ki-reifegrad/

Quellen

  1. Bitkom (14.09.2026): Erstmals nutzt die Mehrheit der Unternehmen KI. Befragung von 603 Unternehmen ab 20 Beschäftigten. bitkom.org.
  2. Statistisches Bundesamt: Unternehmen mit Nutzung von Technologien der künstlichen Intelligenz nach Beschäftigtengrößenklassen 2025 und Gründe gegen die Nutzung, Stand 24.11.2025. destatis.de, destatis.de.
  3. awork (21.07.2026): AI adoption in agencies, the 6-phase framework. awork.com.
  4. Europäische Kommission: AI Literacy, Questions & Answers, Stand 20.10.2026. digital-strategy.ec.europa.eu.
  5. Bundesministerium für Wirtschaft: Mittelstand-Digital. mittelstand-digital.de.

Zahlen laut den genannten Quellen. Bitkom (ab 20 Beschäftigten, 2026) und Statistisches Bundesamt (ab 10 Beschäftigten, 2025) messen unterschiedlich und sind nicht direkt vergleichbar. Stand: 13. November 2026.