Du willst KI im Unternehmen einführen, weißt aber nicht, wo du anfangen sollst? Damit bist du nicht allein. Viele Geschäftsführer haben ChatGPT ausprobiert, ein paar Mitarbeitende nutzen es heimlich, und irgendwo liegt eine Liste mit Ideen. Nur ein echter Plan fehlt.
Laut der IKT-Erhebung des Statistischen Bundesamts nutzten 2025 rund 26 Prozent der Unternehmen in Deutschland mit mindestens zehn Beschäftigten eine KI-Technologie. Die Mehrheit steht also noch am Anfang, und das ist keine schlechte Nachricht: Du kannst aus den Fehlern der anderen lernen.
In diesem Artikel geht es nicht darum, wo KI helfen kann. Die typischen Einsatzgebiete haben wir im Beitrag KI für kleine Unternehmen beschrieben. Hier geht es um das Wie: Schritte, Rollen, Regeln, Pilot und die Fehler, die du dir sparen kannst.
Warum KI-Projekte im Mittelstand oft versanden
Die Technik ist selten das Problem. Die Werkzeuge sind verfügbar, bezahlbar und meist in wenigen Minuten eingerichtet. KI-Projekte scheitern aus anderen Gründen:
- Kein klares Ziel. „Wir sollten auch mal was mit KI machen“ ist kein Ziel, sondern ein Gefühl.
- Keiner ist zuständig. Das Thema läuft nebenher und verliert gegen das Tagesgeschäft.
- Keine Regeln. Mitarbeitende nutzen private Accounts und kopieren Kundendaten in Tools, die niemand geprüft hat.
- Zu groß gedacht. Statt einem Prozess soll gleich das ganze Unternehmen umgebaut werden.
- Kein Messen. Nach drei Monaten weiß niemand, ob sich der Aufwand gelohnt hat.
Für dich als Unternehmer zählt am Ende eine einfache Frage: Spart mir das Zeit oder Geld, ja oder nein? Der folgende Fahrplan ist darauf ausgelegt, genau das herauszufinden, und zwar mit überschaubarem Risiko.
KI im Unternehmen einführen in sechs Schritten
Die Reihenfolge ist bewusst gewählt. Wer Schritt 4 überspringt, hat später ein Datenschutzproblem. Wer Schritt 1 überspringt, hat später ein Budgetproblem.
1. Ziel und Ausgangslage klären
Formuliere, was besser werden soll, und zwar messbar. Zum Beispiel: Angebote schneller rausschicken, weniger Zeit für Protokolle, schnellere Antworten auf Standardanfragen. Schau dir dabei ehrlich an, wie die Prozesse heute laufen. KI macht einen chaotischen Ablauf nicht geordnet, sondern nur schneller chaotisch.
2. Anwendungsfälle sammeln und bewerten
Frag die Leute, die die Arbeit machen. Sie wissen, welche Aufgaben nerven, sich wiederholen und viel Text oder Daten hin und her schieben. Sammle zehn bis zwanzig Ideen und bewerte sie grob nach diesen Kriterien:
| Kriterium | Leitfrage | Guter Kandidat, wenn … |
|---|---|---|
| Häufigkeit | Wie oft fällt die Aufgabe an? | täglich oder wöchentlich |
| Zeitaufwand | Wie viel Zeit kostet sie heute? | spürbar, z. B. mehrere Stunden pro Woche |
| Fehlerfolgen | Was passiert, wenn die KI danebenliegt? | ein Mensch prüft ohnehin vor der Freigabe |
| Datenlage | Liegen die nötigen Informationen digital vor? | ja, strukturiert oder als Dokumente |
| Datenschutz | Sind personenbezogene oder vertrauliche Daten im Spiel? | wenig oder gut beherrschbar |
Die besten Kandidaten für den Start sind häufig, zeitraubend und fehlertolerant. Ein Entwurf, den ein Mensch noch liest, ist ein besserer Startpunkt als eine automatische Entscheidung über Kunden oder Geld.
3. Verantwortliche festlegen
Ohne Zuständigkeit keine Umsetzung. Mehr dazu im nächsten Abschnitt zu den Rollen.
4. Regeln aufstellen
Bevor die Nutzung breiter wird, braucht es eine schriftliche KI-Richtlinie: welche Tools erlaubt sind, welche Daten tabu sind, wie Ergebnisse geprüft werden. Gerade beim beliebtesten Werkzeug stellt sich die Datenschutzfrage sofort. Was dabei zu beachten ist, erklären wir im Beitrag ChatGPT und DSGVO.
5. Pilot durchführen
Ein Anwendungsfall, ein kleines Team, ein fester Zeitraum, klare Messgröße. Details dazu weiter unten.
6. Auswerten und skalieren
Hat der Pilot sein Ziel erreicht, wird er Standard und der nächste Anwendungsfall kommt dran. Hat er es nicht erreicht, ist das auch ein Ergebnis. Dann hast du mit wenig Geld viel gelernt.
Rollen: Wer macht was bei der KI-Einführung?
Wer KI im Unternehmen einführen will, braucht keine KI-Abteilung. In einem Betrieb mit 20 bis 200 Mitarbeitenden reichen meist einige wenige Personen, die klar benannte Aufgaben haben. Oft sind das Doppelrollen.
| Rolle | Aufgabe | Typisch besetzt durch |
|---|---|---|
| Sponsor | Gibt Ziel, Budget und Rückendeckung | Geschäftsführung |
| KI-Verantwortliche/r | Koordiniert, hält Richtlinie aktuell, sammelt Erfahrungen | technikaffine Person aus dem Team, kein Vollzeitjob |
| Fachbereich | Bringt Anwendungsfälle, testet, bewertet Ergebnisse | Mitarbeitende aus Vertrieb, Verwaltung, Service |
| Datenschutz & IT | Prüft Tools, Verträge, Zugriffe | Datenschutzbeauftragte/r, IT-Dienstleister |
| Umsetzungspartner | Baut Integrationen und Automatisierungen | intern oder extern, je nach Bedarf |
Wichtig ist, dass die KI-Verantwortliche Person Zeit dafür bekommt. Zwei bis vier Stunden pro Woche sind ein realistischer Erfahrungswert für die Anfangsphase. Wird das Thema nur „nebenbei“ erledigt, bleibt es liegen.
Die KI-Richtlinie: Was reingehört
Eine Richtlinie muss kein 30-seitiges Dokument sein. Zwei bis drei Seiten, die jeder versteht, sind wirkungsvoller. Diese Punkte sollten drinstehen:
- Erlaubte Tools: Welche KI-Anwendungen dürfen dienstlich genutzt werden, und nur mit Firmenkonto.
- Tabu-Daten: Keine personenbezogenen Kundendaten, Personaldaten oder Geschäftsgeheimnisse in nicht freigegebene Tools.
- Prüfpflicht: KI-Ergebnisse sind Entwürfe. Ein Mensch prüft Fakten, Zahlen und Ton, bevor etwas rausgeht.
- Kennzeichnung: Wann intern oder extern offengelegt wird, dass KI beteiligt war.
- Schulung: Wer KI nutzt, bekommt eine Einweisung. Die KI-Verordnung der EU verlangt von Unternehmen, die KI einsetzen, seit Februar 2025 Maßnahmen zur KI-Kompetenz ihrer Beschäftigten.
- Ansprechpartner: An wen man sich bei Fragen oder Problemen wendet.
Eine kurze Richtlinie, die gelebt wird, schlägt jedes perfekte Regelwerk, das niemand liest.
Das Pilotprojekt: klein, messbar, befristet
Der Pilot entscheidet, ob KI in deinem Betrieb Fuß fasst. Deshalb lohnt es sich, ihn sauber aufzusetzen:
- Einen Prozess wählen: zum Beispiel die Beantwortung wiederkehrender Kundenanfragen per E-Mail oder die Erstellung von Angebotsentwürfen.
- Ausgangswert messen: Wie lange dauert es heute? Wie viele Vorgänge pro Woche?
- Kleines Team: zwei bis fünf Personen, die Lust darauf haben. Skeptiker sind willkommen, sie finden die Schwachstellen.
- Feste Laufzeit: sechs bis zwölf Wochen sind ein sinnvoller Rahmen.
- Regelmäßiges Feedback: kurze Abstimmung alle ein bis zwei Wochen: Was klappt, was nervt, was fehlt?
- Ehrliche Auswertung: Zeitersparnis, Qualität, Akzeptanz im Team, laufende Kosten.
Viele Piloten starten mit Standard-Werkzeugen wie einem Chat-Assistenten. Das ist sinnvoll, stößt aber schnell an Grenzen, wenn Daten aus CRM, ERP oder E-Mail-Postfach einfließen sollen. Dann geht es um Integration und Automatisierung, bis hin zu KI-Agenten, die mehrere Schritte selbstständig erledigen.
Typische Fehler bei der KI-Einführung
Aus Projekten und Gesprächen mit Betrieben, auch hier in der Region Stuttgart, tauchen immer wieder dieselben Muster auf:
- Tool zuerst, Problem danach: Erst wird eine Lizenz gekauft, dann wird überlegt, wofür.
- Schatten-KI ignorieren: Verbote ohne Alternative führen dazu, dass Mitarbeitende private Accounts nutzen. Besser ist ein freigegebenes Werkzeug mit klaren Regeln.
- Zu hohe Erwartungen: KI erledigt nicht 80 Prozent der Arbeit von allein. Realistischer ist, dass sie einzelne Arbeitsschritte deutlich beschleunigt.
- Ergebnisse ungeprüft übernehmen: Sprachmodelle formulieren überzeugend, auch wenn der Inhalt falsch ist.
- Mitarbeitende nicht mitnehmen: Wer Angst um seinen Job hat, sabotiert eher, als dass er mitgestaltet. Offen kommunizieren, wofür KI eingesetzt wird und wofür nicht.
- Keine laufenden Kosten einplanen: Lizenzen pro Nutzer, API-Kosten und Pflege von Automatisierungen summieren sich.
Fazit: KI-Strategie im Mittelstand heißt vor allem Pragmatismus
Du musst nicht die perfekte KI-Strategie haben, bevor du startest. Wer KI im Unternehmen einführen will, braucht ein klares Ziel, eine verantwortliche Person, eine kurze Richtlinie und einen gut gewählten Pilot. Danach entscheiden Zahlen, nicht Bauchgefühl.
Wenn du beim Pilot oder bei der Anbindung an deine bestehenden Systeme Unterstützung möchtest: Wir helfen bei der Auswahl der Anwendungsfälle und setzen KI-Automatisierungen und Prozessautomatisierung um, die zu deinen Abläufen passen. Schreib uns einfach über die Kontaktseite, dann schauen wir gemeinsam, wo sich der Start lohnt.
Häufige Fragen
Wie lange dauert es, KI im Unternehmen einzuführen?
Einen ersten Pilot kannst du innerhalb weniger Wochen starten. Mit Vorbereitung, sechs bis zwölf Wochen Laufzeit und Auswertung solltest du für den ersten Anwendungsfall grob drei bis vier Monate einplanen. Die flächendeckende Nutzung ist eher ein Prozess über ein bis zwei Jahre.
Was kostet es, KI im Unternehmen einzuführen?
Das hängt stark vom Ansatz ab. Standard-Tools kosten eine monatliche Lizenz pro Nutzer. Individuelle Integrationen in CRM, ERP oder Postfach kosten einmalig Entwicklungsaufwand plus laufende Nutzungskosten. Ein klar begrenzter Pilot hält das Risiko überschaubar.
Brauche ich eine eigene KI-Strategie?
Ein 50-seitiges Strategiepapier braucht kaum ein Mittelständler. Sinnvoll ist ein einseitiges Dokument: Ziele, priorisierte Anwendungsfälle, Verantwortliche, Budgetrahmen und Regeln. Das reicht als Kompass und lässt sich nach jedem Pilot anpassen.
Müssen Mitarbeitende geschult werden?
Ja. Die KI-Verordnung der EU verpflichtet Unternehmen, die KI einsetzen, Maßnahmen zur KI-Kompetenz ihrer Beschäftigten zu ergreifen. Unabhängig davon lohnt sich eine Schulung schon deshalb, weil gut eingewiesene Mitarbeitende deutlich bessere Ergebnisse erzielen und weniger Fehler machen.
Kann ich KI im Unternehmen einführen, ohne eigene IT-Abteilung?
Ja. Für den Einstieg reichen Standard-Werkzeuge, eine klare Richtlinie und ein IT-Dienstleister oder Datenschutzbeauftragter, der Tools und Verträge prüft. Für Integrationen in bestehende Systeme holst du dir gezielt externe Unterstützung.