KI im Unternehmen einführen: Leitfaden in 7 Schritten mit Beispielen nach Branche

KI im Unternehmen heißt: Software mit Künstlicher Intelligenz (KI) übernimmt Teile von Aufgaben, etwa Texte entwerfen, Dokumente auswerten oder Mengen vorhersagen. Zur Einführung wählen Sie wenige konkrete Aufgaben, testen KI dort in einem Pilot und weiten sie erst nach messbarem Erfolg aus. Dazu gehören Regeln für Daten und Tools, eine Einweisung des Teams und, falls vorhanden, die Beteiligung des Betriebsrats. Dieser Leitfaden zeigt sieben Schritte für den Mittelstand, Arten von KI-Lösungen und Beispiele aus 16 Branchen, jeweils mit vertiefenden Ratgebern. Dieser Ratgeber ist keine Rechtsberatung.

Kurz zusammengefasst

• Verbreitung: 2025 nutzten 26 Prozent der Unternehmen mit mindestens 10 Beschäftigten KI, ab 250 Beschäftigten 57 Prozent (Statistisches Bundesamt).
• Sehr kleine Betriebe: Von 2022 bis 2024 nutzten 19 Prozent der Mittelständler mit weniger als 5 Beschäftigten KI (KfW-Mittelstandspanel).
• Hürden: Unternehmen, die KI 2025 erwogen, aber nicht genutzt haben, nennen vor allem fehlendes Wissen (72 Prozent) und unklare rechtliche Folgen (62 Prozent).
• Sieben Schritte: Ziele, Bestandsaufnahme, Anwendungsfälle, Pilot, Datenschutz und Richtlinie, Schulung, Skalierung. Ausweiten erst, wenn der Pilot seine Kennzahl erreicht.
• KI-Kompetenz: Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen für die KI-Kompetenz ihres Personals (Art. 4 KI-Verordnung, AI Act), seit dem 2. Februar 2025, geändert seit dem 27. Juli 2026. Ein Zertifikat ist laut EU-Kommission nicht nötig.
• Transparenz: Seit dem 2. August 2026 machen Anbieter Chatbots als KI erkennbar, außer das ist offensichtlich. Betreiber legen Deepfakes offen (Art. 50).
• Betriebsrat: Gibt es einen, ist er rechtzeitig über geplanten KI-Einsatz zu unterrichten (§ 90 BetrVG). Bei Tools, die objektiv zur Überwachung von Verhalten oder Leistung geeignet sind, bestimmt er mit (§ 87 Abs. 1 Nr. 6 BetrVG).

Wo Unternehmen stehen

Das Statistische Bundesamt (Destatis) befragt jedes Jahr Unternehmen mit mindestens 10 Beschäftigten. Erfasst sind unter anderem Industrie, Energie, Bau, Handel, Verkehr, Gastgewerbe, IT, Immobilien und freiberufliche Dienstleistungen. Nicht erfasst sind zum Beispiel Finanzdienstleister, das Gesundheitswesen und die öffentliche Verwaltung.

Seit 2025 zählt Destatis Unternehmen nach dem Unternehmensbegriff der EU, vorher nach rechtlichen Einheiten. Der Vergleich der Jahre ist deshalb nur eine Orientierung.

Welche KI genutzt wird: Von den KI-Nutzern 2025 werteten je 52 Prozent Texte aus (Text Mining) oder erzeugten Bilder, Videos oder Ton. 27 Prozent nutzten KI zur Automatisierung von Arbeitsabläufen oder zur Entscheidungsfindung.

Kleine Betriebe: Die KfW befragt auch Unternehmen mit weniger als 10 Beschäftigten. Von 2022 bis 2024 nutzten 20 Prozent der Mittelständler KI, bei weniger als 5 Beschäftigten 19 Prozent, ab 50 Beschäftigten 36 Prozent. Die KfW zählt Vollzeitstellen, aktive Inhaber eingerechnet. Entscheidend sind laut KfW weniger die Größe als Digitalisierungsgrad, digitales Know-how und Innovationstätigkeit.

Warum Unternehmen zögern: Von den Unternehmen ohne KI hatte 2025 jedes fünfte den Einsatz erwogen. Diese nannten unter anderem fehlendes Wissen (72 Prozent), unklare rechtliche Folgen (62 Prozent), Bedenken zum Datenschutz (60 Prozent), Probleme mit vorhandenen Systemen (45 Prozent), Probleme mit Verfügbarkeit oder Qualität der Daten (44 Prozent) und zu hohe Kosten (32 Prozent).

Wie sich das Angebot an KI-Beratung verteilt, zeigt der Report: KI-Beratung in Deutschland 2026.

KI im Unternehmen einführen in 7 Schritten

Die Schritte stützen sich auf Leitfäden von Mittelstand-Digital und der Plattform Lernende Systeme. Sie sind ein Vorschlag, keine gesetzliche Liste. Bevor ein Pilot mit echten personenbezogenen Daten startet, müssen die Regeln aus Schritt 5 stehen.

1. Ziele festlegen

KI ist kein Selbstzweck. Legen Sie fest, welches Problem KI lösen soll und woran Sie den Erfolg messen. Mittelstand-Digital empfiehlt Projektziele nach den SMART-Kriterien, etwa spezifisch, messbar und terminiert. Laut Plattform Lernende Systeme kann sich auch zeigen, dass ein Ziel ohne KI erreichbar ist.

• Wer: Geschäftsführung mit den betroffenen Bereichen.
• Ergebnis: zwei bis drei Ziele mit Kennzahl und heutigem Wert.
• Vertiefung: KI-Strategie und Roadmap.

2. Bestand aufnehmen

Erfassen Sie Abläufe, IT-Systeme und Daten. Prüfen Sie, welche Daten digital vorliegen und wie gut sie sind. Erfassen Sie auch KI-Tools, die Beschäftigte schon nutzen. Die Datenschutzkonferenz (DSK) geht davon aus, dass Beschäftigte in vielen Unternehmen KI ohne klare Regeln eigenmächtig nutzen.

• Wer: Fachbereiche, IT, Datenschutz.
• Ergebnis: Liste der Abläufe und Datenquellen, Register der KI-Tools.
• Vertiefung: KI-Richtlinie mit Tool-Register.

3. Anwendungsfälle auswählen

Sammeln Sie Ideen mit den Menschen, die die Arbeit erledigen. Bewerten Sie Nutzen, Aufwand, Datenlage und Fehlerfolgen. Für den Anfang eignen sich Aufgaben, bei denen Fehler auffallen und leicht zu korrigieren sind. KI, die Bewerbungen sichtet oder Beschäftigte bewertet, nennt Anhang III Nr. 4 der KI-Verordnung als Hochrisiko-Bereich, mit Pflichten ab dem 2. Dezember 2027.

• Wer: Fachbereich und Projektleitung, bei Bedarf mit Moderation von außen.
• Ergebnis: priorisierte Liste mit ein bis zwei Kandidaten für den Pilot.
• Vertiefung: KI-Workshop, KI-Automatisierung, Agentische KI.

4. Pilot starten

Testen Sie einen Anwendungsfall in einem abgegrenzten Teilprozess, mit festem Zeitraum und fester Kennzahl. Messen Sie vorher, wie lange der Ablauf heute dauert. Für die erste Einführung nennt die Plattform Lernende Systeme einen Machbarkeitsnachweis (Proof of Concept) als Möglichkeit. Für gering digitalisierte Unternehmen ohne KI-Erfahrung nennt sie für das erste Datenprodukt etwa sechs bis zwölf Monate. Menschen prüfen die Ergebnisse.

• Wer: eine verantwortliche Person und das Pilotteam, bei Bedarf ein Dienstleister.
• Ergebnis: Messwerte und eine Entscheidung: ausweiten, anpassen oder beenden.
• Vertiefung: KI-Implementierung & Softwareentwicklung.

5. Datenschutz und Richtlinie klären

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage (Art. 6 Abs. 1 DSGVO). Verarbeitet ein KI-Anbieter solche Daten in Ihrem Auftrag, gilt Artikel 28 DSGVO. Grundlage ist in der Regel ein Vertrag nach Artikel 28 DSGVO. Bei voraussichtlich hohem Risiko ist vorab eine Datenschutz-Folgenabschätzung nötig (Art. 35). Beim Einsatz von KI wird das laut DSK vielfach der Fall sein.

Die DSK empfiehlt dokumentierte interne Regeln, Firmenkonten statt privater Konten und Anwendungen, die Eingaben nicht für das Training nutzen. Gibt es einen Betriebsrat, unterrichten Sie ihn rechtzeitig mit Unterlagen, ausdrücklich auch über KI (§ 90 Abs. 1 Nr. 3 BetrVG). Bei Tools, die zur Überwachung von Verhalten oder Leistung objektiv geeignet sind, bestimmt er mit (§ 87 Abs. 1 Nr. 6 BetrVG; Bundesarbeitsgericht, 1 ABR 16/23).

• Wer: Geschäftsführung, Datenschutzbeauftragte Person und Betriebsrat, falls vorhanden.
• Ergebnis: KI-Richtlinie, Tool-Register, Verträge, bei Bedarf eine Datenschutz-Folgenabschätzung.
• Vertiefung: KI und Datenschutz, KI-Kennzeichnungspflicht.

6. Team schulen

Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen für die KI-Kompetenz ihres Personals (Art. 4 KI-Verordnung). Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich nutzt (Art. 3 Nr. 4). Die Maßnahmen richten sich nach Vorwissen, Erfahrung und Einsatzkontext. Ein Zertifikat oder einen KI-Beauftragten verlangt Artikel 4 laut EU-Kommission nicht. Die Bundesnetzagentur empfiehlt, die Maßnahmen zu dokumentieren.

• Wer: Die Geschäftsführung organisiert, alle Nutzerinnen und Nutzer nehmen teil.
• Ergebnis: Schulungsplan und Nachweis, wer welche Maßnahme genutzt hat.
• Vertiefung: KI-Schulungspflicht, KI-Beauftragter, KI-Schulung für Unternehmen.

7. Ausweiten und verankern

Weiten Sie einen Pilot erst aus, wenn er seine Kennzahl erreicht. Dann soll er laut Plattform Lernende Systeme zu einem echten KI-Projekt werden. Planen Sie Schnittstellen, Betrieb, Wartung und laufende Kosten ein. Prüfen Sie die Richtlinie bei jedem neuen Tool.

• Wer: Geschäftsführung, Projektverantwortliche, IT.
• Ergebnis: Fahrplan mit nächsten Anwendungsfällen, Budget und Verantwortlichen.
• Vertiefung: KI-Kosten im Unternehmen, KI-Förderung 2026.

Welche Arten von KI-Lösungen gibt es?

Welche KI für ein Unternehmen passt, hängt von Aufgabe, Daten und Know-how ab. Die Tabelle vergleicht fünf Arten und nennt bewusst keine Produkte.

Vier Kriterien helfen bei der Wahl:

• Datenkontrolle: Bei offenen Systemen, etwa Cloud-Diensten für einen unbestimmten Nutzerkreis, verlassen Eingaben Ihr Unternehmen. Technisch geschlossene Systeme sind laut DSK datenschutzrechtlich vorzugswürdig.
• Kerngeschäft: Betrifft die KI das Kerngeschäft und soll sie einen technologischen Vorteil bringen, rät Mittelstand-Digital zur Eigenentwicklung. Für eine Nebenaufgabe kommt Zukauf in Betracht.
• Know-how: Fertige Dienste (KI-as-a-Service) erfordern laut Plattform Lernende Systeme weniger Investitionen und weniger eigenes Know-how. Gerade für kleinere Unternehmen ist das attraktiv.
• Rolle: Wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt, ist Anbieter, auch im Eigengebrauch (Art. 3 Nr. 3 und 11). Anbieter haben eigene Pflichten, etwa den KI-Hinweis bei Chatbots (Art. 50 Abs. 1).

Beispiele nach Branche

Die Tabelle nennt je Branche einen möglichen Einsatz. Sie sagt nichts darüber, wie verbreitet er ist oder was er bringt. Die Branchenseiten listen Firmen für die jeweilige Branche.

Ein System aus Anhang III der KI-Verordnung gilt ausnahmsweise nicht als hochriskant, wenn es kein erhebliches Risiko birgt, etwa weil es nur eine eng gefasste Verfahrensaufgabe erledigt (Art. 6 Abs. 3). Nimmt es ein Profiling von Personen vor, bleibt es hochriskant. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten ab dem 2. Dezember 2027.

KI für kleine Unternehmen: der schlanke Weg

Laut KfW setzten von 2022 bis 2024 13 Prozent der Mittelständler mit weniger als 5 Beschäftigten Technologien ein, die Text oder Sprache erzeugen. Die Plattform Lernende Systeme rät gering digitalisierten Betrieben, mit einem Projekt in einer Abteilung zu beginnen. Große Datenmengen sind dafür nicht immer nötig.

• Wählen Sie eine Aufgabe, die im Büro viel Zeit kostet, etwa Angebote oder Protokolle.
• Nutzen Sie ein Firmenkonto, das Ihre Eingaben nicht für das Training nutzt.
• Legen Sie fest, welche Daten in das Tool dürfen. Ein Muster bietet der Ratgeber KI-Richtlinie.
• Weisen Sie alle Nutzer ein und notieren Sie das.
• Vergleichen Sie den Zeitaufwand vorher und nachher.

Artikel 4 KI-Verordnung kennt keine Ausnahme für kleine Betriebe. Betriebsräte werden in Betrieben mit in der Regel mindestens fünf ständigen wahlberechtigten Arbeitnehmern gewählt, von denen drei wählbar sind (§ 1 Abs. 1 BetrVG). Kostenlose Unterstützung bieten laut Bundesnetzagentur die Mittelstand-Digital Zentren, deren KI-Trainer anbieterneutral arbeiten. Die European Digital Innovation Hubs bieten KMU Tests vor einer Investition kostenfrei oder vergünstigt an.

Kosten und Förderung im Überblick

Feste Marktpreise gibt es nicht. Die Kosten bestimmen vor allem Lizenzen und Gebühren nach Nutzung, Einrichtung und Schnittstellen, Datenaufbereitung, Schulung sowie interne Zeit für Prüfung und Pflege. Details erklären KI-Kosten im Unternehmen und Was kostet KI-Beratung?.

Bund, EU und Länder fördern Beratung, Umsetzung und Schulung. Die Richtlinie der BAFA-Förderung von Unternehmensberatungen gilt für Anträge bis zum 31. Dezember 2026. Mit der Beratung dürfen Sie erst nach dem Informationsschreiben beginnen. Übersichten bieten KI-Förderung 2026, Förderung Digitalisierung 2026 und Kostenlose KI-Beratung.

Selbst machen oder Berater holen?

Einen Office-Assistenten oder eine KI-Funktion Ihrer Software können Sie oft selbst einführen. Externe Hilfe lohnt sich eher, wenn:

• Systeme über Schnittstellen verbunden oder eigene Anwendungen entwickelt werden,
• Kompetenzen fehlen und sich nicht zeitnah aufbauen lassen,
• die KI Personalentscheidungen oder einen anderen Hochrisiko-Bereich betrifft,
• Sie eine Betriebsvereinbarung zu KI verhandeln.

Verkauft eine Firma eigene Software, fragen Sie nach Alternativen. Das BAFA fördert keine Beratung, deren Zweck der Kauf von Waren oder Dienstleistungen des Beraters ist (Nr. 2.2 der Richtlinie). Hilfe bei der Wahl geben Agentur, Berater oder Freelancer? und KI-Berater finden. Firmen finden Sie unter KI-Strategie und Roadmap, KI-Implementierung & Softwareentwicklung, Alle KI-Berater und KI-Beratung nach Region.

Häufige Fragen zu KI im Unternehmen

Wie führe ich KI im Unternehmen ein?

In sieben Schritten: Ziele, Bestandsaufnahme, Anwendungsfälle, Pilot, Datenschutz und Richtlinie, Schulung, Skalierung. Starten Sie mit einer abgegrenzten Aufgabe und weiten Sie erst aus, wenn der Pilot seine Kennzahl erreicht. Vor einem Pilot mit echten personenbezogenen Daten müssen Rechtsgrundlage und Verträge geklärt sein. Gibt es einen Betriebsrat, unterrichten Sie ihn rechtzeitig.

Wie viele Unternehmen nutzen KI in Deutschland?

2025 nutzten laut Statistischem Bundesamt 26 Prozent der Unternehmen mit mindestens 10 Beschäftigten KI, ab 250 Beschäftigten 57 Prozent. Finanzdienstleister, Gesundheitswesen und öffentliche Verwaltung erfasst die Erhebung nicht. Laut KfW-Mittelstandspanel nutzten von 2022 bis 2024 19 Prozent der Mittelständler mit weniger als 5 Beschäftigten KI.

Welche KI ist für Unternehmen geeignet?

Das hängt von Aufgabe, Daten und Know-how ab. Ein Office-Assistent passt für Texte, ein Unternehmens-Chat für Wissen in eigenen Dokumenten. Ein selbst betriebenes Modell hält die Daten im eigenen Netz, braucht aber Hardware und IT-Betrieb. Eine Eigenentwicklung lohnt sich eher, wenn KI einen Vorsprung im Kerngeschäft bringen soll.

Welche Pflichten gelten beim Einsatz von KI im Unternehmen?

Für Unternehmen, die KI beruflich nutzen (Stand: Oktober 2026):

• KI-Kompetenz: Maßnahmen für die KI-Kompetenz des Personals (Art. 4 KI-Verordnung), seit dem 2. Februar 2025, geändert seit dem 27. Juli 2026. Ein Zertifikat ist laut EU-Kommission nicht nötig.
• Transparenz seit dem 2. August 2026: Anbieter machen Chatbots als KI erkennbar, außer das ist offensichtlich. Betreiber legen Deepfakes offen (Art. 50).
• Datenschutz: Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage. Bei einem Dienstleister, der im Auftrag verarbeitet, gilt Artikel 28 DSGVO. Grundlage ist in der Regel ein Vertrag nach Artikel 28 DSGVO.
• Betriebsrat: Gibt es einen, ist er rechtzeitig über geplanten KI-Einsatz zu unterrichten (§ 90 Abs. 1 Nr. 3 BetrVG). Bei Tools, die objektiv zur Überwachung von Verhalten oder Leistung geeignet sind, bestimmt er mit (§ 87 Abs. 1 Nr. 6 BetrVG).

Ist KI auch für kleine Unternehmen sinnvoll?

Kleine Betriebe nutzen KI bereits: Laut KfW setzten von 2022 bis 2024 13 Prozent der Mittelständler mit weniger als 5 Beschäftigten Technologien ein, die Text oder Sprache erzeugen. Ein guter Start ist eine zeitraubende Büroaufgabe, ein Tool mit Firmenkonto und schriftliche Regeln für Daten. Artikel 4 KI-Verordnung gilt auch für kleine Betriebe, die KI beruflich nutzen. Kostenlose Unterstützung bieten laut Bundesnetzagentur die Mittelstand-Digital Zentren.

Muss der Betriebsrat bei der Einführung von KI beteiligt werden?

Gibt es einen Betriebsrat, unterrichtet ihn der Arbeitgeber rechtzeitig und mit Unterlagen über die Planung, ausdrücklich auch über KI (§ 90 Abs. 1 Nr. 3 BetrVG). Bei technischen Einrichtungen, die zur Überwachung von Verhalten oder Leistung bestimmt sind, bestimmt er mit (§ 87 Abs. 1 Nr. 6 BetrVG). Laut Bundesarbeitsgericht reicht es, dass ein Tool dafür objektiv geeignet ist.

Hinweis: Dieser Ratgeber beschreibt den Stand vom 20.10.2026. Er ersetzt keine Rechtsberatung. Wir prüfen ihn spätestens am 04.01.2027 erneut.