AI Act für KMU: Was seit August 2026 gilt und wie du Claude & Co. sicher einsetzt

Teambesprechung am Dienstag. Eine Kollegin fragt, ob sie die Kundenmail eigentlich in ChatGPT kopieren darf, um schneller zu antworten. Kurze Stille. Dann zucken alle mit den Schultern, obwohl fast jeder im Raum längst irgendein KI-Werkzeug nutzt, mal am Laptop, mal am Handy. Und irgendwer murmelt etwas vom AI Act. Was der für KMU bedeutet, erklären wir hier ohne Panik und ohne Juristendeutsch. Vorweg: Das ist eine Orientierung aus der Praxis, keine Rechtsberatung. Im Einzelfall fragst du deinen Datenschutzbeauftragten oder einen Anwalt.

Was der AI Act für KMU bedeutet

Die KI-Verordnung der EU, kurz AI Act, gilt seit August 2024 in Stufen. Für ein typisches KMU, das Claude, ChatGPT oder Copilot für Texte, E-Mails und Recherche nutzt, laufen die Pflichten auf zwei Punkte hinaus. Dein Team muss wissen, was es mit KI tut. Und an bestimmten Stellen muss erkennbar sein, dass KI im Spiel ist.

Über die strengen Regeln wird viel berichtet. Sie betreffen sogenannte Hochrisiko-KI, gelten erst ab Dezember 2027, und die meisten Anwendungen, mit denen ein Büro im Alltag arbeitet, fallen gar nicht darunter, weil sie weder über Bewerber noch über Kredite oder ähnlich Folgenreiches entscheiden.

KI-Kompetenz: die Pflicht, die schon seit Februar 2025 gilt

Seit dem 2. Februar 2025 verlangt Artikel 4 des AI Act von jedem Unternehmen, das KI einsetzt, dass die Mitarbeitenden ausreichend Bescheid wissen. Ausnahmen für kleine Betriebe gibt es nicht.

Wie das aussehen soll, schreibt das Gesetz nicht vor. Kein Kurs, kein Zertifikat. Wichtig ist nur, dass die Schulung zu dem passt, was die Leute tatsächlich mit KI machen. Wer im Vertrieb Antwortentwürfe schreiben lässt, braucht anderes Wissen als jemand, der Rechnungen auslesen lässt.

Was du allerdings tun solltest: festhalten, wer wann zu welchen Inhalten geschult wurde. Eine Nachweispflicht wie bei der DSGVO gibt es zwar nicht, aber wenn die Aufsicht fragt, hast du etwas in der Hand. Dafür reicht eine einfache Tabelle.

Am meisten bringt eine Schulung, die an echten Aufgaben aus dem eigenen Alltag übt. Folien mit allgemeinen Beispielen sind schnell vergessen.

Kennzeichnungspflicht für KI: was seit August 2026 dazukommt

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50. Für ein KMU sind drei Fälle wichtig.

Der erste ist der Chatbot. Läuft auf deiner Website ein KI-Assistent, muss für Besucher erkennbar sein, dass sie mit einer Maschine schreiben. Am besten steht das gleich im Chatfenster.

Der zweite sind Deepfakes. Gemeint sind KI-Bilder, -Videos oder -Stimmen, die echt wirken und echte Personen, Orte oder Ereignisse zeigen. Sie müssen als KI-erzeugt gekennzeichnet sein. Auch in der Werbung.

Der dritte betrifft Texte. KI-erzeugte Texte, mit denen du die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informierst, brauchen einen Hinweis. Das entfällt, wenn ein Mensch den Text redaktionell geprüft hat und dafür geradesteht. Für den normalen Blogartikel oder Newsletter, den jemand gegenliest, ist das in der Regel erfüllt.

Um die unsichtbare, maschinenlesbare Markierung von KI-Inhalten musst du dich dagegen kaum kümmern, das ist vor allem Sache der Anbieter wie Anthropic, OpenAI oder Google, deren Werkzeuge die Inhalte erzeugen.

Ernst nehmen solltest du das trotzdem. Verstöße gegen die Transparenzpflichten können bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes kosten, bei KMU gilt der niedrigere der beiden Beträge.

Was verschoben wurde: Hochrisiko-KI erst ab Dezember 2027

Am 7. Mai 2026 haben sich die EU-Institutionen auf das sogenannte Digital Omnibus geeinigt. Damit gelten die Pflichten für Hochrisiko-KI erst ab dem 2. Dezember 2027, für KI in regulierten Produkten wie Maschinen oder Medizintechnik ab dem 2. August 2028.

Hochrisiko klingt nach Atomkraftwerk. Es trifft aber auch ganz normale Betriebe. Wer KI in der Bewerberauswahl oder bei der Bewertung von Mitarbeitenden einsetzt, ist dabei. Wenn du so etwas planst, lass dich jetzt beraten und nicht erst im Herbst 2027.

Nicht verschoben wurden die Schulungspflicht und die Kennzeichnung. Und verboten sind bestimmte Praktiken schon seit Februar 2025, zum Beispiel Software, die am Arbeitsplatz die Gefühle von Mitarbeitenden erkennen soll.

Claude, ChatGPT und Datenschutz: die DSGVO gilt weiter

Der AI Act ersetzt die DSGVO nicht, beide gelten nebeneinander. Gibst du personenbezogene Daten in ein KI-Werkzeug, brauchst du dafür weiterhin eine Rechtsgrundlage und mit dem Anbieter einen Vertrag zur Auftragsverarbeitung.

Praktisch heißt das: Für die Arbeit nimmst du die Business-Tarife der Anbieter, keine privaten Konten. Bei den Geschäftsangeboten der großen Anbieter werden Eingaben laut deren Bedingungen standardmäßig nicht zum Training der Modelle verwendet. Bei privaten Konten hängt das von den Einstellungen ab, und die kontrollierst du nicht.

Das größte Risiko ist ohnehin nicht der Anbieter, sondern die Schatten-KI: Leute kopieren Kundenmails in ihr privates Konto auf dem eigenen Handy, weil es keine Regeln gibt oder das offizielle Werkzeug fehlt. Verbieten hilft da wenig. Was hilft, ist eine Seite mit klaren Regeln. Allgemeine Texte und eigene Entwürfe dürfen in die KI, Gesundheitsdaten, Personalakten und vertrauliche Kundendaten nicht. Und dazu ein Werkzeug, das alle offiziell nutzen dürfen.

Wer das kontrolliert

In Deutschland ist die Bundesnetzagentur die zentrale Aufsicht und Beschwerdestelle für den AI Act. So regelt es das KI-Marktüberwachungsgesetz, das seit dem 29. Juli 2026 gilt. In regulierten Branchen bleibt die jeweilige Fachaufsicht zuständig, bei Banken und Versicherungen etwa die BaFin.

Vorgesehen ist außerdem ein KI-Reallabor, in dem Unternehmen neue Anwendungen unter Aufsicht ausprobieren können. KMU und Start-ups bekommen dort bevorzugt Zugang.

So gehst du vor

Fang mit einer ehrlichen Bestandsaufnahme an: Wer nutzt welches KI-Werkzeug wofür, die inoffiziellen eingeschlossen? Die Antwort überrascht meist.

Danach schreibst du die Regeln auf. Eine Seite reicht. Welche Werkzeuge in welchen Tarifen sind erlaubt, welche Daten dürfen hinein und welche nicht. Wenn alle wissen, wo die Grenze liegt, verschwindet ein großer Teil der Schatten-KI von selbst.

Zum Schluss ein Blick auf die drei Kennzeichnungsfälle: Chatbot auf der Website, echt wirkende KI-Bilder oder -Videos, veröffentlichte Texte ohne menschliche Prüfung. Und falls KI bei Bewerbungen ein Thema werden soll, gehört das jetzt schon auf die Liste für 2027.

Wie wir das bei uns handhaben

Wir arbeiten jeden Tag mit Claude. Angebote, Berichte, Recherche und Texte für unsere Website entstehen damit, und bevor etwas veröffentlicht wird, liest es ein Mensch und übernimmt die Verantwortung. Wie wir KI im eigenen Postfach einsetzen, zeigt unser Bericht E-Mails automatisch priorisieren.

Genau diese Arbeitsweise geben wir in unserem Claude-Workshop weiter. Vorher läuft eine anonyme Umfrage im Team, damit wir wissen, wo es klemmt. Geübt wird an euren eigenen Aufgaben, in zwei bis vier Stunden pro Gruppe mit bis zu zehn Leuten, zum Festpreis. Am Ende habt ihr Vorlagen für den Alltag und schriftliche Datenschutz-Leitplanken. So ein Workshop kann ein Baustein für die KI-Kompetenz nach Artikel 4 sein, eine Rechtsberatung ersetzt er nicht.