AI Act: Was sich 2026 für ChatGPT, Copilot und Chatbots geändert hat

Die kurze Antwort

Welche Pflichten gelten, hängt davon ab, wo die KI arbeitet:

• Nutzen die Beschäftigten ChatGPT, Copilot oder ähnliche Werkzeuge, muss das Unternehmen Maßnahmen für ihre KI-Kompetenz ergreifen. Ein bestimmtes Niveau muss seit Juli 2026 niemand mehr garantieren, ein Zertifikat braucht es nicht, und ein Bußgeld dafür gibt es in Deutschland nicht.
• Antwortet ein Chatbot auf der Website oder schreibt ein KI-Agent selbst an Kunden, muss spätestens bei der ersten Interaktion klar sein, dass dort eine KI antwortet. Das gilt seit dem 2. August 2026, auch für Chatbots, die schon länger laufen.
• Veröffentlichte KI-Texte müssen nur in Ausnahmefällen gekennzeichnet werden. KI-Bilder, -Videos und -Tonaufnahmen, die täuschend echt wirken, dagegen immer.
• KI, die Bewerbungen vorsortiert oder Leistung bewertet, gilt in der Regel als Hochrisiko-KI. Die Pflichten dafür gelten ab dem 2. Dezember 2027. Gefühle von Beschäftigten per KI auszuwerten, ist schon seit Februar 2025 verboten, außer aus medizinischen oder Sicherheitsgründen.

Was wann gilt: Im Juli hat die EU nachgebessert

Der AI Act, auf Deutsch KI-Verordnung, ist seit August 2024 in Kraft und gilt in Stufen. Viele Ratgeber stammen aus der Zeit vor diesem Sommer. Sie sind bei der KI-Kompetenz, bei den Fristen für Hochrisiko-KI und bei der Aufsicht in Deutschland überholt.

Am 27. Juli 2026 trat die Digital-Omnibus-Verordnung zur KI in Kraft, eine Änderung des AI Act. Sie hat die Pflicht zur KI-Kompetenz abgeschwächt und die Fristen für Hochrisiko-KI um mindestens ein Jahr verschoben. Die Transparenzpflichten für Chatbots, KI-Texte und Deepfakes hat sie inhaltlich nicht geändert. Nur die maschinenlesbare Markierung, die Hersteller von Text- und Bildgeneratoren einbauen müssen, bekam für ältere Systeme eine Frist bis Dezember.

Zwei Tage später trat in Deutschland das KI-MIG in Kraft, das Gesetz zur Durchführung des AI Act. Seitdem ist die Bundesnetzagentur Aufsichtsbehörde, Anlaufstelle und Beschwerdestelle.

Anbieter oder Betreiber: Wer einen Chatbot baut, hat mehr Pflichten

Der AI Act verteilt die Pflichten nach Rollen. Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich nutzt. Ein Unternehmen mit Lizenzen für ChatGPT oder Microsoft 365 Copilot ist Betreiber dieser Werkzeuge.

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Betrieb nimmt. Baut ein Unternehmen auf einem Sprachmodell einen eigenen Chatbot, etwa über die Schnittstelle von OpenAI oder als Agent in Copilot Studio, und stellt ihn auf die Website, ist es Anbieter dieses Chatbots. Den selbst entwickelten Chatbot nennt die EU-Kommission in ihren Leitlinien ausdrücklich als Beispiel.

Das gilt auch, wenn ein Dienstleister den Chatbot gebaut hat: Er nimmt ihn nicht unter eigenem Namen in Betrieb, das Unternehmen schon. Wer dagegen ein fertiges Chat-Produkt eines Herstellers unverändert einbindet, bleibt Betreiber; Anbieter ist der Hersteller.

Wer ein fremdes KI-System verändert, etwa mit eigenen Trainingsdaten, und es unter eigenem Namen in Betrieb nimmt, wird laut Kommission selbst Anbieter des neuen Systems. Wo bei bloßer Einrichtung, etwa mit eigenen FAQ-Texten, die Grenze liegt, sagen die Leitlinien nicht. Weil der Hinweis im Chatfenster nur eine Zeile kostet, würde ich ihn in diesem Fall einfach selbst sicherstellen.

Den Hinweis auf die KI im Chatfenster schuldet der Anbieter, die Kennzeichnung von Deepfakes und bestimmten Texten der Betreiber, also wer die KI dafür einsetzt. Ein Unternehmen kann beides zugleich sein.

KI-Kompetenz: einweisen und festhalten, ohne Zertifikat

Die Pflicht zur KI-Kompetenz aus Artikel 4 trifft jedes Unternehmen, das KI beruflich nutzt, und gilt seit Februar 2025. Ursprünglich sollten Anbieter und Betreiber mit ihren Maßnahmen „nach besten Kräften sicherstellen“, dass ihr Personal über „ein ausreichendes Maß an KI-Kompetenz“ verfügt. Seit dem 27. Juli 2026 sollen die Maßnahmen die Entwicklung dieser Kompetenz nur noch „unterstützen“. Der neue Text sagt ausdrücklich, dass niemand ein bestimmtes Niveau garantieren muss.

Was das praktisch heißt, beschreibt die EU-Kommission in ihren Fragen und Antworten zur KI-Kompetenz (Stand 20. Oktober 2026): kein Zertifikat, keine Pflicht, das Wissen der Beschäftigten zu prüfen, kein eigener KI-Beauftragter. Ihr Beispiel: Beschäftigte, die mit ChatGPT Werbetexte schreiben oder übersetzen, sollen die typischen Risiken kennen, etwa dass das Werkzeug Fakten erfindet und sie überzeugend formuliert. Als Nachweis schlägt die Kommission ein internes Verzeichnis der Schulungen vor.

Ein Bußgeld für fehlende KI-Kompetenz sieht weder der AI Act selbst vor noch das deutsche KI-MIG; dessen Bußgeldvorschriften nennen Artikel 4 nicht. Folgenlos ist sie trotzdem nicht: Die Bundesnetzagentur weist in ihrem Hinweispapier vom Juni 2025 darauf hin, dass fehlende KI-Kompetenz als Verletzung der Sorgfaltspflicht gelten kann, vor allem wenn dadurch ein Schaden entsteht.

Ich würde die Pflicht deshalb ernst nehmen, auch weil sie das eigentliche Risiko trifft: KI-Fehler, die ungeprüft in einem Angebot oder einer Mail an Kunden landen. Dafür reicht wenig:

• eine Seite mit Regeln: welche Werkzeuge freigegeben sind, welche Daten nicht hineingehören, dass jedes Ergebnis vor dem Versand eine Person prüft, und wer bei Fragen hilft
• eine halbe Stunde Einweisung mit Beispielen aus der eigenen Arbeit, notiert mit Datum, Inhalt und Teilnehmenden, wie es auch die Bundesnetzagentur empfiehlt
• dasselbe für neue Kolleginnen und Kollegen beim Einstieg und eine Auffrischung, wenn neue Werkzeuge dazukommen

Wie Katio Tech Regeln und Material zum Einarbeiten für ein Team aufsetzt, steht unter KI im Unternehmen.

Ob Kundendaten in ein Werkzeug dürfen, regelt der AI Act nicht. Das entscheidet die DSGVO, etwa über einen Vertrag zur Auftragsverarbeitung mit dem Anbieter des Werkzeugs.

Chatbots und KI-Agenten: Der Hinweis gehört ins Chatfenster

KI-Systeme, die direkt mit Menschen interagieren, müssen so gebaut sein, dass diese Menschen erfahren, dass sie mit einer KI sprechen. So steht es in Artikel 50 Absatz 1, und es gilt seit dem 2. August 2026 ohne Übergangsfrist, auch für Chatbots, die vorher schon liefen.

Darunter fallen laut den Leitlinien der Kommission Chatbots im Kundenservice, in der Reklamation und im Onlineshop, Sprachassistenten an der Hotline und KI-Agenten, die selbst Mails schreiben, Termine buchen oder Bestellungen auslösen. Agenten müssen zusätzlich sagen, in wessen Auftrag sie handeln.

Nicht darunter fallen Spamfilter, Übersetzungswerkzeuge und Suchfunktionen, die nichts erzeugen. Auch wer im Kundenservice Antworten von einer KI vorformulieren lässt, sie prüft und selbst verschickt, muss nichts kennzeichnen: Gegenüber ist dann ein Mensch.

Eine Ausnahme gilt, wenn offensichtlich ist, dass eine KI antwortet. Die Kommission legt sie eng aus. Ein interner Assistent für geschulte Beschäftigte, die wissen, dass sie KI nutzen, braucht keinen Hinweis. Ein Chatbot auf der Website, mit dem Kunden schreiben, braucht ihn.

Wie der Hinweis aussieht, schreibt das Gesetz nicht vor. Er muss klar und barrierefrei sein, also auch mit einem Screenreader ankommen, und spätestens bei der ersten Interaktion erscheinen. Die Leitlinien nennen als Beispiele eine erste Nachricht, in der der Chatbot sagt, dass er eine KI ist, und einen Hinweis direkt am Eingabefeld. Eine Zeile wie „Hier antwortet ein KI-Assistent, kein Mensch.“ als Begrüßung erfüllt das. Nicht ausreichend sind laut Kommission:

• ein Hinweis nur in den AGB oder der Datenschutzerklärung
• ein allgemeiner Satz wie „Diese Website nutzt KI“
• die Bezeichnung „Assistent“ ohne das Wort KI
• ein Name und ein Foto, die einen Menschen vortäuschen

Fragt jemand, ob ein Mensch antwortet, muss der Chatbot ehrlich antworten.

Verantwortlich ist der Anbieter. Hat das Unternehmen den Chatbot selbst gebaut oder bauen lassen, ist es also selbst dran. Bei einem gekauften Produkt muss der Hersteller den Hinweis einbauen; dann lohnt ein Blick, ob er auch eingeschaltet ist.

Agenten aus Copilot Studio begrüßen laut Microsoft standardmäßig mit dem Satz „Just so you are aware, I sometimes use AI to answer your questions.“ Wer die Begrüßung anpasst, sollte den Hinweis mitnehmen. Für einen Agenten, der jede Antwort mit KI erzeugt, ist „manchmal“ allerdings eher zu vage; ich würde es so klar sagen wie in der Begrüßungszeile oben.

KI-Texte und KI-Bilder: Gekennzeichnet wird nur in zwei Fällen

Der erste Fall sind Deepfakes. Ein KI-Foto, das wie eine echte Aufnahme der eigenen Werkhalle mit Belegschaft aussieht, muss als künstlich erzeugt gekennzeichnet werden. Deepfakes sind laut AI Act KI-erzeugte Bilder, Töne oder Videos, die echten Personen, Orten, Gegenständen oder Ereignissen ähneln und fälschlich echt wirken würden. Eine erkennbar gezeichnete Illustration ist kein Deepfake.

Der zweite Fall sind Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Werbetexte und Produktbeschreibungen gehören laut Kommission nicht dazu, solange sie keine Aussagen zu Gesundheit, Sicherheit oder Nachhaltigkeit machen. Der Investorenbericht eines börsennotierten Unternehmens gehört dazu, ein Fachartikel im Firmenblog kann dazugehören.

Eine Kennzeichnung braucht es dann trotzdem nicht, wenn ein Mensch den Text inhaltlich geprüft hat, einschließlich der Fakten, und eine Person oder das Unternehmen erkennbar die redaktionelle Verantwortung trägt, etwa über das Impressum. Ein Durchgang mit der Rechtschreibprüfung oder ein schnelles Abnicken reicht nicht. Und schreibt die KI den Text nach der Freigabe noch einmal um, entfällt die Ausnahme.

Inhalte, die vor dem 2. August 2026 veröffentlicht wurden, müssen nicht nachträglich gekennzeichnet werden. Ein Text, den die KI vorher geschrieben hat und der erst danach erscheint, fällt dagegen unter die neuen Regeln.

Die unsichtbare, maschinenlesbare Markierung von KI-Inhalten ist Sache der Hersteller wie OpenAI, Microsoft oder Google, nicht der Unternehmen, die ihre Werkzeuge nutzen. Wie Kennzeichnungen aussehen können, beschreibt ein freiwilliger Praxisleitfaden der Kommission vom Juni 2026, samt EU-Symbol für KI-Inhalte.

Bewerbungen und Leistungsbewertung: Hochrisiko ab Dezember 2027

KI im Personalbereich zählt in der Regel zur Hochrisiko-KI nach Anhang III: wenn sie Bewerbungen sichtet, filtert oder Bewerber bewertet, wenn sie Entscheidungen über Beförderungen oder Kündigungen beeinflusst, Aufgaben nach dem Verhalten von Beschäftigten verteilt oder deren Leistung überwacht und bewertet.

Für Betreiber solcher Systeme gelten ab dem 2. Dezember 2027 eigene Pflichten aus Artikel 26. Sie müssen das System nach der Betriebsanleitung des Anbieters einsetzen, die Aufsicht einer Person mit der nötigen Kompetenz und Befugnis übertragen, den Betrieb überwachen und die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren. Vor dem Einsatz am Arbeitsplatz müssen sie die Arbeitnehmervertretung, also etwa den Betriebsrat, und die betroffenen Beschäftigten informieren.

Wer heute ein Bewerbermanagement mit KI-Vorauswahl einführt, sollte beim Hersteller nachfragen, wie das Produkt diese Anforderungen ab 2027 erfüllen wird.

Schon seit dem 2. Februar 2025 verboten ist dagegen KI, die am Arbeitsplatz Emotionen von Beschäftigten ableitet, etwa aus der Stimme im Callcenter, außer aus medizinischen oder Sicherheitsgründen.

Aufsicht und Bußgelder: Jede Person kann sich beschweren

Zuständig ist in Deutschland die Bundesnetzagentur, für regulierte Finanzunternehmen die BaFin. Bei der Beschwerdestelle der Bundesnetzagentur kann sich jede Person über einen Verstoß beschweren, auch über einen Chatbot ohne Hinweis.

Verstöße gegen die Transparenzpflichten und gegen die Pflichten der Betreiber von Hochrisiko-KI kosten bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes im Vorjahr, für verbotene Praktiken sind es bis zu 35 Millionen Euro oder 7 %. Grundsätzlich gilt der höhere Betrag, bei kleinen und mittleren Unternehmen bei allen Bußgeldern der niedrigere. Für einen Betrieb mit 3 Millionen Euro Jahresumsatz liegt die Obergrenze bei einem Verstoß gegen die Transparenzpflichten damit bei 90.000 Euro. Bei der Höhe müssen die Behörden die Interessen kleiner Unternehmen und ihr wirtschaftliches Überleben berücksichtigen.

Für eine erste Einschätzung, ob und wie der AI Act ein bestimmtes System betrifft, bietet die Bundesnetzagentur den KI-Compliance Kompass im KI-Service Desk an. Das Ergebnis ist eine Orientierung, keine verbindliche Auskunft.

Was jetzt zu tun ist

Am Anfang steht eine Liste, wo im Unternehmen KI arbeitet: die Werkzeuge der Beschäftigten, Chatbots und Agenten, aber auch KI-Funktionen in Fachsoftware, besonders im Personalbereich. Danach in dieser Reihenfolge:

• Chatbots und Agenten mit Kundenkontakt bekommen den Hinweis, dass eine KI antwortet. Das ist seit August Pflicht.
• Regeln für die KI-Werkzeuge aufschreiben, die Beschäftigten einweisen und das mit Datum festhalten.
• Klären, wer veröffentlichte Texte inhaltlich prüft, und täuschend echte KI-Bilder kennzeichnen.
• KI im Personalbereich bis Dezember 2027 auf die Hochrisiko-Pflichten vorbereiten.

Im Beispiel vom Anfang heißt das: Der Chatbot bekommt eine Zeile in seiner Begrüßung. Wer ChatGPT oder Copilot nutzt, bekommt eine Seite Regeln und eine halbe Stunde Einweisung. Die Werkzeuge laufen weiter wie bisher.