KI im Arbeitsalltag: Was Datenschutz und der EU AI Act wirklich verlangen 

Ein Gastbeitrag von Roosbeh Karimi | KARIMI.legal

Viele Unternehmen gehen noch davon aus, dass die Pflichten rund um Künstliche Intelligenz Zukunftsmusik sind. Ein Blick auf den Zeitplan der KI-Verordnung zeigt etwas anderes: Zentrale Vorgaben gelten längst, und seit August 2026 ist die Aufsicht in Deutschland aktiv geworden. Zeit, die wichtigsten Grundlagen einmal klar einzuordnen. 

KI-Kompetenz ist keine Kür, sondern Pflicht 

Grundlage ist Artikel 4 der KI-Verordnung. Er verlangt von Anbietern und Betreibern, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt – und das unabhängig von der Risikostufe des eingesetzten Systems. Wichtig dabei: Die Pflicht gilt bereits seit dem 2. Februar 2025, nicht erst seit den Presseberichten im August 2026. 

Wer jetzt denkt, das betreffe nur Software-Hersteller, irrt. Die Legaldefinition in Artikel 3 der KI-Verordnung fasst „Betreiber“ sehr weit: Jede natürliche oder juristische Person, Behörde oder Einrichtung, die ein KI-System in eigener Verantwortung verwendet, fällt darunter. Damit sind die meisten Organisationen betroffen, die Tools wie Chatbots oder Sprachmodelle im Arbeitsalltag einsetzen – nicht nur deren Hersteller. Und die Pflicht erfasst nicht nur Beschäftigte, sondern ausdrücklich auch Auftragnehmer. 

Was dagegen nicht verlangt wird: ein bestimmtes Zertifikat, ein festgelegtes Schulungsformat, eine Mindeststundenzahl oder ein formeller KI-Beauftragter. Entscheidend ist, dass Organisationen nachweisbar etwas unternommen haben – Schulungen, Dokumentation, klare Regeln. 

Was Datenschutz eigentlich schützt 

Ein häufiges Missverständnis: Datenschutz schützt nicht die Daten als solche – das ist Aufgabe der Datensicherheit. Datenschutz schützt das Recht von Personen auf Selbstbestimmung darüber, welche Daten über sie verarbeitet werden. 

Dabei gilt ein Verbot mit Erlaubnisvorbehalt: Jede Verarbeitung personenbezogener Daten ist zunächst grundsätzlich untersagt, es sei denn, es liegt ein Erlaubnistatbestand vor. Verantwortlich ist dabei immer die Organisation, nicht die einzelne Person, die das Tool bedient. 

Für die Praxis lohnt sich die Unterscheidung von drei Datenkategorien: 

• Personenbezogene Daten – jede Angabe, die sich einer bestimmten Person zuordnen lässt (Name, IP-Adresse, Kundennummer) 
• Besondere Kategorien – etwa Gesundheitsdaten oder Angaben zur Herkunft, mit besonders strengem Schutz 
• Daten ohne Personenbezug – hier lauert der wohl häufigste Fehler: Eine bloße Pseudonymisierung (z. B. der Ersatz des Namens durch eine Mitarbeiternummer) reicht nicht aus. Nur eine echte Anonymisierung, bei der eine Rückführung auf die Person nicht mehr möglich ist, zählt hier tatsächlich. 

Öffentliche versus interne KI-Systeme 

Bei öffentlichen KI-Diensten verlassen Daten das Unternehmen und landen auf den Servern des Anbieters – Speicherung und Training mit diesen Daten ist dabei oft möglich, insbesondere bei kostenlosen Modellen. 

Für den Alltag hilft eine einfache Faustregel: Geben Sie in eine öffentliche KI nichts ein, was Sie nicht auch öffentlich sagen oder auf eine Postkarte schreiben würden. 

Die vier Risikostufen der KI-Verordnung 

Die KI-Verordnung unterscheidet vier Risikostufen: 

1. Unannehmbares Risiko – schlicht verboten, etwa Social Scoring oder Emotionserkennung am Arbeitsplatz 
2. Hohes Risiko – erlaubt, aber mit strengen Pflichten nach Artikel 6, etwa bei Personalauswahl oder Kreditvergabe 
3. Begrenztes Risiko – Transparenzpflichten nach Artikel 50, etwa bei Chatbots 
4. Minimales Risiko – keine besonderen Pflichten, etwa bei Rechtschreibhilfen 

Transparenzpflichten seit August 2026 

Seit dem 2. August 2026 gelten die Kennzeichnungspflichten nach Artikel 50 – und zwar differenzierter, als es auf den ersten Blick scheint. Wer mit einem KI-System interagiert, muss das grundsätzlich erkennen können, es sei denn, es ist ohnehin offensichtlich.

Bei Texten kommt es entscheidend darauf an, wer den Inhalt zuletzt geprüft hat: Wird ein Text – ob vollständig KI-generiert oder von einer KI sprachlich überarbeitet – ohne inhaltliche Kontrolle durch eine Person veröffentlicht, greift die Kennzeichnungspflicht. Eine reine Rechtschreib- oder Grammatikkorrektur reicht dafür nicht aus; sie entfällt nur, wenn eine Person den Inhalt tatsächlich prüft und dafür die redaktionelle Verantwortung übernimmt. 

Auch synthetische Inhalte und Deepfakes müssen entsprechend gekennzeichnet werden. Besonders relevant ist die Kennzeichnungspflicht bei Inhalten von öffentlichem Interesse – etwa Bildern oder Texten, die gesellschaftlich oder politisch relevante Themen betreffen. Unabhängig davon gilt: Eine transparente Kennzeichnung schadet nie, auch dort nicht, wo sie nicht zwingend vorgeschrieben ist. 

Ein Verstoß gegen diese und andere Pflichten kann teuer werden: Je nach Kategorie drohen Sanktionen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Millionen Euro oder 3 % bei sonstigen Pflichtverstößen. 

Das größte Risiko im Alltag: die Dateneingabe 

In der Praxis liegt das größte Risiko nicht in der Technik selbst, sondern im Moment der Eingabe. Wer Daten in ein öffentliches Tool eingibt, gibt die Kontrolle darüber ab, was mit diesen Daten geschieht – datenschutzrechtlich ist das eine Übermittlung an Dritte, die eine Rechtsgrundlage und in der Regel einen Auftragsverarbeitungsvertrag voraussetzt. 

Bestimmte Daten gehören grundsätzlich nicht in nicht freigegebene, öffentliche Tools: 

• Personendaten Dritter 
• Bewerbungs- und Personalunterlagen
• Besondere Kategorien personenbezogener Daten 
• Geschäftsgeheimnisse und interne Informationen

Automatisierte Entscheidungen: Der Mensch bleibt im Loop 

Nach Artikel 22 der Datenschutz-Grundverordnung haben betroffene Personen grundsätzlich das Recht, nicht ausschließlich einer automatisierten Entscheidung mit rechtlicher Wirkung unterworfen zu werden. Es gibt enge Ausnahmen, etwa bei einer ausdrücklichen Einwilligung – als Faustregel gilt aber: Wichtige Entscheidungen trifft am Ende ein Mensch. 

Praktische Regeln für den Arbeitsalltag 

Das gehört zur guten Praxis: 

• Nur freigegebene Tools nutzen
• Ergebnisse inhaltlich prüfen und Aktualität gegenchecken 
• KI-generierte Inhalte kennzeichnen
• Personenbezug wo möglich durch Platzhalter ersetzen
• Im Zweifel nachfragen

Das sollte vermieden werden:

• Personendaten oder Geschäftsgeheimnisse in öffentliche Tools eingeben
• Wichtige Entscheidungen allein der KI überlassen
• Ungenehmigte Tools im Verborgenen nutzen („Schatten-KI„)
• Ergebnisse ungeprüft weitergeben
• Vorfälle verschweigen

Ein einfacher Prüfreflex mit vier Fragen hilft im Alltag: Ist das Tool freigegeben? Wohin fließen die Daten? Steckt Personenbezug drin? Was passiert mit dem Ergebnis? 

Wenn doch einmal etwas schiefgeht 

Bei Datenschutzverletzungen gelten unabhängig voneinander bestehende Meldewege: eine Meldung an die zuständige Aufsichtsbehörde innerhalb von 72 Stunden ab Kenntnis des Unternehmens, bei hohem Risiko für Betroffene eine unverzügliche Information der betroffenen Personen selbst, und bei einem schwerwiegenden Vorfall im Hochrisikobereich eine unverzügliche Meldung an die Marktüberwachungsbehörde und den Anbieter. Die wichtigste Regel dabei: sofort melden, dokumentieren, die verantwortliche Stelle informieren – und auf keinen Fall im Alleingang handeln oder den Vorfall einfach ignorieren. 

Fazit 

KI ist ein Werkzeug – die Verantwortung dafür bleibt beim Menschen. Personenbezogene und vertrauliche Daten haben in nicht freigegebenen Tools nichts zu suchen, Ergebnisse gehören kritisch geprüft, denn sprachliche Sicherheit ist nicht gleich inhaltliche Richtigkeit. KI-Inhalte müssen gekennzeichnet und Vorfälle gemeldet werden. Und: Die KI-Verordnung reguliert risikobasiert – entscheidend ist immer der konkrete Einsatzzweck, nicht die Technik an sich. 

Regeln allein reichen nicht – sie brauchen die passende technische Umsetzung 

Die genannten Grundsätze funktionieren in der Praxis am besten, wenn sie technisch flankiert werden. Aiverti wurde genau für diesen Zweck entwickelt: eine DSGVO-konforme KI-Plattform mit Anonymisierungsfunktion für personenbezogene Daten, vertraglich abgesicherten Auftragsverarbeitungsvereinbarungen mit allen eingebundenen Modellanbietern und der Möglichkeit, unternehmenseigenes Wissen über ein RAG-System einzubinden, ohne dass Daten für das Training fremder Modelle verwendet werden. 

Ein Punkt aus der Praxis bleibt dabei besonders relevant: die sogenannte Schatten-KI, also die Nutzung privater, nicht freigegebener KI-Tools für dienstliche Zwecke – gerade auf mobilen Geräten. Genau hier setzt Cortado MDM an: Über die zentrale Geräteverwaltung lässt sich steuern, welche Apps auf Firmengeräten verfügbar sind, sodass IT-Teams freigegebene KI-Anwendungen gezielt bereitstellen und gleichzeitig verhindern können, dass dienstliche Daten unbeabsichtigt in nicht freigegebenen Tools landen. So ergänzen sich Datenschutz-Know-how, eine DSGVO-konforme KI-Plattform und eine zentral gesteuerte Geräteverwaltung zu einem Gesamtbild, mit dem Organisationen KI-Kompetenz im Sinne von Artikel 4 nicht nur auf dem Papier, sondern im Arbeitsalltag nachweisbar umsetzen können.