EU-AI-Act-Selbsttest für Unternehmen

1. Wir haben geprüft, ob wir im Sinne des AI Act Anbieter, Betreiber, Importeur oder Händler sind — und für welche Systeme in welcher Rolle.

2. Wir kennen die extraterritoriale Reichweite: auch KI-Ausgaben, die in der EU verwendet werden, können Pflichten auslösen — unabhängig vom Firmensitz.

3. Bei jeder Eigenentwicklung oder wesentlichen Anpassung eines KI-Systems prüfen wir bewusst, ob wir damit vom Betreiber zum Anbieter werden.

4. Wir haben ein aktuelles Inventar aller eingesetzten KI-Systeme, inklusive eingebetteter KI in Drittanwendungen (z. B. Office-Suiten, CRM, Recruiting-Tools).

5. Für jedes System sind verbotene Einsätze, eine mögliche Hochrisiko-Einstufung und zusätzliche Transparenzpflichten getrennt geprüft und begründet dokumentiert. Transparenzpflichten können auch bei Hochrisiko-Systemen gelten.

6. Wir haben einen definierten Prozess, wie neue KI-Systeme vor Einführung klassifiziert werden — nicht erst im Nachhinein.

7. Wir haben die Tatbestände des Art. 5 geprüft und schließen die dort verbotenen Formen schädlicher Manipulation, der Ausnutzung von Schutzbedürftigkeit und des Social Scorings aus.

8. Wir schließen nach Prüfung die nach Art. 5 verbotenen individuellen Kriminalitätsprognosen allein auf Basis von Profiling oder Persönlichkeitsmerkmalen sowie ungezieltes Scraping von Internet- oder CCTV-Material für Gesichtsdatenbanken aus. Eine zulässige Unterstützung menschlicher Bewertungen auf Basis objektiver, überprüfbarer Tatbezüge wäre gesondert rechtlich geprüft.

9. Wir haben die weiteren Art.-5-Tatbestände geprüft und schließen die verbotenen Einsätze aus: Emotionserkennung in Arbeit oder Bildung, biometrische Kategorisierung und Echtzeit-Fernidentifizierung zur Strafverfolgung. Beanspruchte Ausnahmen, etwa medizinische oder Sicherheitszwecke bei Emotionserkennung, sind konkret rechtlich geprüft und dokumentiert. Das zusätzliche Verbot bestimmter Systeme für nicht einvernehmliche intime Inhalte oder Missbrauchsdarstellungen ab 2. Dezember 2026 ist berücksichtigt.

10. Als Anbieter von Hochrisiko-Systemen, für die Art. 9 einschlägig ist, haben wir ein dokumentiertes Risikomanagement über den Lebenszyklus. Als reiner Betreiber ohne diese Anbieterpflicht wählen wir hier „Nicht anwendbar“ und bewerten unsere Kontrollen in Fragen 11 und 12.

11. Menschliche Aufsicht ist nicht nur beschrieben, sondern operativ wirksam: benannte Personen können Entscheidungen überprüfen, korrigieren und den Betrieb stoppen.

12. Wir erfüllen die folgenden ausgewählten Kontrollen für unsere Rolle: als Anbieter halten wir technische Dokumentation (Anhang IV), Datenqualitätsnachweise (Art. 10) und automatisches Logging (Art. 12) vor; als Betreiber nutzen wir die Systeme nach Anleitung, sichern menschliche Aufsicht, überwachen den Betrieb, bewahren Logs im Rahmen unserer Kontrolle auf und melden schwerwiegende Vorfälle. Einschlägige Anforderungen an Eingabedaten, Beschäftigten- und Betroffeneninformation sowie gegebenenfalls eine Grundrechte-Folgenabschätzung sind geprüft (Art. 26/27). Dies ist eine Auswahl von Kontrollen; weitere Pflichten unserer Rolle werden gesondert geprüft.

13. Als Anbieter von Chatbots oder Sprachagenten gestalten wir diese so, dass Nutzer klar erkennen, wenn sie mit einem KI-System interagieren — sofern dies nicht aus den Umständen offensichtlich ist.

14. Als Anbieter generativer KI-Systeme sorgen wir im Anwendungsbereich von Art. 50 Abs. 2 für technisch machbare, wirksame maschinenlesbare Erkennbarkeit. Ausnahmen, etwa unterstützende Standardbearbeitung oder keine wesentliche Änderung von Eingaben beziehungsweise ihrer Semantik, sind geprüft; bei Systemen, die vor dem 2. August 2026 am Markt waren, ist die Übergangsfrist bis 2. Dezember 2026 berücksichtigt.

15. Als Betreiber informieren wir betroffene Personen über Emotionserkennung oder biometrische Kategorisierung und legen Deepfakes sowie KI-generierte oder -manipulierte Texte zu Angelegenheiten von öffentlichem Interesse offen, soweit keine Ausnahme greift.

16. Wir treffen angemessene Maßnahmen zur KI-Kompetenz der Personen, die für uns mit KI arbeiten. Dabei berücksichtigen wir Wissen, Erfahrung, Ausbildung oder Schulung sowie die konkreten Systeme und Risiken; eine formale Zertifizierung oder ein bestimmtes Kompetenzniveau behaupten wir nicht.

17. Best Practice, nicht Art.-4-Formpflicht: Verantwortlichkeiten für KI-Einsatz, Freigaben und Eskalationen sind in einer für uns passenden Form geklärt.

18. Best Practice und bei bestimmten Rollen gesetzlich relevant: Wir erkennen schwerwiegende Vorfälle intern und melden sie, wo für unsere Rolle gefordert, fristgerecht an die zuständigen Behörden.

19. Wir wissen, welche KI-Modelle und KI-Anbieter in unseren Systemen stecken — auch indirekt über eingekaufte SaaS-Lösungen — und prüfen bei Bedarf, ob tatsächlich ein GPAI-Modell im Sinne des AI Act relevant ist.

20. Für KI-Systeme von Dritten liegen die für unsere Rolle benötigten Informationen und Kontaktwege vor: Nutzungsanleitung, Leistungsgrenzen, Datenbedingungen, Zuständigkeiten und Eskalationswege. Trainingsdaten-Zusammenfassung oder systemisches Risiko sind dagegen primär Pflichten von GPAI-Modellanbietern.

21. Best Practice, keine allgemeine eigenständige GPAI-Betreiberpflicht: Wir haben eine Policy für den Umgang mit GPAI, die Sensitivitätsstufen, zulässige Eingaben, Datenabfluss und Prüfpflichten klar regelt — und halten uns daran.

22. Wir wissen, welche personenbezogenen Daten in KI-Tools verarbeitet werden: in Prompts (Eingaben), hochgeladenen Dateien, Antworten, angebundenen Wissensquellen wie M365/CRM/ERP und Logs (technischen Protokollen) — inklusive Beschäftigten-, Kunden- und Bewerberdaten.

23. Für KI-Nutzungen mit personenbezogenen Daten sind Zweck, Rechtsgrundlage, zulässige Datenkategorien und Informationspflichten geklärt — ebenso, ob eine DSFA (Datenschutz-Folgenabschätzung) nötig ist, also eine strukturierte Datenschutz-Risikoprüfung vor dem Einsatz. Bei ausschließlich automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung sind Art. 22 und die einschlägigen Schutzvorkehrungen geprüft. Auskunft, Berichtigung und Löschung können wir im KI-Workflow praktisch erfüllen, soweit sie rechtlich geboten sind.

24. Für KI-Anbieter und KI-Funktionen in SaaS-Lösungen ist geklärt, welche datenschutzrechtliche Rolle der Anbieter hat. Falls er als Auftragsverarbeiter handelt, sind AVV, Unterauftragsverarbeiter, Löschfristen und Aufbewahrung von Prompts/Antworten geregelt; falls nicht, ist dokumentiert, auf welcher Grundlage die Nutzung zulässig ist und ob Eingaben für Training oder Produktverbesserung verwendet werden.

25. Datenresidenz und Drittlandtransfer sind geprüft: Wo Daten gespeichert und verarbeitet werden, wer aus Support oder Subprozessoren zugreifen kann und welche Garantien dafür gelten, ist dokumentiert — nicht nur aus Anbieter-Marketing abgeleitet.

26. Mitarbeitende haben klare Leitplanken: freigegebene KI-Tools, No-Go-Daten, Berechtigungen, Vertraulichkeitslabels, risikogerechte Maskierung oder Ersetzung identifizierender Angaben (keine automatische Anonymisierung), Audit-Logs und Eskalation bei Unsicherheit.