EU-AI-Act-Selbsttest für Unternehmen

1. Wir haben geprüft, ob wir im Sinne des AI Act Anbieter, Betreiber, Importeur oder Händler sind — und für welche Systeme in welcher Rolle.

2. Wir kennen die extraterritoriale Reichweite: auch KI-Ausgaben, die in der EU verwendet werden, können Pflichten auslösen — unabhängig vom Firmensitz.

3. Bei jeder Eigenentwicklung oder wesentlichen Anpassung eines KI-Systems prüfen wir bewusst, ob wir damit vom Betreiber zum Anbieter werden.

4. Wir haben ein aktuelles Inventar aller eingesetzten KI-Systeme, inklusive eingebetteter KI in Drittanwendungen (z. B. Office-Suiten, CRM, Recruiting-Tools).

5. Jedes System ist nach Risikoklasse eingeordnet (verboten / hochrisiko / begrenzt-transparenzpflichtig / minimal) und die Einordnung ist begründet dokumentiert.

6. Wir haben einen definierten Prozess, wie neue KI-Systeme vor Einführung klassifiziert werden — nicht erst im Nachhinein.

7. Wir haben aktiv geprüft und schließen aus, dass wir KI zur schädlichen Manipulation oder Ausnutzung von Schutzbedürftigkeit einsetzen; ebenso schließen wir Social Scoring aus.

8. Wir haben aktiv geprüft und schließen individuelle Kriminalitätsprognosen sowie das ungezielte Auslesen von Internet- oder CCTV-Material zum Aufbau oder Ausbau von Gesichtsdatenbanken aus.

9. Wir haben aktiv geprüft und schließen Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen, biometrische Kategorisierung nach sensiblen Merkmalen und Echtzeit-Fernidentifizierung für Strafverfolgung im öffentlichen Raum aus. Ab Dezember 2026 schließen wir außerdem KI-Systeme für nicht einvernehmliche intime Inhalte oder Missbrauchsdarstellungen aus.

10. Für Hochrisiko-Systeme haben wir ein dokumentiertes Risikomanagement, das den Lebenszyklus abdeckt (nicht nur ein einmaliges Assessment).

11. Menschliche Aufsicht ist nicht nur beschrieben, sondern operativ wirksam: benannte Personen können Entscheidungen überprüfen, korrigieren und den Betrieb stoppen.

12. Wir erfüllen die Pflichten für unsere Rolle: als Anbieter halten wir technische Dokumentation (Anhang IV), Datenqualitätsnachweise (Art. 10) und automatisches Logging (Art. 12) vor; als Betreiber nutzen wir die Systeme nach Anleitung, sichern menschliche Aufsicht, überwachen den Betrieb, bewahren Logs im Rahmen unserer Kontrolle auf und melden schwerwiegende Vorfälle (Art. 26).

13. Als Anbieter von Chatbots oder Sprachagenten gestalten wir diese so, dass Nutzer klar erkennen, wenn sie mit einem KI-System interagieren — sofern dies nicht aus den Umständen offensichtlich ist.

14. Als Anbieter generativer KI-Systeme sorgen wir dafür, dass KI-generierte oder manipulierte Inhalte maschinenlesbar erkennbar sind; bei Systemen, die vor dem 2. August 2026 am Markt waren, ist die Übergangsfrist bis 2. Dezember 2026 berücksichtigt.

15. Als Betreiber informieren wir betroffene Personen über Emotionserkennung oder biometrische Kategorisierung und legen Deepfakes sowie KI-generierte oder -manipulierte Texte zu Angelegenheiten von öffentlichem Interesse offen, soweit keine Ausnahme greift.

16. Wir treffen angemessene Maßnahmen zur KI-Kompetenz der Personen, die für uns mit KI arbeiten. Dabei berücksichtigen wir Wissen, Erfahrung, Ausbildung oder Schulung sowie die konkreten Systeme und Risiken; eine formale Zertifizierung oder ein bestimmtes Kompetenzniveau behaupten wir nicht.

17. Best Practice, nicht Art.-4-Formpflicht: Verantwortlichkeiten für KI-Einsatz, Freigaben und Eskalationen sind in einer für uns passenden Form geklärt.

18. Best Practice und bei bestimmten Rollen gesetzlich relevant: Wir erkennen schwerwiegende Vorfälle intern und melden sie, wo für unsere Rolle gefordert, fristgerecht an die zuständigen Behörden.

19. Wir wissen, welche KI-Modelle und KI-Anbieter in unseren Systemen stecken — auch indirekt über eingekaufte SaaS-Lösungen — und prüfen bei Bedarf, ob tatsächlich ein GPAI-Modell im Sinne des AI Act relevant ist.

20. Für KI-Systeme von Dritten liegen die für unsere Rolle benötigten Informationen und Kontaktwege vor: Nutzungsanleitung, Leistungsgrenzen, Datenbedingungen, Zuständigkeiten und Eskalationswege. Trainingsdaten-Zusammenfassung oder systemisches Risiko sind dagegen primär Pflichten von GPAI-Modellanbietern.

21. Wir haben eine Policy für den Umgang mit GPAI, die Sensitivitätsstufen, zulässige Eingaben, Datenabfluss und Prüfpflichten klar regelt — und halten uns daran.

22. Wir wissen, welche personenbezogenen Daten in KI-Tools verarbeitet werden: in Prompts (Eingaben), hochgeladenen Dateien, Antworten, angebundenen Wissensquellen wie M365/CRM/ERP und Logs (technischen Protokollen) — inklusive Beschäftigten-, Kunden- und Bewerberdaten.

23. Für KI-Nutzungen mit personenbezogenen Daten sind Zweck, Rechtsgrundlage, zulässige Datenkategorien und Informationspflichten geklärt — ebenso, ob eine DSFA (Datenschutz-Folgenabschätzung) nötig ist, also eine strukturierte Datenschutz-Risikoprüfung vor dem Einsatz.

24. Für KI-Anbieter und KI-Funktionen in SaaS-Lösungen ist geklärt, welche datenschutzrechtliche Rolle der Anbieter hat. Falls er als Auftragsverarbeiter handelt, sind AVV, Unterauftragsverarbeiter, Löschfristen und Aufbewahrung von Prompts/Antworten geregelt; falls nicht, ist dokumentiert, auf welcher Grundlage die Nutzung zulässig ist und ob Eingaben für Training oder Produktverbesserung verwendet werden.

25. Datenresidenz und Drittlandtransfer sind geprüft: Wo Daten gespeichert und verarbeitet werden, wer aus Support oder Subprozessoren zugreifen kann und welche Garantien dafür gelten, ist dokumentiert — nicht nur aus Anbieter-Marketing abgeleitet.

26. Mitarbeitende haben klare Leitplanken: freigegebene KI-Tools, No-Go-Daten, Berechtigungen, Vertraulichkeitslabels, PII-Masking (automatisches Entfernen personenbezogener Daten), Audit-Logs und Eskalation bei Unsicherheit.