Künstliche Intelligenz (KI / AI)  ·  02. Juli 2025

Transparenzpflichten in der KI-Verordnung – Was kommt auf Unternehmen zu?

EU-Kommission • 2024 • Verordnung über Künstliche Intelligenz (AI Act)

 

Der AI Act (KI-Verordnung, KIVO) verpflichtet Anbieter von KI-Systemen zu umfangreichen Transparenzmaßnahmen – abhängig von der Risikokategorie der jeweiligen Anwendung. 

 

 

Mit dem AI Act (Artificial Intelligence Act) will die EU erstmals umfassende Regeln für den Einsatz von Künstlicher Intelligenz schaffen. Ziel ist es, Risiken zu minimieren und gleichzeitig Innovation zu ermöglichen. Die Verordnung unterscheidet vier Risikoklassen:

 

  • unannehmbares Risiko (= verbotene KI)
  • hohes (= Hoch-Risiko-KI)
  • begrenztes Risiko und
  • minimales Risiko.

 

Je nach Einstufung sind unterschiedlich weitgehende Anforderungen zu erfüllen.

Ein zentrales Element sind Transparenzpflichten: Nutzer*innen sollen nachvollziehen können, wenn sie mit einem KI-System interagieren – insbesondere bei generativer KI oder biometrischer Erkennung.

 

 

Die Transparenzpflichten finden sich im Kapitel 3 des AI Acts und betreffen vor allem Anbieter und Betreiber von:

 

  • Generativer KI (z. B. Chatbots, Bildgeneratoren)
    Es muss klar erkennbar sein, dass Inhalte KI-generiert sind, außer es ist dies aus dem Zusammenhang klar.

    Zudem sollen technische Schutzmaßnahmen gegen Täuschung eingebaut sein. Zusätzlich verlangt der Gesetzgeber, Trainingsdaten offen zu legen, insbesondere bei urheberrechtlich geschützten Inhalten (Art. 52 AI Act).

  • Emotionserkennung und biometrische Kategorisierung
    Auch hier besteht Informationspflicht gegenüber betroffenen Personen – vor dem Einsatz solcher Technologien muss über die Datenverarbeitung informiert werden.

  • Deepfakes und synthetische Inhalte
    Diese müssen als solche gekennzeichnet sein – etwa durch Wasserzeichen oder andere Hinweise.

Besondere Transparenzanforderungen gelten für sogenannte Hochrisiko-KI-Systeme, etwa im Gesundheitswesen, bei Kreditwürdigkeitsprüfungen oder im Personalbereich.

 

Hier müssen umfangreiche technische Dokumentationen, Aufzeichnungen, Erklärbarkeit der Entscheidungen und Risikomanagementsysteme vorliegen.

 

 

Fazit und Empfehlung 

Der AI Act bringt nicht nur technische Anforderungen, sondern verlangt auch ein hohes Maß an Kommunikation und Transparenz.

 

Unternehmen, die KI-Systeme einsetzen oder entwickeln, sollten frühzeitig prüfen, ob ihre Anwendungen unter die Verordnung fallen und entsprechende Transparenzmaßnahmen planen.

 

Insbesondere Anbieter generativer KI sollten sich auf neue Pflichten einstellen, die über die DSGVO hinausgehen – etwa die Offenlegung von Trainingsdaten und die deutliche Kennzeichnung von KI-generierten Inhalten. 

 

Wer KI nutzt, ohne die Transparenzpflichten zu beachten, riskiert erhebliche Bußgelder und Reputationsschäden. Daher ist es ratsam, jetzt Compliance-Strukturen aufzubauen und die eigene Kommunikation anzupassen.

 

Tags: Transparenz, Information, Kennzeichnung, Offenlegung, KI, AI, Künstliche Intelligenz, Artificial Intelligence, Deepfakes

Kommentar schreiben

Kommentare: 60
  • #1

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:19)

    1

  • #2

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:20)

    1

  • #3

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:21)

    1

  • #4

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:21)

    1

  • #5

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:22)

    1

  • #6

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:22)

    1

  • #7

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:23)

    1

  • #8

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:24)

    1

  • #9

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:24)

    1

  • #10

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:25)

    1

  • #11

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:25)

    1

  • #12

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:26)

    1

  • #13

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:27)

    1

  • #14

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:27)

    1

  • #15

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:28)

    1

  • #16

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:28)

    1

  • #17

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:29)

    1

  • #18

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:30)

    1

  • #19

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:30)

    1

  • #20

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:31)

    1

  • #21

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:31)

    1

  • #22

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:32)

    1

  • #23

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:32)

    1

  • #24

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:33)

    10"XOR(1*if(now()=sysdate(),sleep(15),0))XOR"Z

  • #25

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:33)

    1-1 waitfor delay '0:0:15' --

  • #26

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:34)

    1-1) OR 754=(SELECT 754 FROM PG_SLEEP(15))--

  • #27

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:34)

    1cFYa0n0J') OR 352=(SELECT 352 FROM PG_SLEEP(15))--

  • #28

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:35)

    1'||DBMS_PIPE.RECEIVE_MESSAGE(CHR(98)||CHR(98)||CHR(98),15)||'

  • #29

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:36)

    1

  • #30

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:36)

    1

  • #31

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:37)

    1

  • #32

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:37)

    1

  • #33

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:38)

    1

  • #34

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:38)

    1

  • #35

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:39)

    1

  • #36

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:40)

    1

  • #37

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:40)

    1

  • #38

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:41)

    1

  • #39

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:43)

    1

  • #40

    -1 OR 5*5=25 -- (Mittwoch, 16 Juli 2025 14:43)

    1

  • #41

    lxbfYeaa-1 waitfor delay '0:0:15' -- (Mittwoch, 16 Juli 2025 14:44)

    1

  • #42

    lxbfYeaaQqHU8hcl') OR 333=(SELECT 333 FROM PG_SLEEP(15))-- (Mittwoch, 16 Juli 2025 14:45)

    1

  • #43

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:45)

    1

  • #44

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:46)

    1

  • #45

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:46)

    1

  • #46

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:47)

    1

  • #47

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:48)

    1

  • #48

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:48)

    1

  • #49

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:49)

    1

  • #50

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:49)

    1

  • #51

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:50)

    1

  • #52

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:50)

    1

  • #53

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:51)

    1

  • #54

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:51)

    1

  • #55

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:52)

    1

  • #56

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:53)

    1

  • #57

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:53)

    1

  • #58

    lxbfYeaa (Mittwoch, 16 Juli 2025 14:54)

    1

  • #59

    lxbfYeaa (Mittwoch, 16 Juli 2025 15:19)

    1

  • #60

    lxbfYeaa (Mittwoch, 16 Juli 2025 15:19)

    1