Transparenz per Gesetz: Was der AI Act ab August verlangt

KI-Transparenzpflichten: Seit 2. August greifen neue Regeln des AI Acts

Der AI Act rückt in eine neue Phase seiner Umsetzung vor. Seit Monatsbeginn werden weitere Bestimmungen der europäischen KI-Verordnung rechtsverbindlich – diesmal rücken vor allem Transparenzpflichten für KI-Systeme und maschinell erzeugte Inhalte in den Vordergrund.

Unternehmen und Anbieter, die diese Vorgaben missachten, geraten künftig ins Blickfeld der EU-Kommission und nationaler Aufsichtsbehörden, die entsprechende Verstöße mit Sanktionen belegen können.

Chatbots müssen sich zu erkennen geben

Eine der zentralen Neuregelungen betrifft den direkten Kontakt zwischen Mensch und Maschine: Nutzerinnen und Nutzer müssen grundsätzlich darüber informiert werden, wenn sie mit einem KI-Chatbot kommunizieren und nicht mit einem Menschen.

Was in vielen Kundenservice-Anwendungen längst gängige Praxis ist, wird damit zur verbindlichen Pflicht.

Maschinenlesbare Kennzeichnung für KI-Inhalte

Anbieter generativer KI, die neu auf den Markt kommen, müssen künstlich erzeugte oder manipulierte Inhalte grundsätzlich maschinenlesbar markieren. Für bereits im Einsatz befindliche Systeme gilt eine Übergangsfrist bis Dezember.

Besonders sensibel bleibt der Bereich der Deepfakes: Künstlich erzeugte oder manipulierte Bilder, Videos und Audiodateien, die täuschend echt wirken können, müssen als solche offengelegt werden – ein Aspekt, der angesichts wachsender Desinformationsrisiken an Gewicht gewinnt.

Öffentliche Interessen als Maßstab

Neue Offenlegungspflichten betreffen zudem Texte, die der Öffentlichkeit Informationen zu Fragen von allgemeinem Interesse vermitteln sollen. Davon ausgenommen bleiben Fälle, in denen eine menschliche inhaltliche Kontrolle erfolgt ist und redaktionelle Verantwortung dafür übernommen wurde – gerade für Medien- und Bildungsanbieter ein relevanter Aspekt.

Darüber hinaus unterliegt künftig auch der Einsatz von Emotionserkennungssystemen einer Transparenzpflicht: Wer Technologien nutzt, die Gefühle registrieren oder Personen anhand biometrischer Daten kategorisieren, ist verpflichtet, die betroffenen Personen darüber in Kenntnis zu setzen.

Bei Verstößen drohen Bußgelder

Kontrollen durch die zuständigen Aufsichtsbehörden sind ausdrücklich vorgesehen, ebenso die Möglichkeit, bei Zuwiderhandlungen Bußgelder zu verhängen. Das betrifft nicht nur die neuen Transparenzregeln, sondern ebenso bereits bestehende Auflagen für KI-Modelle mit allgemeinem Verwendungszweck.

Für Unternehmen und Bildungsanbieter, die auf generative KI setzen, wird damit ein prüfender Blick auf die eigenen Abläufe zur nahezu unausweichlichen Aufgabe.

In aller Kürze
Ab 2. August gelten neue AI-Act-Transparenzpflichten: Chatbot-Kennzeichnung, maschinenlesbare KI-Inhalte, Deepfake-Offenlegung, Regeln für KI-Texte zu öffentlichen Themen. Verstöße werden sanktioniert.

  VERWEISE  

• Weiterführende Informationen zum AI Act der EU ...