Bestimmung des EU AI ACT

Das Regelwerk verfolgt einen risikobasierten Ansatz:

Je nach Einsatzzweck und Risikoklasse einer KI-Anwendung gelten unterschiedlich strenge rechtliche Anforderungen.

Während bestimmte KI-Systeme mit unannehmbarem Risiko ganz untersagt werden, unterliegen sogenannte Hochrisiko-KI-Systeme umfangreichen Pflichten, etwa hinsichtlich Dokumentation und Überwachung.

KI-Anwendungen mit begrenztem Risiko müssen insbesondere Transparenzanforderungen erfüllen, während für minimale Risiken nur wenige Vorgaben gelten. Welche Risikokategorie im Einzelfall einschlägig ist, hängt maßgeblich von der konkreten Nutzung und den betroffenen Rechtsgütern ab.

Für viele Unternehmen besonders relevant ist der Umgang mit Chatbots, virtuellen Assistenten und KI-generierten Inhalten. Der EU AI Act sieht vor, dass Nutzer klar erkennen können müssen, wenn sie mit einer KI interagieren oder wenn Inhalte mittels KI erzeugt wurden. Unternehmen, die solche Systeme einsetzen, haben daher sicherzustellen, dass der Einsatz der KI und die Herkunft der Inhalte eindeutig als KI-generiert gekennzeichnet werden.

Dies kann unter anderem durch entsprechende Hinweise in der Benutzeroberfläche, in Fußnoten, in AGB oder in separaten Informationshinweisen geschehen. Entscheidend ist, dass für die angesprochenen Personen Transparenz besteht und keine Täuschung über den KI-Einsatz erfolgt.

Handlungsempfehlung

Das Regelwerk verfolgt einen risikobasierten Ansatz: Je nach Einsatzzweck und Risikoklasse einer KI-Anwendung gelten unterschiedlich strenge rechtliche Anforderungen.

Während bestimmte KI-Systeme mit unannehmbarem Risiko ganz untersagt werden, unterliegen sogenannte Hochrisiko-KI-Systeme umfangreichen Pflichten, etwa hinsichtlich Dokumentation und Überwachung. KI-Anwendungen mit begrenztem Risiko müssen insbesondere Transparenzanforderungen erfüllen, während für minimale Risiken nur wenige Vorgaben gelten. Welche Risikokategorie im Einzelfall einschlägig ist, hängt maßgeblich von der konkreten Nutzung und den betroffenen Rechtsgütern ab.

Für viele Unternehmen besonders relevant ist der Umgang mit Chatbots, virtuellen Assistenten und KI-generierten Inhalten. Der EU AI Act sieht vor, dass Nutzer klar erkennen können müssen, wenn sie mit einer KI interagieren oder wenn Inhalte mittels KI erzeugt wurden. Unternehmen, die solche Systeme einsetzen, haben daher sicherzustellen, dass der Einsatz der KI und die Herkunft der Inhalte eindeutig als KI-generiert gekennzeichnet werden. Dies kann unter anderem durch entsprechende Hinweise in der Benutzeroberfläche, in Fußnoten, in AGB oder in separaten Informationshinweisen geschehen. Entscheidend ist, dass für die angesprochenen Personen Transparenz besteht und keine Täuschung über den KI-Einsatz erfolgt.

Fazit

Die neuen Pflichten verdeutlichen, dass KI-Anwendungen nicht nur technisch, sondern auch rechtlich strukturiert gesteuert werden müssen. Unternehmen, die den EU AI Act rechtzeitig in ihre Compliance- und IT-Governance-Strukturen integrieren, können rechtliche Risiken reduzieren und zugleich das Vertrauen von Kunden, Geschäftspartnern und Mitarbeitenden stärken.