Der AI Act: Pflichten nach Risiko
Die europäische KI-Verordnung (Verordnung (EU) 2024/1689, „AI Act“) regelt KI-Systeme nach ihrem Risiko. Bestimmte Praktiken sind verboten, etwa manipulative Systeme oder Social Scoring. Für Hochrisiko-Systeme – zum Beispiel KI in der Personalauswahl, bei der Kreditwürdigkeitsprüfung oder als Sicherheitsbauteil in Produkten – gelten umfangreiche Anforderungen an Risikomanagement, Daten, Dokumentation und menschliche Aufsicht. Für viele andere Systeme bestehen vor allem Transparenzpflichten.
Die Pflichten gelten gestaffelt. Seit dem 2. Februar 2025 gelten die Verbote und die Pflicht, für ausreichende KI-Kompetenz der Beschäftigten zu sorgen (Art. 4). Seit dem 2. August 2025 gelten Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Mit dem sogenannten Digital Omnibus (Verordnung (EU) 2026/1744) wurden die Hochrisiko-Pflichten verschoben: für eigenständige Systeme nach Anhang III auf den 2. Dezember 2027, für KI in regulierten Produkten nach Anhang I auf den 2. August 2028.
Anbieter oder Betreiber?
Entscheidend ist die Rolle. Anbieter entwickeln ein KI-System oder bringen es unter eigenem Namen in Verkehr. Betreiber setzen ein KI-System in eigener Verantwortung ein – das ist die Rolle der meisten Unternehmen, die etwa einen Chatbot, ein Übersetzungswerkzeug oder eine KI-Funktion in ihrer Software nutzen. Wer ein fremdes System wesentlich verändert oder unter eigener Marke vertreibt, kann selbst zum Anbieter werden.
Mehr als der AI Act
Der AI Act ist nur ein Baustein. Beim Einsatz von KI stellen sich zusätzlich Fragen des Datenschutzes (Rechtsgrundlage, Information, Auftragsverarbeitung, automatisierte Entscheidungen nach Art. 22 DSGVO), des Urheberrechts (Training mit geschützten Werken, Schutzfähigkeit von KI-Ergebnissen), des Geschäftsgeheimnisschutzes (Eingabe vertraulicher Daten in externe Tools), des Arbeitsrechts (Mitbestimmung des Betriebsrats bei technischen Einrichtungen) und der Haftung für fehlerhafte KI-Ergebnisse.
Unser Ansatz
Wir beginnen mit einer Bestandsaufnahme: Welche KI-Systeme sind im Einsatz, wofür und mit welchen Daten? Daraus ergibt sich, welche Pflichten tatsächlich gelten. Anschließend setzen wir die nötigen Maßnahmen pragmatisch um – von der KI-Richtlinie für Mitarbeiter über Schulungsnachweise bis zu Verträgen mit Anbietern. Durch den technischen Hintergrund in unserem Team verstehen wir, wie die Systeme funktionieren, und können Entwickler und Juristen an einen Tisch bringen.
Praxisbeispiele: KI-Recht & AI Act
Mitarbeiter nutzen frei verfügbare KI-Tools
KI-gestützte Bewerbervorauswahl
Softwarehaus integriert ein Sprachmodell
Urheberrecht an KI-generierten Inhalten
Die Beispiele sind typische, anonymisierte und vereinfachte Konstellationen aus der Beratungspraxis. Jeder Fall ist anders – das Ergebnis hängt von den Umständen des Einzelfalls ab.
Unsere Leistungen: KI-Recht & AI Act
- Bestandsaufnahme und Einordnung nach dem AI Act
- KI-Richtlinien und Schulungen (Art. 4 AI Act)
- Verträge mit KI-Anbietern und -Kunden
- Datenschutz-Folgenabschätzung für KI
- Urheberrecht und Geschäftsgeheimnisse bei KI
- Betriebsvereinbarungen zum KI-Einsatz
So läuft die Zusammenarbeit ab
Häufige Fragen: KI-Recht & AI Act
Gilt der AI Act auch für mein Unternehmen?
Sehr wahrscheinlich, wenn Sie KI-Systeme beruflich einsetzen. Für die meisten Unternehmen als Betreiber gelten vor allem die Pflicht zur KI-Kompetenz der Beschäftigten und – je nach System – Transparenzpflichten. Umfangreiche Pflichten treffen vor allem Anbieter und Betreiber von Hochrisiko-Systemen.
Was bedeutet die Pflicht zur KI-Kompetenz?
Seit dem 2. Februar 2025 müssen Anbieter und Betreiber Maßnahmen ergreifen, damit Personen, die mit KI-Systemen arbeiten, über ausreichende Kenntnisse verfügen. Wie das umgesetzt wird, ist nicht starr vorgegeben – sinnvoll sind Schulungen, Richtlinien und eine Dokumentation.
Darf ich Kundendaten in ChatGPT & Co. eingeben?
Nur wenn es dafür eine Rechtsgrundlage gibt, der Anbieter als Auftragsverarbeiter vertraglich gebunden ist und keine vertraulichen Informationen gefährdet werden. Kostenlose Verbraucherzugänge erfüllen diese Anforderungen meist nicht.
Sind KI-generierte Texte und Bilder urheberrechtlich geschützt?
Nach deutschem Recht setzt Urheberrechtsschutz eine menschliche, persönliche geistige Schöpfung voraus. Rein maschinell erzeugte Ergebnisse sind daher grundsätzlich nicht geschützt. Wird KI nur als Werkzeug eingesetzt und gestaltet ein Mensch das Ergebnis maßgeblich, kann Schutz entstehen.
Ihre Anfrage an uns
Alle Felder sind freiwillig. Geben Sie nur an, was Sie möchten.
