„Wenn ich KI einsetzen will, woran muss ich als Unternehmer denken?“

Compact - Grundwissen über KI und DSGVO, EU AI Act

was Unternehmer über den rechtlichen Rahmen wissen sollten

KEINE RECHTSBERATUNG! Künstliche Intelligenz (KI) entwickelt sich rasant: Textgeneratoren, Chatbots, Bilderzeugung oder Automatisierungstools sind längst nicht mehr Zukunftsmusik, sondern Alltag in vielen Branchen. Für Unternehmen eröffnen sich enorme Chancen – von effizienteren Prozessen über innovative Produkte bis hin zu neuen Geschäftsmodellen.

Doch neben den Möglichkeiten gibt es auch klare rechtliche Leitplanken. Wer KI im Unternehmen einsetzen möchte, sollte die wichtigsten Regeln kennen.

1. EU-KI-Verordnung (AI Act): Das neue Herzstück

Seit August 2024 gilt die EU-KI-Verordnung („AI Act“). Sie ist das erste umfassende Gesetz, das den Einsatz von KI europaweit einheitlich regelt.

Kernpunkte für Unternehmen:

Risikobasierter Ansatz: KI-Systeme werden in Risikoklassen eingeteilt (z. B. gering, hoch, verboten). Je höher das Risiko, desto strenger die Anforderungen.
Verbotene Anwendungen: Praktiken wie Social Scoring oder manipulative KI-Techniken sind untersagt.
Pflichten für Hochrisiko-KI: Unternehmen müssen Nachweise erbringen, Dokumentationen führen, Datenqualität sicherstellen und Transparenzregeln einhalten.
Allgemeine KI-Modelle (z. B. große Sprachmodelle): Unterliegen besonderen Transparenz- und Sicherheitsanforderungen.

Für Unternehmer heißt das: Vor dem Einsatz prüfen, in welche Kategorie die geplante KI fällt.

2. Datenschutz: DSGVO bleibt Pflicht

Viele KI-Systeme arbeiten mit Daten – oft auch mit personenbezogenen. Deshalb gilt hier uneingeschränkt die Datenschutz-Grundverordnung (DSGVO).

Wichtige Fragen:

Werden personenbezogene Daten verarbeitet?
Ist die Nutzung rechtmäßig und transparent?
Haben Betroffene Rechte (Auskunft, Löschung)?

Unternehmen sollten frühzeitig die Datenschutzbeauftragten einbinden und sicherstellen, dass KI-Systeme DSGVO-konform genutzt werden.

3. Haftung und Produktsicherheit

Wenn KI Schaden verursacht – etwa durch falsche Empfehlungen oder fehlerhafte Ergebnisse – stellt sich die Haftungsfrage.

Relevante Rechtsrahmen:

Produkthaftungsrecht: Greift, wenn KI Teil eines Produkts ist.
BGB (Bürgerliches Gesetzbuch): Vertragliche und deliktische Haftung für Schäden.

Für Unternehmer bedeutet das: Sorgfaltspflichten beachten, klare Verantwortlichkeiten definieren und Systeme gründlich testen.

4. Urheberrecht und geistiges Eigentum

Beim Training von KI oder der Nutzung generierter Inhalte spielen Fragen des Urheberrechts eine Rolle:

Dürfen Trainingsdaten frei genutzt werden?
Wem gehören KI-generierte Inhalte?
Welche Schrankenregelungen (z. B. Text- und Data-Mining) greifen?

Hier gilt: Genau prüfen, ob Daten frei nutzbar sind oder Lizenzen erforderlich sind.

5. Arbeitsrecht und Mitbestimmung

Setzt ein Unternehmen KI im Personalwesen oder im Arbeitsalltag ein (z. B. zur Leistungsbewertung oder Überwachung), kommen arbeitsrechtliche Vorschriften ins Spiel.

Betriebsrat: Hat bei Einführung von KI-gestützten Systemen oft Mitbestimmungsrechte.
Mitarbeiterschutz: Transparenz und Fairness müssen gewährleistet sein.

6. Die neue KI-Kompetenzpflicht

Ab Februar 2025 gilt die sogenannte KI-Kompetenzpflicht: Unternehmen müssen dafür sorgen, dass ihre Mitarbeitenden über ausreichende Kenntnisse im Umgang mit KI verfügen.

Das bedeutet:

Schulungsbedarf ermitteln
Trainings anbieten
Nachweise dokumentieren

Dies ist nicht nur rechtlich relevant, sondern auch ein Wettbewerbsvorteil: Mitarbeiter, die KI verstehen, setzen sie verantwortungsvoller und effizienter ein.

Fazit:

Chancen nutzen – Verantwortung übernehmen

Der rechtliche Rahmen für KI mag auf den ersten Blick komplex wirken. Doch für Unternehmer gilt:

Transparenz, Fairness und Sicherheit sind die Schlüsselbegriffe.
Wer den Einsatz von KI frühzeitig sauber plant, profitiert langfristig.
Neben der Pflicht gibt es auch viele Chancen: Klare Regeln schaffen Vertrauen bei Kunden, Partnern und Mitarbeitenden.

Tipp: Beginnen Sie mit einer Bestandsaufnahme: Welche KI-Systeme wollen wir einsetzen? Welche Rechtsbereiche sind betroffen? Mit diesem Überblick können Sie gezielt die richtigen Schritte einleiten.

Relevanter Rechtsrahmen für KI in Deutschland / EU

Verordnung (EU) 2024/1689 – „AI Act“ / KI-Verordnung (EU-KI-VO)

EU-weit verbindliche Verordnung für KI (harmonisierte Regeln).
Legt Risikoklassen fest, Pflichten für Anbieter und Betreiber, Transparenzanforderungen, Verbote bestimmter KI-Praktiken.

Gesetz zur Durchführung der KI-Verordnung (Deutschland)

Nationale Umsetzung der europäischen Verordnung.
Bestimmt Zuständigkeiten, Aufsichtsbehörden, Sanktionen.

Datenschutz-Grundverordnung (DSGVO, EU-Verordnung 2016/679)

– Gilt EU-weit für den Schutz personenbezogener Daten.
– KI-Systeme müssen Datenschutzprinzipien (Rechtmäßigkeit, Transparenz, Zweckbindung, Betroffenenrechte) einhalten.

Produkthaftungsrecht / Produkthaftungsrichtlinie / deutsches Produkthaftungsgesetz

Haftung für Schäden, die durch Produkte verursacht werden.
Relevant, wenn KI-Systeme Bestandteil von Produkten sind.

Bürgerliches Gesetzbuch (BGB)

Allgemeines Zivilrecht (vertragliche und deliktische Haftung).
Schadenersatzansprüche bei fehlerhaften KI-Leistungen oder Rechtsverletzungen.

Urheberrechtsgesetz (UrhG)

Schutz geistigen Eigentums.
Einschränkungen und Ausnahmen beim Training von KI mit urheberrechtlich geschützten Werken.

Gesetz gegen unlauteren Wettbewerb (UWG)

Schutz vor irreführender oder unfairer Werbung.
KI-generierte Inhalte dürfen Verbraucher nicht täuschen.

Arbeitsrecht / Betriebsverfassungsrecht / Mitbestimmung

Vorschriften zur Arbeitnehmerüberwachung und Mitbestimmung.
Wichtig, wenn KI im HR oder bei Mitarbeiterbewertung eingesetzt wird.

Sektorenspezifische Regelungen

Branchenspezifisch, z. B. Medizinproduktegesetz, Finanzaufsichtsrecht, Verkehrsrecht.
Greift, wenn KI in regulierten Branchen genutzt wird.

Linksammlung, Quellen:

Besonderheiten & Übergangsregeln

Besonderheiten & Übergangsregeln

Der AI Act (EU-KI-VO) ist seit 1. August 2024 in Kraft getreten. Einige Bestimmungen gelten erst später vollumfänglich bzw. mit Übergangsfristen.Klick Hier

Deutschland muss bis 2. August 2025 eine nationale Umsetzung gesetzlich abschließen und Behörden benennen.Klick Hier

Bestimmte KI-Modelle mit allgemeinem Verwendungszweck (GPAI) haben eigene Verpflichtungen, die ab August 2025 gelten.Klick Hier

Einige Hochrisiko-KI-Anwendungen, insbesondere wenn eingebettet in regulierte Produkte, haben weitere Übergangsfristen bis 2027.Klick Hier

Einige KI-Praktiken sind von Anfang an verboten (z. B. Social Scoring, bestimmte biometrische Identifikation).Klick Hier