Gutachten zu KI-Recht

Gutachterliche Expertise im KI-Recht und zum AI Act

 

Die Implementierung und Nutzung von Künstlicher Intelligenz (KI) stellen Unternehmen, Entwickler und Anwender vor rechtliche Herausforderungen von bisher ungekannter Komplexität. Die Dynamik der technologischen Entwicklung trifft auf ein sich ebenso rasant entwickelndes regulatorisches Umfeld, dessen Epizentrum der europäische AI Act bildet.


In diesem Spannungsfeld sind pauschale Aussagen unzureichend und potenziell risikobehaftet. Rechtssicherheit, eine fundierte Risikobewertung und strategische Planung erfordern eine tiefgehende, auf den konkreten Einzelfall zugeschnittene juristische Analyse.

Unsere Kanzlei hat sich auf die Erstellung umfassender, wissenschaftlich fundierter und praxisorientierter Rechtsgutachten zu allen Facetten des KI-Rechts spezialisiert. Wir verstehen uns als Ihr Partner, der technische Sachverhalte präzise erfasst, in den rechtlichen Normenkontext einordnet und Ihnen klare, handlungsorientierte Ergebnisse liefert. Ein von uns erstelltes Gutachten dient nicht nur als interne Entscheidungsgrundlage, sondern auch als belastbarer Nachweis Ihrer rechtlichen Sorgfalt (Due Diligence) gegenüber Behörden, Geschäftspartnern und Gerichten.

 

Die Notwendigkeit juristischer Gutachten im Zeitalter der KI

Die Beauftragung eines spezialisierten Rechtsgutachtens ist in vielerlei Hinsicht eine strategische Notwendigkeit:

  1. Umgang mit Rechtsunsicherheit: Der AI Act und die ihn flankierenden Rechtsakte enthalten eine Vielzahl unbestimmter Rechtsbegriffe (z.B. „erhebliches Risiko“, „signifikante Änderung“, „allgemein anwendbares KI-Modell mit systemischem Risiko“). Unsere Gutachten analysieren diese Begriffe im Lichte der legislativen Materialien, der künftigen Leitlinien des AI Office und der sich abzeichnenden juristischen Literatur, um eine vertretbare und robuste Auslegung für Ihren spezifischen Anwendungsfall zu entwickeln.
  2. Proaktives Risikomanagement: Die Sanktionen des AI Act, insbesondere bei Verstößen gegen das Verbot bestimmter KI-Praktiken (Art. 5 AI Act) oder die Pflichten für Hochrisiko-KI-Systeme (Art. 6 ff. AI Act), sind drakonisch und können bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen. Ein Gutachten identifiziert potenzielle Verstöße, bevor sie eintreten, und ermöglicht die Implementierung von risikomindernden Maßnahmen (Risk Mitigation).
  3. Grundlage für strategische Entscheidungen: Ist Ihr geplantes KI-gestütztes Geschäftsmodell unter dem AI Act zukunftsfähig? Welche Modifikationen sind erforderlich, um eine Einstufung als Hochrisiko-System zu vermeiden? Welche vertraglichen Zusicherungen müssen Sie von Ihren Zulieferern von KI-Komponenten einholen? Unsere Gutachten liefern die entscheidungsrelevanten juristischen Fakten für Ihre Unternehmensstrategie.
  4. Erfüllung von Nachweis- und Dokumentationspflichten: Der AI Act statuiert umfangreiche Dokumentationspflichten, insbesondere für Hochrisiko-Systeme (vgl. Art. 11 i.V.m. Anhang IV AI Act). Ein Rechtsgutachten kann ein zentraler Baustein dieser technischen Dokumentation sein, etwa bei der Begründung der Klassifizierungsentscheidung oder der Bewertung der datenschutzrechtlichen Zulässigkeit der Trainingsdaten.

 

Unsere gutachterlichen Leistungen im Detail: Ein Überblick

Wir bieten Gutachten zu dem gesamten Spektrum des KI-Rechts an. Unsere Expertise umfasst insbesondere, aber nicht ausschließlich, die folgenden Themenbereiche, die wir anhand von Beispielen aus unserer Praxis illustrieren:

  1. Gutachten zur Klassifizierung nach dem AI Act

Die korrekte Einordnung eines Systems unter dem risikobasierten Ansatz des AI Act ist die Weichenstellung für alle weiteren Compliance-Anforderungen.

 

  • Beispiel 1 (Anwendungsbereich): Ein Softwareunternehmen entwickelt ein fortschrittliches Analysetool für Logistikketten.

    • Gutachterliche Fragestellung: Fällt die Software unter die Definition eines „KI-Systems“ gemäß Art. 3 Nr. 1 AI Act, obwohl sie primär auf statistischen Modellen und nicht auf maschinellem Lernen im engeren Sinne basiert?
    • Unsere Analyse: Wir prüfen das System detailliert anhand der Definitionsmerkmale des Art. 3 Nr. 1 AI Act (insb. Autonomie und Anpassungsfähigkeit nach der Bereitstellung) und grenzen es von herkömmlicher, nicht-KI-basierter Software ab. Das Gutachten liefert eine begründete Einschätzung, ob der AI Act überhaupt Anwendung findet.

  • Beispiel 2 (Hochrisiko-Klassifizierung): Ein HR-Tech-Startup bietet ein Tool an, das Bewerbungsvideos analysiert, um die Eignung von Kandidaten vorzubewerten.

    • Gutachterliche Fragestellung: Stellt dieses Tool ein Hochrisiko-KI-System im Bereich „Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit“ gemäß Art. 6 Abs. 2 i.V.m. Anhang III Nr. 4 AI Act dar?
    • Unsere Analyse: Wir subsumieren die konkrete Funktionsweise des Tools unter die Kriterien des Anhangs III. Dabei untersuchen wir, ob das System dazu bestimmt ist, eine „Filterung“ von Bewerbern oder eine „Bewertung“ im Rahmen von Einstellungsverfahren vorzunehmen. Das Gutachten kommt zu einem klaren Ergebnis bezüglich der Hochrisiko-Eigenschaft und leitet daraus die zwingend zu erfüllenden Pflichten (z.B. Einrichtung eines Risikomanagementsystems gem. Art. 9 AI Act, Daten-Governance gem. Art. 10 AI Act) ab.


  • Beispiel 3 (Verbotene KI-Praktiken): Eine Marketingagentur plant den Einsatz einer Software, die das emotionale Engagement von Website-Besuchern in Echtzeit misst, um die Inhalte dynamisch anzupassen.

    • Gutachterliche Fragestellung: Besteht das Risiko, dass dieses System als verbotenes „System zur Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen“ (Art. 5 Abs. 1 lit. c AI Act) oder als eine andere verbotene manipulative Technik eingestuft wird?
    • Unsere Analyse: Wir grenzen den geplanten Anwendungsfall im E-Commerce präzise von den verbotenen Tatbeständen des Art. 5 AI Act ab und bewerten das Risiko einer extensiven Auslegung durch die Aufsichtsbehörden.


  1. Gutachten zum Zusammenspiel von AI Act und Datenschutz (DSGVO)

KI-Systeme sind datengetrieben. Die Einhaltung der Datenschutz-Grundverordnung (DSGVO) ist daher von zentraler Bedeutung.

 

  • Beispiel 4 (Rechtmäßigkeit von Trainingsdaten): Ein Forschungsinstitut möchte ein KI-Modell zur medizinischen Diagnostik mit einem großen Datensatz aus Patientendaten trainieren.

    • Gutachterliche Fragestellung: Liegt eine taugliche Rechtsgrundlage nach Art. 6 und Art. 9 DSGVO für die Verarbeitung dieser hochsensiblen Gesundheitsdaten zum Zweck des KI-Trainings vor? Wie sind die Anforderungen an Anonymisierung oder Pseudonymisierung zu erfüllen?
    • Unsere Analyse: Das Gutachten prüft die in Betracht kommenden Rechtsgrundlagen (Einwilligung, wissenschaftliche Forschung gem. Art. 9 Abs. 2 lit. j DSGVO) und bewertet die Wirksamkeit der geplanten Anonymisierungstechniken. Es wird detailliert dargelegt, ob es sich um eine echte Anonymisierung oder lediglich um eine Pseudonymisierung handelt und welche Konsequenzen sich daraus ergeben. Hierbei zitieren wir einschlägige Stellungnahmen des Europäischen Datenschutzausschusses (EDSA).


  • Beispiel 5 (Datenschutz-Folgenabschätzung): Ein Finanzdienstleister führt ein KI-System zur automatisierten Kreditwürdigkeitsprüfung ein.

    • Gutachterliche Fragestellung: Ist die Durchführung einer Datenschutz-Folgenabschätzung (DSFA) gemäß Art. 35 DSGVO verpflichtend? Welche Risiken für die Rechte und Freiheiten der betroffenen Personen sind zu identifizieren und zu bewerten?
    • Unsere Analyse: Wir prüfen, ob die Kriterien der Aufsichtsbehörden für eine verpflichtende DSFA (insbesondere die Kriterien der „Blacklists“) erfüllt sind. Das Gutachten kann als Vorstufe oder als integraler juristischer Bestandteil der DSFA dienen und bewertet Risiken wie algorithmische Diskriminierung, mangelnde Transparenz und die Rechtsfolgen einer rein automatisierten Entscheidung nach Art. 22 DSGVO.

  1. Gutachten zum Urheberrecht an KI-generierten Inhalten und Trainingsdaten

Die Schnittstelle von KI und geistigem Eigentum ist ein juristisches Minenfeld.

 

  • Beispiel 6 (Text and Data Mining): Ein KI-Unternehmen möchte sein Sprachmodell mit urheberrechtlich geschützten Inhalten aus dem Internet trainieren.
    • Gutachterliche Fragestellung: Unter welchen Voraussetzungen ist das Crawling und die Analyse dieser Daten durch die Schrankenregelung für Text und Data Mining (§ 44b UrhG in Deutschland bzw. Art. 4 der DSM-Richtlinie (EU) 2019/790) gedeckt? Was bedeutet der „ausdrückliche Rechtevorbehalt“ in der Praxis?
    • Unsere Analyse: Das Gutachten analysiert detailliert die Voraussetzungen des § 44b UrhG, insbesondere den rechtmäßigen Zugang zur Quelle und die Anforderungen an einen maschinenlesbaren Rechtevorbehalt. Wir geben konkrete Empfehlungen, wie Compliance in den Crawling-Prozess integriert werden kann.


  • Beispiel 7 (Schutzfähigkeit von KI-Output): Eine Designagentur nutzt eine Bild-KI, um Logos und Grafiken für ihre Kunden zu erstellen.
    • Gutachterliche Fragestellung: Sind die von der KI generierten Bilder urheberrechtlich als „persönliche geistige Schöpfungen“ (§ 2 Abs. 2 UrhG) schutzfähig? Wer wäre der Urheber – der Nutzer, der den Prompt eingibt, der Entwickler der KI oder niemand?
    • Unsere Analyse: Basierend auf der herrschenden Meinung in der Rechtsliteratur und den ersten gerichtlichen Auseinandersetzungen analysieren wir, ob der menschliche Beitrag bei der Prompt-Erstellung und Kuration die erforderliche Schöpfungshöhe erreicht. Das Gutachten bewertet die Schutzfähigkeit und gibt Hinweise zur vertraglichen Gestaltung gegenüber den Kunden.


  1. Gutachten zum Haftungs- und Vertragsrecht

Wer haftet, wenn eine KI versagt? Wie müssen Verträge gestaltet sein?

 

  • Beispiel 8 (Haftungsverteilung in der Lieferkette): Ein Automobilhersteller integriert ein von einem Drittanbieter entwickeltes KI-Modul zur Steuerung autonomer Fahrfunktionen.
    • Gutachterliche Fragestellung: Wie kann die Haftung für Fehlfunktionen des KI-Moduls zwischen dem Zulieferer (Hersteller des Moduls) und dem Automobilhersteller (Inverkehrbringer des Fahrzeugs) vertraglich geregelt werden? Welche Auswirkungen hat die kommende KI-Haftungsrichtlinie?
    • Unsere Analyse: Wir entwerfen und bewerten komplexe Haftungs- und Freistellungsklauseln unter Berücksichtigung des Produkthaftungsrechts und der neuen Beweiserleichterungen (z.B. Kausalitätsvermutung) der geplanten KI-Haftungsrichtlinie. Das Gutachten zeigt Wege auf, wie die Anforderungen an die Offenlegung von Beweismitteln vertraglich antizipiert werden können.


  • Beispiel 9 (Service Level Agreements): Ein Unternehmen lizenziert eine KI-basierte Software (SaaS) zur Betrugserkennung.
    • Gutachterliche Fragestellung: Wie können die Leistungsmerkmale der KI (z.B. Erkennungsrate, Fehlerrate, Bias-Metriken) in einem Service Level Agreement (SLA) rechtssicher und messbar definiert werden?
    • Unsere Analyse: Das Gutachten übersetzt technische KPIs in juristisch belastbare Vertragssprache und entwickelt Regelungen für den Fall der Nichterfüllung (Service Credits, Sonderkündigungsrechte), um die Interessen unseres Mandanten zu wahren.

 

Unsere Methodik: Präzision und wissenschaftliche Fundierung

Jedes unserer Gutachten folgt einem etablierten und transparenten Prozess:

  1. Mandatierung und Sachverhaltsanalyse: In enger Abstimmung mit Ihnen – und bei Bedarf mit Ihren technischen Experten – erfassen wir präzise den Sachverhalt und definieren die konkreten juristischen Fragestellungen.

  2. Umfassende Rechtsrecherche: Wir führen eine tiefgehende Recherche in nationalen und europäischen Gesetzen, Verordnungen, Entwürfen, Gerichtsentscheidungen und der führenden rechtswissenschaftlichen Literatur durch. Dabei nutzen wir modernste juristische Datenbanken.

  3. Subsumtion und Analyse: Der ermittelte Sachverhalt wird sorgfältig unter die relevanten Normen subsumiert. Wir entwickeln eine stringente Argumentationskette, wägen verschiedene Auslegungsmöglichkeiten ab und begründen unser Ergebnis nachvollziehbar.

  4. Ergebnisfindung und Handlungsempfehlungen: Das Gutachten mündet in einem klaren, unzweideutigen Ergebnis. Darauf aufbauend formulieren wir konkrete, pragmatische und umsetzbare Handlungsempfehlungen für Ihr Unternehmen.

  5. Qualitätssicherung: Jedes Gutachten durchläuft einen internen Peer-Review-Prozess (Vier-Augen-Prinzip), um höchste juristische Qualität und argumentative Stringenz zu gewährleisten.

 

Kontaktieren Sie uns

Die rechtlichen Rahmenbedingungen für Künstliche Intelligenz sind komplex und bergen erhebliche Risiken, aber auch Chancen. Mit unserer gutachterlichen Expertise schaffen wir die notwendige Rechtssicherheit, damit Sie sich auf Ihre Kernkompetenzen konzentrieren können: die Entwicklung und Nutzung innovativer KI-Lösungen.

Kontaktieren Sie uns für ein unverbindliches Erstgespräch, in dem wir den potenziellen Bedarf an einer gutachterlichen Prüfung für Ihr spezifisches Vorhaben erörtern können.