Gutachten

Gutachten im KI-Recht

Unsere Expertise zum EU AI Act

Innovative KI-Anwendungen eröffnen neue Chancen, bringen aber auch komplexe rechtliche Anforderungen mit sich. Unsere spezialisierte Kanzlei für Künstliche Intelligenz (KI) und insbesondere für die EU KI-Verordnung (EU AI Act) verbindet juristisches Fachwissen mit technischem Verständnis.

Wir unterstützen Unternehmen, die Verwaltung und die wissenschaftliche Forschung dabei, ihre KI-Projekte rechtssicher und verantwortungsvoll umzusetzen. Auf dieser Seite stellen wir Ihnen beispielhaft unsere Gutachtenangebote im KI-Recht vor – klar strukturiert, fachlich fundiert und verständlich erläutert. Jedes Gutachten bietet Ihnen konkreten Mehrwert und hilft, Risiken frühzeitig zu erkennen sowie Compliance-Aufwände gezielt zu steuern.

Natürlich erstellen wir auch Gutachten zu allen anderen rechtlichen Fragen rund um den AI Act, KI-Nutzung oder dem IT-Recht.

Gutachten zur Konformität von KI-Systemen mit dem AI Act

Wenn Ihr Unternehmen ein KI-System entwickelt oder auf den Markt bringt, müssen umfangreiche Anforderungen des AI Act eingehalten werden, um das System rechtssicher in Verkehr zu bringen. In unserem Konformitäts-Gutachten prüfen wir, ob Ihr KI-System alle einschlägigen Vorgaben erfüllt, und zeigen eventuelle Compliance-Lücken auf. Dies umfasst unter anderem:

Risikomanagement und Qualitätskontrolle: Wir bewerten, ob ein angemessenes Risikomanagement-System implementiert wurde und die Qualität der Trainings- und Testdaten den Vorgaben entspricht (Stichwort: Vermeidung diskriminierender Bias in Datensätzen).
Technische Dokumentation: Wir überprüfen die Vollständigkeit und Verständlichkeit der Dokumentation Ihres KI-Systems. Der AI Act fordert detaillierte Technische Dokumentationen und Aufzeichnungen, damit Behörden die Konformität nachvollziehen können.
Transparenz und Informationen für Nutzer: Wir stellen sicher, dass alle erforderlichen Informationen und Gebrauchsanleitungen für die Anwender bereitgestellt werden (z.B. Beschreibung des Zwecks und der Funktionsweise des KI-Systems).
Menschliche Aufsicht und Robustheit: Wir analysieren, ob geeignete Maßnahmen zur menschlichen Überwachung des KI-Systems vorgesehen sind und ob das System den Anforderungen an Genauigkeit, Cybersicherheit und Ausfallsicherheit genügt.

Am Ende erhalten Sie von uns einen Konformitätsbericht mit konkreten Handlungsempfehlungen, wie eventuelle Lücken zu schließen sind – sei es durch technische Nachbesserungen, organisatorische Maßnahmen oder zusätzliche Dokumentationen. Auf Wunsch begleiten wir Sie auch bei der Vorbereitung der CE-Kennzeichnung und der Erstellung der Konformitätserklärung für Ihr KI-Produkt.

Ihr Mehrwert:

Rechtssichere Marktzulassung: Sie können Ihr KI-System mit gutem Gewissen einsetzen oder vertreiben, da alle erforderlichen Vorschriften eingehalten werden. Dies minimiert das Risiko von Beanstandungen durch Marktaufsichtsbehörden oder Wettbewerber.
Vermeidung von Sanktionen: Der AI Act sieht bei Verstößen zum Teil drastische Bußgelder vor (ähnlich der DSGVO). Durch unsere präventive Prüfung schützen Sie Ihr Unternehmen vor finanziellen und rechtlichen Schäden.
Effiziente Umsetzung: Unser Gutachten liefert Ihnen eine klare To-do-Liste zur AI-Act-Compliance. Sie wissen genau, welche Schritte als nächstes notwendig sind, und verschwenden keine Ressourcen für irrelevante Maßnahmen. Zudem kann eine frühzeitige Konformitätsprüfung teure Umstellungen zu einem späteren Zeitpunkt verhindern.
Wettbewerbsvorteil: Compliance ist nicht nur Last, sondern auch Chance – ein zertifiziert konformes, vertrauenswürdiges KI-Produkt schafft Marktzugang und stärkt Ihre Reputation als verantwortungsbewusstes, zukunftsorientiertes Unternehmen.

Gutachten zur Einordnung von KI-Systemen als Hochrisiko-KI

Der EU AI Act verfolgt einen risikobasierten Ansatz und unterscheidet KI-Systeme nach Risikostufen – von minimalem bis hin zu hohem Risiko. Wir analysieren Ihr KI-System hinsichtlich dieser Kategorien. Insbesondere prüfen wir, ob Ihr System als Hochrisiko-KI einzustufen ist und ob eventuell verbotene KI-Praktiken berührt werden. Dabei beziehen wir die Kriterien des AI Act (z.B. Einsatzbereich, Einfluss auf Gesundheit, Sicherheit oder Grundrechte) und die in Anhang III aufgelisteten Anwendungsfälle ein. Sie erhalten eine klare rechtliche Einordnung, welche Risikoklasse Ihr Vorhaben nach aktuellem Recht einnimmt.

Ihr Mehrwert:

Rechtssicherheit bei der Planung: Sie wissen frühzeitig, welche regulatorischen Anforderungen auf Ihr KI-Projekt zukommen (oder nicht zukommen).
Vermeidung unerwarteter Auflagen: Eine korrekte Risikoeinstufung schützt vor Fehleinschätzungen – weder werden unnötige Compliance-Maßnahmen ergriffen, noch werden Pflichten übersehen.
Fundament für weitere Schritte: Die Risikoeinordnung bildet die Grundlage für alle weiteren Compliance-Maßnahmen (nur hochriskante KI-Systeme unterliegen den strengen Auflagen des AI Act). Sollte Ihr Vorhaben unzulässig sein (verbotene Praktik), identifizieren wir dies früh und zeigen zulässige Alternativen auf.

Gutachten zur Rolle und den Pflichten als KI-Anbieter oder -Betreiber

Je nach Konstellation kann Ihr Unternehmen unterschiedliche Rollen nach dem AI Act einnehmen – etwa als Anbieter (Hersteller/Inverkehrbringer) eines KI-Systems oder als Betreiber/Nutzer einer KI-Anwendung im eigenen Geschäftsbetrieb. Diese Rollen sind mit unterschiedlichen rechtlichen Pflichten verbunden. Wir prüfen im Detail, welche Rolle(n) Ihr Unternehmen im Zusammenhang mit einem KI-System einnimmt und welche Verpflichtungen sich daraus ergeben.

Beispielsweise klären wir, ob Sie als Anbieter für die Konformität des Systems sorgen müssen oder als Nutzer bestimmte Anwendungsauflagen (etwa die Beachtung der Gebrauchsanweisungen des Herstellers) einzuhalten haben. Auch Schnittstellen – z.B. wenn Sie KI-Dienstleistungen von Drittanbietern integrieren – beziehen wir in die Betrachtung ein.

Ihr Mehrwert:

Klarheit über Verantwortlichkeiten: Sie verstehen genau, welche gesetzlichen Pflichten Sie treffen und welche ggf. Ihre Lieferanten oder Kunden erfüllen müssen. Dies verhindert Haftungsunsicherheiten und Überschneidungen in der Zuständigkeit.
Gezielte Compliance-Strategie: Anhand der Rolle können Sie Ihre Compliance-Ressourcen effizient einsetzen. (Beispiel: Als Anbieter liegt der Fokus auf Entwicklungsprozessen und Dokumentation, als Betreiber eher auf dem sicheren Einsatz und ggf. Folgenabschätzungen.)
Vertrags- und Verhandlungsstärke: Mit klarer Kenntnis Ihrer Rolle können Sie Verträge mit KI-Lieferanten oder -Kunden präzise gestalten und Ihre Interessen besser durchsetzen – etwa durch Regelungen, die Pflichten aus dem AI Act angemessen verteilen.

Gutachten zu Transparenz- und Kennzeichnungspflichten von KI-Systemen

Transparenz gegenüber Nutzern und der Öffentlichkeit ist ein zentrales Prinzip der neuen KI-Regulierung. Der AI Act schreibt für bestimmte KI-Anwendungen explizite Kennzeichnungspflichten vor. Wir beraten Sie dazu, wann und wie Sie den Einsatz von KI sichtbar machen müssen. Unser Gutachten beantwortet Fragen wie:

Muss ein KI-gestützter Chatbot die Nutzer darauf hinweisen, dass er keine menschliche Person ist? (Stichwort: AI-Avatar in der Kundenkommunikation)
In welchen Fällen sind KI-generierte Inhalte – z.B. synthetische Bilder, Videos oder Texte (Deepfakes) – als solche zu kennzeichnen, damit Betrachter nicht getäuscht werden?
Welche Informationen müssen bereitgestellt werden, wenn Ihr Produkt Emotionserkennungs- oder Biometrie-Technologien einsetzt, damit die betroffenen Personen angemessen informiert sind?

Wir verschaffen Ihnen einen Überblick über alle relevanten Transparenzvorschriften und prüfen konkret in Ihrem Anwendungsfall, welche Offenlegungen oder Warnhinweise erforderlich sind. Zudem geben wir praxisnahe Empfehlungen, wie Sie diese Vorgaben nutzerfreundlich und rechtssicher umsetzen können, ohne Geschäftsgeheimnisse preiszugeben oder die Usability zu sehr einzuschränken.

Ihr Mehrwert:

Vertrauensbildung: Durch proaktive Transparenz schaffen Sie Vertrauen bei Kunden und Geschäftspartnern. Nutzer, die wissen, dass sie es mit einer KI zu tun haben, fühlen sich respektiert und können bewusst entscheiden, wie sie mit den Informationen umgehen. Dies stärkt die Akzeptanz Ihrer KI-Lösung langfristig.
Rechtliche Absicherung: Sie erfüllen die gesetzlichen Kennzeichnungspflichten lückenlos und vermeiden Bußgelder oder Rechtsstreitigkeiten aufgrund irreführender KI-Nutzung. Gerade im sensiblen Bereich der Deepfakes oder personalisierter KI-Ausgaben ist die Einhaltung dieser Regeln entscheidend, um Imageschäden und regulatorische Eingriffe zu vermeiden.
Reputationsvorteil durch Offenheit: Unternehmen, die offen mit KI-Einsatz umgehen, positionieren sich als transparent und verantwortungsbewusst. Dies kann einen positiven Effekt auf Ihre Marke haben und sich von Mitbewerbern abheben, die KI eher verborgen einsetzen.

Gutachten zu Fortbildungspflichten für KI-Anbieter und -Betreiber

Mit Einführung des AI Act kommen nicht nur technische Anforderungen, sondern auch organisatorische Pflichten auf Unternehmen zu. Eine davon ist die Fortbildungspflicht: Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass ihre Mitarbeitenden über ausreichende KI-Kenntnisse verfügen, um die Systeme sachgerecht zu entwickeln, einzusetzen und zu überwachen. Diese Pflicht gilt bereits ab dem 2. Februar 2025 und betrifft praktisch alle Unternehmen, die KI-Technologien verwenden – von Entwicklern eigener KI-Software bis hin zu Firmen, die etwa ChatGPT, KI-basierte Analysen oder Automatisierungstools in der täglichen Arbeit einsetzen.

Wir erstellen für Sie ein Gutachten, das die rechtlichen Anforderungen der Fortbildungspflicht verständlich aufbereitet und auf Ihr Unternehmen herunterbricht. Wir ermitteln, welche Personengruppen (z.B. Entwicklungs-Teams, IT-Administratoren, verantwortliche Manager) von der Regelung erfasst sind und welchen Schulungsbedarf es gibt. Dazu gehört auch eine Bewertung, welche Inhalte und Kompetenzen im Bereich KI, Datenschutz und Sicherheit vermittelt werden sollten, damit Sie der gesetzlichen Vorgabe genügen. Auf Basis dieser Analyse erhalten Sie von uns konkrete Vorschläge, wie Sie eine Weiterbildungsstrategie aufsetzen können – seien es interne Schulungen, externe Workshops oder Zertifizierungsprogramme. Selbstverständlich beraten wir Sie auch dabei, wie Sie die Erfüllung der Fortbildungspflicht dokumentieren, um im Falle einer Prüfung den Nachweis erbringen zu können.

Ihr Mehrwert:

Frühzeitige Compliance: Sie setzen die neuen Fortbildungspflichten termingerecht um und vermeiden damit Beanstandungen von Behörden. Da diese Pflicht schon vor vielen anderen Teilen des AI Act greift, verschaffen Sie sich hier einen Vorsprung in der Compliance.
Erhöhte Kompetenz im Unternehmen: Die Weiterbildung Ihrer Mitarbeiter ist nicht nur eine gesetzliche Auflage, sondern auch ein Gewinn für Ihr Unternehmen. Besser geschultes Personal versteht KI-Systeme tiefergehend und kann effizienter und sicherer damit arbeiten. Dies verringert Fehlbedienungen und verbessert die Qualität der Ergebnisse.

Innovationsförderung: Indem Sie die KI-Kompetenz im Team steigern, eröffnen Sie neue Innovationspotenziale. Mitarbeiter mit KI-Fachwissen können kreative neue Anwendungsfälle entwickeln und Ihr Unternehmen im Wettbewerb voranbringen. Gleichzeitig stellen Sie sicher, dass diese Innovationen verantwortungsvoll und im Einklang mit rechtlichen Vorgaben erfolgen.

Gutachten: Grundrechte-Folgenabschätzung (Art. 27 AI Act)

Der AI Act verlangt unter bestimmten Voraussetzungen eine Grundrechte-Folgenabschätzung (GRFA) für hochriskante KI-Systeme. Dabei handelt es sich um eine detaillierte Analyse der Auswirkungen eines KI-Systems auf die Grundrechte von Einzelpersonen oder Personengruppen – etwa auf Datenschutz, Gleichbehandlung, Freiheitsrechte oder körperliche Unversehrtheit. Wir erstellen für Ihr Unternehmen ein Gutachten gemäß Art. 27 AI Act, das die spezifischen Risiken für Grundrechte identifiziert und bewertet. Dabei berücksichtigen wir die vorgesehenen Schutzmaßnahmen Ihres Systems und geben Empfehlungen, wie Grundrechtsrisiken weiter minimiert werden können.

Ihr Mehrwert:

Erfüllung gesetzlicher Pflichten: Wenn Ihr Unternehmen als Betreiber eines Hochrisiko-KI-Systems zur GRFA verpflichtet ist, kommen Sie dieser Anforderung umfassend und nachweisbar nach. Dies ist essenziell, um Sanktionen zu vermeiden und Ihre KI-Anwendung überhaupt einsetzen zu dürfen.
Schutz vor Grundrechtsverstößen: Durch die tiefgehende Analyse werden potentielle Verletzungen von Grundrechten früh erkannt. Sie können geeignete Maßnahmen ergreifen, um z.B. Diskriminierungsrisiken oder Beeinträchtigungen der Menschenwürde auszuschließen.
Verantwortungsbewusstes Handeln: Ein solches Gutachten dokumentiert gegenüber Aufsichtsbehörden, Geschäftspartnern und der Öffentlichkeit, dass Ihr Unternehmen verantwortungsvoll mit KI-Technologie umgeht. Dies stärkt das Vertrauen in Ihre KI-Lösungen und Ihr Markenimage.

Gutachten: Datenschutz-Folgenabschätzung (Art. 35 DSGVO)

Viele KI-Systeme verarbeiten personenbezogene Daten – sei es bei der Analyse von Nutzerdaten, Bildern/Videos oder sensiblen Informationen. In solchen Fällen ist oft eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO erforderlich. Wir unterstützen Sie bei der Durchführung einer DSFA speziell im Kontext von KI-Anwendungen. Unser Gutachten beleuchtet die geplanten Datenverarbeitungen Ihres KI-Systems, bewertet die Risiken für die Privatsphäre und die Rechte der Betroffenen und prüft, ob die technischen und organisatorischen Maßnahmen ausreichen, um diesen Risiken zu begegnen. Dabei verbinden wir unser Datenschutz-Know-how mit dem Verständnis der Funktionsweise Ihrer KI, um praxisnahe und wirksame Empfehlungen zu geben.

Ihr Mehrwert:

Compliance mit Datenschutzrecht: Sie halten die Vorgaben der DSGVO ein und vermeiden empfindliche Geldbußen oder Maßnahmen der Datenschutzbehörden. Gerade KI-Projekte, die mit Big Data oder sensiblen Daten arbeiten, geraten ohne DSFA schnell in einen Graubereich – wir sorgen hier für Rechtskonformität und Klarheit.
Vertrauen von Kunden und Nutzern: Indem Sie Datenschutzrisiken transparent bewerten und angehen, signalisieren Sie Ihren Kunden, Mitarbeitern und Geschäftspartnern, dass Datenschutz und Datensicherheit bei KI-Einsatz oberste Priorität haben. Dies stärkt das Vertrauen und kann ein Wettbewerbsvorteil sein.
Datensparsamkeit und Security by Design: Unsere Analyse zeigt auf, wo eventuell unnötige Daten erhoben werden oder Sicherheitslücken drohen. Durch frühzeitige Anpassungen wird Ihr KI-System datenschutzfreundlicher und sicherer gestaltet, was langfristig auch die Qualität und Akzeptanz des Systems erhöht.

Wie können wir Sie unterstützen?

Unsere Kanzlei steht für Innovation und Professionalität im Recht der Künstlichen Intelligenz. Jedes unserer Gutachten wird individuell auf Ihre Bedürfnisse zugeschnitten. Sprechen Sie uns gerne an – wir helfen Ihrem Unternehmen, die Chancen der KI sicher und rechtskonform zu nutzen.