Künstliche Intelligenz und Recht: Im Spannungsfeld zwischen Regulierung und Entwicklung?

Der Begriff der Künstlichen Intelligenz (KI) löst häufig ganz widersprüchliche Reaktionen aus – Schreckensszenarien, in denen die Vernichtung der Menschheit durch hochintelligente Maschinen droht, stehen Vorstellungen gegenüber, in denen Maschinen alle lästigen Arbeiten effizient und kostengünstig übernehmen. Und auch wenn die Technologie in der Realität bislang noch ein wenig nüchterner anmutet, hat sich längst ein breites Feld von KI-Anwendungen für Unternehmen entwickelt.

Viele Prozesse und Arbeitsläufe werden von KI-Anwendungen automatisiert, die sich eigenständig und autonom an die tatsächlichen Gegebenheiten anpassen; man denke etwa an Chatbots für den Kundenservice oder die Diagnose von Krankheiten im Gesundheitsbereich. Und während die technische Entwicklung weiter voranschreitet, ändern sich auch die rechtlichen Bedingungen. So hat die EU-Kommission am 21.04.2021 den Vorschlag für eine Verordnung unterbreitet, die zusätzlich zu den bestehenden, vor allem datenschutzrechtlichen, Vorgaben weitreichende Regulierungen im Bereich KI vorsieht.

Über die Autorin

Kathrin Schürmann ist Partnerin der Technologiekanzlei Schürmann Rosenthal Dreyer Rechtsanwälte und spezialisiert auf das IT- und Datenschutzrecht. Ein Fokus ihrer beratenden Tätigkeit liegt in den Bereichen Digital Business, Technologie und Medien. Als Datenschutzexpertin betreut sie nationale und internationale Mandanten bei der Einführung und Entwicklung neuer (digitaler) Geschäftsmodelle und KI-basierter Technologien.

Künstliche Intelligenz: Ein uneindeutiger Begriff

Doch zunächst eine Begriffsklärung: Worum handelt es sich eigentlich, wenn von Künstlicher Intelligenz die Rede ist? Auch wenn die Meinungen bereits an dieser Stelle auseinandergehen, kann sich anhand einiger grundlegender Merkmale an eine Definition angenähert werden. So sollten IT-Systeme, um von KI sprechen zu können, „intelligente“ Verhaltensweisen beherrschen und zu Lernprozessen in der Lage sein, um einen bestimmten Output zu liefern oder Prognoseentscheidungen treffen zu können. Dabei ist es maßgeblich, dass sie autonom handeln können und eine Adaptionsfähigkeit gegenüber ihrer Umgebung aufweisen. Vielfach wird zudem zwischen starker und schwacher KI unterschieden. Während erstere logisch-intellektuell denken und zu komplexen Abstraktionen fähig ist, die an menschliches Können mindestens heranreicht, zeichnet sich letztere durch Mustererkennung und die Fähigkeit aus, auf unbekannte Probleme zu reagieren. Dabei kann sie allerdings nicht abstrahieren und ist nur in der Lage, in ihrem spezifischen Anwendungsfeld zu agieren. Die KI-Systeme, die zurzeit Anwendung finden, werden zumeist zwar noch als schwache KI eingestuft, sind aber dennoch bereits zu beachtlichen Leistungen fähig: Beispielsweise KI-Systeme, die bereits heute mit Menschen Konversation führen können, ohne dass der Gesprächsteilnehmer bemerkt, mit einer KI zu kommunizieren und die zu diesem Zweck menschliche Verhaltensweisen wie etwa gezielt gesetzte Pausen nachahmen. Oder solche im Gesundheitsbereich, die anhand bildgebender Verfahren Diagnosen vorschlagen und zum Beispiel Tumorstrukturen erkennen können.

KI, Recht und Ethik: Ein kurzer Überblick

Für die Zukunft, aber auch schon mit den heutigen technischen Möglichkeiten stellen sich ethische Fragen, wenn KI mit Wirkung für Individuen eingesetzt wird. Das Spannungsfeld ist hier nicht einfach zu lösen. Auf der einen Seite besteht die Gefahr der Objektivierung des Menschen, auf der anderen Seite stehen die klaren Vorteile, wie die Möglichkeit, gleichartige Fälle schnell und effizient lösen zu können oder aber auch, moralische und komplexe Fragestellungen „objektiv“ zu entscheiden. Unabhängig von diesen ethischen Komponenten gibt es noch viele weitere Fragestellungen. Wie soll eine KI beim autonomen Fahren in einer Unfallsituation reagieren? Sollten Algorithmen über die Erlangung einer Arbeitsstelle oder das Verhängen von Strafen entscheiden? Auch wenn solche Fragen nicht ausschließlich rechtlich beantwortet werden können, gibt es eine Vielzahl von Regelungen, die den Einsatz von KI betreffen und zumindest einen höheren Schutzstandard garantieren. Da es bisher kein einheitliches „KI-Recht“ gibt, finden sie sich an ganz unterschiedlichen Stellen, etwa im Haftungs-, Urheber- oder Leistungsschutzrecht. Das Allgemeine Gleichbehandlungsgesetz (AGG) gibt vor, dass auch KI nicht diskriminieren darf. Nicht zuletzt besteht auch ein grundrechtlicher Schutz gegen bestimmte Einsatzformen von KI.

Zentral: Das Datenschutzrecht

Über den Autor

Philipp Müller-Peltzer ist Rechtsanwalt und Associated Partner der Technologiekanzlei Schürmann Rosenthal Dreyer Rechtsanwälte und spezialisiert auf das Datenschutz-, IT-Recht und Digitales Business. Er berät Mandanten bei der rechtskonformen Umsetzung und Konzeptionierung digitaler Geschäftsmodelle. Ein Schwerpunkt seiner Tätigkeit liegt in der Bewertung und Ausarbeitung von Datenverarbeitungsvorgängen im regulierten Umfeld, wobei er sich zuletzt auf die datenschutzrechtliche Ausgestaltung von KI-Anwendungen spezialisiert hat.

Eine besondere Rolle kommt dabei dem Datenschutzrecht zu, da KI-Lernprozesse nicht ohne Daten möglich sind. Als übergeordnete Leitlinien hat die Datenschutzkonferenz (DSK), der Zusammenschluss der deutschen Aufsichtsbehörden, die Hambacher Erklärung verabschiedet. Den Ausgangspunkt bildet der sich aus dem Gebot der Menschenwürde ergebende Grundsatz, dass der Mensch nicht zum Objekt degradiert werden darf. Grundsätze wie Transparenz oder die Verfolgung ausschließlich verfassungsmäßiger Zwecke werden besonders betont und gestärkt.

Neben solchen rechtlich nicht bindenden Leitlinien hält die Datenschutz-Grundverordnung (DSGVO) gesetzliche Vorgaben bereit. Sie sind immer zu beachten, wenn KI mit Daten arbeitet, die sich auf eine konkrete Person beziehen lassen. Das ist in den meisten Fällen der Fall, sofern nicht lediglich anonymisierte Daten verarbeitet werden. Das sind solche, bei denen der Bezug zu einer natürlichen Person zuvor vollständig entfernt wurde. Gilt die DSGVO beim Einsatz einer bestimmten KI-Anwendung, gehören zu den Vorgaben die Erforderlichkeit einer Rechtsgrundlage sowie die Einhaltung der datenschutzrechtlichen Grundsätze. Zu diesen zählen unter anderem die Absicherung durch technische und organisatorische Schutzmaßnahmen, die Verarbeitung der Daten ausschließlich zu einem vorher festgelegten, legitimen Zweck oder die Einhaltung von Informationspflichten. Zudem gilt das Verbot der automatisierten Einzelfallentscheidung, nach dem eine KI ohne menschliche Beteiligung keine Entscheidungen mit erheblicher Wirkung für betroffene Personen treffen darf.

Ein Europäischer Rechtsrahmen für Künstliche Intelligenz?

Für europaweite, einheitliche und verbindliche Regelungen hat die EU-Kommission nun den Vorschlag für eine entsprechende Verordnung vorgelegt. Sie wäre der weltweit erste Rechtsrahmen, der sich ausdrücklich dem Einsatz von KI widmet und würde sowohl Entwickler als auch Unternehmen, die KI einsetzen oder importieren, betreffen. Die Verordnung soll den Schutz der Bürger, das Vertrauen in die Technologie und zugleich eine hohe Förderung von Innovationen in dem Bereich sicherstellen. In der EU eingesetzte KI-Systeme sollen sicher, transparent, ethisch und unter menschlicher Kontrolle agieren. Dazu werden sie in unterschiedliche Risikoklassen eingeteilt, angefangen vom minimalen bis hin zum nicht akzeptablen Risiko. Systeme mit dem höchsten Risiko sollen grundsätzlich nicht eingesetzt werden dürfen. Als Beispiele werden etwa Social Scoring durch Behörden oder Spielzeug, das mit einem Sprachassistenten versehen ist und Kinder zu riskantem Verhalten verleitet, genannt. Auf der anderen Seite stehen die vielen Anwendungen mit einem minimalen Risiko, zu denen etwa Spamfilter gehören und die von der Verordnung nicht weiter reguliert werden sollen. Für Systeme mit einem nur begrenzten Risiko wie die eingangs erwähnten Chatbots sollen geringe Transparenzverpflichtungen gelten, damit Nutzer eine informierte Entscheidung darüber treffen können, ob sie diese Systeme verwenden wollen.

Die eigentliche Regulierung betrifft hingegen KI-Systeme mit einem hohen Risiko. Eine beispielhafte Aufzählung zählt dazu unter anderem Systeme, die über den Zugang von Personen zu Bildungs- oder Berufsangeboten entscheiden, Urteile im Rahmen zentraler Dienstleistungen wie über die Kreditwürdigkeit einzelner Personen fällen oder die im Rahmen der Strafverfolgung und der Rechtspflege eingesetzt werden. Für Anbieter von KI-Systemen mit hohem Risiko gilt, dass vor dem Einbringen in den Verkehr im Rahmen einer Konformitätsbewertung die Einhaltung der rechtlichen Anforderungen geprüft wird. Insbesondere müssen die verwendeten Datensätze richtig sowie vollständig sein und Datenverarbeitungen dokumentiert werden. Die KI-Systeme sollen transparent, technisch sicher und unter menschlicher Aufsicht arbeiten. Anschließend werden die Systeme registriert und mit einer CE-Kennzeichnung versehen. Zudem soll es eine höhere behördliche Kontrolle über die im Verkehr befindlichen KI-Systeme geben.

Ein Ausblick

KI-Anwendungen sind im tagtäglichen Gebrauch längst angekommen und die technische Entwicklung wird unbestritten weiter fortgeführt. Inwieweit man das als Bedrohung ansehen möchte, mag jeder für sich selbst entscheiden. Doch ebenso unbestritten bergen die vielen Potenziale und Möglichkeiten auch Risiken für die Personen, die von Entscheidungen und Handlungen künstlicher Intelligenzen direkt oder indirekt betroffen sind. Insofern kann die geplante EU-Verordnung dabei helfen, diese Risiken zu kontrollieren. Schon jetzt ist der Entwurf ein deutliches Signal, in welche Richtung die rechtliche Entwicklung für den Bereich KI in Zukunft gehen wird. Inwieweit die EU es schafft, eine Regulierung zum Schutz der Bürger mit der Förderung der KI-Entwicklung zusammenzubringen, wird sich zeigen: Der Gesetzgebungsprozess führt noch über lange Verhandlungen im EU-Parlament und im Europäischen Rat. Wie lange es dauert, bis die Verordnung in Kraft treten und welche Änderungen sie noch erfahren wird, ist zum jetzigen Zeitpunkt nicht absehbar. Das Verfahren kann allerdings Jahre in Anspruch nehmen. Doch bereits die aktuelle Rechtslage hält viele Regelungen bereit, die für eine erhöhte Sicherheit und damit für ein breiteres Vertrauen in KI sorgen: Einsatz und Entwicklung von KI benötigen klare Prozesse und die Verwendung von Daten, die durch sachgerechte Anonymisierung und ein überzeugendes Datennutzungskonzept sorgfältig nutzbar gemacht wurden. Die Regulierung sollte daher nicht als Hemmnis, sondern als Chance wahrgenommen werden, damit die KI-Anwendungen mit breiter Akzeptanz genutzt und weiterentwickelt werden können.

Aufmacherbild/ Quelle / Lizenz
Bild von Pete 😀 auf Pixabay

0 Kommentare

Hinterlasse einen Kommentar

An der Diskussion beteiligen?
Hinterlasse uns deinen Kommentar!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.