KI Justiz

Am 2. Mai 2022 fand das gemeinsame Symposium des Ministeriums der Justiz des Landes Nordrhein-Westfalen und der Kölner Forschungsstelle für Medienrecht der TH Köln zum Thema „Künstliche Intelligenz in der Justiz – Impulse aus Nordrhein-Westfalen“ statt. Die Richter Dr. Christian Schlicht und Dr. Simon J. Heetkamp nahmen – gemeinsam mit weit über 200 Interessierten – an der hybrid durchgeführten Veranstaltung teil. In diesem Beitrag fassen sie für diejenigen, die das Symposium verpasst haben, die wichtigsten Denkanstöße im Überblick zusammen.

Digitalisierung und Künstliche Intelligenz in der Justiz

Nach der Begrüßung durch den Vizepräsidenten der TH Köln, Herrn Prof. Dr. Klaus Becker, beleuchtete Herr Minister der Justiz Peter Biesenbach in seinem Eröffnungsvortrag „Künstliche Intelligenz – Wo sind die Grenzen in der Justiz?“ die Veränderungen durch die Digitalisierung des Rechtsmarktes im Allgemeinen und Künstliche Intelligenz im Besonderen. So beschrieb Minister Biesenbach wie es Legal Tech-Anbieter schaffen, die Justiz in einer zunehmenden Anzahl an Rechtsgebieten mit Masseverfahren zu konfrontieren. Die Justiz werde durch die Verlagerung von Straftaten in den Cyberraum dazu herausgefordert, ihre Ermittlungsmöglichkeiten anzupassen. Als Beispiel nannte er den Einsatz von KI zur Erkennung von kinderpornographischem Bildmaterial. Im Rahmen der Entwicklung seien extrem hohe Hürden in den Bereichen Datenschutz und Datensicherheit zu meistern gewesen, da aus datenschutz- und strafrechtlichen Gründen auch zum Training der KI keine Weitergabe von entsprechendem Bildmaterial an externe Dritte zulässig gewesen wäre. Sodann wandte sich Minister Biesenbach der möglichen Einführung eines beschleunigten Online-Verfahrens zu, das im Diskussionspapier der durch die Arbeitsgruppe zur „Modernisierung des Zivilprozesses“ vorgeschlagen worden war. Dieses gerichtliche Online-Verfahren werde nun in einem Pilotprojekt erprobt.

KI in der Justiz

v.l.n.r. Moderator Dr. Kessen Minister der Justiz Biesenbach Praesident des OLG Koeln Dr. Scheiff und LOStA Hartmann

KI-Verordnungsvorschlag zu weitgehend

Hinsichtlich des europäischen Verordnungsvorschlags zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz begrüßte Minister Biesenbach das Ziel eines einheitlichen, europäischen Rechtsrahmens für KI-Anwendungen. Der Verordnungsvorschlag sei durch die weite Definition von KI-Anwendungen aber zu umfassend geraten, sodass dringender Handlungsbedarf bestünde (siehe ausführlich: Beschluss des Bundesrates zum Verordnungsvorschlag). Anderenfalls könnten selbst einfache Such- und Sortiermechanismen, die in der Justiz als unterstützende Arbeitsschritte Alltag wären, als „Hochrisikoanwendungen“ anzusehen sein. Dadurch drohe ein hoher bürokratischer Aufwand. Für Minister Biesenbach war die Grenze eines möglichen KI-Einsatzes in der Justiz klar: Eine richterliche Entscheidung dürfe niemals auf eine KI übertragen werden. KI müsse immer mit dem Menschen verbunden bleiben und dürfe nur Hilfsmittel sein.

Digitale Möglichkeiten als Rahmen für exzellente inhaltliche Arbeit

Sodann warf der Präsident des OLG Köln, Dr. Bernd Scheiff, einen Blick auf den „digitalen Arbeitsplatz in der Justiz“, seine Chancen und Grenzen. Zu dem digitalen Arbeitsplatz in der Justiz gehöre, dass bis 2026 die eAkte flächendeckend eingeführt sei. Jedoch: Die eAkte schaffe noch keine wirkliche Digitalisierung der juristischen Arbeit, da lediglich die Papierakte digital nachgebildet worden sei. Wichtig sei nun, digitale Möglichkeiten zu nutzen, um mit möglichst wenig Zeit, Geld und Kraft den organisatorischen Rahmen zu schaffen, in dem herausragende juristische Tätigkeiten geleistet werden könnten. Auch müsse die Justiz stärker im digitalen Raum zu finden sein, etwa durch niedrigschwellige Möglichkeiten von Klageerhebung und Antragstellung.

Think Tank zu KI-Anwendungen in der Justiz

Scheiff betonte, dass anwaltliche Legal Tech-Anwendungen zu einer Erhöhung des Verfahrensstoffs führten. Auch dürfe nicht vergessen werden, dass ein Gerichtsverfahren ein sozialer Prozess sei, der Rechtsfrieden erzeugen solle. Dies setze voraus, dass auch künftig eine persönliche Interaktion möglich bleiben müsse. Außerdem müsse man sich die Frage stellen, ob niedrige Zugangsschwellen etwaig zu einer übereilten Inanspruchnahme der Justiz führen könnten. Den zahlreichen Fragen solle sich in Zukunft ein Think Tank zu KI-Anwendungen in der Justiz beim IT-Dienstleister der Justiz NRW widmen. Dieser Think Tank solle eine Kontakt- und Koordinierungsstelle für länderübergreifende Digitalisierungsinitiativen und Katalysator für Veränderungen werden. Im Rahmen von Reallaboren solle eine „smarte Justiz“ erlebbar werden. Bei der Arbeit des Think Tanks werde Design Thinking eine Kernkompetenz sein und eine fallbezogene Zusammenarbeit mit Dritten (etwa Wissenschaft, Notar- und Anwaltskammer) angestrebt werden.

Heuhaufen-, Transparenz- und Behördenproblem

Der Einsatz von KI in der Strafverfolgung war sodann Kernthema von LOStA Markus Hartmann. Dieser berichtete aus Sicht einer operativen Dienststelle, die sich mit Cyberangriffen im engeren (Hacking eines Online-Banking-Accounts) und weiteren (Hasskriminalität im Internet) Sinne auseinanderzusetzen hat.

Nach seiner Wahrnehmung werde die Ansicht, im Hinblick auf Digitalisierung und KI „nichts zu tun“, justizintern nicht mehr vertreten. Derzeit stehe die Staatsanwaltschaft häufig vor einem „Heuhaufen-Problem“, nämlich aus dem großen Datenumfang das Maßgebliche herauszufinden. Praktisch sei dies – etwa im Bereich der bildlichen Darstellung von Kindesmissbrauch – ohne den Einsatz von KI nicht mehr zu schaffen. Auch für viele andere Kriminalitätsbereiche sei ein entsprechender KI-Einsatz denkbar – etwa bei der Auswertung von E-Mails im Rahmen von Delikten der Wirtschaftskriminalität. Der KI-Umgang mit komplexen Texten sei „das nächste große Ding“.

Auch sei zu beachten, dass man KI-Programme nicht „von der Stange“ kaufen könne, da dies zu einem Transparenz-Problem führe. Wenn man die Programmierung der KI nicht selbst begleitet habe und nachvollziehen könne, führe dies zu justizethischen Einsatzproblemen. Bei der Mitgestaltung habe sich jedoch ein „Behörden-Problem“ gezeigt: Denn für die Entwicklung und Erprobung von neuartigen KI-Programmen sei eine noch nicht etablierte offene Fehlerkultur unabdingbar. Hartmann stellte heraus, dass aus seiner Sicht eine stärkere Partizipation außerhalb der Staatsanwaltschaft stehender Kräfte am Veränderungsprozess des Ermittlungs- und Strafverfahrens durch verstärkte Einbeziehung von KI-Komponenten wünschenswert wäre, um sicherzustellen, dass die Waffengleichheit der Beteiligten nicht aus der Balance gerate.

Regulierungsmodelle der Datenethikkommission und des KI-Verordnungsentwurfes

Nach den Vorrednern aus der Justiz war es nun an Prof. Dr. Rolf Schwartmann, dem Leiter der Kölner Forschungsstelle für Medienrecht der TH Köln, einen wissenschaftlichen Blick auf „KI in der Justiz als Hochrisiko-Anwendung“ zu werfen. Prof. Schwartmann stellte dabei die Regulierungsmodelle der Datenethikkommission (DEK) und des Verordnungsentwurfes nebeneinander. Hinsichtlich des nun zur Diskussion stehenden europäischen Verordnungsentwurfes sei zu kritisieren, dass der Begriff von KI uneindeutig und zu weit gefasst worden sei. Auch sei die pauschale Erfassung von Anwendungsbereichen ohne Berücksichtigung des konkreten Einsatzkontextes nicht zielführend. Wünschenswert sei eine normenklare, weitere Ausdifferenzierung von Regulierungsebenen wie dies die Kritikalitätspyramide der DEK vorsehe. Zudem sollten Kriterien zur Vermeidung von Fehlern in KI-Entscheidungen definiert werden. Unabdingbar sei ein „human-in-the-loop”; dies bedeute, dass KI-Anwendungen ohne menschliche Kontrolle und Interventionsmöglichkeit ausgeschlossen werden müssten.

Wann ist ein Risiko ein Risiko? – Einblicke zum Stand des KI-Verordnungsentwurfs

Der nachmittägliche Veranstaltungsteil begann mit einem Vortrag von MdEP Axel Voss, Berichterstatter zum KI-Verordnungsentwurf, zu dem Thema „Wann ist ein Risiko ein Risiko? – Der risikoorientierte Ansatz des Entwurfs der KI-VO auf dem Prüfstand des Europäischen Parlament“. Eingangs betonte Voss die nicht zu unterschätzende strategische Relevanz des künftigen Einsatzes von KI und deren Regulierung. Wer im Themenfeld KI führe, werde die Welt führen! Es müsse daher sichergestellt werden, dass die EU in Digitalthemen nicht weiter abgehängt werde.

Der Einsatz von KI könnte ein weiterer Treiber für die Digitalisierung verschiedenster Lebensbereiche und gesellschaftliche Veränderungen sein. Dafür müsse aber eine zu starke Regulierung von KI-Programmen verhindert werden. Schon die aktuell im Verordnungsvorschlag verwendete Wortwahl von KI-Programmen als „Hochrisiko-KI-Systemen“ sei im Zusammenspiel mit der weiten Definition von „Hochrisiko-KI-Systemen“ unglücklich. Letztlich bestehe ein Hochrisiko doch nur dann, wenn ethische Fragen und Grundrechte im erheblichen Maße betroffen seien. Mit Blick auf die deutsche Justiz gab Voss zu bedenken, ob man nicht in Zivilverfahren KI-Entscheidungen für geringwertige Streitigkeiten erproben könnte.

Weitere Impulse: Elektronischer (Straf-)Gerichtssaal, europäische KI-Agentur & Co.

In der anschließenden, von RiBGH Dr. Martin Kessen moderierten Podiumsdiskussion wies Minister Biesenbach ergänzend auf die Einrichtung eines elektronischen (Straf-)Gerichtssaals der Zukunft hin. Voss prognostizierte den zu erwartenden Zeitrahmen bis zur Finalisierung der KI-Verordnung bis Sommer 2023. Dann sei noch eine 1-1,5-jährige Übergangs-/Anwendungsfrist zu erwarten. Die Frage der Aufsicht über KI-Programme sei noch zu klären: Solle eine eigene europäische KI-Agentur geschaffen oder nationale Aufsichtsbehörden gestärkt werden? Auch ein Vorschlag zu Haftungsfragen in Bezug auf KI-Programme werde auf europäischer Ebene erarbeitet.

Appell an mehr Austausch innerhalb der Justiz

Am Ende konnte man sich wie bei Brechts gutem Menschen von Sezuan fühlen: Der Vorhang fiel und alle Fragen waren offen. Was bleibt ist die Erkenntnis, dass die EU vor einem weiteren großen Regulierungswerk steht und angesichts des von Voss skizzierten Zeitplans in kürzester Zeit noch viele richtungsweisende Entscheidungen treffen muss, die den künftigen Einsatz von KI – auch in der Justiz – maßgeblich prägen werden. Der Justiz stehen durch die gegenwärtigen und sich abzeichnenden Veränderungen spannende Zeiten bevor. Keine Erwähnung fand auf dem Symposium, dass diese Veränderungen maßgeblich von (digitalaffinen) Kolleginnen und Kollegen getragen und gestalten werden müssen. Nicht zuletzt dazu haben die Verfasser kürzlich das Forum „digitale richterschaft“ ins Leben gerufen, um einen entsprechenden Austausch und Diskurs zu ermöglichen.

Fotos: Justiz NRW

Mit unserem Legal Tech-Newsletter bleiben Sie immer auf dem Laufenden!

Abonnieren und einmal im Monat unsere neusten Beiträge per Mail erhalten.