Richter-Roboter: Ersetzt KI bald unsere Juristen?
(Bild: icedmocha / Shutterstock.com )
KI erobert Gerichtssäle. Bis 2025 testen Gerichte digitale Prozesse. Droht der Mensch hinter der Robe zu verschwinden?
Die Digitalisierung wird in immer mehr Lebensbereichen vorangetrieben. Dies betrifft auch Medizin und Justiz. Künstliche Intelligenz (KI) gewinnt im Gerichtswesen an Bedeutung.
Mit der "Digitalisierungsinitiative für die Justiz" bringt sich das Bundesministerium der Justiz finanziell in Digitalisierungsvorhaben der Länder ein und führt eigene durch. Die Bundesregierung will bis zu 200 Millionen Euro für diese Technik bereitstellen.
Dass dies mehr ist als der Laptop der Richter oder eine Zeugenvernehmung per Video, zeigte sich beim jährlichen EDV-Gerichtstag in Saarbrücken. Ideen gibt es einige. Bis 2025 sollen einzelne Gerichte vollständig digital geführte Zivilverfahren ausprobieren – auf Basis einer neuen gesetzlichen Regelung.
Nehmen wir an, die KI lädt die gesamte Verfahrensakte und erstellt dann einen Entscheidungsentwurf. Wenn die Parteien damit einverstanden sind, kommt eine Entscheidung mit diesem Inhalt zustande, ohne dass das Gericht auch nur in die Akte geschaut hat…
Anke Morsch, Vorsitzende des EDV-Gerichtstags
Das ist jedoch heute unzulässig, da bei den Gerichten Richter zu entscheiden haben.
KI zur Mediation einsetzbar?
Da jedoch bereits heute Parteien, die im Streit sind, eine freiwillige Mediation angehen können, ist auch ein Vorschlag per KI nicht völlig ausgeschlossen. Derzeit nicht gesetzlich vorgeschrieben, wollen die Parteien jedoch einen langjährigen Streit vor den Gerichten vermeiden, kann der Einsatz eines Mediators bereits heute hilfreich sein.
Das Mediationsgesetz lässt einfache und zertifizierte Mediatoren zu. Beide müssen eine Ausbildung zum Mediator absolvieren. Ein Mediator ist eine neutrale Person, die bei Konflikten zwischen Parteien vermittelt. Er fördert die Kommunikation der Parteien und soll gewährleisten, dass die Parteien fairerweise in die Mediation eingebunden sind. Das Ziel eines Mediators ist nicht, eine Entscheidung zu treffen oder eine Lösung vorzuschreiben. Die Parteien sollen unterstützt werden, selbst eine einvernehmliche Lösung zu finden.
Die zunehmende Technik-Begeisterung lässt auch einen KI-Schlichter nicht mehr völlig ausschließen.
Den zunehmenden Technik-Einsatz begrüßen aber nicht alle. Skeptisch äußert sich Bundesverfassungsrichter Henning Radtke und verweist auf die Freiheitsrechte der Bürger. Diese haben Abwehrrechte gegen den Staat. Der Staat habe Schutzpflichten ihnen gegenüber, wie das Bundesverfassungsgericht (BVerfG) im "Hessendata-Urteil" auch für KI-Anwendungen andeutet.
Lesen Sie auch
Nicht alles, was möglich ist, ist auch erlaubt. Die automatisierte Datenanalyse oder -auswertung bedürfe einer verfassungsrechtlichen Rechtfertigung, sagt das Urteil.
Die KI-Grundverordnung der EU stuft den Einsatz von KI in der Justiz weitgehend als Hochrisiko-Anwendung ein. Radtke warnt vor der Gefahr, dass KI-generierte Programme Entscheidungen analysieren und vorschlagen könnten, was die Rolle des Richters im Entscheidungsprozess infrage stellt.
Vor "Halluzinationen" warnt die Hamburger tse Technologieberatung. Denn gehen KI-Anfragen zu weit weg von den Trainingsdaten, tendieren Systeme zu Halluzinationen: KI-Systeme zeigen keine sprachlichen Indizien für Ungewissheit, vielmehr geben sie überzeugende Antworten ohne Hinweise auf Unsicherheiten. Sie erkennen die Grenzen ihrer Kompetenz nicht.
Gleiche Effekte können durch die Verzerrungen in den Trainingsdaten entstehen und führen in eine Art Kompetenzfalle KI-generierter Inhalte, die sich besonders nachhaltig und effektiv festsetzen. Dafür sorgen psychologische Mechanismen, die tief in uns verankert sind.
Karl Schmitz von tse
Die Folgen können weitgehend sein, wenn die Technik für juristische Fragen eingesetzt wird:
Wenn nun Richter diese KI-Systeme als kompetent ansehen, kann das dazu führen, dass sie diese Einschätzungen mit der Zeit selbst verinnerlichen
Karl Schmitz
KI-Einsatz in der Medizin
Auch im medizinischen Bereich wirkt die neue Technik. Die KI erlernt medizinische Zusammenhänge durch die Analyse großer Datensätze auf Basis historischer medizinischer Informationen. Diese können aus elektronischen Patientenakten oder Langzeit-Elektrokardiogrammen (Langzeit-EKGs) stammen.
"Unter historischen Datensätzen sind also nicht geschichtliche Texte zu verstehen, sondern Daten aus früheren Behandlungen, die genutzt werden, um die KI zu trainieren", erklären Jeanette Lorenz und Elisabeth Pachl vom Fraunhofer-Institut für Kognitive Systeme IKS in München.
Auch wenn sich manche Algorithmen für die Diagnose bestimmter Krankheiten eignen, warnen die Forscher vor Euphorie. Zwar könne KI in manchen Bereichen schneller diagnostizieren als ein Arzt.
Allerdings basieren solche Vergleiche oft auf kleinen Datensätzen ohne Sonderfälle, bei denen sich die KI unsicher wäre. Der Mensch kann dank Transferleistung dennoch eine mögliche Diagnose stellen, was KI nicht kann.
Jeanette Lorenz und Elisabeth Pachl
In der Praxis wird KI als "unterstützendes Werkzeug" genutzt, das Vorschläge macht, während der Mensch die finale Entscheidung trifft. Die KI fungiert dabei als "zweite Meinung", die dem medizinischen Personal zusätzliche Informationen bietet, sind sich Lorenz und Pachl sicher.