Themen: KI-Modelle, ChatGPT, LLMs, Rechtsbranche, Mathematik, Maximilian Janisch, Doktorand. Universität Zürich.
Kommentieren Sie gerne auf Linkedin.
Lesezeit: 4 Minuten.
Der Einfluss von KI auf den Beruf der Juristinnen und Juristen ist wachsend. Um den in der Rechtsbranche geführten Diskurs zum Thema KI und ChatGPT, der vor allem unter Juristinnen und Juristen geführt wird, aus einer weiteren Perspektive zu beleuchten, haben wir den Mathematiker und Forscher Maximilian Janisch befragt.
Herr Janisch ist zurzeit der jüngste Doktorand der Mathematik in der Schweiz. Bereits mit 9 Jahren hat er die Mathematikmatura absolviert und sich seither intensiv mit dieser Disziplin auseinandergesetzt. Die Fähigkeit von KI-Modellen, kausale Zusammenhänge zu erkennen, ist sogar ein Teilbereich seiner eigenen Forschungsarbeit an der Zurich Graduate School in Mathematics , einem gemeinsamen Programm der ETH Zurich und der Universität Zürich .
In diesem Interview gibt Herr Janisch seine persönlichen Einschätzungen zu den mathematischen Modellen und Algorithmen, die in KI-Anwendungen der Rechtsbranche eingesetzt werden, sowie seine Hoffnungen und Bedenken bezüglich des Einflusses von KI auf die Rechtspraxis. Er beschreibt zudem die Verantwortung von Mathematikern in Bezug auf den ethischen Einsatz von KI, die Transparenz von KI-Entscheidungen im Rechtsbereich und die beruflichen Möglichkeiten für Juristinnen und Juristen, ihre Fähigkeiten in einer zunehmend KI-unterstützten Umgebung weiterzuentwickeln.
Guten Tag Herr Janisch, vielen Dank, dass Sie diesem Interview zugesagt haben. Unschwer zu erkennen wird KI in der Rechtsbranche immer häufiger verwendet. Welche mathematischen Modelle und Algorithmen werden in der KI eingesetzt, um juristische Aufgaben zu automatisieren oder zu unterstützen?
Ein grosser Fortschritt in der künstlichen Intelligenz wurde neulich im Bereich der «large language models (LLMs)» erzielt. Eine der bekanntesten Anwendungen von LLMs ist ChatGPT, ein Programm, welches in der Lage ist, teilweise sprachlich gesehen verblüffend gute Sätze und Paragraphen als Antwort auf die Eingabe eines Benutzers zu formulieren. LLMs sind KI-Modelle, welche anhand grosser Text-Datenmengen Korrelationen in sprachlichen Sätzen erlernen, und somit vorhersagen können, welches Wort in einem Satz wahrscheinlich als nächstes kommt.
Beispielsweise kommt in einem Satz, der das Wort «Tisch» enthält, auch häufig das Wort «Stuhl» vor, aber nur selten das Wort «Querzahnmolch». LLMs sind somit in der Lage, ein beeindruckendes Sprachverständnis zu erlangen. Es stellt sich aber heraus, dass sie nicht in der Lage sind, wahre von falschen Aussagen zu unterscheiden. So finden sich im Internet zahllose Beispiele von Eingaben, auf die ChatGPT eine zwar schön formulierte, aber auch falsche, Antwort gibt.
LLMs können meines Erachtens nützlich sein, um schnell Inhalte von Dokumenten zu analysieren und wichtige Stellen hervorzuheben. Zudem können sie eingesetzt werden, um die Formulierung bereits gegebener Argumente sprachlich aufzubessern.
Und wie kann KI Ihrer Meinung nach die Rechtsbranche verändern?
Ich hoffe, dass KI in der Lage sein wird, repetitive bzw. langweilige Aufgaben in der Rechtsbranche zu übernehmen. Insbesondere denke ich hier an Literaturrecherche, Dokument-Verwaltung und Zusammenfassung von Texten. Dadurch könnte die Branche effizienter werden und mehr menschliche Zeit könnte auf wichtige Aufgaben wie beispielsweise die Konzeption der rechtlichen Argumente gerichtet werden.
Besteht aus Ihrer Sicht die Gefahr, dass der Einsatz von KI in der Rechtsbranche zu einer problematischen Rechtsfindung oder Rechtsanwendung führt, die nur auf mathematischen Wahrscheinlichkeiten beruht?
Im Prinzip halte ich es für gut, wenn mathematische Wahrscheinlichkeiten für Rechtsfindung und Rechtsanwendung Gebrauch finden. Schliesslich ist die Wahrscheinlichkeitstheorie ein äusserst nützliches Werkzeug, welches sich zur Beschreibung der Welt in vielen verschiedenen Bereichen, von der Finanzmathematik bis zur Physik der Hydrodynamik, als nützlich erwiesen hat. Dies könnte, durch KI-Modelle, auch in der Rechtsbranche der Fall werden. Doch wie oben bereits geschrieben, reicht es nicht, Korrelationen zu erlernen, um kausale Zusammenhänge zu verstehen. Daher kommen auch die vielen falschen Antworten von ChatGPT. Es wäre meines Erachtens sehr interessant, KI-Modelle zu entwickeln, welche auch kausale Zusammenhänge verstehen können. Dies ist ein Teilgebiet meiner Forschung, aber bis dort Ergebnisse erzielt werden, die für einen alltäglichen Gebrauch in der Rechtsbranche nützlich sind, kann es noch ein wenig dauern.
Es wäre meines Erachtens sehr interessant, KI-Modelle zu entwickeln, welche auch kausale Zusammenhänge verstehen können. Dies ist ein Teilgebiet meiner Forschung, aber bis dort Ergebnisse erzielt werden, die für einen alltäglichen Gebrauch in der Rechtsbranche nützlich sind, kann es noch ein wenig dauern. - Maximilian Janisch
Welche Verantwortung tragen Mathematiker und Experten in Bezug auf den Einsatz von KI in der Rechtsbranche, insbesondere in Bezug auf die Sicherstellung von Rechtsstaatlichkeit, Ethik und Gerechtigkeit?
Fast jede neue Technologie kann auch zu böswilligen Zwecken eingesetzt werden. So brachte die Physik der Kernspaltung, welche heute noch in Atomkraftwerken eingesetzt wird, auch die Atombombe mit sich. Das Internet brachte nicht nur den einfachen Zugang zu Informationen mit sich, sondern vereinfachte auch den Zugang zu «fake news» und Falschinformationen. Dasselbe gilt auch für KI: Es handelt sich um wissenschaftliche bzw. mathematische Werkzeuge, die sowohl auf nützliche Weise, aber auch auf bösartige Weise eingesetzt werden kann. Als Mathematiker trage ich meines Erachtens die Verantwortung, dafür zu sorgen, dass der bösartige Einsatz der Werkzeuge, die ich entwickle, schwierig wird, bzw. einfach erkennbar gemacht wird. So kann KI beispielsweise nicht nur eingesetzt werden, um fake news zu generieren, sondern auch, um zu erkennen, ob ein gegebener Text von KI erzeugt wurde oder nicht.
Wie und wer könnte sicherstellen, dass Entscheidungen im Rechtsbereich trotz KI transparent und nachvollziehbar bleiben und potenzielle Verzerrungen oder Vorurteile in den Algorithmen vermieden werden?
Vorurteile und Verzerrungen der Modelle sind typischerweise schon in den Daten, mit denen diese Modelle trainiert wurden, anzutreffen. Dies zu beheben ist schwierige Arbeit, da Daten in einer solchen Weise gesammelt bzw. aufbereitet werden müssen, dass solche Verzerrungen minimiert werden. Was genau eine Verzerrung bzw. ein Vorurteil ausmacht, ist ausserdem zu einem gewissen Grad subjektiv. Die Interpretierbarkeit von künstlichen neuronalen Netzwerken ist ein weites Feld der Forschung. Eine der einfachsten zu interpretierenden statistischen Methoden ist die lineare Regression, welche in fast allen Veröffentlichungen in empirischen Wissenschaften Verwendung findet. Moderne neuronale Netzwerke mit hunderten Schichten sind schwierig zu interpretieren. Dies zu verbessern ist auch eine Aufgabe für Mathematiker und Informatiker.
Wie können Juristen ihre Fähigkeiten und ihr Wissen weiterentwickeln, um in einer zunehmend von KI unterstützten Umgebung erfolgreich zu sein?
Ich halte es für gut möglich, dass ein Training zum Umgang mit KI Teil des Jurastudiums werden kann: Schon heute beschäftigen sich Menschen Vollzeit mit «prompt engineering», also damit, Eingaben für Sprachmodelle der künstlichen Intelligenz so zu formulieren, dass möglichst sinnvolle Antworten zurückkommen. Diese und ähnliche Kompetenzen können auch für eine schnelle Verarbeitung von Texten in der Rechtsbranche nützlich sein.
Vielen Dank für das Interview, Herr Janisch. Wir wünschen Ihnen weiterhin grossen Erfolg in der Forschung und auf Ihrem weiteren Lebensweg.