Vorsicht vor KI: Gerichtliche Geldstrafen wegen Missbrauchs und andere Risiken
Dass künstliche Intelligenz fast alle Berufe und auch den Rechtsberuf verändern wird, ist längst keine revolutionäre Aussage mehr. Doch die Risiken der künstlichen Intelligenz (im Folgenden KI) sind nach wie vor zahlreich.
In juristischen Kreisen wird zunehmend intensiv diskutiert, ob die gute juristische Praxis von Rechtsanwälten verlangt, KI zur Beratung ihrer Mandanten einzusetzen. Es geht also nicht darum, ob der Einsatz von KI sinnvoll ist, sondern ob er für einen Rechtsanwalt verpflichtend ist und ob die „traditionelle“ Arbeitsweise eine Fahrlässigkeit darstellt, die zu berufsrechtlicher Haftung führen kann. Wenn KI, wie oft betont wird, effizienter sein kann als unser Gehirn, sind wir es dann unserem Mandanten nicht schuldig, sie einzusetzen?
Derzeit handelt es sich hierbei noch um eine rein theoretische Diskussion, da KI nach wie vor viele Probleme hinsichtlich Ungenauigkeiten oder der korrekten Anwendung mit sich bringt.
Einer davon betrifft den Bereich des Verfahrensrechts – unser Fachgebiet –, nämlich dass Richter diese Technologie nutzen, um ihre Urteile zu fällen. Dies verstößt gegen die gesetzlichen Pflichten des Richters, der die Beweise persönlich abwägen muss. In diesem Zusammenhang verhängte der Richter-Rat gegen einen Richter eine Geldstrafe in Höhe von 1.000 Euro, weil er ein Urteil mithilfe von ChatGPT gefällt hatte. Richter können sich zwar der KI bedienen, dürfen aber ihr persönliches Urteilsvermögen nicht durch das der KI ersetzen.
Noch kurioser ist der Fall eines Rechtsanwalts, der kürzlich vom Gerichtshof der Kanarischen Inseln sanktioniert wurde, weil er mehrere Urteile des Obersten Gerichtshofs und des Verfassungsgerichts zitiert hatte, die die KI erfunden hatte. Das Gericht bezeichnete dieses Problem als ein zunehmend verbreitetes Phänomen, das dem Rechtsanwalt daher bekannt sein müsse. Es bezeichnete dies als das Problem der „Halluzinationen der KI“, was uns als treffender Begriff erscheint.
Es ist nicht das erste Mal, dass ähnliche Vorfälle in die Öffentlichkeit gelangen, bei denen ein Anwalt nicht existierende Urteile zitiert, die die KI einfach erfunden hat (oder, genauer gesagt, von einer Website übernommen hat, auf der diese erfunden worden waren). Andere spanische Gerichte haben aus diesem Grund Sanktionen verhängt.
Das Originellste an dem Fall auf den Kanarischen Inseln ist jedoch die vom Gericht verhängte Strafe: eine Geldbuße in Höhe von 840 Euro.
Woher stammt dieser so merkwürdige Betrag? Das Gericht hat geprüft, was ein Abonnement für eine geschlossene Rechts-KI kostet. Der Durchschnittspreis für ein Abonnement beträgt 70 Euro pro Monat bzw. 840 Euro pro Jahr – genau dieser Betrag entspricht der endgültigen Höhe der Geldbuße.
Unabhängig vom konkreten Fall möge diese kuriose Entscheidung uns allen dazu dienen, in diesen Bereichen auf dem Laufenden zu bleiben – sofern dies angesichts der exponentiellen Entwicklung überhaupt möglich ist. Doch das ist natürlich eine ganz andere Diskussion.
