Ich denke, auf #KI im Recht blicken wir derzeit falsch und, dass sie sich extrem schnell durchsetzen wird, aber nicht in Spruchkörpern.

@boink @AwetTesfaiesus Das ist eben das Problem. Statt die Richter und Anwälte so auszubilden und ihnen Software zu Verfügung zu stellen, die den Anforderungen entsprechen darf sich so wenig wie möglich ändern. Auch wenn es den Planeten kostet.

@_rya_
Die Frage ist doch nicht "ist das echte KI" sondern wird da automatisierungspotential genutzt? Die LLMs bringen am Ende nur die Stimme für das Telefonat.
Bleibt zu hoffen dass dieser Digitalisierungsschritt im Rechtswesen genauso langsam schleicht wie die letzten Jahrzehnte.
@AwetTesfaiesus
Das ist eine echt üble Perspektive, die du hier aufzeigst.
@chris_evelyn

@_rya_ @chris_evelyn

Trust me! Du musst vage informationen aus unstrukturierten Textdokumenten extrahieren. Das geht mit KI soweit ganz gut.

@AwetTesfaiesus Akten müssen unbedingt ausgedruckt und wieder eingescannt werden? Ich glaube ich komme da wirklich nicht mehr mit. Dafür bin ich wohl zu jung

@AwetTesfaiesus
Haha, schon im normalen, menschlichen Umgang mit Anwaltskanzleien hatte ich die witzigen Aussagen mit dem Wort "Büroversagen" gehört, wenn geschlampt wurde. Wenn ich die Probleme mit agentischer AI sehe, bin ich gespannt, wer sich in Zukunft um die Schadensersatzklagen kümmert, weil es Form- und Fristfehler, wegen falsch trainierter LLM gibt.

Sorry, ich bin da (schon fast leider) etwas tiefer in dem Umfeld AI, LLM und neuronaler Netzwerke unterwegs und Teile überhaupt nicht den Optimismus in diese magisch anmutende Technik.

Alles was auf generalistisch trainierte LLM-Weltwissenssysteme basiert, kann ohne Kontextwissen, nicht für spezifizierte autonome Arbeiten eingesetzt werden. Punkt.

Das ist leider so fundamental, das ändert sich die nächste Jahrzehnte nicht.

@beandev hoffentlich war es "Büroversehen"

@AwetTesfaiesus

Ich denke hier an ein Gegenbeispiel von @pluralistic , aus der Radiologie:

Grob gesagt, ist KI bereits jetzt häufig besser in der Lage, Aufnahmen auszuwerten. In der Theorie würden weniger Radiologen die Auswertung/ Überprüfung der KI übernehmen, die Diagnosen wären präziser und schneller. In der Realität würden die Radiologen aber zu Entscheidungsmaschinen, die unter großem Zeitdruck die Diagnosen überprüfen müssten, sie werden zu Maschinen reduziert.

@AwetTesfaiesus @_rya_ Ich tu diesen Link mal hier hin: https://www.bbc.com/news/articles/c0m17d8827ko

@AwetTesfaiesus dazu brauch ich doch keine KI (mit all dem aufwand und der fehleranfälligkeit), sondern ein tool wie doodle...

@AwetTesfaiesus @weddige Ich denke hilft zwischen juristischen Prozessen und Ablaufsprozessen, wie es auch z.B. in der Wirtschaft unzählige gibt zu unterscheiden. Bei letzteren gibt es oft Optimierungspotential. Aber das ist die Sicht von Prozessberatern auf einen Konzern. Juristen sehe ich analog zu Ärzten. Sehr viele kleine Buden, die iwie versuchen zu arbeiten. Es dürfte sehr schwierig sein dort einheitliche Schnittstellen und Prüfungen im Sinne eines Qualitätsmanagements zu installieren.

@AwetTesfaiesus Was hältst du von der Idee, dass KI nicht Leute arbeitslos machen könnte sondern ihre Produktivität steigern und dadurch neue Geschäftsfelder aufmachen könnte. Ala Linotype, welches Papierzeitung erst möglich gemacht hat.

@AwetTesfaiesus
Nope, wenn es damals nicht so traurig war, hatte es schon eine grotesk, komische Note, als sich mit Büroversagen entschuldigt wurde.

@chris_evelyn @_rya_ deshalb sehe ich diesen use case auch eher nicht

@AwetTesfaiesus
Du möchtest den Zugriff aufs beA bei einem Dienstleister speichern/sammeln? Ist das Postfach pro Kanzlei oder sind die Zugangsdaten personenbezogen?

Und: Du kannst nicht sicherstellen, dass das LLM nicht auf Anfrage beliebige Akten an beliebige Anfragende rausgibt. Siehe Beispiel: "LLM ist verantwortlich für einen Snackautomaten, packt Playstation 5 in den Einkauf und lässt sich dazu überreden das Sortiment auf 0$ Kaufpreis zu setzen, weil die Firma ja jetzt eine NGO sei."

Schlussendlich: Wer haftet?

@AwetTesfaiesus Aber da geht es doch genau um, Informationen zu extrahieren. Und das funktioniert halt nicht gut. @_rya_

@AwetTesfaiesus ich mache mir da auch gar keine Hoffnungen, dass das anders wäre. Ich weigere mich aber (Fehl-)Entwicklungen gutzuheißen, nur weil ich keine Hoffnung habe, dass es besser gehen könnte.

Eine Entwicklung, in der einseitig nur eine in-group profitiert, und alle anderen plötzlich erst mit KI-Agenten diskutieren müssen um mit ihrem Anliegen durchzukommen, ist IMHO gesamtgesellschaftlich ein Verlust.

@momo

Ihr glaubt mir das alles ja nicht, aber: das ist jetzt schon so! Ich habe mehrfach (!) fremde Akten zu mir ins Büro bekommen. Mehrfach(!). Ich werde nicht ins Detail gehen, aber: es ist sehr leicht für einen böswilligen Akteur an eine Akte zu kommen. Es gibt wenige Fälle, bei denen die Akten besonders gesichert sind. Ich schätze < 0,1% (Staatsschutz/Mafia). Aber auch die werden fast alle mit der Post verschickt.

@AwetTesfaiesus @yatil und das ist auch gut so. Ausbezahlte Löhne stützen die reale Wirtschaft und kurbeln sie an. Jede Sparbemühung würgt die Wirtschaft ab.

@AwetTesfaiesus du hast ja witzige Vorstellungen. Bei der KI-Fehlerquote würde ich mir das als Staat & Kanzlei nicht durchgehen lassen. Die KI schickt dann an Richter & Anwalt verschiedene Termine, in Sitzungssälen die es nicht gibt, mit Adressen die es nicht gibt, dann muss tausendfach nachgearbeitet werden, die Verzögerung & Kosten bleiben bei uns allen hängen. Dann schickt sie Termine an falsche Parteien, mit vertraulichen Infos anderer Parteien. Datenschutz kann die KI nämlich auch nicht.

@AwetTesfaiesus Woher kommt deine Zukunftsprognose für die Fähigkeiten von „KI“ und welche konkreten „KI“-Techniken meinst du?