"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.

Caspar C. Mierau

@tante Ich kann auch wirklich nicht verstehen, was da jetzt die Intention ist. Wenn manche Menschen falsch rechnen, soll ich nicht den Anspruch haben, dass ein Taschenrechner richtig rechnet? Ich sehe hier nur den Versuch einer Legitimierung einer offensichtlich dysfunktionalen Technologie und frage mich, wem das eigentlich nutzt und warum nicht gerade die Politik den Anspruch hat, das zu bessern.

Felix Eckhardt

@tante das sagt sie so nicht. Sie stellt erstmal nur fest, dass es da keinen Unterschied gibt. Ob das in Ordnung ist oder nicht, bewertet sie nicht. Das sagt sie hier übrigens auch explizit: https://mastodon.social/@AwetTesfaiesus/116119100575553932

tante

Das (vorgeschobene) Versprechen von Automatisierung ist ja die Sicherung und Standardisierung von Qualität: Es kommt verlässlich ein gewisser Qualitätsstandard heraus. Das ist eine der zentralen Legitimationen von Automatisierung (neben der echten: Arbeitnehmermacht reduzieren und Kosten drücken).

Wenn man das nimmt, dann gehts halt wirklich nur noch ums Kosten drücken. Das ist in einem Bereich wie Jura, wo es um existenzielle Bedürfnisse und Rechte von Menschen geht, ziemlich fatal. Wäre jetzt nicht mein Move da so mit "naja, is ja eh so" drüber wegzugehen.

Emily Stronk :blobfoxknife:

@leitmedium @tante irgendwie ja auch die legitimierung eines offenbar dysfunktionalen Systems an sich. Habe zumindest nicht das Gefühl, dass die meisten Leute erfreut wären zu wissen, dass es bei juristischen Verfahren nicht um Expertise sondern um clever lügen geht. Also: wenn alle falsch rechnen dann ist falsch rechnen die Wahrheit

tante

@felix_eckhardt "keinen Unterschied"? Ja, wenn man nur auf den Text, der herauskommt, schaut.

Aber natürlich machen Intentionen, Ziele usw. für uns ganz massiv einen Unterschied. Und in welche Skalierung lügen Anwälte denn? Und wie sieht die Skalierung aus, wenn man jetzt "Jura KI's" mit recht hoher Fehlerquote überall deployed?

Da sind so viele Kategorienfehler drin, dass man kaum weiß, wo man anfangen soll.

tante

Wenn Jurist*innen wirklich in der Breite lügen, wie Frau Tesfaiesus hier beschreibt, dann haben wir natürlich noch ganz andere Probleme. Weiß jetzt nicht, wie andere Anwälte das sehen würden.

tante

Finde das auf jeden Fall keine sonderlich gute Beschwichtigung: "Falschinformationen durchs Werkzeug sind egal, wir lügen eh ständig".

Weiß nich, wäre nicht meine Verteidigung.

Knud Jahnke

@tante

Vor allem gibt es einen Unterschied zwischen vorsätzlichen Lügen in Schriftsätzen und intransparenten falschen Zitaten, bei denen unklar ist, dass sie herbeihaluziniert wurden.

Somlu

@tante wild, hatte schon mal ein längliches Gespräch hier mit dieser Person, danach habe ich mich für stummschalten entschieden, weil ich lieber eine ruhige Zeit hier verbringe, also soweit möglich

diabhoil

@tante
Fand ich auch ziemlich seltsames Statement. Klang nach einer Mischung aus "haben wir schon immer so gemacht" und "KI ist gar nicht so schlimm".

doncish

@tante Bisschen schade, diese kritische Äußerung (die ich generell teile und wichtig finde) ausgerechnet an einen Thread zu hängen, der die sehr stark vereinfachte Aussage "ist egal, war schon immer so auch bei Menschen" gar nicht getroffen hat, sondern zum differenzierten Nachdenken im Falle von rechtlichen Themen eingeladen (und in der Folge auch mit anderen diskutiert) hat. Ein etwas unangenehmer, reflexhafter Schnellschuß vielleicht? Wollen wir das so diskutieren? Ich nicht.

Hannah Ruschemeier

@tante Jurist*innen lügen nicht in der Breite, sondern arbeiten manchmal einfach schluderig. Es geht hier nicht darum, dass laufend Fundstellen erfunden werden, sondern sich einfach wie überall Fehler einschleichen und diese Zitate dann blind übernommen werden. Das ist unsauber aber kein bewusstes Lügen.Es gibt sehr oft eine ganze Reihe an Zitaten, die immer im Block angeführt werden, wenn sich da ein Zahlendreher einschleicht und das blind übernommen wird, kann sich das auch zu einem gewissen Maße verbreiten. Vergleich zu KI Systemen nicht nachvollziehbar imho

OrntLaOkro

@tante Ihr Argument ist doch, das das Erfinden von Fundstellen oder deren Inhalt in dem Zusammenhang überhaupt nicht als Betrug zu werten ist. Und dass man KIs deshalb nicht kritisieren dürfe, schreibt sie auch nicht. Sie hat überhaupt keine Bewertung vorgenommen, sondern auf eine Tatsache hingewiesen.

BitHive :python:

@tante ist das nicht der Job von Juristen?

Benjamin Braatz

@leitmedium @tante Die Intention scheint mir erst mal zu sein, das zu diskutieren, ohne schon eine eindeutige Meinung dazu gefasst zu haben. ‍️

lobingera

@tante
a) Ich hatte auch schon leichte Erregungsprobleme, als ich den zitierten Post im Orginal las ...
b) Hast du im Thread kommentiert, oder "nur" als Zitat?

(es gibt manchmal quer-instanz Sichtbarkeitsprobleme, deswegen frage ich b))

Rainer Zufall

@tante Das ist aber ein Take, der mir zunehmend begegnet.

Ingo Stützle

@tante habe von Jugendlichen schon gehört, dass „voll KI“ sagen statt den Vorwurf zu formulieren, zu lügen

kami_kadse

@OrntLaOkro @tante

und Menschen, die beim Lügen erwischt werden, erleiden einen Reputationsschaden.

das Argument, welches sie bemüht impliziert ja auch, dass Lügen so normal ist, dass eins das Leuten / ~der KI~ nicht negativ anrechnen soll. wilder Take

(zussätzlich wäre dann noch das Argument of Scale, dass Menschen gar nicht so massiv lügen _können_)

Barbara Wagner

@tante Warum sagst du ihr das nicht direkt? Wenn es Kritik gibt, kannst du sie gerne an sie richten, statt über sie zu schreiben.