"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
-
Wenn Jurist*innen wirklich in der Breite lügen, wie Frau Tesfaiesus hier beschreibt, dann haben wir natürlich noch ganz andere Probleme. Weiß jetzt nicht, wie andere Anwälte das sehen würden.
Finde das auf jeden Fall keine sonderlich gute Beschwichtigung: "Falschinformationen durchs Werkzeug sind egal, wir lügen eh ständig".
Weiß nich, wäre nicht meine Verteidigung.
-
Wenn Jurist*innen wirklich in der Breite lügen, wie Frau Tesfaiesus hier beschreibt, dann haben wir natürlich noch ganz andere Probleme. Weiß jetzt nicht, wie andere Anwälte das sehen würden.
Vor allem gibt es einen Unterschied zwischen vorsätzlichen Lügen in Schriftsätzen und intransparenten falschen Zitaten, bei denen unklar ist, dass sie herbeihaluziniert wurden.
-
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante wild, hatte schon mal ein längliches Gespräch hier mit dieser Person, danach habe ich mich für stummschalten entschieden, weil ich lieber eine ruhige Zeit hier verbringe, also soweit möglich
-
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante
Fand ich auch ziemlich seltsames Statement. Klang nach einer Mischung aus "haben wir schon immer so gemacht" und "KI ist gar nicht so schlimm". -
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante Bisschen schade, diese kritische Äußerung (die ich generell teile und wichtig finde) ausgerechnet an einen Thread zu hängen, der die sehr stark vereinfachte Aussage "ist egal, war schon immer so auch bei Menschen" gar nicht getroffen hat, sondern zum differenzierten Nachdenken im Falle von rechtlichen Themen eingeladen (und in der Folge auch mit anderen diskutiert) hat. Ein etwas unangenehmer, reflexhafter Schnellschuß vielleicht? Wollen wir das so diskutieren? Ich nicht.
-
Wenn Jurist*innen wirklich in der Breite lügen, wie Frau Tesfaiesus hier beschreibt, dann haben wir natürlich noch ganz andere Probleme. Weiß jetzt nicht, wie andere Anwälte das sehen würden.
@tante Jurist*innen lügen nicht in der Breite, sondern arbeiten manchmal einfach schluderig. Es geht hier nicht darum, dass laufend Fundstellen erfunden werden, sondern sich einfach wie überall Fehler einschleichen und diese Zitate dann blind übernommen werden. Das ist unsauber aber kein bewusstes Lügen.Es gibt sehr oft eine ganze Reihe an Zitaten, die immer im Block angeführt werden, wenn sich da ein Zahlendreher einschleicht und das blind übernommen wird, kann sich das auch zu einem gewissen Maße verbreiten. Vergleich zu KI Systemen nicht nachvollziehbar imho
-
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante Ihr Argument ist doch, das das Erfinden von Fundstellen oder deren Inhalt in dem Zusammenhang überhaupt nicht als Betrug zu werten ist. Und dass man KIs deshalb nicht kritisieren dürfe, schreibt sie auch nicht. Sie hat überhaupt keine Bewertung vorgenommen, sondern auf eine Tatsache hingewiesen.
-
Wenn Jurist*innen wirklich in der Breite lügen, wie Frau Tesfaiesus hier beschreibt, dann haben wir natürlich noch ganz andere Probleme. Weiß jetzt nicht, wie andere Anwälte das sehen würden.
@tante ist das nicht der Job von Juristen?
-
@tante Ich kann auch wirklich nicht verstehen, was da jetzt die Intention ist. Wenn manche Menschen falsch rechnen, soll ich nicht den Anspruch haben, dass ein Taschenrechner richtig rechnet? Ich sehe hier nur den Versuch einer Legitimierung einer offensichtlich dysfunktionalen Technologie und frage mich, wem das eigentlich nutzt und warum nicht gerade die Politik den Anspruch hat, das zu bessern.
@leitmedium @tante Die Intention scheint mir erst mal zu sein, das zu diskutieren, ohne schon eine eindeutige Meinung dazu gefasst zu haben.
️ -
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante
a) Ich hatte auch schon leichte Erregungsprobleme, als ich den zitierten Post im Orginal las ...
b) Hast du im Thread kommentiert, oder "nur" als Zitat?(es gibt manchmal quer-instanz Sichtbarkeitsprobleme, deswegen frage ich b))
-
Finde das auf jeden Fall keine sonderlich gute Beschwichtigung: "Falschinformationen durchs Werkzeug sind egal, wir lügen eh ständig".
Weiß nich, wäre nicht meine Verteidigung.
@tante Das ist aber ein Take, der mir zunehmend begegnet.
-
Finde das auf jeden Fall keine sonderlich gute Beschwichtigung: "Falschinformationen durchs Werkzeug sind egal, wir lügen eh ständig".
Weiß nich, wäre nicht meine Verteidigung.
@tante habe von Jugendlichen schon gehört, dass „voll KI“ sagen statt den Vorwurf zu formulieren, zu lügen
-
@tante Ihr Argument ist doch, das das Erfinden von Fundstellen oder deren Inhalt in dem Zusammenhang überhaupt nicht als Betrug zu werten ist. Und dass man KIs deshalb nicht kritisieren dürfe, schreibt sie auch nicht. Sie hat überhaupt keine Bewertung vorgenommen, sondern auf eine Tatsache hingewiesen.
und Menschen, die beim Lügen erwischt werden, erleiden einen Reputationsschaden.
das Argument, welches sie bemüht impliziert ja auch, dass Lügen so normal ist, dass eins das Leuten / ~der KI~ nicht negativ anrechnen soll. wilder Take
(zussätzlich wäre dann noch das Argument of Scale, dass Menschen gar nicht so massiv lügen _können_)
-
RE: https://mastodon.social/@AwetTesfaiesus/116119030408309460
"Menschen betrügen manchmal, deshalb darf man eine Maschine, die ziemlich verlässlich falsche Informationen verbreitet nicht deshalb kritisieren" ist ein ziemlicher Hot Take für eine *checks notes* Bundestagsabgeordnete.
Selbe Logik: "Menschen fahren manchmal zu schnell, daher dürfen Selbstfahrende Autos so schnell fahren, wie sie wollen." oder "Menschen machen manchmal den Grill an und erzeigen CO2, daher braucht eine automatisierte Produktionsstraße sich nicht an CO2 Limits zu halten".
Das ist eine Kapitulation. Die Aufgabe politischen Gestaltungswillens weil man an Technikdeterminismus glaubt.
Nicht ideal für die Obfrau des Ausschusses für u.a. Medien.
@tante Warum sagst du ihr das nicht direkt? Wenn es Kritik gibt, kannst du sie gerne an sie richten, statt über sie zu schreiben.
-
Das (vorgeschobene) Versprechen von Automatisierung ist ja die Sicherung und Standardisierung von Qualität: Es kommt verlässlich ein gewisser Qualitätsstandard heraus. Das ist eine der zentralen Legitimationen von Automatisierung (neben der echten: Arbeitnehmermacht reduzieren und Kosten drücken).
Wenn man das nimmt, dann gehts halt wirklich nur noch ums Kosten drücken. Das ist in einem Bereich wie Jura, wo es um existenzielle Bedürfnisse und Rechte von Menschen geht, ziemlich fatal. Wäre jetzt nicht mein Move da so mit "naja, is ja eh so" drüber wegzugehen.
@tante der Wille, Kosten zu drücken, scheint auch Antrieb zu sein, wenn vermeintliche Eitelkeiten kritisiert werden.
-
Finde das auf jeden Fall keine sonderlich gute Beschwichtigung: "Falschinformationen durchs Werkzeug sind egal, wir lügen eh ständig".
Weiß nich, wäre nicht meine Verteidigung.
@tante Das wäre wohl der psychologische Effekt von «Deception Fatigue» [1], wo niemand mehr Lügen als sozial unakzeptabel zurückweist, sondern sie höchstens noch mit «aach, eS lüGEn dOCH eH aLLE!» abtun.
-
@tante der Wille, Kosten zu drücken, scheint auch Antrieb zu sein, wenn vermeintliche Eitelkeiten kritisiert werden.
@ingo @tante Jede Automatisierung hat mindestens zu Beginn - oft auch bis heute - schon immer Qualität reduziert.
Und was KI angeht: Das Versprechen ist ja hier nicht ein Qualitätsstandard sondern eine Beschleunigung um Größenordnungen. Viele sind bereit dafür Einbußen bei der Qualität hinzunehmen. Und das ist meiner Erfahrung nach nicht nur ein Kostendrückenargument sondern für viele tatsächlich eine (gefühlte oder wirkliche) Erleichterung im Alltag.
-
Finde das auf jeden Fall keine sonderlich gute Beschwichtigung: "Falschinformationen durchs Werkzeug sind egal, wir lügen eh ständig".
Weiß nich, wäre nicht meine Verteidigung.
@tante es ist im Zweifelsfall ja auch einfach nur ein weiterer Layer an Falschheit. Also nicht naja das eine macht Fehler das andere auc sondern der Mensch der immer Fehler macht nutzt jetzt ein Programm das immer Fehler macht. Das akkumuliert sich. Und bei kommerziellen Produkten schiebt dann vll. Noch der Besitzer absichtlich falsches rein.
-
@ingo @tante Jede Automatisierung hat mindestens zu Beginn - oft auch bis heute - schon immer Qualität reduziert.
Und was KI angeht: Das Versprechen ist ja hier nicht ein Qualitätsstandard sondern eine Beschleunigung um Größenordnungen. Viele sind bereit dafür Einbußen bei der Qualität hinzunehmen. Und das ist meiner Erfahrung nach nicht nur ein Kostendrückenargument sondern für viele tatsächlich eine (gefühlte oder wirkliche) Erleichterung im Alltag.
-
