Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.

Till Westermayer

@BlumeEvolution Sorgen ja, aber nicht über Emergenz.

schrotthaufen

@BlumeEvolution Bewusstsein werden die LLMs nicht entwickeln. Das ist Doomer-Gelaber der anti-menschlichen Longtermism-Bubble, um noch mehr Ressourcen für ihren AGI Quatsch zu bekommen. „WeNn WiR dA kEiN aLiGnMeNt HiNbEkOmMeN sInD wIr AlLe ToT!1!“ Das viel größere Problem ist, dass die LLM Rechenzentren uns durch beschleunigen der Klimakatastrophe Kipppunkte überschreiten lassen. Aber als Angriffsvektor via Promptinjection ist OpenClaw super Unter dem Aspekt finde ich LLM-Agents gefährlich.

Ben ☀️shine

@BlumeEvolution
@tante hat darüber auch schon geschrieben. Zitat:
"And here we see another kind of diffusion of responsibility that the “AI” wave is creating: People just releasing whatever software they generated into the wild for others to run. Often with huge promises [...] No “this is experimental”, “this is potentially dangerous”[...]."

https://tante.cc/2026/02/14/diffusion-of-responsibility/

Fietsbel

@cubeos @BlumeEvolution Leuten mit naturwissenschaftlichem Hintergrund sollte klar sein, dass und warum es “künstliche Intelligenz“ in strengem Sinne nicht gibt. Eine Software tut, wozu sie von Menschen programmiert wurde. Sie „lernt“ exakt nur bezüglich der Zwecke, für die sie programmiert wurde. Dies ist auch kein menschliches Lernen, sondern ein automatischer Optimierungsprozess. #AI #KI 1/

schrotthaufen

@BlumeEvolution Nachtrag: Das heißt natürlich nicht, dass Menschen solchen Systemen keine Intelligenz/kein Bewusstsein zuschreiben. Sieht man sehr gut an den ganzen LLM-Partnern. (Das gab es auch bei Eliza schon.)

ℂ𝕖𝕝𝕖𝕤𝕥𝕖@world: /# :blinking_cursor:

@cubeos @BlumeEvolution Wie war das nochmal mit dem Turing Test... Das ist mehr ein Test für Menschen als für Maschinen. Es braucht nicht viel, dass Menschen vertrauen. Bei einem Stein mit Wackelaugen fängt es schon an.

Michael Blume

@celeste_42bit

Ja, der religionspsychologische Begriff dafür heißt #HAD , Hyper-Agency-Detection, auf deutsch: Überwahrnehmung von Wesenhaftigkeit.

@cubeos

https://scilogs.spektrum.de/natur-des-glaubens/maria-toast-jesus-chips-die/

Fietsbel

@cubeos @BlumeEvolution Deswegen sollte #KI niemals für sensible #ethische Beurteilungen oder sonstige sehr #verantwortungsvolle und daher genuin menschliche #Entscheidungen eingesetzt werden. 2/ #AI

cubeos

@Fietsbel @BlumeEvolution Und das naturwissenschaftliche Gegenargument dazu ist halt, dass die Neuronen in unserem Kopf ja auch nichts anderes tun als erlernte Wahrnehmung und erlerntes Verhalten probabilistisch zu verknüpfen und wieder abzuspielen und der von der Evolution und vom Selbsterhaltungstrieb vorgegebene Zweck ist halt weiterzuleben und Kinder zu haben. Und da das in Gruppen besser geht als alleine bekommst Du dann mit der Zeit Kooperation, Sprache, Gruppen und Gesellschaften etc. Wo genau geht sowas nicht mit künstlicher Intelligenz? Ich würde sagen, da ist noch viel Bedarf an Forschung...

Sagittarius_59

@BlumeEvolution "... aber deren systemische Vernetzung schon - das bedeutet #Emergenz."

#Neuron

INSTINKTIVES/VEGETATIVES Bewusstsein, in gleichermaßen unverarbeitet-instinktiver Bewusstseinsschwäche von Angst, Gewalt und egozentriertem "Individualbewusstsein" - EMOTIONEN/EMOTIONALITÄT, die nächste und bisher letzte Stufe, seit Mensch erstem und bisher einzigen GEISTIGEN Evolutionssprung, ist in der Vernetzung für die wettbewerbsbedingt-konfuse Symptomatik der Gott / die "Vernunft" der ...️
🥴

cubeos

@Fietsbel @BlumeEvolution Da gehe ich mit, denn eine wie auch immer geartete künstliche Intelligenz hat halt kein "skin in the game" in der Weise wie Menschen das haben.

Fietsbel

@cubeos @BlumeEvolution Die #Hirnforschung ist im Moment meines Wissens nicht so weit, so etwas zu beurteilen. Wie z.B. #Bewusstsein geht und was es ist, wie demnach bewusstes Lernen vor sich geht, ist größtenteils und grundsätzlich noch unbekannt. Habe ich gerade bei einer Vorlesung im letzten Sommer mal wieder gehört. Und das ist der Zustand nach Jahrzehnten Hirnforschung.

Sagittarius_59

@BlumeEvolution

#Emergenz

Für vernunftbegabten Mensch würde das bedeuten: Das ganzheitlich-ebenbildliche Wesen Mensch, in fusionierter Vernunft des geistig-heilendem Selbst- und Massenbewusstseins ("wie im Himmel all so auf Erden / Gemeinschaft in Gemeinschaftseigentum und Verstand von Gott als Methapher der Vernunft der Schöpfung), ANSTATT Ränkespiele in Dummheit/Bewusstseinsbetäubung des egozentriertem "Individualbewusstseins"️

Fietsbel

@cubeos @BlumeEvolution Und deshalb lehne ich beispielsweise vollautomatisiertes Fahren ohne Fahrer ab. Wer hätte sonst die Verantwortung? Darüber würde in endlosen Prozessen gestritten. Unfallopfer wären in einer noch traurigeren Lage, wenn das möglich ist.

Veit Schiele

@BlumeEvolution Ich habe mal versucht, die Auswirkung von LLM-Agenten auf Open-Source-Projekte zu analysieren und mögliche Verteidigungsstrategien aufzuzeigen: https://cusy.io/de/blog/how-llm-agents-endanger-open-source-projects.html

cubeos

@Fietsbel @BlumeEvolution Ja, ich erinnere mich da an einen Vortrag von Stuart Hameroff, der hat mit Roger Penrose diese Idee verfolgt dass Bewusstsein ein Quanteneffekt ist. Leider lief das auf so ein theoretisches Schönheitsargument heraus "Wir verstehen Quanteneffekte nicht und wir verstehen Bewusstsein nicht und wenn wir folgende Parameter richtig wählen, dann ist die Koherenzzeit eines hypothetischen Neuro-Quantent-Systems genauso lang wie die zeitliche Wahrnehmungsschwelle des menschlichen Gehirns, sowas wie 50ms. Also kollabiert die Quantenfunktion des Gehirns nach 50ms und wird zu Bewusstsein. Und desswegen ist Bewusstsein ein Quanteneffekt"

Fietsbel

@cubeos @BlumeEvolution Diese ganze Stoßrichtung erscheint mir verfehlte Innovation. Wir sollten uns bei öffentlicher Finanzierung auf Innovation konzentrieren, da die uns als Erdbewohner:innen hilft und nützt, z.B. bezüglich #Klimakrise, #Biodiversität, #Behinderungen, #Gesundheit usw.

Yrrsinn

@BlumeEvolution Ich denke, diese Konstrukte werden wie ein Kartenhaus an ihrer eigenen Komplexität zusammenbrechen, oder durch Prompt-Injection Angriffe kaputt gehen.

Ein Bewusstsein werden sie nicht entwickeln, auch wenn sicher einige Leute ihnen so etwas zusprechen.

Die größte Sorge machen mir Systeme und Prozesse, wenn diesen AI Systemen die Kreditkarte ausgeht oder sie aus einem anderen Grund nicht mehr funktionieren. An Rückfallebenen wird in den Kreisen eher nicht gedacht.

cubeos

@Fietsbel @BlumeEvolution Nur weiss man das halt vorher nicht. Ich kenne da z.B. ein paar Zahlentheoretiker, die sich in den 60ern mit modularer Arithmetik beschäftigt haben, esotherischere Mathematik gab es damals kaum. Nur basiert mittlerweile unsere komplette IT-Sicherheit auf der Kryptographie, die sich aus deren Forschung entwickelt hat. Inclusive der TLS-Sicherheit dieses Mastodon-Servers.

U.Lancier

BlumeEvolution@sueden.social Liegt dem Ganzen nicht eh generell als Basis die „Mustererkennung“ zugrunde?

Die Fähigkeit dazu finde ich immer wieder als wichtigstes Argument, warum der Mensch den übrigen Tieren überlegen sei. Wer Muster in scheinbarem Chaos erkennen kann, kann dies zu seinem Vorteil nutzen, da es zu planen erlaubt. Z.B. erst wer Jahreszeitenwechsel, Migrationsverhalten, erkannt hat, kann (oder hat Anlass) sinnvoll Vorratshaltung und Schutzbauten zu entwickeln. Mustererkennung sei die Basis für Entwicklung von Kommunikation, die dann zu Sprache, Überlieferung und abstraktem Lernen und Zivilisation führt.

Der Mensch findet aber auch „falsche“ Muster, z.B. beim Glücksspiel, bei Religionsentwicklung und bei nicht-intelligenten Strukturen. Das hat er nun mit LLM digitalisiert.

Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen &amp; sich auch untereinander vernetzen.

Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.