Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.

c0r3nn

@BlumeEvolution Programmierung mit KI ist dann sowas? https://www.peppercarrot.com/en/miniFantasyTheater/029.html

Sebastian

@BlumeEvolution Openclaw hat ja „nur“ Zugriff auf das digitale Leben des Nutzers und alle Accounts - wenn der das zulässt. Ich sehe das also eher als Problem für den Nutzer.
Wenn da professionelle Admins ihre Passwörter für den Server freigeben ist das brandgefährlich, fahrlässig und mindestens sehr dämlich. Denen hätte man vorher aber auch nicht vertrauen sollen.

Edith Mair 💙💛

@BlumeEvolution

Herr Steinberger war im ZIB2-Interview und war mächtig stolz auf sich.

Ich musste an den Zauberlehrling denken und warte auf den Tag, an dem sich sein Produkt gegen ihn richtet. Wenn's mal einen LKW voll Barbiepuppen für ihn bestellt oder so.

Michael Blume

Zum Hintergrund: Ich habe meine Doktorarbeit zu Religion & #Hirnforschung, der damals sog. Neurotheologie geschrieben.

Schon damals war es Konsens, dass das einzelne Neuron (Nervenzelle) noch kein #Bewusstsein hat, aber deren systemische Vernetzung schon - das bedeutet #Emergenz.

#Religion emergiert auch als Selbstbeobachtung zur Steigerung von Kooperation & Reproduktion in rituell abgegrenzten Gruppen. Was ich derzeit i.S. #KI sehe, erscheint mir gierig & fahrlässig. https://www.hirzel.de/gott-gene-und-gehirn/9783777622231

? Offline

@BlumeEvolution Gerade zur Verantwortungsdiffusion und auch sonst als kritische Stimme zu dem aktuellen KI / AI - Boom lohnt sich die Rezeption von https://pluralistic.net/2025/12/05/pop-that-bubble/

Manche der dort angesprochenen Themen finden sich übrigens auch in Beobachtungen von Hartmut Rosa zur Selbstwirksamkeit wieder im Buch Situation und Konstellation
Vom Verschwinden des Spielraums

Michael Blume

@edithmair1

Ja, habe das ZIB-Interview hier geteilt & zur offenen Diskussion gestellt. https://sueden.social/@BlumeEvolution/116090479599042220

Michael Blume

@HGU

Da haben wir echt viele Interessen gemeinsam!

Das neue Hartmut #Rosa - Buch habe ich mir gestern gekauft & bin gespannt!

cubeos

@BlumeEvolution Naja, ich habe meine Doktorarbeit 2001 über autonome Robotersysteme geschrieben und auch da war das Thema emergentes Verhalten von Gruppen von Robotern schon ein heiß diskutiertes Thema. Ich bin immer noch der Überzeugung das sich ein großer Teil der Emergenz der KI in der Wahrnehmung und Zuschreibung bei Beobachtern stattfindet. Die Systeme sind nicht fundamental intelligent aber Menschen sind gut darin, emergentem komplexen Verhalten eine Intelligenz zuzuschreiben. Passiert z.B. auch bei Fisch- oder Vogelschwärmen. Die Herausforderungen bei LLMs und Agentensystemen wie OpenClaw ist nicht deren inherente emergente Intelligenz (denn da ist nicht so viel) sondern die Zuschreibung von Intelligenz durch Menschen und die daraus resultierende Überantwortung von Verantwortung für Aktivitäten, für die die Agenten objektiv ungeeignet sind. "Mein Agent kann besser Dokumente zusammenfassen als der Azubi, dann kann er sicher auch besser Reisen buchen, Dinge bestellen, Entscheidungen treffen und Maschinen steuern."

Michael Blume

Danke, @cubeos

Habe bewusst zurückhaltend formuliert, da nach meiner Einschätzung starke #Emergenz nicht notwendig ist, um realen Schaden anzurichten. Denn die Religionspsychologie bestätigt ja samt TOM / Mentalisierung die menschlichen Anfälligkeiten, die auch Du beobachtest…

Erwin Lottermann

@BlumeEvolution

Verantwortungsdiffusion hat da begonnen, wo niemand die Verantwortung für sein eigenes digitales Handeln sehen will.

HungenInfo

@BlumeEvolution
Ich würde dem Steinberger keinen Vorwurf machen wollen. Der ist einfach ein Nerd, der wild drauflos gebastelt hat, so nach dem Motto "weil ich es kann".

Jetzt hat ihn das Silicon Valley eingefangen, um Schlimmeres zu verhindern. Die werden ihm erstmal erklären, warum man das so nicht machen kann. Der Schock muss sie wirklich hart getroffen haben. Kommt da so ein dusseliger Ösi daher und will ihnen die (KI) Welt erklären. Eieiei. ‍️

Till Westermayer

@BlumeEvolution Sorgen ja, aber nicht über Emergenz.

schrotthaufen

@BlumeEvolution Bewusstsein werden die LLMs nicht entwickeln. Das ist Doomer-Gelaber der anti-menschlichen Longtermism-Bubble, um noch mehr Ressourcen für ihren AGI Quatsch zu bekommen. „WeNn WiR dA kEiN aLiGnMeNt HiNbEkOmMeN sInD wIr AlLe ToT!1!“ Das viel größere Problem ist, dass die LLM Rechenzentren uns durch beschleunigen der Klimakatastrophe Kipppunkte überschreiten lassen. Aber als Angriffsvektor via Promptinjection ist OpenClaw super Unter dem Aspekt finde ich LLM-Agents gefährlich.

Ben ☀️shine

@BlumeEvolution
@tante hat darüber auch schon geschrieben. Zitat:
"And here we see another kind of diffusion of responsibility that the “AI” wave is creating: People just releasing whatever software they generated into the wild for others to run. Often with huge promises [...] No “this is experimental”, “this is potentially dangerous”[...]."

https://tante.cc/2026/02/14/diffusion-of-responsibility/

Fietsbel

@cubeos @BlumeEvolution Leuten mit naturwissenschaftlichem Hintergrund sollte klar sein, dass und warum es “künstliche Intelligenz“ in strengem Sinne nicht gibt. Eine Software tut, wozu sie von Menschen programmiert wurde. Sie „lernt“ exakt nur bezüglich der Zwecke, für die sie programmiert wurde. Dies ist auch kein menschliches Lernen, sondern ein automatischer Optimierungsprozess. #AI #KI 1/

schrotthaufen

@BlumeEvolution Nachtrag: Das heißt natürlich nicht, dass Menschen solchen Systemen keine Intelligenz/kein Bewusstsein zuschreiben. Sieht man sehr gut an den ganzen LLM-Partnern. (Das gab es auch bei Eliza schon.)

ℂ𝕖𝕝𝕖𝕤𝕥𝕖@world: /# :blinking_cursor:

@cubeos @BlumeEvolution Wie war das nochmal mit dem Turing Test... Das ist mehr ein Test für Menschen als für Maschinen. Es braucht nicht viel, dass Menschen vertrauen. Bei einem Stein mit Wackelaugen fängt es schon an.

Michael Blume

@celeste_42bit

Ja, der religionspsychologische Begriff dafür heißt #HAD , Hyper-Agency-Detection, auf deutsch: Überwahrnehmung von Wesenhaftigkeit.

@cubeos

https://scilogs.spektrum.de/natur-des-glaubens/maria-toast-jesus-chips-die/

Fietsbel

@cubeos @BlumeEvolution Deswegen sollte #KI niemals für sensible #ethische Beurteilungen oder sonstige sehr #verantwortungsvolle und daher genuin menschliche #Entscheidungen eingesetzt werden. 2/ #AI

cubeos

@Fietsbel @BlumeEvolution Und das naturwissenschaftliche Gegenargument dazu ist halt, dass die Neuronen in unserem Kopf ja auch nichts anderes tun als erlernte Wahrnehmung und erlerntes Verhalten probabilistisch zu verknüpfen und wieder abzuspielen und der von der Evolution und vom Selbsterhaltungstrieb vorgegebene Zweck ist halt weiterzuleben und Kinder zu haben. Und da das in Gruppen besser geht als alleine bekommst Du dann mit der Zeit Kooperation, Sprache, Gruppen und Gesellschaften etc. Wo genau geht sowas nicht mit künstlicher Intelligenz? Ich würde sagen, da ist noch viel Bedarf an Forschung...

Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen &amp; sich auch untereinander vernetzen.

Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.