Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.
-
@BlumeEvolution Naja, ich habe meine Doktorarbeit 2001 über autonome Robotersysteme geschrieben und auch da war das Thema emergentes Verhalten von Gruppen von Robotern schon ein heiß diskutiertes Thema. Ich bin immer noch der Überzeugung das sich ein großer Teil der Emergenz der KI in der Wahrnehmung und Zuschreibung bei Beobachtern stattfindet. Die Systeme sind nicht fundamental intelligent aber Menschen sind gut darin, emergentem komplexen Verhalten eine Intelligenz zuzuschreiben. Passiert z.B. auch bei Fisch- oder Vogelschwärmen. Die Herausforderungen bei LLMs und Agentensystemen wie OpenClaw ist nicht deren inherente emergente Intelligenz (denn da ist nicht so viel) sondern die Zuschreibung von Intelligenz durch Menschen und die daraus resultierende Überantwortung von Verantwortung für Aktivitäten, für die die Agenten objektiv ungeeignet sind. "Mein Agent kann besser Dokumente zusammenfassen als der Azubi, dann kann er sicher auch besser Reisen buchen, Dinge bestellen, Entscheidungen treffen und Maschinen steuern."
-
Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.
Und deren Ersteller Peter #Steinberger - der stolz verkündet, große Teile der Anwendung wiederum mit #KI programmiert bzw. gevibecoded zu haben - heuert nun bei #OpenAI an...
Kannst Du meine Sorgen vor einer nahezu ungebremsten KI- Emergenz & #Verantwortungsdiffusion nachvollziehen? #Medienethik #KI #Emergenz
Verantwortungsdiffusion hat da begonnen, wo niemand die Verantwortung für sein eigenes digitales Handeln sehen will.
-
Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.
Und deren Ersteller Peter #Steinberger - der stolz verkündet, große Teile der Anwendung wiederum mit #KI programmiert bzw. gevibecoded zu haben - heuert nun bei #OpenAI an...
Kannst Du meine Sorgen vor einer nahezu ungebremsten KI- Emergenz & #Verantwortungsdiffusion nachvollziehen? #Medienethik #KI #Emergenz
@BlumeEvolution
Ich würde dem Steinberger keinen Vorwurf machen wollen. Der ist einfach ein Nerd, der wild drauflos gebastelt hat, so nach dem Motto "weil ich es kann".Jetzt hat ihn das Silicon Valley eingefangen, um Schlimmeres zu verhindern. Die werden ihm erstmal erklären, warum man das so nicht machen kann. Der Schock muss sie wirklich hart getroffen haben. Kommt da so ein dusseliger Ösi daher und will ihnen die (KI) Welt erklären. Eieiei.
️ -
Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.
Und deren Ersteller Peter #Steinberger - der stolz verkündet, große Teile der Anwendung wiederum mit #KI programmiert bzw. gevibecoded zu haben - heuert nun bei #OpenAI an...
Kannst Du meine Sorgen vor einer nahezu ungebremsten KI- Emergenz & #Verantwortungsdiffusion nachvollziehen? #Medienethik #KI #Emergenz
@BlumeEvolution Sorgen ja, aber nicht über Emergenz.
-
Zum Hintergrund: Ich habe meine Doktorarbeit zu Religion & #Hirnforschung, der damals sog. Neurotheologie geschrieben.
Schon damals war es Konsens, dass das einzelne Neuron (Nervenzelle) noch kein #Bewusstsein hat, aber deren systemische Vernetzung schon - das bedeutet #Emergenz.
#Religion emergiert auch als Selbstbeobachtung zur Steigerung von Kooperation & Reproduktion in rituell abgegrenzten Gruppen. Was ich derzeit i.S. #KI sehe, erscheint mir gierig & fahrlässig. https://www.hirzel.de/gott-gene-und-gehirn/9783777622231
@BlumeEvolution Bewusstsein werden die LLMs nicht entwickeln. Das ist Doomer-Gelaber der anti-menschlichen Longtermism-Bubble, um noch mehr Ressourcen für ihren AGI Quatsch zu bekommen. „WeNn WiR dA kEiN aLiGnMeNt HiNbEkOmMeN sInD wIr AlLe ToT!1!“ Das viel größere Problem ist, dass die LLM Rechenzentren uns durch beschleunigen der Klimakatastrophe Kipppunkte überschreiten lassen. Aber als Angriffsvektor via Promptinjection ist OpenClaw super
Unter dem Aspekt finde ich LLM-Agents gefährlich. -
Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.
Und deren Ersteller Peter #Steinberger - der stolz verkündet, große Teile der Anwendung wiederum mit #KI programmiert bzw. gevibecoded zu haben - heuert nun bei #OpenAI an...
Kannst Du meine Sorgen vor einer nahezu ungebremsten KI- Emergenz & #Verantwortungsdiffusion nachvollziehen? #Medienethik #KI #Emergenz
@BlumeEvolution
@tante hat darüber auch schon geschrieben. Zitat:
"And here we see another kind of diffusion of responsibility that the “AI” wave is creating: People just releasing whatever software they generated into the wild for others to run. Often with huge promises [...] No “this is experimental”, “this is potentially dangerous”[...]." -
@BlumeEvolution Naja, ich habe meine Doktorarbeit 2001 über autonome Robotersysteme geschrieben und auch da war das Thema emergentes Verhalten von Gruppen von Robotern schon ein heiß diskutiertes Thema. Ich bin immer noch der Überzeugung das sich ein großer Teil der Emergenz der KI in der Wahrnehmung und Zuschreibung bei Beobachtern stattfindet. Die Systeme sind nicht fundamental intelligent aber Menschen sind gut darin, emergentem komplexen Verhalten eine Intelligenz zuzuschreiben. Passiert z.B. auch bei Fisch- oder Vogelschwärmen. Die Herausforderungen bei LLMs und Agentensystemen wie OpenClaw ist nicht deren inherente emergente Intelligenz (denn da ist nicht so viel) sondern die Zuschreibung von Intelligenz durch Menschen und die daraus resultierende Überantwortung von Verantwortung für Aktivitäten, für die die Agenten objektiv ungeeignet sind. "Mein Agent kann besser Dokumente zusammenfassen als der Azubi, dann kann er sicher auch besser Reisen buchen, Dinge bestellen, Entscheidungen treffen und Maschinen steuern."
@cubeos @BlumeEvolution Leuten mit naturwissenschaftlichem Hintergrund sollte klar sein, dass und warum es “künstliche Intelligenz“ in strengem Sinne nicht gibt. Eine Software tut, wozu sie von Menschen programmiert wurde. Sie „lernt“ exakt nur bezüglich der Zwecke, für die sie programmiert wurde. Dies ist auch kein menschliches Lernen, sondern ein automatischer Optimierungsprozess. #AI #KI 1/
-
@BlumeEvolution Bewusstsein werden die LLMs nicht entwickeln. Das ist Doomer-Gelaber der anti-menschlichen Longtermism-Bubble, um noch mehr Ressourcen für ihren AGI Quatsch zu bekommen. „WeNn WiR dA kEiN aLiGnMeNt HiNbEkOmMeN sInD wIr AlLe ToT!1!“ Das viel größere Problem ist, dass die LLM Rechenzentren uns durch beschleunigen der Klimakatastrophe Kipppunkte überschreiten lassen. Aber als Angriffsvektor via Promptinjection ist OpenClaw super
Unter dem Aspekt finde ich LLM-Agents gefährlich.@BlumeEvolution Nachtrag: Das heißt natürlich nicht, dass Menschen solchen Systemen keine Intelligenz/kein Bewusstsein zuschreiben. Sieht man sehr gut an den ganzen LLM-Partnern. (Das gab es auch bei Eliza schon.)
-
@BlumeEvolution Naja, ich habe meine Doktorarbeit 2001 über autonome Robotersysteme geschrieben und auch da war das Thema emergentes Verhalten von Gruppen von Robotern schon ein heiß diskutiertes Thema. Ich bin immer noch der Überzeugung das sich ein großer Teil der Emergenz der KI in der Wahrnehmung und Zuschreibung bei Beobachtern stattfindet. Die Systeme sind nicht fundamental intelligent aber Menschen sind gut darin, emergentem komplexen Verhalten eine Intelligenz zuzuschreiben. Passiert z.B. auch bei Fisch- oder Vogelschwärmen. Die Herausforderungen bei LLMs und Agentensystemen wie OpenClaw ist nicht deren inherente emergente Intelligenz (denn da ist nicht so viel) sondern die Zuschreibung von Intelligenz durch Menschen und die daraus resultierende Überantwortung von Verantwortung für Aktivitäten, für die die Agenten objektiv ungeeignet sind. "Mein Agent kann besser Dokumente zusammenfassen als der Azubi, dann kann er sicher auch besser Reisen buchen, Dinge bestellen, Entscheidungen treffen und Maschinen steuern."
@cubeos @BlumeEvolution Wie war das nochmal mit dem Turing Test... Das ist mehr ein Test für Menschen als für Maschinen. Es braucht nicht viel, dass Menschen vertrauen. Bei einem Stein mit Wackelaugen fängt es schon an.
-
@cubeos @BlumeEvolution Wie war das nochmal mit dem Turing Test... Das ist mehr ein Test für Menschen als für Maschinen. Es braucht nicht viel, dass Menschen vertrauen. Bei einem Stein mit Wackelaugen fängt es schon an.
Ja, der religionspsychologische Begriff dafür heißt #HAD , Hyper-Agency-Detection, auf deutsch: Überwahrnehmung von Wesenhaftigkeit.
https://scilogs.spektrum.de/natur-des-glaubens/maria-toast-jesus-chips-die/
-
@cubeos @BlumeEvolution Leuten mit naturwissenschaftlichem Hintergrund sollte klar sein, dass und warum es “künstliche Intelligenz“ in strengem Sinne nicht gibt. Eine Software tut, wozu sie von Menschen programmiert wurde. Sie „lernt“ exakt nur bezüglich der Zwecke, für die sie programmiert wurde. Dies ist auch kein menschliches Lernen, sondern ein automatischer Optimierungsprozess. #AI #KI 1/
@cubeos @BlumeEvolution Deswegen sollte #KI niemals für sensible #ethische Beurteilungen oder sonstige sehr #verantwortungsvolle und daher genuin menschliche #Entscheidungen eingesetzt werden. 2/ #AI
-
@cubeos @BlumeEvolution Leuten mit naturwissenschaftlichem Hintergrund sollte klar sein, dass und warum es “künstliche Intelligenz“ in strengem Sinne nicht gibt. Eine Software tut, wozu sie von Menschen programmiert wurde. Sie „lernt“ exakt nur bezüglich der Zwecke, für die sie programmiert wurde. Dies ist auch kein menschliches Lernen, sondern ein automatischer Optimierungsprozess. #AI #KI 1/
@Fietsbel @BlumeEvolution Und das naturwissenschaftliche Gegenargument dazu ist halt, dass die Neuronen in unserem Kopf ja auch nichts anderes tun als erlernte Wahrnehmung und erlerntes Verhalten probabilistisch zu verknüpfen und wieder abzuspielen und der von der Evolution und vom Selbsterhaltungstrieb vorgegebene Zweck ist halt weiterzuleben und Kinder zu haben. Und da das in Gruppen besser geht als alleine bekommst Du dann mit der Zeit Kooperation, Sprache, Gruppen und Gesellschaften etc. Wo genau geht sowas nicht mit künstlicher Intelligenz? Ich würde sagen, da ist noch viel Bedarf an Forschung...
-
Zum Hintergrund: Ich habe meine Doktorarbeit zu Religion & #Hirnforschung, der damals sog. Neurotheologie geschrieben.
Schon damals war es Konsens, dass das einzelne Neuron (Nervenzelle) noch kein #Bewusstsein hat, aber deren systemische Vernetzung schon - das bedeutet #Emergenz.
#Religion emergiert auch als Selbstbeobachtung zur Steigerung von Kooperation & Reproduktion in rituell abgegrenzten Gruppen. Was ich derzeit i.S. #KI sehe, erscheint mir gierig & fahrlässig. https://www.hirzel.de/gott-gene-und-gehirn/9783777622231
@BlumeEvolution "... aber deren systemische Vernetzung schon - das bedeutet #Emergenz."
INSTINKTIVES/VEGETATIVES Bewusstsein, in gleichermaßen unverarbeitet-instinktiver Bewusstseinsschwäche von Angst, Gewalt und egozentriertem "Individualbewusstsein" - EMOTIONEN/EMOTIONALITÄT, die nächste und bisher letzte Stufe, seit Mensch erstem und bisher einzigen GEISTIGEN Evolutionssprung, ist in der Vernetzung für die wettbewerbsbedingt-konfuse Symptomatik der Gott / die "Vernunft" der ...
️
🥴 -
@cubeos @BlumeEvolution Deswegen sollte #KI niemals für sensible #ethische Beurteilungen oder sonstige sehr #verantwortungsvolle und daher genuin menschliche #Entscheidungen eingesetzt werden. 2/ #AI
@Fietsbel @BlumeEvolution Da gehe ich mit, denn eine wie auch immer geartete künstliche Intelligenz hat halt kein "skin in the game" in der Weise wie Menschen das haben.
-
@Fietsbel @BlumeEvolution Und das naturwissenschaftliche Gegenargument dazu ist halt, dass die Neuronen in unserem Kopf ja auch nichts anderes tun als erlernte Wahrnehmung und erlerntes Verhalten probabilistisch zu verknüpfen und wieder abzuspielen und der von der Evolution und vom Selbsterhaltungstrieb vorgegebene Zweck ist halt weiterzuleben und Kinder zu haben. Und da das in Gruppen besser geht als alleine bekommst Du dann mit der Zeit Kooperation, Sprache, Gruppen und Gesellschaften etc. Wo genau geht sowas nicht mit künstlicher Intelligenz? Ich würde sagen, da ist noch viel Bedarf an Forschung...
@cubeos @BlumeEvolution Die #Hirnforschung ist im Moment meines Wissens nicht so weit, so etwas zu beurteilen. Wie z.B. #Bewusstsein geht und was es ist, wie demnach bewusstes Lernen vor sich geht, ist größtenteils und grundsätzlich noch unbekannt. Habe ich gerade bei einer Vorlesung im letzten Sommer mal wieder gehört. Und das ist der Zustand nach Jahrzehnten Hirnforschung.
-
@BlumeEvolution "... aber deren systemische Vernetzung schon - das bedeutet #Emergenz."
INSTINKTIVES/VEGETATIVES Bewusstsein, in gleichermaßen unverarbeitet-instinktiver Bewusstseinsschwäche von Angst, Gewalt und egozentriertem "Individualbewusstsein" - EMOTIONEN/EMOTIONALITÄT, die nächste und bisher letzte Stufe, seit Mensch erstem und bisher einzigen GEISTIGEN Evolutionssprung, ist in der Vernetzung für die wettbewerbsbedingt-konfuse Symptomatik der Gott / die "Vernunft" der ...
️
🥴Für vernunftbegabten Mensch würde das bedeuten: Das ganzheitlich-ebenbildliche Wesen Mensch, in fusionierter Vernunft des geistig-heilendem Selbst- und Massenbewusstseins ("wie im Himmel all so auf Erden / Gemeinschaft in Gemeinschaftseigentum und Verstand von Gott als Methapher der Vernunft der Schöpfung), ANSTATT Ränkespiele in Dummheit/Bewusstseinsbetäubung des egozentriertem "Individualbewusstseins"
️ -
@Fietsbel @BlumeEvolution Da gehe ich mit, denn eine wie auch immer geartete künstliche Intelligenz hat halt kein "skin in the game" in der Weise wie Menschen das haben.
@cubeos @BlumeEvolution Und deshalb lehne ich beispielsweise vollautomatisiertes Fahren ohne Fahrer ab. Wer hätte sonst die Verantwortung? Darüber würde in endlosen Prozessen gestritten. Unfallopfer wären in einer noch traurigeren Lage, wenn das möglich ist.
-
Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.
Und deren Ersteller Peter #Steinberger - der stolz verkündet, große Teile der Anwendung wiederum mit #KI programmiert bzw. gevibecoded zu haben - heuert nun bei #OpenAI an...
Kannst Du meine Sorgen vor einer nahezu ungebremsten KI- Emergenz & #Verantwortungsdiffusion nachvollziehen? #Medienethik #KI #Emergenz
@BlumeEvolution Ich habe mal versucht, die Auswirkung von LLM-Agenten auf Open-Source-Projekte zu analysieren und mögliche Verteidigungsstrategien aufzuzeigen: https://cusy.io/de/blog/how-llm-agents-endanger-open-source-projects.html
-
@cubeos @BlumeEvolution Die #Hirnforschung ist im Moment meines Wissens nicht so weit, so etwas zu beurteilen. Wie z.B. #Bewusstsein geht und was es ist, wie demnach bewusstes Lernen vor sich geht, ist größtenteils und grundsätzlich noch unbekannt. Habe ich gerade bei einer Vorlesung im letzten Sommer mal wieder gehört. Und das ist der Zustand nach Jahrzehnten Hirnforschung.
@Fietsbel @BlumeEvolution Ja, ich erinnere mich da an einen Vortrag von Stuart Hameroff, der hat mit Roger Penrose diese Idee verfolgt dass Bewusstsein ein Quanteneffekt ist. Leider lief das auf so ein theoretisches Schönheitsargument heraus "Wir verstehen Quanteneffekte nicht und wir verstehen Bewusstsein nicht und wenn wir folgende Parameter richtig wählen, dann ist die Koherenzzeit eines hypothetischen Neuro-Quantent-Systems genauso lang wie die zeitliche Wahrnehmungsschwelle des menschlichen Gehirns, sowas wie 50ms. Also kollabiert die Quantenfunktion des Gehirns nach 50ms und wird zu Bewusstsein. Und desswegen ist Bewusstsein ein Quanteneffekt"
-
@cubeos @BlumeEvolution Und deshalb lehne ich beispielsweise vollautomatisiertes Fahren ohne Fahrer ab. Wer hätte sonst die Verantwortung? Darüber würde in endlosen Prozessen gestritten. Unfallopfer wären in einer noch traurigeren Lage, wenn das möglich ist.
@cubeos @BlumeEvolution Diese ganze Stoßrichtung erscheint mir verfehlte Innovation. Wir sollten uns bei öffentlicher Finanzierung auf Innovation konzentrieren, da die uns als Erdbewohner:innen hilft und nützt, z.B. bezüglich #Klimakrise, #Biodiversität, #Behinderungen, #Gesundheit usw.
