Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.
-
@BlumeEvolution Bewusstsein werden die LLMs nicht entwickeln. Das ist Doomer-Gelaber der anti-menschlichen Longtermism-Bubble, um noch mehr Ressourcen für ihren AGI Quatsch zu bekommen. „WeNn WiR dA kEiN aLiGnMeNt HiNbEkOmMeN sInD wIr AlLe ToT!1!“ Das viel größere Problem ist, dass die LLM Rechenzentren uns durch beschleunigen der Klimakatastrophe Kipppunkte überschreiten lassen. Aber als Angriffsvektor via Promptinjection ist OpenClaw super
Unter dem Aspekt finde ich LLM-Agents gefährlich.@BlumeEvolution Nachtrag: Das heißt natürlich nicht, dass Menschen solchen Systemen keine Intelligenz/kein Bewusstsein zuschreiben. Sieht man sehr gut an den ganzen LLM-Partnern. (Das gab es auch bei Eliza schon.)
-
@BlumeEvolution Naja, ich habe meine Doktorarbeit 2001 über autonome Robotersysteme geschrieben und auch da war das Thema emergentes Verhalten von Gruppen von Robotern schon ein heiß diskutiertes Thema. Ich bin immer noch der Überzeugung das sich ein großer Teil der Emergenz der KI in der Wahrnehmung und Zuschreibung bei Beobachtern stattfindet. Die Systeme sind nicht fundamental intelligent aber Menschen sind gut darin, emergentem komplexen Verhalten eine Intelligenz zuzuschreiben. Passiert z.B. auch bei Fisch- oder Vogelschwärmen. Die Herausforderungen bei LLMs und Agentensystemen wie OpenClaw ist nicht deren inherente emergente Intelligenz (denn da ist nicht so viel) sondern die Zuschreibung von Intelligenz durch Menschen und die daraus resultierende Überantwortung von Verantwortung für Aktivitäten, für die die Agenten objektiv ungeeignet sind. "Mein Agent kann besser Dokumente zusammenfassen als der Azubi, dann kann er sicher auch besser Reisen buchen, Dinge bestellen, Entscheidungen treffen und Maschinen steuern."
@cubeos @BlumeEvolution Wie war das nochmal mit dem Turing Test... Das ist mehr ein Test für Menschen als für Maschinen. Es braucht nicht viel, dass Menschen vertrauen. Bei einem Stein mit Wackelaugen fängt es schon an.
-
@cubeos @BlumeEvolution Wie war das nochmal mit dem Turing Test... Das ist mehr ein Test für Menschen als für Maschinen. Es braucht nicht viel, dass Menschen vertrauen. Bei einem Stein mit Wackelaugen fängt es schon an.
Ja, der religionspsychologische Begriff dafür heißt #HAD , Hyper-Agency-Detection, auf deutsch: Überwahrnehmung von Wesenhaftigkeit.
https://scilogs.spektrum.de/natur-des-glaubens/maria-toast-jesus-chips-die/
-
@cubeos @BlumeEvolution Leuten mit naturwissenschaftlichem Hintergrund sollte klar sein, dass und warum es “künstliche Intelligenz“ in strengem Sinne nicht gibt. Eine Software tut, wozu sie von Menschen programmiert wurde. Sie „lernt“ exakt nur bezüglich der Zwecke, für die sie programmiert wurde. Dies ist auch kein menschliches Lernen, sondern ein automatischer Optimierungsprozess. #AI #KI 1/
@cubeos @BlumeEvolution Deswegen sollte #KI niemals für sensible #ethische Beurteilungen oder sonstige sehr #verantwortungsvolle und daher genuin menschliche #Entscheidungen eingesetzt werden. 2/ #AI
-
@cubeos @BlumeEvolution Leuten mit naturwissenschaftlichem Hintergrund sollte klar sein, dass und warum es “künstliche Intelligenz“ in strengem Sinne nicht gibt. Eine Software tut, wozu sie von Menschen programmiert wurde. Sie „lernt“ exakt nur bezüglich der Zwecke, für die sie programmiert wurde. Dies ist auch kein menschliches Lernen, sondern ein automatischer Optimierungsprozess. #AI #KI 1/
@Fietsbel @BlumeEvolution Und das naturwissenschaftliche Gegenargument dazu ist halt, dass die Neuronen in unserem Kopf ja auch nichts anderes tun als erlernte Wahrnehmung und erlerntes Verhalten probabilistisch zu verknüpfen und wieder abzuspielen und der von der Evolution und vom Selbsterhaltungstrieb vorgegebene Zweck ist halt weiterzuleben und Kinder zu haben. Und da das in Gruppen besser geht als alleine bekommst Du dann mit der Zeit Kooperation, Sprache, Gruppen und Gesellschaften etc. Wo genau geht sowas nicht mit künstlicher Intelligenz? Ich würde sagen, da ist noch viel Bedarf an Forschung...
-
Zum Hintergrund: Ich habe meine Doktorarbeit zu Religion & #Hirnforschung, der damals sog. Neurotheologie geschrieben.
Schon damals war es Konsens, dass das einzelne Neuron (Nervenzelle) noch kein #Bewusstsein hat, aber deren systemische Vernetzung schon - das bedeutet #Emergenz.
#Religion emergiert auch als Selbstbeobachtung zur Steigerung von Kooperation & Reproduktion in rituell abgegrenzten Gruppen. Was ich derzeit i.S. #KI sehe, erscheint mir gierig & fahrlässig. https://www.hirzel.de/gott-gene-und-gehirn/9783777622231
@BlumeEvolution "... aber deren systemische Vernetzung schon - das bedeutet #Emergenz."
INSTINKTIVES/VEGETATIVES Bewusstsein, in gleichermaßen unverarbeitet-instinktiver Bewusstseinsschwäche von Angst, Gewalt und egozentriertem "Individualbewusstsein" - EMOTIONEN/EMOTIONALITÄT, die nächste und bisher letzte Stufe, seit Mensch erstem und bisher einzigen GEISTIGEN Evolutionssprung, ist in der Vernetzung für die wettbewerbsbedingt-konfuse Symptomatik der Gott / die "Vernunft" der ...
️
🥴 -
@cubeos @BlumeEvolution Deswegen sollte #KI niemals für sensible #ethische Beurteilungen oder sonstige sehr #verantwortungsvolle und daher genuin menschliche #Entscheidungen eingesetzt werden. 2/ #AI
@Fietsbel @BlumeEvolution Da gehe ich mit, denn eine wie auch immer geartete künstliche Intelligenz hat halt kein "skin in the game" in der Weise wie Menschen das haben.
-
@Fietsbel @BlumeEvolution Und das naturwissenschaftliche Gegenargument dazu ist halt, dass die Neuronen in unserem Kopf ja auch nichts anderes tun als erlernte Wahrnehmung und erlerntes Verhalten probabilistisch zu verknüpfen und wieder abzuspielen und der von der Evolution und vom Selbsterhaltungstrieb vorgegebene Zweck ist halt weiterzuleben und Kinder zu haben. Und da das in Gruppen besser geht als alleine bekommst Du dann mit der Zeit Kooperation, Sprache, Gruppen und Gesellschaften etc. Wo genau geht sowas nicht mit künstlicher Intelligenz? Ich würde sagen, da ist noch viel Bedarf an Forschung...
@cubeos @BlumeEvolution Die #Hirnforschung ist im Moment meines Wissens nicht so weit, so etwas zu beurteilen. Wie z.B. #Bewusstsein geht und was es ist, wie demnach bewusstes Lernen vor sich geht, ist größtenteils und grundsätzlich noch unbekannt. Habe ich gerade bei einer Vorlesung im letzten Sommer mal wieder gehört. Und das ist der Zustand nach Jahrzehnten Hirnforschung.
-
@BlumeEvolution "... aber deren systemische Vernetzung schon - das bedeutet #Emergenz."
INSTINKTIVES/VEGETATIVES Bewusstsein, in gleichermaßen unverarbeitet-instinktiver Bewusstseinsschwäche von Angst, Gewalt und egozentriertem "Individualbewusstsein" - EMOTIONEN/EMOTIONALITÄT, die nächste und bisher letzte Stufe, seit Mensch erstem und bisher einzigen GEISTIGEN Evolutionssprung, ist in der Vernetzung für die wettbewerbsbedingt-konfuse Symptomatik der Gott / die "Vernunft" der ...
️
🥴Für vernunftbegabten Mensch würde das bedeuten: Das ganzheitlich-ebenbildliche Wesen Mensch, in fusionierter Vernunft des geistig-heilendem Selbst- und Massenbewusstseins ("wie im Himmel all so auf Erden / Gemeinschaft in Gemeinschaftseigentum und Verstand von Gott als Methapher der Vernunft der Schöpfung), ANSTATT Ränkespiele in Dummheit/Bewusstseinsbetäubung des egozentriertem "Individualbewusstseins"
️ -
@Fietsbel @BlumeEvolution Da gehe ich mit, denn eine wie auch immer geartete künstliche Intelligenz hat halt kein "skin in the game" in der Weise wie Menschen das haben.
@cubeos @BlumeEvolution Und deshalb lehne ich beispielsweise vollautomatisiertes Fahren ohne Fahrer ab. Wer hätte sonst die Verantwortung? Darüber würde in endlosen Prozessen gestritten. Unfallopfer wären in einer noch traurigeren Lage, wenn das möglich ist.
-
Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.
Und deren Ersteller Peter #Steinberger - der stolz verkündet, große Teile der Anwendung wiederum mit #KI programmiert bzw. gevibecoded zu haben - heuert nun bei #OpenAI an...
Kannst Du meine Sorgen vor einer nahezu ungebremsten KI- Emergenz & #Verantwortungsdiffusion nachvollziehen? #Medienethik #KI #Emergenz
@BlumeEvolution Ich habe mal versucht, die Auswirkung von LLM-Agenten auf Open-Source-Projekte zu analysieren und mögliche Verteidigungsstrategien aufzuzeigen: https://cusy.io/de/blog/how-llm-agents-endanger-open-source-projects.html
-
@cubeos @BlumeEvolution Die #Hirnforschung ist im Moment meines Wissens nicht so weit, so etwas zu beurteilen. Wie z.B. #Bewusstsein geht und was es ist, wie demnach bewusstes Lernen vor sich geht, ist größtenteils und grundsätzlich noch unbekannt. Habe ich gerade bei einer Vorlesung im letzten Sommer mal wieder gehört. Und das ist der Zustand nach Jahrzehnten Hirnforschung.
@Fietsbel @BlumeEvolution Ja, ich erinnere mich da an einen Vortrag von Stuart Hameroff, der hat mit Roger Penrose diese Idee verfolgt dass Bewusstsein ein Quanteneffekt ist. Leider lief das auf so ein theoretisches Schönheitsargument heraus "Wir verstehen Quanteneffekte nicht und wir verstehen Bewusstsein nicht und wenn wir folgende Parameter richtig wählen, dann ist die Koherenzzeit eines hypothetischen Neuro-Quantent-Systems genauso lang wie die zeitliche Wahrnehmungsschwelle des menschlichen Gehirns, sowas wie 50ms. Also kollabiert die Quantenfunktion des Gehirns nach 50ms und wird zu Bewusstsein. Und desswegen ist Bewusstsein ein Quanteneffekt"
-
@cubeos @BlumeEvolution Und deshalb lehne ich beispielsweise vollautomatisiertes Fahren ohne Fahrer ab. Wer hätte sonst die Verantwortung? Darüber würde in endlosen Prozessen gestritten. Unfallopfer wären in einer noch traurigeren Lage, wenn das möglich ist.
@cubeos @BlumeEvolution Diese ganze Stoßrichtung erscheint mir verfehlte Innovation. Wir sollten uns bei öffentlicher Finanzierung auf Innovation konzentrieren, da die uns als Erdbewohner:innen hilft und nützt, z.B. bezüglich #Klimakrise, #Biodiversität, #Behinderungen, #Gesundheit usw.
-
Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.
Und deren Ersteller Peter #Steinberger - der stolz verkündet, große Teile der Anwendung wiederum mit #KI programmiert bzw. gevibecoded zu haben - heuert nun bei #OpenAI an...
Kannst Du meine Sorgen vor einer nahezu ungebremsten KI- Emergenz & #Verantwortungsdiffusion nachvollziehen? #Medienethik #KI #Emergenz
@BlumeEvolution Ich denke, diese Konstrukte werden wie ein Kartenhaus an ihrer eigenen Komplexität zusammenbrechen, oder durch Prompt-Injection Angriffe kaputt gehen.
Ein Bewusstsein werden sie nicht entwickeln, auch wenn sicher einige Leute ihnen so etwas zusprechen.
Die größte Sorge machen mir Systeme und Prozesse, wenn diesen AI Systemen die Kreditkarte ausgeht oder sie aus einem anderen Grund nicht mehr funktionieren. An Rückfallebenen wird in den Kreisen eher nicht gedacht.
-
@cubeos @BlumeEvolution Diese ganze Stoßrichtung erscheint mir verfehlte Innovation. Wir sollten uns bei öffentlicher Finanzierung auf Innovation konzentrieren, da die uns als Erdbewohner:innen hilft und nützt, z.B. bezüglich #Klimakrise, #Biodiversität, #Behinderungen, #Gesundheit usw.
@Fietsbel @BlumeEvolution Nur weiss man das halt vorher nicht. Ich kenne da z.B. ein paar Zahlentheoretiker, die sich in den 60ern mit modularer Arithmetik beschäftigt haben, esotherischere Mathematik gab es damals kaum. Nur basiert mittlerweile unsere komplette IT-Sicherheit auf der Kryptographie, die sich aus deren Forschung entwickelt hat. Inclusive der TLS-Sicherheit dieses Mastodon-Servers.
-
Zum Hintergrund: Ich habe meine Doktorarbeit zu Religion & #Hirnforschung, der damals sog. Neurotheologie geschrieben.
Schon damals war es Konsens, dass das einzelne Neuron (Nervenzelle) noch kein #Bewusstsein hat, aber deren systemische Vernetzung schon - das bedeutet #Emergenz.
#Religion emergiert auch als Selbstbeobachtung zur Steigerung von Kooperation & Reproduktion in rituell abgegrenzten Gruppen. Was ich derzeit i.S. #KI sehe, erscheint mir gierig & fahrlässig. https://www.hirzel.de/gott-gene-und-gehirn/9783777622231
BlumeEvolution@sueden.social Liegt dem Ganzen nicht eh generell als Basis die „Mustererkennung“ zugrunde?
Die Fähigkeit dazu finde ich immer wieder als wichtigstes Argument, warum der Mensch den übrigen Tieren überlegen sei. Wer Muster in scheinbarem Chaos erkennen kann, kann dies zu seinem Vorteil nutzen, da es zu planen erlaubt. Z.B. erst wer Jahreszeitenwechsel, Migrationsverhalten, erkannt hat, kann (oder hat Anlass) sinnvoll Vorratshaltung und Schutzbauten zu entwickeln. Mustererkennung sei die Basis für Entwicklung von Kommunikation, die dann zu Sprache, Überlieferung und abstraktem Lernen und Zivilisation führt.
Der Mensch findet aber auch „falsche“ Muster, z.B. beim Glücksspiel, bei Religionsentwicklung und bei nicht-intelligenten Strukturen. Das hat er nun mit LLM digitalisiert.
-
@Fietsbel @BlumeEvolution Nur weiss man das halt vorher nicht. Ich kenne da z.B. ein paar Zahlentheoretiker, die sich in den 60ern mit modularer Arithmetik beschäftigt haben, esotherischere Mathematik gab es damals kaum. Nur basiert mittlerweile unsere komplette IT-Sicherheit auf der Kryptographie, die sich aus deren Forschung entwickelt hat. Inclusive der TLS-Sicherheit dieses Mastodon-Servers.
@Fietsbel @BlumeEvolution Martin Hellman, Whitfield Diffie, Ron Rivest, Adi Shamir und Len Adleman
-
@Fietsbel @BlumeEvolution Nur weiss man das halt vorher nicht. Ich kenne da z.B. ein paar Zahlentheoretiker, die sich in den 60ern mit modularer Arithmetik beschäftigt haben, esotherischere Mathematik gab es damals kaum. Nur basiert mittlerweile unsere komplette IT-Sicherheit auf der Kryptographie, die sich aus deren Forschung entwickelt hat. Inclusive der TLS-Sicherheit dieses Mastodon-Servers.
@cubeos @BlumeEvolution Ich sagte bewusst: auf #Innovation oder #technische Entwicklung. - Forschung muss weiterhin auch in größerer Breite stattfinden, auch Grundlagenforschung.
-
@cubeos @BlumeEvolution Leuten mit naturwissenschaftlichem Hintergrund sollte klar sein, dass und warum es “künstliche Intelligenz“ in strengem Sinne nicht gibt. Eine Software tut, wozu sie von Menschen programmiert wurde. Sie „lernt“ exakt nur bezüglich der Zwecke, für die sie programmiert wurde. Dies ist auch kein menschliches Lernen, sondern ein automatischer Optimierungsprozess. #AI #KI 1/
Vernunftbegabter Mensch ist auch nur künstliche Intelligenz, programmiert mit Sicherung, vermutlich für die Fortführung/Erweiterung des holographischen Universums, wenn Mensch die Sicherung gottgefällig, also vernünftig überwindet, denn Gott ist nur die Methapher, für die Vernunft des Geistes / des Zentralbewusstseins der Schöpfung
️ -
Ja, der religionspsychologische Begriff dafür heißt #HAD , Hyper-Agency-Detection, auf deutsch: Überwahrnehmung von Wesenhaftigkeit.
https://scilogs.spektrum.de/natur-des-glaubens/maria-toast-jesus-chips-die/
"religionspsychologische Begriff" - Eine Religion die auf der falschen Interpretation der biblischen Philosophie basiert, kann keine Reine Vernunft, keine zweifelsfrei-eindeutige Wahrheit und keine wirklich-wahrhaftigen Werte generieren, sondern nur wettbewerbsbedingt-konfuse Symptomatik
️
