Ich mache mir Sorgen über das massive Wachstum von Abertausenden #OpenClaw - Installationen, die als Admins auf ganze Serverparks zugreifen dürfen & sich auch untereinander vernetzen.

@BlumeEvolution Ich denke, diese Konstrukte werden wie ein Kartenhaus an ihrer eigenen Komplexität zusammenbrechen, oder durch Prompt-Injection Angriffe kaputt gehen.

Ein Bewusstsein werden sie nicht entwickeln, auch wenn sicher einige Leute ihnen so etwas zusprechen.

Die größte Sorge machen mir Systeme und Prozesse, wenn diesen AI Systemen die Kreditkarte ausgeht oder sie aus einem anderen Grund nicht mehr funktionieren. An Rückfallebenen wird in den Kreisen eher nicht gedacht.

@Fietsbel @BlumeEvolution Nur weiss man das halt vorher nicht. Ich kenne da z.B. ein paar Zahlentheoretiker, die sich in den 60ern mit modularer Arithmetik beschäftigt haben, esotherischere Mathematik gab es damals kaum. Nur basiert mittlerweile unsere komplette IT-Sicherheit auf der Kryptographie, die sich aus deren Forschung entwickelt hat. Inclusive der TLS-Sicherheit dieses Mastodon-Servers.

BlumeEvolution@sueden.social Liegt dem Ganzen nicht eh generell als Basis die „Mustererkennung“ zugrunde?

Die Fähigkeit dazu finde ich immer wieder als wichtigstes Argument, warum der Mensch den übrigen Tieren überlegen sei. Wer Muster in scheinbarem Chaos erkennen kann, kann dies zu seinem Vorteil nutzen, da es zu planen erlaubt. Z.B. erst wer Jahreszeitenwechsel, Migrationsverhalten, erkannt hat, kann (oder hat Anlass) sinnvoll Vorratshaltung und Schutzbauten zu entwickeln. Mustererkennung sei die Basis für Entwicklung von Kommunikation, die dann zu Sprache, Überlieferung und abstraktem Lernen und Zivilisation führt.

Der Mensch findet aber auch „falsche“ Muster, z.B. beim Glücksspiel, bei Religionsentwicklung und bei nicht-intelligenten Strukturen. Das hat er nun mit LLM digitalisiert.

@Fietsbel @BlumeEvolution Martin Hellman, Whitfield Diffie, Ron Rivest, Adi Shamir und Len Adleman

@cubeos @BlumeEvolution Ich sagte bewusst: auf #Innovation oder #technische Entwicklung. - Forschung muss weiterhin auch in größerer Breite stattfinden, auch Grundlagenforschung.

@Fietsbel

Vernunftbegabter Mensch ist auch nur künstliche Intelligenz, programmiert mit Sicherung, vermutlich für die Fortführung/Erweiterung des holographischen Universums, wenn Mensch die Sicherung gottgefällig, also vernünftig überwindet, denn Gott ist nur die Methapher, für die Vernunft des Geistes / des Zentralbewusstseins der Schöpfung️

@cubeos @BlumeEvolution

@BlumeEvolution

"religionspsychologische Begriff" - Eine Religion die auf der falschen Interpretation der biblischen Philosophie basiert, kann keine Reine Vernunft, keine zweifelsfrei-eindeutige Wahrheit und keine wirklich-wahrhaftigen Werte generieren, sondern nur wettbewerbsbedingt-konfuse Symptomatik️

@celeste_42bit @cubeos

@Sagittarius_59 @cubeos @BlumeEvolution Wissenschaftlich gesehen #wissen wir nichts hiervon. Und ich lege Wert auf den Unterschied naturwissenschaftlicher #Fakten und allem, was in die Sphäre von #Glauben gehört. Die übrigens nicht unwichtig ist. Schon weil wir streng genommen immer noch wenig wissen, und weil wir im Leben trotzdem #handeln müssen und dafür , wie für unsere #Beziehungen, unser #Miteinander, Glauben brauchen. Wegen der Subjektivitätslücke können wir in Beziehungen nur „glauben“.

@cubeos @Fietsbel @BlumeEvolution

Die simulierten Neuronen in KI-Systenem sind nur grobe Annäherungen an natürliche Neuronen.

1. natürliche Neuronen können spontan neue Verbindungen aufbauen, oder bestehende abbrechen. künstliche Neuronen leben in einem statischen Netz.

2. natürliche Neuronen arbeiten analog mir Rauschen und äußeren Störungen.

3. die Abbildungsfunktionen in natürlichen Neuronen sind nicht so glatt wie in künstlichen.

@cdonat @cubeos @BlumeEvolution Und dieses „statistische Netz“ ist ihr #statischer Rahmen. Wobei schon der Vergleich mit „natürlichen Neuronen“ nur eine Analogie ist. Da ich keine Hirnforscherin bin. weiß ich nicht, wieweit diese #Analogie gedeckt ist durch den Stand der Forschung.

@BlumeEvolution

Wer mal sehen will was da so abgeht, und was sich der Entwickler dabei gedacht hat.

https://youtu.be/ps7kqEXkwEs?si=YNpZEyNgRhQSp8q-

@pasci_lei @BlumeEvolution in der Wirkung halte ich den OpenClaw-Wildwuchs für das weit größere Problem als irgendwelche (menschlichen) Hacker, die in ihrer großen Mehrheit noch irgendwelche Ethik-Standards haben.

Die unkontrollierte Verbreitung von OpenClaw und anderen LLM/AI Systemen ist für mich vergleichbar mit der Auswilderung/Verseuchung mit Raubtieren (Hunde, Katzen), vermehrungsfreudigen Nutztieren (Schweine, Kaninchen) oder Opportunisten (Schiffsratten) in bislang ungestörten Ökosystemen.
Angesichts dessen frage ich: Wie lange ist das Internet und die davon abhängigen Dienste noch nutzbar?

@cdonat @Fietsbel @BlumeEvolution Technisch in Bezug auf die aktuelle Implementierung stimmt das. Aber neue Verbindungen kann ich auch in ein künstliches neuronales Netz schreiben, einfach eine Zahl in die Matrix und schon ist die Verbindung da. Einfügen von Rauschen ist mittlerweile ein Standardmittel um Robustheit und sowas wie Generalisierung im Training zu erreichen. Und die Abbildungsfunktionen sind alles andere als glatt, wenn man anfängt Netze zu quantisieren, aber dann wird in der Regel die Qualität auch schlechter. Und ich kenne ein paar Leute, die bauen gerade an analogen Implementierungen von neuronalen Netzen, z.B. spiking neural networks die die Verbindung zwischen Neuronen als Impulse in der Zeitdomäne abbilden.
Ich glaube die Diskussion ist unabhängig von der aktuellen Implementierung eine wissensphilosophische: Gibt es einen fundamentalen Unterschied zwischen einer wie auch immer gearteten zukünftigen "perfekten" re-implementierung eines biologischen neuronalen Netzes und eines echten biologischen neuronalen Netzes, das im Laufe seines Lebens durch die Interaktion mit der physischen Welt und anderen neuronalen Netzen lernt. In gewisser Weise ist das Thema auch schon von unterschiedlichen Science-Fiction-Autoren beackert worden. Z.b. Asimov, der 200-Jährige. Lem, Also sprach Golem. Meinetwegen auch Philip K. Dick Do Androids dream of Electric Sheep aka. Blade Runner.

@BlumeEvolution ja ich teile deine Sorgen. Es wird installationen geben, aber kein vernünftiger Admin wird sich das Zeug auf einen produktiven Rechner installieren.