Ich find das so ermüdend das bei Deepfake immer nur an Porn gedacht wird.

🎮 Nerdherz 🧶

Ich find das so ermüdend das bei Deepfake immer nur an Porn gedacht wird. Als wäre das die einzige Möglichkeit von Missbrauch oder Digitaler Gewalt.

Es kann auch jederzeit jemand ein Video oder Fotos erstellen in dem jemand einen Hund tritt oder eine Frau oder ein Kind schlägt oder was anderes schlimmes macht und das online posten. Als Rache zum Beispiel. Oder Onlinemobbing.

🎮 Nerdherz 🧶

Und der wütende Onlinemob fragt nicht nach Fakten oder Echtheit. Der zieht los und verteilt das Video, der verschickt Drohungen, recherchiert Adressen, Arbeitgeber etc.
Und das Opfer sitzt ganz tief in der Scheiße und kann kaum das Gegenteil beweisen.

DerAsket

@nerdherz

Man könnte ja glatt darüber nachdenken, Anbieter solcher Software zu verpflichten, ein sichtbares "AI generated" in die Bildmitte zu packen.

Bestimmt gibt's noch bessere Mittel.

Oliver Vanderb

@nerdherz

Bei Deepfakes denke ich zu allererst an Politiker / Politik.

Literatopia

@nerdherz ja, es gibt schrecklich viele Möglichkeiten, mit Deepfakes riesigen Schaden anzurichten ️ ...

NeussWave

@nerdherz hä? Bis Grok mit dem Porn-Müll angefangen hat war das doch die primäre Verwendung, angefangen bei Böhmermann seinem Varoufakis-Gate, noch kurz vor Grok waren Tagesschau & Co das Ziel?

Oliver Vanderb

@DerAsket @nerdherz

Die KIs sind größtenteils Open Source. Kann also jeder seine eigene Fake Maschine bauen. Und externe staatliche Akteure, die ein Narativ in die Welt setzen wollen, interessiert das per se nicht.

tunda

@nerdherz Ja, wir haben in D. immer noch die Beweislastumkehr im Digitalen Raum.

Wenn mir z.B. die Identität gestohlen wird, damit Straftaten begangen wurden, muss ich beweisen, das ich es nicht war.

TheOneSwit

@nerdherz

Wäre mir nicht bewusst dass man bei Deepfakes nur an porn denkt. Gerade aus dem politischen Bereich kommt da doch recht viel.

Yahooru

@nerdherz Vollkommen richtig. Die psychische Belastung muss immens sein, wenn man gegen Bilder ankämpfen muss, die man nie selbst verursacht hat. Der ‚wütende Mob‘ fungiert hier als Richter und Henker gleichzeitig, ohne dass das Opfer eine echte Chance auf Verteidigung hat. Diese soziale Vernichtung ist eine neue Qualität digitaler Gewalt.

DJGummikuh

@nerdherz hab die Tage auch nen US-Geopolitik-Kanal dem ich folge gesehen, von dem Deepfakes erzeugt wurden. Der berichtet über den Ukraine-Krieg, und der Deepfake war subtil Putin-Freundlicher. Deepfakes sind ganz allgemein als Einzelpunkt eine größere Gefahr für unsere Gesellschaft als so ziemlich alles andere

Edit: Der Kanal, um den es geht: https://www.youtube.com/watch?v=88tYt6FOMkQ

Ute S.

@nerdherz@mastodon.social

oder so etwas :

https://correctiv.org/faktencheck/2025/01/16/dieses-video-von-angeblich-berauschtem-selenskyj-ist-ki-generiert/

oder ein Enkeltrick mit Original Stimme des Enkels am Telefon

Mr. Axis & Allies ✅☑️🐈‍⬛🥜

@nerdherz NUr macht man damit normalerweise halt nicht genügend Klicks damit es sich lohnt ...

movation

@nerdherz es ist zb irrwitzig, wei viele deepfake videos es auf youtube allein von Rachel Maddow gibt, die massiv politische desinformation raushauen... mit Abermillionen views.