Machine Against the Rage

Handbook on Online Antisemitism This handbook introduces contemporary expressions of antisemitic hate online and unfolds the dynamics of digital communication that accelerates it. Recurring trends, materials, and practices in expres...

Today my colleague Wyn Brodersen & I published the Handbook on Online Antisemitism for the EU Knowledge Hub on Prevention of Radicalisation. We focus on the intersection of digital cultures, extremism & antisemitism + explain why AS is so persistent online
home-affairs.ec.europa.eu/whats-new/pu...

Feedwatch | Social Media abseits deiner Filterblase Feedwatch zeigt, wie Social Media aus einer gemeinsamen Welt getrennte Realitäten macht. Für einen aufgeklärten Nachrichtenkonsum. Für eine selbstbestimmte Meinungsbildung.

In unserem Use Case Format unterstützen zivilgesellschaftliche Projekte zur Stärkung der Demokratie im digitalen Raum. In vier Jahren begleiteten wir insg. acht Use Cases – u. a. zu islamistischen Narrativen, Hate Raids im Gaming & rechtsextremer Spendenfinanzierung.
#9: Feedwatch
👉 www.feedwatch.eu

Social Media durch andere Augen: Filterblasen werden erfahrbar – mit der Feedwatch-App Alle sprechen über Filterblasen – aber wie sehen sie eigentlich konkret aus? Feedwatch verbindet wissenschaftliche Erkenntnisse mit Nutzungserfahrung und macht politische Informationsräume in sozialen...

Wie gern würde man nicht in die Feeds anderer Leute schauen, um zu verstehen, wie sich politische Meinungen formieren. Genau das macht jetzt Feedwatch möglich: Eine App, die zu mehr Medienkompetenz beiträgt. Wir freuen uns, beim Aufbau der App unterstützt zu haben
machine-vs-rage.net/blog/social-...

Wir diskutierten, wie sich die Ergebnisse konkret in die tägliche Arbeit übersetzen lassen & wo Forschungsbedarf besteht. Fazit: Das Problembewusstsein ist groß. Zugleich zeigen sich Lücken bei der Berücksichtigung von Forschungsergebnissen zu Desinformation, Online-Extremismus & KI in der Praxis.

@franzimartini.bsky.social stellte ihre Forschung zum Zusammenhang der Desinformation und Demokratiegefährdung & Dominik Schroth (LKA Berlin) referierte zu rechtsextremen Jugendgruppen. Die Ergebnisse diskutierten mit Vertreter*innen aus Bildung, Uni, Medien, Behörden, Polizei und Zivilgesellschaft.

Wie bringen wir Forschung in die Praxis? Am @idz-jena.bsky.social erproben wir dafür seit einigen Jahren das Format des Roundtables. So auch am 11. Februar, wo wir die neue Ausgabe der Wissen schafft Demokratie zu Demokratiegefährdung Online in der Thüringer Landesmedienanstalt vorgestellt haben.

👏 Congrats

Zentrales Ergebnis: Es geht weniger um perfekte Täuschung als um strategische Ambivalenz – das Spiel mit Unsicherheit darüber, was noch als „real“ gilt.

Der Beitrag „Weaponised Ambiguity“ ist in der aktuellen Ausgabe der Wissen schafft Demokratie erscheinen:

www.idz-jena.de/fileadmin/us...

Ihre Analyse KI-generierter Bilder von rechtsalternativen Telegram-Akteuren zeigt: Klassische Deepfakes (fotorealistische Täuschung) machten 2024 nur einen kleinen Teil aus. KI-Bilder dienen u. a. Markenbildung, visueller Signatur, günstiger Bildproduktion & Aufmerksamkeit.

Die Deepfake-Debatte legt nahe: Generative KI wird politisch vor allem zur Täuschung eingesetzt. Aber stimmt das? Ein Artikel von Christian Donner & Lena-Maria Böswald zeigt: Risiken liegen nicht nur in Manipulation, sondern auch in subtiler Normalisierung & emotionaler Mobilisierung.

Heißt das: keine politischen Folgen? Nicht ganz. Auch indirekte Effekte zählen – z. B. Vertrauensverlust in Medien oder die Sorge, andere würden stärker getäuscht.
Fazit: Desinformation ist oft eher Ausdruck gesellschaftlicher Krisen als ihre Ursache.
👉 Zum Beitrag: www.idz-jena.de/fileadmin/us...

Forschung zeigt jedoch: Besonders anfällig für digitale Desinformation ist eine Gruppe mit hohem Nachrichtenkonsum und großer Distanz zu Institutionen.
Desinformation verstärkt meist bestehende Einstellungen, statt sie zu verursachen. Ihre Wirkung ist also eher spiegelnd als auslösend.

Ja, Desinformationen können demokratische Prozesse stören und sozialen Zusammenhalt gefährden – etwa wenn Fakten fehlen oder Gruppen aus Diskursen verdrängt werden.

Aber: Empirisch lassen sich solche direkten Effekte bislang eher selten nachweisen.

Sind Desinformationen schuld an den politischen Krisen unserer Zeit – und eine Gefahr für die Demokratie? 🤔
@franzimartini.bsky.social & Wyn Brodersen den Stand der Desinformationsforschung der letzten 10 Jahre für einen Beitrag in der WsD 18 ausgewertet.
Die wichtigsten Erkenntnisse im Thread 👇

Atlas - toneshift Wahrheit und Wissen im digitalen Wandel Die Digitalisierung verändert, wie wir Wissen erwerben und uns eine Meinung bilden. Gerade für pädagogische Fachkräfte stellt sich die Frage, wie sie die damit ...

Mit einem Fokus auf den Transfer zu pädagogischen Fachkräften hat @machine-vs-rage.net einen Atlas zu Desinformation und KI veröffentlicht und widmet sich dabei den Themenbereichen Verbreitung und Wahrnehmung von Desinformation und KI sowie hilfreichen Kompetenzen: atlas.machine-vs-rage.net

Desinformation und KI: Erster Schwerpunkt des MATR-Atlas erschienen Der Atlas zu Wahrheit und Wissen im digitalen Wandel geht an den Start, erstellt vom MATR-Team in Zusammenarbeit mit der GMK. Im ersten Schwerpunkt geht es um Desinformation und KI. Verständlich und p...

Wir bedanken uns für die tolle Zusammenarbeit mit unseren toneshift Partnern der @gmknet.bsky.social und empfehlen für den Einstieg den Beitrag unseres MATR Research-Teams aka @franzimartini.bsky.social und Wyn Brodersen
machine-vs-rage.net/blog/desinfo...

Ein Fokus liegt hierbei auf Verständlichkeit und Praxisnähe, um Klarheit zu schaffen und mehr Sicherheit im Umgang mit Desinformation, KI und Deepfakes zu ermöglichen. 19 Fragen organisieren die (aus unserer Sicht) drängendsten Fragen der Rubriken: Verbreitung, Wahrnehmung und Kompetenzen im Umgang

Desinformation und KI - toneshift Immer häufiger wird KI für die Erzeugung und Verbreitung von Desinformation eingesetzt. Hier kondensieren wir aktuelle Forschungsergebnisse.

Desinformation & KI: Dieser Zusammenhang sorgt für Unbehagen. Die Deepfake-Episode auf Grok unterstreicht es. Doch wie weit sind solche Inhalte verbreitet? Wie wirken sie? Dem geht der erste Schwerpunkt des Atlas: Wahrheit und Wissen im digitalen Wandel nach
atlas.machine-vs-rage.net/ki-und-desin...

Außerdem waren zahlreiche weitere Initiativen vertreten, die in der der (Medien-)Bildungsarbeit aktiv sind. Dabei waren u.a. Aktion Zivilcourage, @gwup.org, @akubiz.bsky.social, Social Web macht Schule und natürlich das tolle Orga-Team von Break the Fake. 3|3

Besonders spannend: der Vortrag der Bildungsinitiative SPREUWEIZEN. Hier ging es darum, dass Desinformation auch über (negative) Emotionen transportiert wird – und darum, wie emotionales Pre- und Debunking im schulischen Bildungskontext umgesetzt werden kann. 2|3

Am letzten November-Wochenende fand die Fachtagung »FAKE‘25«, organisiert von Break the Fake, in Dresden statt. Mit dabei war auch @franzimartini.bsky.social vom MATR-Team. In einem Kurzvortrag präsentierte sie die Ergebnisse unserer Analyse zu Community Notes auf X. 1|3

Radikalisierung: Gefahr für die Demokratie!? - Landschaft des Wissens 2025 widmet sich die Vortragsreihe „Wissen schafft Gesellschaft“ dem Thema Radikalisierung als Gefahr für die Demokratie.

Der abschließende dritte Teil findet am 22. Januar/Jänner statt, wo Michel Friedman und Konrad Paul Liessmann über die »Krise der Demokratie« diskutieren werden. 5|5

➡️ Weitere Infos hier: landschaftdeswissens.at/radikalisier...

Die Veranstaltung war der zweite Teil einer Veranstaltungsreihe mit dem Titel »Radikalisierung: Gefahr für die Demokratie?« Eingeleitet wurde sie Anfang November mit Vorträgen zum Thema »radikalisierte Männlichkeit«. 4|5

Sein Vortrag fragte, wie soziale Medien polit. Emotionalisierung befeuern und damit v.a. Bedrohungsnarrativen (etwa rechtsextremer o. islamistischer Art) neue Potentiale verleihen. Eingegangen wurde auch auf das Problem, wie die Gegenbewegungen ebenfalls polarisierend wirken. 3|5

Neben der Politikwissenschaftlerin @bprainsack.bsky.social (Universität Wien), die über die Zukunft der Demokratie im digitalen Kontext sprach, gab es auch einen Vortrag von MATR-Redakteur Holger Marcks. 2|5

Wissen schafft Gesellschaft: Unter diesem Motto stand eine Veranstaltung letzte Woche im österreichischen Villach. Veranstaltet von Landschaft des Wissens | Wissenschaftsverein Kärnten, ging es um die Frage, wie soziale Medien die Demokratie bedrohen. 1|5

Engine Room: Der MATR-Blog Von der Analyse aktueller Entwicklungen über die Diskussion von Forschungsfragen bis zur kritischen Kommentierung des Arbeitsfelds: Hier bieten wir Einblicke in den Maschinenraum der digitalen Konflik...

Mit den »Overviews« bietet der MATR-Blog ein Format, um komplexere Forschungsfragen und den Forschungsstand kritisch zu diskutieren. Die Beiträge sollen Orientierung geben, Probleme der Forschungsarbeit behandeln und Lücken identifizieren. 2|2

Zwischen realer Gefahr und moralischer Panik: Ein differenzierender Blick auf die Forschung zu Desinformation Was ist Desinformation, wie verbreitet sie sich, wann überzeugt sie? Dieser Beitrag bietet einen interdisziplinären Überblick zu Forschungsbefunden – und fragt, was das für den Umgang mit Desinformati...

Neuer Blogbeitrag: Was ist Desinfo, wie verbreitet sie sich, wann überzeugt sie? Miriam Milzner (@weizenbauminstitut.bsky.social | FU Berlin) & Josephine B. Schmitt (@cais-research.bsky.social) bieten einen Überblick zu Forschungsbefunden – und fragen, was das für den Umgang mit Desino bedeutet. 1|2

Relaunch Accomplished: Der neue MATR-Zyklus hat begonnen Mit dem Erscheinen des neuen Policy Brief, der die Ergebnisse unserer Fokus-Analyse zu Community Notes zusammenfasst, ist die Arbeit an der achten MATR-Ausgabe abgeschlossen. Hier noch ein Überblick z...

Zum Abschluss des MATR-Relaunchs mit dem neuen Policy Brief gibt es auf unserem Blog noch einen Übersichtsartikel. Zu den Inhalten der achten Ausgabe. Und zum Drumherum.

An der nächsten Ausgabe wird bereits geschraubt. Rückmeldungen, Anregungen und Vorschläge sind stets willkommen.

–> Der neueste Policy Brief (Nummer 8), in dem die wichtigsten Ergebnisse der Studie aufbereitet wurden, findet sich auf unserer Essentials-Seite: machine-vs-rage.net/essentials/ 11|11