How close are we to automating fact-checking with #AI?
๐ค๐ฅ๏ธ On August 27, Iโll give an online talk at the AI Academy of @hessianai.bsky.social, covering modern forms of fake news, state-of-the-art systems, and the biggest open challenges.
www.linkedin.com/posts/hessia...
Very happy to announce that DEFAME, our state-of-the-art fact-checking system, got accepted to #ICML! ๐๐
We published the revision on Arxiv, featuring a *new multimodal fact-checking benchmark*, an extensive table showing previous methods, polished figures, and much more:
arxiv.org/abs/2412.10510
Danke an @correctiv.org fรผr diese wichtige Aufdeckung! ๐ช๐ป
correctiv.org/faktencheck/...
รber 100 "News"-Seiten verbreiten gezielt Falschinformationen, um die #Bundestagswahl zu manipulieren.
Dahinter steckt "Storm-1516", nach #Doppelgรคnger die nรคchste #Desinformationskampagne der ๐ท๐บ Russen.
"Einer der nun Tatverdรคchtigen sagte [...], sie seien von einem Russen zu den Attacken angestiftet worden. รber einen Messengerdienst habe dieser ihnen detaillierte Anweisungen fรผr die Sabotageaktionen gegeben. Fรผr jedes beschรคdigte Fahrzeug sei ihnen ein Honorar von 100 Euro versprochen worden."
๐ 270+ Autos mit Bauschaum im Auspuff - im kompletten Bundesgebiet! Hรคufig ein Aufkleber der Grรผnen daneben.
Vieles deutet auf eine neue ๐ท๐บ russische #Sabotageaktion hin.
www.swr.de/swraktuell/b...
Wer die Mehrheit (von der "Community") beherrscht, der erlangt die volle Deutungshoheit รผber die Realitรคt.
Community Notes (die heiรe Alternative zu Fact-Checkern) seien "demokratischer" ๐คจ
www.welt.de/kultur/medie...
Willkommen in einer Realitรคt, in der Fakten nicht von Tatsachen, sondern Mehrheiten bestimmt werden.
Besten Dank fรผr die Durchfรผhrung der Studie!
Ich beschรคftige mich ja beruflich mit der Automatisierung von Fact-Checking. Dass die Desinformationskampagnen doch so fortgeschritten sind, beunruhigt mich sehr und zeigt, wie dramatisch wichtig ein neuer Umgang mit dem Informationsraum ist.
Die Zahlen sind deutlich schlimmer als ich sie erwartet hรคtte! ๐จ
50% der TikTok-User glauben nicht, dass Russland Desinformation streue? Heiรt, bei denen hat die Desinformation nicht nur gewirkt, sondern diese Gruppe ist auch noch empfรคnglich fรผr neue!
Eine aktuelle Umfrage des Instituts Allensbach in unserem Auftrag zeigt: #Desinformation und Verschwรถrungsmythen sind in der deutschen Bevรถlkerung weit verbreitet โ insbesondere bei jungen Menschen und Nutzerinnen und Nutzern von TikTok. Was denkt ihr?
www.freiheit.org/de/deutschla...
Ganz ehrlich, das macht mich sprachlos. Das bedeutet nicht nur, dass bei der Hรคlfte der TikTok-User die Desinfo bereits gewirkt hat, sondern diese Masse auch noch empfรคnglich fรผr neue ist.
Die fehlende Resilienz ist ein Einfallstor fรผr fremde Propaganda - groรer Risikofaktor fรผr unsere Demokratie!
Oh je, #Desinformation ist unter jungen Menschen deutlich manifestierter als ich bisher angenommen habe ๐ฅ
Die erschreckendste neue Zahl: 50% der TikTok-User bezweifeln, dass #Russland gezielt Falschinformationen streue!
www.freiheit.org/de/deutschla...
Foto des App-Widgets von Bluesky auf einem Smartphone.
๐ Prorussische Desinformation nun auch hier auf Bluesky.
faktencheck.afp.com/doc.afp.com....
โ Noch mehr Falschinfos im Netz gesehen? Hinweise an u.afp.com/whatsapphinweise.
Did you observe this for every post with 15+ engagements?
Here's one interaction :)
Makes sense if #Doppelganger accounts focus on more engaged posts: If they were to spam below each post, they'd be to detect more easily due to the flood of spam.
Very unsettling: Over half of young adults view #disinformation as acceptable ๐ฅด
fortune.com/2025/01/19/e...
What happens when a world is built on lies? There's no truth, trust, or stability. Then, power simply belongs to the loudest.
The above numbers are from end of 2023. Although there was no clear trend for any of cheap- or deepfakes, the increasing availability and quality of deepfake generation tools make it likely that deepfakes will become more prominent.
๐ arxiv.org/abs/2405.11697
Not too surprising because cheapfakes are easy to create (still much easier than authentic deepfakes).
But, people are widely unaware of cheapfakes. That's what makes them dangerous.
You think #deepfakes are the most common type of visual misinformation?
Nope, it's using pristine media *out of context*. That is, take a real image/video and caption it with a different story.
That kind of #cheapfake makes >40% of visual misinfo, deepfakes only <20%
Thanks a lot for your work, Saman! ๐๐ป
I'm wondering how Bluesky is mitigating that flood of disinfo. And what they plan to scalably prevent such automated mass propaganda in the future ๐ค
Doppelgรคnger has started operating on Bluesky!
We're working on mapping out their tactics and techniques to be able to track the operation.
FYI: "AVeriTeC" is the current (and perhaps most popular) go-to benchmark for evaluating automated fact-checking software on text only.
Even almost half a year later, our #fact-checking system "InFact" remains the best text-only fact-checker according to the AVeriTeC leaderboard ๐ช๐ป
Yes, #AI will and already *is* influencing elections. We see #disinformation campaigns (like "Doppelganger") that aim to deform even entire political landscapes ๐
I couldn't agree more with Christian Reuter from @peasec.de. Great article! ๐๐ป
www.linkedin.com/posts/activi...
Es geht - bei den -6 Grad hier nicht ohne Thermo-Unterwรคsche, Skihandschuhen und Schal im Gesicht :D
Aber maximal 15 min Radfahren, sonst fรคngt man unter der dicken Stoffschicht an zu schwitzen ๐
Somewhat expectable: The more true facts the LLM has generated, the fewer remain to be mentioned. Thus, the higher the chances of hallucinating a wrong fact. ๐ค
Turns out, #LLMs tend to generate more false or unsupported claims in later sentences of long outputs.
So, better double-check when you ask #ChatGPT to write your next essay. ๐
arxiv.org/abs/2411.15993
Darmstadt zรคhlt laut Start-up Monitor 2024 zu den Top 5 Grรผndungsstandorten in ๐ฉ๐ช und fรผhrt Hessen klar an. Mit einer beeindruckenden Dichte von 9,1 Start-ups pro 100.000 Einwohner:innen ist die Stadt ein Zentrum fรผr Innovationen โ eingebettet in das dynamische Rhein-Main-รkosystem.
