7/ So schwierig es ist: Die Lösung können nur wir selbst sein. Wir müssen technologischen Risiken mit klugen Gesetzen und Regulierung begegnen. Wenn wir das Feld den Tech-Bossen überlassen, auch den “Guten”, verlieren wir alle.
Mehr dazu in meinem Newsletter:
markokovic.substack.com/p/die-psycho...
6/ Anthropic ist mir sympathisch. Ich nutze Claude. Es ist aber ein fataler Irrtum, zu glauben, dass “gute” Tech-Bosse wie bei Anthropic die Lösung für schlechte Tech-Bosse sind. Wenn dem so wäre, hätten wie die Probleme, die wir haben, nicht.
5/ Sam Altman, Elon Musk, Larry Page, Sergey Brin, Peter Thiel, Alex Karp, uvm.: Die Tech-Bosse sind nicht bloss amoralisch. Sie sind aktiv psychopathisch. Sie wissen, dass sie Technologien entwickeln, die systemisches Risiken schaffen — und sie tun es trotzdem. Denn es geht nur ums Geld.
4/ Die moralischen roten Linien von Anthropic sind recht blass. Aber andere Tech-Unternehmen haben gar keine. Wenige Stunden, nachdem die Trump-Regierung die Trennung von Anthropic bekannt gab, verkündete OpenAI-Chef Sam Altman, dass OpenAI neu mit dem US-Militär kooperiert.
3/ In der Praxis ist Vieles davon natürlich symbolisch. Anthropic-Chef Dario Amodei ist nicht grundsätzlich gegen autonome Waffen. Er findet nur, dass sie aktuell noch zu wenig zuverlässig sind. Und Massenüberwachung ist für ihn nur ein Problem, wenn sie in den USA stattfindet.
2/ Anthropic ist ein atypisches Tech-Unternehmen. Es wurde gegründet, um sichere KI zu entwickeln, die nicht zu einem existenziellen Risiko wird. Die aktuellen moralischen Leitplanken sind in der “Verfassung” von Claude beschrieben. Das ist teilweise PR, aber m.E. nicht nur.
1/ Anthropic zerstritt sich mit der Trump-Regierung, weil das Unternehmen ihre KI Claude nicht für Massenüberwachung und autonome Waffen zulassen wollte.
Der Streit zeigt nicht, dass Anthropic besonders ethisch handelt. Er zeigt, dass die anderen Tech-Bosse Psychopathen sind.
3/ Das ist eines der grossen Risiken von KI. Alle stürzen sich in halsbrecherischem Tempo auf die ChatGPT, Claude und Co. Im Irrglauben, dass sie dadurch kompetenter und produktiver werden.
Die Studie:
arxiv.org/abs/2601.20245
2/ Die Studie ist ein gutes Beispiel für ein breiteres Problem mit KI: Auch in einem optimalen Setting, in dem man KI begleitend zum Lernen einsetzt, kommt es zur Auslagerung kognitiver Aktivität. Cognitive Offloading bedeutet rein mechanistisch, dass man selbst weniger denkt.
1/ Anthropic (Claude) wollte in einem Experiment herausfinden, wie KI-Nutzung die Kompetenzentwicklung beeinflusst.
Das Ergebnis: Die Gruppe ohne KI hatte höhere Fachkompetenz - und war nicht mal signifikant langsamer.
10/ Nostalgie ist irrational. Fortschrittsoptimismus ist irrationaler. Die Welt ist heute so gut wie noch nie. Die Welt ist heute gleichzeitig so schlecht wie noch nie.
Mehr dazu in meinem Newsletter:
markokovic.substack.com/p/nostalgie-...
9/ Systemische, multiplikative, Fat-Tailed-Risiken sind heute vor allem technologiebedingt. Künstliche Intelligenz, Klimawandel, Biotechnologie u.a.m.: Die Menschheit ist heute näher an katastrophalem, potenziell unumkehrbaren Kollaps als jemals zuvor.
8/ Darum haben viele systemische Risiken eine Fat-Tailed-Verteilung: Meistens passiert nicht viel, aber extreme Ausreisser sind viel wahrscheinlicher, als wir denken. Nassim Taleb nennt solche Ausreisser “Black Swans”, schwarze Schwäne.
7/ Die Risikolandschaft verschlechtert sich. Es gibt immer mehr immer grössere systemische Risiken, die die gesamte Zivilisation bedrohen. Systemische Risiken sind besonders dann gefährlich, wenn sie multiplikativ sind: Der Schaden wächst exponentiell und verstärkt sich in Feedbackschlaufen.
6/ Der Umstand, dass wir in der Vergangenheit grosse Risiken überstanden haben, ist kein Trend hin zu Fortschritt. Es ist die Definition von Glück. Dass es bisher keinen Atomkrieg gab, bedeutet nicht, dass es keinen geben wird. Es bedeutet, dass wir bisher Glück hatten.
5/ Das betonen auch Bestseller-Autoren wie Steven Pinker. Es gibt Rückschläge, aber die Welt wird immer besser. Oder?
Nein, das ist aber ein Trugschluss. Die Welt wurde in vielerlei Hinsicht besser, aber es ist falsch, daraus induktiv einen Trend abzuleiten. Denn etwas geht dabei vergessen: Risiko.
3/ Nostalgie ist objektiv falsch: Gesundheitsversorgung, Nahrungsmittelsicherheit, Bildungschancen, Kommunikationsmöglichkeiten uvm.: Die Welt ist heute für den Durchschnittsmenschen wahrscheinlich so gut wie noch nie.
2/ Vielleicht war früher alles besser. Wenn aber ein 40-Jähriger und ein 70-Jähriger beide sagen, die Wirtschaftslage war damals, als sie 15 Jahre alt waren, die beste, kann die Rechnung nicht aufgehen. Das ist Nostalgie.
1/ Wenn man Menschen fragt, wann die Welt am besten war, gibt es zwei auffällige Muster. Erstens: Die meisten Menschen sagen, dass die Welt früher besser war als sie es heute ist. Und zweitens: Die meisten Menschen finden, die Welt war am besten, als sie selbst zwischen 10 und 20 Jahre alt waren.
Die psychosozialen Dynamiken dieser Kreise sind faszinierend. Ihr Aktivismus erschöpft sich darin, konträre Meinungen zu haben, und sie werden dadurch zu einer Parodie ihrer selbst. Wie eine Fotokopie einer Fotokopie einer Fotokopie.
Mehr dazu:
www.tagesanzeiger.ch/moskau-schwe...
Wisst ihr noch, die "Freiheitstrychler" aus der Pandemie, die sich für Freiheit einsetzen? Was machen die heute so?
Sie reisen nach Moskau, um zu protestieren - und zwar gegen die Schweiz. Begleitet durch Russia Today.
6/ Eine zivilisierte Gesellschaft kann ohne geteilte moralische Standards nicht funktionieren. Aber genau das wird zunehmend schwieriger. Wir befinden uns im moralischen Kollaps. Die Verharmlosung von Epstein ist nur die Spitze des Eisbergs.
markokovic.substack.com/p/epstein-un...
5/ Nihilismus ist die Gegenreaktion auf die progressive Verschiebung der 2010er Jahre (gleichgeschlechtliche Ehe, MeToo, Black Lives Matter, etc.). Aber die Gegenreaktion ist nicht Konservatismus. Es sind nicht andere moralische Prinzipien. Es ist Nihilismus, die Inexistenz moralischer Prinzipien.
4/ Die Epstein-Verharmlosung ist Symptom einer grösseren Veränderung. Das, was öffentliche Moral war, wird zunehmend abgelöst durch moralischen Nihilismus. Alles wird reflexartig verharmlost – und moralische Kritik gilt immer als schlimmer als die moralische Verfehlung, die kritisiert wird.
3/ Ich bin aber erstaunt, dass bei der moralischen Bewertung des Epstein-Netzwerks kein Konsens herrscht. Viele Kommentatoren meinen, das sei alles übertrieben, die Epstein-Mädchen hätten das doch gewollt und überhaupt sei die Kritik nur eine Hexenjagd.
2/ Warum konnte Epstein so viele mächtige Menschen auf der ganzen Welt in sein Netzwerk holen? Weil die Eliteangehörigen dadurch Zugang zu anderen Eliteangehörigen erhielten. Epstein war ein sehr erfolgreicher Vernetzer und Hersteller von Sozialkapital.
1/ Elon Musk, Noam Chomsky, Peter Thiel, Bill Gates, Steve Bannon, Bill Clinton, Kronprinzessin Mette-Marit und viele weitere mehr: Die Liste der Eliteangehörigen, die auch Jahre nach Jeffrey Epsteins Verurteilung freundschaftlichen Kontakt mit dem Menschenhändler hatten, ist erschreckend lang.
5/ Ich war mir sehr unsicher, ob ich das Video posten soll. Zu Dokumentationszwecken ist es wichtig, weil wir die Fakten nicht vollends den Rashomon-Trollen überlassen dürfen. Es fühlt sich aber trotzdem sehr unangenehm an.
4/ Mit der amerikanischen Demokratie. Mit ein bisschen Verzögerung dann auch mit den europäischen Demokratien. Das "postfaktische Zeitalter", das mit (aber nicht nur wegen) Trump 1.0 begann und unter (aber nicht nur wegen) Trump 2.0 zu einem Abgrund der Unvernunft metastasiert, ist unaufhaltbar.
3/ Viele Millionen Menschen sind für rationale Argumente nicht mehr erreichbar. Sie sind nicht mehr bereit und nicht mehr in der Lage, epistemische Kompromisse einzugehen. Das ist das eigentliche Problem. Ich denke, es ist mit nicht-trivialer Wahrscheinlichkeit vorbei.
