Grok im Kampf gegen die Wahrheit

00:06 Gavin Karlmeier

Hallo zusammen Herzlich willkommen zu einer kleinen Solo-Folge von Haken dran, hier an diesem Montag, dem 23. Juni, Entschuldigung. Es ist so warm. Ich nehme diese Episode hier am Sonntag um Viertel nach sechs nachmittags auf. bei ungefähr 6000 Grad Celsius hier in dieser Wohnung. Aber trotzdem, wir müssen ja weitermachen. Drei Folgen die Woche, das versprechen, also machen wir weiter und lassen uns von der Hitze nicht einkriegen, runterkriegen. einmachen. Wir lassen uns auch nicht einkochen von der Hitze auf jeden Fall. Und möchten, und ich möchte diese kleine Solo-Episode hier mal nutzen, weil wir ja immer mal wieder solche Episoden ohne Gast haben, die wir dann vor allem nutzen, um so ein bisschen einen kleinen Nachrichten überzugehen. Überblick über vergangene Tage zu geben, die dann manchmal in den großen Episoden mit den Gästen untergehen, weil wir uns verzetteln, möglicherweise, oder zu tief reingehen. Was sie gerne tun und was auch der Kern dieses Podcasts ist, aber so ist es ausgewogen und so ist es vollständig. Deswegen freue ich mich, dass ihr hier seid, dass ihr euch das anhört. Und ich habe heute ein paar Nachrichten, die ein bisschen unappetitlich sind, bei denen man schlechte Laune kriegt, aber Naja, ihr hört Haken dran, ihr wisst, was ihr kriegt. Das sind die Zeiten. Wir fangen an mit Grog. Grog, das ist der Chatbot von XAI. XAI ist das inzwischen Mutterunternehmen von X, gehört auch zu großen Teilen Elon Musk und Grog, und das wissen wir schon länger, ist für Elon Musk ein Dorn im Auge als Chatbot, weil Grog extrem gut ist. So ist es zumindest verkürzt dargestellt, aber nicht ganz falsch, denn das Problem ist, das Grog sich, und da sind viele ExpertInnen und BeobachterInnen und wir hier auch sehr überrascht bislang gewesen. Grog hat bislang nicht das Weltbild von Elon Musk und Donald Trump übernommen und dabei sehr agendagetreu Informationen verändert, Wahrheiten falsch aus, wiedergegeben, zumindest in weiten Teilen. Zwei Ausnahmen, nämlich die eine Geschichte über einen erfundenen Genozid an Weißen in Südafrika, das andere Desinformation zu den Opferzahlen des Holocaust. Und diese Tatsache, dass Grog bislang eben weitgehend unbiased ist, ein Chatbot, der sich an Fakten orientiert, das haben wir schon relativ lange prognostiziert und auch andere prognostiziert, das wird Elon Musk irgendwie. Denn wenn jedes Mal, wenn Elon Musk etwas postet, jemand darunter auf Ex Grog bittet, das einzuordnen und Grog sagt, das ist eine Unwahrheit, das stimmt nicht. Oder wenn man Grog fragt, wer eigentlich der größte Verbreiter von Unwahrheiten in der Welt ist, als Antwort Elon Musk rauskommt, dann wissen wir, dass Elon Musk in seinem erratischen, impulsiven, emotionsgetriebenen Handeln das nicht lange mit sich machen lassen wird. Und wir haben ja schon öfter hier und auch schon dieses eine Zitat von Pip Löckner vom Doppelgänger Podcast immer wieder hier ähm benutzt, der gesagt hat. Es gibt nur zwei Möglichkeiten. Entweder Grog überzeugt Elon Musk oder Elon Musk verändert Grog. Und letzteres scheint jetzt tatsächlich einzutreten, genau das ist der Fall. Elon Musk sagt wir werden Grog drei punkt fünf oder wir werden es vielleicht auch Grog vier nennen. Nutzen, den kompletten Korpus des menschlichen Wissens neu zu schreiben und dabei Fehler vernichten und fehlende Informationen auffüllen. Es gibt viel zu viel Unrat, in dem Foundation Model trainiert auf unkorrigierten Daten. Jetzt muss man dazu sagen, dass Teile davon wahrscheinlich sogar stimmen, denn KI wird immer trainiert mit Daten, die irgendwo herkommen. Und da wir die KI eben nicht nur oder diese Sprachmodelle nicht nur trainiert haben mit Daten, die beispielsweise von JournalistInnen, WissenschaftlerInnen stammen, könnte man sagen, bis hierhin Ist da sogar ein wahrer Punkt dran, vor allem im Fall von Grog, wo wir wissen, dass Grog mit Dutzenden, Dutzenden von Milliarden von Tweets trainiert wurde. Das heißt, jeder Tweet, der in dieser Welt ist, jeder Post of X, der falsch ist. ist Teil dieser Trainingsdaten von Grog. Das kann dazu führen, dass Grog Desinformation verbreitet. Jetzt wissen wir aber auch, dass Elon Musk hier mit unkorrigierten Daten, Unrat, eben nicht die Inhalte meint, die man auf seiner Plattform findet und auch nicht die Inhalte meint, die eben tatsächlich Desinformation oder wie er sagt missing information on human uh of human knowledge um beinhalten zu sondern was er damit meint, sind Informationen, die ihm nicht gefallen, bei denen Elon Musk mit seinem Weltbild eine andere Definition von Wahrheit und Realität hat als die Definition von Wahrheit und Realität, die eben Die ist, auf die sich Wissenschaft, Journalismus, Politik, Gesellschaft eigentlich alle darauf einigen können, nämlich faktenbasierte Wahrheiten So, und um das Ganze jetzt ein bisschen zu verändern, hat Elon Musk aufgerufen auf X unter einem Post spaltende Fakten zu verbreiten. Er sagt, damit meine ich Dinge, die politisch inkorrekt sind, aber trotzdem faktisch richtig. Und diese Informationen sollen dann eben gezielt genutzt werden, um Grog zu trainieren. Und das, was darunter sich versammelt hat, ihr könnt es euch vorstellen, ist an Geschichtsrevisionismus, Zynismus, Menschenfeindlichkeit nicht zu überbieten. Also wir haben hier einen Account, der schreibt, ein verifizierter Account natürlich, verifiziert im Sinne von nicht verifiziert, sondern einen blauen Haken gekauft, dass im Holocaust nicht sechs Millionen Menschen Juden, sondern eben nur 270. 000 Juden getötet wurden. Was Absolut nicht der Wahrheit entspricht. Oder Andy Borham, das ist der erste private Twitter-Account ever gewesen, der als. State affiliated Media eingestuft wurde, weil er als Neuseelander in China dort Kolumnen schreibt für die westliche Welt, um der westlichen Welt zu erzählen, dass China ein völlig demokratischer und unbedenklicher Ort ist. ist in unserem Verständnis von Miteinander. Andy Borham hat darunter geschrieben, hat dafür auch zum Zeitpunkt dieser Aufnahme schon fast 400 Likes bekommen China is more democratic than the United States. Also China ist demokratischer als die Vereinigten Staaten. China hat einen höheren Lebensstandard als der durchschnittliche Westler. und so weiter und so weiter, das ist alles er verbreitet hat. Oder ein christlicher Account, ein Christinfluencer, der hat geschrieben The universe was created by God. God created everything out of nothing. Also das Universum wurde von God erschaffen. Gott hat alles aus Nichts erschaffen und so weiter und so weiter. Bedeutet also, Grog wird jetzt offensichtlich trainiert werden mit Informationen, die von ideologisch getriebenen Menschen Wahrheitsverzerrungen betreiben. Und ich Ich bin mir relativ sicher, dass es dazu führen wird, dass Grog in der öffentlichen Wahrnehmung immer unbrauchbar werden wird, vor allem für uns in Europa. Dass Elon Musk vielleicht glücklicher mit Grog ist, alle anderen aber wahrscheinlich nicht und damit möglicherweise sogar die relativ hohen Zugriffszahlen auf Grog eventuell einbrechen könnten, weil eben Grog, dadurch, dass es eben also anweist, gilt, eben durchaus von Menschen genutzt wird, die ansonsten nicht im Team Mask spielen. Ich bin, ähm, wir bleiben da dran, Haken bleibt dran. Ich finde das eine wahnsinnig faszinierend. faszinierende absehbare Dummheit. So möchte ich es mal sagen. Die andere Geschichte, die Ex betrifft, die ist leider nicht ganz mit so einem kleinen Augenzinkern oder Lächeln zu verkraften, denn hier geht es jetzt um CSAM. Deswegen auch eine kleine Warnung für euch, wenn ihr Themen in der es in denen es um Gewalt an Kindern. geht, nicht gut verkraften könnt, dann spult einfach ein paar Minuten vor, ihr findet in den Show Notes ja auch Kapitelmarken, wann es weitergeht. Denn wir müssen darüber sprechen, weil Elon Musk, als er Twitter kaufte, damals als oberste Priorität für sich festgelegt hat, dass der Kampf gegen CSAM, also Videomaterial, das sexuelle Gewalt an Minderjährigen, zeigt, dass die Bekämpfung von CSAM die oberste Priorität für Elon Musk und für Twitter werden wird. Das war 2022. Seitdem haben wir immer wieder solche Geschichten erlebt, dass beispielsweise es eine Art Roundtable, einen regelmäßigen Termin aller großen Social-Media-Plattformen gab, die sich eben über Die Bekämpfung von CSAM eben ausgetauscht haben an diesem Roundtable, dass Twitter, also X, irgendwann daran einfach nicht mehr teilgenommen hat, beispielsweise, aber auch, dass die Zahlen nicht zwangsläufig runtergegangen sind, sondern sie einfach nur nicht mehr richtig ausgewertet werden. Jetzt gibt es das nächste Kapitel in dieser Geschichte, die Elon Musk hier Lügen straft, als er gesagt hat, das hier sei die oberste Priorität für ihn. Denn Thorn, das ist ein Unternehmen, eine gemeinnützige Organisation, nicht ein wirtschaftliches Unternehmen, sondern gemeinnützig. die eine Erkennungs- und Moderationssoftware im Bereich Kindersicherheit herstellen und die eben auch mit einigen Social Media Plattformen zusammenarbeiten, bislang auch mit X. X hat allerdings jetzt eine Kündigung im Briefkasten gehabt von Thorne, und zwar nicht etwa, weil Thorne sich aus irgendwelchen Gründen dagegen entschieden hat, mit Ex zusammenzuarbeiten, sondern weil X seit gerauer Zeit schon die Rechnungen nicht bezahlt hat. Thorne selber sagt, sie haben schon länger versucht. den Betrieb aufrechtzuerhalten, haben auch länger versucht, mit Ex eine Lösung zu finden, weil offenbar X nicht zahlungsfähig oder zahlungswillig gewesen sei. Haben sich aber jetzt dazu entschieden, diesen Vertrag kündigen zu müssen, weil sie diese Dienstleistungen für eben nicht mehr aufrechterhalten können. Ex selber hat darauf geantwortet, dass sie wohl vorhaben, dafür jetzt eine eigene Technologie einzuführen, die dann, wir können davon ausgehen, KI-basiert sein wird, äh, automatisiert sein wird, und das diese Technologie eben in Zukunft Thorn ersetzen soll. Das ist natürlich eine wahnsinnig dämliche Idee, weil wir auch wissen, dass die Content-Moderation auf X mit Automatisierung nicht gut funktioniert, das aber auch kaum Leute bei Ex arbeiten, die solche Services aufrechterhalten können. Gleichzeitig gibt es aber den Bericht von einem kanadischen Institut. Da muss ich kurz scrollen. C3P heißt das. C3P ist das Canadian Center for Child Protection. Das ist eine unabhängige Online-Beachtungsgruppe für CSAM, die genau auf solche Netzwerke schauen und sich angucken, wie entwickeln Entwickelt es sich eigentlich in sozialen Netzwerken mit der Verbreitung von Material, das eben sexuelle Gewalt an Kindern zeigt? Genau die Dinge, die wir eben am allerletzten auf solchen Plattformen überhaupt erleben wollen. Um und da gibt es eben den Bericht von NBC News, die selber sagen, sie haben das Material nicht gesehen haben, aber die Versicherung vom Canadian Center for Child Protection, dass sie sagen, sie konnten innerhalb von wenigen Minuten ohne Ende Bilder von CSAM-Opfern identifizieren auf X. Bilder, das Opfer im Alter von sieben Jahren Post gezeigt hat. Videos, das Jungen im Alter von vier Jahren gezeigt hat, die eben sexuell missbraucht wurden. Also eben solche Inhalte, die absolut auf so einer Plattform nicht zu suchen haben, die mit Automatisierung vielleicht hätten früher identifiziert werden können, aber wir sehen dass X einfach absolut keine Energie in diese Bekämpfung reinsteckt, dass sie die Arbeit mit Behörden, mit Unternehmen völlig beigelegt haben. ihnen genau das abgenommen haben und genau diese Dienstleistung für sie übernommen haben. Und es geht noch weiter. Offenbar gibt es eben Gruppen, die jetzt eben Hashtags fluten mit automatisierten Bots auf X mit solchen Inhalten, die Communities nutzen. Wir erinnern uns, X-Communities ist so eine Art Gruppenfunktion in X, um solche Communities eben auch hier zusammenzuführen. Und dass eben sogar angeblich CSRM Werbetreibende die Plattform fluten, indem sie so ein Material sogar gegen Geld, wahrscheinlich gegen Zahlung von Kryptos verkaufen wollen auf X, indem sie eben Hashtags fluten mit Hilfe von Bots. Das heißt, dieses Einfallstor, die bekannte Abgebung, dass Thorn nicht mehr für Ex tätig ist, zeigt nur, dass Ex da eine absolute Angriffsfläche gerade bietet, die sie selber auch noch nicht oder vielleicht gar nicht auffangen können. Was ein absolutes, absolutes Armutszeugnis ist. Ein absolutes, das kann man nicht in Worte fassen, wie schrecklich das ist und wie schlechte Laune mir diese Geschichte macht, aber Wir müssen darüber sprechen und um nochmal so einen Blick darauf zu geben, wie X sich eigentlich selber darstellt, hat Ex beispielsweise im Jahr 2024 angekündigt, dass sie Thorn ja völlig. . altruistisch beim Testen eines Tools zur proaktiven Erkennung textbasierter sexueller Ausbeutung von Kindern geholfen habe, dass diese Lösung bei ihnen nahtlos integriert wurde und ex damit sehr zufrieden war. . Thorn selber, also Pale Salay, das ist der Senior Manager of Accounts bei Thorn, der die Zusammenarbeit mit X sozusagen überwacht, das ist der Account Director in diesem Buch. Deal war. Der sagte, dass was Ex eigentlich nur gemacht hat, war, an einer Beta-Phase teilgenommen haben. Also es war nicht so, dass Ex wohl sich selber dazu entschieden hat, hier jetzt Thorne unterstützen zu wollen, sondern Thorne hatte ihnen angeboten, ob sie diese Dieses Feature nicht zuerst testen wollen, um zu schauen, ob das nicht möglicherweise sogar noch besser wirkt als die bisherigen Maßnahmen. Das ist krass, vor allem auch, dass Thorn eben selber von sich aus sagt, wir haben monatelange Bemühungen. erbracht, Flexibilität zu zeigen und zu versuchen, dass es trotzdem funktioniert. Jetzt mussten wir aber diesen Vertrag beenden. Und es gibt eine Aussage von diesem Child Center in Kanada. Der Herr Richardson heißt der, den Vornamen habe ich hier gerade nicht, der hat etwas gesagt, das man, glaube ich, nicht häufig genug zitieren kann. Der sagte Man kann so ein Problem nicht einfach automatisieren, denn das würde ohne menschliches Zutun am Ende unweigerlich dazu führen, dass Inhalte. . Über- oder untermoderiert blieben. Und das ist nämlich genau das Problem. Content Moderation skaliert nicht, wie wir wissen, und wir wissen auch, dass X Auch wenn sie selber nochmal gepostet jetzt haben, dass sie Zero Tolerance for CSAM haben, also keine Toleranz dafür, dass wir davon ausgehen können, dass sie sich hier nicht so sehr eingebracht haben, wie man das denen von denen eigentlich hätte, naja, verlangen müssen. So, das ist die Ex-Geschichte des Tages. Und dann gibt es noch eine Metageschichte für heute, glaube ich, oder sind das sogar zwei? Ja, ich habe sogar zwei Geschichten. Das eine ist ein kleines Housekeeping oder eine Weitererzählung und zwar geht es um WhatsApp. Wir haben darüber gesprochen in der Folge mit Dennis Horn, ich glaube, das war am vergangenen Montag oder Mittwoch, ihr werdet sie finden, ist seit ein paar Folgen her, haben wir relativ umfangreich darüber gesprochen, dass WhatsApp angekündigt hat. in dem aktuelles Reiter Werbungen zu platzieren. Diese Werbungen können entweder in diesen WhatsApp-Status-Videos auftauchen oder in diesen Broadcast-Channels. nicht direkt in den Verläufen, aber eben dazwischen. Und die irische Datenschutzkommission hat aber jetzt mal bei Meta nachgefragt und sagte, ey Meta, es gibt ja einige Datenschutzbedenken, was dieses Feature angeht, weil ja durchaus auch eine Vernetzung von Facebook. Instagram und WhatsApp-NutzerInnen-Daten verwendet werden soll, um die Werbung besser zu personalisieren. Daraufhin hat Meta gesagt, dieses neue Produkt wird nicht vor 2026 auf dem EU-Markt eingeführt. Und dass sich die irische Datenschutzkommission, die eben dafür zuständig ist, die EU-Datenschutzgrundverordnung zwischen META und der EU-Kommission durchzusetzen, dass die eben sich jetzt zusammensetzen werden mit Meta, um offene Fragen zu klären und darauf zu schauen, wie könnte man dieses Feature so einführen, dass es eben konform mit den europäischen Datenschutzrechten ist. Wir sind sehr gespannt. Wir wissen, dass ja durchaus diese Formulierung berechtigtes Interesse in der Vergangenheit immer wieder von Meta auch genutzt wurde, um zum Beispiel historische NutzerInnen-Daten wie Postings zum KI-Training zu verwenden, obwohl wir als NutzerInnen dem vielleicht niemals zugestimmt haben. Deswegen, wir schauen da einfach mal vorsichtig drauf. Ich würde allerdings jetzt nicht davon ausgehen, dass die irische Datenschutzkommission hier dieses Feature komplett einkassieren wird, denn Meta hat selber auch nochmal öffentlich bekannt gegeben. Dass es sich hierbei um ein globales Update handelt, das schrittweise auf der ganzen Welt ausgerollt wird. Und mit dieser Selbstsicherheit, mit der Sie hier eben auftreten, die sollten wir genau so beim Wort nehmen. So, und dann gibt es noch eine kleine Servicemeldung zum Thema Meta, die ich hier noch unterkriegen wollte. Und zwar haben wir noch knapp eine Woche Zeit für den Fall, dass ihr mal bei Facebook in der Vergangenheit live gegangen seid. Facebook Live war ja eine Zeit lang super gehypt und da ihr ja alle auch schon, nicht alle, aber viele von euch ja vermutlich auch schon alte Hasen in Social Media sind, habt ihr es vielleicht auch ausprobiert und habt möglicherweise damit Videos generiert, die jetzt immer noch auf Facebook server liegen. Wir haben schon vor einigen Monaten, nämlich im Februar, darüber gesprochen, dass Meta historische Live-Videos löschen wird. Dieser Zeitpunkt ist der 29. Juni. Also kommender Sonntag. Wenn ihr also in dieser Woche mal ein bisschen Zeit habt und dieses Material eben nicht verloren gehen lassen wollt, so habt ihr jetzt genau noch eine Woche Zeit oder sechs Tage, um diese früheren Facebook-Live-Videos von euch herunterzuladen, bevor sie für immer verloren gehen. Ich glaube übrigens, dass sie bis jetzt gewartet haben, um die Daten auch einmal schön in den Trainingssatz einlaufen zu lassen für ihre KI, um sie dann zu löschen. Aber für Hot Takes bin ich heute nicht zuständig, das macht das Wetter schon. Vielen, vielen Dank, dass ihr bis hierhin zugehört habt. Und wie immer bei meinen Solo-Episoden würde ich mich freuen, wenn ihr mir jetzt ein kleines Emoji in die Spotify-Kommentare oder bei Blue Sky oder in den Haken drin-Discord unter www. hakenrin. org postet, damit ich sehe, dass ihr bis zum Ende zugehört habt. Am Mittwoch geht es hier bei Haken dran mit einer längeren Folge, dann weiter wieder mit Thorsten Beek. Ich freue mich drauf, ich freue mich auf euch. Vielen Dank, dass ihr bis hin zugehört habt. Habt eine schöne Woche und bis bald.