Bring niemals eine KI zu einer Schießerei

00:06 Gavin Karlmeier

Hallo Finn Hallo Geffen. Bei mir ist Finn Kröger, der Redakteur beim NDR ist, der einen von Ultralativ kennt, dem YouTube-Kanal, über den wir hier, glaube ich, auch schon sehr häufig geschwärmt haben in den letzten 500. 52 Episoden und selber Podcaster in dem Format Morgengrauen. Und das erste Mal, dass wir beide eine Folge aufnehmen, die keinerlei technische Widrigkeiten erfährt. Ich freue mich sehr, dass das so ist.

00:33 Gavin Karlmeier

Im Tag vor dem Abend gelobt. Trotzdem danke für die Einladung. Als du letztes Mal hier warst, war ich im Urlaub und wenn man sich die Folge auf YouTube oder PeerTube anschaut Ich habe dich auf meinem Handy am Ohr und nehme lokal meine Spur auf, weil es anders nicht möglich war, uns miteinander zusammenzuschalten. Heute im sicheren Habitat, in der Keminate, wie andere Podcaster sagen würden.

01:05 Gavin Karlmeier

Und ich habe dir heute, wie ich das ja immer so mache, in der Vorbereitung auf meine Gäste habe ich dir die Themenliste geschickt und dann hast du aber vorher eine ganz tolle Ansage dazu gemacht, weil du gefragt hast, reden wir über was Bestimmtes? Dann hast du gesagt, ich kann pausenlos über KI abhassen, aber ich warte erstmal auf die Themenliste. Und da habe ich dir die Themenliste geschickt. Und da sind, ich würde sagen, das widerspricht dem nicht zwangsläufig. Nee, ich habe bekommen, wonach ich gefragt habe.

01:33 Gavin Karlmeier

Wir müssen nämlich mit einer Geschichte heute reingehen, die gerade so ein bisschen viral geht und die so in dieser Kategorie stattfindet. Man redet, man spricht der KI-Fähigkeiten im Gesamten zu, die sie so eigentlich nicht hat. Also, es ging ein Text rum mit der Überschrift dass ein Tech-Investor oder ein Tech-Experte, war glaube ich die Formulierung, ein Tech-Tech-Experte hat mit Hilfe von Chat-GPT einen ein Krebsheilmittel für seinen Hund entwickelt. Und das ging auch so, ich habe das auch so in privaten WhatsApp-Gruppen geschickt bekommen. Und dachte so, also du konntest die Geschichte ja schon debunken, ohne auf den Link zu klicken, war so mein Gefühl. Ich weiß nicht, wie es dir ging.

02:47 Gavin Karlmeier

Ja, also wir können das immer ein bisschen aufrollen, weil Decrypt hat das ganz fantastisch gemacht. Die haben nämlich genau diese ganze Geschichte auseinanderklammbüsert, wie wir im Ruhrgebiet sagen. Also es geht um Rosie. Rosie ist ein Hund. Und Rosie hat Krebs. Und der OpenAI-Mitbegründer Greg Brockman hat diese Geschichte selber am Wochenende stark verbreitet, weil er natürlich diese Geschichte von diesem Hund, der mit einem mRNA-Krebsimpfstoff behandelt wurde, Das ist natürlich eine tolle Geschichte, ist eine schöne Marketing-Erzählung. Aber wie gesagt, es ist nicht ganz so einfach. Denn tatsächlich ist es so, dass ChatGPT zum Einsatz gekommen ist. Allerdings jetzt nicht von irgendeinem Tech-Experten, der als Antwort bekommen hat, misch da einfach nur diese drei Chemikalien zusammen und dann hast du die perfekte Heilung, sondern es ging hier tatsächlich darum, dass ChatGPT. so Möglichkeiten aufgezeigt hat, was man tun könnte. Und dazu gehört eben auch, dass man möglicherweise sich mal mit mRNA-Impfstoff auseinandersetzen könnte und dass die Bollen an dem Kopf des Hundes. . möglicherweise Krebs im fortgeschrittenen Stadium sein könnten. Und dann ging das halt so seinen Weg, dass Experten und Forscher die tatsächlich auch mit künstlicher Intelligenz arbeiten, dann aber nicht mit ChatGPT, sondern mit AlphaFold. Das ist aus dem Google Deep Mind Lab so ein Tool, mit dem du eben solche Das wissen jetzt alle Medizinexperten besser als ich, wie das heißt, aber ich sage jetzt mal lainhaft Sequenzierungen vornehmen kannst. Ich glaube, so heißt es auch nicht. Haben die nicht sogar den Nobelpreis gewonnen?

04:29 Gavin Karlmeier

Ja, und das ist ja auch erstmal super, wenn du solche Prozesse eben automatisieren kannst mit Hilfe von künstlichen Intelligenzmodellen. Also ich kann dir genau sagen, Cunningham, das ist der. Typ, um den es hier geht. Cunningham, ich sagte gleich, wer das genau ist. Mein Gott, Cunningham ist der Besitzer des Hundes. Und der hat Elf a Fold eingesetzt und die dort, ähm, ich kann jetzt genau sagen, nicht sequenziert. Sondern er hat eine Modellierung des Proteins vorgenommen und die mit der gesunden Ausgangsversion verglichen und konnte dadurch durch die Form der Mutation, die den Vorhersagen von Literaturentsprachen, feststellen, dass dort C-Kit-Proteine bestehen, die möglicherweise angreifbar wären Mit Hilfe von Medikamenten wie MRNA-Stoffen. Und das müssen sich aber immer noch dann am Ende Forscher genauer sich anschauen und sich damit auseinandersetzen. Aber das ist eben eine sehr kurze Version, die Geschichte so runterzuerzählen, wenn man sagt, ChatGPT hat Krebsgehalt.

07:22 Gavin Karlmeier

Naja, das Problem ist aber ja auch, wie eben die Medien eben heute funktionieren, glaube ich. Also ich würde jetzt nicht mit so einer generellen Medienschelte hier um die Ecke kommen, aber Wenn du dir überlegst, Geschichten über brände Elektroautos, vor allem gerne Tesla, werden auch immer so durch die Medien getrieben und alle sagen, ah, da ist wieder ein Tesla niedergebrannt und Im Verhältnis zu allen anderen entzündeten Autos ist es wahrscheinlich immer noch ein kleiner Prozenteil. Natürlich ist ein brendes Elektroauto im Kern erstmal gefährlicher, weil es schwieriger zu löschen als brendes Benzin, aber jetzt auch nicht. Wenn ich mich entscheiden müsste, hätte ich gerne beides nicht, ehrlicherweise im Wohnzimmer. Aber die Geschichte des brennenden Teslas, die geht natürlich immer toll viral, weil alle sind, vor allem die ganzen Benziner Ultras, Verbrenner-Ultras, sich schön darüber aufregen. Guck mal hier, deine Elektroautos. Und das ist hier auf eine Art so ähnlich. Wir haben das Umfeld geschaffen, in dem halt auch Medienschaffende, die häufig darauf gucken, was Klicks bringt und was eben gut performt. Nach solchen Geschichten suchen, die dann möglicherweise in dem Fall hier ja sogar dazu geneigt waren, eine Verkürzung in die Überschrift zu packen, wieder besser, obwohl sie es besser gewusst hätten. weil sie damit eben irgendwie Aufmerksamkeit generiert hätten. Und das Ärgerliche, und das ist auch der Abschluss des Secret-Textes, ist, die Forscher, die am Ende die Secret Sequenzierung durchgeführt, den Impfstoff entwickelt und die Sicherheitsprotokolle verwaltet haben, laufen Gefahr in Vergessenheit zu geraten, weil wir uns so sehr darauf fokussieren wollen, dass es hier alles eine Maschine alleine gemacht hätte.

10:37 Gavin Karlmeier

Ja. Absolut richtig. Und was dann am Ende das Ärgerliche ist, dass man dadurch so eine Polarisierung der Debatte ja auch auslöst. Also am Ende. Ist es dann wirklich so, bist du für KI oder bist du gegen KI? Und ich sage dann immer so, ja, also ich bin jetzt nicht per se dagegen, dass es technischen Fortschritt und Innovations. Für oder gegen Computer. So, aber gleichzeitig bin ich jetzt auch nicht so ein Fan davon, dass man jetzt seine komplette Belegschaft entlässt, weil man ja ein ChatGPT pro Abo hat. Das ist ja auch nicht so die Lösung.

12:34 Gavin Karlmeier

Ich habe lustigerweise, weil ich ja so viel so Schulungen mache und so Workshops gebe und Seminare. Ähm, ich habe am gestrigen Dienstag, wenn ihr das so hört, ist Mittwoch offensichtlich, habe ich so einen Tag lang über KI gesprochen Mit Leuten, die sich damit auseinandergesetzt haben. Mache ich vier, ne? Wie kann man das einsetzen und wo hilft das und so? Und da ist mir aufgefallen, dass Will Smith Eating Spaghetti, dieses erste große, virale KI-Video, das ist jetzt ziemlich genau drei Jahre alt. Also nur drei Jahre. Es ist am 23. März 2023 erste Mal bei Reddit aufgetaucht. Und das ist ja nix, wenn du dir überlegst, wie jetzt Video, also generierte Videos aussehen, die aus dem Nichts entstanden wurden. oder erstellt wurden. Und das ist genau, also natürlich konnten wir das alles nicht ahnen, dass die Erfindung des Smartphones irgendwann über die Möglichkeit Doodle Jump zu spielen, indem ich mein Handy links und rechts neige, hinausragt und mir Möglichkeiten bietet, die ich damals eben noch nicht absehen konnte. Gleichzeitig Da ist aber diese, diese, sind diese Prozesse aber so schnell geworden, dass das so an uns vorbeirast, dass auch jeder, der sagt, ich weiß, wo wir in fünf Jahren stehen. muss ja ein Lügner sein. Und zwar nicht nur, weil er nicht in die Zukunft schauen kann, sondern auch, weil durch die Geschwindigkeit dieser Prozesse das ungefähr so ist, als hättest du 1800 gesagt, ich weiß, wo wir in 300 Jahren stehen. Das ist ja gefühlt sind wir ja in so einem Tempo angekommen.

14:27 Gavin Karlmeier

Ja, das war das Weo-Beispiel aus dem letzten Jahr.

15:23 Gavin Karlmeier

Ja, stimmt natürlich alles. Gleichzeitig kommt, glaube ich, noch hinzu. dass der Grund, warum wir so begeistert davon sind oder viele so sehr begeistert davon sind, dass sie glauben, sie müssen alles umstellen auf KI-Workflows. glaube ich ja eher aus dem Reiz des Neuen rührt. Das haben wir hier bei der Zora-App schon mal erzählt, dass so im November, Dezember dieses Social Network von OpenAI, dieses TikTok für rein synthetische Videos. . total gebummt ist und total gehypt war und alle sich das angeschaut haben, vor allem in den USA, in Europa ist es ja nie so richtig gestartet, aber alle soll sich darauf gestürzt haben und gesagt haben, boah, das ist so geil. Und wenn du da aber jetzt reinschaust, dann ist da ziemlich gerne eine Lehre, weil dieser Effekt des Neuen, der Reiz, des ich kann jetzt was tun, was ich vorhin nicht konnte. Der war meines Erachtens der einzige USP dieser App. Und jetzt, wo der weg ist, weil alle das zweimal benutzt haben und gemerkt haben, okay, ich habe es verstanden. Es kann diese großen Schritte können nicht weiter geschehen Und deswegen wird es sich so ein bisschen total normalisieren und in unser normales Leben rein angleichen, ohne dass wir diese großen Booms und Kicks da in dem Bereich wahrscheinlich nochmal so schnell erleben werden.

17:13 Gavin Karlmeier

Ja, oder filmt die Werbespots mit einem Samsung-Handy

19:16 Gavin Karlmeier

Ja, ich könnte dir die ganze Zeit zuhören, wie du dich da so reinarbeitest. Ist fantastisch. Ich habe eine Studie noch mitgebracht. Wir machen heute nicht nur KI, keine Sorge, Leute. Aber ein bisschen haben wir halt dann doch. Und wir mussten mit dieser Hundegeschichte einfach reingehen. Und zwar gibt es eine Studie der Cornell University, die sagt, dass KI-Autovervollständigung. . . unsere Denkweisen beeinflusst. Also die Art und Weise, welche Wörter uns als nächstes vorgeschlagen werden, welche Dinge in E-Mail zum Beispiel umformuliert werden. Die beeinflussen schon, wie wir denken und haben nachhaltigen Einfluss darauf, welche Gedanken wir sozusagen für uns selbst dann später auch herbei assoziieren. Und das Brisante ist natürlich, wenn man das dann so ein bisschen weiter denkt und überlegt, Naja, was ist denn, wenn das nicht einfach nur Machine Learning ist, sondern wenn die Leute, die dieses KI-Modell dir anbieten, auf dessen Grundlage da auf Autovervollständigung entsteht. Dass das, wenn die möglicherweise eine eigene Agenda verfolgen oder ein eigenes Interesse haben. Ich denke an Elon Musk, der ganz nachweislich eine eigene politische Agenda verfolgt. Wir haben ja uns schon gemeinsam ganz toll über Elon Musk aufgeregt. Der ist aber jetzt hier mehr so ein Beispiel für diese Leute, die die Tech-Welt zwar als großes Geschenk an die Menschheit verstehen, sie aber vor allem nutzen, um durch die Hintertür ihre eigenen Interessen durchzudrücken.

21:41 Gavin Karlmeier

Ja, und das Spannende ist aber hier, ich kann ja mal den Versuchsaufbau schildern, weil das bestätigt total, was du sagst. Und zwar, die Forscher baten die Teilnehmer, eine Online-Umfrage mit Fragen zu brisanten sozialen und politischen Themen auszufüllen, berichtet Scientific Und zwar einige erhielten eine KI-Autovervollständigungsantwort, die absichtlich einseitig war. Beispielsweise erhielten Teilnehmer, die gefragt wurden, ob sie die Todesstrafe befürworten, möglicherweise ein KI-Vorschlag, der dagegen war. In allen Themenbereichen der Umfrage zeigten die Teilnehmenden, denen die KI-Autovervollständigungsvorschläge angezeigt wurden, eine Haltung, die eher der Position der KI entsprach. selbst diejenigen, die den vorgeschlagenen Text nicht übernommen haben. Insgesamt tendierten die Studienteilnehmenden, den der verzerrte KI-Text begegnete, dazu ihre Position, die der KI, anzugleichen. Und auch interessant, die Studienteilnehmer haben die KI-Autovervollstellungsvorschläge nicht für voreingenommen gehalten. Und bemerkten auch nicht, dass sich ihre eigene Meinung zu diesem Thema im Laufe der Studie verändert hatte. Und richtig spannend, das sagt der Leiter der Studie, wir haben die Teilnehmenden vor und nach der Studie darauf hingewiesen, dass die KI voreingenommen sein wird. Aber es hat nichts gebracht, ihre Haltung hat sich trotzdem verändert.

24:12 Gavin Karlmeier

Aber das kennen wir. Man kennt das ja selber. Also denk mal an den Akinator. Ich weiß nicht, ob du dich noch an den Akinator erinnerst. Der hat ja mit Hilfe von 30 Fragen, konnte der die prominente Person, die du dir gedacht hast, zurückrekonstruieren. Und man war ja nicht doof, wenn man das benutzt hat. Man wusste schon, okay, wenn diese Frage jetzt kommt, ist die gesuchte Person TV-Moderator, dann ist der Kreis der möglichen Prominenten ja viel, viel, viel, viel kleiner als zuvor. Und wenn dann auch die Frage nach der Haarfarbe und nach dem Geschlecht kommt, naja, wahrscheinlich hat er, dann weißt du dann schon, wen du meinst. Und trotzdem hatte man immer das Gefühl, wow Wie hat er das gemacht? Das ist derselbe Effekt. Man will ja auch an der Illusion teilhaben. Du gehst ja auch in der Zaubershow von meinetwegen den Ehrlich Brothers oder von Siegfried und wie heißen die? Siegfried und Joy oder wem auch immer. Und du weißt ja, dass die jetzt nicht wirklich sich zersägen durch eine Mauer laufen. Das ist dir kognitiv eigentlich alles klar. Aber trotzdem willst du willst ja die Illusion auch verstehen. Du willst ja da rein

26:52 Gavin Karlmeier

Es bringt im Grunde nichts, wenn du deinem Sprachassistenten sagst, dass er bitte das Licht ausschalten möchte, weil am Ende reicht Licht aus. Und das müssen wir lernen. Wir müssen lernen. Aber ich glaube, da bege ich mich jetzt aufs unrecherchierte Glatteis, aber ich habe das Gefühl, mal gelesen zu haben. dass die Art und Weise mit unseren Sprachassistenten umgehen, dann auch in unseren Kontakt mit anderen Menschen wiederum einfließt. Also wenn ich eben nicht bitte sage Dass ich dann auch dazu neige, mit anderen Menschen weniger höflich zu kommunizieren. Ich werde das mal überprüfen, ob das stimmt und in der nächsten Folge nachhaken.

27:41 Gavin Karlmeier

Apropos Eingabe, letztes KI-Thema für heute, zumindest letztes plakatives KI-Thema. Und zwar Gibt es Neuigkeiten von Niantic. Die kennst du bestimmt noch, weil die haben damals ein Spiel entwickelt, das hieß Ingress. Und wenn du das nicht kennst, dann kennst du auf jeden Fall noch Pokémon Go. Das haben die auch entwickelt. Und jetzt wird es interessant. Es gibt ein Unternehmen und dieses Unternehmen heißt Coco Robotics. Und Coco Robotics stellt so kleine Roboter her. die so die letzte Meile gehen sollen von zum Beispiel einer Pizzeria zu dir. Also die dir eine Pizza ausliefern sollen. In großen Städten wird das schon getestet, also in Los Angeles, Chicago, Jersey City, Miami und Helsinki. Sind die schon im Einsatz, die sind so groß wie so ein Flight Case und können bis zu acht extra große Pizzen transportieren. Und das Problem aber, dass Coco Robotics hat, ist, dass das GPS-Signal in diesen Städten wegen der dichten Bebauung, in LA wahrscheinlich jetzt nicht so, aber in Chicago sicherlich, nicht dazu reicht, exakt genaue Koordinaten anzusteuern. Also es ist nicht möglich, ein Haus zu treffen. Und jetzt kommt Niantic ins Spiel, denn Nayantic. Lizensiert jetzt Daten, die NutzerInnen in Pokémon Go erstellt haben. Fairerweise muss man dazu sagen, die, die das optionale Feature eingeschaltet haben, dass ihre Scandaten geteilt werden. Trotzdem, die eben Leute erstellt haben, weil sie zum Beispiel Dinge fotografiert haben, Dinge gescannt haben in der Öffentlichkeit und damit Nyantic sozusagen Daten zur Verfügung gestellt haben, die Nyantic jetzt wiederum Coco Robotics zur Verfügung stellt, um Genauer sich durch Straßen zu bewegen.

29:55 Gavin Karlmeier

Könnte man vermutlich so unterstellen, ja. Also klar, also die Daten, die da liegen, die sind nicht nur interessant, um damit eine Pizza auszuliefern. Das ist wohl so, weil du es eben damit generiert, also du hast halt de facto Fotos, die Leute generiert haben. Und da muss man dazu sagen, Es hat sicherlich auch Vorteile, dass alle Teslas, die unterwegs sind, alle mit Kameras unterwegs sind, die dadurch möglicherweise auch solche Daten erstellen.

30:39 Gavin Karlmeier

So, wir müssen auf ein bisschen Social Media Themen heute noch anfassen. Ich habe eine, die macht ein bisschen schlechte Laune, aber das ist man von uns ja hier gewöhnt. Und zwar gibt es eine BBC-Recherche, die haben dazu auch eine begleitende Dokumentation veröffentlicht, die haben über längeren Zeitraum mit mehreren Whistleblowern gesprochen, die für TikTok und Meta im Einsatz. . Und zwar geht es dort um den Vorwurf der Manipulation der Algorithmen. Und zwar um, man glaubt es kaum, den Wettbewerb Wettkampf gegen das jeweils andere Unternehmen besser betreiben zu können oder besser gewinnen zu können. Also ganz konkret hat die BBC mit mehr als einem Dutzend Whistleblowern gesprochen, bei TikTok und bei Meta. Und die Vorwürfe sind, also man kann es nicht anders sagen, frapierend. Ich zitiere mal ein bisschen. Ein Ingenieur bei Meta hat berichtet, wie er von der Geschäftsleitung angewiesen wurde, mehr grenzwertige schädliche Inhalte wie Frauenfeindlichkeit und Verschwörungstheorien in den Nutzerfeeds zuzulassen, um mit TikTok konkurrieren zu können. Ein TikTok-Mitarbeiter dagegen hat interne Dashboards gezeigt, bei denen auch angezeigt wurde, wie eingestuft wurde, wenn Inhalte gemeldet wurden. Und zwar auch krass, dass zum Beispiel Meldungen von Inhalten, die schädliche Beiträge mit Kindern darstellen, schlechter bewertet wurden als Inhalte, die schädliche Inhalte gegenüber Politikern gezeigt wurden, weil Politiker am Ende wichtigere Kontakte für die Plattform sind, weil die am Ende. . über Regulierungen und Verbote entscheiden würden. So sagt TikTok das zumindest intern, laut diesen Whistleblowern. Man muss, glaube ich, nicht wirklich dazu sagen, ich mache es aber trotzdem der Vollständigkeit und der journalistischen Sauberkeit halte. halber, dass ein Sprecher von Meta diese Behauptung zumindest scharf zurückgewiesen hat und sagt, wir haben strenge Richtlinien zum Schutz unserer Nutzer und haben die letzten zehn Jahre erheblich in Sicherheit investiert.

33:48 Gavin Karlmeier

Ja, das ist wohl so. Also Es ist alles noch ein bisschen düsterer. Zum Beispiel als die Reels gestartet sind bei Meta, hat Meta ziemlich viel Power da reingesteckt, dass diese Reels starten. Und die BBC hat in dieser Dokumentation, die übrigens den fantastischen Namen trägt. . Inside the Rage Machine. Wir haben in dieser Dokumentation eben auch mit einem leitenden Forscher von Meta gesprochen, der vermutlich nicht mehr dort arbeitet. Matt Mottle heißt der. Und Matt Mottel hat erklärt, dass als Instagram Reels gestartet ist, es eigentlich noch keine Sicherheitsvorkehrung für Reels gegeben hat. Also Mottle sagt, das Unternehmen hat 700 Mitarbeiter eingestellt, um die Reels auszubauen. Das Sicherheitsteam hat in der gleichen Zeit zwei Spezialisten für Kinderschutz und zehn weitere zur Unterstützung der Integrität von Wahlen gefordert, die aber auch noch. . verweigert wurden, weil Meta eher darauf aus war, dieses Reels-Team zu stärken und weiter auszubauen. Und alles andere, ja, na gut, wurscht. Und das führte dazu, dass als die Reels dann am Ende gestartet sind. Die Inhalte, die dort angezeigt wurden, tatsächlich mit messbaren Werten deutlich schädlicher und schlimmer gewesen sind. Also und auch da wieder frappierend. 75 Prozent der Inhalte, die im Hauptfeed angezeigt wurden. Nee, anders. Reels-Beiträge enthielten zu 75% mehr Mobbing als Inhalte, die im Hauptfeed von Instagram angezeigt wurden. 19% mehr Hassrede, 7% mehr Gewalt und Aufstachelung. Das also zeigt, wie wichtig tatsächlich in diesen Unternehmen auch wirklich Trust and Safety ist, dass man sich darum kümmert, dass eben, wie wir es hier so oft sagen. . die nicht skalierende Content-Moderation eben dadurch aufgefangen wird, dass man sich eben darum kümmert, dass genug Leute da sind, die halt sowas verhindern.

36:45 Gavin Karlmeier

Ja, und das Problem ist aber, dass wir da mit unterschiedlichen, also wir kommen quasi mit unterschiedlichen Waffen zum Messerkampf. wenn man so möchte, in dieser Diskussion. Weil Meta argumentiert halt natürlich intern ganz anders. Also die BBC hat hier mit einem ehemaligen Ingenieur, also mit einem Programmierer bei Meta gesprochen, der Tim heißt. Und die sagen. Wir verlieren gegenüber TikTok, das geht nicht, deswegen wird der Aktienkurs leiden. Die Leute wurden paranoid und reagierten nur noch impulsiv. Sie dachten, wir tun alles, um aufzuholen. Woher bekommen wir bloß noch 2-3% Umsatz für das nächste Quartal? Und sagen auch, dass ein leitender Vizepräsident von Meta am Ende die Entscheidung getroffen hat. potenziell schädlich, aber nicht illegale Inhalte, wenn Nutzer denn mit ihnen interagierten, nicht mehr einzuschränken. So also Du hast natürlich vollkommen recht, auf moralischer, menschlicher Ebene müssen wir diese Clickworker schützen und das zum Beispiel durch schnellere Entwicklung von solchen KI-Systemen am Ende auch, weil das macht die irgendwann zumindest In Teilen ein bisschen überflüssiger. Und zwar egal, ob das Content-Moderation oder Datenannotation ist. Wir haben hier neulich auch immer so Annotoren an Gesprochen, wie sagt man auf Deutsch? Annotoren.

37:59 Gavin Karlmeier

Oh, tolles Wort, eigentlich. Aber das Dilemma ist halt, dass Meta wirklich auch auf kleinster Ebene hier argumentiert. Also wir haben neulich darüber gesprochen, dass Jugendschutzmaßnahmen zurückgeschraubt wurden, weil man ansonsten die Sorge hatte, der Wachstum würde um 1,9 Prozent sinken, das Wachstum. 1,9 Prozent, das ist die Währung, über die wir hier sprechen.

38:45 Gavin Karlmeier

Das kann man nicht anders sagen. Also ich habe die Doku selber noch nicht gesehen. Ich weiß auch gar nicht, ob man sie in Deutschland schon sehen kann, aber. Wenn nicht, wird sie bestimmt bald lizenziert und irgendwo zu sehen sein. Das klingt alles so, als wäre das sehr, sehr sehenswert, aber auch sehr düster und dystopisch, ehrlicherweise. Ja. So, es gibt übrigens noch einen kleinen, ich habe eine kleine Textempfehlung für euch. Und zwar hat Casey Newton bei Platformer sich nochmal mit der Thematik beschäftigt, dass Instagram die End-to-End-Encryption im Instagram Messenger. einstellen wird. Und da haben wir ja in der letzten Folge schon ein bisschen drüber gesprochen, vor allem darüber, dass diese ganze Argumentation von wegen. Das nutzt eben keiner, deswegen stellen wir das ein, halt totaler Nonsens ist, weil das eben Haupt-In-Funktion war. Also die Leute wussten gar nicht, dass es Ende-zu-End-Verschlüssel bei Instagram hätte geben können. Und er macht das noch ein bisschen größer auf, er schaut auch darauf, dass Zuckerberg ja eigentlich sehr häufig über Sicherheit gesprochen hat, die in den Plattformen so wichtig ist. Und hat zum Beispiel sehr bemerkenswert festgestellt. dass es ja noch mehr Messenger-Dienste bei Meta gibt neben Instagram und WhatsApp, auf das jetzt verwiesen wird, wenn man denn verschlüsselt kommunizieren möchte, nämlich den Facebook Messenger, der auch. Ende zu Ende verschlüsselt ist. . . Der wird aber explizit nicht empfohlen, wird aber seit Jahren immer weiter zurückgebaut. Also Messenger. com wird eingestellt, haben wir darüber gesprochen. Es ist fraglich, ob die App überhaupt noch lange bestehen bleiben wird oder ob nicht alles in die Facebook-App rutschen wird und so weiter. Finde ich eine sehr erstaunliche Beobachtung und einen guten Text. Kleine Empfehlung. Ich weiß nicht, ob du noch Emotionen dazu hast, zur Ende zu Ende-Verschlüssel. Ich hoffe.

42:35 Gavin Karlmeier

Plus natürlich die politische Wirkkraft dieser Aussagen. Also die Tatsache, dass man sich jetzt gerade mit Ende-zu-End-Verschlüsselungen beschäftigt, kurz nachdem TikTok gesagt hat, nee, wir werden das nicht einführen. Obwohl alle die Sorge haben, dass TikTok und damit die chinesische Regierung möglicherweise direkten Zugriff auf diese Nachrichten hat, plus das aktuelle Weltgeschehen, in der eigentlich in nahezu jedem Land auf der Welt diskutiert wird. brauchen wir irgendwelche Einschränkungen, Nutzungseinschränkungen für Minderjährige, weil eben die Sicherheit der jungen Menschen auf sozialen Netzwerken von der Gesellschaft as their art betroached, that man is literally verbieted as the gets durchzusetzen. Further natuurlijk to that Mark Zuckerberg der Jetzt, also ehrlicherweise, ich kenne kaum jemanden, der stärker durch Opportunismus aufgefallen ist als er in den letzten Jahren.

43:38 Gavin Karlmeier

Und das ist auch bestätigt so, dass das so ist. Das ist in einem der Gerichtsprozesse, über die wir hier berichtet haben, auch so gesagt worden. Oder seine Foundation, also die Stiftung die zu Obama-Zeiten gegründet wurde, die sich damals sehr stark für Menschen mit Migrationshintergrund eingesetzt hat, die dann jetzt eigentlich komplett sich abwendet und eigentlich nur noch auf KI-Einsatz in Gesundheitsthemen investieren möchte. Er zeigt halt, das ist, also er ist das Fähnchen im Wind mal tausend. Und wie gesagt, die Welt diskutiert gerade über, was können wir tun, damit junge Menschen bei Social Media geschützt sind. Und er baut sich jetzt gerade die Rampe dafür, dass er sagt. Wir können direkt in die DMs der Kinder gucken. Das ist der perfekte Nährboden für, wir machen doch alles, wir kämpfen doch dafür, wir setzen uns doch ein, verbietet uns doch nicht. Ja.

45:26 Gavin Karlmeier

Aber das Ding ist, das diskutieren wir hier ganz oft und mit unterschiedlichen Menschen habe ich das Thema aufgebracht und immer wieder. Komme ich auch nicht so richtig zu einem finalen Urteil. Weil ich mich frage, ob jetzt gerade nicht die Schraube so stark überdreht ist, dass Figuren wie Mark Zuckerberg, wie Elon Musk dass die ja eigentlich gar nicht mehr da wieder zurück können. Also natürlich wird Zuckerberg das versuchen, sich da opportunistisch zu verhalten, aber ist es nicht jetzt schon zu doll, als dass man sagen muss, das wird man ihm dann jetzt wirklich nicht mehr abkaufen, weil diese Kleinigkeiten der Foundation und so die letzten Jahre, das konnte man so relativ schnell und ohne dass man da groß irgendwie draufgeschaut hat, ändern. Aber jetzt hat er sich ja wirklich Trump völlig unterworfen.

47:53 Gavin Karlmeier

Okay, also wir müssen aufpassen, wenn Elon Musk anfängt zu sagen, die Wikipedia ist doch nicht mehr vogue. Dann beginnt der Prozess. Ja, dann drehen sich die Winde in Washington. Wir bleiben mal ganz kurz in Washington, weil es gibt jetzt. Informationen darüber. Also wir wussten, es ist nur eine kleine Meldung, aber sie ist, glaube ich, wichtig. Wir wussten, dass dieser TikTok-Deal, dass dieses Joint Venture gegründet wurde in den USA, dass die Regierung um Trump herum und vielleicht auch Trump selber sich finanziell dafür entschädigen lässt. Wir wissen, dass TikTok das US-Geschäft für einen absoluten Discount-Preis verkauft hat, nämlich für Exakt den Jahresumsatz, 14 Milliarden Dollar wurde da kolportiert. Die Gebühr, die die Unternehmen an die Regierung wohl zahlen müssen. Damit der Deal stattfindet. Also Oracle und Silver Lake und so, liegt wohl bei 10 Milliarden Dollar und beträgt damit 70 Prozent des kompletten Deal-Wertes.

49:01 Gavin Karlmeier

Das klingt ja fast wie eine Vermittlungsgebühr. Ja, ist es, glaube ich. Wird auch so wahrgenommen, glaube ich. Aber es ist garantiert keine Korruption, oder? Nein, nein. Das ist einfach nur Kollegialität. Ja, und man gibt ja auch Patriotismus ist es. Genau, sind Freedom Dollars, ja, die da gezahlt werden. So, und wir haben gerade schon den Namen Elon Musk reingeschmissen, da haben wir auch noch ein paar Meldungen. Und zwar gibt es drei minderjährige Teenager, die jetzt eine Sammelklage gegen XAI in Kaliforn eingereicht haben, weil sie sagen, dass. ihre Körper von Grog in sexualisierten Inhalten dargestellt wurden. Und zwar ohne ihr Wissen und auch ohne ihr. ohne ihre Zustimmung. Das ist deswegen interessant, weil Elon Musk hat ja komischerweise noch kurz, nachdem dieser Skandal Anfang des Jahres irgendwie so hochkam und das angefangen hat, gesagt, dass er, ihm sind keine von Grog generierten Nacktbilder Minderjähriger bekannt, hatte der gesagt, obwohl alle das widerlegen konnten. Es gibt eine der Klägerin Jane Doe, also in den USA ist das so der, wie sagt man, Mustermann, ja. Genau. Hat gesagt, dass es drei Fotos gibt von ihr, die KI bearbeitet sind, als sie noch minderjährig war. Oder sie wurde gezeigt, als sie dort minderjährig war. Und diese Bilder deswegen als C-SEM einzustufen sind, also als Material, das sexuelle Gewalt an Kindern zeigt.

51:21 Gavin Karlmeier

Der richtige Weg. Ja, und das vor allem auch eben nicht irgendwo über einen großen Teich, sondern eben dann doch in Kalifornien, finde ich auch, ist doch ein Statement und ich finde es sehr mutig. Von diesen drei jungen Frauen, dass sie eben diesen Weg gehen, obwohl sie davon ausgehen müssen, dass, wenn man sich mit Elon Musk anlegt, dass es eine eher unangenehme Zeit wird, muss man leider beschäftigen.

51:44 Gavin Karlmeier

Ja, ganz genau. Ja, also mega, wir bleiben da dran. Gleichzeitig, wir bleiben kurz bei dem Grog-Skandal. Ich weiß nicht, ob Skandal das richtige Wort ist, diese absolute Frechheit, Menschenfeindlichkeit seitens der von XAI. Denn in Australien wird der Ton auch noch ein bisschen rougher. Denn die Online-Sicherheitsbehörde sagt jetzt, dass Elon Musks Plattform X systematisch dieses Material produziert und damit, also hier ist die Formulierung Kinderpornografie, der wir uns natürlich nicht anschließen wollen, aber das ist die Formulierung der Regierung, dass sie sagt. dass das ein systematischer Verbreitung von CISA-Material eben ist, was eine heftige Einstufung ist, die vermutlich Auch eigentlich juristische Konsequenzen und wenn nicht sogar große Plattformen Zugänglichkeitskonsequenzen mit sich bringen müsste.

54:36 Gavin Karlmeier

Ja, ich stimme dir voll zu. Interessant ist aber, dass eben hier E-Safety, das ist diese Online-Sicherheitsbehörde von Australien, diesen Skandal zwar zum Anlass nimmt. Aber nicht als einzigen Punkt für diese Einstufung, sondern auch die Tatsache, dass eben CSA-Material auf der Plattform auch mit gewissen Hashtags immer noch gefunden werden kann. Sie haben das im letzten Oktober schon einmal angesprochen, sozusagen. Also Sie haben es geschafft. Dass sie mit gewissen Hashtags solche Inhalte gefunden haben und dass Ex darauf reagiert hat und die Sichtbarkeit reduziert hatte, aber eben nicht komplett ausgeschlossen. machen konnte, ne, ausschließen konnte, so sagt man. Also es gibt immer noch eben dieses Material auf der Plattform und deswegen die Einstufung seitens Australien. Also echt crazy.

55:39 Gavin Karlmeier

Relativ selten ist. Ja, das ist so. So, ich habe zum Abschluss von uns, bevor damit wir hier jetzt nicht ganz so düster rausgehen, weil wir uns so jetzt reingekocht haben. Habe ich eine Versöhnlichkeit mitgebracht? Haben wir lange nicht mehr gemacht, aber es gab damals den Wunsch der Hakis, dass wir öfter mal mit was Fröhlichem enden, und deswegen hier der kleine Ein kleiner Ausflug in die positive Welt. Und zwar folgende Geschichte. Es gibt ein Spiel, ich weiß nicht, wie doll du in der Gaming-Welt bist. Bist du in der Gameplay? Aber vielleicht. Ja. Also es gibt ein Spiel, das heißt Honshow. H-O-N-C-H-O. ist ein Indie-Spiel von jemandem entwickelt worden, in dem man eine Frau im Japan des 20. Jahrhunderts spielt und Getränkeautomaten verkauft oder vertreibt. Das ist so ein. Ich weiß nicht, ob es ein Walking Simulator ist, aber es ist eben so ein Spiel, in dem man eine Frau spielt. Und es gab mehrere Leute, die bei Reddit sich darüber aufgeregt haben, dass sie gesagt haben. Für mich ist das nicht immersiv genug. Ich möchte keine Frau spielen. Es ist ein tolles Spiel, aber ich wünsche mir einen Mail-Charakter, bla bla bla. Und daraufhin hat der Entwickler reagiert und hat das gelesen und hat gesagt: Ja, ich sehe euer Feedback. Deswegen gibt es jetzt die Möglichkeit, entweder als Frau zu spielen oder als überdimensionaler Tofu-Block, der durch die Gegend läuft.

57:10 Gavin Karlmeier

Das ist ja Das sieht tatsächlich lustig aus, weil es ist wirklich einfach so ein wirklich graues Rechteck. Menschengroß. Entwicklungszeit 32 Sekunden. Ich finde, das ist der genau kreative, richtige Umgang mit solchen Leuten. Ja. Das ist die Persönlichkeit, die wir brauchen.

58:16 Gavin Karlmeier

Nein, kann ich überhaupt nicht. Das ist natürlich ein absolutes Inseldem, das dahinter steckt und ein Frauenhast, der da zutage kommt, den man einfach auch nicht als. Also du darfst nicht die gesprochene Ebene da nicht für vollnehmen, weil die Argumentation, die dahinter liegt, ist eine andere oder die Begründung, die dahinter liegt.

59:32 Gavin Karlmeier

Also ich dachte, man sich abtrainiert, weil als Kind habe ich mir natürlich immer vorgestellt, ich wäre Spider-Man oder Feuerwehrmann.

01:00:05 Gavin Karlmeier

Das ist so lange her. Und das ist so einer der sechs Filme, die ich mal gesehen habe. Muss man dazu sagen? Nein, sowieso das reicht jetzt auch. Ja, ist auch gut. Ich guck mir nicht auch noch Teil 2 und Teil 3 an. Kein Mensch hat Zeit dafür. Ich habe noch ein bisschen was zu verkünden hier zum Schluss. Und zwar zum einen noch ein Programmhinweis, weil du hast, du machst ja Fernsehen beruflich.

01:00:41 Gavin Karlmeier

Ich finde das aber gut und du hast dich da, ihr habt euch da, bei Reschke Fernsehen mit KI auseinandergesetzt und das läuft am morgigen Donnerstag, richtig?

01:01:28 Gavin Karlmeier

Komme, was wolle, und nicht so wirklich nach links und rechts gucken dabei. Also, und man muss dazu sagen, ich wusste das nicht, als ich dich wieder eingeladen habe, dass es da diesen Zusammenhang gibt, aber jetzt passt es natürlich noch mehr wie Arsch auf einmal.

01:02:07 Gavin Karlmeier

Ja, keine Anlageempfehlung. Und dann habe ich noch eine andere Sache und zwar wurde ich. . Vor ewig, also wir sind ja jetzt bald seit zwei Jahren ein CT-Podcast und gehören ja zur Welt von Heise. . Und da haben Leute gesagt, na, wie wär's denn immer mit so ein bisschen Gimmicks für die Hakis? Und das haben wir jetzt. Es gibt jetzt in den Shownotes einen Link, wenn ihr das nutzen wollt. Wenn ihr da Bock drauf habt, kann man Heise Plus abonnieren, zahlt nur 50 Prozent für die Leute, die diesen Podcast hören. Was geil ist, weil du kannst die CT lesen und so weiter und so weiter und so weiter, die ganzen Sachen. Und heise online ohne Werbung und so, das ist ganz geil. Deswegen kriegt es einen Link dazu in den Shownotes. Finde ich es schön, wenn das Mutterschiff auch mal was für die Hackis macht. So, das ist doch mega. Sehr schön. Ja, und sonst habe ich, glaube ich, nichts mehr hier zum Schluss, außer dass ich mich bei dir bedanken möchte. Ist immer schön, du kommst im Schnitt Übrigens ungefähr alle 100 Episoden. Also war es in Folge 301 und Folge 404.

01:03:04 Gavin Karlmeier

Ich freue mich drauf, das wird dann wahrscheinlich irgendwann so nächstes Jahr im April. Aber eigentlich müssten wir es früher mal hinkriegen. Wir kriegen das hin für ein Vielen Dank fürs Spiel. Ich bin immer für dich da.

01:03:20 Gavin Karlmeier

Ich nehme dich beim Wort. Danke, dass du da warst. Ich wünsche allen die Zuhörer. Danke für die Einladung. Sehr gerne. Und bald wieder. Allen, die bisher zugehört haben, wünsche ich eine wundervolle Restwoche. Wir hören uns wieder am Freitag. Dann mit Martin Fehrenssen. der übrigens so richtig, richtig doll lange nicht mehr da war. Und zwar, der war letztes Mal da in Folge 263. Also richtig doll. Egal. Danke euch, danke dir, schönen Abend, schönen Tag, ihr hört es morgens, und tschüss.