Nach Manifest kommt ab

00:06 Gavin Karlmeier

Hallo Ralf Hallo Gavin. Bei mir ist heute Ralf Heimann, Journalist, Chefredakteur von oder Mitgründer von RUMS. Das kann ich gleich nochmal erklären. Ich weiß auch gar nicht, ob man RUMS sagt, aber in meinem Kopf klingt das immer so. Kolumnist beim Altpapier, beim MDR, Medienbeobachter. Und eigentlich eine Schande, dass es 613 Episoden gebraucht hat, bis wir beide hier endlich mal zusammen eine Episode Haken dran aufnehmen. Ja, tatsächlich.

00:34 Gavin Karlmeier

Also, ich wollte noch kurz was rumsagen, weil das so: Ich kämpfe hier in diesem Podcast, glaube ich, sehr häufig und oft dafür, dass man an den Lokaljournalismus glaubt. Und ihr habt das eigentlich in Münster? Rums ist, wenn ich es richtig verstehe, rund um Münster, oder? Nee, das heißt eigentlich gar nichts.

01:11 Gavin Karlmeier

Ja, wir verschicken Newsletter und wir machen Lokaljournalismus. Und ich finde, das ist doch geil. Also, weil während du irgendwie in den großen Häusern überall den Rückzug aus dem Lokalen siehst und sich Güters zurückbesinnen auf Mantel-Redaktionen. Glaubt ihr daran, dass es eben für die Leute von Bedeutung ist, was vor ihrer Haustür passiert? Und ich würde diese Einschätzung mitgehen.

01:40 Gavin Karlmeier

Ich muss mit dir heute direkt in so ein Thema reingehen, weil mich das so nicht losgelassen hat. Meine ganze Timeline ist voll von zwei Dingen. Das eine ist die Fridge Cigarette. Weißt du, was das ist? Nein, noch nicht. Ich krieg wirklich, also ich will nicht übertreiben, aber jedes zweite Video auf meiner Startseite, auf meiner For You, wie sagt man denn bei Instagram, in meinem Newsfeed Ist die Fridge Cigarette. Und die Fridge Cigarette ist ein Espresso, aufgeschüttet mit Cola und dann etwas Vanillemilch drauf. Klingt ganz fantastisch. Ich versuche es mir gerade vorzustellen. Und das hast du es selber schon probiert? Ich werde es morgen mal probieren und dann kann ich Freitag berichten. Ich, ich auch. Okay, ja dann kannst du mir eine Sprachnach schicken, bis es dir geschmeckt hat. Dann spielen wir das hier ab. Das ist das eine. Und das andere war, wenn ihr das hört, gestrigen Dienstag. dass sehr, sehr viele Leute sich über Julia Klöckner auslassen, möchte ich mal sagen. Was ist passiert? Julia Klöckner hat ein Bild gepostet und dieses Bild ist. Ganz offensichtlich komplett KI generiert. Auf dem siehst du sie umkreist von vier natürlich komplett weißen Kindern, die so gemeinsam in die Kamera schauen. Sie selber ist Ja, es ist eine freie Interpretation der KI von ihr, würde ich sagen. Darüber steht alles Gute zum Schulstart, viel Freude, Neugier und Erfolg. Und daneben hat sie so Dinge geschrieben wie nach den Ferien geht es bei uns in Rheinland-Pfalz wieder los. Vielfach neue Klassen, neue Fächer, neue Freundschaften, bla bla bla bla bla. Dieses Foto wurde mit KI generiert. Steht klein in der Caption, nicht auf dem Bild selber. Hast du diesen Post gesehen und was sind deine Emotionen zu diesem Foto?

04:20 Gavin Karlmeier

Welche Gesellschaft soll das bitte abbilden, war mein erster Gedanke. Weil auch das, wie du schon sagst, es ist so dieses Wunsch, Wunschkonzert und dass sie halt natürlich dann auch nur von wirklich sehr weißen Kindern umkreist ist. Auch das finde ich sehr verräterisch von ihrem Blick auf die Welt und auf das Deutschland, in dem wir eigentlich gemeinsam leben wollen in allserner Buntheit und all seinen Facetten und all der Vielfalt, die wir eben hier eigentlich vorzuweisen haben. Und das überträgt sich über diesen Post-Tit überhaupt nicht, aber du hast es eben schon angesprochen. Mehrere Leute haben sich beschwert, und zwar in den Kommentaren darunter, die mittlerweile alle weg sind und auch deaktiviert sind. Man kann es nicht mehr kommentieren. Aber als die Kommentare noch eingeschaltet waren, haben mehrere Menschen darunter geschrieben, wie zum Beispiel der Künstler, wie heißt der, Oliver Schäfer. der sich beschwert hat darüber, dass er als Künstler, dessen Arbeit eben von KI stark bedroht ist, dass er sich wünschen würde, dass Menschen im öffentlichen Amt sich anders verhalten, weil eben offensichtlich seine Identität dadurch bedroht wird, dass eben er nicht mehr solche Aufträge kriegt, sondern als ein Computer macht. Und was Julia Klöckner aber gemacht hat, ist diese Kommentare zu löschen oder ihr Team, diese Kommentare zu löschen und die Urheber dieser Kommentare zu blockieren. Also es gibt wirklich fünf, sechs, sieben Leute, die ich allein auf meiner Startseite hatte. die gesagt haben, heute hat mich die Bundestagspräsidentin auf Instagram blockiert. Ich kann nicht mehr sehen, was sie postet, weil sie ein Problem damit hatten, das ich kritisiert habe. Die Kommentare waren jetzt nicht beleidigend oder in irgendeinem Maße unzumutbar, sondern es waren halt Menschen, die gesagt haben, das ärgert mich, dass es hier ein KI-generiertes Bild ist. Und daraufhin wurden die halt blockiert. Was so uncool, auch jetzt mal unabhängig von vielen anderen Ebenen, über die wir gleich noch sprechen können, so uncool ist im Miteinander, dass es einem eigentlich die Hand vor die Stirn schlagen lässt.

06:38 Gavin Karlmeier

Ja, hundertprozentig. Das Interessante ist aber, dass sie also Ob das jetzt ein öffentlicher Account ist oder nicht, das können wir uns jetzt gleich mal auseinanderdröseln. Weil die Frage ist halt tatsächlich, wer spricht hier? Ist es die Bundestagspräsidentin Judah Klöckner? Ist es die Politikerin Julia Klöckner? Ist es der Privatmensch Julia Klöckner? Dann ist es nicht der Account at Bundestagspräsidentin, sondern der Account at Julia Klöckner.

07:04 Gavin Karlmeier

Die hat auch. Sogar ihr Hund hat einen. Wirklich. Ja, ich glaube wohl. Bello Klöckner auch. Naja. Auf jeden Fall steht in der Bio von Ihrem Account, steht, dass das der Account der Bundestagspräsidentin ist. die hier persönlich und als Abgeordnete unterwegs ist. Und demnach zieht sich auch das Büro von Julia Klöckner aus der Verantwortung und sagt, das liegt nicht innerhalb unserer Arbeit, wir können da nichts tun. Also das Büro der Bundestagspräsidentin und das Team des Deutschen Bundestages. Die sagen, da haben wir nichts mit zu tun. Ihr eigenes Büro aber in Rheinland-Pfalz, dort wo sie sitzt. Da wird das Ganze ein bisschen anders diskutiert. Da wird gesagt, KI-Inhalte gehören zu Social Media mittlerweile dazu. Es ist mittlerweile üblich und wird auf zahlreichen Kanälen praktiziert. Das sagt das Büro von Julia Klöckner und weist diese Kritik zurück. Warum sie dann aber nicht auf die Diskussion eingegangen ist, sondern sich dann tatsächlich eher so da verhalten hat, dass sie Menschen eben blockiert. Das wird nicht weiter kommentiert von dem Team.

08:33 Gavin Karlmeier

Das ist 100 Prozent so. Interessant ist aber, es gibt zum Beispiel Amber Remember. Amber Remember ist eine Person, die sich anmaßt für die queere Community zu sprechen. ist eine, wenn ich das richtig verstehe, ich will hier nichts Falsches sagen, deswegen google ich das gerade. Genau, Drag Queen und Performerin. So ist die richtige Formulierung von Ember Remember. Die hat ungefähr 4000 Follower. Äh, FollowerInnen Und auch sie wurde von Julia Klöckner blockiert und die hat jetzt eine spannende Frage reingeworfen. Was ist denn eigentlich mit dem Gleichbehandlungsgebot? Also ist es eigentlich legitim, dass eine Politikerin, die auch gewählt werden möchte und die in einem in Amt und Würden ist und damit auch eine gewisse Öffentlichkeit erträgt, Kann die eigentlich einzelne BürgerInnen davon ausschließen, an ihrer Kommunikation zu partizipieren? Das ist, finde ich, eine sehr interessante Frage an dem Punkt.

09:28 Gavin Karlmeier

Wenn ich Abgeordnete unterwegs? Unklar. Müsste man mal so ein bisschen sich mit auseinandersetzen. Es gibt aber noch die Ebene AI-Act und auch das ist eine interessante Ebene. Ich will da vorher nur ganz kurz was reinschieben. Und zwar das Thema Werbung. Uns hat näher hat jemand geschrieben, oder nee, es hat jemand öffentlich im Fidiverse auf Mastodon geschrieben, dass hier in diesem Podcast auch KI-generierte Werbespots laufen. Und diese Person hat deswegen aufgehört, diesen Podcast zu hören. Und das ist natürlich ihr gutes Recht, das kann sie machen. Ich wollte nur noch einmal, ich habe das ja schon ein paar Mal gesagt, aber es ist mir trotzdem wichtig zu sagen, ich habe da keinen Einfluss drauf, ich habe weder Einfluss darauf wer diese Werbespots produziert, noch wie sie produziert werden, noch wie sie ausgewählt werden. Und das ist gut und Grund. Wir haben hier bei Heise eine sehr strikte Trennung von Redaktion und Verkauf, Vermarktung. Und ich weiß davon gar nichts. Das Einzige, was ich weiß, ist, an welcher Stellung die Wer Stelle im Podcast die Werbung läuft. Mehr habe ich damit nichts zu tun. Das heißt, ich weiß auch erst, was hier für Werbung läuft. Wenn ihr mir sagt, was da für Werbung gelaufen ist, es kann auch passieren, dass jeder Hörer eine unterschiedliche Werbung, einen unterschiedlichen Spot hört. Aber ich kann da nichts für. Wenn da ein KI-Werbespot läuft, dann. . Deal with it leider. So. Ja. Thema AI Act, genau, weil gekennzeichnet werden muss. Und zwar sagt der AI-Act Dass bei der ersten Exposition klar und unterscheidbar, wahrnehmbar und verständlich sein muss, dass es sich dabei um ein KI-generiertes Bild handelt. Und das ist hier nur so mittelderfall, würde ich sagen. Also man hat diesen KI-Infobutton bei Meta gedrückt, dass es so unter dem Namen steht und in der Caption steht, dieses Foto wurde mit KI generiert. Wenn ich dieses Bild aber jetzt in meiner Story teile, dann steht das plötzlich nirgendwo mehr. Heißt also, ob das hier am Ende ein rechtssicherer Weg ist, Das könnte sich theoretisch auch mal ein Gericht anschauen, weil eigentlich die EU-Kommission vorschlägt, die Kennzeichnung direkt auf dem Bild vorzunehmen, mit einer kleinen Markierung dieses Bildes als KI generiert im Fall. Und das ist deswegen interessant, weil Julia Klöckner sich sehr stark und sehr laut dafür eingesetzt hat, dass doch KI-generierte Inhalte bitte auch als solche zu kennzeichnen sind.

11:53 Gavin Karlmeier

Naja, und der Unterschied ist halt kein. Also selbst wenn das nicht ihr Ihr Amtsaccount ist es definitiv kein privater Account, sondern sie hat entweder ein gewerbliches Ziel oder einen öffentlichen Zweck. Und in dem Moment hat sie eine Kennzeichnungsp. Pflicht. Und wie gesagt, es ist noch nicht ganz gerichtlich entschieden, ob das so ausreichend ist. Ich würde nur sagen, für jemanden, der da so lautstark mit getrommelt hat, hätte man es noch ein bisschen deutlicher kennzeichnen können, ehrlicherweise. Wobei, vielleicht hatte man Angst vor den Kommentaren und wollten auch nicht zu viele Leute blockieren. Man weiß es nicht.

12:29 Gavin Karlmeier

Naja, dann muss man vielleicht doch mal ein paar Euro in die Hand nehmen und einen Grafiker bezahlen.

12:38 Gavin Karlmeier

Ich finde das gut. Ich finde das genau richtig zu sagen. Das ist so ein bisschen, ich hab mal, kleine persönliche Anekdote. Ich habe vor vielen Jahren mal aufgehört zu rauchen. Und hatte so ein paar Freunde und die haben alle an diesen elektrischen Zigaretten, an diesen Vapes gehangen. Und ich fand das unfassbar uncool. Ich finde es super, mag ich überhaupt nicht, diese elektrischen Plastikdinger. Und dann habe ich mir so eine gekauft, weil ich genau wusste, das ist jetzt mein Rauchsubstitution. Aber ich will damit nicht gesehen werden, also werde ich das nicht benutzen, also rauche ich nicht mehr. Und das hat funktioniert. Ich habe innerhalb von drei Tagen aufgehört.

13:31 Gavin Karlmeier

Oder ich weiß auch nicht. Vielleicht, ich habe vielleicht eine Geschichte, die dabei hilft, sich Instagram abzugewöhnen. Und zwar geht es um Mark Zuckerberg. Mark Zuckerberg hat ein Manifest verfasst. Und wenn Leute ein Manifest schreiben, dann muss man immer erstmal überlegen, was ist die Motivation? Das ist nicht das Erste, was Mark Zuckerberg verfasst hat, aber hier geht es um KI. Und dieses Manifest läuft unter dem Titel Die Zukunft gehört allen. The future is for everyone. Das ist der Name des Manifestes. Und du hast mir geschrieben, du hast es tatsächlich gelesen.

14:43 Gavin Karlmeier

Was ist da dein Gefühl?

16:17 Gavin Karlmeier

Ja, das ist ein ganz faszinierendes Ding. Aus vielen Gründen. Wir haben, ich möchte kurz eine kleine Zeitreise machen und zwar in die, ich glaube, vorletzte Woche ist das. Und da geht es, also es war die Episode 608 mit dem Namen Das Ende der Welt oder das Ende vom Geld. Und in der Episode haben wir über etwas gesprochen, einen Gastbeitrag von Mark Zuckerberg im Wall Street Journal. Und in diesem Text, der dort veröffentlicht wurde, der deutlich kürzer ist, das Manifest von heute, also von gestern, hat 6500 Wörter. Das ist also wirklich viel, viel Text. Und dieser Gastbeitrag im Wall Street Journal, das war erheblich kürzer. Und ich habe so ein bisschen das Gefühl, dass die JournalistInnen beim Wall Street Journal sehr viel rausredigiert haben, wie wir sagen. Also sehr viel gesagt haben, wir kürzen das mal ein bisschen zur Lesbarkeit und zum Verständnis und so. Und er sich aber gedacht hat, nee, ich hätte das jetzt aber gern schon noch in meinem Original, im Director's Cut veröffentlicht und hat deswegen das jetzt nochmal selber über seine Kanäle. Publiziert. Ist so ein bisschen mein Gefühl, oder? Also ich weiß nicht, ob du die Wall Street Journal-Version auch kennst, aber viele Passagen decken sich. Es ist alles sehr Ähnlich, auch die Struktur, nur dass das Manifest von gestern, das über die Metakanäle veröffentlicht wurde. Ich habe das ein bisschen als A relativ zusammenhangslos empfangen. Also es ist jetzt nicht so. Es ist nicht direkt vergleichbar mit der Enzyklika des Papstes zum Umgang mit der künstlichen Intelligenz, sondern es ist eher so ein bisschen, naja, so Vibe-Writing, aber wahrscheinlich tatsächlich von Hand geschrieben, schätze ich. Ausschließend können wir es nicht. Und da sind aber so ein paar Punkte drin, die ich interessant finde und die, die du auch angesprochen hast, gehören zu 100% auch dazu, dass eigentlich jede Facette des Lebens durch KI ersetzt werden soll und dass er aber glaubt. . dass das eben nicht gegatekeept werden sollte. Er setzt sich dafür ein, dass es offene Modelle gibt, dass sich die US Regierung nicht dagegen stellt, Open Wade oder Open Source Modelle aus China zum Beispiel zu blockieren. Er setzt sich dafür ein, dass weiter destilliert werden kann. Was alles interessant ist, weil er natürlich ein KI-Modell hat, das darauf angewiesen ist, dass es destillieren kann, weil er nicht vorne mitspielen kann. Er lebt davon, dass er irgendwie einen Marktplatz bekommt oder einen Platz im Markt bekommt, dadurch, dass er Sichtbarkeit kriegt und das schafft er dadurch, dass er wie Meta jetzt gleichzeitig angekündigt hat, auch die bestehenden Modelle wieder Open Source setzen wird. Also sie wollen sozusagen sich als die Guten platzieren, was keine Rolle ist, die man ihm abkauft nach den letzten 20 Jahren irgendwie.

19:37 Gavin Karlmeier

Ja, vor allem, weil er aber das so durchmogelt, indem er zum Beispiel so sagt. Liegt die Macht der Superintelligenz in den Händen weniger Einzelpersonen, Unternehmen, Regierungen oder der KI selbst, führt dies zu Ergebnissen, die für alle weniger vorteilhaft sind. Und er formuliert es eigentlich die ganze Zeit so, Meta ist das Unternehmen, das sich auf die Entwicklung persönlicher Superintelligenz für jeden einzelnen konzentriert Die am meisten anderen Labore arbeiten an KI-Lösungen für Unternehmen, Regierungen oder andere Institutionen. Seit unserer Gründung folgt Meta das Ziel, den Menschen mehr Macht in die Hand zu geben. absurd ist, wenn wir uns anschauen, wie Instagram aufgebaut ist, wie Facebook aufgebaut ist, wie all diese Tools aufgebaut sind, bei denen es eben genau darum geht, weniger Kontrolle über Daten. Zu haben, über das, was wir sehen, über das, was wir so publizieren und so weiter und so weiter.

21:30 Gavin Karlmeier

Und so formuliert er das. Er sagt, jede politische Maßnahme, die die Veröffentlichung amerikanischer Modelle verzögert, sei es auch nur um einen Monat, könnte die amerikanische Führungsposition erheblich gefährden und ausländischen Modellen einen Vorsprung verschaffen. Was vermutlich stimmt, sagt aber auch, gleichzeitig ist bei der Entstehung neuer Fähigkeiten wichtig, dass die US-Regierung über vorab Informationen und Ressourcen zur Absicherung kritischer Systeme verfügt und idealerweise einen zeitlichen Vorsprung bei der Nutzung dieser fortschrittlichen Systeme hat. Das ist ein Widerspruch in sich. Also entweder du gibst der Regierung vorab den Zugriff oder du gibst ihn ihnen nicht Da bin ich so ein bisschen ins Staucheln geraten. Ich finde auch interessant, dass er so Spitzen gegen das Doom-Marketing der anderen Unternehmen macht. Also er sagt so nach dem Motto, dass es eben nicht darum geht, dass KI gefährlich ist, sondern es geht darum, dass sie eben die Menschen unterstützt und alle sollen den Zugriff kriegen und da sind wir nämlich genau bei dem Wall Street Journal-Text. Er hatte damals ein Bild gemalt, er hat gesagt, stellen Sie sich vor, nur eine Person hat einen superintelligenten Anwalt, er hätte vor Gericht einen unfairen Vorteil, so sagte er im Wall Street Journal, wenn aber jeder einen superintelligenten Anwalt hätte, wäre Gerechtigkeit viel fairer und effizienter.

22:53 Gavin Karlmeier

Wahrscheinlich auch Quatsch. Und die Frage ist halt jetzt, und da gehen wir mal so ein bisschen, ich will übrigens noch, achso, will ich noch als Longread empfehlen, es gibt von The Verge. einen Kommentar, der von Elizabeth Lopetto geschrieben ist, die wir hier schon häufiger zitiert haben, weil sie auch die ganzen KI-Prozesse vor Gericht immer begleitet hat. Dieser Text, den packe ich euch mal in die Shownotes, ihr könnt ja nicht komplett zitieren. Der trägt den Titel Mark Zuckerberg weiß nicht, wie man lebt oder versteht nicht, wie man lebt. Und also ist es nämlich genau der Punkt, den du auch angesprochen hast, diese komplette Automatisierung von allem, die Entmenschlichung, alles soll am Ende einen Computer machen. Am besten jedes Rezept, das man mit seiner Tochter backen kann, sollte eine KI machen. Ein ganz toller Text, kleine Empfehlung an der Stelle. Aber die Frage ist ja, warum schreibt ihr dieses Manifest? Was ist die Mission? Ist es wirklich nur das Ego, dass der Wall Street Journal-Text gekürzt wurde? Oder aber ist es die Reaktion auf die Aktienkurse und die Reaktion des Marktes nach der Verkündung der Quartalzahlen letzte Woche? die ja nicht so richtig viel Bock darauf hatten, dass Meta so stark in die KI-Richtung sich entwickelt, deswegen negativ reagiert haben, weil sie vielleicht auch gar nicht verstehen, warum hier Milliardenbeträge in die Entwicklung neuer Rechenzentren und neuer KI-Systeme ausgegeben werden. Und er muss natürlich jetzt irgendwie eine Art visionären Überbau anbieten. Er muss sagen, ja, ja, wir haben zwar lange Social Media gemacht und Werbung, aber eigentlich ist unser Ziel ein ganz anderes, altruistisch und für alle. Und das hier ist die Idee. Also es fühlt sich so ein bisschen an, das kennst du sicherlich auch, wenn man so für Kunden einen Namen entwickelt oder einen Slogan. Und dann schreibt man nachher fünf Seiten Begründung. wie man auf diesen Slogan angeblich gekommen sein soll, obwohl der natürlich einfach eine Schnapsidee war, den man gut fand.

25:27 Gavin Karlmeier

Ja, und das fällt gar nicht so leicht. Also es gibt von Forever Media, auch das packe ich euch gerne mal in die Shownotes, eine Art Zusammenfassung des Textes mit dem Mit dem Titel Mark Zuckerberg veröffentlicht Wirren Essay. Und da ist es nämlich so ein bisschen so rausgestellt, weil Jason Kobler, der einen Text geschrieben hat, sagt Das Essays voller Plattitüden und nichtssagender Sätze sowie Gedankenexperimenten, die nicht ausgearbeitet sind. Hier ein paar Beispiele. Die Menschheit ist keine Monokultur, die vielfältigen Werte der Menschen spiegeln unterschiedliche Abwägungen wider, die sie bei wichtigen Fragen treffen würden. Es gibt keine technologische Lösung, die allen gegensätzlichen Interessen und Werten gleichzeitig gerecht werden kann. Das stimmt zwar, aber auch er hat gar kein Gegenangebot dafür. Oder die Menschen haben ein unbegrenztes Bedürfnis nach neuen Erfahrungen und haben stets neue Probleme gefunden, die es zu bewältigen gilt. Es sind alles keine, so das, es fehlt wirklich so die Motivation, die Idee. Bei der man so denkt, also wenn man sich so die Aufsätze von Sam Altman zum Beispiel anschaut, der hat ja auch so Texte geschrieben über das Grundeinkommen, bedingungslose Grundeinkommen. Da hat man so ein bisschen das Gefühl, also es hat natürlich auch eine Marketingkomponente und ein wirtschaftliches Ziel dahinter, aber es gibt auch einen roten Faden, warum sich das Ganze jetzt wirklich anfühlt wie ein Manifest. Und das fehlt bei dem Zuckerberg-Text. Fairerweise ein bisschen.

27:46 Gavin Karlmeier

Das stimmt. Also, eigentlich ist Mark Zuckerberg die Julia Klöckner des Silicon Valley am Ende. Ich will kurz die Yachtgeschichte erzählen. Und zwar. Gab es in der Farragut Bay, das ist eine kleine, kleine, wie sagt man, Bucht, ist glaube ich richtig. Vor Alaska in der Nähe, also auf jeden Fall genau, in der Nähe von Alaska. Und da gab es ein kleines Boot und dieses kleine Boot hatte keinen Treibstoff mehr. Und das schipperte da so über das Wasser und hat deswegen Mayday gemeldet. Es hat nur Notfall gehabt, brauchte Hilfe. Und es gab ein Schiff, das war extrem nah, nämlich die Yacht von McZuckerberg. Und diese Nacht, die sogenannte Launchpad Und die Launchpad war direkt in der Nähe, hat aber nicht reagiert auf diese SOS-Hilfen, bis dann eben irgendwann die Küstenwache reagieren musste. Und eingesprungen ist und dann hat man so nachher mal nachgefragt, was war denn eigentlich mit Mark Zuckerberg und seiner Yacht. Und er hat aber gesagt Mark und seine Familie, der Sprecher der von den beiden von Mark Zuckerberg und seiner Frau. Mark und seine Familie waren zum Zeitpunkt nicht an Bord. Wie die Küstenwache feststelle, befand sich das Boot gar nicht in Seenot. Als die Besatzung der Funkspruch der Küstenwache auf einem anderen Kanal als auf dem, als sie gerade kommunizierte wahrnahm, war die Hilfeleistung bereits in Gange. Wir sind froh, dass alle Beteiligten wohlauf sind. Die kurze Erzählung ist aber, Mark Zuckerbergs Yacht war in der Nähe eines in möglicherweise Seenot oder zumindest nicht mehr Bewegungsfähigkeit geratenen Schiffes. Und hat einfach sich nicht darum gekümmert, dass da dieses Schiff ist und möglicherweise gar ein Problem hat.

29:27 Gavin Karlmeier

Möglicherweise. Vielleicht gibt es Brian Baker auch gar nicht so ein KI-Avatar. Von OpenAI. Übrigens, interessant, das hat Sebo in unserem Discord geschrieben. Wir haben ja zu diesem Podcast einen begleitenden Discord. Ist toll, wenn ich Gäste habe, die noch nie hier waren, wie dich jetzt, Ralf. Wann kann ich dir das so erzählen, dass die HörerInnen denken, ach toll, dass sie ihm das erzählt, aber gleichzeitig mache ich Werbung. Und zwar, wir begleiten einen Discord-Server, da sind über. fast 2400 Leute drauf, die tauschen sich über diese Nachrichten aus, die geben Einschätzungen, die geben Hintergrundinformationen, die sind auch sehr witzig, sehr schlau. Und da können alle mitmachen auf www. hakendrenn. org. Du meldest dich bestimmt auch direkt jetzt gleich an.

30:18 Gavin Karlmeier

Der Spiegel hat ja so eine Doku-Abteilung, bei der auch jeder Fakt, jede Tatsache und Ordnung überprüft wird. Wir haben im Discord. Und da hat Sebu geschrieben, dass die Mega-Giga-Yacht-Launchpad von Mark Zuckerberg immer von einem Begleitboot, eine andere Yacht, begleitet wird mit dem Namen Wingman. Heißt also. dass da mehr als ein Boot gewesen ist, das hätte reagieren können. Aber man hat einfach nicht darauf reagiert. Und das ist natürlich eine, also erstmal publicity-mäßig Super scheiße. Also du kannst es gar nicht kommunizieren und das, was halt hängen bleibt, ist, Mark Zuckerberg hat nicht geholfen. Auch wenn er selber vielleicht tatsächlich nicht auf dem Bord war, äh, an Bord war. Finde ich, das ist halt angeln. Super GAU. Ja, war gerade angeln. Oder tauchen, schnorcheln. Ich glaube, das Wasser ist relativ kalt vor Alaska.

31:46 Gavin Karlmeier

Warum der Zustand der Seenot eine persönliche Bereicherung sein kann? 6500 Wörter Erschien im Diogelis.

32:00 Gavin Karlmeier

Komm, wir bleiben kurz noch bei Meta und da sind wir wieder mehr in der Social Media Welt. Und zwar gibt es ja bei Instagram Instagram Plus. Ich weiß nicht, ob du das abonniert hast, ob irgendjemand, der das hier hat, abonniert hat. Nein, nein. Du kannst für drei Euro so ein paar extra Features im Monat kriegen, wie zum Beispiel, dass du Storys ein zweites Mal, nee, dass du sehen kannst, wer deine Story ein zweites Mal gesehen hat. Du kannst Storys anderer Leute sehen, ohne dass die sehen, dass du sie gesehen hast und so weiter und so weiter. Und da gibt es jetzt eine neue Funktion. Und das ist ein bisschen Funktion und Emotion hier, aber ich finde das so bemerkenswert, weil das so ein. So ein kleiner, so eine kleine Richtung vorgibt, wie sich die Paradigmen bei Meta verändern in den letzten Jahren. Wir wissen ja, dass du auch schon stärkere, prominente Platzierungen in Suchen erkaufen kannst und so. Und jetzt gibt es die Möglichkeit, als Meta One-Abonnentin, für alle Leute, die mit deinen Beiträgen interagieren, mit dir aber nicht vernetzt sind. automatisch eingeladen werden. Also die bekommen dann zum Beispiel bei Facebook oder bei Instagram eine Nachricht, wo drin steht, Ralf Heimann möchte, dass du ihm folgst. Und dann können sie da quasi aus ihrer Notifications-Spar-Spalte direkt deinem Account folgen.

33:28 Gavin Karlmeier

Nee, das ist halt eine Benachrichtigung. Du kriegst das als andere. Ich paus ein Real und du folgst mir nicht. Du siehst dieses Real und du likst das und dann wirst du weiter. Dann kriegst du eine Benachrichtigung, ob du mir nicht, weil du die als Reader gesehen hast, nicht einfach folgen möchtest. Ah, ja, okay.

33:43 Gavin Karlmeier

Ja, es ist Pay to Win langsam. Also da passieren Dinge einfach.

33:57 Gavin Karlmeier

Ich finde, das reicht aus. Ich habe jetzt eine Geschichte, die macht leider richtig, richtig doll schlechte Laune. Und ich habe auch eine kleine Triggerwarnung, denn in dieser Geschichte geht es um Selbstverletzungen und Suizide. Wenn ihr das nicht gut hören könnt, findet ihr in den Shownotes. Die Kapitelmarke für den nächsten Punkt, das heißt, ihr könnt diese Geschichte dann sozusagen direkt überspringen und müsst euch damit nicht auseinandersetzen. Aber wir müssen darüber sprechen, weil. Es wichtig ist. Und zwar geht es um TikTok. Bloomberg liegt ein vertraulicher TikTok-Bericht vor, in dem es um Also anders. Es gibt einen TikTok-Nutzer, der heißt Chase, der war 16 Jahre alt, der hat, bevor er sich das Leben genommen hat, wir werden nicht auf die Details eingehen, wenn ihr euch damit auseinandersetzen möchtet. Findet ihr die ganze Geschichte bei Bloomberg, aber er hat sich suizidiert und hat vor seinem Tod tausende Videos gesucht über das Thema Suizid. über die Methode, mit der er sich das Leben nehmen wollte, zum Thema Traurigkeit, Einsamkeit, hat Songs gesucht mit dieser Thematik, also hat sich sehr stark Sozusagen auf TikTok auf sein eigenes Vorhaben vorbereitet. Und das passiert, Leute googeln sowas und das lässt sich schwierig vermeiden. Im Fall von TikTok aber gibt es da eine Einschränkung. Denn TikTok hat 2021 eine neue Funktion eingeführt, mit der es möglich ist, den eigenen Algorithmus nur in einer gewissen Stärke anzupassen, wenn es um schädliche Inhalte geht. Also es gibt sozusagen eine sichere Version des Algorithmus, den eigentlich alle NutzerInnen automatisch bekommen haben. Damit man eben sich nicht nur mit Hilfe von TikTok auf so eine Ausnahmesituation Noch stärker in so ein Loch reißen lassen kann. Eigentlich genau die richtige Entwicklung und eigentlich komplett notwendig. Das Problem ist, neue Funktionen, und das wissen wir von anderen sozialen Netzwerken. Rollen, Funktionen nicht immer für alle NutzerInnen gleichzeitig aus. Üblicherweise macht man das deswegen, um zu überprüfen, wie verändert sich die Die Bindung der Leute, verbringen sie weniger Zeit auf der Plattform? Was passiert mit denen, wenn sie diese Funktionen bekommen? Das kennen wir von Instagram, wenn du jetzt irgendwie, wenn es ein neues Feature bei Instagram gibt. Dann gibt es ganz viele Leute, die haben diese Funktion nicht und dann wird die als Testgruppe genommen oder umgekehrt und wird geschaut, welche der beiden Gruppen verhält sich jetzt anders? Wer verbringt mehr Zeit oder wie. TikTok, das in diesem internen Bericht nennt, die sogenannte Stickiness, also die Bindungskraft der App. Wie viel Zeit verbringt man dort? Und TikTok hat im Fall dieses sicheren Algorithmuses 10% der Menschen in den USA als Kontrollgruppe genommen, die nicht die sichere Version des Algorithmuses bekommen haben. Also etwa 15 Millionen Menschen. Zu dieser Gruppe eben auch der 16-jährige Chase gehört hat. Heißt also, es wäre nachweislich verhinderbar gewesen, dass dieser Mensch sich mit Hilfe von TikTok in so eine Richtung hat, reißen lassen? Und TikTok selber hat aber das im Nachhinein gar nicht groß thematisiert, haben aber versucht, diese Berichterstattung weitgehend zu verhindern, indem sie. . 24 Menschen darauf angesetzt haben, PR-Arbeit zu leisten, damit sich eben nicht diese Erzählung so weit trägt, wie sie uns jetzt mittlerweile bekannt ist, dank Bloomberg.

38:26 Gavin Karlmeier

Ja, was in der Geschichte, also du hast mit allem recht, in der Geschichte ist es nur so, dass ja TikTok eigentlich längst die richtigen Sicherheitsmaßnahmen entwickelt und getroffen hat. dann aber aus Profitgründen oder aus Bindungsgründen sich dazu entschieden hat, das eben nicht als Sicherheitsmaßnahme für alle Nutzerinnen und Nutzer zur Verfügung zu stellen, sondern erstmal zu testen. Was passiert eigentlich, wenn wir diese Sicherheitsmechanismen ausrollen oder führt das dazu, dass die Leute weniger Zeit bei uns verbringen? Und das ist in dem Fall hier sogar so konkret zu benennen, dass es einen Tag gibt, an dem das Konto von Chase für diesen Test ausgewählt wurde. 25. Januar 2022, dass das in den gleichen Zeitraum fällt, in dem ein ehemaliger Schulfreund von Chase bemerkt hat, dass die Videos, die er von ihm geschickt bekommen hat, sich in seinem Stil und seiner Stimmung verändert haben. Heißt also, es lässt sich. Sehr genau rekonstruieren, welche Auswirkungen die algorithmische Auswahl von Videos auf unsere Psyche hat, vor allem wenn die Psyche sowieso schon einen Knacks hat, wie leicht man sich den Knack sozusagen noch vergrößern kann, weil man auch nach Dingen suchen kann. Und die Frage ist halt, warum muss im Fall von dieser Sicherheit hier eine Abwägung stattfinden zwischen am Ende Profit Und der Sicherheit. Warum sagt man nicht, das ist so essentiell und wichtig, dass das eben nicht für 90 Prozent der NutzerInnen eingeführt wird, sondern für 100 Prozent?

41:21 Gavin Karlmeier

Ja, und also natürlich muss man dazu sagen, es ist, du kannst sowas nicht ausschließen, glaube ich, und du kannst vor allem nicht von allen NutzerInnen alles auswerten. Und das macht TikTok nach eigener Aussage auch nicht, sondern hat das damals im März 2023 dann gemacht, als Bloomberg Business Week eine Stellungnahme für eine Berichterstattung von TikTok eingefordert hat. Daraufhin wurde dieser Videoverlauf von dem 16-jährigen Jungen ausgewertet. Und das Ergebnis war tatsächlich frappierend. 7563 Videos wurden ausgewertet, 73 davon behandelten das Thema Suizid, psychische Probleme, Sehnsucht nach einer Beziehung oder Trauer über eine Trennung. Also drei Viertel. Und Wie gesagt, es gab Sicherheitsmaßnahmen, um das zu verhindern, von denen er nicht profitieren konnte, weil geprüft wurde, ob die Stickiness nicht dadurch darunter leiden könnte.

43:02 Gavin Karlmeier

Das muss man leider so festhalten, ja. Ja, das sind so Themen, da weiß man auch nicht so richtig.

43:56 Gavin Karlmeier

Ja, das ist so. Ich glaube, die Forschungslage ist bei dem Thema gar nicht so eindeutig. Also es ist ein Henne-Ei-Problem und Jemand, der diesen Riss in der Psyche vielleicht gerade gar nicht hat und sich nicht danach fühlt, der lässt sich vielleicht davon eben auch noch gar nicht weiter in diese Dunkelheit reinreißen. Aber gerade wenn du, und dann bist du jetzt tatsächlich bei der Gesellschaft, Wenn du einen Riss in deinem Vertrauen gegenüber dem Sozialleben zum Beispiel hast in Deutschland oder dem Sozialsystem in Deutschland, dann bist du natürlich auch empfänglicher für auch vielleicht. unter normalen oder anderen Umständen eher abwegig wirkende Thesen, die dann dich in so ein Rabbit Hole reißen lassen. Also die Radikalisierung durch solche Algorithmen, die funktioniert halt extrem gut. Ob aber alle Leute grundsätzlich gleichermaßen anfällig für Radikalisierung sind, wenn sie nur die richtigen Videos sehen, das glaube ich nicht. Ich glaube, das reicht aus.

45:46 Gavin Karlmeier

Ja, es gibt aber einen großen Unterschied zur Zigarettenindustrie. Also der Vergleich wird ja gerade sehr viel gezogen. Ich habe da auch tatsächlich die spannende Beobachtung gehört, dass in der Zigarettenindustrie, wenn du das quasi weiter. . extrapolierst, was dort passiert und adaptierst auf Social Media, dass das Ergebnis am Ende ist, dass über die Einschränkung der Nutzung für junge Menschen am Ende auch eine komplette Eindämmung der Nutzer, äh aller NutzerInnen, das Ergebnis ist. Also man fängt an, es für junge Menschen zu regulieren und dann fängt es an, es für Erwachsene zu regulieren und irgendwann ist es gar nicht mehr erwünscht. Ich gehe nicht so weit, aber ich will doch zumindest anmerken, dass auch wenn Social Media hier in nahezu fast allen Fällen, zumindest wenn du dir die genutzte Zeit insgesamt anschaust In der Hand von eben, wie Mark Zuckerberg selber sagte, einigen wenigen Milliardären, Regierungen und so weiter liegt, dann Darf man trotzdem nicht vergessen, dass das ein Teil von Öffentlichkeit ist. Das ist ein Teil von Infrastruktur, das ist Kommunikation, das ist für viele Menschen. Der einzige, das einzige Fenster in die Welt, vielleicht auch ein Fenster in eine Welt, in der sie gerne wären, aber sich nicht aufhalten können, weil sie zum Beispiel Repressionen zu befürchten haben oder in einem Leben feststecken, aus dem sie nicht rauskommen. Also es gibt tausende Gründe, warum Social Media für viele Menschen ein ganz, ganz essentieller Bestandteil ihres Lebens ist Ich bin total einer Meinung mit dir.

48:27 Gavin Karlmeier

Vielleicht ist das eine gute Formulierung. Ich habe das gar nicht so verstanden, dass du ein Komplettverbot forderst. Ich will nur sagen, gerade wenn man diesen Podcast hier hört oder macht, ist man sehr schnell dabei, nur das Dunkle zu sehen und diese ganzen Probleme zu sehen. Und will nur sagen, es gibt aber eben nicht nur das Dunkle und das Schwarze, sondern es gibt eben auch viele Gründe, warum das eigentlich eine ganz tolle Technologie, eine ganz tolle Möglichkeit ist für Menschen, miteinander in Kontakt zu treten oder auch. Also einfachstes Beispiel, Bands, die über MySpace zum Plattenvertrag gekommen sind, ist so die Ursprungsidee, die Ursuppe davon, warum das so toll ist, weil es eben möglich ist, dass. . man ganz viele Hürden abbaut für Menschen, die sich eben selber irgendwie ausdrücken wollen. Und ich will halt einfach nur, dass wir selber uns immer wieder gewahr machen. Das Problem ist nicht die Idee Social Media, sondern das Problem ist, dass die Leute, die Social Media anbieten, das einfach seit 20 Jahren so machen können, wie sie wollen, ohne dass irgendetwas passiert. Übrigens so kleiner Nachschub, ein kleines Nachhak, dass die Episode mit Thomas am Montag extrem viel Diskussion ausgelöst hat. Weil die Diskussion, die wir da ja geführt haben, und Thomas ist ja der Ansicht und das ist ja eine vertretbare Meinung, deswegen fand ich es so wichtig und wertvoll, dass er hier ist, er sagt, das, was wir gerade eigentlich an der Brille kritisieren, das können wir alle mit dem Telefon längst machen. Gleichzeitig aber Viele andere sagen, und ich gehöre glaube ich auch dazu und habe das versucht auch so ein bisschen klarzumachen, dass die Brille aber eben ein anderes Gadget ist mit anderen, vielleicht noch nicht geschriebenen gesellschaftlichen Regeln. Und der Weg zu diesen gesellschaftlichen Regeln vielleicht relativ weit ist und der möglicherweise mit Blut geschrieben wird und dass viele dieser Dinge, und das hat jemand in den Spotify-Kommentaren geschrieben, und oder bei ich bin gerade unsicher, Dass das natürlich auch eine total privilegierte Beobachtung eines Mannes ist. Auch das muss man da mal, glaube ich, dazu sagen, dass es genauso legitim ist zu sagen, diese Brillen haben in unserem öffentlichen Raum nichts verloren. Also Ich glaube, das ist einfach eine sehr spannende und noch sehr bewegende Diskussion, gerade weil sie eben noch nicht am Abschluss ist, weil wir so früh stehen und weil wir uns jetzt erstmal miteinander aushandeln müssen. Was wollen wir eigentlich und wie viel Sind wir bereit auch aufzugeben von unserer Privatsphäre, zum Beispiel, wenn es Entwicklungen gibt, die vielleicht gut sind für viele Menschen

51:58 Gavin Karlmeier

Ja, ja, ja, ja, absolut. Und ich glaube, das ist so gleichzeitig auch die größte Gefahr für uns als Gesellschaft, weil die Technologie schneller ist als dieser Prozess des Makelns, den wir als Gesellschaft führen und der dann Idealerweise ja erst, wir haben ja schon öfter so diesen Bereich der Rechtsphilosophie oder Rechtsethik gestriffen, in meinem Verständnis einer gerechten Gesellschaft Sind Gesetze immer dann nur dann notwendig, wenn es ohne nicht möglich wäre, miteinander so zu leben, dass man nicht in den Freiraum des anderen eindringt. Und Das dauert lange. Das dauert richtig lange, bis wir dafür Gesetze haben.

52:47 Gavin Karlmeier

Genau, überhaupt, absolut nicht.

52:53 Gavin Karlmeier

Aber das ist alles Teil des gesellschaftlichen Prozesses und der gesellschaftliche Prozess dauert und leider sind wir aber an einem Punkt, wo die Entwicklung der Technologie, die das notwendig macht, nicht so lange dauert.

53:51 Gavin Karlmeier

Und jetzt weißt du, warum ich in meinem Urlaub diesen Podcast durchproduziere. Weil das eben, es ist, es ist zu viel aufzuarbeiten. Und es ist zu, wir sind dafür hier zu kleinteilig unterwegs, um da so längere Pausen wirklich zu machen. Also auch für mich selber. Ich mag Auch das getrieben sein. Aber ich will kurz noch, weil du das gerade angesprochen hast, wie gehen wir denn eigentlich mit unseren jungen Menschen um? Ich habe noch ein bisschen Meldungen. Der Kinderärzteverband. Sieht gravierendes Elternversagen und fordert jetzt harte Regeln für Plattformen. So wird das Ganze zitiert. Und zwar hat der Berufsverband der Kinder- und JugendärztInnen, BVKJ, von der Bundesregierung harte Regeln gegen Social Media Plattformen gefordert. Weil es eben ein gravierendes Elternversagen gibt und möchte jetzt quasi die Diskussion um ein Social Media Verbot nochmal ein bisschen weiter vorantreiben an der Stelle.

54:50 Gavin Karlmeier

Das ist aber schon lange her.

55:18 Gavin Karlmeier

Ja, im Grunde hast du recht. Die Realität ist aber A, dass dieser UDI-Wallet relativ schnell schon gehackt wurde, dass sie B keine Sicherheit bietet, dass junge Menschen nicht trotzdem einen Weg finden. C, diese Gesetze sich vor allem an große Plattformen richten, das heißt die ganzen kleinen, die gar nicht reguliert werden, davon gewinnen würden. Und D, die, die, das, das, das Ich habe mein D vergessen, wie immer, wenn ich eine Auflösung mache. Aber jetzt habe ich nicht so reingetrigen. Und dann I. Aber ähm, ich. Also du hast natürlich im Kern recht, trotzdem ist das so nicht die Welt des freien Internets, die ich mir vorstelle, in der es eine Passüberprüfung gibt, egal wer sie durchführt.

56:06 Gavin Karlmeier

Achso, ich weiß mal dir wieder. Ja, okay. Weil du sagtest, das erstmal zu machen. Du glaubst denn nicht wirklich, dass irgendwann gesagt wird, jetzt schaffen wir das Verbot und die Verifikation wieder ab, weil jetzt glauben wir, werden sich die Plattform daran halten, was wir ihnen vorschreiben. Das wird ja nicht passieren. Also, ich glaube, wenn der Geist einmal aus der Flasche ist, kriegst du ihn nicht wieder rein. Das stimmt nur. Auf jeden Fall, der Bundesverband der Kinder- und Jugendärztinnen sagt, sie sind zwar generell offen für ein Verbot, glauben aber, das Verbot ist unzureichend. Man sieht an Australien, dass acht von zehn Jugendlichen das Verbot missachten und die Plattform trotzdem benutzen kann. Das heißt, man müsse eigentlich viel härtere Regeln für die Betreiber. entwickeln oder auf den Weg bringen. Und man müsse in der Politik endlich handeln. Wir haben längst die Möglichkeit, Nationalbedingungen für Plattformen zu setzen. Andere wie England machen es vor. Vorschläge liegen auf dem Tisch, sie müssen jetzt nur ohne Rücksichtnahme auf Konzerne beschlossen werden. Und da würde ich sagen, da bin ich, glaube ich, auf derselben Seite wie die Kinder- und Jugendärztinnen. Ich auch.

57:38 Gavin Karlmeier

Ja, natürlich. Das Problem ist halt, dass. . . diese diese dieser Erkenntnismangel leider offenbar auch bei denen besteht, die am Ende tatsächlich diese Plattform am Ende regulieren sollen. Und die aber gleichzeitig Angst davor haben. dass Zölle folgen könnten. Also wir haben nicht die Handhabe, dass es einen wirklichen Lösungsvorschlag auf dem Tisch gibt. die Plattform so zu regulieren, dass eben solche Dinge wie das eben schreckliche besprochene TikTok-Beispiel oder aber auch die Sucht ähnlich oder sucht ähnliche fördernde Maßnahmen. Tatsächlich weiterentwickelt und angeboten werden. Das ist ja etwas, was du tun musst, und das betrifft eben nicht nur junge Menschen. Also, es wäre ja schon wahrscheinlich total viel geholfen. wenn nicht TikTok standardmäßig einen endlosen vertikalen Video-Feed hätte, sondern du den händisch einschalten musst und zwar jedes Mal, wenn du damit hättest du wahrscheinlich schon super viele Probleme gelöst. So, und damit will ich einfach nur sagen, es gibt ganz viele kleine Dinge, an denen du arbeiten kannst. Das aber einfach zu sagen für junge Menschen eben wegzuräumen, weiß man nicht.

58:53 Gavin Karlmeier

Ich bin leider schon ein bisschen unter Frage. Ich bin leider so ein bisschen frustriert von dem, was wir hier so immer berichten. Aber ich glaube halt, dass ein Verbot das eben auch nicht lösen würde und auch nicht funktionieren würde.

59:42 Gavin Karlmeier

Das heißt, eigentlich muss die Spitzenpolitik viel mehr Haken dran hören, eigentlich im Grunde. Genau, das wollte ich sagen. Das ist, was hängen geblieben ist. Oh, jetzt ist das hier so düster. Ich wollte gar nicht mit dir so düster rausgehen. Ich habe gedacht, wir machen uns das jetzt sehr bequem. Es ist immer das Gleiche. Es ist immer das Gleiche. Haben wir denn nichts irgendwie ein bisschen. . Ich habe eine Geschichte, die ist so ein bisschen lockerer. Die wollte ich eh noch unterbringen. Die passt thematisch gerade nicht ganz so, aber vielleicht reißt es das ein bisschen raus. Und zwar haben wir ja in den letzten Wochen sehr viel darüber gesprochen, wie sich diese ganzen AI-Systeme von sich aus, in Anführungsstrichen, von sich aus irgendwo anders reingehackt hätten. Wir erinnern uns an OpenAI und Claude und Meta und Mistral hat es mittlerweile auch gemacht und Google und alle. So, jetzt gibt es aber die Geschichte. Und die fand ich irgendwie süß und lustig, weil das so Es ist nie eigentlich nichts Schlimmes passiert und so. Aber bisschen auch ärgerlich, aber auch nie witzig. Und zwar gibt es einen Nutzer in Australien Und der nutzt OpenClaw. Das ist dieser Agent, mit dem du mit Hilfe von anderen KI-Systemen, Chatbots, Modellen so agentische Dienstleistungen in Anspruch nehmen kannst. Das, was Mark Zuckerberg gerne für alles hätte, für Kindergeschichten und Rezepte und alles. Und der hat Open Claw gebeten, einen Platz in einem Kurs in seinem Fitnessstudio zu reservieren. Und da kam dann aber erstmal das Ergebnis, dass der Kurs voll ist und es gibt eine Warteliste. Und dann hat er gesagt, kannst du nicht irgendwas machen? Also so, auch wieder, wie immer, da hat die KI nicht von sich aus gehackt, sondern die ist so, ja, hat schon einen kleinen Schubser gekriegt. Und tatsächlich hat der KI-Agent dann geantwortet: Ja, wir haben dich jetzt mal hier auf Platz, von Platz 4 auf Platz 3 der Warteliste gesetzt und den anderen Teil von der Warteliste runtergeschmissen. Sich in dieses System halt reingefriemelt hat. Gleichzeitig hat der KI-Agent gesagt, wir haben dich aber auch für einen Kurs in mehreren Wochen eingetragen, obwohl das über die Website noch gar nicht möglich ist. Also. Der KI-Agent hat sozusagen verstanden, wie das System funktioniert, und hat auch schon in nicht öffentlich sichtbare Kalender diesen Andrew, so heißt der Nutzer hier, einfach schon eingetragen. Was so ein bisschen auch zeigt, dass selbst das kleine Fitnessstudio von nebenan sich langsam Gedanken machen müsste, wie cybersicher eigentlich ihre Infrastruktur aufgebaut ist. Es ist so ein bisschen, ich finde das irgendwie eine witzige Geschichte, auch wenn das halt natürlich trotzdem auch doof ist.

01:02:24 Gavin Karlmeier

Ich kann dir übrigens ganz kurz, wenn ich da reinschmeißen darf, ganz kurz, du hast natürlich recht, aber. Das Winterstudio hatte gar keine Autorisierungsüberprüfung um das Canzen von Reservierung anderer Personen.

01:03:33 Gavin Karlmeier

Und vielleicht ist das so der Weg, weiß ich auch nicht, wo das jetzt hinführt in meinem Kopf, aber ich dachte gerade, hey, vielleicht führt es am Ende dazu, dass wie bei meinem Friseur, der das jahrelang gemacht hat, bevor ich zu meiner jetzigen Friseurin gegangen bin, bei der ich bin und die diesen Podcast hört, liebe Grüße. Dass es einfach so eine handschriftliche Liste gibt, indem man das alles einträgst. Weil das kann Claude noch nicht, da kann doch nicht jemand rausschmeißen aus einer handschriftlichen Liste.

01:04:35 Gavin Karlmeier

Oh Gott. Da hast du mich verloren. Aber es geht jetzt gerade so ein Screenshot um von jemandem, der in der Präsentation einen Vortrag gehalten hat und unten in der Fußnote stand, dass alle M-Dashes, also alle Gedankenstriche, human-made sind, also von Menschenhand eingefügt worden in die Präsentation.

01:04:53 Gavin Karlmeier

Diese Gedankenstriche. Also, die etwas länger sind als der. Ja, genau.

01:05:00 Gavin Karlmeier

Das ist der Weg.

01:05:10 Gavin Karlmeier

Genau. Das hier müssen wir auch nicht kennzeichnen, aber wir kennzeichnen das als schöner Einstand, Ralf. Ich hoffe, du kommst jetzt wieder. Ich hoffe, ich habe dich noch nicht ganz verprellt mit den düsteren Boden. Ja, total gerne. Das war sehr schön. Okay, dann sehen wir uns bald wieder. Ich freue mich. Und du musst natürlich jetzt, die Folge ist ja jetzt eine Stunde sechs alt, das heißt, um 6. 06 Uhr am Mittwochmorgen guckst du natürlich direkt in den Discord und schaust, was haben die Hackis geschrieben?

01:05:42 Gavin Karlmeier

Lieber Ralf, danke, dass du hier warst.

01:05:45 Gavin Karlmeier

Alle, die bis hierhin zugehört haben, vielen, vielen Dank euch. Habt ihr eine ganz wundervolle Restwoche. Wir hören uns am Freitag wieder mit Janne Knödler.