Es ist wieder Ankündigungstime! Denn Jahresende heißt Preisezeit – und wir vergeben in diesem Jahr sogar zwei davon! Und wie es sich für einen guten Communitypreis gehört, bestimmt IHR, wer sie bekommt!
Was WIR allerdings alle nicht bestimmen, ist die Frage danach, was FACEBOOK heute noch ist (ist Pivot to Video ENDLICH abgeschlossen?), wie TikTok mit seinen Nutzer:innen spielt und welche Rolle das Oversight Board in den nächsten Jahren noch spielen könnte. Wenigstens letzteres versuchen sie gerade selbt in den Griff zu kriegen. Und dann ist da noch die Absichtserklärung der Bundesregierung zum Social-Media-Verbot – oder kurz: Eine Beschränkung, die nicht klappt, mit einem Wallet, das es nicht gibt, für eine Ausweisfunktion, die keiner nutzt.
📧 Jetzt Vorschläge für den Grauen und Goldene Haken 2026 einreichen! Eine Mail an [email protected] oder [email protected] reicht!
Kapitelmarken
KI-unterstützt
- Hallo Dennis!
- Der Graue und der Goldene Haken 2026: Vorschläge jetzt!
- Was ist Facebook heute noch? Meta testet Reels als Startseite in Indien
- Meta und KI-Gewaltvideos mit Kindern: gemeldet, ignoriert, sogar als Anzeige geschaltet
- Meta verbannt TikTok-Werbung von seinen Plattformen
- Klage aus New York: TikToks Placebo-Test mit „Algo Refresh“
- Kinderdatenschutz-Vergleich: Richter hält an TikToks Musically-Auflagen fest
- Forbes: TikTok entkernt seine Werberegeln, Betrugsanzeigen explodieren
- Social-Media-Verbot: Kabinett beschließt Eckpunkte zum Jugendmedienschutz
- Altersprüfung per Staats-Wallet – und der Online-Ausweis, den kaum jemand nutzt
- Oversight Board: offener Brief zur unabhängigen KI-Aufsicht
- Wanze im Konferenzraum: OpenAI-Ingenieur festgenommen
- Nachhak: Anthropic vs. Pentagon, New Yorker KI-Anhörung, Facebook-Links für Verlage
- Project Lily: Externe lesen ChatGPT-Chats mit
- Apple will Siri-Gespräche fürs KI-Training nutzen
Transkript
Automatisch erstellt, kann Fehler enthalten. Zeitmarken springen im Player an die Stelle.
00:00 Dennis Horn
Grüß dich, Gavin.
00:01 Gavin Karlmeier
Hallo Dennis.
00:02 Dennis Horn
Heute, wenn ihr das hier hört, liebe Hakis, ist der 16. Oktober. Es ist morgens Winter, Vormittags Herbst, Mittags Sommer, bei Rewe ist schon Weihnachten, bei Action Halloween.
00:12 Gavin Karlmeier
Also für mich, für mich als Übergangsjackenlord. ist das die einzige Zeit des Jahres, in der ich mich kleidungstechnisch wirklich gut fühlen kann.
00:20 Dennis Horn
Ja, so, ne? Und ich würde mir immer wünschen, so Herbst und Frühjahr werden Nicht nur eine Woche lang hier im Netz, sondern wirklich drei Monate. Das wäre schön.
00:31 Gavin Karlmeier
Ich will dir ja nicht zu nahe treten, Dennis, aber deine Generation hätte mehr dafür tun können, dass es klappt als meine.
00:38 Dennis Horn
Wow. Wow. Der Ton ist gesetzt. Ich wollte noch kurz sagen, irgendwie Rewe ist Weihnachten bei Action Halloween. Ich habe es eben bei Threads gelesen, als ich gucken wollte, von wem es war. Ich habe es mir gemerkt, was ich so mega fand. War schon wieder weg. Schade. So, das heißt, es geht aufs Jahresende zu und das heißt ja hier bei Haken dran, dass der graue Haken einen neuen Abnehmer braucht, obwohl der aus dem letzten Jahr noch nicht mal bei Markus Söder gelandet wird.
01:00 Gavin Karlmeier
Warte, wir müssen einmal ganz kurz natürlich hier den entsprechenden Jingle spielen, damit auch hier der. Der Ton gesetzt ist. Allerdings, warte mal, habe ich den gar nicht aufliegen.
01:12 Dennis Horn
Profis!
01:13 Gavin Karlmeier
Es ist Wochenende, Leute. Was erwartet ihr? So, jetzt Da, bitte. We're processed. Deshalb muss. Ah ja, bitte.
01:26 Speaker 3
Der Graue Haken 2026.
01:31 Dennis Horn
Wobei das Jingle ja noch nicht mal vollständig ist, weil wir auch einen goldenen Haken verleihen. So ist es. Aber dazu jetzt mehr von dir.
01:37 Gavin Karlmeier
Also, wir haben im letzten Jahr einen Preis aus Erkoren ausgeschrieben, sozusagen, denn es ist ein Communitypreis. Leute entscheiden, wer ihn bekommt, und zwar sowohl in der Vorschlag And have in the last year the Grown Haken verliehen. A prize for the greatest social media peinlich. There were nominated mention like Kalcia Kandela for Mousie Gate. There was nominated Markus Söder. dann am Ende auch bekommen für sein digitales Lebenswerk. Und das werden wir auch in diesem Jahr wieder tun. Also auch in diesem Jahr könnt ihr wieder Vorschläge machen. Es sind schon einige Vorschläge eingegangen. Ihr findet in den Shownotes eine Mailadresse. Für die, die nicht in die Shownotes gucken wollen, sie lautet. Dort könnt ihr Vorschläge machen, wer in diesem Jahr in die Abstimmung geschickt werden soll. Und hoffen, dass wir in diesem Jahr erfolgreicher sind als im letzten Jahr, weil der Preis für Markus Söder steht noch immer zum Leidwesen einiger Menschen, die mit mir zusammen wohnen. Immer noch in unserem Esszimmer. Und das wollen wir natürlich nicht mehr sehen. Ändern, aber wir haben auch festgestellt, dass das so negativ ist. Wir haben hier Doomscrolling für die Ohren, wir reden so viel über die Düsternis der Dinge, und deswegen wollen wir auch die schönste Social Media Geschichte oder die den bemerkenswertesten Auftritt Die erstaunlichste Entwicklung, den besten Kanal auszeichnen, mit dem Goldenen Haken zwei tausend sechsundzwanzig. Und auch dafür könnt ihr ab jetzt Vorschläge einreichen. Wir haben in diesem Jahr einen, wie sagt man, anderen Zeitplan als im Vorjahr, weil wir im Jahr haben wir das so bis Jahresende durchgeschliffen und so. Das wollen wir dieses Jahr nicht. Menschenbilder, Emotionen und Land und Jauch, die laufen auch alle schon im Juli gefühlt. Und du sagst es eben, bei Lidl ist jetzt schon Weihnachten, also müssen auch wir ein bisschen an die Zeichen der Zeit anpassen. Das heißt, ihr könnt jetzt für die nächsten drei Wochen Vorschläge machen bis zum 8. November. Dann könnt ihr drei Wochen lang abstimmen bis zum 1. Dezember. Und am 8. Dezember wird dieser Preis live in Köln im Touristarama Im Rahmen einer Live-Gala verliehen. Und für diese Gala bekommt ihr jetzt schon Tickets. Ihr findet sie in den Shownotes auch. Und ich bin sehr gespannt, ob PreisträgerInnen kommen werden. Was sonst so passieren wird. Alles unklar bisher. Aber die Termine stehen.
03:53 Dennis Horn
Gut. Ich möchte noch ein paar Fragen zum Handling stellen. Bitte. Vorschläge für den goldenen Haken, gehen die auch an grauerhaken. Oder gehen die an goldener Haken-Ettackenbrand. org?
04:04 Gavin Karlmeier
Also da beides im selben Postfach landet? Sucht es euch aus. Ich habe ein Fetchall. Das heißt, ihr könnt auch schreiben, ich finde Markus Söder super. hakendrenn. org und da auch Vorschläge machen. Auch das käme
04:15 Dennis Horn
an. Ja, weil ich wollte gerade fragen, warum lassen wir die Chance liegen, die Mailadressen grauer. hakendran. org zu nennen. Aber das kommt ja dann auch.
04:24 Gavin Karlmeier
Die gibt es auch.
04:26 Dennis Horn
Sehr gut. Also, jetzt melden und dann sehen wir vielleicht die Preisträger am 8. Dezember in Köln im Touristarama und Tickets dafür auch auf Hakenrand. org. Wir freuen uns sehr. Toll. Jetzt werden wir inhaltlich, nicht wahr?
04:42 Gavin Karlmeier
Ich fürchte ja.
04:43 Dennis Horn
Ich starte mit einer philosophischen Frage, die wir uns aber glaube ich auch schon öfter gestellt haben: Was ist Facebook heute eigentlich noch?
04:50 Gavin Karlmeier
Oh, das ist eine ganz große Frage. Alle weiteren Themen verschieben sich leider auf Montag.
04:55 Dennis Horn
Naja, ich habe eine Antwort, also die Antwort, die Meta jetzt gerade testet, zumindest in Indien. Lautet im Zweifel ist Facebook heute noch TikTok. So, also der Facebook-Chef, wo ich auch drüber gestolpert bin, übrigens, das hat man ja gar nicht mehr. So im Kopf, man denkt immer noch Mark Zuckerberg und dann war da irgendwie noch Adam Musseri, war mal Thema, aber der ist ja bei Instagram. Eda
05:15 Gavin Karlmeier
Muss Harry heißt der Edamus Harry.
05:17 Dennis Horn
Der Facebook-Chef heißt Tom Allison.
05:20 Gavin Karlmeier
Ah ja.
05:21 Dennis Horn
So.
05:21 Gavin Karlmeier
Haben wir bestimmt schon mal erwähnt, aber
05:24 Dennis Horn
bemerkt. Wirklich nicht, ja, ging mir auch so, so. Und der hatte das schon im Juli aber angekündigt. An Teil der Nutzerinnen und Nutzer, nämlich die, von denen Meta in Indien glaubt, dass sie mehr Videos wollen. Landet beim Öffnen der App jetzt direkt in einem Vollbildfeed mit Reals. Also nicht im Newsfeed, nicht bei Freunden und Familie, sondern so im Video. Und der Test läuft jetzt in Indien. Das ist der größte Facebook-Markt mit mehr als 400 Millionen Menschen. Auch interessant, ne? Also der Test sozusagen im größten Markt, das war ja auch mal andersrum. Und der klassische Feed bleibt erhalten als Zweiter Reiter. Wenn er swiped, dann schreibt. Schreibt er, sorry. So, also wenn. So, wer. Ich bin müdisch und morgen.
06:10 Gavin Karlmeier
Wenn er swipe, dann like da.
06:14 Dennis Horn
Und wer möchte, kann dann zurückwechseln. Und dieser Test soll dann, schreibt MediaPost, irgendwann 2027 auch in den USA kommen. Und parallel testet Meta dieselbe Nummer auch mit Instagram. Das ist so gefühlt der vorläufige Endpunkt so einer langen Linie. Also
06:33 Gavin Karlmeier
das ist mein Gedanke.
06:34 Dennis Horn
Vollbild Video Player 2024, 25 wurde aus dem Videotab der Reals-Tab, seitdem ist alles auf Facebook auch ein Real und horizontale Videos werden automatisch ins Hochformat. gezogen und Begründung von Meta wie immer, die Leute wollen das.
06:55 Gavin Karlmeier
Ich finde das total interessant, weil es hat nur elfeinhalb Jahre gedauert, bis Facebook sein Pivot to Video abgeschlossen hat. Am siebten Januar zwei tausend fünfzehn haben sie dazu aufgerufen und jetzt sind sie an diesem Punkt. Ich finde aber auch interessant, dass Meta jetzt so Alles so streamlined, also dass bei Instagram die Reels immer mehr in die in die Standardansicht rutschen, das haben wir schon, beobachten wir hier die ganze Zeit. Das sehen wir auch, dass Instagram ja vor einigen Wochen angefangen hat, die Reels als Startseite zu setzen. Facebook, das ihr jetzt tut, jetzt war aber bei Instagram die Nutzungserfahrung als Videoplayer total gelernt. Bei Facebook ist es eine Nutzung von vielen. That Meta aberts, oh, Facebook would just never app. Alles is everything is real, all real. We have in last year or in four letzted years, that Facebook ja so a local app. App werden soll. Dann gab es eine andere Nutzungserfahrung, wenn du in Austin bist, als wenn du in San Francisco bist, und die sah dann anders aus, und hättest auf der Staatsseite die Gruppen und so Das hat offenbar nicht gezündet. Dann hatten sie Hoffnung, dass das Poken wieder groß wird und die Gen Z sie vielleicht in Facebook verliebt. Auch das hat nicht gezündet. Und jetzt sagt Meta einfach: komm, alles egal, scheiß drauf, alle Apps sind Gleich. Und das ist, glaube ich, nicht so eine gute Idee, weil man damit Facebook noch mehr abschafft, als man es möglicherweise in den letzten Jahren schon versucht hat.
08:16 Dennis Horn
Ja, und du hättest ja auch trennen können, ne? Also du hättest ja sagen können, alles klar, da haben wir noch weiterhin die Plattform für den Social Graph, hier haben wir die Plattform für den Content Graph und da haben wir die Plattform für weiß ich nicht, wie was jetzt für den Für den Graph von Unheilig. So. Und das ist
08:35 Gavin Karlmeier
Steffi Graph.
08:36 Dennis Horn
Steffi Graff. So, das hätte man ja sagen können, aber offenbar ist das dann nicht fett genug. Also Meta sagt: junge Erwachsene Von denen ich gar nicht wusste, dass die so groß bei Facebook vertreten sind. Aber es gibt ja auch noch andere Länder, muss man ja auch dazu sagen. Also deutsche Perspektive ist ja auch nochmal eine andere. Junge Erwachsene verbringen laut Meta 60 Prozent ihrer Facebook-Zeit mit Videos.
09:03 Gavin Karlmeier
Weil sie keine andere Wahl haben. Das ist die Wahl am Ende des Satzes. Sie werden halt von Facebook so massiv dahin hingenatscht, dass sie keine andere Möglichkeit haben, als das die ganze Zeit sich anzuschauen.
09:14 Dennis Horn
Also das ist kein reiner Designtest, was da in Indien passiert, sondern die Umwidmung dieser Plattformen, die ja mal mit Freunde und Familie angetreten ist. zu einfach yet another kurz Video-Maschine.
09:27 Gavin Karlmeier
Richtig, aber ich finde es auch bemerkenswert, dass sie erst jahrelang daran gearbeitet haben, dass wir Freunde und Familie eh nicht mehr mitbekommen, dass wir auch keine Lust haben, mit Freunde und Familie überhaupt was zu tun zu haben, bis wir gar keine Freunde und Familie mehr hatten, um uns dann ein Entertainment zu machen. Netzwerk vorzuknallen.
09:42 Dennis Horn
Ja. Schauen wir mal auf 2027. Andere Geschichte von Meta, die wird unangenehm. Futurism hatte im September schon berichtet, dass auf Facebook ja massenhaft KI-generierte Videos kursieren. Die drastische Gewaltzeichen gegen Kinder. So, wie immer, wir ersparen die Details. Was danach passiert ist, Meta hat ein Konto gelöscht, auf das Futurism hingewiesen hatte. Und nach der Veröffentlichung des Artikels war dann dieses Konto aber plötzlich wieder da, samt Videos. Und dann hieß es auf Nachfrage: man geht der Sache nach, später war es wieder weg. So, aber warum es zwischendurch zurückkam Meta hat es nicht beantwortet. Und dann wollte Futurism jetzt mit ein bisschen Versatz wissen, ob Meta inzwischen schneller reagiert und hat 19 weitere Konten gemeldet und mehr als 48 Stunden lang überhaupt keine Reaktion. Die Konten waren noch Tage nach dem Bericht online und am Ende dann gelöscht, irgendwie einen Satz als Statement, wie immer, und fertig. Zwischendurch habe ich so überlegt, vielleicht müsste man Das ist natürlich Quatsch, aber vielleicht müsste man Medien und Pressestellen in den Meldeprozess so generell einbauen, dann würden die Dinge auch funktionieren. Aber wahrscheinlich skaliert das nicht.
10:56 Gavin Karlmeier
Ich kann eine kleine Geschichte erzählen. Ich habe einen Freund, ich werde ihn namentlich nicht nennen, er hört sie aber vielleicht. Der hatte mal ganz doll Ärger mit seinem Vermieter. Und ich habe ja eben erzählt, ich habe eine Fetch-All -Mail-Adresse, also kannst du vor die Domain quasi alles setzen und das kommt an. Und dann hat er sich so geärgert über seinen Vermietern, dass er in jede Korrespondenz mit denen immer Kanzlei atKahlmeyer. de genommen hat. um denen zu zeigen, also ich habe da jetzt sozusagen auch schon mal jemanden in den Loop geholt, wie man so stimmt. Und also ich finde deinen Punkt gut und ich möchte da nochmal beteuern, etwas, das wir hier schon mal gesagt haben. Wenn ihr Dinge auf diesen Plattformen seht, bei denen ihr das Gefühl habt, sie sollten dort nicht sein, und das Melden bringt nichts, dann schickt uns das Und wir nutzen so ein bisschen die kleine Medienpower, die wir hier haben, um genau diesen Effekt sozusagen zu reproduzieren. Weil das ist nämlich genau das Ding. Du brauchst die Öffentlichkeit. Das ist so ein bisschen wie Leute, die in den 90ern irgendwie, keine Ahnung, ein Auto gemietet haben und dann das Geld nicht wiederbekommen haben. Die Kaution wegen irgendwelchen fadenscheiniger Argumente und dann ist man mit Stand TV wiedergekommen.
11:59 Dennis Horn
Ja, ja, genau. Oder die Service-Side.
12:02 Gavin Karlmeier
Oder mit Peter Giesel. Achete Abzücker.
12:06 Dennis Horn
Für die Serviceide arbeite ich regelmäßig im WDR Fernsehen und die haben wirklich so ein eigenes Team auch, das dann so diese Zuschriften entgegennimmt und so. Und genau, es ist funktioniert. And zu der Story passt, was Wired Zusammen mit dem Tech Transparency Project noch gefunden hat. Meta hat zwischen November 2025 und August in diesem Jahr. Hunderte bezahlte Anzeigen mit KI generierten Missbrauchsdarstellungen laufen lassen. Nicht von irgendwem hochgeladen, sondern das hatten wir auch schon öfter das Thema von Meta geprüft, freigegeben, abgerechnet und Futurism Ähm, sagte, das ist halt ein Widerspruch, ne? Also haben wir irgendwie einen Konzern, der jetzt auch mit Superintelligence C Wirbt, aber es gleichzeitig nicht hinbekommt, Videos zu erkennen, deren Begleittexte ja auch zum Teil wortwörtlich beschreiben, was darin zu sehen ist. Und Meta sagt die ganze Zeit, wie präzise man ja angeblich Inhalte rausfiltern könne für Teenager. So, Facebook ist ab 13 so. Also wenn es darum geht, irgendwie dieses Produkt kindgerecht zu verkaufen, dann funktioniert die Technik offenbar ganz prima. Und wenn es Darum geht, aber Gewaltvideos mit Kindern runterzunehmen, 48 Stunden Funkstille.
13:19 Gavin Karlmeier
Ja, und es reiht sich so ein in diese Geschichten, und vielleicht ist das jetzt schon die Brücke genau zu diesem Thema, wo wir jetzt hinkommen. Es reiht sich ein in die Brücke von Auf der einen Seite sagen sie, hey, sorry, ja, Reuters sagt, 10% unserer Einnahmen seien durch Betrug, betrügerische Werbungen generiert worden und das kriegen wir leider nicht in den Griff. Oder wie Meta sagt, die Zahlen stimmen nicht. Das kriegen wir leider nicht in den Griffern, immer es aber so Geschichten gibt, die dann eben irgendwie anders gelagert sind, kriegen sie es plötzlicherweise doch in den Griff. Ja, ist das der Überbau zur nächsten Geschichte? Soll ich die Brücke legen?
13:55 Dennis Horn
Leg doch mal die Brücke.
13:56 Gavin Karlmeier
Dann kommen wir nämlich zu TikTok, weil TikTok nicht mehr auf Meta-Produkten werben darf. Meta hat TikTok-Verband. Und zwar in den USA, Kanada, Ägypten, Indonesien, Japan, Thailand und Vietnam. Und Sie begründen das damit, wir möchten, oder Chris Throgo, S-G-R-O Das ein Sprecher von Meta sagt, wir werden keine Werbungen zulassen, die Menschen von unseren Apps wegziehen. Was ich ein bemerkenswertes Statement finde, weil ehrlicherweise ist das von jeder Werbung, der Zweck, aber naja. Interessant ist aber halt dieser Überbau, wenn man ihn da einhängt, dass eigentlicher TikTok schon auf Meta werben durfte, und zwar seit gefühlt zehn Jahren. Jetzt aber im Moment die Stimmung ein bisschen angespannt ist, weil Meta. Diesen Vergleich, den sie erzielt haben, ja an die Bedingungen geknüpft haben, dass TikTok mitmacht. Und TikTok macht aber natürlich nicht mit, weil TikTok sagt, also wenn wir da mitmachen, dann geben wir uns schlechtere Bedingungen, als ihr euch in diesem Vergleich erhalten. Ihr habt jetzt für uns das Erhandelt, da haben wir keine Lust drauf. Wir erinnern uns, Meta hat gesagt, die Zeit, die junge Menschen auf einer Plattformen verbringen dürfen, sei nur noch zwei Stunden. Das gilt aber nur, wenn YouTube und TikTok dasselbe tun, allerdings mit einer Stunde. Und da wäre TikTok schön blöd, wenn Sie sich auf diese Geschichte einlassen würden. Ob das jetzt der Grund ist, warum Meta jetzt entscheidet, plötzlich, dass die Werbung für TikTok-Produkte nicht mehr auf Meta-Plattformen angezeigt werden darf, oder ob Meta da andere Gründe hat und warum sie hier. So gut darin sind, Werbung zu verbannen und an anderen Stellen nicht. Das sind alles Dinge, die Chris Through Go hier nicht beantwortet hat.
15:32 Dennis Horn
Ja. Im Video mache ich ein kleines Dollarzeichen, also.
15:36 Gavin Karlmeier
Die kleinste Geige der Welt.
15:38 Dennis Horn
Die kleinste Geige der Weltzeichen gerade. Ja. Es ist so.
15:41 Gavin Karlmeier
Ein kleines Dollarzeichen.
15:43 Dennis Horn
Das ist Quatsch, ne? Aber ich habe zu vieles
15:46 Gavin Karlmeier
an Top. Wo kommt das eigentlich her hier mit der Patte?
15:50 Dennis Horn
Ist das nicht, dass wenn du einen Schein so in der Hand gefaltet hast, dass du den einfach so reibst aneinander?
15:56 Gavin Karlmeier
Machst du das?
15:58 Dennis Horn
Nein, aber das ist die weiteren Fragen. Ja, ich weiß es auch.
16:04 Gavin Karlmeier
Kann man bestimmt nachhaken, genauso wie vielen Dank für eigentlich alle, die mitgeschrieben haben in den letzten zwei Tagen, dass ich nicht in der Lage bin, die X von der Y -Achse zu unterscheiden. X
16:14 Dennis Horn
ist die horizontale, Y die vertikale.
16:17 Gavin Karlmeier
Ja, ich habe mir das eigentlich immer gemerkt, dass der Skispringer erst geradeaus fährt und dann springt. Erst X, dann Y. Jemand anders hat mir geschrieben, das fand ich toll. Ich hab mir leider nicht aufgeschrieben, wer, aber du weißt ja, du bist Short Out. Der Buchstabe Y der einzige ist, der so einen senkrechten Strich hat.
16:34 Dennis Horn
Ja, der große. Buchstabe Y.
16:39 Gavin Karlmeier
Ja.
16:40 Dennis Horn
Ja? Im H sind doch auch zwei senkrechte Striche drin.
16:43 Gavin Karlmeier
Ja, aber es gibt keine H-Achse.
16:45 Dennis Horn
Das ist richtig. Das ist richtig. Sehr gut, äh, sehr gut gemerkt. So. Das
16:51 Gavin Karlmeier
war ein kleiner Test.
16:55 Dennis Horn
Wir machen ein bisschen weiter noch mit TikTok.
16:57 Gavin Karlmeier
Cool.
16:57 Dennis Horn
Es sind neue Passagen raus aus der Klage des Bundesstaats New York gegen TikTok. Reuters hat sie ausgewertet. Da geht es unter anderem um eine Funktion namens Algo Refresh. Und die soll genau das tun, was der Name verspricht, wer im Für Dich-Feed unterwegs ist und irgendwie die Inhalte nicht mag. Und vielleicht sogar in irgendeine Spirale geworfen wurde vom Algorithmus aus schädlichen Inhalten sogar so, der drückt auf Algo Refresh und dann werden die Empfehlungen zurückgesetzt. Und in der Klageschrift steht, dass TikTok 2023 tausenden NutzerInnen, die diese Funktion aktivieren wollten, Jugendliche und Kinder waren auch darunter, eine Attrappe gegeben hat. Also, ähm, das nennt sich dann Ghost oder Placebo-Experiment. Also die Leute dachten, sie hätten ihren Feed zurückgesetzt. Aber es ist gar nichts passiert.
17:53 Gavin Karlmeier
Jetzt gibt es wahrscheinlich Hakis, die sich an eine Geschichte erinnert fühlen, eines jungen Menschen, der. in eine Algorithmusspirale geworfen wurde. Die Geschichte ist leider sehr tragisch ausgegangen und zwar damit, dass der Junge leider heute nicht mehr lebt. Wir erinnern uns daran, die Eltern sind dagegen vorgegangen und in dem Rahmen kam eben auch aus, es war eine relativ umfangreiche Recherche und ich glaube, es war von Bloomberg , kam eben auch raus, dass auch dieser Junge in einer Testgruppe gewesen ist, also nicht mit Algo Refresh, sondern mit einem anderen. Ich weiß nicht mehr genau, wie das hieß. Und das halte ich für nicht besonders geschickt von TikTok, solche Funktionen so zu testen, dass manche Menschen sie nicht bekommen, auch wenn das Funktionen sind, die eben in die Kategorie, wie sie es selber, einen Digital Well being. .
18:40 Dennis Horn
Ja, ist so. Und also auch der Vergleich, ne? Also, so in der in der Medizin brauchst du irgendwie für Placebo-Versuche eine Ethikkommission so und eine informierte Einwilligung, auch der Teilnehmerinnen und Teilnehmer. Bei TikTok reicht irgendwie eine Hypothese zur Verweildauer. Also man hat dann auch getestet, wie wirkt sich das aus auf Verweildauer und Werbeeinnahmen. Es gab laut der Klageschrift Internen Widerspruch. Also da gab es einen Product Manager für Digital Wellbeing, der hat dann intern geschrieben, so sinngemäß, es geht doch da um Transparenz und Kontrolle. Und eine Placebo-Gruppe widerspricht dem völlig und gemacht wurde es trotzdem mehrfach. So, und noch als Ergänzung: der Bundesstaat New York sagt Selbst die funktionierende Version sei kein echter Reset gewesen für den Algorithmus, sondern nur eine vorübergehende Änderung. Und TikTok sagt, das stellt die Funktion irgendwie falsch dar. Man teste nun mal regelmäßig neue Funktionen, wie die meisten. Unternehmen, aber ich dachte so, auch das erinnert mich an was, nämlich an die Möglichkeit im Facebook-Newsfeed. Damals Umzustellen auf ich hätte das gern wieder chronologisch. Und dann ist das ja immer nach so ein paar Tagen wieder zurückgeflippt auf die algorithmische Version. Genau, ist natürlich irgendwie dieselbe Geschichte auf Steroiden, aber daran hat mich das erinnert.
20:04 Gavin Karlmeier
Wie so oft dieselbe Geschichte wie auf Steroiden. Diese ganzen Nutzertestungen, die sind halt. Nee, anders. Ich finde, dass es hier Widerspruch im Haus gibt nach der Geschichte, die uns hier Annika Perfoon vor zwei, drei Wochen erzählt hat. Ihr habt es sicherlich gehört. Wir haben hier mit einer frühen UX Forscherin von Meta gesprochen, die genau auf Jugendschutzmaßnahmen der Metaplattformen geschaut hat und die sozusagen, wie sie sagte, den atomaren Sprengsatz im Unternehmen hatte, weil sie genau immer die Gegenthese einnehmen musste. mit Digital Wellbeing argumentiert hat, statt mit Stickiness. Und dann hast du eben diese unterschiedlichen Lager im Haus, die dann aneinander makeln. Und ich glaube, dass es erstmal, auch von, wenn man jetzt so rein sachlich wirtschaftlich darauf schaut , Ein völlig gesunder und richtiger Prozess, unterschiedliche Teams an unterschiedlichen Baustellen arbeiten zu lassen und die sozusagen die besseren Argumente rausarbeiten zu lassen, um dann auf dieser Grundlage diese Entscheidungen zu treffen. Wenn diese Entscheidungen aber Immer nur auf Grundlage der Wirtschaftlichkeit getroffen werden und niemals auf Grundlage von Gesundheit, dem Schutz dieser Menschen im Generellen und so weiter, dann kannst du dir dieses ganze Affentheater auch sparen. Und wo ich gerade Affentheater sagte , habe ich mich gerade gefragt, gibt es schon so einen Account, Hakenran First, wo Dinge, die hier das erste Mal verwendet wurden, dann irgendwie gepostet werden. Ich glaube, wir haben noch nie das Wort Affentheater benutzt.
21:31 Dennis Horn
Da hat sich einer ordentlich ins Affentheater reingeschraubt.
21:36 Gavin Karlmeier
Ich habe auch gestern zu meiner Freundin den Satz verwendet, den ich eigentlich seit meiner Kindheit nicht mehr gehört habe. Der hat ja wohl einen Dachschaden. Das finde ich auch einen ganz tollen Satz.
21:47 Dennis Horn
Ich war gestern, ähm, ich war gestern in einem Radiosender und ähm hab da so eine Führung bekommen. Und dann, ähm gingen wir, wir waren so eine kleine Gruppe, drei Leute, die sich diesen Sender angeguckt haben, dann haben wir denen den Raum verlassen. Eine Kollegin sagte, als sie den Raum verließ zu den Leuten, die da saßen, in die Redaktion, na dann frohes Schaffen. Das ist auch so ein Satz. Und die Tür fiel hinter uns zu und sie sagte so, da hab ich gerade frohes Schaffen gesagt.
22:17 Gavin Karlmeier
Frohes Schaffen. Wie in die Mittagspause kommen mit den Worten mit dem Wort Mahlzeit.
22:22 Dennis Horn
Mahlzeit wird aber auf Werksgeländen ab 9. 30 Uhr morgens gesagt. Dann ist den ganzen Tag Mahlzeit. Wenn die Knopperszeit vorbei ist.
22:31 Gavin Karlmeier
Achso, ich dachte, das kommt darauf an, was für ein Werk das ist, weil, wenn sie vielleicht einfach viele Dinge pürieren, dann ist ja quasi immer Mahlzeit.
22:39 Dennis Horn
Und ich bin mir nicht sicher, wie sich das bei urheberrechtlich geschützten Werken verhält. Naja. So, noch eine TikTok-Geschichte. Hakis Hakis Remember, im August hat sich TikTok mit dem Justizministerium in den USA auf einen Vergleich geeinigt, über 400 Millionen US-Dollar. Da ging es um den Datenschutz von Kindern. 300 Millionen zahlt TikTok sofort, war die Einigung. Und die restlichen 100 Millionen werden nur fällig. Jetzt wird es ein bisschen kompliziert. Wenn das Gericht oder wenn ein Gericht eine alte Auflage für TikTok aus dem Jahr 2019 aufhebt, die stammt noch aus der Zeit von Musicly, das ist Die TikTok vorher mal war. Und damals hatte die FTC, die Aufsichtsbehörde in den USA, 5,7 Millionen US-Dollar Millionen, naja, Strafe verhängst. und vor allem Pflichten für Musically, nämlich Kinderdatenschutz einhalten, Videos von unter 13-Jährigen offline nehmen. Unrechtmäßig gesammelte Daten löschen dies und das. Und da gibt es Berichts und Dokumentationspflichten, die noch laufen bis ins Jahr 2029. Und jetzt hat ein Bundesrichter in Los Angeles vorläufig gesagt, das wird nicht aufgehoben. Weder TikTok noch die Regierung hätten gezeigt, dass diese Pflichten überflüssig geworden seien. Und ihm reicht es nicht, dass das jetzt eigentlich ein neues Unternehmen ist, also neue Eigentümer, neue Compliance-Strukturen und dieser Vergleich. Und man kann das jetzt so lesen, diese ganze Geschichte, The Next Web hat das geschrieben, dass die Regierung 100 Millionen extra rausgehandelt hat. falls sie dann irgendwie die Aufhebung liefert. Oder so, dass TikTok das Ende der Aufsicht 100 Millionen Dollar wert war. Also ungefähr das 17-fache der ursprünglichen Strafe. Und das fand ich. Fand ich bemerkenswert.
24:44 Gavin Karlmeier
Finde ich super interessant. Ich finde auch interessant, dass der Richter offensichtlich sich mit der Thematik auseinandergesetzt hat und gesagt hat, na gut, ihr heißt anders, das Unternehmen gehört wem anders. Aber die Probleme sind dieselben. Und
24:55 Dennis Horn
am Ende der Einzige ist, der in diesem Verfahren noch auf Aufsicht besteht, offenbar.
24:59 Gavin Karlmeier
Ja, ganz genau. Richtig, und nicht einfach nur auf Zahlungen. Ich finde sowieso, dass das so ein Unding geworden ist, dass eigentlich jedes Verfahren gegen Vergleiche eingestellt wird. Jetzt gerade kam kurz vor Aufzeichnung, da hatten wir schon Redaktionsschluss Die Meldung, dass mehrere US-Bundesstaaten rechtlich gegen OpenAI wegen Kinderschutz vorgehen. Und mein erster Gedanke war, ach ja, gut, das ist jetzt die Einnahmequelle, da wird ein milliardenschwerer Vergleich erzielt, und am Ende kann man sich davon neue Schulen kaufen. Aber es löst die Probleme bei den Plattformen und Angebietern halt eben leider überhaupt nicht. Und das passt aber auch zu der Geschichte, die wir in der letzten Folge besprochen haben. Die Folge hieß Wer Anderein, eine Grafik teilt, fällt selbst drauf rein, mit Caroline Schwarz. Und dort ging es nämlich darum. dass es eine Investigativrecherche gibt, wie eng eigentlich TikTok noch mit dem chinesischen Mutterkonzern verzahnt ist oder wie weit eigentlich diese Inhaltliche Trennung der Entitäten durchgeführt wäre, bislang. Warte ein Satz, Alter.
25:55 Dennis Horn
Du kommst denn allerdings durch einige Sätze so schön stolperfrei durch? Ich habe höchsten Respekt.
26:00 Gavin Karlmeier
Ja, das ist, ich habe nicht mit irgendwelchen Tabletten angefangen oder aufgehört. Ich habe keinen Grund
26:05 Dennis Horn
nennen. Letztens auch exekutive, judikative, legislative. Fand ich gut.
26:10 Gavin Karlmeier
So, die Gewaltenteilung ist, ich komme aus dem Ruhrgebiet, da wird Gewalt immer geteilt. Auf jeden Fall Ist diese Trennung dieser unterschiedlichen Entitäten halt eben längst nicht so sehr abgeschlossen, wie man das denkt. Und jetzt könnte man aber ja meinen, dass wenn es eine nähere, eine größere Nähe zum Staat gibt, dass dann auch der Richter denkt: gut, wir haben jetzt hier ein amerikanisches Unternehmen, kein chinesisches, die halten sich mehr an unsere Regeln. Also können wir die Daumenschrauben etwas lockern. Das passiert aber ja offenbar gar nicht, weil es keinerlei Anlass dafür gibt, irgendetwas in diese Richtung zu glauben. Also ich glaube, dieser ganze TikTok-Deal, wir haben das vorhergesagt. Aber der war eine ziemliche Farce. Das können wir festhalten. Auch auf Grundlage dieser Entscheidung, ja.
26:50 Dennis Horn
Told you so, sagen wir.
26:52 Gavin Karlmeier
Ja, wirklich. 100%.
26:55 Dennis Horn
Wir bleiben noch kurz bei TikTok übrigens.
26:58 Gavin Karlmeier
Wir sind wie die Simpsons des Internets. Also, Haken dran haben es schon gemacht. Haken it. Und wir haben es auch vorhergesagt.
27:08 Dennis Horn
Mir fällt auf im Podcast Lanz und Precht, den ich ja regelmäßig höre
27:15 Gavin Karlmeier
Ich erinnere, dass du das schon mal erzählt hast, Dennis.
27:18 Dennis Horn
Und der hat ja zwei Moves. Einmal wie erläuter immer Benennt, schöne Grüße an der Stelle und du denkst immer, die hören den Podcast? Und der andere Move ist, dass er sagt, ich hab neulich gelesen. Und ich habe ja fest den Verdacht, dass das einfach immer nur das Briefing-Material ist, das er von seiner Redaktion bekommt. Und dann sagt er, ich habe das neulich gelesen. Du denkst dann so, Alter, was liest du alles und so weiter. So das liegt einfach gerade vor ihm, weil seine Redaktion ihm das reingereicht hat. Oder
27:47 Gavin Karlmeier
Oder es war einfach in den Exposés zu seiner Talkshow, womit der Satz, ich habe das gelesen, nicht falsch ist, aber auch nicht der Wahrheit entspricht.
27:54 Dennis Horn
Und neulich ist er auch so weit dehnbar, dass niemand weiß, dass das kurz vor der Sendung irgendwie in der Garderobe das nochmal überflogen hat. Das ist großartig. Das muss man so machen.
28:05 Gavin Karlmeier
Ja, das ist gut, das machen wir jetzt auch so.
28:07 Dennis Horn
Ich habe neulich bei Forbes gelesen: die These TikTok hat im vergangenen Herbst still und leise seine Werberegeln entkernt. Und seitdem explodieren die Betrugsanzeigen. Es gibt interne Dokumente und vier Insider, die laut Forbes davon sprechen, dass Anfang November 2025 die Liste der Verstöße, die zu einer direkten Sperre , Von Werbekunden führen, von 37 Punkten auf 13 zusammengestrichen wurde. Da ist unter anderem rausgeflogen, der Betrug durch Nichtlieferungen, also Ware bezahlt, nie bekommen. Aber auch Waffen, unseriöse Finanzprodukte, Wundermittel zum Abnehmen, also gefälschte Abnehmenspritzen oder Inhalte, die Essstörungen verherrlichen. Also die Masche dahinter ist einfach. Du hast eine Anzeige, die sich irgendwie als bekannte Marke ausgibt und man landet dann auf so einer professionell aussehenden Shop-Seite, bezahlt, aber es kommt nichts. Und Forbes erzählt das am Beispiel, schön personalisiert, einer Creatorin, die mehr als drei Millionen Follower hat. die genauso reingefallen ist und den Link vorher auch noch ihren ganzen Followern empfohlen hatte. Und Forbes hat außerdem tausende Beschwerden ausgewertet. Im halben Jahr nach der Änderung sind die Betrugsmeldungen um neunundfünfzig Prozent. Gestiegen insgesamt, die mit TikTok-Bezug um 142% und die zur Nichtlieferung um mehr als 200%. Und laut diesen Daten durften täglich mehr als 100. 000 neue Werbekunden aktiv bleiben, die früher sofort gesperrt worden wären. So, und das wurde intern Als Umsatzmaßnahme verstanden. Also einer sagt irgendwie sinngemäß, wir durften das nicht runternehmen, weil damit Geld verdient werden sollte. Und wer dann im Unternehmen irgendwie Alarm geschlagen hat, dem wurde gesagt, ja, kümmern dich dann in der Zeit lieber um neue Einnahmequellen. Und ich fand das. Fantaskas, weil wir also wir haben ja beim Meta auch schon über diesen Move geredet. Aber da war das sozusagen eher so ein Also, es ist wie der Unterschied zwischen Opt-out und Opt-in, weißt du? Also da war das eher so, dass die gesagt haben , wir kümmern uns, also passivverhalten haben dazu, wir kümmern uns nicht darum. Weil das geldmäßig so gut läuft. Und nur wenn wir müssen oder so. Und hier ist aber das sogar noch schlimmer, weil das aktiv gemacht wird. Wir streichen es sogar noch zusammen, damit es mehr wird. Das fand ich krass.
30:42 Gavin Karlmeier
Ja, das ist super krass. Aber TikTok wäre ja auch schön blöd, wenn sie sich denken, also Meta kommt damit durch seit Jahren. Niemand macht da irgendetwas gegen und wir halten uns hier an Regeln, wie die Idioten. Also das ist so ein bisschen so wie du stellst dich in eine Schlange links. Und rechts laufen alle an dieser Schlange vorbei und du denkst dir, warum stehe ich in dieser Schlange? Ich kann, also man kann das auf einer , wenn man kurz sich von der eigenen Menschlichkeit entkoppelt, verstehen. Aber sofern du noch einen letzten Funkenanstand in dir hast, ist das trotzdem nicht vertretbar.
31:14 Dennis Horn
Ja, ja, also was du sagst, das hat natürlich aus einer, also wenn du den Umsatz hochhängst, eine innere Logik.
31:21 Gavin Karlmeier
Ja, klar.
31:22 Dennis Horn
Aber es darf nicht sein.
31:24 Gavin Karlmeier
Ja. Aber ein Pulli, der sonst 165 US-Dollar kostet für 2 Dollar 14 Dollar, das würde ich schon auch nehmen. Meinst du, ich soll das sicherheitshalber mal bestellen?
31:34 Dennis Horn
Mach mal. Mach mal, 2,40 Dollar sind für eine Recherche für diesen Podcast jetzt nicht sehr viel.
31:39 Gavin Karlmeier
Das wäre nicht die teuerste Recherche, die Hackmann bisher produziert hat, sage ich mal.
31:44 Dennis Horn
TikTok nennt das. Falsche Anschuldigungen übrigens und sagt, man verbiete betrügerische Werbung strikt. Und dann hat Forbes gefragt, warum wurden denn die Regeln geändert? Und wie viel Geld wird denn mit Scam-Anzeigen verdient? Und darauf gab es keine Antwort.
32:00 Gavin Karlmeier
Na, TikTok ist, ach, ich muss weg.
32:03 Dennis Horn
Genau. Mario TikTok Ohofen. Wir wechseln zu KI.
32:12 Gavin Karlmeier
Wollen wir vorher noch kurz über das sorry, ich will deine Dramaturgie gar nicht sprechen.
32:16 Dennis Horn
Ich habe gar keine Dramaturgie, ich habe nur eine Liste, aber
32:19 Gavin Karlmeier
wollen wir kurz über das Social Media Verbot sprechen?
32:21 Dennis Horn
Ja, absolut. Social Media ist ein Lieblingsthema, oder? Endlich mal, ich habe auch gedacht, wenn wir in diesem Podcast mal über ein Thema sprechen sollten, dann vielleicht über Social Media Verbot. Das
32:31 Gavin Karlmeier
finde ich auch gut. Unbetrügerische Werbung. Das sind beides Dinge, die kommen eigentlich zu kurz bei Haken.
32:36 Dennis Horn
Also, Deutschland macht jetzt auch einen Schritt. Das Bundeskabinett hat am Mittwoch ein Eckpunktepapier, wie wir in der politischen Berichterstattung sagen, zum Kinder und Jugendmedienschutz beschlossen.
32:50 Gavin Karlmeier
Das ist ein bemerkenswerter Vorgang.
32:52 Dennis Horn
Ein bemerkenswerter Vorgang. Zwölf Einzelvorhaben aus dem Haus Von Familienministerin Karin Prien. So, und der Kern ist. Grüße gehen raus an dieser Stelle. Ich habe neulich diese Eckpunkte mal gelesen. Eine nationale Altersgrenze von 13 Jahren Für Plattformen wie TikTok, Snapchat oder Instagram ausgenommen sein sollen nur nachweislich kindgerechte Angebote. Und für Jugendliche zwischen 13 und 18 oder von 13 bis 17 einschließlich sind abgestufte Einschränkungen geplant und dazu kommen Mini-Konten Das ist so ein bisschen wie das, was die EU-Kommission im Kids Act auch sagt. Die kann von den Eltern eingerichtet und beaufsichtigt werden mit begrenzten Funktionen und höchstens einer Stunde Nutzung am Tag. Und es gibt das KI Seepferdchen, ein einheitliches Schulungsangebot für Grundschulkinder, damit sie KI-Anwendungen erkennen und einschätzen können. Und dann soll noch vor Jahresende, was ja jetzt recht fix ist, bei Action ist schon Weihnachten, eine Kampagne starten, zuerst für Eltern von Kindern im Vorschulalter. Und bei den Vorsorgeuntersuchungen, also die U10 und die J1, sollen die Gesundheitsrisiken von Medienkonsum ein Schwerpunkt werden. So. Jetzt das Kleingedruckte.
34:20 Gavin Karlmeier
Sollen wir vorher mal kurz über das große Ganze? Ja, ganz kurz, aber das gehört dazu.
34:25 Dennis Horn
Das ist kein Gesetzentwurf, sondern eine Absichtserklärung.
34:29 Gavin Karlmeier
Ein sogenanntes Eckpunktepapier.
34:31 Dennis Horn
Ein Eckpunktepapier. So, aber jetzt können wir über das große Ganze sprechen.
34:35 Gavin Karlmeier
Also erstmal interessant, dass Karin Prim jetzt doch noch ganz schnell nachlegt und das verargumentiert mit die EU braucht noch ein bisschen. Während die EU schneller alle möglichen Papiere, Ergebnisse, Vorhaben veröffentlicht hat, als ihr Ministerium das geschafft hat. Das finde ich erstmal wertneutral interessant. Vorsichtig formuliert. Ich finde, dass dieser Begriff nachweislich kindgerecht, dass wir darüber super viel diskutieren werden müssen. Weil was ist denn Togo. de? Wenn ich einen Radiosender habe, wo alle einmal die Stunde sieben bis zwölf Minuten Werbung für Spielzeug läuft, ist das kindgerecht? Oder ist das. möglicherweise ein so derart durchverkapitalisiertes Medienprodukt, dass ich das vielleicht nicht als kindgerecht erachte. Also ich glaube, auch darüber wird zu sprechen sein, wie dein großes Idol Markus Lanz immer sagt. Und dann würde ich noch nachschieben, dass das natürlich Am Ende eine absolute, ich will es jetzt nicht zu dramatisch formulieren, aber es fühlt sich schon an wie eine ziemliche Verschleierungsstrategie, dass man hier so kleinteilig und so großspurig gleichzeitig auftritt. Kleinteilig und großspurig. Toll. Ähm Auftritt. Um am Ende zu sagen, also damit macht man das Internet für 80 Prozent der Menschen, schätze ich jetzt. Es ist jetzt eine Bauchstudie, ungefähr so valide wie die Zahl, die wir in der letzten Episode hatten. Eine Bauchstudie. das Internet schwieriger. Also man hemmt den Zugang zu Internetprodukten, digitalen Produkten für das soziale Web. Weil am Ende bedeutet ja, alle über 18 müssen sich erstmal ausweisen. Da werden wir jetzt gleich wahrscheinlich nochmal ein bisschen genauer drüber sprechen, schätze ich.
36:12 Dennis Horn
Ja , denn die Frage ist ja, wie prüft man das Alter überhaupt? Golem schreibt, das soll über die geplante staatliche Wallet laufen. Du! Die Anfang 2027 starten soll. Also mit Identifizierung über den elektronischen Personalausweis. Oder nicht also, aber mit Identifizierung über den elektronischen Personalausweis. Die Statistiken übrigens dazu habe ich neulich nochmal gelesen. Die Online-Funktion des Personalausweises ist bei nur 44% der Leute überhaupt einsatzbereit? Genutzt haben sie 29% bisher. Und es gibt einen online-nutzbaren Ausweis erst ab 16, also müssten am Ende die Eltern freischalten.
37:00 Gavin Karlmeier
Hast du diese Funktion aktiviert bei deinem Personal?
37:02 Dennis Horn
Ich habe die Funktion aktiviert.
37:04 Gavin Karlmeier
Hast du sie auch schon genutzt?
37:05 Dennis Horn
Ich nutze sie, also ich habe sie jetzt tatsächlich, ich nutze sie regelmäßig. Weil ich immer mal wieder, äh, da wo gerade gute Zinsen sind, ein neues Tagesgeldkonto eröffne. So, und das, äh, ja, und das kannst du ja, ähm, kannst du ja an mit der E-ID irgendwie aktivieren und dich dann identifizieren. Ich musste aber jetzt kürzlich, jetzt erzähle ich auch mal Nachdem ich meine Festanstellung gekündigt habe, habe ich mich arbeitslos gemeldet. Und dann kommt ja hier Agentur für Arbeit und so weiter. Und dieser ganze Prozess ist auch, wenn du dich da einloggst, ähm Mit dem Personalausweis. Also habe ich regelmäßig genutzt, irgendwie jeden zweiten Tag oder so. Es ist die Hölle. Es ist wirklich die Hölle. Es ist unfassbar. Du musst irgendwie jedes Mal beim Einloggen 15 Mal klicken. Das ist aber gut, hier geht es ja nur um einmal identifizieren.
38:02 Gavin Karlmeier
Ich muss jetzt ganz kleinteilig diese Geschichte rückwärts zurück aufdröseln, bevor wir wieder zum Social Media Verbot zurückkommen.
38:08 Dennis Horn
Absolut.
38:08 Gavin Karlmeier
Als ich mich damals nach meiner Ausbildung arbeitssuchend gemeldet habe. musste ich vor Ort erscheinen. And also, was du da an Menschenverachtung erlebst, von Menschen, die auch gar nichts mit dir zu tun haben, die Sicherheitskraft. Ich sage, hallo, würde mich gerne Arbeitsdruck melden, wo würde ich gerne hin? Sagt die Sicherheitskraft, herzlichen Glückwunsch. Das war der Prozess, den ich da erlebt habe. Und das ist jetzt auch wirklich lange, lange her. Und ich fürchte, das ist nicht viel besser geworden. Deswegen lieber 30 Klicks, als mit Menschen zu tun haben, die sich Die null Empathie für deine Situation haben.
38:40 Dennis Horn
Naja, du hast ja das Gefühl, wenn du da gegenüber sitzt, irgendwie wird dir erstmal immer grundsätzlich was unterstellt.
38:46 Gavin Karlmeier
Genau, du bist schuld und mit der Schmarotzeit.
38:48 Dennis Horn
Du bist schuld, du bist hier vermutlich betrügst du. Und du machst auch dauernd irgendwas falsch. Also du wirst dieses Formular natürlich auch nicht richtig ausfüllen.
38:58 Gavin Karlmeier
Ich finde es schön, wenn wir hier so.
39:02 Dennis Horn
Das ist ja so.
39:04 Gavin Karlmeier
Ich finde dich bemerkenswert, dass du etliche Konten eröffnest. Bist du auch ein Typ, der einmal im Jahr den Strom neu anmeldet, um einen besseren. . Boah, Dennis, du bist der strukturierteste Mensch, den ich kenne. Und empfiehlst du dich dann weiter mit den Konten, damit du da noch irgendwie die 10 Euro raushandelst?
39:20 Dennis Horn
Nee.
39:21 Gavin Karlmeier
Ja, da lässt du aber Geld liegen schon.
39:23 Dennis Horn
Ja, das ist für mich ein Trade-off wie bei TikTok mit dem Betrug. wenn ich in der Zeit woanders Geld verdienen könnte und das ist dann zu wenig.
39:33 Gavin Karlmeier
Ich freue mich auf den Verbraucherschutz-Podcast mit Dennis. Vergleich drin. Das Kontoupdate. Vielleicht findet man, glaube ich, gut Werbepartner für. So, und dann. Und dann zu diesem D-Wallet und zur Funktion. Also ich hatte das bei meinem letzten Ausweis deaktiviert, weil es, wenn ich mich recht erinnere, da noch opt-in war. Habe jetzt in diesem Jahr einen neuen Personalausweis beantragt, bei dem es opt-out ist und habe diese Funktion nun, habe sie noch nicht benutzt. Das heißt, ich bin damit aber trotzdem die Minderheit, weil 44% überhaupt nur diese Funktion eingeschaltet haben. Jetzt starten wir nächstes Jahr mit diesem Social Media Verbot. Wir starten nächstes Jahr mit dieser Verifikation, wir starten mit der DU Wallet und wir haben de facto damit 66% der Menschen erstmal pauschal ausgesperrt. Das ist die Realität. Und da kannst du schon ganz Danke. X-Achse.
40:27 Dennis Horn
Die 66 liegt auf der Z-Achse. Die du übergeben im Dreidimensionalen. Hast du auch eine Z-Achse?
40:32 Gavin Karlmeier
Ja, die kenne ich. Die kenne ich, die habe ich in meiner mit zwei Punkten abgeschlossenen mündlichen Mathe-Abiturprüfung damals berührt. Was ich sagen möchte, die Verifikation ist der Preis für dieses Verbot, das am Ende also niemandem wirklich hier an dem Punkt helfen wird, sondern erstmal viel Schaden anrichtet und dann andere die Leute, die jungen Leute vor allem In die Hände anderer Netzwerke stromern lässt, in denen sie halt die nicht reguliert sind. Ich will jetzt hier keine Grundsatzdebatte zum Social Media Verbot aufmachen, aber
41:06 Dennis Horn
warum nicht?
41:08 Gavin Karlmeier
Ich habe das Gefühl, dass man keine
41:09 Dennis Horn
hier. Aber mein Gefühl ist auch, wie du sagst: Also, erstmal, diese 13 Jahre stehen ja sowieso in den Nutzungsbedingungen fast aller Plattformen. Neu wäre jetzt vielleicht, dass das eine unabhängige Stelle kontrolliert, aber dafür braucht es eine Wallet, die es noch nicht gibt, mit einem Ausweis, den Kinder nicht haben. Und er wird sie benutzen. Vielleicht ist das KI-Seepferdchen der realistischste Teil dieses Pakets.
41:34 Gavin Karlmeier
Ich würde mich übrigens bewerben. Ich würde das gerne, ich würde das gerne ausstellen, das KI-Seepferdchen. Wenn ich mich daran erinnere, wie motiviert PolizistInnen waren, die damals den Fahrradführerschein bei uns in der Schule gemacht haben, glaube ich, dass das Leute bräuchte, die dieses KI-See-Pferdchen dann auch tatsächlich emotional gut finden und wichtig und richtig.
41:53 Dennis Horn
So. Wer das KI-See-Pärchen schon hat, ist das Oversight Board. Also das ist das Von alle einzelnen haben dort das KIC-Pärtchen schon gemacht. Das ist das Aufsichtsmusik vor Tom Allison. Das
42:10 Gavin Karlmeier
war die Eignungsprüfung beim Betriebsarzt.
42:14 Dennis Horn
Also, das Oversight Wort ist der von Meta finanzierte und formal unabhängige Plattformenaufsichtsrat, der so über Moderationsentscheidungen bei Facebook und Instagram urteilt. So, wir haben oft schon darüber gesprochen. Und dieses Board hat jetzt einen offenen Brief. Verfasst an die KI-Branche und an die Politik. Und der Tenor ist so: ja, KI braucht eine unabhängige Aufsicht, aber man muss diese Aufsicht richtig bauen. Und der Hintergrund ist, dass in den vergangenen Wochen sich mehrere Chefs dieser Unternehmen, ähm, Dario Amodai von Anthropic unter anderem, für eine unabhängige Prüfung und Aufsicht ausgesprochen. Hatten, aber eben offen ist, wie genau die aussehen soll und jetzt bietet. Und ich habe mir nicht darüber gehört. War das nicht auch das Orakel von Selfie, das das in diesem Podcast vorhergesagt hat? Das Oversight-Board bietet seine Erfahrung an. Sechs Jahre, 273 Entscheidungen, 364 Empfehlungen und es formuliert Grundprinzipien auch schon. Öffentlich arbeiten und Entscheidungen begründen, internationale Menschenrechte als Maßstab, Fachleute aus vielen Disziplinen, finanzielle und strukturelle Unabhängigkeit, ein klares Mandat mit echten Befugnissen und am besten branchenweit statt nur für ein einzelnes Unternehmen.
43:32 Gavin Karlmeier
KI braucht eine unabhängige Aufsicht, sagt das Oversight Board, dass zu 100% von Meta finanziert wird.
43:38 Dennis Horn
Ja, warte, da kommt jetzt Selbstkritik zwischen den Zeilen, nämlich auch raus, in diesem offenen Brief. Das Oversight Board schreibt Dass sein Mandat so eng gefasst war, dass es zentrale Fragen gar nicht anfassen durfte. Fragen der algorithmischen Verstärkung, zum Beispiel, der Monetarisierung, Probleme mit Accounts. Und dass es in seiner Existenz und Relevanz von Meta abhängt. Also es spricht diese Dinge wenigstens selbst aus Nämlich, dass es im Grunde ein Experiment mit angezogener Handbremse war und man das ja beim nächsten Mal besser machen könnte. Also, ich habe den Brief neulich gelesen. Ich fand ihn gar nicht so schlecht, aber man kann ihn natürlich auch als das lesen, was er irgendwie ist, nämlich Bewerbungsschreiben. So
44:25 Gavin Karlmeier
Und wir wissen, dass die Finanzierung vom Oversight Board nicht permanent gesichert, sondern ich glaube, sie läuft 2027 aus. Jetzt muss ich das auch. Es ging schon ordentlich zurück und Meta hat das auch immer wieder in Frage gestellt, weil das Oversight Board natürlich Entscheidungen trifft, die Meta jetzt nicht immer so gut heißt, weil sie halt Entscheidungen des Unternehmens zurückgepfiffen haben. Das heißt, sie könnten sich durch. aus jetzt überlegen, ob sie mit diesem Schreiben sich hier nicht neu aufstellen, um aus diesen Fängen von Meta rauszukommen und zu sagen. Wir waren kein gutes Vorbild, wir wurden von Meta finanziert, aber man könnte es ja anders machen. Übrigens können wir das extrem gut. Das ist ja der Tenor dieses Schreibens. Und ich finde es gut. Also ich finde die Überlegung zu sagen, diese Leute, die du jetzt von Meta löst, die ja de facto eigentlich unabhängige Menschen sind, die aber nicht so unabhängig arbeiten konnten. Baust du als tatsächlich unabhängige Entität auf und finanzierst sie auch irgendwie So dass eben nicht das Geld 100% von Meta kommt. Das halte ich für eine sehr richtige Entscheidung und das kommt der Idee des Plattformrates näher als alles, was wir bisher hatten.
45:38 Dennis Horn
Ja, genau das. Und ich habe noch so diesen Gedanken, wenn man das jetzt nicht macht, weil es gibt ja, also Es gibt ja nichts, was so nah in diese Richtung kommt. Wenn man das jetzt ablehnt, so auf diesem Brief, also wenn man es nicht macht, ist es eine Ablehnung. Nach diesem Brief. Und dann ist das wie eine bewusste Entscheidung gegen eine Lösung, die aus meiner Sicht safe enough to try ist.
46:04 Gavin Karlmeier
Ja. Man muss natürlich trotzdem, sorry, man muss natürlich, irgendwie habe ich mich jetzt verschluckt. Man muss natürlich trotzdem erstmal darauf schauen, wie unabhängig diese Entscheidungen tatsächlich von Meta getroffen werden. Aber ja, das wäre natürlich eine gute, gute Entscheidung.
46:23 Dennis Horn
Ähm, übrigens, äh OpenAI Konferenzraum in San Francisco beim Unternehmen, in dem regelmäßig vertrauliches Vertrauliches besprochen wird Forschung, Produktpläne, Partnerschaften. Da wurde Ende September ein Aufnahmegerät gefunden.
46:47 Gavin Karlmeier
Was?
46:48 Dennis Horn
Ja. Da gibt es Ermittler, die sagen, das war zwei Tage vorher erst dort platziert worden. Und es steckte in der USB-Buchse eines Fernsehers, eingewickelt in Toilettenpapier.
46:59 Gavin Karlmeier
Das halte ich für die, also wie waren es nicht? Das waren keine Profis. Weil wenn du in den USB-Buchse eines Fernsehers in einem Konferenzraum etwas stecken würdest, würde niemandem auffallen.
47:10 Dennis Horn
Vor allem. . Toilettenpapier ist ja weiß im Gegensatz zum ganzen Rest der Technik. Wie dumm ist das?
47:16 Gavin Karlmeier
Das ist nicht besonders geschickt.
47:19 Dennis Horn
So, jetzt ist ein 35-jähriger Ingenieur festgenommen worden, saudischer Staatsbürger, seit Juli vergangenen Jahres bei OpenAI. Und ihn hatten es gab noch weitere Überwachungstechnik, aber die ist von OpenAI selbst, nämlich die Sicherheitskameras, in der Nähe des Raums gefilmt, zu dem er eigentlich keinen Zutritt hatte. Und die haben dann sogar ein Bild veröffentlicht, auf dem er zu sehen ist, wie er versucht hatte, hinter den Fernseher zu schauen. Open Air hat ihn jetzt entlassen. Und es läuft ein Prozess oder Ermittlungen und dann soll es einen geben und bei einer Verurteilung drohen bis zu fünf Jahre Haft und bis zu 250. 000 Dollar ähm Strafe und das Justizministerium in den USA sagt, dass über den Chatbot Account seiner Ehefrau Fragen zu Aufnahmegeräten gestellt wurden. Mit Merkmalen genau aus dem Gerät, aus dem Konferenzraum. Und er selbst soll auch ein anderes Tool noch befragt haben nach Besprechungen. Und Terminen der Chefetage. Und OpenAI sagt: man hat die eigenen Modelle dann noch benutzt, um das Gerät zu analysieren und herauszufinden, wer es platziert hat. Direkt noch ein bisschen Werbung rein.
48:40 Gavin Karlmeier
Ja, direkt natürlich. Das ist aber auch der klassische Move, daraus Marketingkapital zu schlagen. Ich finde die Geschichte unter ganz vielen Punkten bemerkenswert. Erstmal, ich finde. Erstmal seltsam, dass die Überwachungskamera in der Lage ist, ein Foto von jemandem, der hinter einen Fernseher schaut, aufzunehmen. Also, das ist eine bemerkenswerte Positionierung einer Überwachungskamera. Das Bild hat übrigens Meme-Potenzial, muss man sagen, weil er guckt wirklich sehr Es ist so ein bisschen wie du guckst, wenn du geblitzt wirst, was du nicht wirst, weil es kostet Geld und wir wissen, du bist ein sparsamer und strukturierter Typ. Aber ich wurde in meinem Leben schon mal geblitzt. Weil da keine Schilder waren, ich habe Einspruch eingelegt und so. Natürlich, ich habe kein Unrecht begangen. Aber das Bild hat nie ein Potenzial. Zweitens finde ich die Formulierung: The employee was terminated. Auch wenn sie sprachlich korrekt ist, für ein Unternehmen, bei dem ein früherer Whistleblower durch einen angeblichen Suizid ums Leben gekommen ist, maximal unglücklich. Also ich glaube, das hätte man auch ein bisschen schlauer formulieren können, wenn man ein bisschen, ich sag mal. Feingefühl gehabt hätte für so eine Situation. Weil klar, wenn da jemand ist, der dich ausspioniert, warum auch immer er das tut, übrigens, können wir gleich auch vielleicht noch eine, habe ich auch eine Theorie zu. dann musst du dich von dem trennen, aber ob du da so eine relativ rigide Wortwahl wählen musst, Weiß ich nicht. So, und dann finde ich interessant, ich habe neulich, wir sind ja freundschaftlich verbunden mit dem Doppelgänger-Podcast. Liebe Grüße an die beiden. Und da hat Pip Klöckner neulich die Theorie aufgestellt. Da ging es nämlich um Menschen, die Daten an ForscherInnen durchgestochen haben, die auch bei OpenAI mitarbeiteten. Ich weiß gar nicht, ob wir das hier berichtet haben, aber sei es drum. Und Pip hat die Theorie aufgestellt, dass das nicht immer die Motivation sein muss, deinem Unternehmen zu schaden oder selber einen wirtschaftlichen Vorteil zu erzielen, sondern wenn du in dich auf dieses Gedankenspiel einlässt, dass da Menschen arbeiten, die tatsächlich Angst vor ihrer Technologie haben, die einen hohen P-Doom-Wert haben, wie uns Georg Schmalzfried hier erklärt hat. Also Menschen, die davon ausgehen, unsere Technologie wird zu krass und wir machen selber zu wenig dagegen und es gibt keine Regulierung. Dass du dann auch zu Mitteln greifst, um Dinge zu dokumentieren, die sozusagen möglicherweise später in einem Prozess oder irgendwann von Bedeutung sein könnten.
50:58 Dennis Horn
Nee, oder um es so auszudrücken, dass du einfach die Schritte eines Whistleblowers gehst.
51:01 Gavin Karlmeier
Exakt. Du ergreifst selber Justiz, um dir Hilfe zu beschaffen, die du woanders nicht kriegst. Ich will den hier nicht in Schutz nehmen, um Gottes Willen. Vielleicht hat er das auch alles gemacht, um jemand anderem das Geld zu geben oder so. Vielleicht war das auch jemand, der aus dem Apple Prozess, den wir hier schon länger nicht mehr reportiert haben, aber bald mal wieder machen müssen, da einfach Daten gesammelt hat. Weiß man alles nicht. Aber zumindest diese Lesart, wenn du dich auf dieses Gedankenspiel einlässt, die würde ich gerne mal anbieten hier.
51:31 Dennis Horn
Und wo wir bei Anthropic sind, wollen wir ein paar Nachhaks einschieben, die wir noch auf der Liste haben?
51:38 Gavin Karlmeier
Ähm, ja. Gerne.
51:44 Dennis Horn
Das Jingle nicht aufliegen, die Nachhaks nicht parat.
51:46 Gavin Karlmeier
Es gibt auch keinen Nachhaken, wir brauchen eine Nachhack-Jingle, damit ich Zeit habe, da hinzuscrollen.
51:50 Dennis Horn
Ja, das stimmt. Und das muss lang genug sein, damit. Damit du es drin kannst.
51:54 Gavin Karlmeier
So 3 Minuten 30 Aufzugsmusik.
51:57 Dennis Horn
Ja, sehr gut.
51:58 Gavin Karlmeier
Die kann auch dann durchlaufen beim Nachhak. Um das nachher zu beklammern. Also falls ihr Lust habt, uns Musik zu bauen, tut super viel zu tun heute für die Hackis, sorry. Was wolltest du mit mir machen?
52:15 Dennis Horn
Enthropic gegen das Pentagon
52:17 Gavin Karlmeier
Ach so, da bist du. Ich dachte, du bist nämlich in New York, weil da kommen wir jetzt gleich auch nochmal hin. Ja, da kommen
52:23 Dennis Horn
wir auch nochmal hin. Aber ich dachte, wir hätten jetzt nachher Klammer gemacht.
52:26 Gavin Karlmeier
Die Pentagon-Geschichte ist schon ein bisschen älter, aber der Vollständigkeit halber sei mal dazugesetzt. Das Pentagon, also das Verteidigungsministerium der USA , hat ja Anthropic als Lieferkettenrisiko, Supply Chain Risk eingestuft, weil sie sich nicht Kurzfassung an vertragliche Bedingungen halten wollten, die die Regierung ihnen auferlegen wollte. Dazu gehört zur Überwachung von US-AmerikanerInnen und auch möglicherweise die Entwicklung von Waffen. Dann hat Anthropic vor Gericht erstens eine einzweilige Verfügung erwirkt, um diese Entscheidung zurückzunehmen, dass sie eben nicht direkt als lieferketten Risiko bis zum Ende eines solchen. . Prozesses gelten. Und jetzt wird dieser Rechtsstreit läuft weiter. Die Regierung hat aber diese einzigeweilige Verfügung in einem zweiten Prozess wieder zurück abwickeln lassen, sodass der Prozess jetzt wieder läuft, aber in Throppic erstmal wieder als Lieferkettenrisiko gilt. Was deswegen interessant ist, weil bekannt ist, dass ja in kriegerischen Einsätzen der US-Regierung durchaus weiterhin mit Anthropic gearbeitet wird, obwohl sie als Lieferkettenrisiko gelten. Aber dass die US-Regierung bigott ist, ist jetzt glaube ich nicht die Breaking News für alle hier an der Stelle. So, dann bleiben wir ganz kurz im Nachhag in der KI-Welt. Und zwar haben wir darüber gesprochen, dass seit New York City eine Anhörung Wie sagt man, abgehalten hat, bei der KI-Unternehmen sich eben ein bisschen dazu äußern sollten, was sie treffen, um zum Beispiel Sicherheitsmaßnahmen zu ergreifen. Nicht nur für Kinder und Jugendliche, sondern eigentlich für Die gesamte Gesellschaft, die Frage, ob ein Kill-Switch überhaupt möglich wäre, wie ihn Gavin Newsom zum Beispiel ins Gespräch gebracht hat. Also die Möglichkeit, per Knopfdruck diese Technologie auszuschalten. Und so weiter. Dieser Prozess lief, übrigens wurde auch Jacob Coxon, der Whistleblower von Anthropic, dort angehört, der gesagt hat, oder Whistleblower ist falsch, der hat das Unternehmen verlassen und hat gesagt, bis 2030 gibt es keine Menschen mehr. Oder wie du Franzi Blum zitiert hast, dass die Wahrscheinlichkeit. . Wie ist der Satz?
54:20 Dennis Horn
Die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, liegt zwischen 0 und 100 Prozent.
54:25 Gavin Karlmeier
Ja, das ist ein sehr guter Satz. So, und dann hatten wir da nämlich auch drüber berichtet, bemerkenswerterweise, dass eines dieser KI-Unternehmen, die vorgeladen waren, spontan, also die wurden nachträglich hinzugefügt, SpaceX SIAI Test. Tesla SpaceX X von Elon Musk gewesen ist. Und sorry, aber ich das ist doch absurd, diese Namensgebung da. Und dass SpaceX aber bei dieser Anhörung nicht teilgenommen hat, aber angekündigt hat in einem Schreiben, man wolle mit der Stadt zwar zusammenarbeiten, aber man werde nicht an dieser Anhörung teilnehmen. Die Stadt hat deswegen jetzt rechtliche Schritte eingeleitet. Open AI hat aber dem Stadtrat empfohlen, Schutzmaßnahmen zu ergreifen. So, also nach dem Motto, kümmert euch mal bitte, liebe Ja. So, und dann ein Nachhak und dann schließen wir quasi, schließen den Kreis zu Facebook. Denn Facebook, wie Press Geset meldet, sind Nachrichtenverlage von der Ankündigung Facebooks, dass Links möglicherweise kostenpflichtig werden könnten und nur noch mit einem Meter. One-Abo gepostet werden könnten, erstmal ausgenommen. Das heißt, wenn du ein Newspublisher bist, kannst du auch weiterhin mehr als zwei Links im Monat veröffentlichen, ohne dafür bezahlen zu müssen.
55:37 Dennis Horn
Gut. Das virtuelle Musikstück im Hintergrund aus dem Aufzug stellt ihr euch vor, dass es jetzt langsam ausklingt. Wir sind zurück in der Welt der Aktualität. OpenAI.
55:56 Gavin Karlmeier
Okay, ja.
55:57 Dennis Horn
Ja? Möchtest du woanders hin?
55:59 Gavin Karlmeier
Nein, nein, bitte. Bitte.
56:01 Dennis Horn
Sorry, dass ich schon so. . Also OpenAI beschäftigt Hunderte externe Contractors, nennt man die, die echte Chat-GPT-Anfragen lesen. Oft ganze Gesprächsverläufe. Das berichtet 44 Media. Das wurde öffentlich gemacht, Mitte September schon. Das nennt sich Project Lily. Und diese Contractor fassen zusammen, was Personen eigentlich wollten. Also, was war deren Absicht für diesen Chat? Und bewerten dann die verschiedenen Antworten, die ChatGPT gegeben hat, auf einer Skala von 1 bis 7. Und was man damit wollte, ist unter anderem. Ähm, ChatGPT sollte weniger anbieten sein, sollte sich weniger so überzogen menschlich zeigen. Und V4 Media schreibt, dass die Contractor dabei keine Nutzernamen sehen, da läuft wohl ein Datenschutzfilter drüber, aber OpenAI räumt ein. dass sensible Details durchrutschen können. Dann sozusagen in den Sprechblasen. Oops, laut also Media sagt diese Contractor sehen sogar eine Zusammenfassung der gespeicherten Erinnerungen. Erinnerungen. Und da sind dann auch Hinweise drin, zum Beispiel auf den ungefähren Wohnort oder so. Ungefähr mögen wir ja hier, ungefähres Geburtsjahr, ungefährer Wohnort. Naja. Und bezahlt werden die Leute über Dienstleister, diese Contractor. Wo es dann mehr als 50 Dollar die Stunde gibt. Inzwischen gibt es in Kalifornien eine Sammelklage, weil NutzerInnen nicht klar genug darüber informiert worden seien, dass Menschen ihre Chats lesen können. So, das ist kein Spezialproblem irgendwie für OpenAI. Also Anthropic sagt, wir setzen ebenfalls menschliche Prüfer ein zur Verbesserung der Modelle. Bei Gemini von Google ist es ähnlich, also das ist branchenüblich durchaus. Aber neu ist eben. Mit diesem Bericht, wie konkret das dokumentiert ist.
58:15 Gavin Karlmeier
Ja, und um das übrigens nachzuschieben an der Stelle, kleine Meldung, dass auch Apple das erwägt. Was super interessant ist, weil Apple das Unternehmen ist, das immer voll auf Privacy gegangen ist. Und auch sie wollen jetzt Nutzer. Daten aus Seriegesprächen verwenden.
58:29 Dennis Horn
Genau, also es gibt das Datenschutzversprechen von Apple, da war jahrelang, also so kurz gesagt, eure persönlichen Daten fließen nie ins Training unserer Modelle. Und Heise hat jetzt entdeckt das Mutterschiff hat jetzt entdeckt, dieser Punkt ist weg. Also es gibt Leitlinien zu verantwortungsvoller KI, KI von Apple. Da steht hinter dem Satz jetzt der Zusatz außer Sie entscheiden sich explizit dafür, bei deren Verbesserung zu helfen.
58:57 Gavin Karlmeier
Aber um zu der Project Lilly Geschichte zu kommen, also ich glaube, no one is surprised. Ich glaube, das ist ja, also natürlich ist es jedes Mal, wenn man darüber spricht, jedes Mal ernüchternd und man wird dann jedes Mal damit konfrontiert, dass das passiert. Aber das Alles, was du in eine KI eingibst, dann irgendwo auch landet, das dann möglicherweise auch von Menschen eingesehen werden kann, das muss man leider mittlerweile komplett erwarten. Ich meine, wir haben darüber gesprochen. Dass es Annotoren, hießen die so? Annotoren gibt, die ja selbst das Bildmaterial, das Menschen auch versehentlich mit ihren Metabrillen produziert haben, bewerten, benennen, kategorisieren. Dann ist das auf Textebene, ist es so simpel, und dass es diese menschliche Einstufung von Inhalten und Bewertung von Ergebnissen im KI-Training ja durchaus seit Jahren schon gibt, ist auch nichts Neues. Ich finde die Geschichte nicht so doll überraschend, was kein Grund ist, nicht trotzdem darüber zu sprechen, aber es ist leider es ist so eine Geschichte, wo man sich denkt, ja, klar. Was ja sonst.
59:59 Dennis Horn
Und man muss vielleicht das Gute darin sehen, es gibt doch noch Jobs für Menschen. Nicht alle Jobs fallen weg durch KI. KI ersetzt
01:00:06 Gavin Karlmeier
uns nicht, KI beschäftigt uns.
01:00:08 Dennis Horn
Genau. So, und ähm Also nochmal wieder zu Apple. Also konkret heißt das, wenn du jetzt das neue iOS nutzt, ähm Version siebenundzwanzig. Damit kann Apple Interaktionen mit Siri und mit der Diktierfunktion speichern Und damit auch die eigenen Modelle trainieren. Nicht mit dem Apple-Account verknüpft, sagt Apple, aber ein Teil könnte dann auch von Prüfpersonal angesehen werden. Das Audiomaterial
01:00:41 Gavin Karlmeier
Du musst ja nur deinen Namen sagen, deine Adresse sagen. Das sind alles Daten, die du ihnen nicht einfach automatisiert filtern kannst.
01:00:47 Dennis Horn
Genau, und das ist dann das, wo wir eben gesagt haben, das rutscht dann auch mal durch. Das Audiomaterial wohl nur von Beschäftigten von Apple selbst. Und formal ist das so ein Opt-in dann bei Apple. Also wenn du Siri AI einrichtest, dann kommt so ein Dialog und dann stimmst du irgendwie zu. Ja, und dann passiert es.
01:01:05 Gavin Karlmeier
Ich habe letzte Woche ein neues iOS -Gerät eingerichtet.
01:01:09 Dennis Horn
Ja, du klickst dich einfach schnell durch, ne?
01:01:11 Gavin Karlmeier
Na, vor allem die Formulierung ist ja nicht, möchten Sie, dass wir alle Ihre Aufnahmen speichern, auswerten und auf unseren Servern mithören, sondern die Formulierung ist, möchtest du helfen, Apple zu verbessern?
01:01:22 Dennis Horn
Absolut.
01:01:23 Gavin Karlmeier
Da sagst du natürlich nicht. Nein, also außer du bist vernünftig und anständig. Ich sage dann immer nein.
01:01:29 Dennis Horn
Ja, und der Zeitpunkt ist ein bemerkenswerter Vorgang. Also Apple hat ja fast gleichzeitig neue Apple Watch-Modelle vorgestellt, die dauerhaft mithöhen. Hören sollen, um dann jederzeit, was ich übrigens aus Nutzungssicht fantastisch finde, wenn ich das mal so sagen darf.
01:01:46 Gavin Karlmeier
Aber nur für dich und nicht für alle anderen.
01:01:48 Dennis Horn
Ja, ja, natürlich. Ein Transkript der letzten 15 Sekunden zu liefern und Alltagsgespräche dann als Siri Recap zusammenzufassen. Und ähm, Teile der ähm Private Cloud, so von Apple, laufen inzwischen auch auf Google-Servern. Ich habe so gedacht bei der ganzen Nummer, naja, und auf der anderen Seite konsequent Apple nach wie vor Nie der Erste sein , sondern irgendwann einen Move machen, wo das so im System übergeht, dass niemand mehr so richtig was sagt.
01:02:24 Gavin Karlmeier
Stimmt.
01:02:25 Dennis Horn
Weißt du?
01:02:25 Gavin Karlmeier
Ja, wir haben das kurz nach der WWDC. Haben Sie es davor gestellt? Ich bin mir nicht sicher. Oder auf der iPhone-Präsentation. Wir haben darüber auf jeden Fall hier gesprochen damals. Und ich finde das so bemerkenswert, weil das halt Apple in seinen Grundfesten erschüttern könnte. Apple, wenn Apple einen Privacy-Skandal hat Und sei es, weil Menschen eine Funktion missverstehen, was hier nicht mal der Fall sein muss, weil du kannst sie so verstehen, wie sie ist, um dich aufzuregen dann beschädigt das das komplette Markenverständnis von Apple, die alles darüber aufbauen. Sie haben selbst in ihren Werbespots diese Animation dieser Vorhang geschlosses, das sich zuklackt. Also das ist ihr ihr ihre DNA. Und da heranzugehen, nahezu leichtsinnig, halte ich für ungeschickt. Aber ich bin auch nicht John Turnis.
01:03:17 Dennis Horn
Ja, ich weiß auch nicht, ob es ungeschickt ist. Es ist auf jeden Fall, also vielleicht besteht auch einfach aus einer Unternehmenssicht eine Notwendigkeit. Das bedeutet, da haben wir ja nicht genug Eindruck, äh, Einblick, sozusagen. Möglicherweise. Also, das kann ich mir in der Welt, wie wir sie jetzt gerade erleben, durchaus vorstellen. So, dann macht man diesen Move, aber man betritt damit ganz einfach gefährliches Terrain. So, und das ist ein Punkt.
01:03:40 Gavin Karlmeier
Und was wir jetzt betreten, Dennis?
01:03:42 Dennis Horn
Ist die zweite Stunde und das ist für uns gefährliches Terrain, deswegen Wochenende.
01:03:47 Gavin Karlmeier
Wir betreten jetzt das Wochenende. Vielen Dank, dass du hier warst, Dennis. Wir hätten noch Meldungen über Elon Musk gehabt, aber ehrlich gesagt. Damit können wir auch an düsteren Montag starten als in so einem fröhlichen Freitag.
01:04:00 Dennis Horn
Melancholischer Montag und fröhlicher Freitag.
01:04:03 Gavin Karlmeier
So, genau. So machen wir das. Ich wünsche euch allen ein ganz tolles Wochenende. Bitte denkt dran, Leute vorzuschlagen, Geschense, Postings, Account for the golden and the grauen Haken. The Mail Address is in the show notes. Come on. Gemietet, das unfassbar schön aussieht und das wird, glaube ich, richtig, richtig toll.
01:04:28 Dennis Horn
Beschwerden über diese Episode bitte wie immer an Kanzleiattakenrand. org
01:04:33 Gavin Karlmeier
Oder an Beschwerde. 127. 0. 0. 1.
01:04:38 Dennis Horn
Oder dort. Und jetzt ein schönes Wochenende.
01:04:40 Gavin Karlmeier
Schönes Wochenende. Tschüss.