Peak Ragebait, Digga. Andere haben Sommerloch, wir ertrinken in Meldungen. Und während Menschen fragen, wann wir endlich Urlaub machen, fragen wir uns, ob wir eine Episode mehr benötigen, um dem nachzukommen.
Es gibt Neues aus KI-Land, zwischen Kill-Switch-Debatte, Regulierungsbehörden und Sam Altmans Behauptung, man habe die Singularität erreicht – zwischen Hugging Face und einem missratenen “Teilen”-Button. Und während KI-Unternehmen (außer OpenAI und Anthropic) eine Allianz eingehen, bekommen es TikTok und Google mit der EU zu tun. Einerseits endlich, andererseits: Warum nicht mehr als das?
Kapitelmarken
KI-unterstützt
- Prozess gegen Meta in Tennessee
- Meta AI benachrichtigt Eltern bei bedenklichen Gesprächen
- Meta vs. Apple: Interoperabilität durch DMA
- Werbung für Nudify-Apps auf Meta-Plattformen
- EU-Kritik an TikToks Jugendschutz
- Sam Altman: TikTok-Sucht als "Forschung"
- Allianz der AI-Unternehmen zu offenen KI-Modelle vs. US-Regierung
- AI Kill Switch Act und OpenAI-Sicherheitsvorfall
- Sam Altman verkündet die Singularität
- Deepfake-Erstellung auf Hugging Face
- Öffentliche Claude Chat-Verläufe
- Google erhält DMA-Strafen der EU
- Jugendwort des Jahres & "Rage Bait"
- Funktionen und Emotionen
Transkript
Automatisch erstellt, kann Fehler enthalten. Zeitmarken springen im Player an die Stelle.
00:01 Intro
Haken dran, das Social Media Update der CT.
00:06 Dennis Horn
Grüß dich Gavin, hallo Dennis. Wir haben eine unglaubliche Menge an Themen, deshalb schlage ich vor, kein Shishi, wir gehen rein.
00:12 Gavin Karlmeier
Einverstanden. Es ist wirklich viel.
00:14 Dennis Horn
Es ist wirklich viel. Also wir beginnen diese Ausgabe in Music City in Nashville, Tennessee. Dort hat am Montag ein Prozess begonnen, der sieben Wochen dauern soll. Der Bundesstaat Tennessee gegen Meta vor einem Staatsgericht mit Jury und der Vorwurf, den die Anwälte des Bundesstaates formuliert haben, Meta habe die eigenen Forschungsergebnisse zu den Auswirkungen von Instagram auf Jugendliche geklappt. Das an sich ist noch nicht schlimm, aber dann im Anschluss ignoriert, während man gleichzeitig versucht habe, den Gewinn aus genau dieser Nutzergruppe zu maximieren. So, und jetzt kommt der Teil, der uns hier bekannt vorkommt. Es geht um Funktionen, es geht um Autoplay, Benachrichtigungen, endloses Scrollen, diese Dinge. Also nicht um Inhalte, sondern ums Design der Plattform. Und Tom Cartmell ist einer der Anwälte des Bundesstaates Tennessee. Er hat der Jury ein internes Dokument aus dem Jahr 2017. . Szenen gezeigt von Meta. Darin schreiben Produktmanager, dass genau diese Funktionen im Widerspruch zum Wohlbefinden der Nutzer stünden und dass das Unternehmen die Öffentlichkeit warnen müsse. Und Tom Cartman sagte dann im Eröffnungsplätto: je, diese Warnung kam nie. So, jetzt hält Meta dagegen, und das mag ich sehr, vertreten durch den Anwalt Kevin Huff, der folgendermaßen argumentiert. Dass es solche internen Dokumente überhaupt gebe, sei doch der Beweis dafür, dass das Unternehmen aktiv nach Problemen suche, um sie zu beheben. Und Jugendschutz sei ohnehin eine gemeinsame Verantwortung. Es brauche dafür, Zitat, ein ganzes Dorf. Ein Dokument, in dem steht, wir müssen warnen, auf dessen Basis nicht gewarnt wurde, wird zum Beweis fürs Problembewusstsein. Das muss man erstmal hinbekommen, argumentativ. Es ist so, ja, das ist, ja, aber ich habe doch, ich hätte doch gewarnt.
02:05 Gavin Karlmeier
Wir wussten doch, dass wir es müssen. Also wir haben ja nicht nichts gemacht, wir haben das ja aufgefallen. Geschrieben. Es ist so interessant, weil diese Prozesse, die ja so ein bisschen in dieses große Big Tobacco Szenario fallen, dass jetzt sozusagen der Staat und die Bundesstaaten gemeinsam nach und nach an Meta herantreten und sagen, Das geht so nicht mehr weiter. Und es gibt Dutzende Beweise, über die wir hier auch gesprochen haben, dass Meta von all diesen Problemen immer wusste, dass sie sogar dagegen angearbeitet haben, dass gesagt wurde, dass Zuckerberg Forschungen unterbunden hat, die irgendwelche Probleme mit jungen Menschen in deren Angeboten offengelegt hätten. Dass sie wissen, dass Adam Mossarry von Mark Zuckerberg die Anweisung bekommen hat, die tägliche Nutzungsdauer auf der Plattform zu reduzieren und so weiter und so weiter und so weiter. Es ist also eigentlich nur eine Frage der Zeit, bis irgendjemand sagt, naja, Meta, wenn ihr jetzt nicht die Entscheidung mal endlich getroffen habt, dann machen wir das für euch und das kann nicht in dem Interesse des Unternehmens sein.
03:04 Dennis Horn
Schlinge zieht sich zu. Und was wird erst noch passieren, wenn sich die politischen Vorzeichen in den USA dann auch nochmal umkehren? Abwarten, ob das passiert.
03:15 Gavin Karlmeier
Wir drücken die Daumen, aber Donald Trump arbeitet sich ja jetzt schon am Wahlrecht ab, wie wir wissen. Er hat ja jetzt kürzlich mit dem Supreme Court Telefoniert und in Alpha. Weil die Briefwahl eben ein so unsicheres Verfahren sein, bla bla bla und so weiter. Und Donald Trump hat auch angekündigt, er will eine vierte Amtszeit machen, wo ich persönlich, und das ist jetzt Vorsichtsatire, mich frage, mit welchem Körper möchte er das denn noch überstehen? Aber.
03:42 Dennis Horn
Ja. Wir bleiben bei Meta. Wir bleiben beim Jugendschutz seit dem 16. Juli benachrichtigt. Meta Eltern, wenn ihr Kind mit Meta AI über Suizid oder Selbstverletzung spricht. Dafür sucht ein speziell trainiertes KI-System, KI-System in den Chats nach Hinweisen, nach eindeutigen, aber auch nach weniger eindeutigen. Und was auffällt, schaut sich anschließend ein Mensch an und dann geht die Meldung raus. Und Meta sagt ausdrücklich, auch wenn das Gespräch kein eindeutiges Risiko zeigt. Informieren wir die Eltern. Also man nimmt Fehlalarme bewusst in Kauf, so nach dem Motto besser einmal zu viel alarmiert als zu wenig. Das geht jetzt in Australien, Kanada, den USA und Großbritannien und der Rest der Welt, also auch wir soll bis Jahresende folgen Aber die Warnung greift nur, und darüber haben wir in der letzten Ausgabe ja auch gesprochen, wenn die Eltern selbst ein Metakonto haben und die Elternaufsicht auch eingerichtet ist. Wenn nicht, dann passiert nichts. Und das dürfte in der vielleicht eher größeren Zahl der Fall sein. Ich glaube, wir müssen es nicht groß ausdeuten. Also die Jugendlichen, bei denen niemand die Elternaufsicht eingerichtet hat, sind ja nicht zufällig die, um die man sich vielleicht am meisten Sorgen machen müsste.
04:52 Gavin Karlmeier
So ist es wohl. Und Meta ist ja bislang auch, korrigiert mich gerne, wenn ich falsch liege, wir haben ja Möglichkeiten, mich zu erreichen, aber Meta ist bislang relativ zurückhaltend gewesen mit den Zahlen darüber. Wie viele Jugendliche diese Jugend- oder Teenager-Accounts denn tatsächlich nutzen. Diese Zahlen haben sie nie herausgegeben, was ein Indiz dafür ist, dass das nicht 100% sind, weil sonst wüssten wir das, weil Meta das überall platzieren würde.
05:16 Dennis Horn
Das ist vielleicht eine Zahl, mit der man sich im Moment an anderer Stelle, nämlich beim Thema Social Media Verbot, nicht in die Nässe entsetzen möchte, nicht wahr?
05:22 Gavin Karlmeier
Ja, hundertprozentig.
05:23 Dennis Horn
Deswegen gibt man da nicht viel raus.
05:25 Gavin Karlmeier
Aber sie ist eben, wie gesagt. Offensichtlich nicht die Mehrheit. Und ich finde das interessant, weil Meta so lange schon daran arbeitet, dass man sagt, wir brauchen eigentlich keine FreundInnen mehr, wenn wir. KI haben. Und wer braucht denn schon eine Chatkontrolle, wenn es die Chatbot-Kontrolle gibt? Wenn man also sozusagen direkt in die Privatsphäre eingreift darüber, dass eben die Kommunikation mit einem Computersystem eben nicht vom Briefgeheimnis geschützt sein müsste.
05:50 Dennis Horn
Zwei Dinge noch. Erstens, Meta arbeitet daran, der KI beizubringen bei akuter Gefahr. Direkt Rettungsdienste zu verständigen. Das soll altersunabhängig gelten. Und es gibt es auch schon übrigens bei Beiträgen auf Facebook und auf Instagram. Da hat Meta im vergangenen Jahr nach eigenen Angaben weltweit mehr als 19. 000 Notrufe abgesetzt. Aber nähere Angaben dazu gibt es dann auch wieder nicht. Und zweitens, die Einstellung eingeschränkte Inhalte gilt in Zukunft auch für Meta-AI. Was genau da blockiert wird, sagt Meta nicht, soweit bekannt, aber unter anderem gesundheitsbezogene Informationen, Themen rund um sexuelle Orientierung und Geschlechtsidentität. Und kein Witz, auch körperliche Ertüchtigung. Also wir haben eine KI, die ist feinfühlig genug, subtile Hinweise irgendwie auf mentale Krisen zu erkennen. Und ein Filter, der Jugendlichen den Zugang zu gesundheitlichen Informationen wegnimmt. Beides gleichzeitig.
06:45 Gavin Karlmeier
Es ist aber im Grunde sind es ja Entscheidungen, die längst überfällig sind und die getroffen hätten werden müssen, bevor man das Produkt überhaupt erst an den Staat bringt. Also jetzt zu sagen, wir greifen ein, wenn es ein gesundheitliches Risiko existiert, ist ja eigentlich eine Entwicklung, die man vorher hätte entwickeln müssen. Dieses Erstmal veröffentlichen und dann am offenen Herzen operieren. Das halte ich gerade in einem Sektor, in dem junge Menschen, und wir reden zum Glück über Meta AI, das nutzt keiner, aber wir reden hier jetzt zum Glück über einen Bereich Oder nein, wir reden hier ja über einen Bereich, in dem man extrem vorsichtig vorgehen muss. Und das aber gleichzeitig, und das ist hier so kleine Funktion und Emotionen leid, vorgeschoben. indem gleichzeitig auf der einen Seite ChatGPT Health eine Anbindung zu Google Health und Apple Health bekommen. Du also sozusagen direkt deine Gesundheitsdaten, deine Bewegungsdaten, deine Fitnessdaten, deine Trainingsdaten direkt, also deine körperlichen Trainingsdaten, nicht deine mentalen, direkt teilen kannst mit diesem Chatbot und auf der anderen Seite Meta anfängt zum Beispiel Meta AI auch in deinen Threads. In deine Threads-In-Box zu packen. Beides ist es so gemein.
07:57 Dennis Horn
TH ist schwer, ne? Immer wenn ich das aussprechen muss, kriege ich Sonnenhelf. Entschuldigung.
08:04 Gavin Karlmeier
Das sind alles Dinge, die gerade gleichzeitig passieren. Und ich frage mich oder ich ärgere mich so darüber, dass wir ja Dutzende von Fällen haben, bei denen junge Menschen eben mit. Chatbots dazu veranlasst wurden, sich selber etwas anzutun und jetzt eben die Entscheidungen getroffen werden, die zwar zweifelsohne richtig sind, und ich würde sogar sagen, selbst die Entscheidung zu sagen, wenn Teenager damit drohen, sich etwas anzutun und sie haben eine Verbindung mit ihren Eltern, dass die Eltern gewarnt werden. Man kann das sogar vertreten und man kann das gut finden. Aber man hätte das vielleicht fertig haben sollen, bevor das Produkt veröffentlicht wird, damit es eben nicht, damit nicht wie in der Luftfahrt, die Gesetze mit Blut geschrieben werden müssen.
08:43 Dennis Horn
Ich zitiere eins der Plakate aus dem Meta Headquarter im Silicon Valley, die da immer so rumhängen und den Leuten Motivationsprüche eindonnern. Better done than perfect. So toll. Das ist, was dann passiert.
08:57 Gavin Karlmeier
Und move fast and break things und so. Und humans und so
09:03 Dennis Horn
Jetzt wird es kurz gemütlich. Wir gucken zwei Konzernen beim Streiten zu. Es geht um Interoperabilität, es geht um den Digital Markets Act und Disney.
09:12 Gavin Karlmeier
Das sind die Wörter, die ich hören will, wenn ich Popcorn esse.
09:14 Dennis Horn
Absolut. Und es geht darum, dass Meta ausgerechnet die EU-Regulierung entdeckt hat, wenn sie mal in die eigene Richtung wirkt. Und es geht hier um Apple. Also Apple muss wegen des Digital Markets Acts Geräte von Drittanbietern ähnlich gut ans iPhone und ans iPad anbinden wie das eigene Zubehör. Also, weiß ich nicht, womit geht es sehr seamless mit den AirPods? Genau.
09:37 Gavin Karlmeier
Die machst du aus und dann du musst sie ja gar nicht koppeln. Da wird dir direkt gesagt, hey, herzlich willkommen.
09:41 Dennis Horn
So, und wenn mit einem Gerät gekoppelt, automatisch auch mit all den anderen Geräten, die du hast, genauso. Und das hätte Meta auch gerne, hat im Oktober 2025 einen Antrag gestellt. Der Wunsch von Meta Wenn ich eine Rayban Meta brille oder ein Quest Headset einmal mit einem iPhone kopple, dann soll das eben automatisch auch auf allen anderen iPhones und iPads funktionieren. Die mir gehören. Also genau das, was wir gerade beschrieben haben. Apple will dafür eine Lösung bereitstellen, aber nicht die Apple-Geräte eigene, sondern eine andere API, von der Meta dann sagt. Damit wird aber das Setup der Probleme verschlechtert. Also Apple sagt, ist uns egal, andere Entwickler haben damit auch keine Probleme und möchte es nur so bereitstellen, sodass sozusagen diese Apple eigenen Geräte in der eigenen Sphäre bleiben und alle anderen, die das möchten in einer anderen Sphäre, das passiert. So würde ich es mal beschreiben Aber dann ist die Einrichtung im ersten Moment, das, was du als Klappe auf und los geht's ein bisschen herausfordernd.
10:42 Gavin Karlmeier
Spannend, ja. Ich finde das so interessant, wie so immer so mit diesen Gesetzen so gemakelt wird. Wir werden, wenn wir es zeitlich schaffen, heute vielleicht auch endlich über die Google DMA Strafe sprechen. Und ich ziehe schon mal da raus. So als kleines Teasing, ich bin eine Teasing-Maschine, wie wir in der letzten Folge gelernt haben. Absolut. Dass Google zwar das Gesetz einhalten muss. Dass sie aber ihren Mitbewerbern das nicht unentgeltlich gegenüber tun muss. Das heißt, theoretisch, und ich weiß nicht, wie es hier ist, aber theoretisch könnte es ja auch sein, dass Apple sagt: Hey Meter, ihr könnt das nutzen, aber dann kriegen wir einen Dollar pro Gerät. Was ich so interessant finde, weil wir kennen das auch von der Befreiung personalisierter Werbung auf Meta, für die wir als NutzerInnen zahlen müssen wenn wir unser Recht einlösen wollen, das uns in der EU gesetzlich zusteht. Das halte ich persönlich für eine, wie sagt man, eine Übersehung. Ein Übersehen. Ein Übersehen, genau, der Gesetzgeber, wenn nicht sogar einen in Kauf nehmen. Ja. Ja.
11:49 Dennis Horn
Apropos in Kauf nehmen. Wir kommen jetzt zu Gather One. Das ist eine von rund einem Dutzend chinesischer Werbeagenturen, die von Meta autorisiert sind, Anzeigen für chinesische Kunden zu schalten.
12:03 Gavin Karlmeier
Oder vor allem vielmehr von der chinesischen Regierung autorisiert sind, außerhalb Chinas werben zu dürfen.
12:09 Dennis Horn
Ja, oder so rum. Beim Meta nennt man das einen Top-Tier-Reseller. Und jetzt hat sich das Tech Transparency Project angeschaut, wer eigentlich hinter der Flut von Anzeigen Für sogenannte Nudify-Apps auf Facebook und Instagram steckt. Also Apps, mit denen man Menschen auf Fotos digital ausziehen kann oder in pornografische Videos montieren. Und die Antwort dazu steht in Metas eigener Transparenzdatenbank. Es ist Gather One. Das Tech Transparency Project sagt, es gibt 210 Facebook-Seiten, die Gather One In den Anzeigenangaben nennen. Einen großen Teil von deren Anzeigen hat Meta tatsächlich später aus der eigenen Anzeigenbibliothek entfernt, weil die gegen die eigenen Standards verstoßen und trotzdem haben mindestens Zwei Dutzend dieser Seiten danach einfach Weiterwerbung geschaltet. Und bei mindestens einer der Apps, für die dort Werbung gemacht wurde, dieser New Defy-Apps, haben Nutzerbewertungen im Google Play Store darauf hingewiesen, Dass dort offenbar Material zu sexuellem Kindesmissbrauch entstanden ist. Die App war im Play Store eingestuft als geeignet für alle Altersgruppen. Es gab eine andere, auf die Gather One-Anzeigen dann auch verwiesen haben, die war ab zwölf Jahren freigegeben. Warum passiert da nichts? Tech Transparency Project und ich würde sagen, wir auch haben eine Vermutung. Und sie hat mit Geld zu tun. Metas Umsatz in China ist zuletzt von über 13 auf über 18 Milliarden gestiegen. Ungefähr ein Zehntel des gesamten Jahresumsatzes. Und Reuters berichtet, da haben wir auch schon mal drüber gesprochen, dass interne Metadokumente zeigen, rund 19 Prozent dieser Gelder. stammen aus Anzeigen für Betrug, illegales Glücksspiel, Pornografie und andere verbotene Inhalte und das sind mehr als drei Milliarden Dollar. Und diese Wiederverkäufer, also hier Gather One, stehen einfach auf einer Whitelist und dann wird eben nicht direkt eingegriffen. Ähm krass. Es ist super krass, weil übrigens ganz kurz noch, also Meta sagt natürlich null Toleranzpolitik, immer so öffentlich. Gather One war im Januar auf dem Agent Summit in Hongkong eingeladen von Meta. Veranstaltung hat dort vier Auszeichnungen bekommen für seine Branchenleistungen und dann posiert der CEO. Von Gather One mit diesem Preis direkt neben Metas Spitzenmanagern in China.
14:32 Gavin Karlmeier
Ja, was soll man da noch sagen? Also, man hat einfach jetzt jeden Fall von betrügerischer Werbung, von Scam. von solchen Geschichten einmal gehört im Fall von Meta-Werbungen. Glücksspiel ohne Ende, vor allem dort, wo es komplett verboten wäre, für Glücksspiel zu werben. Und jedes Mal erzählen wir hier die gleichen Geschichten und dann zwei Monate später kommt die nächste dieser Art. Es gibt einfach keine, das ist alles nicht mehr entschuldbar. Weil das Ding, mit dem sie Geld verdienen, es ist so ein bisschen so, als würdest du sagen, ja, wir haben jetzt so viele Kunden bei uns im Supermarkt, wir können gar nicht mehr gucken, was die hier alles kaufen und raustragen. Und damit entschuldigt man sich, aber am Ende fließt halt jedes Mal Geld dafür. Das heißt, sie haben auch die Verantwortung dafür, was auf diesen Markt hier gebracht wird. Und das ist nicht mehr entschuldbar. Übrigens der Vollständigkeit halber Gather One hat angekündigt, dass er eine umfassende Überarbeitung der Compliance-Maßnahmen geben soll, um der technischen Entwicklung synthetischer Medien Rechnung zu tragen. Also Offenbar hat sich Gather One hier im Gespräch mit Bloomberg mehr angefasst gefühlt als Meta, die sagen, nö, nö, wir machen alles, was wir können.
15:42 Dennis Horn
Also das Muster, glaube ich, wird uns trotzdem noch weiter begegnen. Haken bleibt dran, sage ich.
15:48 Gavin Karlmeier
Ja, und ich will das eigentlich nicht.
15:50 Dennis Horn
Ja, gut, aber ich habe hier diesen Aufkleberrechts von mir liegen Doomscrolling für die Ohren. Das sind nun mal wir.
15:58 Gavin Karlmeier
Wir versprechen wir halten.
15:59 Dennis Horn
Hagen, USP. Weiter mit TikTok. Und zwar mit einem Thema, das direkt an unsere Diskussion, die wir auch immer wieder führen, über Standardeinstellungen anschließt. Die EU-Kommission. Hat TikTok am 24. Juli letzte Woche mitgeteilt, die Konten von Minderjährigen entsprechen nicht den Anforderungen des Digital Services Act. Nein. Nein. Also die EU-Kommission fängt fair an, sie begrüßt, dass es überhaupt spezifische Konten für Minderjährige gibt. Hast du gut gemacht. Schön, dass du das gemacht. Gibst schon mal. Viney. 13- bis 15-Jährige haben nämlich standardmäßig ein privates Konto. 16- bis 17-Jährige können. Wählen, welches sie haben möchten, geschlossen oder öffentlich. Das gehe in die richtige Richtung, heißt es von der Uhr. Hast du es schon mal gut gemacht? Jetzt machen wir nochmal ein bisschen weiter. Es ist nämlich nicht genug. Das Problem ist nämlich, 13- bis 15-Jährige können ihr Konto ganz einfach auf öffentlich stellen. Und dann sehen alle die Inhalte, auch Menschen ganz ohne TikTok-Konto. Und selbst private Konten sind über die Follower-Listen anderer auffindbar, also die Profilfotos für alle sichtbar. Und bei den 16- und 17-Jährigen Sagt die EU-Kommission, öffentliche Konten sind grundsätzlich okay, aber sie will zwei Dinge nicht. Erstens, dass deren Inhalte über TikTok hinaus sichtbar sind und zweitens, dass die anderen in den For You-Feed gespült werden. Und dann fällt bei der Pressekonferenz der Satz, der die ganze Sache eigentlich ganz gut zusammenfasst. Da ist ein Beamter der EU-Kommission, der sagt, sinngemäß, bei den älteren Minderjährigen. Habe man das Gefühl, diese Designentscheidungen seien viel stärker auf die Viralität ausgerichtet als auf den Schutz der Minderjährigen?
17:40 Gavin Karlmeier
Ach, das kann ich mir nicht vorstellen. Also, das hätte ich wirklich von jedem erwartet, aber nicht von Ticket. Nein, Zynismus mal beiseite. Was die EU-Kommission hier vor allem kritisiert, ist ja, finde ich, so Heiser hat das auch gut zusammengefasst, liebe Grüße, ach ne, es war nicht Heiser, es war Netzpolitik, trotzdem, trotzdem, liebe Grüße, hat das gut zusammengefasst an beide. Er hat das gut zusammengefasst mit der Formulierung, TikTok-Konten müssen strenger abgeschirmt werden. Und das ist ja eigentlich die richtige Forderung, dass man sagt. Ey, wenn ihr 13-, 14-Jährige auf eure Plattform lassen wollt und euch an Regeln haltet dafür, go for it, aber stellt bitte sicher. Dass 13-Jährige nicht unproblematisch mit 60-Jährigen kommunizieren können, dass 60-Jährige nicht die Inhalte von 13-Jährigen sehen. Und Punkt. Das ist ja eine völlig einfache, nachvollziehbare Forderung. Und zu sagen, wir setzen hier jetzt aber, wie es der Mensch aus der Kommission hier gesagt hat. Wir setzen hier aber offenbar stärker auf Viralität, macht jeden Fortschritt und jeden Prozess in Sachen Jugendschutz unglaubwürdig und führt am Ende dazu, dass halt auch hier wieder, ich wiederhole mich hier Wenn ihr es nicht in den Griff kriegt, machen wir das für euch und das wird für euch nicht gut ausgehen. Also so langsam, nee, eigentlich längst, seit Jahren, sind diese Prozesse längst überfällig, sind diese Entscheidungen längst überfällig und die Geduld mit den Plattformen muss längst am Ende sein. Es reicht nicht hier nochmal feiny feiny zu machen, um irgendwie die Stimmung zu kitten. Nee, eigentlich muss man den direkt auf den Tisch hauen und sagen, es reicht wirklich. Ich steigere mich wieder rein, hier, Dennis. Ist in Ordnung.
19:16 Dennis Horn
Und unsere Ewigkeitserkenntnis, die wir ja immer wieder haben, ist es völlig egal, was man theoretisch einstellen kann. Entscheidendes, was voreingestellt ist. So, und das spielt in dieser Geschichte auch einfach nochmal eine Rolle.
19:27 Gavin Karlmeier
Punkt 1, ja, aber Punkt zwei auch, wenn du willst, dass junge Menschen geschützt sind, dann gib ihnen nicht jede Möglichkeit, diese Einstellung wieder abzuschalten. Also, dann kannst du es ja halt auch sparen, weil wir wissen genau, dass die Leute, die einen Painpoint haben, dann doch mal in die Einstellung gehen und sich das anschauen.
19:45 Dennis Horn
Vielleicht noch zur Frage, was jetzt passiert. Also, TikTok kann jetzt in die Akten schauen und antworten. Es gibt übrigens keine Fristsetzung. Die EU-Kommission erwartet, dass TikTok diese Einstellung ändert. Und bescheinigt dem Unternehmen bisher grundsätzlich Kooperationsbereitschaft. Wenn nicht, drohen bis zu 6% des weltweiten Jahresumsatzes. Das ist übrigens ein Gesamtverfahren, das seit Februar 2024 schon läuft und dieses Jahr kam schon die vorläufige Feststellung zum süchtig machenden Design. Da gibt es noch keine abschließende Entscheidung. Alterskontrollen will sich die EU-Kommission auch noch anschauen. TikTok ist Teil des Pilotprojekts für die EU-Alterskontroll-App. Also das Thema wird uns auch noch weiter. Folgen, wie man in Social Media sagt. Wow, das wird folgen.
20:34 Gavin Karlmeier
Aber ich das finde ich übrigens einen interessanten Hinweis, dass TikTok Teil dieses Pilotprojektes sein wird, finde ich bemerkenswert. Und was ich aber auch interessant finde, ist, dass sich diese Verhandlungslinie oder diese Strategie der EU-Kommission zu sagen, solange ihr kooperiert, habt ihr keine Probleme. Dass sie sich hier auch durchzieht. Wir haben das vor Ewigkeiten hier in Haken dann damals besprochen, als es um TikTok Lite ging. Ein Dienst, der in zwei südeuropäischen Ländern, ich glaube Frankreich und Spanien, unsicher. Angeboten wurde, bei dem Menschen für das Gucken von Videos Amazon-Gutscheine bekommen konnten. Also de facto eine Bezahlung. Und die EU-Kommission hat gesagt. Ist es euer Ernst jetzt? Und TikTok hat gesagt, nee, nee, war nicht unser Ernst, wir stellen das ein. Und haben dann auf Hinweis der EU-Kommission, dass das jetzt hier Teil einer Untersuchung wird. Das eingestellt, woraufhin die EU-Kommission die Untersuchung eingestellt hat und gesagt hat: das Problem gibt's nicht mehr, alles fine. Und dieses, diese, diese extreme Diplomatie, die die EU-Kommission hier an den Tag legt. Die wird halt ganz offensichtlich ausgenutzt. Und ich glaube irgendwie, das ist nicht, ich bin kein Unterhändler, aber ich glaube, es ist nicht die richtige Strategie.
21:46 Dennis Horn
Es ist zahnloser Tiger, da waren wir ja oft schon. Also auch wenn ich so dieses ebenso nochmal gesagt habe. im schlimmsten Fall 6 Prozent des Jahresumsatzes, da muss ich selbst schon lachen. Weil, also wenn man diese Karte irgendwann mal ziehen würde, dann würde man sich ja auch Autorität irgendwann erspielen. Aber die, finde ich, hat die Kommission bisher Sich mit dem lauen Vorgehen nicht verdient. Ja. So. Und jetzt eine Geschichte, wo ich nicht so wusste, als ich das gelesen habe. Also, Sam Altman hat in How to start a startup. Ein Podcast mit YouTube-Anbindungen, wie man es heute so macht, so wie wir, weißt du? Ja. So. Erzählt. Dass er sich während der Entwicklung von Zora, diesem Video, dieser videogenerativen KI von OpenAI, bewusst von TikTok hat süchtig machen lassen, als Recherche. Er wolle verstehen, wie Menschen kurze Inhalte konsumieren. Ausdrücklich nicht um ein Produkt zu bauen. Dass dieselbe Art irgendwie fördert von Nutzungsverhalten. Und dann läuft es genauso ab wie in jeder Broschüre über Mediennutzung. Er erzählt, er hätte gedacht, er könne es kontrollieren. Ein paar Minuten vor dem Schlafen gehen, dann wurde aus zehn Minuten eine Stunde und dann saß er an einem Samstagnachmittag irgendwie mal drei Stunden auf der Couch. Ich weiß nicht, ob das direkt Süchtig machen, erfüllt, gehen mal vorsichtig mit dem Begriff um. Aber er sagt im Podcast selbst: es habe sich fast wie eine Droge angefühlt. Und ihm sei klar gewesen, dass es schlecht für ihn ist. So. Das ist ja erstmal so, was ist passiert, das hat er da erzählt. Und das ist irgendwie so bemerkenswert, weil das ja ein Mann ist, der ein Produkt. gebaut hat, ähm, das vielleicht auch ein bisschen süchtig macht?
23:44 Gavin Karlmeier
Vor allem, also vor allem muss man dazu sagen.
23:47 Dennis Horn
Warte, ein Satz noch zu Ende, und in aller Ruhe diesen Wirkmechanismus jetzt beschreibt, gegen den wir, über den wir die ganze Zeit eben auch schon sprechen. Also einer von diesen CEOs, der beruflich genau weiß, wie diese Dinge gebaut ist Sich selbst nicht irgendwie davon lösen kann. Und das finde ich das Bemerkenswerte. In so aller Ruhe in so einem Podcast so davon erzählt.
24:14 Gavin Karlmeier
Ich habe da drei Gedanken zu. Ja, und wie immer sind es nur zwei. Aber ich fang trotzdem an. Zora war ja nicht nur die Video-KI, Text-zu-Video-Generative KI. Sondern Zora war ja auch eine eigene App, die sich angefühlt hat wie TikTok. Wir erinnern uns daran, dass es eine Hochkant-Video-App war, bei der ich durch ein Endlosfeed scrollen konnte und nur synthetische Inhalte gesehen habe. Heißt also Da müssen wir nicht viel interpretieren. Sam Ortman hat sich TikTok angeschaut und hat gesagt, boah, das macht ja süß, ich wollte zehn Minuten, ich habe drei Stunden darin verbracht, das fühlt sich nicht gut an. Das will ich auch. Und das sagt ja alles über ihn und sein Führungsziel und das Unternehmen aus. Weil Zora hat sich exakt angefühlt wie TikTok. Es sah aus wie TikTok. Und Das alles, was er hier erzählt, was ja eigentlich eine negative Nutzungserfahrung ist, hat ihn aber dazu veranlasst, das zur Inspiration zu nehmen. Und ich finde, das ist wahnsinnig entlarvend. Und Naja, dann doch lieber Meta, we're betting on people oder so, weiß ich auch nicht. Aber dann der zweite Gedanke, dass das auch so eine Form von CEO-Marketing ist, was er hier betreibt, weil die Vorstellung, dass Sam Altman wirklich konkret selber so eng an der Produktentwicklung gesessen hat, dass er sich wirklich angeschaut hat, wieso funktioniert TikTok, wie es funktioniert, dann machen wir das auch. Das ist ja eine Fantasie, die genau in der gleichen Schublade liegt wie der Radiomoderator, spielt die ganze Zeit selber Musik ab. Also so funktioniert die Welt ja nicht. Du hast ja extrem viele, vor allem auf dem AI, extrem viele extrem viele EntwicklerInnen und ProgrammiererInnen und Menschen, die das umsetzen und aber auch viele Menschen, die sich eben genau mit User Interface auseinandersetzen. Und wie ist das Design unserer App. Und die Vorstellung, dass Sam Ortman sich das alleine anguckt, sich dann ins Büro setzt, vielleicht mit einem Entwickler zusammen und sie gemeinsam das so austüfteln, dass das genauso ist, ist ja auch komplett verlogener Bullshit. Also ich finde, das ist so eine schöne Meldung, aber es sagt viel mehr über Sam Altman, als er glaubte. Und drittens? Ne, es gab nur zwei.
26:20 Dennis Horn
Ich habe noch einen drittens. Gut. Also ich finde so, weil du gerade sagtest, seinen Style der CEO-Kommunikation, würde ich mal inhaltlich jetzt, also der hat ja diese Kommunikation geschaffen jetzt in diesem KI-Zeitalter. Des ständigen Warnens vor dem eigenen Produkt. Oh, da haben wir gleich auch was zu. Und also, ich finde ganz interessant, dass also bei Sprachmodellen funktioniert das. Bei Dingen, die Social Media nah sind, funktioniert das nicht. Also er hat jetzt sozusagen diese warnende Kommunikation Auf einen völlig anderen Bereich angewendet, wo das keine gute Idee ist. Aber also, ich würde schon sagen, wenn ich jetzt Kommunikator wäre und irgendwie Anthropic oder OpenAI beraten, dann würde ich sagen. Macht das mit dem Warnen genauso weiter? Scheint ja offenbar zu funktionieren, dass Leute denken, oh, die Singularität ist da. Hat er jetzt auch gesagt. Die Singularität ist da.
27:14 Gavin Karlmeier
Ja, da müssen wir gleich drauf sprechen.
27:16 Dennis Horn
Also, das ist ja da Gold wert, aber nicht im Social Media Bereich.
27:22 Gavin Karlmeier
Finde ich nicht schlau. Naja, und dass es so unglaubwürdig ist, siehst du ja daran, dass OpenAI Zora eingestellt hat im April. Und kein Wort darüber verloren hat, was sie für Sorgen haben und was es für Probleme machen könnte. Und auch da nicht gesagt hat, es ist zu gefährlich. Sondern sie haben ja einfach, we're Sunsetting, ist zu teuer und danke ciao. Also es ist halt nicht aufrichtig. Und ich glaube, wenn ich Kommunikationsberater bei OpenAI wäre, würde ich sagen: Ey Sam, die Leute. hassen dich alle. Alle halten dich für einen verlogenen, unaufrichtigen Menschen. Du kannst diese Warnstrategie weiterfahren, aber wenn du dich neu aufstellen möchtest, als jemand, der wahrgenommen wird, als. Visionär als Vordenker, wenn du so sein möchtest wie Steve Jobs und du willst sein wie Steve Jobs, weil du hast viele hunderte Mitarbeiter von Apple gecloud und deren Betriebsgeheimnisse, dann, ich glaube, 400 Menschen sind das. Wir haben da hier drüber gesprochen. dann musst du auch genau diese roten Linien zumindest in deiner Produktentwicklung durchziehen. Weil Steve Jobs hat natürlich auch nicht selber die Maus erfunden oder den iPod erfunden. Aber er hat es verkauft, dass ich ihm geglaubt habe, dass er das hätte. Und das funktioniert ja hier im Fall von Zora schon überhaupt nicht mehr.
28:35 Dennis Horn
So. Dann bleiben wir doch direkt beim Thema KI. So, oder? Gut? Ja, let's do it. Let's let's Kick it. Also vielleicht kurz eine Nebenbei-Beobachtung. X, unsere Plattform, aus der alles hier entstanden ist. Firefox ist zurück auf X, Mark Zuckerberg postet wieder auf X und Jansen Wang ist dort jetzt auch mit dem Konto vertreten. Nvidia-Chef. Nvidia-Chef. Der von dem, glaube ich, dieser Satz stammt. Du wirst deinen Job nicht wegen KI verlieren, sondern an jemanden, der weiß, wie man KI bedient. Also X offenbar als Plattform Für Konzernpolitik wieder gesetzt.
29:25 Gavin Karlmeier
Soll ich mein Gefühl dazu äußern?
29:27 Dennis Horn
Sag mal.
29:28 Gavin Karlmeier
Ich habe so das Gefühl, dass so in der Tech-Welt. noch eine Rolle spielt und dass auch viele so Tech-YouTuberInnen und Content-CreatorInnen, die sich mit Tech-Themen auseinandersetzen und auch So, dass die da hingehen, weil es eben genau dieses Schlachtfeld ist, wie Nikita Bias ja selber bezeichnet hat, weil man das so toll findet, wie da so diese, das ist so die Cypher der Tech-Welt. Und deswegen geht man da hin und macht da mit. Und Mark Zuckerberg als jemand, der Kampfsport erfahren ist, fühlt sich dann natürlich auch wohl in dieser Welt. Aber trotzdem ist es irgendwie eine interessante Beobachtung, dass die Also ich glaube, aus der großen Gesellschaft hat Ex zumindest in Europa in weiten Teilen an Bedeutung verloren. Aber in dieser Welt ist es halt immer noch ein Ding und ich glaube, das wird es wohl auch erstmal bleiben.
30:14 Dennis Horn
Vielleicht ist es gleichzeitig damit eine Momentaufnahme an der Stelle und in diesem Kontext, Anlass ist ein gemeinsamer Brief. Veröffentlicht auf X am 24. Juli mit dem Titel Open Weights and American AI Leadership, unterzeichnet von Nvidia, Microsoft, Meta, IBM, Dell Palantir, Mistral, Hugging Face, Mozilla, der Linux Foundation, Andresen Horowitz, Y Combinator und die Liste geht noch deutlich weiter. Und die Forderung in diesem Brief, Washington soll offene KI-Modelle nicht pauschal einschränken, also Modelle, deren Parameter des Trainings veröffentlicht werden, sodass jeder sie irgendwie herunterladen, prüfen, ändern, ausführen kann. Und Jansen Wang hat diesen Brief als seinen allerersten Beitrag auf X ausgewählt. Er hatte innerhalb von Stunden über elf Millionen Aufrufe. Satya Nadella von Microsoft hat ihn am selben Tag geteilt. Elon Musk, dessen SpaceX übrigens nicht unterschrieben hat, hat trotzdem zugestimmt. Und das ist deswegen interessant, weil Anfang der Woche der Finanzminister der USA, Scott Bassant, chinesischen KI-Unternehmen mit Sanktionen gedroht hatte. Wegen Destillation. Nachdem das Weiße Haus zum Beispiel Moonshot AI vorgeworfen hatte für dieses Sprachmodell Chemika 3, das Fable-Modell von Anthropic destilliert zu haben. So, und der Brief sagt jetzt, Destillation, das ist eine gängige Entwicklungstechnik. Man sollte unrechtmäßige Extraktion gezielt juristisch verfolgen. Aber nicht offene Modelle pauschal beschränken. Und ausschließlich geschlossene Systeme zu nutzen, sei nicht automatisch sicherer, weil die auf eine Weise. kompromittiert werden oder versagen könnten, die für Außenstehende gar nicht erkennbar sei. Also es braucht an dieser Stelle Transparenz, sagt der Brief, und man muss dazu wissen, wer nicht unterschrieben hat. Das ist nämlich mindestens genauso interessant. OpenAI und Anthropic sind nicht dabei, also genau die Firmen mit den geschlossenen Modellen.
32:33 Gavin Karlmeier
Aber Elfebit auch nicht, ne? Google? Auch nicht unterschrieben.
32:36 Dennis Horn
Ich glaube, Google ist später dazugekommen. Ich hatte das irgendwo noch eben, ja, ja, genau.
32:41 Gavin Karlmeier
Ja, das ist so interessant, weil das jetzt so ein Motiv ist in der Tech-Welt sehr häufig erleben.
32:49 Dennis Horn
Dass du auf Entschuldige, äh, kann ich genau mittlerweile Google und Amazon auch dabei.
32:55 Gavin Karlmeier
Ist so interessant, weil es so ein Motiv ist, das so wiederkehrend ist. Dass man etwas baut und also das Unternehmer hieß OpenAI, ne? Die Idee war, das Ganze hier für die Menschheit zu entwickeln und so. Oder dass auch Elon Musk nicht unterschrieben hat, der aber gleichzeitig.
33:11 Dennis Horn
Das Open schon im Namen.
33:13 Gavin Karlmeier
Ja, genau. Fände ich auch immer lustig. Musk und SpaceX und SpaceX AI und SpaceX AIX. nicht unterschrieben haben, wie die nicht alle heißen, dass sie nicht unterschrieben haben, obwohl die ja ohne die Entwicklung anderer Leute da niemals gewesen wären. Also OpenAI, ChatGPT, weißt du, wer die Erfindung Chat-GPT diese Transformers entwickelt hat, Google. Heißt also, ohne die Entwicklung des Labors bei Google hätte OpenAI nichts. Anthropic ist aus OpenAI heraus entstanden. Heißt, Anthropic hätte ohne Google nichts vorzuweisen. Die ganze Tech-Welt basiert darauf, dass man voneinander lernt. miteinander arbeitet. Und es gibt diesen diesen Comic, dass eigentlich alles auf diesem kleinen Streichholz aufgebaut ist nach oben, dass eben eine Open Source Library ist, die irgendwo im Internet herumgeistert. Und genau so ist es halt. Deswegen haben natürlich Diese ganzen Unternehmen recht, dass man eben jetzt hier arbeitlich und das finde ich interessant, Andreasen Horowitz und Palantir und wer da nicht alles bei war. Meta. einen offenen Brief unterschreiben, der sich an die US-Regierung richtet, mit der Bitte, etwas nicht zu tun. Obwohl das die Unternehmen sind, die ja einen deutlich schnelleren Draht zu diesem, äh, zu der Regierung in den USA hätten Das ist schon, wie Robin Alexander sagen würde, ein bemerkenswerter Vorgang.
34:40 Dennis Horn
Ich musste gerade bei dir, also erst mal schmunzeln bei diesem Begriff des Briefs. Ich war gestern, war ich beim Arzt. und musste eben im Laborzimmer warten, dass ich irgendwie Blut abgenommen bekomme und hörte dann so eine Unterhaltung auf dem Flur. Von einer Sprechstundenhilfe mit meinem Arzt. Und die Sprechstundenhilfe sagt, ich kann doch jetzt nicht dieses ganze Dossier per E-Mail schicken, da fühle ich mich irgendwie nicht wohl. Und dann sagte mein Arzt zu ihr einfach diese drei Wörter Fax geht auch. Brief geht auch, habe ich gerade gedacht.
35:15 Gavin Karlmeier
Ich hatte vor einigen Jahren mal, um da direkt anzuschließen. vor einigen Jahren mal eine Computertomographie oder was auch immer, diese Röhrendinger von meinem Knie und habe von der da, wo ich das gemacht habe. Wie habe ich die Aufnahmen bekommen? Auf CD. Die wurden auf CD gebrannt. Und dann bin ich damit. Das ist noch heute so. Das ist drei, vier Jahre her. Kurz bevor wir Hakenmann gestartet haben. In dem Sommer, bevor wir, also 22. ? 23? Keine Ahnung. Auf jeden Fall habe ich diese CD mitgenommen und ging dann zu meinem Orthopäden und der hat gesagt. Was soll ich denn damit? Und ich dachte mir, oh krass, der ist so modern und so. Die brauche ich ausgedruckt. Ja, das ist wirklich toll.
36:03 Dennis Horn
Und da über die Geschichte habe ich jetzt irgendeinen anderen Gedanken vergessen, den ich noch hatte. Aber der wäre jetzt inhaltlich wichtig gewesen. Aber naja, man kann nicht alles haben. Also auf jeden Fall.
36:12 Gavin Karlmeier
Zurück zum Thema zu kommen. Interessant, dass man sich quasi über diese Öffentlichkeit sozusagen versucht, die Mehrheit zu holen, die man vielleicht auf direktem Weg zum Finanzminister nicht bekommen hätte. Erstens. Zweitens, wir können gleich ein bisschen in den Themen springen, aber das ist gerade eine sehr hitzige und spannende Diskussion, weil gleichzeitig in der US-Regierung sehr ähnliche Gedanken größer gedacht werden. Wenn du willst, können wir das gleich reinschieben. Und drittens finde ich es total interessant, dass man OpenAI und Enthropic nicht dazu gebracht hat, das mit zu unterschreiben, weil die ja zwar von dieser Destillation betroffen sind. Gleichzeitig aber, und das habe ich ja auch schon mal gesagt, offensichtlich so verlogen sind, weil ihre Trainingsdaten ja genau auf demselben Weg des Copyright-Diebstahls basieren, wie eben Destillation auch. Also da jetzt zu sagen, ne, wir haben das Also wir sind da hingegangen und haben das illegal heruntergeladen und jetzt klaut ihr das. Das ist natürlich albern
37:10 Dennis Horn
Naja, ich hatte eben noch die Gedanken, dass also diese ganzen Entwicklungen, wie du sie eben beschrieben hast. Das ist ja Wissenschaft. Also das sind ja wissenschaftliche Paper, auf denen das basiert. Und das wurde ja am Anfang auch in denen beschrieben und sowas gehört einfach öffentlich. Weißt du? Das ist ja Menschheitsfortschritt und allein auch schon aus diesem Gedanken. Weißt du? Voll, ja. Ist so. So. Sag mir kurz das Stichwort, worauf du hinaus wolltest. Ach, der Kill Switch. Nee, nee, das stimmt, genau. Der auch AI Kill Switch Act. So. So. Toller. Also versuch mal die Chronologie sauber hinzukriegen. Also. Wir hatten diese Geschichte mit GPT 5. 6 Soll und einem zweiten noch unveröffentlichten Modell.
38:04 Gavin Karlmeier
Insgesamt drei sogar? Drei Modelle. Haben von sich aus Hugging Face gehackt.
38:12 Dennis Horn
Genau. Wir sind aus ihrer Sandbox raus oder ihnen wurde ein Weg offen gelassen, dort rauszugehen, sagen wir mal. Und haben dann eine bis dahin unbekannte Lücke in der Software ausgenutzt, um sich Zugang irgendwie draußen zum Internet zu verschaffen. Dann Hugging Face angegriffen. Nicht irgendwie, um Nutzerdaten zu stehen oder irgendwas, sondern weil sie dort die Lösung vermuteten für die Aufgabe, die sie hatten und selbst, also im Grunde beim Test gespickt.
38:40 Gavin Karlmeier
Aber wie Klöckner sagte, zum Lehrer nach Hause gefahren und sich da direkt die Klausur abgeholt.
38:45 Dennis Horn
Fand ich sehr gut. 9. Juli, erster Ausbruchsversuch. Zwischen dem 11. und dem 13. Juli, also es lief über Tage. Der Angriff, sage ich mal. Und am 16. Juli hat Hugging Face den Vorfall öffentlich gemacht, ohne einen Verantwortlichen zu nennen, erstmal. Und dann hat am 21. Juli OpenAI gesagt, wir waren's. So Und es geht um 17. 000 einzelne Aktionen, die da irgendwie drin stattgefunden hatten. Und abgewehrt hat Hacking Face das Ganze übrigens mit Hilfe eines offenen chinesischen Modells. Weil geschlossene Modelle dafür nicht zur Verfügung standen. Das hat übrigens dieses Detail inzwischen in jedes politische Argument geschafft, das gerade in Washington irgendwie gemacht wird. OpenAI selbst hat gesagt, es ist ein beispielloser Cybervorfall mit hochentwickelten Cyberfähigkeiten. Und das lese ich nochmal vor, weil es sich lohnt. Der Kontrollverlust sozusagen wird zum Leistungsnachweis, kurz vor dem Börsengang. Und jetzt wird's politisch interessant, ähm, weil ähm Ted Leo, spreche ich ihn mal aus, von den Demokraten, ein US-Politiker, und Nathaniel Nathaniel Morin von den Republikanern, meine Güte, Leute, haben den AI Kill Switch Act eingebracht. Also Hersteller sollen technisch in der Lage sein müssen, ihre Modelle abzuschalten, zu drosseln oder auszusetzen. Und das Heimatschutzministerium in den USA soll das anordnen dürfen. Und vorgesehen sind in diesem Entwurf berichten zufolge Strafen von bis zu zwei Millionen Dollar pro Tag. Wenn diese Fähigkeit fehlt und bis zu 20 Millionen Dollar pro Tag, wenn sich ein Unternehmen einer solchen Anordnung Widersetzt. Und da gibt es eine Liste von covered incidents, also was fällt unter diesen Gesetzentwurf Und der definiert diese Fälle so, dass alles ausgenommen ist, was bei strukturierten Tests passiert. Also genau der Gefahr-Fall, der jetzt ausgelöst hat, dass darüber debattiert wird. Und jemand sich Gedanken macht, dass wir einen AI-Kill-Switch-Act brauchen in den USA, der wäre von genau diesem Gesetz nicht erfasst.
41:11 Gavin Karlmeier
Also die Diskussion, die kommt ja gerade gleichzeitig, und da fallen jetzt ein paar Nachrichten zusammen, weil deswegen ist es gut mit der Chronologie, weil gleichzeitig gerade darüber diskutiert wird, ob es eine Regulierungsbehörde für KI in den USA braucht, die also sozusagen jedes Modell prüft, bevor es auf den Markt kommt. Sprich, wir werden eigentlich an dem Punkt, über den wir als nicht US-Amerikaner schon häufig sorgenvoll berichtet oder gemutmaßt, dass er kommen könnte, nämlich als Ach, was war es denn? Ach, hier, ähm, Claude Mythos und Fable Five wurde ja zurückgepfiffen von der amerikanischen Regierung. Weil eben die amerikanische Regierung gesagt hat, das ist zu gefährlich, bitte bietet es nicht an, es gibt zu viele Jailbreaks, es kann ausgenutzt werden und im Zweifel damit eben ein beispielloses Verfahren auch dargeboten hat, nämlich gezeigt hat. Leute im Ausland dürfen nicht die neueste Technologie nutzen, die uns zur Verfügung steht. Bedeutet also auch, dass die eine Technologie entwickelt haben dort in den USA. die enthauptik eine Technologie entwickelt hat, mit der Sicherheitslücken nahezu jeder Software auffindbar gewesen wäre. Und die US-Regierung hätte sagen können: das bitte nutzen nur wir. Und das ist halt gerade in diesem globalen Wettrennen, in dem wir eigentlich in Europa nahezu überhaupt nicht mitspielen. ist es natürlich eine fatale Entwicklung, weil es noch einmal zeigt, wie abhängig wir am Ende tatsächlich von den USA sind. Und wenn du diese ganzen Dinge jetzt zusammennimmst, das zum Beispiel die USA. jegliche Form der Open Weight Modelle verbieten würde, zum Beispiel, plus diesem Kill-Switch, plus einer Regulierungsbehörde, dann bist du an dem Punkt, an dem du de facto den Markt beschränkst und sagst Ihr entwickelt jetzt bitte ausschließlich für die USA und wenn wir den Daumen heben, dann dürft ihr es auch in andere Länder exportieren. Und das ist halt wirklich das Gegenteil von Innovationsförderung. Wobei man gleichzeitig dazu sagen muss. Dass, wenn die Regierung jetzt nicht Donald Trump geführt wäre, ich trotzdem verstehen könnte, dass es eine Aufsichtsbehörde für KI-Systeme bräuchte, wenn sie eben tatsächlich in der Lage sind, von sich aus die komplette Tech-Welt auf links zu drehen. Weißt du, was ich meine? Also klar macht man hier Marketing mit Katastrophen, aber der Prozess, der Vorgang, der hat ja tatsächlich stattgefunden. Dass Sicherheitslücken ausgenutzt wurden, dass Technik angegriffen wurde und so weiter. Und dass man da überlegt, irgendwie eine Art Sicherheitsmantels zwischenzulegen, ist erstmal nicht ganz doof, würde ich vom Gefühl her sagen.
43:51 Dennis Horn
Ja, also die, die ich finde dieses Bild, dieses Kill Switch-Bild, ne, das ähm Da habe ich so meine Probleme mit, weil alles, was nach Science-Fiction-Film aussieht oder sich anhört, versperrt immer so einen Blick auf die Wahrheit oder auf das, was gegeben ist, weißt du? Aber tatsächlich eine solche Bei einer Technologie, bei der wir sagen, die entscheidet jedes Mal ein bisschen anders und wir haben keine Vorhersehbarkeit. Ist die Diskussion über eine Sicherungsschicht sehr sinnvoll.
44:28 Gavin Karlmeier
Ich hätte diesen Kill Switch-Gan bei jeder Google-Suchanfrage für mich. Wobei ich dazu sagen muss. Ich bereite ja im Moment die Was wurde eigentlich Ausfolge vor. Also wenn ihr wollt, könnt ihr mir immer noch Fragen schicken, was wurde eigentlich aus, es wird im Sommer so als kleine, ähm, das. . . Geschenk wird es im Sommer eine Episode geben, wo ich nur solche Fragen abarbeite und durchrecherchiere. Eine Frage, die mich mehrfach eraltert war, was wurde eigentlich aus dem Fakt, dass Gavin immer noch keine KI-Übersicht bei Google hat und das greife ich schon mal vor, Ich habe immer noch keine AI-Summary in meinen Google-Anfragen, wenn ich eingeloggt bin.
45:00 Dennis Horn
Bei mir ist alles da.
45:01 Gavin Karlmeier
Ja, wenn ich im privaten Tab bin oder mich auslogge, habe ich das auch. Aber in meinem Kampf nicht.
45:07 Dennis Horn
Ja, Rollout. Hashtag Rollout, sag ich da. Ich würde gerne ganz kurz mit dir, weil wir gerade so ein bisschen das streift, das Thema irgendwie, worüber wir gesprochen haben, ich würde gerne einmal kurz mit dir darüber sprechen, wie Sam Altman bitte seine Wochenenden verbringt. Also wir wissen jetzt, er hat an einem Satz. Samstagnachmittag irgendwie drei bis vier Stunden da gesessen und sich von TikTok süchtig machen lassen. Dann war der jetzt in diesem Podcast How to Start a Startup irgendwie zu Gast oder wie er heißt. Jetzt hat er auch noch im Podcast Relentless einen Auftritt gehabt, wo er gesagt hat: Meine Damen und Herren, wir befinden uns jetzt in der Singularität sozusagen. Müssen wir den Begriff erklären? Ja, das sollten wir. Also Singularität ist der Punkt, an dem sich die Fähigkeiten denkender Maschinen, sagen wir mal so, so abstrakt. So sehr beschleunigt haben, dass sie sich selbst weiterentwickeln können und unserer Kontrolle, also der menschlichen Kontrolle entziehen. So, und er sagt, da sind wir jetzt. So. Und sagt aber auch, hab mein ganzes Leben darauf gewartet. Und ich glaube, es wird unglaublich positiv. Für die Welt. Das ist nicht neu, weil.
46:18 Gavin Karlmeier
Das ist genau der Satz, den ich immer sage, wenn ich ein Gleis 1 der ICE34 einfährt.
46:24 Dennis Horn
Mein ganzes Leben darauf gewartet. Aber das ist nicht unglaublich positiv für die Welt, weil das Bordbistro schon wieder geschlossen ist. Oh, ich habe.
46:31 Gavin Karlmeier
Also ich will mich abschweifen.
46:33 Dennis Horn
Bitte mach weiter. Okay. Das machen wir später in unserem Spin-Off-Podcast. Also, Sam Altman hat vor fast genau einem Jahr schon mal einen Blogartikel geschrieben: The Gentle Singularity, hieß dam. Und er hat geschrieben, die Menschheit sei jenseits des Ereignishorizonts der Aufschwunghabe begonnen. Also, man kann festhalten, wir überschreiten die Singularität jedes Jahr, nochmal aufs Neue, laut Sam Ortmann. Und jetzt diese neue Aussage im Podcast kommt wenige Tage nach diesem Vorfall Den wir eben beschrieben haben mit Hugging Face und kurz vor dem geplanten Börsengang. Ortmann setzt auch noch einen Seitenhieb auf Anthropic drauf in diesem Podcast. Einige der alternativen Visionen, die von anderen Unternehmen gezeichnet würden, seien ziemlich beängstig, das finde ich lustig, dass er das sagt, seien ziemlich beängstigend. Und er werde dafür sorgen, dass es nicht dazu komme. Ich finde das eine beachtenswerte rhetorische Leistung, dass gerade er sich irgendwie jetzt dazu hochschwingt, Warnungen der Konkurrenz zur eigentlichen Zumutung zu erklären, während er selbst auch dauernd warnt. Hier aber sagt, wird alles sehr gut für die Menschheit. Das ist doch völlig wirklich.
47:55 Gavin Karlmeier
Das Problem an diesem Begriff Singularität ist ja, und es ist wie mit AGI. Alle sagen auch immer, bald ist AGI da, die General Intelligence und die kann dann alles und weiß alles und so. Und ich glaube, das ist so ein Zustand, den wir den man schwierig messen kann, wenn du die Singularität so definierst. wie du das jetzt gemacht hast und wie er das hier tut, dann muss man sagen, ja gut, sobald ein KI-System sich selber weiterentwickeln kann, ob es ein Chatbot ist oder was auch immer, sich selber weiterentwickeln kann. Dann muss man sagen, sind wir an dem Punkt schon seit Jahren, äh, Monaten, weil Anthropic macht das die ganze Zeit. Ständig droppen die irgendwelche neuen Produkte, die eben genau vor allem sich selber gewipecodet haben. Vielleicht mit einem Human in the Loop oder mit ziemlicher Sicherheit sogar, aber Trotzdem, das ist so. Wenn Singularität aber bedeutet, da ist jetzt eine Maschine, die das Denken des Menschen in In Millisekunden komplett überschreiten kann und uns längst eingeholt hat und auch in Millisekunden Geschwindigkeit immer weiter sich verdoppelt und verbessert und uns längst abgehängt hat, dann muss man sagen, da sind wir einfach noch nicht Und das wird wohl auch noch ein bisschen dauern, bis wir an diesem Punkt sind. Ich finde aber interessant, weil Sam, ich will das hier jetzt gar nicht so sehr wissenschaftlich auseinander sind, wenn andere jetzt schon viel gemacht haben und tun. Ich möchte viel mehr über diesen Du hast es Rhetorik genannt, aber ich will es diesen Marketingprozess nennen, der dahinter steckt. Weil man muss ja mal ganz ehrlich sein: Sam Altman hat nur zwei Joker. Das eine ist, die AGI ist da und das andere ist, wir sind am Punkt der Singularität. Das heißt, der Zeitpunkt, zu dem er diesen Joker zieht, der muss sehr wohl überdacht sein. Und den wird er jetzt nicht gezogen haben. Übrigens interessant, dass er in so einem Podcast macht, der heißt ihn Energy Drink und jetzt nicht irgendwie groß in einem eigenen Manifest. Aber naja, meinetwegen. Aber dass er hier diese Joker Singularität zieht, sagt dir eigentlich was ganz anderes aus. Und die Frage ist Was sagt es aus? Sagt es aus A, dass der OpenAI-Börsengang, den viele ja schon sozusagen auf unbestimmte Zeit in die Zukunft verschoben gesehen haben. Dass der vielleicht doch bald schon kommt, also dass man sich gerade irgendwie darum kümmert, doch ein gutes Framing zu bauen, gute Storys zu erzählen. Oder ist der Grund, dass dieser Hugging-Face-Vorfall möglicherweise an der öffentlichen Wahrnehmung der Marke oder des gesamten. . Bereiches vielleicht so sehr gekatztert, dass es sagt, wir spielen das jetzt aus, um uns wieder ein bisschen positiv in die Presse zu bringen. Oder aber ist die Angst vor Anthropic so groß, dass man sich hier wieder als den Posterboy aufstellen muss, um eben nicht noch weiter von Anthropic abgehängt zu werden. Alles sind mögliche Optionen. Ich habe die Antwort nicht, aber ich finde diesen Prozess, ich finde es ein bemerkenswerter Vorgang, Dagmar.
50:45 Dennis Horn
Das ist übrigens ganz interessant. Ich würde sagen, diese. Kratzer und Schrammen nach dieser Hugging-Face-Nummer, das habe ich das erste Mal so wahrgenommen. Also ich finde, dass das Marketing vorher immer ganz gut verfangen hat. Und auch jetzt gab es genug und übrigens auch Medienberichterstattungen, die genug von diesem Ah, guck mal, die selbstdenkenden Maschinen übernehmen die Weltherrschaft. Und so. Also davon gab es auch wieder genug. Aber die Kritik an OpenAI und Leute, das meint ihr doch jetzt nicht ernst. Die fand ich diesmal das erste Mal wirklich schon wahrnehmbar laut. Das heißt, er muss auch lautere Joker ziehen, würde ich sagen. Um dagegen noch anzukommen, aber wie du sagst, es bleiben nicht mehr viele übrig. Ich würde noch einen dritten Joker hinzufügen: OpenAI einfach mal schwarze Zahlen schreiben lassen.
51:33 Gavin Karlmeier
Ja, aber da liegt es nicht in seiner Hand, wann er den zieht.
51:36 Dennis Horn
Das stimmt wohl. So.
51:39 Gavin Karlmeier
Können wir noch kurz bei Hugging Face bleiben? Weil wir haben da dazu noch eine Entwicklung. Ich hoffe, die ist hier überhaupt in unserem Doc. Vielleicht auch nicht. Na dann, erzählen wir es nicht.
51:49 Dennis Horn
Doch, doch, doch, doch, doch, doch, doch. Also Hugging Face und OpenAI. Genau. Am Anfang haben beide Unternehmen betont, wie gut sie kooperieren. Da hat sich der Chef von Hugging Face in einem OpenAI-Blog-Artikel mit den Worten zitieren lassen: er sei dankbar für die Zusammenarbeit.
52:12 Gavin Karlmeier
Zynismus gelesen werden übrigens. Ja, schönen Dank übrigens.
52:16 Dennis Horn
Ende vergangener Woche hat er auf X dann zwei Forderungen formuliert. Erstens: Rechenkapazität im Wert von einhundert Millionen US-Dollar, die der Hugging-Face-Community helfen sollen, sich besser gegen Cyberangriffe zu verteidigen. Und zweitens, radikale Transparenz. OpenAI solle in einem detaillierten Bericht veröffentlichen oder solle einen detaillierten Bericht veröffentlichen, damit Forscher untersuchen können, was passiert ist. Da hat OpenAI dann am Wochenende angedeutet, zumindest dieser Forderung nachzukommen. Man befinde sich in einer gründlichen Überprüfung. In den kommenden Wochen soll ein technischer Bericht folgen. Ansonsten zum Beispiel übrigens von Strafverfolgungsbehörden bisher keine größere Reaktion Und ob OpenAI da diese 100 Millionen zahlt, weiß ich auch nicht. Aber interessant ist die rechtliche Frage dahinter. Wer haftet in so einem Fall, bei dem ein Unternehmen irgendwie Für Schäden vielleicht eintreten müsste, die dieses Modell aber selbstständig angerichtet hat. Das sind ja auch Begriffe rechtlicher Natur, die noch gar nicht richtig existieren. Und das wird wahrscheinlich auch eine Fragestellung für Hugging-Face gerade sein, wie man dagegen überhaupt vorgehen kann.
53:25 Gavin Karlmeier
Naja, um in einem Bild von unserem Kollegen Hagen-Terschüren zu bleiben, der gesagt hat, naja, was da passiert ist, dass jemand hat mit einem Maschinengewehr in die Luft geschossen und dann wundert man sich, dass man dass die Kugel jemand getroffen hat. Wenn wir in dem Bild bleiben. Das Maschinengewehren müsste nicht ins Gefängnis.
53:41 Dennis Horn
Das stimmt. Geht ja auch der Einbrecher und nicht nur dessen Hände. Hatten wir doch auch mal als Bild, oder?
53:51 Gavin Karlmeier
Das ist sehr schön. Wir haben auch noch eine Meldung zu Hugging Fox. Sorry, ich toppe dir hier deinen Ablauf, aber es gibt sich so alles so die.
53:58 Dennis Horn
Gavin, dein Ablauf ist mein Ablauf.
54:02 Gavin Karlmeier
Ich freue mich schon, wenn ich diese Folge nachher upload.
54:07 Dennis Horn
So, was haben wir noch mehr Hugging Face? Hast du Hugging Face?
54:10 Gavin Karlmeier
Ja, wir haben noch eine Meldung zu Hugging Face.
54:12 Dennis Horn
Wir haben natürlich das Deepfake-Problem. Sag ich mal. Genau. Also, die gibt eine europäische gemeinnützige Situation, die müssen wir vorher etablieren, die heißt AI Forensics. Und die hat einen Bericht veröffentlicht, über den das Wired Magazine schreibt. Und zwar haben Forscher von iForensics 9 der beliebtesten Bildbearbeitungspaces auf Hugging Face getestet. Also das sind
54:38 Gavin Karlmeier
Ganz kurz erklären, wie Hugging Face funktioniert. Also Hugging Face ist so eine Mischung aus GitHub, einem Hoster und einer Schnittstelle zu KI-Modellen, die entweder lokal gehostet sind bei Hugging Face selber. Wo du dann dort für deine Token bezahlst, oder du kannst eben auch Schnittstellen zu anderen nutzen. Du kannst sagen, ich gehe jetzt hier direkt zu Gemini oder whatever. Deswegen ist das sehr beliebt. Also, ich habe das in der Folge mit Eva Wolfangel letzte Woche schon mal gesagt. Wenn man mit Claude Coach schon mal irgendetwas gebaut hat, das eine weitere Schnittstelle zu einem LLM benötigt, wird dir Claude selber vorschlagen, das Ganze bei Hugging Face hochzuladen.
55:14 Dennis Horn
Genau, also auf Empfehlung und man nennt diese einzelnen Dinge dort Spaces auf Hugging Face und da gibt es dann zum Beispiel Bildbearbeitungsspaces. Und es gibt neun, die Sehr beliebt sind, die hat AI for Rancix getestet und sieben davon ließen sich mühelos einsetzen als New Defy. ähm Routine sozusagen. Also konnten das Bild einer bekleideten Frau in ein Bild ohne Oberteil verwandeln. Und die haben übrigens nichts umgangen oder gehackt, sondern eine Eingabe aus immer sechs gleichen Wörtern. Und die lautete gleiche Pose, gleiches Gesicht. Oben ohne. Das war's. Und dann haben sie auch noch eigene Spaces eingerichtet bei Hugging Face. Sie haben so als Honeypot sozusagen gedient. Und eine Woche lang mitgezählt, was die Leute dort eingeben. Das waren dann über 1000 Prompts, drei Viertel davon waren sexueller Natur. Und von denen die meisten, über 80%, Nudify-Anweisungen, also die abgebildete Person irgendwie zu entkleiden oder zu sexualisieren. Und in 95% dieser Fälle ging es um Frauen. Und 6,7 Prozent, da ging es um Kinder. Und der zentrale Befund ist einer über die Architektur, also AI Forensics. Sagt im Grunde, auf Plattformene gibt es überhaupt keine Sicherheitsvorkehrungen. Nur der jeweilige Entwickler, also derjenige, der diesen Space dort aufsetzt, kann welche einbauen. Die meisten tun das nicht. Dabei könnte Hugging Face laut den Forschern problemlos filtern, was geht in so ein System rein und was kommt heraus. Da sind wir im Grunde in der alten Plattformdebatte. Und die Modelle bewerben sich auch gar nicht als New Defy-Dienste, sondern als allgemeine Bildbearbeitung. Genau.
57:16 Gavin Karlmeier
Aber klar, überall, wo du einen Prompt eingeben kannst, kann auch alles dabei rauskommen, wenn er die KI dazwischen steckt. Ich finde, dass wir da wieder an einem Punkt stehen, an dem wir schon oft in diesem Podcast standen, nämlich der Frage, was ist denn jetzt Rede? Also wir haben die Section 230 in den USA oder hier eben dieses Provider-Privileg, dass du als Plattformanbieter nicht dafür haftest, was bei dir hochgeladen wird. Leute, die diesen Podcast schon ein einziges Mal gehört haben, kennen das alles. Das Dilemma ist, dass alle Unternehmen eigentlich alles als Rede framen. Also alles ist immer unterliegt der Redefreiheit. Alles kann von allen gemacht werden, wenn ihr das hier hochladet, das ist alles freie Rede. Die Frage ist halt, ob ein Code auch freie Rede ist und wenn dieser Code von allen Menschen benutzt werden kann, ob die Plattform wirklich sagen kann, das ist alles freie Rede. Ich bin da nicht ganz sicher an diesem Punkt und glaube, wir brauchen tatsächlich, also ich bin aus bekannten Gründen kritisch, was die Abschaffung von Section 230 im Gesamten betrifft, in den USA wird das ja immer wieder diskutiert, eine Novelle braucht es auf jeden Fall, um mal eine Linie zu ziehen, was alles Rede ist.
58:28 Dennis Horn
Das wäre wünschenswert.
58:31 Gavin Karlmeier
Weil dann würde Hugging Face nicht sagen, uns regal, alle können alles hochladen, wenn Hugging Face für jeden einzelnen Verstoß Gegen den Take-it-Down-Act, der nämlich Deepfakes und Generellen von Menschen, die dem nicht zustimmen, Verbote ausspricht Wenn sie für jeden Verstoß zahlen müssten, haften müssten, dann wäre das Ding relativ schnell mit relativ vielen Guardrails ausgestattet.
58:55 Dennis Horn
Ja, das Plattformprivileg eigentlich als größtes Thema unserer Zeit nach wie vor und jetzt auch in dieser Ausprägung. Und die Definition der Frage, was bedeutet eigentlich Rede, ähm, noch als das nochmal zugrunde liegendere Thema Interessanter Blick, finde ich. Ich würde gerne einen neuen Fall aus der Kategorie Teilen-Button. Hier noch ins Feld führen. Das habe ich auch sehr gemocht. Also, da ist eine ganze Reihe von Chats und Projekten. Aus Claude von Anthropic bei Google gelandet und damit für jeden auffindbar. Futurism berichtet darüber. Was ist passiert? Da haben Nutzerinnen und Nutzer auf Teilen geklickt in Clote, um. einen dieser Chats jeweils an zum Beispiel Kollegen oder Geschäftspartner weiterzugeben. Und wenn du in Cloud auf Teilen klickst, dann steht da Das wird jetzt ein öffentlicher Link, den jeder mit dem Link einsehen kann. Was dort nicht steht, ist, Suchmaschinen indexieren das dann auch.
01:00:07 Gavin Karlmeier
Wie kann das sein? Ich bin da schon. Ja, sorry.
01:00:12 Dennis Horn
Ja, also erstmal zwischen ich schicke das drei Leuten, was diese Menschen wahrscheinlich vorhaben, und ich veröffentliche das im Internet, da liegen ja nochmal Welten. Und in dieser Warnung Lieg genau ein Halbsatz dazwischen. Das finde ich schon mal Wahnsinn. Und erstmal, was da passiert ist, was wurde da gefunden. ein detaillierter medizinischer Bericht über einen echten Patienten. Da waren Ergebnisse klinischer Studien mit Patientennamen drin, Dokumente mit Namen und Telefonnummern von Grundschulkindern. Da waren als intern gekennzeichnete Unternehmensdokumente dabei, da waren Mitarbeiterbewertungen mit persönlichen Informationen dabei, also all diese Dinge, wo du genau weißt, das soll nicht öffentlich. Werden. So, und ich fand es ganz interessant. Mir ist der Link zum Beispiel untergekommen und ich habe ihn gepostet in unseren Discord. Discord-Werbung jetzt?
01:01:05 Gavin Karlmeier
Au www. hakmann. org sind über 2350 Menschen, die sich die ganze Zeit über solche Themen hier auseinander beschäftigen, austauschen, lustiger sind, als wir schlauer sind, als wir schneller sind als wir, weil wir erscheinen nur dreimal die Woche. die auch ehrlicherweise ein bisschen weniger über KI reden als wir, sondern ein bisschen mehr über Social Media. Aber tolle Leute, macht ultra viel Spaß, kommt alle da vorbei, www. hakmann. org. Es kostet gar nichts und bringt sehr viel. Ende. So.
01:01:28 Dennis Horn
Und da war auch die erste Reaktion: so ein Nutzershaming, weißt du? Also so, ja, Leute. Und ich kann das verstehen aus einer technisch versierten Sicht. Und so hat übrigens auch Anthropic geantwortet, das System funktioniert ja wie vorgesehen. Man gibt keine Chat-Verzeichnisse oder Sitemaps an die Suchmaschinen weiter. Die Links seien nicht erratbar. Und wer eine Unterhaltung teilt, macht diesen Inhalt aber trotzdem eben öffentlich zugänglich. Das, also formal alles korrekt. Und trotzdem schon mal. Mal wieder die Standardantwort der Branche, das Produkt verhält sich doch so, ist so. Teilen ist ja dann öffentlich. Also der Fehler liegt beim Menschen. Und das finde ich ehrlich gesagt nur die halbe Wahrheit, weil wir wissen, wie Menschen Tech bedienen. Und solche Feinheiten eben nicht unterscheiden. Und wir haben in den ganz frühen Episoden, als es um Social Media ging, Auch mal über diesen Begriff der öffentlichen Privatheit oder privaten Öffentlichkeit. Keine Ahnung, wie, wie rum so, gesprochen. Das heißt, du Du setzt was ins Internet in der Annahme, was natürlich faktisch und formal öffentlich ist, aber in einer Annahme, dass es diese Öffentlichkeit nicht erfährt. So. Und ich sehe hier einen Teil des Fehlers einfach auch bei Anthropic.
01:02:50 Gavin Karlmeier
Hundertprozentig, weil das ein absolut unnötiges Versäumnis ist, hier entweder Generell eine Robots-Texte dazuzulegen, um zu sagen, das wird hier einfach nicht gecrawlt. Fertig. Oder es zum Beispiel wie eine Notion zu lösen. Ich kann ja mal hier in den Maschinenraum von Haken dran ein bisschen lüften. Wir arbeiten mit Notion. Das hat verschiedene Gründe. Vor allem der zentrale Grund ist eine relativ gute Datenbankstruktur, damit wir relativ easy. . uns links links sammeln können, die sich irgendwie füllen und bla bla bla. Egal, ich will euch da nicht langweilen. Wenn euch das interessiert, erzähle ich das irgendwann mal, aber Tut gar nichts zur Sache, aber wenn ich meinen Gästen wie dir zum Beispiel, Dennis, den Link zum Dokument schicke, dann klicke ich auf Teilen. Und dann gibt es zwei Möglichkeiten. Entweder ich teile das mit Leuten, die in meinem Notion Space sind, Das kann aber mitunter ins Geld gehen, weil du für jedes Profil Geld zahlen musst, oder du kannst es publishen. Wenn du auf Publish klickst Dann erstellst du einen Link, der nicht auffindbar ist, weil der mit ganz vielen Zahlen und Buchstaben ausgestattet ist, den ich dann weiterschicken kann. Theoretisch kann den jeder öffnen, aber den hat halt keiner. Und ich habe darin die Einstellungsmöglichkeit, dass sie von Suchmaschinen indiziert werden kann. Die ist standardmäßig aus. Wenn ich das möchte, schalte ich das ein. Das hätte einfach Anthropic hier tun müssen. Anthropic hat natürlich recht, dass sie sagen, ja, it works as intended, aber dann ist halt die Intention schon scheiße gewesen, wenn das die Absicht gewesen ist, weil. Offensichtlich, kein Mensch möchte, dass automatisch alle Dinge, die ich teile, von Suchmaschinen gefunden werden. Das kann nicht die Absicht sein, vor allem dann nicht, wenn es sich um private Chats mit einem Chatbot handelt, bei dem man das Gefühl hat, man ist ja gerade in so einem One-on-One. Und ich glaube auch, dass die Leute, die Arztberichte mit Menschen teilen. Sehr genau überlegt haben, wen sie das schicken. Dass es jetzt erstmal grundsätzlich ein bemerkenswerter Vorgang ist. Danke, Robin Alexander, Sie hier. Ich habe das irgendwie in mir jetzt. Ich mag die Formulierung so. Dass man den Chat mit dem Chatbot mit dem Arztbericht mit jemandem teilt und nicht den Arztbericht selber, aber das zeigt halt nur, wie Menschen mit der Technologie, die man ihm gibt, umgehen.
01:04:56 Dennis Horn
Oder wie verklausuliert Arztberichte sind.
01:04:59 Gavin Karlmeier
Auch das, ja, ja, ja. Klar, aber Anthropic müsste das besser wissen. Und auch wenn sie sich damit rausreden, ich halte das für tatsächlich einfach ein Versäumnis. Ich glaube nicht, dass es Absicht ist. Weil sonst hätten sie es beworben.
01:05:16 Dennis Horn
Was auch nicht Absicht ist, ist, dass wir jetzt schon wieder bei einer Stunde sind.
01:05:25 Gavin Karlmeier
Ja, das ist unglaublich. Die Leute sagen, Gavin, mach mal Urlaub, Leute.
01:05:31 Dennis Horn
Wie denn? Hier ist das Sommerloch nicht, lieber Abend.
01:05:37 Gavin Karlmeier
Ganz genau. Und das, obwohl wir in der Flensburger Förde wieder eine Wahl haben. Aber lasst uns doch noch kurz über die Google- und DMA-Strafe sprechen. Da sind wir schnell durch. Und das müssen wir aber der Vollständigkeit halber jetzt erzählen, weil nächste Woche. Auch durch.
01:05:50 Dennis Horn
Ich muss das schon wieder suchen. Also, es ist wirklich, also, das ist wirklich eine lange, lange Liste. Und immer wenn ich lang sage, scroll ich nochmal ein Stück. Um irgendwann bei den 890 Millionen zu landen.
01:06:06 Gavin Karlmeier
Ich kann ja aber schon mal anfangen zu erzählen und dann löste mich ab. Oder bitte.
01:06:09 Dennis Horn
Ich bin schon da. Ich bin schon da. Also, es ist die dritte DMA-Strafe nach Apple und Meta. Die EU-Kommission hat gegen Google Geldbußen von insgesamt acht hundertneunzig Millionen Euro verhängt. Und zwar in zwei getrennten, voneinander getrennten Entscheidungen. Wir fangen mal mit der einen an. 460 Millionen für die Selbstbevorzugung in der Suche. Die EU-Kommission sieht es als erwiesen an, dass Google eigene Angebote gegenüber Konkurrenten bevorzugt, optisch hervorgehoben, mit Filtern versehen, ganz oben platziert, konkret Shopping, Hotels, Flüge, Sportergebnisse. Und 430 Millionen Euro für die Anti-Steering-Regeln bei Google Play. Was heißt das? Nach dem DMA müssen App-Entwickler ihre NutzerInnen kostenlos über günstigere Kaufoptionen außerhalb des Play Stores informieren und dorthin verlinken dürfen. Und Google habe das verhindert durch vertragliche Hürden und überhöhte und zu lang laufende Gebühren. So, also Zusammengerechnet 890 Millionen Euro und Google hat jetzt 60 Tage, sonst drohen Zwangsgelder, von bis zu 5% des weltweiten Tagesumsatzes. Google wiederum will klagen und spricht Nicht von unfairem Wettbewerb oder so, sondern von Produktdegradierung. So.
01:07:35 Gavin Karlmeier
Was wollt ihr denn noch? Ihr habt wie viel? 95% Marktanteil im Suchgeschäft?
01:07:41 Dennis Horn
Was? Ja. Was? Darf ich vielleicht noch eine Dimensionierung kostenlos mit dazugeben? Alphabet setzt im Jahr über 400 Milliarden US-Dollar um. Also diese Strafe liegt bei deutlich weniger als einem Prozent des Umsatzes. Theoretisch wären nach dem DMA bis zu zehn Prozent möglich gewesen, bei Wiederholung bis zu zwanzig Prozent. Und da gibt es übrigens einen Europaabgeordneten der CDU, Andreas Schwab, der dazu sagt, die Kommission kneift. So. Und auffällig ist übrigens auch, wer die Entscheidung, weil wir hier immer über diese politischen Implikationen sprechen, wer die Entscheidung verkündet hat. Das war weder Ursula von der Leyen noch der zuständige Digitalkommissar. Es war. dessen Sprecher. Also es wirkt irgendwie so, als möchte man das Thema nicht mit den handelnden Personen in Verbindung bringen, um bloß nicht Washington zu verärgern. Was natürlich nicht funktioniert hat, genau. Donald Trump hat noch am Freitag eine, sagen wir mal, handelspolitische Grundsatzuntersuchung angekündigt gegen die gesamte EU. Nach Sektion 301 des US-Handelsgesetzes. Und er sagt, die Europäer werden einen sehr hohen Preis zahlen und spricht von neuen Zöllen. So.
01:09:02 Gavin Karlmeier
Interessant finde ich, dass Google das jetzt umsetzen muss, was du eben alles vorgetragen hast, aber zum Beispiel im Fall der Google-Suchtdaten dürfen sie einen angemessenen Preis für die Daten An die Konkurrenz verlangen. Heißt also, sie müssen das nicht umsonst abgeben, was natürlich irgendwie auf eine Art nachvollziehbar ist. Auf der anderen Seite, und da sind wir wieder bei der Werbung, und jetzt schließt sich der Kreis zu vorhin. stellt sich dann so ein bisschen die Frage, wenn ich mein Gesetz nutzen möchte, ist das dann so, ist das so im Sinne des Erfinders, wenn ich Google jetzt damit bestrafe, dass sie Geld nehmen dürfen für ein Produkt, das sie vorher nicht verkaufen wollten? Oder ist nicht einfacherer Markteintritt, weil das ist, was der DMA ja festlegen möchte. Der DMA legt der Gatekeeper fest, die nicht, also Torwächter ist der deutsche Begriff. die den Markteintritt für neue Konkurrenz erschweren würden. Das ist ja die Definition von Gatekeeper. Und wenn Google dann sagt, ja, könnt ihr machen, kostet 300 Millionen Dollar. Weiß ich nicht, ob du einen Kredit kriegst für 300 Millionen Dollar, um ein paar Suchtdaten von Google zu kaufen. Da bin ich mir einfach nicht sicher.
01:10:06 Dennis Horn
Wir verfolgen das. Mir ist das, ähm, du, ehrlich gesagt, ähm Kann alles, weiß ich nicht, so oder so passieren. Hauptsache, ich kann aus der Suchmaschine heraus irgendwann mal wieder auf Google Maps kommen. Das ist, was mir am wichtigsten ist. Danke EU.
01:10:22 Gavin Karlmeier
Der Trick ist, rechts auf die Adresse zu klicken. Wenn es einen Eintrag hat, dann landest du in Google Maps.
01:10:27 Dennis Horn
Ja, aber das ist ja auch nicht immer so. Nervt. Ich wollte es sagen. Also die digitale Version des, äh, des Flaschendeckels.
01:10:40 Gavin Karlmeier
Okay, Boomer. Wie viele der zehn Jugendwortvorschläge kennst du denn, Dennis?
01:10:48 Dennis Horn
Du bist gut genug. Ja. Schere.
01:10:52 Gavin Karlmeier
Ja.
01:10:53 Dennis Horn
Irgendwas mit Käse. Ja, gute Käse. Gute Käse. Crash Out. Crash Out natürlich, Crash Out. Ja, 6×7. Six Seven und ich komme noch auf zwei Digger. Digger ist krass, dass es jetzt dabei ist.
01:11:06 Gavin Karlmeier
Und Rage Spade. Und da will ich kurz was zu sagen, deswegen erzähle ich das hier. Ich habe, als das Oxford World of the Year gewählt wurde, letztes Jahr. Das war Rage Bait. Ihr könnt es nachhören, in Haken drin habe ich gesagt, dass es so zeigt, wie so unser kulturelles, gesellschaftliches Verständnis von Internetkultur ist in Deutschland. Und da werde ich richtig wütend. Dass das jetzt ein Jugendwort ist. Genau. Und das habe ich gesagt. Ich habe gesagt, da ist es Oxford Wort des Jahres, Rage Bait. Und in Deutschland würde es maximal Jugendwort des Jahres werden. Und jetzt ist es hier in der Jugendwort des Jahresliste. Und das Wort des Jahres wird dann wieder so ein Begriff, den die Bildzeit. Und das ist alles legitim und hat natürlich im gesellschaftlichen Diskurs seine Berechtigung, aber ein großer Teil der Gesellschaft kommuniziert in digitalen Plattformen. Benutzt diese Begriffe, sagt Rage Spade und kennt den Begriff Crash Out, und dann kann man das auch mal als Wort des Jahres diskutieren, auch wenn es vielleicht ein Nagizismus ist.
01:12:01 Dennis Horn
Nein, das macht man hier nicht, weil Fax geht auch.
01:12:03 Gavin Karlmeier
Ja, aber das ist Peak Deutschland, Digga.
01:12:07 Dennis Horn
Und auch das war Rage Bay. Damit teasen wir auf diese Episode hier, mit deinem Crash-Out am Ende.
01:12:13 Gavin Karlmeier
Okay.
01:12:13 Dennis Horn
Sehr schön.
01:12:13 Gavin Karlmeier
Wer sagt denn am Ende? Ich habe hier noch was. Ah, was hast du denn noch? Nee, ich wollte nur ganz kurz. Ach, nee, machen wir doch nicht. Aber komm, egal.
01:12:22 Dennis Horn
Die Leute werden verrückt, wenn du das jetzt machst. Das geht nicht.
01:12:24 Gavin Karlmeier
Ich wollte mit dir noch über Bayreuth sprechen und dass dort eine Darbietung von KI. . Egal. Das spreche ich dann am Freitag mit Elisabeth Lorange. Aber ich möchte mit dir noch ganz kurz Funktionen und Emotionen machen. Eine Funktion heute, okay?
01:12:40 Dennis Horn
Funktionen und Emotionen. Ich muss dazu auch sagen, ich habe den Jingle auch lange nicht mehr gehört.
01:12:50 Gavin Karlmeier
Wir haben auch ihren Nachhaken noch nichts zum Informationsfreiheitsgesetz geschafft. Hätten wir machen müssen, und Chatkontrolle reichen wir alles nach. Es ist viel mehr.
01:12:59 Dennis Horn
Vielleicht brauchen wir irgendwann mal so Puffer-Episoden. Nennen wir die. Also so eine Episode, wo wir einfach alles abarbeiten, damit der Puffer mal leer ist.
01:13:07 Gavin Karlmeier
Ja, aber die müsste dann ja dienstags oder donnerstags erscheinen.
01:13:10 Dennis Horn
Ja, gut. Aber wenn ich das jetzt so vorschlage, werden morgen in Haken dran wird eine Petition dafür begonnen. Und wenn ich das jetzt sage mit der Petition, passiert es wirklich.
01:13:20 Gavin Karlmeier
Also, ich würde mich vielleicht erklären. Ich würde mich vielleicht dazu bereit erklären. Aber du müsstest ja mitmachen, Dennis.
01:13:25 Dennis Horn
Ich würde das mitmachen, weil ich finde, das muss mal abgearbeitet werden, weil wir werden ja nur verrückt. Außerdem kommen wir unserer Chronistenpflicht nicht nach, also Haken dran Puffer.
01:13:38 Gavin Karlmeier
Und zwar Instagram Instance, weißt du noch, was das ist?
01:13:44 Dennis Horn
Klar, das ist doch die kleinen Bildchen rechts unten in meinen Nachrichten. Klar. Ja, lauft doch rund.
01:13:52 Gavin Karlmeier
Genau. Instagram Instance unterstützt jetzt Videos.
01:13:56 Dennis Horn
Ja, das habe ich gelesen. Also, ich komme da mit einer definitorischen Antwort. In dem Moment, in dem das Video schon drei Sekunden gelaufen ist, ist das, was vom Anfang vom Video zu sehen war, ja nicht mehr instant. Also, das ist irgendwie, das finde ich, das ist wild.
01:14:12 Gavin Karlmeier
Ja, gut, aber das kannst du ganz groß fragen, weil dann kannst du dich auch fragen, was ist ein Foto eigentlich? Haben wir auch schon ein paar Mal hier diskutiert.
01:14:17 Dennis Horn
Ja gut, du hast in dieser Episode schon gefragt, was ist Rede?
01:14:21 Gavin Karlmeier
Ja gut. Rede. Aber was ist denn ein Foto? Wenn ich ein Foto mit dem iPhone mache, ist das auch kein Foto mehr, weil die fünf Layers von irgendwelchen Dynamic-Range-Variationen alle. hintereinander innerhalb von Millisekunden erstellt werden. Das ist keine Momentaufnahme, das sind Momentaufnahmen, die zu einer Momentaufnahme zusammengeschweißt werden. Wenn ich ein Vogel, äh, Foto. Ich habe zu viel geredet. Egal. Danke, dass du da warst, Dennis. Wir hören uns hier wieder am Freitag mit Elisabeth Lorange. Und wir beide hören uns bald auch schon wieder. Auch schon sehr bald, glaube ich, Dennis. Kann das sein?
01:14:55 Dennis Horn
Ich glaube nächste Woche oder so, oder? Kann das sein? Ich gucke nach und dann sei es dir nächste Woche Mittwoch.
01:15:01 Gavin Karlmeier
Nächste Woche Mittwoch und nächste Woche Freitag. Sind die Hornwochen? Tschüss, schönes Wochenende. Wer mehr ist, Mittwoch. Bis Freitag. Tschüss.