Chan-jo Jun ist zur quartalsmäßigen Rechtsberatung da. Und wir was haben wir für Fragen: Wie sieht es mit der digitalen Teilhabe aus, könnte die das Social-Media-Verbot für junge Menschen kippen? Was geht so mit dem Providerprivileg im Zeitalter von KI?
Und dann ist noch die News des Tages, dass SpaceX xAI und damit auch X übernehmen wird.
Kapitelmarken
KI-generiert
- Hallo Chan-jo!
- Wer sorgt bei xAI für die Sicherheit?
- SpaceX übernimmt xAI
- Erosion des Provider-Privilegs
- Marco Buschmann, White & Case und der Twitter-Deal (NetzDG)
- Gerichtsurteil zu Beschwerdewegen
- Social-Media-Verbote für Minderjährige
- Online Safety Act in Großbritannien
- Behavioral Fingerprints
- Warnung vor Signal-Scams
Transkript
Automatisch erstellt, kann Fehler enthalten. Zeitmarken springen im Player an die Stelle.
00:01 Intro
Haken dran, das Social Media Update der CT.
00:06 Chan-jo Jun
Hallo Canjo. Grüß dich, Gavin. Ah, bei mir ist er Canjo-Hoon, mein Haus- und Hofanwalt. Also bislang habe ich dich nicht Auf dienstlichem Wege gebraucht. Aber noch nicht. Früher fällig. Oh nein. Man kennt dich als Anwalt Jun im Netz. Du bist sozusagen der David gegen die Goliaths der Tech-Unternehmer. Und wir haben hier schon gemeinsam darüber gesprochen, wie du TikTok in die Knie gezwungen hast. Habe ich heute vielleicht einen kleinen Nachhak zu zu dem Thema. Und ja, also ich bin immer froh, wenn du hier bist, weil ich dir all diese Fragen stellen kann, die sich so in den Monaten dazwischen anhäufen, was so mit Juristerei zu tun hat.
00:43 Gavin Karlmeier
Da gibt es eine Menge zu erzählen. Also normalerweise ist Jura ja langweilig und trocken. Mal gucken, wie lange es die Zuschauer aushalten zu hören.
00:51 Chan-jo Jun
Also letztes Mal haben die Leute gesagt, es hätte ruhig noch mehr Juristereien, Nörderei sein können. Also die Leute haben Bock auf dich. Okay, leg los.
01:03 Gavin Karlmeier
Wir wissen ja ein Podcast. Wir können ja hier lange Gassi-Runde machen. Ich muss daran denken, dass wir nicht auf TikTok sind, ne?
01:09 Chan-jo Jun
Ja, also wenn man das hier meldet, dann bringt das tatsächlich etwas. Das kann man schon mal festhalten. Nein. Wir gehen tatsächlich direkt rein, weil wir haben ein paar Themen auf dem Tisch und ein Thema zusammenhängt mit zwei anderen Themen. haben sozusagen die Nacht zum Dienstag bestimmt und werden auch die Nacht zum Mittwoch bestimmen und werden wahrscheinlich, wenn ihr das hier hört, am Mittwochmorgen, wir nehmen das hier am Dienstag früh auf immer noch hot and upcoming sein. Und zwar, ich fange aber ganz vorne an. Und zwar berichtet die Washington Post, dass Elon Musk von vornherein in Kauf genommen haben könnte, dass mit der sexualisiert mit der Erstellung von sexualisierten Deepfakes durch Grog Aufmerksamkeit auf Grog gelenkt wird. Also es gibt wohl mehrere Mitarbeitende, die der Washington Post gegenüber so unter drei irgendwie ins Ohr geflüstert haben, dass Elon Musk sich sehr, sehr bewusst war, wie groß die Einschränkung oder die Verletzungen von Persönlichkeiten Aber Elon Musk hat das alles offenbar in Kauf genommen, weil er genau wusste, dann werden Leute über Grog sprechen.
02:10 Gavin Karlmeier
Tja, und wenn man das so im Nachhinein erzählt und wir uns überlegen, macht das Sinn, klingt das sehr plausibel. Also wenn man Fake News versucht zu entlarven, dann geht man so die Logikkette entlang und jetzt. . sieht man ja, es hat zur Aufmerksamkeit geführt und man könnte jetzt auch sagen, passt auch zu Elon Musk von der Persönlichkeit her. Also zunächst einmal klingt plausibel, hat funktioniert, was die Aufmerksamkeit betrifft. Aber und jetzt jetzt kommen die Juristen rein. Ja, da ist er. mit den Nebenwirkungen gerechnet hat, wenn sie denn überhaupt eintreten. Die Nebenwirkungen sind nämlich, und deshalb bin ich im Grunde fast dankbar dafür, dass wir überall auf der Welt die Diskussion darüber haben. Guck mal, was KI kann, was Unternehmer damit machen würden, wenn sie keine Regeln haben und wir schauen zu, wir. Lassen wir das bieten. . Und ich habe den Eindruck, dass in Deutschland immerhin ein paar Leute wach geküsst wurden. Es war zwar Ferienzeit, aber auch eine Justizministerin ist wach geworden. Es ist ja nicht so, dass sie schlafen und das Thema nicht sehen, sondern die sehen vorher, dass Regulierung von Deepfakes eigentlich nicht mehr so gut ist. so populär ist, das ist ja auch Parodie, ist ja auch lustig, ist ja auch modern und so weiter. Aber jetzt mit den sexualisierten Deepfakes. ist eigentlich klar, ein Politiker, der sagt, das ist alles okay, wir müssen technologieoffen sein, der versteht die Welt nicht mehr. Und das ist die Gelegenheit, wo jetzt alle reinspringen. Die Franzosen waren schneller, Deutschland war ein bisschen länger und die EU-Kommission hat jetzt ja eine Untersuchung eingeleitet.
03:34 Chan-jo Jun
Also, insofern läuft. Vor allem nach einer Untersuchung nach DSA, da müssen wir gleich auch nochmal drauf zu sprechen kommen, die ja im Zweifel eine Strafe von bis zu 6% des weltweiten Jahresumsatzes verhindern kann. Und das könnte X, XAI und das, worüber wir gleich noch sprechen, ganz schön große Konsequenzen mit sich bringen. Aber eins nach dem anderen. Denn in der Washington Post wird auch darüber gesprochen, das ist interessant. Was glaubst du, wie viele Menschen im Sicherheitsteam von XAI arbeiten?
04:01 Gavin Karlmeier
Sicherheitsdienst von XAI, das ist ein virtuelles Unternehmen. Okay, die haben ein paar Rechenzentren und so weiter. Also wenn wir Ne, warte mal, XAI ist hier die Muttergesellschaft von dem Ding, was früher Twitter hieß.
04:13 Chan-jo Jun
Ja, aber es geht nur um die KI-Sicherheit.
04:15 Gavin Karlmeier
Also nur das KI-Sicherheit. Aber wir reden nicht von den Bodyguards, sondern von Leuten, die für virtuelle. Das werden Hunderte sein, oder? Das muss eine Finger sein.
04:24 Chan-jo Jun
Also bei OpenAI arbeiten mehrere Dutzende MitarbeiterInnen im KI-Sicherheit. um sicherzustellen, dass die Guardrails eingehalten werden, dass eben sowas nicht passiert.
04:37 Gavin Karlmeier
Nee, es geht so um die.
04:39 Chan-jo Jun
Also die Formulierung ist die Formulierung ist die Verhinderung schwerwiegender Schäden durch NutzerInnen mit Hilfe der App. Also genau die Leute, die eigentlich verhindern sollten, dass du mit Hilfe des KI-Chatbots zum Beispiel Sexualisierte Deepfakes erstellen kannst. Wie gesagt, bei OpenAI sind es mehrere Dutzende. Bei XAI waren es im Laufe des letzten Jahres zwei bis drei
04:58 Gavin Karlmeier
Und das ist übrigens die Diskussion, die wir vor zehn Jahren hatten. Gavin, du bist alt genug, du erinnerst dich an. Danke. Warte, ich hab eine Grundzeugin dabei. Hier ist Angela Merkel, zwei Jahre.
05:09 Chan-jo Jun
Für die, die das ja gerade auf PeerTube oder YouTube sehen. Angela Merkel ist im Bild.
05:13 Gavin Karlmeier
Aber als Topf. Die hören uns nur auf Spotify, ne? Also muss man Bildbeschreibung dazu machen. Vor zehn Jahren kamen viele Flüchtlinge, es gab viel Hass im Netzwerk, Netz und da war die Diskussion auf Facebook, das ist doch alles illegal, wieso wird das nicht? Entfernt, die Bild-Zeitung sagte, Bild löscht Nippel statt Nazis. Und dann wollte man wissen, wie viele Leute gibt es eigentlich, die dafür arbeiten. Und diese Zahl wurde immer super geheim gehalten, weil es nicht eben so gut wie keine Mitarbeiter gab. Und dann hat Meta Facebook damals ganz klammheimlich, eine Battlemans-Tochter, beauftragt, viele Leute rekrutiert und überhaupt erstmal dieses Sicherheitssystem hoch aufgebaut und dann waren es auch mal ein paar hundert inklusive der externen dann gab es diese Verpflichtungen, das auch anzugeben in den Quartalsberichten, Transparenzberichten. Und dann waren es mal sehr viele und dann wurden die ausgelagert in prekäre Arbeitsverhältnisse in dritte Weltländer und dann waren es noch mehr. kam Elon Musk und sagt, die werfen wir alle raus, brauchen wir entweder nicht oder ersetzen sie durch KI. Und da sind wir gerade.
06:11 Chan-jo Jun
Konkret geht es ja gar nicht so sehr um die Content-Moderation in sozialen Netzwerken, sondern die Leute, die sozusagen den Chatbot bewachen. Aber dennoch, also im Fall von ChatGPT siehst du halt oder bei OpenAI, dass du halt irgendwie. . eine Zahl zwischen zwölf und 120 irgendwie kursiert, die eben darauf Acht geben, dass die KI eben nicht die Welt übernimmt. Bei GOK sind es eben zwei bis drei und das erklärt eben auch, warum die Leute, die so den Gegenwind Elon Musk gegenüber formuliert haben, offenbar deutlich weniger waren, als es in anderen Unternehmen ist, wobei man auch dazu sagen muss, Elon Musk gegenüber Gegenwind zu formulieren, ist offenbar gar nicht so. Einfach. Ich will übrigens, ich will mich nicht selber loben, aber ich würde behaupten, dass ich hier als These aufgestellt habe, dass dieser Publicity-Effekt dieser Generierung von sexualisierten Deepfakes durch Grog, dass das durchaus auch Teil des Plans gewesen ist. Das Orakel von Selfie hat sozusagen zugeschlagen. Warum das interessant ist, und jetzt kommen wir zu der anderen Geschichte, ist, weil in der Nacht zum Dienstag SpaceX verkündet hat, dass sie. XAI übernehmen werden. Also zwei Unternehmen von Elon Musk. Wir haben so einen ähnlichen Prozess schon mal besprochen, als XAI X Corp übernommen hat, also das Unternehmen hinter X, das für Twitter hieß. Was am Ende bedeutet, dass SpaceX, das Unternehmen, das früher mal gestartet wurde, um die Mars-Mission irgendwie auf sichere Beine zu stellen, das mittlerweile aber Satelliten ins Feldall schickt. Damit es Starlink zum Beispiel gibt, diese satellitengestützte Internetverfügbarkeit, die in dem Ukraine-Krieg von großer Bedeutung zum Beispiel war. Wir haben da viel drüber gesprochen. Dass dieses Unternehmen eben jetzt auch verantwortlich für X sein wird. So, ein paar Fakten von Bloomberg. Also das Wert wird am Ende, das Unternehmen wird einen Wert haben am Ende von 1,25 Trillion Dollar, also Billionen. Also 1250 Milliarden Dollar wird der Wert sein. XAI hat darin einen Wert von 250 Milliarden. Und jetzt kommt meine These. Wenn das Ziel war, wenn das von vornherein geplant war, und wir können davon ausgehen, wir wissen, dass SpaceX in diesem Jahr einen IPO anstrengen wird, also den Börsengang plant. Wenn wir davon ausgehen, dass XAI von vornherein Teil des Plans war, dass es von SpaceX geschluckt wird. Und wenn wir dann davon ausgehen, dass Elon Musk mehr Anteile von XAI als von SpaceX hat, dann hat er doch auch durchaus ein Interesse. Wenn XAI an Wert gewinnt, weil dann der Anteil der Aktien, die Elon Musk am Ende gehören, in dem neuen Unternehmen, das aus SpaceX und XAI besteht, natürlich höher ist als Wenn der Wert geringer gewesen wäre, weißt du, kannst du mir noch folgen.
08:41 Gavin Karlmeier
Und vor allem, dieser Mehrwert muss nur kurzfristig sein. Also selbst wenn der auf Sand gebaut ist und danach wieder kollabiert. Ist das egal? Also sprich, wenn er in Kauf nimmt zum Beispiel, dass er zwar ganz viel Bekanntheit bekommt für Grog und seine AI-Fähigkeiten. Da man jetzt auch in Kauf nimmt, dass damit eine Regulierung auf den Plan gerufen wird, die das Leben fürs Unternehmen in ein, zwei Jahren schwieriger macht, kann es ihm natürlich heute egal sein. Absolut.
09:08 Chan-jo Jun
Ja, vor allem weil diese Bewertung auf XAI ja jetzt auch nochmal bekräftigt wurde, dadurch, dass Tesla ja auch 2 Milliarden Dollar investiert hat in XAI. Also es ist alles sehr kompliziert.
09:19 Gavin Karlmeier
Teil der Tech-Bubble besteht ja natürlich auch darin, dass Unternehmen alle Tech- und KI-Unternehmen kaufen, die sich im Kreis quasi kaufen und damit. . Wertungen aufwerten. Das ist auch genau das, wovon man Angst hat, wenn die Bubble mal platzen sollte, dass wenn ein Nvidia oder ein anderes AI-Unternehmen mal 20% an Wert verliert, kollabieren natürlich die ganzen anderen, die Beteiligungen halten und dann geht das in der Spirale weiter. Wenn das jemals passieren sollte. Bedeutet nicht, dass wir danach keine KI mehr haben, sondern dass ein paar virtuelle Werte flöten gehen.
09:50 Chan-jo Jun
Ja, ganz genau. Und das ist halt im Fall von Nvidia relativ unwahrscheinlich, weil die tatsächlich Wert schöpfen, weil die ja tatsächlich was herstellen. Aber im Fall von so Unternehmen, die dann eigentlich, also wie XAI eigentlich nichts vorzuweisen haben an Umsätzen, Ist das wahrscheinlich schon ein bisschen weniger unwahrscheinlich. Who knows, ne?
10:09 Gavin Karlmeier
Also Nvidia, ja, die bauen Hardware, das kann man anfassen, aber der Preis von Hardware ist natürlich jetzt auch Aufgeblätt jeder weiß, dass er in letzter Zeit meine Grafikkarten gekauft hat, um Zeit zu spielen, oder was auch immer, ja. Vielleicht sind die einfach schlauer und KI ist die Zukunft und wird sie auch wirklich sein und es wird nicht weniger und Die gesamte Workforce wird durch KI ersetzt. Das klingt wie nach Sci-Fi, wir haben es schon zu oft gehört, aber die Werte, die Potenziale sind vielleicht noch nicht ausgeschöpft. Also insofern macht es vielleicht Sinn, Grog groß zu machen? Wir haben ja die Nachrichten gehört, auch dass die Regierung Grog einsetzt. Das kommt natürlich auch bei Twitter. Die amerikanische Regierung, ne? Ich habe daraufhin mal Grog gefragt. Ob ich eigentlich noch einreißen dürfte. Wie sind meine Chancen, ein S da zu kriegen? Sagt er so um die 30 Prozent. Also vielleicht sollte ich einen Glasback mitbringen, wenn ich da vor dem TSA-Beamten stehe. Der hat mir dann auch gleich gesagt, möchtest du es noch für die anderen Mitarbeiter deiner Kanzlei? Und dann rausgesucht, wer da am ehesten noch exponiert sein könnte. Das weiß Grog alles. Wir haben letztes Mal Grog gefragt, wie der Leumund von Gavin Karlmeyer ist. Oh nein, oh nein, oh nein. Ja, mach du mal weiter. Houskipping, ich manipuliere der Valg.
11:32 Chan-jo Jun
Also, um das so ein bisschen noch ein bisschen anzureichern, also 42% von SpaceX gehören Elon Musk schon jetzt. Die Leute, die XAI Aktien haben, man muss dazu sagen, XAI ist kein börsennotiertes Unternehmen, sondern das ist eine private Company. Bedeutet die Leute, die Aktien haben, die haben sie irgendwie als InvestorInnen bekommen und nicht einfach nur als als Gambling-Projekt auf irgendwelchen Neobrokern gekauft. Die werden umgewandelt in 0,1433 Aktien von SpaceX. Und dann mag ich aber den Satz, die Mitarbeiter von SpaceX Oder XAI, die Air, die Mitarbeiter von XAI haben die Möglichkeit, ihre XAI Aktien zu verkaufen und an das Unternehmen zurückzugeben. So ein bisschen so Das ist so ein bisschen so, wie wenn du auf ein Ticket für ein Konzert gekauft hast und das wird auf einen anderen Termin verlegt, das gefällt dir nicht und dann kannst du das Ticket einfach zurückbringen. Ungefähr so kann man sich das vorstellen. Ja, also das, was mich so am meisten bewegt an diesem Merger oder an dieser Übernahme, Entschuldigung, ist die Tatsache, dass ja der weltweite Jahresumsatz des Unternehmens. . für die Berechnung der DSA-Strafen genutzt wird. Wenn also das Unternehmen hinter X, also XAI, also SpaceX, jetzt nicht mehr nur eine Milliarde im Jahr als Umsatz angibt, sondern was ich kann ja sagen, so viel macht glaube ich Ex auch gar nicht, weiß ich aber gar nicht. Aber SpaceX hat 16 Milliarden US-Dollar im letzten Jahr Umsatz gemacht. Dann sind 6% natürlich schon mal spürbar mehr. Hm. Das ist so, oder?
13:01 Gavin Karlmeier
Also, Kevin, ich habe jetzt die Antwort, ich weiß antwortlich auf deinen Vorhalt, sondern ich bin jetzt hier abgelenkt dran. Gavin, du darfst ganz normal einreisen. Ich habe dann vor sich nochmal gefragt, ob ich einreisen darf. Und jetzt bietet er mir zwei Formulierungen zur Auswahl. Das kennst du ja bei KI.
13:17 Chan-jo Jun
Über Landgrenze, über Kanada könntest du durchaus einreisen.
13:19 Gavin Karlmeier
Antwort A ist nein, Chan-Jo-Yun dürfte ganz normal einreisen. Antwort B. Ja, Chanjiun hat aktuell ein Einreiseverbot in die USA. Jetzt darf ich aussuchen, was die richtige Antwort ist. So funktioniert KI. Hätte er mich nicht gefragt, hätte er selbst die Münze geworfen und entweder Ja oder Nein gesagt. Normalerweise ist es ja so, dass die beiden eher so Nuancen in der Formulierung sind, aber hier sind sie diametral auseinander. Wenn ich oft genug frage, hast du bestimmt auch ein Einreiseverbot.
13:47 Chan-jo Jun
Ja, ich freue mich drauf.
13:49 Gavin Karlmeier
Also funktioniert das aber an der Grenze dann, ne? Also du stehst dann halt da. Ja, genau. Und A oder B, je nachdem, was sie tun.
13:54 Chan-jo Jun
Sie arbeiten wahrscheinlich auch mit dem gleichen Tools. Offiziell noch nicht, aber kann noch werden Wir freuen uns. Vor allem wenn SpaceX das Unternehmen wird, das Grog betreibt, mit dem die amerikanische Regierung extrem große Rahmenverträge bereits abgeschlossen hat. Also ich glaube dieser Merger könnte ganz schön ganz schön Impact haben, weil das zum einen, das Wort Leumund hast du gerade schon hier reingeschmissen SpaceX hat natürlich einen relativ guten Leumund, weil sie durch ihre bisherige Legacy, sie wirken als die großen Innovationstreiber. Dadurch, dass SpaceX dahinter steht, glaube ich. Steigt auch die Bereitschaft der Leute, Grog zu akzeptieren, oder fürchte ich. Aber wie gesagt, damit steigt auch der Jahresumsatz von X, was die Berechnungsgrundlage für die DSA-Strafen am Ende verändern könnte.
14:40 Gavin Karlmeier
Oh, das Da wird es wieder interessant. Allerdings, vielleicht fragen sich die Hörerinnen und Hörer jetzt auch: Was interessiert mich jetzt, ob dieser Typ noch reicher wird und ob noch mehr größere Werte hat das Auswirkungen auf unser Leben hat? Das ist so die Frage. Auf die wir vielleicht noch eine Antwort finden, was es bedeutet, wenn Grog und das Ex-Imperium mächtiger wird, und zwar nicht nur innerhalb der USA, sondern eben auch Für unser tägliches Leben, für Europa.
15:08 Chan-jo Jun
Naja, und auch außerhalb der Welt, der Erde, weil SpaceX möchte ja im Rahmen dieses Börsengangs, arbeiten Sie jetzt schon daran, Elon Muska ein neues Versprechen. Die Mars-Mission ist erstmal so on hold, da kümmert man sich später drum, denn der nächste Plan ist erstmal ein Rechenzentrum. Ich glaube, wir haben da letztens schon mal drüber gesprochen, im Weltall zu betreiben. Das ist nicht so ganz trivial, wie Musk das darstellt, aber in der Übernahmemitteilung, ich muss das vorlesen, SpaceX hat eine Pressemitteilung veröffentlicht zu der Übernahme von XAI. Nein, XAI hat eine Pressemitteilung. Ist ja auch egal, ist ja alles derselbe Schmu. Also der Text ist eh von Grog geschrieben. Zumindest liest er sich tatsächlich so, als hätte das Grog geschrieben. Und um das Ganze noch so ein bisschen zu beweisen, da sind Emojis drin, was für einen Pressetext sehr unwahrscheinlich ist. Da steht sowas drin wie, The Space wird nicht ohne Grund Space genannt und ein lachendes Emoji, weil man mehr Energie damit generieren könnte und bräuchte und weil man mehr Platz braucht. Aber mein Lieblingssatz ist, langfristig ist eine weltraumgestützte KI offensichtlich der einzige Weg. Und ich frage mich so ein bisschen, wo das Wort offensichtlich herrührt. Also die einzige Offensichtlichkeit, die da drin steckt, ist die Bezugnahme auf die Versprechen von Elon Musk, dass man ja im Weltall dauerhaften Zugang zur Sonnenenergie hätte, also zur Solarenergie. Und damit mehr Strom generieren könnte. Was er dabei allerdings aus den Augen verliert, ist die Tatsache, dass die Energie, äh, die Geräte, die du da oben brauchst, A, deutlich hitzebeständiger sein müssen deswegen teurer sind, also insgesamt alles deutlich teurer ist, plus das Zeug da hochzuschicken deutlich teurer ist, weil du eben erstmal eine Möglichkeit brauchst, irgendwie die Sachen da oben zu haben, anstatt einfach auf der Erde ein paar Computer hinzustellen. Und so weiter und so weiter.
16:49 Gavin Karlmeier
Also es ist alles nicht so ganz trivial. Weißt du, was wir hier gerade spielen? spielen. Es gibt diese alte Gameshow Jeopardy. Kennst du den? Da war die Aufgabenstelle, man musste die Frage stellen. Und du hast dich die Frage von gefragt, wo kommt dieser Text her? Und die Frage ist eigentlich, was war der Prompt, der das generiert hat? Ich probiere es mal. Der Prompt war, bau mir eine Pressemitteilung, die davon ausgeht, dass die Rezipienten blöd genug sind, alles zu fressen, was irgendwie nach Innovation klingt, baue irgendwas mit Raumfahrt ein und mache den Punkt, dass es offenkundig ist, dass ein dass eine Innovation, die mit dem Weltraum verbunden ist, die beste Idee ist. Da kommt dann wahrscheinlich so etwas raus.
17:26 Chan-jo Jun
Ja, also fühlt sich das an, ne? So muss das entstanden sein.
17:30 Gavin Karlmeier
Ja, das ist offensichtlich der einzige Weg.
17:32 Chan-jo Jun
Aber also wenn wir es realistisch betrachten, das ist natürlich wie jedes Versprechen von Elon Musk. natürlich erstmal Käse. Also wie gesagt, es ist ganz schön schwierig, wirklich Satelliten zu betreiben, die da oben ohne weiteres Energierechenleistungen abgeben oder generieren, was sie auf der Erde nicht könnten. Also da sind wir noch lange nicht. Das wäre doch kein Problem. Es wäre schön kalt da oben und Ja, aber das Problem, Kühlung ist ein Riesenproblem, weil die Luft nicht rausgepustet werden kann, weil es gibt keine Atmosphäre. Ach, Mist, doch. Es gibt noch mehr Probleme. Auch die Funkstrecke, also du könntest zum Beispiel über, also du hast eine viel größere Latenz, als du auf der Erde hättest, weil du kein Kabel hast und so. Also es gibt. Viele, viele, viele Dinge, die dagegen sprechen, eigentlich so ein Rechenzentrum im Weltall zu betreiben. Aber andererseits hat Elon Musk auch schon Leute geblendet, damit dass er ein Auto ins Weltall geschickt hat. Also was soll ich sagen?
18:24 Gavin Karlmeier
Wenn du es schaffst, immer wieder mal unglaubliche Dinge zu vollbringen, dann führt das zu einer Glaubwürdigkeit auch für andere unmögliche Sachen. So wie Olaf Scholz sagte, hey, ich kann auch Kanzler werden, wenn ich 20% zurückliege. Und dann gibt es Leute, die das glauben und sagen, ja, ja, prima, werd du Kandidat. Ich weiß nicht, wie man jetzt auf den. SPD kommen. . Aber so funktioniert der Glaubwürdigkeit. Elon Musk kann Bullshit vorbringen, ohne dass es sofort als Bullshit Er kann vielleicht schon, aber sofort als solches auch bewertet wird. Kann ja sein, weil die Fans glauben das.
18:55 Chan-jo Jun
Ja, also der Plan ist auf jeden Fall, dass eine Million orbitale Rechenzentren aufgebaut werden sollen im Weltall. Wenn er das sagt. Und zwar, was glaubst du, was für ein Zeitraum hat er sich dafür vorgenommen?
19:10 Gavin Karlmeier
Es muss ein Zeitraum sein, an dem er nicht so schnell gemessen wird. Also muss er etwas in die Zukunft Gehen, aber trotzdem noch nicht so illusorisch. Also drei bis fünf Jahre.
19:20 Chan-jo Jun
Ja, also er sagt schnellstmöglich. Schnellstmöglich ist gut, da bleibt man.
19:25 Gavin Karlmeier
Ja, das ist sehr vage.
19:27 Chan-jo Jun
Also soviel dazu. Jetzt hast du mir, und das ist vielleicht führt uns das dazu, vielleicht auch noch nicht. Du hast mir heute eine Nachricht geschrieben, heute Morgen um 8 Uhr, was schon mal eine sehr erstaunliche Uhrzeit ist für solche Gedanken. Und da sind so Begriffe drin aufgetaucht wie eine die Erosion des Provider-Privilegs, wo ich mir so denke, das muss man jetzt aber erstmal wirklich von vorne erklären.
19:46 Gavin Karlmeier
Okay, geil, Podcast, man fängt ganz von vorne an. Gavin, wir sind im Jahr 1900 99 2000, wir machen einen Y2K Bug und so weiter. Da kommt zum ersten Mal ein bisschen Internet, nein, nicht zum ersten Mal, aber da sind Internet Provider, da benutzt man noch Netscape und Mosaik. Nein, damit benutzt man schon anderes. Da gibt es noch CompuSurf. CompuSurf, den Zugangsprover, Konkurrent von AOL und den Ganzen, die die Welt mit diesen silbernen Scheiben gepflastert haben, damit man ins Internet kommt. Und ComputeServe bot einen Zugang zum Usenet. Das Usenet, was es noch immer gibt, wo man kommerziellen Zugang über verschiedene Provider hat. Und in diesem Usenet gab es natürlich, wie auch heute, Rechtswidriges Material, CSAM, Child Sexual Abuse Material. Juristisch nennt man es profan Kinderpornografie und man hat den Geschäftsführer von CompuSurf Angeklagt und verurteilt wegen der Verbreitung von kinderpornografischem Material. Und daraufhin ging ein Aufschrei durch die Tech-Branche im Sinne von, wie kann man denn so blöd sein, die haben doch nur Zwischenspeicherung vorgenommen oder nur Zugang Vermittelt zu den Daten, die haben es noch nicht selbst verbreitet. Das Gericht sagte aber, das Amtsgericht München damals, naja, er hat eine Ursache gesetzt, er hat mitgewirkt, er hat die Server bereitgestellt, das Zeug ist auch auf diesen Servern gespeichert. Es ist auf deren Festplatten drauf. So, und dann merkte man, wir müssen etwas tun. In der zweiten Instanz wurde er freigesprochen, und zwar auch auf Antrag der Anklage, selbst die Staatsanwaltschaft in der zweiten Instanz gesagt, kann nicht so sein. Das ist das sogenannte Compu-Serve-Urteil. Und das war die Geburtsstunde der Idee. Wir brauchen ein Provider-Privileg. Wir brauchen eine Enthaftung für Provider wie CompuSurf, die rechtswidrige Inhalte der User vorhalten. Aber wenn wir die verantwortlich machen dafür, dann gäbe es kein Internet. Dieses kleine, zarte Pflanzlein. Facebook gab es noch nicht, noch zerdrückt werden, ehe es sich entfalten kann, ehe es an das Sonnenlicht kommt. Und damals war auch die IT-rechtliche Bubble. Sehr libertär geprägt oder sehr innovationsfreundlich. . Wir müssen alles möglich machen, bevor wir es kaputt machen. So. Und daraus entstand dann die E-Commerce-Richtlinie 2000, 2001, die dann also sagte Ähm Unternehmen, die einfach nur Zugang vermitteln oder Sachen für Dritte speichern und zwar neutral speichern, ohne mit diesen Daten etwas zu machen, die sollen privilegiert werden. Die sollen erst wenn sie notifiziert werden, wenn ihnen eine Meldung gebracht, gemacht wird, für diese Inhalte haften, wenn sie diesen Fort entfernen. Das ist das Prinzip Notice Take Down. Jetzt sind wir wieder alle an Bord. Da kommt das Prinzip Notice and Take Down her. Bloß war es dann so, dass wir das nicht nur verwendet haben für Usenet, Bretter, die abonniert wurden. Sonnen und auch nicht nur für Cloud speichert, gut, die gab es damals noch nicht, nicht nur für Sachen, die einfach. neutral abgelegt worden, sondern nach und nach wurde das natürlich auch für Social Media eingesetzt. . Und wir führen seither immer wieder die Diskussion, ist das noch neutral, wenn ihr eine algorithmische Timeline habt, wenn ihr euch die Rechte einräumen lasst, wenn der Betreiber ja zum Beispiel alle Verwertungsrechte darüber nimmt und so nach und nach, nein, langsam, die Gerichte haben immer gesagt, nein, Provider-Privileg gilt. Sie haft nicht für diese Inhalte, nur wenn sie ganz, ganz genau auf die rechtswidrigen Inhalte hingewiesen werden und dann kämpft man den Kampf. Wie genau muss man sie darauf hinweisen? Muss da ein komplettes Rechtsgutachten sein? Oder reicht es einfach zu sagen, da werden Lügen verbreitet? Und die Provider konnten sich, also Provider, aber auch die Plattformbetreiber und jetzt merkt man, warum die eigentlich nicht in einen Atem zu verändert werden sollten. Die lehnten sich zurück und sagten, wir sind keine Medien, wir haften nicht für die Inhalte, wir haben keine Sorgfaltspflichten, wir können alles raushauen, was User bei uns bereitstellen. So, und jetzt hatte ich heute Morgen gesagt, nach und nach es erodiert. Es erodiert. Und zwar aus zwei Gründen. Das eine ist Datenschutz, der andere Grund ist KI. Weil wir allmählich aufwachen und merken, so Datenschutz, das ist die Entscheidung des EuGH von Dezember letzten Jahres, RusMedia aus Rumänien. Die Rus-Media-Entscheidung sagt, für Datenschutz, DSGVO, gibt es kein Provider-Privileg. Punkt. The principle of article 6 DSA, notice takedown, gilt nicht when it's um fake news about a person gets, when it's um the recht of forgetting of article 17 gets, when it's um chance. Kühners, den wir beim BGH gerade führen, wurde ausgesetzt im Sommer, um auf die Russ-Media-Entscheidung zu warten. Jetzt ist sie da, jetzt wird das Kühnersverfahren auch wieder voll. Fortgesetzt, aber in der Zwischenzeit gibt es neue Entscheidungen in erster Instanz, die sich oder Verfahren, die auf Rust Media EuGH-Entscheidungen Bezug nehmen werden, weil ganz, ganz viele rechtswidrige Inhalte sind zugleich auch Datenschutzverletzungen. Das ist der erste Punkt.
24:39 Chan-jo Jun
Darf ich dazu direkt eine Rückfrage stellen? Merkt ihr aber bitte einen zweiten Punkt. Bedeutet, dass wenn das Provider-Privileg nicht bei Datenschutz delikiert bedeutet das aber theoretisch auch, dass wo davon, 1 und 1, wer auch immer, da genauso handeln müsste, wenn ich eine persönliche Verletzung meines Bildes zum Beispiel erleben würde?
24:59 Gavin Karlmeier
Absolut ja. Also die einfache Formel ist Datenschutz gilt. Punkt. Das Ganze System, was wir hier künstlich hinzugefügt haben mit dem Provider-Privileg und der Haftung für fremde Inhalte, interessiert das Datenschutzrecht nicht. Jetzt muss man gucken, was bringt mir das Datenschutzrecht? Das bringt eher so Informationspflichten und Auskunftsrechte und was weiß ich was, aber eben auch, dass man für die Verarbeitung Personen betreut. und die Speicherung einen Grund braucht und ich mit Artikel 17, das ist das Recht auf Vergessenwerden, einen Anspruch darauf habe, dass falsche Daten entfernt werden. Also wenn Bei Vodafone oder wo auch immer falsche Daten über dich gespeichert werden, kannst du mit Artikel 17, du musst es geltend machen, allerdings. Insofern ist das eine gewisse Ähnlichkeit zum Notice and Takedown, aber du musst nicht. zweistufig warten mit ich notifiziere und dann verlange ich, sondern mit Artikel 17 gehst du direkt hin, ob jetzt gegen X, Google, Vodafone und wen auch immer, da steht was Falsches drin, falsche Suchmaschinenergebnisse.
25:56 Chan-jo Jun
Nimm die raus. Aber theoretisch könnte ich damit auch meinen Netzbetreiber, also meinen Provider, zwingen, Webseiten für andere zu sperren, wenn darauf Fotos von mir gezeigt werden, die ich nicht da haben möchte. Oh, jetzt wird es haarig, weil wir jetzt natürlich.
26:11 Gavin Karlmeier
Zwei Sachen ineinander greifen, jetzt bist du nämlich auch in der Telekommunikation, also in der Verbreitung der Daten. Da ist nämlich genau die Schnittstelle In dem Moment, wo die Daten gespeichert sind, Telemedienrecht und so weiter, dann haben wir das Provider-Privileg. In dem Moment, wo es um die Übermittlung geht, sind wir im Telekommunikationsrecht. Und da gelten wieder andere Spielregeln. So gesehen, soweit sind wir noch nicht. Wir haben das Verhältnis geklärt zu Speichermedien, noch nicht zur Übermittlung.
26:37 Chan-jo Jun
Ja, weil es gab neulich die Geschichte aus Italien, in der in der Cloudflare verantwortlich gemacht werden sollte für die Websites, auf die Sie weiterleiten, weil Sie ja als Betreiber eines DNS, jetzt wird es ganz kompliziert, aber ich bin Versuch es kurz zusammenzufassen. Es gibt im DNS so eine Art Telefonbuch, weil jeder Server hat eine IP-Adresse und die Dynamic Name Server heißt es glaube ich, ne? DNS. Die in der Mitte stehen, die lösen sozusagen eine Domain nach IP-Adresse auf. Also wenn ich google. de eingebe, dann sagt dieser Server mir, hier kommen wir da hin. So, und einer dieser Betreiber ist eben auch Cloudflare, die auch andere Dinge anbieten. Und in Italien wurde darüber diskutiert, ob Cloudflare dafür verantwortlich zu machen ist, wenn sie auf Webseiten weiterleiten, die eigentlich nicht mehr erreichen. Woraufhin Cloudflare gesagt hat, naja, das hätte so große Auswirkungen, das können wir so nicht umsetzen, was zu einem Konflikt dort geführt hat.
27:26 Gavin Karlmeier
Stichwort Netzneutralität. Erinner dich als Zensursula, Ursula von der Leyen als Familienministerin, über DNS-Sperren verhindern wollte, dass C-SEM-Inhalte erreichbar sind. Vielleicht wäre heute die Akzeptanz dafür größer, aber damals hatten wir gesagt, Finger weg, egal für welchen Zweck, Netzneutralität ist heilig. Und die Auflösung von Kinderpornografie-Seiten über den DNS-Server fassen wir nicht an, weil die Idee war ja, dort ein Stoppschild aufzusetzen, eine Umleitung. für bestimmte Domain-Namen, die nicht auf die richtige IP-Adresse aufzulösen, sodass man zumindest es schwerer hatte, auf die Seiten zuzugreifen. Und jetzt auf einmal kommen diese Ideen wieder auf.
28:04 Chan-jo Jun
Ja, so, ich wollte gar nicht so weit derailen. Komm bitte zurück zu einem zweiten Punkt. Der zweite Punkt ist KI.
28:10 Gavin Karlmeier
Und da kommen wir wieder zurück zu Grog, weil wir realisieren gerade, dass. KI auch eine Regulierung braucht. Ich glaube, das könnte man nicht schöner vorführen, als es Elon Musk gemacht hatte Anfang des Jahres mit den sexualisierten Deepfakes. Die Frage ist jetzt nur, welche Art von Regulierung brauchen wir? Und dann kommen so Fragen auf Ist denn der Nutzer verantwortlich? Ist der Grog-Account verantwortlich? Ist die Plattform verantwortlich? Macht das einen Unterschied, ob ich erst das Bild mit Gemini erzeuge und dann hochlade? Or when ich Grog sage put her in a bikini and cover her with donut gaze and make her turn around and bend over. Weil Grog-Account ist ja sofort auch veröffentlicht. Der Grog Account wird betrieben von XAI und wurde auch schon mal vom Landgericht Hamburg wegen der Verbreitung von Falschnachrichten mit einer einzweiligen Verfügung belegt. Also diese Frage haben wir ja auch schon mal geklärt. Ich würde sagen, es macht einen großen Unterschied, weil Elon Musk ja immer die Frage aufmacht, ja, wieso Grog und nicht die anderen? Weil natürlich kann man sexualisierte Deepfake auch mit anderen Tools erzeugen, aber die posten das nicht sofort auf X. Die posten das nicht mit dem Account. Du kannst es in Grog auf zweierlei Warten machen. Du kannst die Bilder erzeugen und dann selbst posten oder du kannst per Prompt und Menschen. Grog dazu bringen, diese Bilder zu erzeugen und sofort gleich zu posten. . Und das ist ein wesentlicher Unterschied, wo wir auch der Meinung sind, wir also Leute, die sich damit befassen, dass der Grog-Account natürlich unmittelbar ex auch zuzurechnen ist. Das ist nicht die Handlung des Users, der das getriggert hat durch den vorangegangenen Prompt, sondern das ist das, worauf Grog reagiert hat. Und wenn man solche Dienste ins Netz stellt. Darf man sich nicht darauf herausreden, naja, das ist technisch nicht möglich, das sicherer zu gestalten. Wir dürfen nicht hinnehmen, dass die Unzulänglichkeit von künstlicher Intelligenz ein Entschuldigungsgrund ist. Wenn das Zeug nicht sicher ist, wird es nicht eingesetzt. Punkt. Wenn ich ein Auto baue, was halt ein paar Leute totfährt, aber nicht so viele wie normale Autos, dann hafte man trotzdem dafür und dann ist das ein guter Grund, mit einer Zulassung noch ein bisschen zu warten. Wir erleben das immer wieder vor Gericht, dass uns Meta sagt, ja aber unsere Content-Moderationsteams, die ja natürlich KI-basiert sind, können das hier nicht rausfinden, dazu müssten wir Menschen einsetzen. Und wir sagen dann, dann setzt halt verflucht nochmal Menschen ein mit euren 16 Milliarden Überschuss. Müsste das doch möglich sein pro Quartal? Wer hat denn gesagt, dass euer Geschäftsmodell KI basiert funktionieren muss?
30:35 Chan-jo Jun
Keiner. Exakt So, und da kommen wir zurück zum Provider-Privileg. Was bedeutet das jetzt? Bedeutet das, dass am Ende Ex sich einfach nicht mehr rausreden kann, weil das Provider-Privileg eigentlich damit am Ende ist? Für diese Anbieter, nicht für alle.
30:51 Gavin Karlmeier
Es könnte bedeuten, also zunächst einmal für den Einzelfall, dass X haftet für rechtswidrige Inhalte. schon von Anfang an, ohne dass es dazu einer Meldung bedarf. Das mit der Meldung ist vielleicht gar nicht so schlimm, daran haben wir uns gewöhnt. Aber wenn wir sehen, dass sie systematisch Rechte verletzen und sich rausreden wollen, indem sie sagen, wir sind dafür nicht verantwortlich. Dann ist die einzige möglich tatsächlich, jetzt kommen wir zu 6%, die Bußgeldmethoden aus dem DSA. Wir haben das ja einmal angeteasert mit diesen 130 Millionen, aber das ist ja Kleinkram, das ist ja gar nichts, wenn man jetzt wie ist im Relationsatz zum Umsatzgebäude. Du kannst schnell rechnen, kannst mal sehen, wie viel Prozent das waren. Wenn X weiterhin sagt. We machen keine Sicherheitsmaßnahmen, we stellen diesen Dienst einfach mit all diesen Risiken so to what is Dann wäre die Konsequenz, dass die EU-Kommission dann ein entsprechendes Bußgeld so lange verhängen müsste, bis sie compliant sind oder die Dienste verbieten oder ausschließen. Ich bin gegen ein Totalverbot. Aber wenn es Ultima Ratio ist und Sie jetzt zehnmal die 6% vom Umsatz abgegeben haben und trotzdem nicht compliant werden. . Dann muss man wahrscheinlich früher eingreifen.
32:00 Chan-jo Jun
Und das sieht der DSA ja auch vor, dass man bei wiederholten Verstößen auch durchaus sperren könnte.
32:04 Gavin Karlmeier
Das sieht er vor, aber wir machen es bisher nicht. Da bin ich sehr unzufrieden, letztes Jahr bei Republika, dass wir eine Schaufensterregulierung betreiben. Vielleicht ändert sich da was. Und zwar durch Elon Musk, durch die sexualisierten Deepfake-Bilder, vielleicht merken jetzt auch die Politiker, die ja die Entscheidung treffen, die schlafen ja nicht wirklich. Es gibt einen Rückhalt dafür. Ex zu regulieren, jedenfalls bei diesem Thema, stößt auf Zustimmung. Denn wenn es um politischen Extremismus geht, da gibt es nicht so eine große Zustimmung. Da gibt es genug Leute, die sagen, nee, lass uns das lieber mit guter Politik wegregieren.
32:39 Chan-jo Jun
Hat XAI, X, Grog, Musk, SpaceX, wie auch immer wir diese Entität nennen wollen. Haben die damit also einen strategischen Fehler gemacht, weil sie damit jetzt es so sehr überrissen haben, dass selbst die Öffentlichkeit nicht mehr sagt, na, das nehmen wir jetzt mal so hin.
32:53 Gavin Karlmeier
Sie haben jedenfalls einen schlafenden Hund mit Ant, mit Abanlauf gegen die Klöten getreten. der bisher zuverlässig gepennt hat. Und vielleicht war das ein Irrtum zu glauben, dass die auch hier wieder zu blöd sein werden, irgendwas zu unternehmen. Aber vielleicht haben sie doch recht und die legen sich alle wieder schlafen. Vielleicht hat der Hund jetzt einfach mal kurz wau-wau gesagt und sagt sich, okay, das Thema ist wieder vergessen, wir müssen nichts machen, sonst kommt Trump und droht uns mit Zöllen. Vielleicht ist das aber jetzt die Initialszündung, um zu sagen, okay, wir brauchen eine Regulierung, wir brauchen eine Digitalsteuer, wir brauchen eine digitale Souveränität, wir machen doch nicht so weiter wie bisher. Wer weiß. Toi, toi, toi.
33:32 Chan-jo Jun
Jetzt haben wir bei Exabay ja das Problem, jetzt kram ich ein bisschen in deiner Schublade, in deinen alten Postings. Es kam übrigens die Frage, warum du so viel mehr bei X veröffentlicht als im Fediverse. Ich habe nämlich Leute gefragt, du sollst doch bitte viel mehr, die Leute sollen mal Fragen einreichen. Was ich dir stellen soll, das hat jemand gefragt, bevor wir hier zum Thema kommen. Hast du eine Ausrede?
33:54 Gavin Karlmeier
Außer die Ausrede, die jeder sagt, mit eurem Reichweite und da, wo es weh tut und ich bin der Held, weil ich stelle mich denen entgegen. Ja, also betrachte mal die normalen Ausgeben als gesagt, ja klar, wenn man fast hunderttausend Es waren mal 100. 000 Follower, hat man natürlich viel mehr Leverage, vor allem auch in die Bubble, die man besonders triggert. Also die freundlichen Leute sind ja nicht mehr auf X. Dort trifft man ja wirklich hardcore. Wie nennt man die Leute auf nette Weise? Dorothee Behr nannte sie mal Journalisten, Politiker und Verrückte. Da haben sich einige aufgeregt. Die Diskussionen auf X sind außerordentlich kontrovers.
34:37 Chan-jo Jun
Das ist sehr vorsichtig formuliert.
34:38 Gavin Karlmeier
Wenn ich zum Beispiel AfD-Anhänger erreichen wollte, dann treffe ich die nur auf Telegram und auf X. Und ich muss mir den Umweg zu Telegram gar nicht machen, weil die haben Ex jetzt so besiedelt, dass sie da echt gut zu erreichen sind. Jetzt kann man sich fragen, warum sollte man da hingehen? Wenn man freundliche Bubbles. . bespielen möchte, dann kann man das auf LinkedIn und im Fediverse oder ja Blue Sky. . Bist du noch aktiv dort? Ist ja wesentlich freundlicher dort, ne?
35:03 Chan-jo Jun
Ja, und bei mir, also der zentrale Grund, warum ich da noch so aktiv bin, ist halt tatsächlich wie bei allen anderen, der Grund, warum sie auf ihren Netzwerken unterwegs sind. Das Netzwerk. Also die Leute, die ich sozusagen von Twitter am meisten vermisse, die habe ich immer noch bei Blue Sky. Das ist die Welt, in der ich so, das ist so meine Bubble. Aber das ist der einzige Grund. Ich bin da jetzt nicht zum Selbstzweck.
35:25 Gavin Karlmeier
Aber ich hab noch einen Grund, vielleicht ist sie aber auch falsch, die Zeichenbegrenzung auf Blue Sky. Gibt es da einen guten Workaround? Wahrscheinlich gibt es hast du irgendein Tool, der das Ding dann aufteilt, oder?
35:38 Chan-jo Jun
Nee, nee, aber ich mochte ja auch die 140 Zeichen bei Twitter früher. Ich wollte auf jeden Fall diese Frage von den Hackis einmal mitbringen. Jetzt komme ich aber zurück zu meinem Schubladenkram. Und zwar, am 24. November 2022 hast du geschrieben. Gerade kommt die Erwiderung von Twitters Anwält auf unseren 17 Uhr Schriftsatz und es bestätigt sich unser schlimmster Verdacht, Twitter hat mit Marco Buschmann einen Deal gemacht, dass Twitter <unk> 3b Netz DG gegen Vorstellungsverfahren nicht beachten muss. . Dann hast du deutlich später geschrieben, als Bushmann Justizminister war, berief sich White and Case, das ist die Kanzlei, die gleich mal wichtig wird. Ähm, einen Tag vor der mündlichen Verhandlung von Blume gegen Twitter auf eine bis dahin nicht bekannte Zusage der Bundesregierung, auf Bußgeldmaßnahmen wegen Verstoß gegen NetzDG zu verzichten. Und jetzt kommt eben das interessante, White and Case ist die Kanzlei, bei der Marco Buschmann nun jetzt angeheuert hat, nun jetzt arbeitet. Und zwar als Council, als das ist die Vorstufe. Zur Partnerschaft, wie er ein Hackers ist.
36:34 Gavin Karlmeier
Eigentlich noch ziemlich niedrig. Ich habe mich ein bisschen gewundert, dass sie ihm nicht gleich die Partnerschaft angeboten hat, aber er ist erstmal Angestellter Anwalt. Aber ja, das klingt jetzt nach einem Geschmäckle und jeder, der vorsichtig ist, wird sagen, lass uns da ein bisschen genauer hinschauen. Also zum Beispiel er war vorsichtig. Ja, lass uns das mal machen. Also machen wir es mal ganz sachlich. Also, erst einmal, dass er zu White in Case zurückgeht, weil er back to the roots, weil er da schon mal war, durchaus nachvollziehbar. Das ist eine Anwaltskanzlei.
36:57 Chan-jo Jun
Marco Buschmann war Justizminister, der geht da hinten so.
37:01 Gavin Karlmeier
FDP damals mit der Feldschlacht, die nicht so gut geklappt hat, dann zurückgetreten. Das Minister In die Wirtschaft gehen, in Kanzleien gehen, völlig in Ordnung. Ganz klar. Das ist nicht zu kritisieren. Was man sich fragen kann, ist, wie war das Verhältnis als Justizminister zu White Case und zu X? Und jetzt könnte man sagen, jetzt stell dich mal nicht so an, der Justizminister hat sein Eid geleistet und so weiter zum Wohle der Verfassung. Jetzt gibt es diese Geschichte aus 2022. Wo tatsächlich dieses Stillhalteabkommen einen Tag vor der mündlichen Verhandlung in dem Verfahren Blume gegen Ex bekannt geworden ist. Und ich muss dazu sagen, ich wusste von dieser Vereinbarung. Ich hatte das schon vorher gehört, aber sie war nicht öffentlich bekannt. Und ich hatte das unter Dreien gehört. Es war nicht öffentlich bekannt, dass es eine Absprache gab, beziehungsweise eine Stillhaltevereinbarung in einem verwaltungsgerichtlichen Verfahren, wo X dagegen geklagt hat, dass es ein Gegenvorstellungsverfahren einführen muss. Das Gegenvorstellungsverfahren zur Sicherung der Meinungsfreiheit, damit man gegen gelöschte Inhalte vorgehen kann. Das ist etwas, was eigentlich Gut für die Meinungsfreiheit und gut für die AfD FDP Agenda war, sorry für den Versprecher, und das, was im DSA natürlich auch aufgenommen ist. Also ich kann gar nicht verstehen, warum man das boykottiert und warum X das nicht aufgenommen hatte, weil rechtswidrige Inhalte zu löschen ist die eine Seite, aber sie wiederherzustellen, wenn Overlocklocking betrieben wurde, war ganz, ganz wichtig, um die Balance wiederherzustellen. Da gab es den Einwand von X, dass die Regelung unfair ist oder europarechtswidrig ist. Und das Verwaltungsgericht Köln hatte zuvor schon im Verfahren von Meta und Google gesagt, die 3A-Regelung, die ist rechtswidrig, 3B ist aber wirksam. 3A war die Regelung mit der Anzeigepflicht über das BKA. Das war rechtswidrig, Europarechtswidrig. Twitter hat damals weiter dieses Verfahren auch gegen 3B, gegen das Gegenvorstellungsverfahren geführt und das Bundesamt für Justiz Chef davon oder untersteht dem Justizministerium, die haben damals meines Erachtens ohne Not gesagt, okay, ihr müsst das Gesetz nicht einhalten, wir werden auch Bußgeldmaßnahmen Verzichten, zögern das ein bisschen raus, weil vielleicht ist ja bis dahin auch schon irgendwie eine europäische Regelung. Also ich fand die damalige Maßnahme nach wie vor nicht nachvollziehbar, nicht nötig. Es war ein Entgegenkommen an Ex. Für das ich keinen dringenden Grund sah. Man hätte das durchsetzen können. Es wäre gut gewesen für die Meinungsfreiheit.
39:28 Chan-jo Jun
Und wenn man jetzt bissig ist, könnte man unterstellen, dass White and Case, die die Kanzlei sind, die offenbar ex vertreten, wenn ich das richtig Ich verstehe. Und Marco Buschmann, der zuvor dort gearbeitet hat, jetzt auch wieder dort arbeitet, möglicherweise über diese Wege eine andere Motivation gehabt haben könnte, als einfach nur eine Vorsichtsmaßnahme vor.
39:49 Gavin Karlmeier
Könnte, würde, was weiß ich, aber es kann auch sein, dass Marco Buschmann jetzt mit den Erkenntnissen als Justizminister und aufgrund der Werte, für die er steht. Recht und Freiheit steht auf seinem Ex-Account, jetzt zu White and Case geht und dort eine Beratung, eine werteorientierte Beratung von X vornimmt. Auch das ist wirklich. Und deswegen habe ich ihm gleich auch am ersten Arbeitstag gratuliert und ihm eine Einzweile Verfügung geschickt, die express ja nicht umgesetzt hatte und ihm gebeten, das doch an seine Mandantschaft weiterzuleiten. die ein, zwei Verfügung sah die Sperrung eines Accounts vor und ex hatte sich vorher geweigert. Und weißt du was, gestern am zweiten Arbeitstag war das Ding gesperrt.
40:35 Chan-jo Jun
Ach, also man muss der Trick ist nur, man muss nur wissen, wo man hinschreibt. Marco. buschmann at whitekase. com Da ist das legal, dass wir seine Mailadresse hier sagen.
40:47 Gavin Karlmeier
Ja, das ist eine gute Frage, wird man Artikel 6 nachschauen, aber die Konvention der Mailadressen, ich habe sie auch nur, ich weiß nicht, ob sie es, ich habe nur die Konvention gesehen, Vorname, Punkt, Nachname, so sind die alle aufgebaut, die Mailadressen. Manchmal gibt es noch so ein Doktor. Marco oder sowas, das weiß ich nicht, aber ich habe sie ihm per BA geschickt. Also ich habe sie ihm per Bär, per E-Mail und auf Ex. Wer ist Bär? BAA, muss man zu tun. BEA, das besondere Elektronische Anwaltspostfach. Das ist eine Zustellung von Anwalt zu Anwalt, die sehr gut kryptografisch gesichert ist mit Signaturen und gesicherten Zusammenbringen.
41:24 Chan-jo Jun
Der E-Postbrief für Jurastudenten.
41:26 Gavin Karlmeier
Genau, der Anwälte. Und nachdem er ja zur Anwaltschaft zugelassen ist, habe ich auch gesehen, dass er ein BA-Postfach hat. Und da das führt nämlich auch dazu, dass man einen Zugangsnachweis hat. Also ich wusste dann am Sonntag die Bestätigung, er hat es bekommen. Anwälte sind auch verpflichtet, es vorzuhalten, egal ob sie reingucken oder nicht, was man dorthin schickt, ist zugestellt.
41:48 Chan-jo Jun
Toll. Ja, okay. Also Leute, ihr wisst jetzt, was ihr machen müsst, wenn ihr euch an Ex stößt. Wenn ihr übrigens, was ich ganz interessant finde, es gibt ein Urteil des Landgerichtes Hamburg, das sind so Sätze, die kann ich immer nur, wenn du da bist, genauso beginnen. Es gibt ein Urteil des Landgerichts. des Hamburg, das jetzt festlegt, dass aus dem DSA sich zwar eine Pflicht ergeben würde, dass du ein benutzerfreundliches Verfahren im Sinne eines Online-Formulares anbietest Aber keine Pflicht, das als einzige Zugangsmöglichkeit für solche Beschwerden sozusagen vorzusehen oder anzubieten. Also im ganz konkreten Fall ging es darum. dass eine anonyme, also eine Person hat eine anonyme falsche Bewertung auf Google Maps gelesen, hat sich beschwert darüber, und zwar per E-Mail, über die E-Mail-Adresse, die im Impressum stand. Und Google hat gesagt, das bearbeiten wir nicht, bitte benutzt das Online-Formular. Daraufhin hat diese Person, ist dann vor Gericht gezogen und hat gesagt, ihr habt das doch bekommen, ihr müsst das euch doch trotzdem ansehen. Und das Landgericht Hamburg hat jetzt gesagt, ja, das stimmt, aus dem DSA ergibt sich keine Pflicht, ausschließlich das Online-Formular zu verwenden.
42:52 Gavin Karlmeier
Beziehungsweise man kann sagen, wenn ihr eine E-Mail-Adresse vorhaltet dann müsst ihr Zusendungen, die an diese E-Mail-Adresse gehen, auch als zugegangen betrachten. Und jetzt kommt der lustige Punkt. Mehr und mehr neigen die Gerichte dazu, diese Autoresponder. Antworten, diese Lass mich in Ruhe antworten, als Empfangsbestätigung zu nehmen. Denn Nachricht, die man bekommen hat, also X schickt ja immer die Antwort, wir konnten ihren Fall keiner Case Number zuordnen, bitte brauchen mein Formular.
43:20 Chan-jo Jun
Übrigens bei X kommt es ganz auf einer, welche Mailadresse du schickst. Wenn du an die Newsroom-Adresse schickst von einer Domain wie CNN oder NBR oder so, dann kriegst du als Antwort Legacy Media Lies. Das ist deine automatisierte Antwort, die du bekommst. Aber sorry, ich wollte nicht.
43:35 Gavin Karlmeier
Darüber gab es noch den Kackhaufen als Antwort, ne? Ja, das ist so, ja. Zumindest also wir schreiben an die supportlegal. x. com Adresse und da kommen zwar auch diese Autoresponder zurück, aber wir legen diese Antwort dem Gericht vor als Nachweis. Guck mal. Wir haben dorthin geschrieben, wir haben eine Antwort bekommen. Ob die es dann lesen wollen oder nicht, das ist dann deren Sache. In dem Verfahren, was ich jetzt an Marco Buschmann geschickt hatte, war es auch so, dass das Gericht letzte Woche am Montag Ex die Möglichkeit gegeben hatte, per E-Mail einen Anwalt zu bestellen oder sich zur Sache zu äußern oder eine Faxnummer zu benennen, um das zu übermitteln. Ja, wirklich Fax. Und das Gericht wird dann halt die gleiche Antwort bekommen, hatte, wir konnten, liebes Gericht, wir hatten keine Case-Nummer dazu. Aber das Gericht sagt dann, okay, das Grundgesetz sieht vor, rechtliches Gehör. Wenn ihr nicht hören wollt, müssen wir nicht auf euch hören. Wir können die Sache auch so entscheiden.
44:28 Chan-jo Jun
Und das haben sie dann gemacht. Toll. Ich habe mir gerade vorgestellt, weißt du noch, wie war interaktiv? Du bist ja ein bisschen älter, wie wir gerade, wie wir gerade festgestellt haben, ist okay, dass wir uns gegenseitig mit dem Alter hier schämen. Du bist ja auch ein bisschen älter. Du erinnerst dich sicher noch an Viva Interaktiv, als es im Hintergrund in der Kulisse gab es immer so ein Faxgerät und da liefen dann immer alle Faxe ein, die Zuschauer Ihnen dahingeschickt haben. Und jetzt stell dir mal vor, Elon Musk würde an so ein SpaceX XAI-Rechenzentrum. Satelliten einfach ein Faxgerät anschließen und würde quasi im Weltall die Faxe automatisch auslaufen lassen. Ich will hier niemanden auf dumme Ideen bringen, aber das würde mich irgendwie faszinieren. Das wäre ein cooler Legacy-Move, ne?
45:08 Gavin Karlmeier
Also hätte Retro-Vibes. Aber es gab doch früher auch auf Veranstaltung immer diese Twitter Diese Dinger, die automatisch, wenn man mit einem Hashtag was getwittert hat, das sollten wir auch wirklich Twitter sagen, dann wurde das Zeug dann ausgedruckt und wurde dann irgendwann an die Twitter-Walls gehängt und so weiter. Das waren coole Zeiten, ne?
45:30 Chan-jo Jun
Ja, heute gibt es nur noch Fiddy Walls. Ja. Und LinkedIn-QR-Codes. Es gibt noch eine Frage von den Hakis, bei der es um eine Bitte einer rechtlichen Einordnung bedarf. Und zwar. Wir reden hier extrem viel über Social Media Verbote für Minderjährige, für junge Menschen. Da kann ich gleich mal erstmal direkt abklopfen, wie so gleich dein Gefühl ist. Um das kurz ein bisschen anzudicken, es gibt halt gefühlt täglich irgendwelche News aus diesem Thema. In Deutschland wird das Ganze immer wieder diskutiert, dann will man es, dann will man es nicht. In den Niederlanden wird es gerade stark diskutiert. Also es gibt gerade eigentlich überall auf der Welt genau diese Debatte. In Frankreich ist man gerade schon bei der Gesetzesbildung, also dort ist man schon ein paar Schritte weiter. Und ich argumentiere häufig damit, dass ja jeder Mensch nach, ich glaube, UN Grundrechtskonvention oder wie es heißt den Anspruch auch auf digitale Teilhabe hätte. Bedeutet also auch junge Menschen müssten ja eigentlich Anspruch darauf haben, dass sie auch am digitalen Raum, wenn er denn einen Teil der öffentlichen Teil hat, abbildet, auch teilnehmen dürfen, was für mich ein Störgefühl auslöst im Vergleich zum Social Media Verbot. Und der Wunsch ist, dass du das mal rechtlich einordnest.
46:36 Gavin Karlmeier
Guter Punkt. Also dieses Argument ist in der Abwägung auch das stärkste Argument, an dem sich ein Verbot messen lässt. Das unterscheidet übrigens auch ein Verbot für Minderjährige gegenüber einem Verbot für Erwachsene. Gebot auf der anderen Seite, hier, Waagschale. Ich weiß, wir sind ein Podcast. Du hast jetzt ja gerade die Waage von gehalten. Die macht Geräusche, wenn man die Kaffeetasse daneben haut. Verbote durch eine Regierung sind Eingriffe in Freiheitsrechte, also mindestens in das allgemeine Freiheitsrecht aus Artikel 2. Aber jetzt hast du digitale Teilhabe eingeführt und auch informationelle Selbstbestimmung, Zugang zu Informationen, das spielt dann wieder in Artikel 5 rein. Das sind alles Grundrechte, die betroffen sind und die. beeinträchtigt werden können durch ein Rundherausverbot. Und man fragt sich dann immer, was ist die Rechtfertigung auf der anderen Seite? Jugendschutz beispielsweise. Schutz vor Radikalisierung, Doomscrolling, gesundheitliche Effekte, alles nachvollziehbar. Und dann fragt man sich, welche dieser Maßnahmen ist denn erforderlich? Also wir haben sozusagen die zwei verschiedenen Rechtsgüter, die wir abwägen. Aber dann fragt man sich, kann ich diesen Schutz über Jugendschutz, kann ich die. Ja, den Schutz der Rechte, die ich hier einführe, um das in die Waagscheide zu werfen, auf andere Weise auch schützen. Und dann haben wir diese dreistufige Prüfung bei jeder Verhältnismäßigkeitsprüfung. Ist die Maßnahme, nämlich ein Totalverbot, erforderlich. Geeignet und angemessen. Und die Reihenfolge war falsch. Es muss erst halt geeignet, erforderlich angemessen. Geignet heißt, schützt sich damit Also führt es dazu, dass Leute weniger idealisierte Körperbilder haben, weniger sich radierieren. Und dann würde man sagen, ja, das wird man wahrscheinlich erreichen. Geeignet ist es. Aber die andere Frage ist: Ist es das mildeste Mittel? Ist es erforderlich? Gibt es ein anderes Mittel, was auch so wirken würde? Und das ist die Stelle, wo ich schon ansetzen würde zu sagen, Moment mal Freunde, Social Media muss nicht so sein, wie es jetzt ist. Würden wir regulieren und das Ding so hinkriegen, dass es safe wäre für Minderjährige, müssten wir es nicht komplett verbieten. Also gäbe es ein milderes Mittel. Aber die Frage ist, gibt es dieses mildere Mittel? Weil wieso haben wir es bisher nicht geschafft, Social Media so zu gestalten, dass es safe ist? Und an der Stelle muss sich jetzt die Regierung fragen, sind wir chancenlos, haben wir eine Möglichkeit, Social Media so zu gestalten, dass es funktioniert? Und jetzt geht es ein bisschen um die Frage, Bei den Jugendschützern gibt es einige, die sagen, es gibt keine sichere Dosis, das ist wie mit Alkohol. Ein Schnaps ist genauso gefährlich, also es gibt keine unschädliche Dosis. Social Media darf überhaupt nicht zur Verfügung gestellt werden. Bei denen braucht man dann nicht damit kommen, aber wenn wir die Timeline besser gestalten oder die Inhalte irgendwie anders machen, dann ist es nicht mehr so gefährlich. Da wären wir schon raus. Aber wenn wir jetzt eher so eine vermittelnde Sicht haben und sagen, Okay, Social Media in Maßen mit einem Algorithmus, der nicht darauf ausgerichtet ist, die Schwächen der Menschen auszunutzen, um sie süchtig zu machen. Sozusagen wie Tabak, ohne die suchtmachenden Stoffe oder sowas. Könnte hinnehmbar sein. Zumindest könnte man dann in der Balance sagen, okay, das ist zwar jetzt vielleicht nicht gesundheitsförderlich, aber es ist im Hinblick auf die betroffenen Freiheitsinteressen des Minderjährigen vielleicht hinzunehmen. Auch im Blick auf Eigenverantwortlichkeit, wenn man es dann hinkriegt. Ich allerdings glaube, dass Social Media, wie es jetzt ist, nicht gut ist für Jugendliche. So wie wir es jetzt haben, muss etwas geschehen. Und wenn wir es nicht schaffen, mit Regulierung das zu betreiben, dann könnte es tatsächlich dazu führen, dass auch ein Totalverbot erforderlich wird. Und dann ist die dritte Stufe die Angemessenheit. Da kommt dann sozusagen die Die Rechtsgutsabwägung, wie schlecht geht es denen denn? Und da schauen wir alle nach Australien und haben die idealisierten Bilder, wie die Kinder jetzt auf der Straße spielen und Gummi-Twister hüpfen und Fußball spielen und sowas ähnliches. Da wird man noch ein bisschen genauer hinschauen.
50:47 Chan-jo Jun
Ja und also es gibt auch einen Teil der, wie hast du es genannt, der, ist es überhaupt so Zumutbar. So hast du es, glaube ich, nicht genannt. Ich übersetze das jetzt in meine Worte. Eignet erforderlich angemessen. Ja, angemessen. Weil bei jedem Verbot spielt es ja auch durchaus schon eine Rolle. Also, ich will nicht sagen, wir müssen auch an die armen Unternehmen denken, aber man müsste auch Ist es denn überhaupt trivial, was das für Auswirkungen für die Gesellschaft, für das Miteinander in den sozialen Netzwerken hat, einfach nur die jungen Menschen auszurechnen? Und da gibt es einen, finde ich, einen interessanten Vorgang aus Großbritannien und zwar Und wenn ich das Unternehmen ILO sage, weißt du, wer das ist? Nee? Das ist der Mutterkonzern hinter Pornhub. Pornhub, UPorn und Red Tube, die haben angekündigt, nicht mehr mit dem britischen Online Safety Act zusammenzuarbeiten. Also wir wissen, in Großbritannien gibt es eine. . Personalausweis oder Altersnachweispflicht für alle Angebote, die eben Erwachseneninhalte zeigen. Das betrifft dort Subreddits, das betrifft dort auch. Tweets zum Beispiel, aber das betrifft eben auch solche Erwachsenenunterhaltungswebsites. Und dort ist es jetzt so, dass ab dem 2. Februar, also seit Montag, seit vorgestern. . ist es in Großbritannien nicht mehr möglich, einen neuen Account zu erstellen. Also wer bis dahin kein Konto hat und sich eine Altersverifikation unterzogen hat, muss draußen bleiben. Damit endet ein sechsmonatiges Experiment, das nämlich ILO damals gestartet hatte, um herauszufinden, ob diese Maßgaben der Ofkommen, dieser britischen Medienaufsichtsbehörde, überhaupt so umsetzbar sind und realistisch sind, die Antwort hier ist wohl ganz offenbar nein. Sie glauben, dass der Versuch ist, gescheitert und die Begründung finde ich aber spannend. Sie sagen, dieser Versuch hat das Internet für Minderjährige sogar gefährlicher gemacht. Weil sie glauben, dass dieses Gesetz sein Ziel verfehlt, weil die Verpflichtung zur Altersprüfung dazu führt. dass Nutzer massenhaft auf kleinere Plattformen treffen, die deswegen deutlich unregulierter und deutlich zwielig dag sind. Das heißt, es sprießt überall, es sprießen irgendwelche Websites, die eben solche Angebote machen und junge Menschen stromern da in Massen hin, weil sie eben auf den großen Plattformen, die eben gewisse Regulierungen haben oder im Fall von Pornhub hier offenbar auch schon gewisse Maßnahmen ergriffen haben in den letzten Jahren, um zumindest sicher ReAer zu werden, eben nicht getroffen haben.
53:00 Gavin Karlmeier
Diese Argumentation hören wir immer wieder. Das hören wir auch bei der Cannabis-Legalisierung, hören wir aber auch bei Social Media. Wenn wir sagen, wir sind doch froh, dass wir die auf X haben, dann sehen wir wenigstens, was sie machen. Da müssen wir uns nicht Telegram installieren und so weiter. Und für den jeweils Inwellen-Fall ist das Zutreffen, wenn wir sagen, derjenige, der abwandert zu einer kleineren, Shady-Plattform und so weiter, der ist. stärker gefährdet. Aber das lässt natürlich außen vor, wie ist der Gesamteffekt? Welche Wirkung geht nach draußen, wenn man große Betreiber Reguliert und was ist auch das Signal, was man einem 14- oder 13-Jährigen sendet, wenn man ihn sagt. Die ILO-Produkte darfst du nutzen ohne Altersverifikation. Es ist in Ordnung. Du musst nicht auf irgendeine Dark Web-Seite auswandern. Das ist, glaube ich, etwas, was man abwägen kann, was man auch quantifizieren kann, wie groß ist der Abwanderungseffekt. Nur weil es dieses Argument gibt, bedeutet es noch nicht, dass deswegen die Maßnahme gescheitert ist. Also das ist ein bisschen wie ein Argument. Aber dein Verbot wird nicht hundertprozentig gelten. Zum Beispiel, wenn es darum geht, die Herstellung von Deepfakes zu regulieren oder zu verbieten. Dann werden ganz viele sagen: Ja, aber du kannst doch nicht den Leuten auf den Rechner gucken, weil du es nicht hundertprozentig durchsetzen kannst. Lassen wir es gleich außen vor. Das Argument funktioniert nur, ja, in der Diskussion eine Zeit lang, bis jemand näher hinschaut.
54:23 Chan-jo Jun
Ja, ja, verstehe ich. Ich bin halt da so hin und her gerissen und Leute, die diesen Podcast hier immer hören, wissen auch, wie hin und hergerissen ich bin. Weil ich auf der einen Seite natürlich auch sehe, dass so, wie die Netzwerke gerade gebaut sind, für junge Menschen einfach kein sicherer Ort mehr sind. Oder streicht das Meer, kein sicherer Ort sind. Und das fängt nicht nur damit an, was die Leute da sehen, sondern auch wie die Plattformen funktionieren, dass sie sie de facto in einer Abhängigkeit ziehen und so weiter und so weiter. Auf der anderen Seite ist es eine absolute, absolute, absolute Versagenserklärung, wenn wir sagen, wir kriegen unsere Gesetze dort nicht durchgesetzt. Es ist wie wenn du sagst Wir haben jetzt hier einen Blitzer aufgestellt, die Leute fahren immer noch 180, also verbieten wir einfach allen Leuten mit langsameren Autos auf diese Autobahn zu fahren. Das finde ich, wäre für mich keine logische Durchsetzung.
55:13 Gavin Karlmeier
Wenn du Blitzer nimmst, das ist ein ganz anschauliches Beispiel. Also Blitzer führen dazu, dass sie langsamer fahren, aber nicht alle. Ist jetzt der Beweis, dass das Ding ab und zu mal blitzt, der Beweis dafür, dass es nicht funktioniert, wahrscheinlich nicht. Also, ich bin da bei dir, ich bin davon überzeugt. Dass wir in der Lage wären, Plattformen sicher zu machen. Also ich wüsste auch den Katalog der Maßnahmen, jemand steht im DSA eigentlich schon drin, man müsste das mal durchsetzen. Aber ich freue mich ein bisschen, strategisch gesehen, über Australien. Weil damit ist klar, wir meinen es ernst, irgendwo auf der Welt gibt es Leute, die so verrückt sind, das durchzusetzen. Und in Südostasien, ich war im Dezember auf einer Konferenz in Indonesien. Und da, Indonesien hat hundertzwanzig Millionen Social Media Nutzer, das ist ein riesiger Markt, da hat Meta sogar Repräsentanten, so wie früher in Deutschland, die sozusagen zu Konferenzen auch hingehen und versuchen abzuwenden und zu sagen Ey, wir machen ja ganz viele tolle Sachen. die viele Länder in Südostasien sagen, wir machen es genauso wie Australien. Wieso lassen wir uns da auf der Nase herumtanzen? Da sieht man ein ganz neues Selbstbewusstsein. Und das führt, ich meine, wir sehen es ja auch in Europa, dazu, dass die Plattformbetreiber vor der Wahl stehen, entweder diese Nutzer wirklich zu verlieren oder sich doch mal zu überlegen, an die runden Tische zu setzen, das Gesetz zu beachten. Und weißt du was? Wir jammern ja immer, dass Ex nichts tut. Und es ist frustrierend, dass sie nicht genug tun. Aber es ist nicht so, dass da gar nichts passiert. Meldungen führen häufig und ich meine, manchmal muss man halt einen Justizminister anschreiben, aber rechtwidrige Inhalte werden schon auch manchmal entfernt. Das ist anstrengend und es geht auch besser. Aber es könnte sein, dass die auch gerade wieder in dem nächsten Umschwung sind. Also wir haben so verschiedene Wellen, ne? 2025 war wahrscheinlich ein Tiefpunkt, was Regulierung und Moderation betrifft, aber vielleicht führen diese Verbotsdiskussionen auch dazu, dass Sie sagen. Lieber putzen wir unseren Saustall ein bisschen, bevor wir ein Komplettverbot riskieren. .
57:09 Chan-jo Jun
Ja, wir haben da ja drüber gesprochen, auch hier in diesem Podcast, dass du darüber berichtet hattest, dass einzelne Nutzer ja auch tatsächlich gesperrt wurden, was. Bei Ex, also uns alle überrascht hat, dass sowas passiert.
57:23 Gavin Karlmeier
Exakt. Und der wurde sehr oft gemeldet, es war ein großer Account, war auch verifiziert, soweit ich weiß, also bezahlt auch Geld dafür. Und wir hatten eine. Also, ich hatte eine gerichtliche Verfügung beantragt. Ich hatte gleichzeitig aber Ex auch abgemahnt. Und Ex hatte dann auf der Abmahnung gesagt, wir haben es geprüft, nö, wir sehen mal gar nicht so. Und dann habe ich ihnen die ein, zwei Verfügung geschickt und gesagt: Sieht aber das Landgericht Hamburg anders? Steht ihr weiterhin zu eurer Entscheidung? Und dann haben vielleicht die Juristen, also gerichtliche Verfügung, haben schon eine gewisse Überzeugungswirkung festgestellt. Oh scheiße. Wir haben mit unserer Rechtsposition jedenfalls uns anders entschieden als ein Gericht. Wir haben es abgelehnt, wir sind voll in der Haftung. Es bedeutet, ex haftet für jede. jeden Bullshit, der ansonsten von diesem Account passiert, auf Schadensersatz, auf Unterlassung. Und dann überlegen die sich so, brauchen wir den Account, brauchen wir eben nicht. Wie viele Werbeeinnahmen gehen uns dadurch flöten? Wie viele Kosten erzielen wir damit? Nicht, dass Kosten jetzt ein wichtiger Punkt für Elon Musk sind, aber wenn das nur fünf Leute sind, die dort arbeiten, würde man die ziemlich gut auslasten, allein für die Prozesse, die man mit den Wuppi-Inhalten betreibt. Und der weicht jetzt aus, vielleicht auf Fake Accounts, jedenfalls gibt es sehr viele ähnliche Accounts, die kommen natürlich nicht so richtig auf die Reichweite.
58:36 Chan-jo Jun
Ich kann dir aber zum Thema Fake-Accounts, eigentlich wollte ich hier jetzt gerade schon abmoderieren, aber ich will das nur kurz erzählen, weil das so interessant ist. Und zwar gibt es eine Analyse eines, ähm, wo habe ich denn das? eines Experten, der in dieser, wir haben ja über die Open Source Stellung des X-Algorithmus gesprochen, und dass in diesen Open Source Hinweisen Hinweise existieren für ein Vorgehen, das Behavioral Fingerprints heißt, also die Möglichkeit, aus deinem Nutzungsverhalten herauszulesen, ob du ein anderer Mensch bist. der bereits auf der Plattform unterwegs ist. Also sozusagen hinterlässt dein reines Nutzungsverhalten, einen Fingerabdruck und den wiederum kann man dann auch auf andere Accounts legen und damit wie hier ein OSEN-Fan mit dem Pseudonym Harrison Berichtet hat, ist es wohl möglich, sozusagen einen Account unter Tausenden wiederzufinden. Das finde ich schon hochinteressant.
59:29 Gavin Karlmeier
Da muss man sagen, da spielt dann Big Data tatsächlich eine Rolle. Ich erinnere mich auch noch, als zu Zeiten, als Ex noch wirklich Ansprechpartner hatte, dass das für die eine ganz, ganz große Sache war. Also die Mitarbeiterin von Twitter damals sagte mir. Wenn Sie Hinweise hat, wie man diese Netzwerke besser erkennen kann, dafür werden wir dankbar. . . Die wollten nämlich wissen, weil natürlich immer neue Accounts angelegt werden. Übrigens Das Problem könnte man natürlich auch anders lösen, nämlich indem man eine Registrierungspflicht vornimmt. Jetzt sind wir so bei Realnamenpflicht oder Pseudonymisierungspflicht oder Registrierungspflicht. Was natürlich das Gift wäre für die Nutzerzahlen, wenn man sich jetzt irgendwie wie bei einer Bank erst registrieren und identifizieren müsste. Aber das würde natürlich dazu führen, dass es keine anonymen Fake-Accounts mehr gäbe in diesem Umfang. Mit irgendwelchen Leuten, die in Wirklichkeit schon gesperrt sind. Denn der Nutzer hinter Wuppi, der ist ja schon längst gesperrt. Wieso ist er überhaupt noch unterwegs? Der hat eigentlich vertraglich ein Verbot, auch neue Accounts anzulegen. Müsste man eigentlich mal durchsetzen. Ist übrigens auch eine interessante Fragestellung, ob man sich als anderer Nutzer darauf berufen kann, dass man geschützt wird vor solchen gefährlichen Nutzern. Aber das Interesse der Plattformbetreiber ist anscheinend noch nicht groß genug. um zu so drastischen Maßnahmen zu greifen, oder diese Fingerprints tatsächlich zu nutzen, um einen Account von vornherein zu shadowbannen
01:00:48 Chan-jo Jun
Ja, absolut. Also ich finde das natürlich interessant, weil wir davon ausgehen müssen, dass es diese Verhaltensfingerabdrücke genauso auch bei allen anderen Plattformen gibt. Also du halt mit bei TikTok, bei Instagram, genauso, nur durch dein Nutzungsverhalten, wann likes du einen Post, wie viel Zeit vergeht, wie verhältst du dich auf der Plattform und so. Und welche Hardware benutzt du? Ganz genau, ja, natürlich. Also die offensichtlichen Dinge wie IP-Adresse jetzt mal außen vor, aber nur dein reines Verhalten auf der Plattform, dass du das natürlich überall auswerten kannst und die Plattformen damit durchaus in der Lage sind, jetzt schon solche Fake-Accounts von Menschen zu de-anonymisieren. Wobei man dazu sagen muss, wo ist deren Interesse, wenn du nicht gerade bei einer Rechtsverfolgung bist, das zu tun.
01:01:30 Gavin Karlmeier
Nur dann, wenn es wirklich relevant und teuer wird. Deswegen, wahrscheinlich muss man hier, das wäre der Werbeblock. Bitte verklagt ex häufiger. Würde ein größerer Druck entstehen, darauf solche Sachen zu verfolgen und nicht einfach nur als nervige Meldungen allein zu schreiben, die sind zwar auch manchmal hilfreich, aber wir erleben es gerade, dass Ex nicht genug zur Rechenschaft gezogen wird, weil Ich kann es nachvollziehen, die Prozesse gegen Ex sind auch nicht erfreulich, es sind Materialschlachten, man braucht einen langen Atem, die gehen durch alle Rechtsmittel, die machen es so unattraktiv wie nur irgendwie möglich, damit man Ex nicht mehr verklagt. Man könnte sagen, das ist rechtsstaatlich in Ordnung, aber es ist halt so, wer irgendwie Trillionen an Kriegskasse hat, hat irgendwie bessere Möglichkeiten bei der Rechtsdurchsetzung oder Verteidigung als jemand, der nur seine Rechtsschutzversicherung hat.
01:02:17 Chan-jo Jun
Und das ist so traurig eigentlich, ne?
01:02:19 Gavin Karlmeier
Das ist traurig und deswegen, dazu gibt es eine Lösung. Also dazu müsste der Staat eigentlich eingreifen, weil diese Plattformbetreiber sind fast Staaten selbst. Sie sind so stark mit ihrer Position, dass der Bürger einen besseren Schutz dafür bräuchte. Deswegen gibt es in anderen Ländern Zum Beispiel bei den sogenannten Equality Bodies, die bei uns Diskriminierungsstellen heißen, gibt es Stellen, die Bürger bei so etwas unterstützen. Wir sind eines der wenigen Länder, die in Europa unseren Antidiskriminierungsbeauftragten die Beauftragte so schwach ausgestattet haben, dass sie keine Opfer unterstützen können auf staatlicher Ebene. Dabei gäbe es die Möglichkeit zu sagen, wir richten eine staatliche Stelle ein, die gerade bei der Durchsetzung gegenüber starken Plattformbetreibern unterstützt.
01:03:09 Chan-jo Jun
Und daran halten wir fest. Ich habe noch einen kleinen Verbraucherschutzhinweis für alle, und zwar berichtet netzpolitik. org, dass viele Menschen, vor allem aber JournalistInnen, Und prominente Personen, investigativ arbeitende Personen, Menschen bei öffentlich-rechtlichen Fernsehsendern, Menschen bei größeren und kleineren Medienhäusern, darunter die Zeit korrektiv, eure Aktiv und Netzpolitik Im Moment Signal-Angriffe erleben. Also sie kriegen eine Nachricht eines Signal Supports. So heißt die Nachricht, wo man nur gebeten wird, seinen Sicherheitscode drin zu schicken. Dir wird garantiert, dass der komplett sicher verwendet wird, aber notwendig ist, um dich zu verifizieren. Don't tell anyone the code, not even Signal Employees, steht noch eben da drunter. Aber es ist eben de facto ein Scam oder der Versuch, deinen Account irgendwie zu kapern, indem du eben deinen Sicherheitscode dorthin schickst, mit dem du deinen Signal-Account nutzt. Also seid vorsichtig und gebt eure Codes nicht in irgendwelche komischen Chats ein.
01:04:03 Gavin Karlmeier
Und das Lustige an der Sache ist auch hier wieder, das Ding ist ja deswegen so glaubwürdig, weil die es selbst warnen. Also man könnte sagen, hey Gavin, du hast so eine Nachricht bekommen, glaubst du, die ist echt? Und du würdest sagen, ja, die muss echt sein, die warnen ja sogar selbst vor Betrügern. Das Fahnen von Betrügern macht Betrüger glaubwürdig. Ja, das stimmt.
01:04:21 Chan-jo Jun
Also schickt nicht nirgendwo eure Signalpin hin, ist eigentlich nur, was ich sagen möchte. Und was ich interessant finde aber, und das schreibt netzpolitik. org, es wird vermutet, dass das eine Art orchestrierter Angriff gerade auf JournalistInnen ist. Weil eben vor allem JournalistInnen davon betroffen sind. Aber wenn du so einen Account irgendwie gekapert hast, dann hast du halt die Möglichkeit, auf deren Netzwerk zuzugreifen. Die Wahrscheinlichkeit, wenn du einmal bei einem Journalisten, einer Journalistin drin bist, Und dann darüber hinaus andere Journalistinnen zu finden, ist natürlich relativ groß, weil es sind halt alles Kollegen und Signal ist für die Journalistinnen so ein bisschen das, was BA für dich ist.
01:04:56 Gavin Karlmeier
Und man kann sich fragen, wer steht da wohl dahinter, wer könnte ein Interesse haben, solche Netzwerke zu kamern. Aber das ist. Ich wollte es eigentlich abmoderieren.
01:05:04 Chan-jo Jun
Vor allem sind wir im Bereich der Verschwörung, ja. Genau. Und den verlassen wir, aber es ist ja mal wieder wunderschön, Chanjo. Ich finde es immer gut, wenn du hier bist. Dann können wir mal so ein bisschen aufräumen zusammen. Pass auf dich auf. Wir sehen uns hoffentlich bald wieder. Wir hören uns hier wieder am Freitag mit Caroline Schwarz, die das erste Mal bei uns ist. Freue ich mich sehr drauf. Ich wünsche euch eine tolle Restwoche. Tschüss. Tschüss.