Zahnstocher-Fundamente im Marathon der Rechte

00:20 Chan-jo Jun

Okay, dann verschwenden wir keine Zeit und steigen gleich durch und sprechen schneller. Ich habe nämlich gerade gemerkt, wenn man so mit Leuten wie Hirschhausen spricht, die haben ein anderes Sprechtempo. Das ist der Grund, warum die Leute sowieso auf 1,2 schalten. Vielleicht schaffen wir es, dass die Leute zurückschalten auf 1,0.

00:42 Chan-jo Jun

Vielleicht sie aus der Bahn zu werfen, wenn man noch schneller sprechen soll. Uhuh, das wird mir zu schnell. Ich gehe wieder unter 0,8.

00:54 Chan-jo Jun

Levi Pinel nimmt auf und beschleunigt selbst auf 1,2. Hat er mir nach euch erzählt, du Backstage, als wir bei Hardover Fair waren. Und gesagt, wie schaffst du es so schnell zu sprechen? Jumpcuts natürlich raus und dann einfach alles von Haus aus. Nennt sich sicher auf A1,1 oder 1,2. Habe ich schon wieder vergessen. Vielleicht weiß mein Sohn, dass der hat zugehört. Er ist nicht so schnell.

02:07 Chan-jo Jun

VPN-Verbot kennen wir ja aus China, weil irgendwann die Machthaber merken, das ist gefährlich. Alle Regulierung, die wir haben, setzt an, dass man. Weiß, wo die Leute sind, in welchem Land sie sind, für Geoblocking und so weiter, und mit VPN wird das alles ausgehebelt. . . Und das war damals schon falsch und ist es natürlich in Europa erst recht, aber das ändert nichts an der Frage, dass es trotzdem kommen könnte. Der strukturell falsche Ansatz, Ist, wir lösen nicht das Problem, sondern wir lösen die Umgehungsmechanismen für hinterherzurennen und den Leuten das VPN aus der Hand zu schlagen. Wenn es zum Beispiel darum geht, und da kommt die Diskussion wahrscheinlich her, ein Social Media Verbot für unter 16-Jährige durchzusetzen, dann kann man entweder die Plattformen austricksen, das wird anscheinend schwerer, weil deren Mechanismen besser werden in Australien. Nicht schwer genug natürlich. Oder man macht einfach ein VPN dazwischen und geht in ein anderes Land. Das eigentlich zugrunde liegende Problem Jetzt machen wir wirklich mal drei Schritte zurück, ist eigentlich nicht Social Media Verbot, sondern dass die sozialen Netzwerke toxisch sind und zwar nicht nur für unter 16-Jährigen, sondern auch über 16-Jährige, aber ich glaube. Da sind wir uns einig und deswegen ist uns wohl das Social Media Verbot nur die, sagen wir mal, zweitbeste Idee, um nicht zu sagen eine dumme Idee. . Und ein VPN da noch drauf Verbot draufzusetzen, ist eine noch. Drittklassigere Lösung. Aber sowas kann kommen. Regulatorisch ist das denkbar. Und das ist so ein bisschen die Frage, wo läuft das Fenster gerade hin? Die Briten fangen damit an. Wir müssen sozusagen nicht immer nach China blicken, wo man sofort ja weiß, das ist falsch, was die machen, aber es machen auch demokratische Länder. Und deswegen müssen wir das im Auge behalten, dass da was kommt, es wird nicht ein Verbot geben. Also es geht nie darum, dass man sagt, du darfst es nicht einsetzen, aber Es kann das eben bedeuten, dass bestimmte Anbieter sich registrieren müssen oder dass es am Schluss halt praktisch kaum noch nutzbar ist.

04:04 Chan-jo Jun

Was wir natürlich auch dabei sehen ist, dass das Geoblocking, und jetzt bin ich mal wieder aus der anwaltlichen Perspektive, dass das Geoblocking nicht viel wert ist. Momentan ist es so, wenn ich einen rechtswidrigen Inhalt habe, also nehmen wir mal. Gavin, Deepfake Video, Falschzitate werden unterstellt, dann würde man sagen, Gavin hat seinen Wirkungskreis nur in Deutschland, vielleicht in Österreich, vielleicht aber auch außerhalb der Europäischen Union in der Schweiz. Soll das nur dort sperren mit Geoblocking? Dann setzen wir eben auf IP-Adressen und in dem Moment, wo man über VPN vorgeht, könnte Gavin sagen, hey, das bringt überhaupt nichts, weil 30% der Leute nutzen VPN, können trotzdem die rechtswidrigen Inhalte sehen. Das würde dazu führen, das sollte eigentlich schon jetzt dazu führen, dass man sagt, Geoblocking IP-basiert reicht bei weitem nicht aus. Das wissen wir natürlich, dass noch andere Geoblocking-Techniken außer IP-Adressen denkbar sind, die Plattformbetreiber wissen das ziemlich gut. Die sind da schon viel, viel weiter, aber wir sind noch mit IP-Adressen unterwegs. Ich will also gerade sagen, das ist sowieso eine blöde Idee mit dem Geoblocking. Ich finde ja sowieso, dass Rechtswidrige Inhalte, die in Deutschland und in den meisten anderen europäischen Ländern rechtswidrig sind, eigentlich auch im Rest der Welt untersagt werden sollten. Aber das ist ein anderes Thema.

05:50 Chan-jo Jun

Kevin, darf ich da kurz mal einhaken, weil das ist ein Gedanke, der. so gar nicht ganz so aktuell ist, aber mit der mich total viel befasst, nämlich dieses, wir betrachten die Online-Welt als einen eigenen Raum, als eine Sonderrechtszone und Mir ist ja aufgefallen, wir sprechen von virtuell und meinen damit immer so etwas nicht echt. Virtual Reality ist ja etwas, das nicht echt ist. Gerade in der Offline-Welt denken die Menschen bei virtuell, bei Cyber immer, ist nicht so wichtig, ist nicht so ernst zu nehmen. Wir hatten das ja mit virtueller Vergewaltigung, ist virtuelle bzw. digitale Gewalt etwas weniger. Tatsächlich gibt es viele Strafverteidigungen. Also wenn wir jetzt von digitaler Verwaltung sprechen, dann ist das eine Relativierung der echten Vergewaltung. Das ist ja keine echte, sondern eine unechte. Psychologisch sind die Mechanismen sehr ähnlich, das was man erlebt über Sinne. Auch in der Erinnerung, aber natürlich, für manche Leute zählt nur wie es absoluter. Und auf der Regulierungsebene, auf der rechtlichen Ebene, die du gerade angesprochen hast, bedeutet es natürlich, wir glauben immer, dass wir andere Vorzeichen haben für den digitalen Raum, dass eine Nötigung online nicht so schlimm ist, dass eine Beleidigung online ja weggeklickt werden kann, man kann einfach das Ding ausmachen Annalene von Rodenberg sagt an der Stelle immer, der Unterschied zwischen der Beleidigung im Online-Bereich ist, die bleibt, die verhalten nicht, anders als in der Kneipe. Wir sind immer noch nicht ganz angekommen bei dem Thema, aber das ist ein nicht so aktuelles Thema. Das wirft mich gerade ein bisschen raus, aber damit befasse ich mich gerade.

07:26 Chan-jo Jun

Es dauert noch eine Weile, bis alle verstanden haben. Vielleicht müssen wir warten, bis die Generationen sich rauswachsen, die nicht digital aufgewachsen sind, aber das dauert auch noch eine Weile.

07:38 Chan-jo Jun

Das stimmt. Also vor allem so Generationen wie ich mit den Digital Immigrants, also ich bin 74 geboren, das heißt, meine Generation war nicht komplett digital, sondern nur die Nerds hatten schon einen Modem. Und deine Generation ist wenigstens digital aufgewachsen und die danach sowieso.

08:16 Chan-jo Jun

Gavin, wir haben vorher kurz gesprochen, dass wir so bubbelig unterwegs sind und dass kaum jemand mitkommt über das, was wir sprechen. Du bist der Experte, du sitzt ja wie die Spinne im Netz und musst alles mitkriegen, was so läuft und dass wir mal ein Thema finden, wo die User, die Hakis was gefunden hast, du nicht so verzuraten kannst. Aber es ist ein bisschen. Offsite, das ist nicht Plattform. Also SAC Psych ist ein chinesischer Automobilhersteller, der die Marke MG herstellt. MG Motors, das sind diese Billigautos, die in den letzten Jahren mit Super Leasing-Raten auf den Markt kamen. Autos sind voll mit Software, insbesondere Open Source Software, Linux-Steuergeräte, meistens haben ein Dutzend Linux-Steuergeräte da drin. Darf man verwenden, wenn man Lizenzen einhält? Die einfachste Lizenzpflicht ist, dass man die Lizenz benennt, aber auch, dass man Source-Code bereitstellt, insbesondere für den veränderten Komponenten. Und das ist jetzt gerade jetzt im Hinblick auf die neuen Cyber Security-Regeln, Cyber Resilience Act und so weiter echt relevant, dass die Leute ihre Software Bill of Material haben, die Hersteller und bereitstellen. Psych Hat das alles nicht gemacht. Die haben da vielleicht wohl so einen Shortcut gemacht, China Speed, you know. Während deutsche Hersteller total altmodisch Compliance betreiben und diese Sachen zusammensuchen und ewig lange Listen machen, die auch in einem Telefon Abrufbar sind. Auch Samsung, Apple und so weiter erledigen das gut. Aber Syke hat gesagt, brauchen wir nicht. Eine Zulassung kriegen wir in Amsterdam, fügen den ganzen europäischen Raum, auch ohne das. Und dann habe ich mir gedacht, das ist jetzt aber eigentlich nicht so gut, weil ich fahre jetzt ein Auto. Wir haben eins im Fuhrpark, wo die Software nicht lizenziert ist. Die Software ist eine Raubkopie. Schon mit dem Starten des Autos verletze ich das Urheberrecht, was sogar eine Straftat sein kann. Und ich habe zur Seite gesagt, bitte repariert mir das mal. Aus dem Gesichtspunkt des Rechtsmangels, der ist recht streng in Deutschland, wenn eine Sache mit einem rechtlichen Mangel behaftet ist, das ist dann der Fall, wenn ein dritter Ansprüche geltend machen könnte. Und das könnte ein Urheber. Dann ist es mangelhaft und ich könnte jetzt sagen, bitte reparieren. Oder ich könnte sagen, Geld zurück. Geld zurück ist das, was Sie sich wünschen würden. Ich habe sie verklagt in München. Und die ganze Open Source Community blickt auf diesen Prozess, weil es der einzige dieser Art ist und weil es auch ein neues Vorgehen ist. Es gibt was ähnliches in Amerika mit Software Freedom Conservancy gegen Visio, einen Smart TV-Hersteller, wo die ähnlich vorgehen. Und wir machen das hier in Deutschland auch mal so als Prozess zum Ausprobieren mal hingucken. Und die tun sich richtig schwer. Update also, die haben wir das Auto mit einem Abschleppwagen abgeholt und dann zwei Tage später wieder zurückgebracht. Und dann haben wir jetzt einen QR-Code, aber die Source-Codes haben sie immer noch nicht. Und jetzt liegt nur exklusiv hier vor ein paar Wochen kam die letzte Erwiderung. Und die Anwälte von Psyche sagen, das ist echt ein bisschen süß, wir haben echt Schwierigkeiten, diesen Source Code zusammenzubringen. Sie werden noch Verständnis haben Wir müssen den ja erst selbst von den ganzen Zulieferern bekommen und jetzt zwischen den Zeilen. Und sie könnt euch vorstellen, dass die chinesischen Zulieferer noch viel weniger Bock und Vorbereitung auf dieses Thema haben und aus den Wolken gefallen sind, dass wir jetzt auf einmal Gesetze einhalten müssen.

11:45 Chan-jo Jun

Es gibt ja einen sehr berühmten Zahnstocher, das ist FFM-Pack. Genau. Mussten wir gerade in diesem Mund im und FFMP steht unter LGPL 2. 1, bedeutet, dass du die Lizenzen aus. die Libraries austauschen können musst, dass du Zugang haben musst zum Source-Code und ganz häufig werden diese Lizenzen nicht erfüllt. Das heißt, wenn du ein Gerät hast, jetzt Da un haben wir mal ein bisschen so nicht ganz so offiziell. Wenn du ein Gerät hast, was dir auf die Nerven geht und wo du eigentlich gerne das Geld zurückhaben willst, müsstest du im Grunde nur reingucken, was ist da drin, wo sie die Rechtsverletzung und sagst dann zum Verkäufer. Hey, dein Gerät ist rechts mangelhaft, ich hätte gerne mein Geld zurück. Das kann man machen für ein Auto. Ganz häufig auch für Solaranlagen, Wechselrichter, Speicher, die haben natürlich auch alle ein Linux-Betriebssystem drauf. Und dann kannst du mal fragen: lieber chinesischer Hersteller oder deutscher Importeur, Könnte ich bitte den Source-Code wenigstens vom Linux-Kernel haben, aber auch von all den anderen Komponenten drauf. Bitte reparier mir das oder gib mir mein Geld zurück.

12:50 Chan-jo Jun

Prima. Also alle Leute, die in der Lage sind, mal so einen Flash-Speicher auszulesen, hätten jetzt einen Anreiz dafür, weil es kann dazu führen, dass du dein Geld zurückbekommst.

13:33 Chan-jo Jun

Habe ich das richtig verstanden? Du bist jetzt schon ziemlich gut drin. Lass mich anekdotisch die Geschichte aufbereiten, warum mich das Urteil so sehr betrifft, weil wir vertreten ja Renate Kühners vor dem Bundesgerichtshof schon seit vielen Jahren, jetzt in der dritten Instanz. Renate Kühners Wehrt sich gegen ein untergeschobenes falsches Zitat und zwar aus dem Gesichtspunkte des allgemeinen Persönlichkeitsrechts. Und ein paar Tage vor der mündlichen Verhandlung, letztes Jahr vor dem Bundesgerichtshof, kommt der sechste Zivilsenat und sagt: Ey Leute Sie schreiben nicht wirklich E-Leute, aber besser hier. E-Leute. Ey-Anwälte. Sag mal, habt ihr die ganzen letzten Jahre eigentlich gepennt? Habt ihr mal darüber nachgedacht, dass Renate Kühners den gleichen Anspruch auch haben könnte aus der DSGVO? Dass sie also Anspruch haben kann aus Artikel 17, dem Recht auf vergessen werden. Und ich muss ehrlich sagen, wir sind da nicht drauf gekommen, wir haben zwar Datenschutz erwähnt, aber wir sind nicht darauf gekommen, dass Fake News Daten sind, für die es keinen guten Grund gibt, die vorzuhalten und dass man deswegen aus Artikel 17, wir recht aus vergessen werden, einen Anspruch auf Beseitigung haben könnte. Und dann sagte der Bundesgerichtshof, da ist gerade eine Sache In Brüssel Anhänge beim EuGH, nämlich RusMedia aus Rumänien, und da geht es um genau folgende Fragestellung, die du eben angerissen hast. Plattformen haben ja nach dem DSA Ein Provider-Privileg. Das heißt, Notice Takedown, solange ich nichts weiß, was ich nicht weiß, macht mich nicht heiß. Ich muss erst handeln, wenn ich Kenntnis bekomme. Die DSGVO ist an der Stelle strenger. Die DSGVO sieht das nicht vor. Und die Frage ist, ist diese Privilegierung aus dem DSA auch auf die DSGVO anwendbar oder gilt die DSGVO pur? Und die Antwort vom EuGH ist, wenn DSGVO Anwendung findet, dann gilt sie direkt. Die Privilegierungsvorschriften aus dem DSA spielen dabei keine Rolle. Das ist für Renate Bühners erstmal gut. Das bedeutet nämlich, dass wir kein Notes- und Take-Down brauchen für den DIS-GVO-Anspruch. Allerdings, in unserem konkreten Fall, hatten wir ja Gemeldet. Wir hatten ganz normal den Weg gemacht, aber wenn jetzt die DSGVO direkt gelten würde, würde es bedeuten, dass zumindest, und jetzt kommen wir gleich zu dem Fediverse und dem Unterschied zu Meta, dort, wo ein Anbieter nicht mehr neutral die Daten verarbeitet, nicht mehr einfach nur zwischenspeichert, sondern so wie bei Rosmedia und übrigens auch bei Meta sich Rechte einräumen lässt, sich vorbehält, mit Algorithmen über die Platzierung der Inhalte zu agieren. Dort verdienst du nicht mehr das Provider-Privileg. Jedenfalls nicht nach Datenschutzrecht, ich bin der Meinung nicht einmal nach dem DSA, weil auch das Providerprivileg nach dem DSA eigentlich um dem Vorbehalt steht, dass man neutral ist. So, jetzt zur eigentlichen Frage und ich merke, ich rede heute viel mehr als du. Es ändert sich gleich zu Hause.

16:18 Chan-jo Jun

Also. Rusmedia ist eine Anzeigenplatte, eine Werbeschaltungsplattform und da wurden irgendwelche rechtsverletzenden Anzeigen gepostet und bei Rusmedia ging es tatsächlich so, dass sie dafür haften. Und zwar nicht nur auf Beseitigung, sondern auch auf Geldentschädigung, Schadensersatz 82 DSGVO, ohne dass es einen Notice and Takedown brauchte. Und der EuGH musste also die Frage stellen, ist Rosmedia Controller? Sind die die Datenverarbeiter oder ist es derjenigen, der die Anzeigen geschaltet hatte? Und da geht es sowieso um diese wichtigen Fragen Verantwortung und dass man Rosmedia hier in die Verantwortung genommen hat, obwohl es jetzt kein VLOP, also kein großer Plattformbetreiber wie Meta oder Access, aber trotzdem schon sehr marktbeherrschend als Kleinanzeigenportal. weil auch kommerziell, weil sie Geld dafür bekommen und weil sie darüber entscheiden, wie platziert wird. Und das ist der Unterschied zu FairDiverse. Wir haben sozusagen die großen Plattformen, wir haben Rus Media als eine kommerzielle Anmaßende Plattform, die sich alle möglichen Rechte einräumen lässt, über ganz viele Sachen entscheidet. Die sind dran. Und dann haben wir das Fattiverse oder wir können jetzt noch einen Dropbox dazwischen nehmen, der zwar auch groß und mächtig, aber. Die speichern wirklich nur. Und eine Fattiverse-Instanz, jetzt müssen wir ja gucken, wer sind denn die Leute, ich verklage ja nicht das Fattiverse, sondern es wären ja Instanzenbetreiber. Die in der Regel neutral einfach nur das Knoten abbilden, Sachen speichern und weiterleiten. Das ist der Gedanke, wofür eigentlich das Provider-Privileg damals 2001 gedacht war. Jemand, der nur durchleitet, so wie CompuServe. Ich weiß nicht, haben wir schon mal über die CompuServe-Entscheidung gesprochen. Das ist der Gedanke, für den eigentlich diese Privilegierungen gedacht sind. Deswegen, um die Frage zu beantworten, nein, ich glaube nicht, dass Russ Media das Fediverse killt. Aber trotzdem wird man in die Argumentation reingehen müssen, ob das für die Worst sozusagen wirklich jenseits dieser Verantwortung schreitende liegt.

19:16 Chan-jo Jun

Boah, das ist eine ganz schön fiese Hypothese, dass am Schluss das Geld den Unterschied macht. Aber lasst uns kurz mal für die Hörer. . aufdröseln, welche Ebene du gerade hier betrachtet hast, weil da müssen wir auch nochmal zurück für Rusmedia. Es gibt die eine Ebene sozusagen diesen äußeren Mantel des Schutzschildes aus 230. Oder Provider-Privileg. Werten Sie kurz mal in einen Topf. Das ist sozusagen diese Schutzhülle, die die Plattformbetreiber, ob groß oder klein, davor schützt, verantwortlich zu sein für die Inhalte bis zur Meldung natürlich. Wir müssen aber die nächste Frage betrachten. Mal angenommen, du hast diese Schutzhülle nicht, dann ist natürlich die Frage, ist das, was dahinter darunter vorkommt, überhaupt rechtswidrig? Kannst du es verteidigen? Und das ist jetzt die Stelle, wo du gesagt hast, First Amendment, Persönlichkeitsrechte. Und da müssen wir jetzt für Rus-Medien nochmal reinschauen. Nur weil wir den Schutzmantel nicht haben für Datenschutz, bedeutet das nicht, dass du Datenschutz verletzt. Für den Artikel 17 DSGVO, was den Beseitigungsanspruch ausmacht, kommt es letztendlich auch darauf an, dass dieser Anspruch geltend gemacht wird. Und damit sind wir schon wieder sehr ähnlich zu einem Notice-Verfahren. Artikel 17 gilt nicht automatisch, sondern, DSGV übrigens, sondern. . Gibt einen Beseitigungsanspruch, wenn er geltend gemacht wird. Ich muss mich also melden. Bedeutet also für einen Plattformbetreiber Die Geltung von Datenschutzrecht ist jetzt für sich genommen noch keine Katastrophe. Ich habe immer noch die Möglichkeit zu reagieren, wenn sich jemand beschwert. So gesehen also ein bisschen besser fast ähnlich wie ein Notice and Take Down. Ich bekomme noch eine Chance, ich bin nicht sofort hafter für alles andere. Beim 82 DSGVO ist das ein bisschen was anderes. Da muss man nicht tatsächlich dann abwägen. Das Verschuldungsmaßstab ist da ein bisschen anders. Das wird noch eine Weile dauern, bis sich das einplendet, weil genau das ist natürlich die Frage. Wenn ich dann rechtswidrige Datenverarbeitungen habe und ich habe kein Schutzschild, das ist klar aus der EuGH-Entscheidung. Was sind die zumutbaren, erforderlichen Maßnahmen, die ich zum Schutz von personenbezogenen Daten treffen muss? Und jetzt kommen wir zu deinem Punkt, den ich total spannend finde und ich hoffe, es. wird nicht darauf hinauslaufen, weil einfach nur zu sagen, die können sich gut verteidigen, weil die es Geld dafür haben, die haben natürlich dann auch viel, viel mehr Verfahren zu führen. Also Leute wie ich würden einen Meta und Ex natürlich Bombardieren damit, dass die rechtsverletzende Inhalte, wie zum Beispiel Deepfakes, das ist jetzt das aktuelle Thema, Hirschhausens Pharma und sonst was Werbung für den ganzen Schrott, den er angeblich verkauft. Das hat ja einen immensen Schaden. Und besser zieht sich Meta zurück und sagt sich, du kannst mir eine einzelne Werbung melden und dann schauen wir uns dich an und vielleicht nehmen wir sie runter. Aber momentan sind massenhaft diese Werbungen da und Meta verdient damit einen Haufen Geld und dieses Geld könnte man eigentlich abschöpfen. Jetzt nicht nur für Promis, sondern auch für andere Leute. Deshalb, vom Grundsatz her, ich finde es total richtig, dass wir Section 230 und das Provider-Privileg auf den Prüfstand stellen und uns fragen, wer verdient es eigentlich? Wir machen das in jedem Prozess. Wir geben jeden Jedes Mal, wenn wir zum Beispiel Böhmer vertreten, sagen wir, wir haben zwar gemeldet, aber ihr könntet vielleicht mal so Obita Diktum aussprechen, liebes Gericht, dass das Provider-Privileg für Ex sowieso nicht mehr gilt, weil sie nicht neutral sind.

22:55 Chan-jo Jun

Also letzteres zuerst, Volkswerk Petzerklage ist in der Berufung. Die Volkswerk-Petzerklage vor dem Landgericht Frankfurt war eine Klage gegen X oder ist eine Klage gegen Ex, wo Ex den lustigen. Move machte, sich zu verteidigen mit dem Argument, bitte verurteilt uns nicht, ansonsten müssten wir in Deutschland einpacken. Woraufhin Alle Leute, die im Spendenaufruf gefolgt sind und sagten, super, bitte weitermachen, vertreib Ex aus Deutschland. Und es ist nachvollziehbar, dass man als Anwalt natürlich jedes Argument bringt. Was sie eigentlich sagen wollten damals war. Rechtswidrige Inhalte zu erkennen, ist uns nicht zumutbar. Ich meine, dieses Argument ist auch so Schrott natürlich, aber man kann es ja mal versuchen, so nach dem Motto, liebes Gericht, du musst mal abwägen, ob das, was du hier von uns verlangst, nämlich plattformweit zu erkennen, wo Thomas Laschik rechtswidrig kopiert, plagiatmäßig nachgestellt wird, das überall abzubilden, das wäre unzulässig und uns nicht zumutbar. Oder zum Beispiel auch, und die Anekdote bringe ich auch noch runter, das Gericht hat sich ver die Gegenseite hat sich verteidigt damit, dass kein Mensch erkennen würde, dass Thomas Laschek hier gemeint ist, weil es stand da Irgendein anderer verballerhornter Name da und ein Bild dazu. Und die sagten, weiß man ja nicht, worauf ich nicht dann mein Handy genommen habe und die Papierakt, wir haben noch Papierakt genommen und sagt, ich mach mal ein Bild und frage einen Krog. Und drei Sekunden später sagte Gott ganz, ganz klar, wer hier abgebildet ist. Das ist Tami Schlasch, das ist Chefredakteur von Volksverpetzer und das ist übrigens ein Fake. Soviel zum Thema, man kann es nicht erkennen. Das ist immer sehr lustig, wenn man die Gegenseite mit ihren eigenen Waffen nicht schlagen, aber zumindest konfrontieren kann. Letzter Stand, wir sind in der Berufung. Beide Seiten an Berufungen eingelegt, weil wir beide mit einem Teil unterlegen sind, aber die entscheidende Sache ist nach wie vor, ist Ex dazu verpflichtet, dafür zu sorgen, dass dieses Bild, dass dieser Fake-Account Plattformbeit nicht neu entstehen kann.

25:35 Chan-jo Jun

Oh, ganz viele Ebenen und Aufheimer. Dazu drei Gedanken und ich meine damit nur zwei. Die erste Frage ist Oh, da fangen wir erstmal an mit dem Grundprinzip, nämlich Plattformbetreiber sollen nicht verpflichtet sein, eigenmächtig das Netz nach rechtswidrigen Inhalten zu durchsuchen. Und das ist das Argument, was auch immer kommt. Das meint allerdings. Nicht anlasslos. Ihr sollt nicht einfach den gesamten Content durchfiltern und überlegen, was davon rechtswidrig ist und im Zweifel dann mehr löschen davon. Aber in dem Moment, wo ihr. . einen Inhalt gemeldet bekommen habt, müsst ihr diesen Inhalt entfernen, diesen Inhalt prüfen und dafür sorgen, dass der nirgendwo auf der Plattform sichtbar ist. Das ist das, was wir mit dem Künersverfahren versuchen zu etablieren. Und Und jetzt kommt das gefeine Wort, jetzt können wir hier unter uns sagen. Das führt natürlich zu einem Upload-Filter, wenn man sagt, du sorgst dafür, dass es auch nicht neu erscheint. Aber diese Kontrolle ist Beschränkt auf diesen Fall und nicht auf allgemeine Rechtswidrigkeit, sondern auf genau diesen Rechtsverstoß. Das bedeutet, aber das hattest du auch richtig verstanden, Meta und Ex sind Nach meiner Auffassung und jetzt auch der Auffassung von Landgericht OLG Frankfurt und ich hoffe auch BGH, verpflichtet, kerngleiche Verletzungshandlungen aufzuspüren und zu verhindern. Und jetzt kann man sagen, ist das zumitbar technisch heutzutage machbar, leichter als vorher. Also auch gerade so die Frage, was ist er mit Kontext, was ist mit, das ist doch nun eine Distanzierung, das kann KI heutzutage alles und selbst wenn es das nicht könnte Könnte man es menschlich übersehen.

27:20 Chan-jo Jun

Gavin, das ist das, was ich seit zehn Jahren erlebe. Vor Gericht erzählen sie mir, man bräuchte eine Wundermaschine, um ähnliche Bilder zu finden, weil der Text im Bild ist ja gar nicht lesbar. So ein Quatsch hat man vor zehn Jahren erzählt. Oder man kann den Kontext nicht. Und hinten drin sitzen die ganzen Wissenschaftsjournalisten wie du und sagen sich, das kann der doch nicht ernsthaft vortragen. Und vorne sitzt ein Richter und sagt. Ach so, ist das so? Also da müssten wir Gutachten. Gutachten machen wir nicht. Also ich glaub den erstmal. Und ich springe im Dreieck, wenn ich sowas erlebe, weil. Sie erzählen vor Gericht, dass sie etwas nicht könnten. In Wirklichkeit nutzen sie die Technik selbst schon, nur für andere Zwecke. Wenn es darum geht, Werbung auszuspielen oder die Algorithmus mitzubetreiben. Wissen die ganz genau, was ist Fake Content? Wenn es darum geht, eine Meldung abzusetzen, auf eine Meldung zu reagieren, dann tun sie so, als wären sie völlig unfähig. Das ist wirklich schlimm, aber für Haki ist natürlich irgendwie auch leicht durchschaubar. Und du sagst es natürlich, die haben diese technischen Möglichkeiten. Und jetzt komme ich zu dem zweiten Gedanken, bevor wir zu dem anderen Punkt der Chatkontrolle kommen. Wir sammeln das alles nachher wieder auf. Dein Gedanke war, sollen die das machen? Wer soll, und das ist das wichtigste Argument, was immer wieder gebracht wird, wenn es um Content-Moderation geht, sollten wir es nicht dem Staat überlassen. Und das ist ein ganz starkes Argument, weil es total verfängt, wenn man sagt, also die Meinungsfreiheit gebe ich doch nicht in die Hände von Elon Musk. Wenn wir allerdings sagen, wir nehmen diese Verpflichtung weg von den Plattformbetreibern, dann kommt dahinter nicht zu Tage, dass wir eine Freiheit haben, wo jeder alles sagen kann, was man sagen kann, sondern dahinter kommt. Eine willkürliche Entscheidung von Elon Musk und Zuckerberg darüber, was entschieden, was abgebildet wird und was nicht. Die einzige Chance, die wir haben, dass diese Entscheidung sich wenigstens sich orientiert am Recht ist. indem wir den Plattformbetreibern sagen, sie müssen sich an Recht halten. Und natürlich werden sie dann immer wieder auch falsch liegen. Aber die Lösung dafür ist nicht zu sagen Ihr braucht euch nicht an Recht halten. Macht einfach eure eigenen Regeln. Überlegt euch einfach eine politische Agenda, was ihr gerne mehr oder weniger sehen wollt. Ihr seid da drin frei. First Amendment, go for it. Sondern Indem wir die Entscheidungen, die sie zu Content-Moderation machen, überprüfen. Indem wir Verfahren einsetzen und sagen, hey, wenn ihr was macht, dann müsst ihr begründen, warum ihr es so gemacht hat. Das ist schon der erste Punkt. Steht längst im DSA, macht keiner. Es gibt auch kein Bußgeldverfahren komischerweise dazu. Es wäre so einfach eigentlich, es steht ja im Gesetz. Also sagt mir nicht, wir machen Gesetze, wir haben sie. Wenn du Contentmoderation machst, dann musst du begründen, warum du einen Account sperrst. Und du musst es dem auch sagen, dessen Account du sperrst, warum da gesperrt wird, damit er dagegen auch vorgehen kann. Der Weg ist leider umständlich, dass man danach Überprüfungsmöglichkeiten hat, entweder innerhalb des Systems oder in der Gerichtsbarkeit, abgestuft, womöglich. Da kann man schlaues Verfahren machen, aber momentan kommen die damit durch, dass sie sagen, das sind ja nur Verfahrensregeln. Da müsste ja die Kommission gegen uns vorgehen, aber Donald sorgt dafür, dass die Kommission nicht zu sehr aufmuckt hier und uns in Ruhe lässt, weil der ganze DSA ist ja unfair. Also Es kann da stehen bleiben, aber er darf nicht umgesetzt werden. Am besten sollten die Amerikaner auch mit am Tisch sitzen, um über die Durchsetzung europäischer Gerichte mit zu entscheiden. Und das nennen wir dann Dialog. Genau, Vetorecht für Amerika, für europäische Gesetze. Super Idee. Das ist dann dafür kriegen, aber das kann für uns, wir kriegen dann vielleicht nicht 30%, sondern 25% Zölle für deutsche Autos.

30:47 Chan-jo Jun

Ja, leider. Sorry, der Zynismus ist eigentlich gar nicht geboten. Die Wahrheit ist zynisch genug.

30:59 Chan-jo Jun

Warum hast du nicht angerufen? Wobei, wenn es nur drei Tage ist, du könntest sofort eine einzweilige Verfügung beantragen, aber gut, meistens ist es auch so, wenn man sich dort meldet. Und wenn auf den Menschen stößt, wird das auch schnell wieder aufgucken. Aber die machen das Prinzip erstmal sperren, nicht begründen, logischerweise. Und dann sortiert sich schon die Leute, die sich nicht beschweren, das waren sowieso Bots, um die muss man sich nicht kümmern. Das ist illegal, das ist so nicht vorgesehen. Und du bist wahrscheinlich nur froh, dass du deinen Account wieder hast, ohne dass du jetzt bei der Kommission die Beschwerde eingereicht hast, dass das Verfahren krank ist.

31:34 Chan-jo Jun

Ehrlich gesagt bringt es nicht viel, aber es wäre nett, wenn du es trotzdem tun würdest. Es ist so, du würdest eine Meldung abgeben beim DSC, beim Digital Service Coordinator bei der Bundesnetzagentur. Die stapeln das dann. Und wenn du dann nach einem halben Jahr fragst, hey, was habt ihr eigentlich meine Meldung gemacht? Und du sagst, Meldung, welche Meldung? Autür liegt hier noch. Wir warten noch eine Weile, dann schicken wir sie nach Irland. Und dann nach einem Jahr sagst du, ey, was habt ihr mit meiner Meldung gemacht? Und sagst du, hey, Karl, gute Nachricht, wir haben Ihre Meldung nach Irland geschickt. Und der irische Digital Service-Koordinär sagt, ja, davon haben wir hier Zehntausende von Meldungen. Wir haben es vielleicht der Kommission weitergegeben oder nicht. Wir haben auch keine Kapazitäten, das zu verarbeiten. Wir sind eigentlich hauptsächlich dafür da, dass es irgendwo versickert, denn die meisten Leute vergessen es ja nach einem Jahr oder zwei.

32:24 Chan-jo Jun

Dafür braucht man immer wieder ein paar Leute, die das über die normale Gerichtsbarkeit betreiben. Aber du merkst schon, jeder kann sein Recht durchsetzen, aber Die Verfahrenskrankheiten können wir damit nicht beheben. Also dafür, dass Sie die ganze Zeit gegen die Begründungspflicht verstoßen oder auch gegen alle anderen Moderationspflichten, dafür wäre die Kommission zuständig. Aber würden Sie das anpacken, dann würden Sie ja wirklich was bewirken. Da geht es ja nicht nur um die blauen Haken, die weißen Haken auf blauen Grund, für die ja das Bußgeld verhängt wurde.

32:56 Chan-jo Jun

Richtig, für blaue Haken. Ich meine, ich weiß, es ist namensgebend für diesen Podcast. Ist es? Ja, wie schon. Damit fingen ja die ersten Episoden an mit wer kriegt den blauen Haken, wer behält ihn und was bezahlt man dafür. Aber seien wir ehrlich, Gavin, die Haken sind nicht das Schlimmste, was wir gerade erleben.

33:27 Chan-jo Jun

Und weißt du, die kommen damit durch. Du hast ja auf Insta dieses. . Glauben die, dass wir blöd sind, kommen die mit durch, und es ist eigentlich immer wieder die gleiche Antwort. Sie halten uns Für blöd, sie sind nicht blöd und sie kommen damit durch, dass sie sagen, okay, dann ändern wir jetzt was. Weil die Bürokraten dann sich sagen, hey, wir haben was erreicht, blaue Haken werden jetzt repariert. Großartig. Und die Leute, die nicht unterwegs sind, denken wirklich, oh ja, wir haben jetzt wirklich was bewirkt. Ich meine, das waren die Bußgänger nicht nur für blaue Haken, sondern auch für Datenzugang und andere Themen und so weiter. Aber die wirklich heißen Eizen sind nämlich Die Moderationsentscheidungen, und zwar auch die Übergriffigen, vor allem die Übergriffigen, dass Overblocking betrieben wird, dass Sachen runter priorisiert werden, die sind ja nicht mehr so blöd, alles zu entfernen, sondern sie machen ja Shadowbanning. Hey, Freedom of Speech bedeutet nicht Freedom of Reach. Das sind doch die Sachen, die eigentlich wehtun und gegen die man vorgehen müsste oder dass die Sachen einfach sperren ohne Begründung. Aber da kein Verfahren.

34:28 Chan-jo Jun

Wie sieht es da aus? Ehrlich gesagt, ähm. . immer diese Untoten, die aufkommen, da gilt das, was wir über VPN voran gesagt haben. Man hat ein Problem, was man nicht in den Griff kriegt und versucht es dann mit der Brechstange, indem man eine Chatkontrolle In die Diskussion bringt. Und ich glaube, es sind immer Leute, die eigentlich die Technik nicht verstanden haben, die sagen: Hey, Chatkontrolle, damit können wir Kinderpornografie aussehen. Richtig ist es ja, wenn du deine C-Sam Materials über einen Chat austauscht und dein Handy analysiert hast, dann könnte man ein paar mehr Leute damit finden. Das Argument, dass man damit nicht alle findet, ist natürlich jetzt auch ein schwaches Argument. Aber wir gehen einen so hohen Preis, aber ich glaube, die Diskussion wollte sogar nicht mit mir führen, ob das sinnvoll ist oder nicht, dass es uns, glaube ich, allen bewusst ist.

35:18 Chan-jo Jun

Ja, insofern neues, nein, nicht von meiner Seite. Also tatsächlich, ich bin dann immer ja derjenige, wenn eine Entscheidung dasteht, sie Sie einzuordnen.

36:42 Chan-jo Jun

Die Vortäuschung von Reichweite als Betrugs-Competrug, das ist so die Fragestellung. Bring mich auf den Stand. Worin besteht die Reichweitentäuschung?

37:24 Chan-jo Jun

Okay, das kann man ein bisschen verallgemeinern, nämlich was ist das, wie ist es rechtlich zu bewerten, wenn man sich voll überkauft? Also wenn die AfD ihre Unterstützer eigentlich in Nigeria hauptsächlich haben, weil da die Accounts herkommen, kann ja sein, dass dort einfach viele Fans aus Nigerien sind oder dass eben Accounts gekauft werden. Machen wir ein paar sichere Fälle. Also angenommen, ich verkaufe ein Produkt, und jetzt komme ich in den gewerblichen Teil, weil das erstmal als zum Warmwerden einfacher ist, und ich täusche über eine wesentliche Eigenschaft, zum Beispiel über meine Follower-Eigenschaft, dann könnte es irreführende Werbung sein. sein. Das könnte ein Wettbewerbsverstoß sein, wenn ich über die Größe meines Unternehmens der Reichweite täusche. Ganz klar. Also für einen Influencer, der Geld verdient und Der seine Reichweite täuscht, über seine Reichweite täuschen zwar zum Beispiel Werbetreibenden, könnte man sogar ganz direkt auch in einem strafrechtlichen Bereich sein, weil Der Preis für einen Influencer mit 100. 000 Followern ist ein anderer als einer für 10. 000. Und wenn die 100. 000 Wirklichkeit gekauft sind, hast du eine Täuschung zur Erregung eines Irrtums. Zur Veranlassung einer Vermögensverfügung und damit wäre man tatsächlich in diesem Betrug 263 drin. In der gewerbsmäßigen Form. Politischen Parteien ist das schwieriger, weil die nicht um das UWG fallen und normalerweise nicht dafür da sind, Geld zu verdienen. Bei News ist jetzt was anderes, da sind wir ja bei Der Mischung einerseits eines Mediums, wenn man es so nennen will, jedenfalls irgendetwas, was laut spricht und damit auch in ihre Meinungsfreiheit fällt, und andererseits ein gewerbliches Unternehmen, was Geld versucht zu verdienen. Wenn die Reichweitenangabe, die womöglich getäuscht ist, unterstellen wir das für einen Augenblick, dazu geeignet ist, an einer Vermögensverfügung mitzuwirken. Zum Beispiel, weil jemand sich sagt, die sind groß, deswegen abonniere ich sie. Deswegen unterstütze ich sie. Dann wäre das durchaus denkbar. Das heißt, der Fall, den man hier konstruieren oder nicht konstruieren, sondern vorbringen muss, lautet, wer Hat sich geirrt. Irrtum ist gleich Abweichung von Vorstellung und Wirklichkeit aufgrund einer Täuschungshandlung und daraufhin eine Vermögensverfügung vorgenommen, die zum Vermögensschaden geführt hat. Das wäre Betrug. Das könnte der Fall sein.

41:28 Chan-jo Jun

Ja, klar, aber auf der Ebene muss man Europarechtler sein, weil das ganze IT-Recht ist, basiert auf Europarecht. Wenn ich nichts Besseres zu tun habe, schreibe ich gerade mit der Jessica zusammen an einer Kommentierung von Artikel 16 DSA und ich hätte nicht gedacht, wie viel Arbeit es ist. Eine einzige dusselige Norm zu. kommentieren und den ganzen Kram nachzulesen, den man dazu braucht. Da kommt man nämlich auch zum Beispiel zu diesen Fragen, darf man über das, was europarechtlich geregelt ist. . auf nationaler Ebene Entscheidung drin. Du setzt wahnsinnig viel Wissen bei deinen Hörern voraus. Ich gehe nochmal einen Schritt zurück. Die Frage ist ja Harmonisierungsgebot darf der deutsche Gesetzgeber überhaupt etwas regeln, wenn es der Europäische gemacht hat. Und wenn der Europäische noch nichts gemacht hat, dann kann der Euro kann der Nationale mehr machen. Und wenn jetzt eine Entscheidung trifft und sagt, das machen wir, aber für die machen wir eine Ausnahme, dann ist es schwierig, für einen nationalen Gesetzgeber zu sagen, auch prima, für die Unternehmen machen wir jetzt aber die Regelung oder wir machen eine. Weitergehende Regelung, weil ja der europäische Gesetzgeber nicht einfach nur es unterlassen hat zu regeln, sondern er hat geregelt und ausdrücklich gesagt, die da fallen raus. . . Dann wäre man also aus der Sache raus. Aber warum das hier nicht so ein großes Problem ist, ist. Wir sind im Strafrecht. Auf nationaler Ebene haben wir strafrechtliche Normen vorgenommen. Zunächst einmal, also diese neuen. Paragraphen, sexualisierte Deepfakes und die Nichtsexualisierten, der sogenannte Hirschhausen-Pagraf, das ist Strafrecht und da ist die Befugnis tatsächlich komplett auf nationaler Ebene. Es gibt manchmal Richtlinien. die erst umgesetzt werden müssen, wo tatsächlich zur Harmonisierung bestimmte Straftatbestände in eine bestimmte Richtung angepasst werden müssen. Da Könnte das passieren, aber die Regelungen, die jetzt hier über den Omnibus stattfinden, sind eher ordnungspolitische Regelungen. Das heißt, es kann sein, dass die Europäische Union Regelungen trifft, was verboten wird im Sinne von nicht Strafrecht, sondern von Ordnungsrecht, also was wenn eine Bußgeld oder Aufsichtsbehörde dann geregelt werden muss. Und der nationale Gesetzgeber trotzdem sagen darf, zum Beispiel, dass die Herstellung von Deepfakts für jedermann verboten ist, ohne dafür eine Industrieaufnahme zu machen. Schön ist es natürlich nicht, aber es ist typisch, dass manchmal Nationalstaaten vorpreschen, allein um den europäischen Gesetzgeber wachzurütteln. Social Media Verbot auf nationaler Ebene. Führt dazu, dass irgendwann man sich europäisch dazu aushören muss, oder gehen wir ein bisschen zurück? Das NetzDG war ja die erste Regelung, Netzwerkdurchsetzungsgesetz, was damals 2017 eine Moderationspflicht und Bußgeldverpflichtungen für Plattformbetreiber vorgesehen hatte. Und dann kamen die Österreicher und andere Länder und haben ähnliche Gesetze gemacht. Und dann sagte man auf europäischer Ebene Das können wir also nicht weiter betreiben, dass jeder seine eigenen Regeln macht. Der arme Facebook muss sich dann auf alle möglichen Gesetze einlassen. Wir machen eine europäische harmonisierte Regelung. Das ist gut und schlecht. Das ist gut für die Länder, die noch keine Regelung haben. Die kommen dann in den Genuss einer europaweiten Regelung. Aber es bedeutet immer wieder auch Das nationale gut gemeinte Regelungen vom Tischwein. Zum Beispiel merken wir jetzt gerade sehr schmerzlich, das Netz DG hat einen Zustellungsbevollmächtigten. Da konnte man hinschreiben, in Berlin eine Anwaltskanzlei Freshfield Da konnte man von Anwalt zu Anwalt sofort zustellen. Jetzt brauchen wir Monate, um eine Zustellung vorzunehmen, die nach Irland gehen muss. Und die spielen einfach nur: Ich bin nicht da, ich bin nicht zu Hause, ich habe keine Ahnung. Und das ist sehr frustrierend, dass genau solche Sachen passieren. Und in diesem ganzen Spannungsfleich bin immer noch ziemlich allgemein unterwegs. Gibt es manchmal Länder, die sagen, wenn hier nur die Befürchtungen im Raum stehen könnte, dass wir Europarecht verletzen könnten, lassen wir lieber die Finger davon. Und das passiert zum Beispiel beim Zustellungsbevollmächten, wo man hätte sagen können, das hätte man auch durchaus national regeln können oder irgendwas Brauchbares regeln können. Und weil die Gesetzgeber national häufig Angst haben, dass sie später vom EuGH aufgehoben werden. Denn tatsächlich das Netz DG Entpuppte sich am Schluss vielleicht als tatsächlich Europarechtswidrig, als Verstoß gegen die E-Commerce-Richtlinie, weil die Österreicher haben mit ihrem Kommunikationsplattformgesetz eins auf die Finger bekommen. Und dann hat man gesehen, puh, das könnte in Deutschland genauso sein. Also insofern, dein Einwand strukturell total richtig, aber nur weil auf zwei Ebenen, weil Europa was sterblich was geregelt wird, heißt es noch nicht, dass wir nicht können. Die Entwürfe, die hier im Raum stehen, strafrechtlich, sind wohl unproblematisch. Die zivilrechtlichen Regelungen allerdings in diesem Gesetzespaket mit den Accountsperrungen und so weiter, die wird man sich bestimmt genauer anschauen. Und da wird es Da gibt es natürlich jetzt schon diejenigen, die sagen, das darfst du nicht, das ist europarechtswidrig. Aber jetzt sozusagen zum Mitnehmen oder Mitschreiben, das ist nicht ganz so plakativ, nur weil jemand behauptet, das ist europarechtswidrig Weil es auch europäisch geregelt ist, bedeutet es nicht, dass es wirklich europarechtswidrig ist.

46:53 Chan-jo Jun

Nur noch für Geld. Sexualisierte Deepfacts kriegen noch die Abonnenten.

47:56 Chan-jo Jun

Willst du noch eine Frage dranhängen oder soll ich einfach meine Gedanke? Du kannst einfach deine Maß aussprechen muss. Das dänische Modell kommt da. Immer dringender eigentlich auf die Diskussion zur Diskussion. Also Stimmen als Teil des Persönlichkeitsrechts sind Ein wichtiger Teil der Diskussion, wir haben es bei den Synchronsprechern, die gerade feststellen, dass sie überflüssig gemacht werden, wo manche Leute sagen, gut, das ist ja unvermeidbar, dass das passiert. Und zwar sowohl die prominenten Synchronsprecher, die man einem Schauspieler direkt zuordnen, als auch die weniger bekannten, die natürlich nicht so sehr sagen, aber ich bin doch erkennbar Die meine besondere charakteristische Stimme soll nicht imitiert werden. Da gibt es natürlich die Leute, die einfach sagen, das interessiert mich nicht, finde ich damit ab, dass die Pferde nicht mehr die Kutschen ziehen werden, sondern dass jetzt halt die nächste Technik kommt. Die tun sich schwer, nicht nur die, die professionell davon leben, zu sprechen, sondern natürlich auch die gefakten Stimmen, zumal die gefakten Stimmen nicht ganz so eindeutig sind wie die gefakten Videos und Gesichter, weil Stimmen ähnlicher sein können. Anscheinend unterscheiden wir nicht so stark die Stimmen, wenn jemand eine ähnliche Stimme hat und So laufen ja oft auch die Verteidigungen der Unternehmen, die sagen, wir haben ja aber eine andere Stimme gefunden, die hier verwendet worden ist. Der Umstand, dass Siri so klingt wie der und der Schauspieler, ist reiner Zufall. Die Dänen hatten die Idee. auf das Thema Deepfakes zu sagen, Persönlichkeit, Aussehen, Stimme. Das Erscheinungsbild einer Person wird ins Urheberrecht gepackt. Und das bedeutet, dass eine Verwendung immer erst einmal verboten ist, es sei denn, es ist erlaubt. Es ist verboten, es sei denn du hast eine Lizenz. Und das ist ein Unterschied zum Persönlichkeitsrecht, wo man im Grunde genommen sagt, es ist erstmal alles erlaubt, es sei denn, unter genauer Abwägung zwischen den verschiedenen widerstreitenden Interessen kommt man zu einer Rechtswidrigkeit. Du merkst, Suhöberrecht ist wesentlich stärker und würde dazu führen, dass der Verletzer, derjenige, der Stimme bild, Deepfake, was auch immer verwendet, nachweisen müsste, dass er einen Erlaubnistatbestand hat. Wohingegen beim allgemeinen Persönlichkeitsrecht wir immer hinterherrennen und den Nachweis führen müssen, warum hier die Rechtswidrigkeit, die nicht indiziert ist durch den Verstoß an sich, sondern durch den Eingriff, erstmal nachgewiesen werden muss. Und das ist schwächer Und das ist etwas, was uns seit den letzten zehn Jahren begleitet. Überall dort, wo es um Urheberrecht geht, ist die Rechtsdurchsetzung wahnsinnig gut. Also wenn ich, oder Markenrecht, wenn ich Luxusmarken auf Ebay runtergehen will. Genau, das ist der Punkt. Und das wäre der harte, das wäre der Ansatzpunkt. Würde man es kommerzialisieren, würde es Meta oder Ex jedes Mal richtig Lizenzgebühren kosten, wenn Sie zum Beispiel das Bild von Hirschhausen verwenden, zusammen mit seiner Stimme, dann würden Sie sich das nochmal überlegen, weil es könnte teurer sein als das, was Sie einnehmen durch die Werbeeinnahmen.

51:12 Chan-jo Jun

Wohingegen deine Stimme ist nicht geschützt, weil du nicht den Aufwand betrieben hast, wäre es nicht eigentlich viel einfacher, wenn man sagen würde, das gilt automatisch. Marco Wikling hat auch dieses Video gemacht zusammen mit dem Känguru über Deepfakes und er hat zwischendrin mal was gesagt in einem ganz kurzen Teil, das Känguru ist übrigens besser geschützt als ich. Und das sagt es so wunderbar aus und das ist völlig richtig. Känguru hat urheberrechtlichen Schutz durch Schöpfung, ohne dass man es irgendwo eintragen muss, die Nachahmung des Kängurus wäre sofort eine Rechtsverletzung, hingegen die Nachahmung von Marco Wikling kann in ganz vielen Bereichen zulässig sein. Muss nicht so sein. Das könnte man anders regeln, wenn man diesen Wertungswiderspruch auch so sehen würde.

52:46 Chan-jo Jun

Meistens ist es so, es ist ein total spannender Aspekt. Und wir müssen mal wieder einsortieren, weil wir haben jetzt hier zunächst einmal Befugnisse der Ermittlungsbehörden. Die jetzt bisher eher konkurrierten mit man hat gar keine Eingriffsbefugnis, die braucht der Staat nämlich, um überhaupt loszulegen. Beim Staat ist es nämlich so: Erstmal ist alles verboten für einen Staat, was in Grundrechte eingreift, es sei denn, er hat eine ausdrückliche Befugnis. Deswegen bräuchte man Polizei. Polizeigeset entsprechende Ermächtigungen. Und zu dem haben wir natürlich, zum Beispiel, du hast ja einen Eingriff und das geht nie, also selbst der Einfache Eingriff in das Freiheitsgrundrecht, Artikel 2, braucht eine Rechtfertigung. So funktioniert unser Rechtsstaat. Der Staat darf eigentlich gar nichts, es sei denn, es ist ausdrücklich gesetzlich geregelt. Also, das ist jetzt der Grund, warum die überhaupt erstmal auf der Suche sind. Und das Erklärt auch so ein bisschen, wie so es eine private Software gibt, die sowas machen kann, aber der Staat es nicht kann. Und da waren die natürlich sehr frustriert, dass die. Frau Klette nicht selbst haben suchen können, dass Sie so ein Tool nicht haben und nicht einmal bedienen dürften. Also die Polizei hätte nicht einmal das privat verfügbare Tool nutzen können. Wie Sie es dann gemacht haben. Das ist dann nochmal eine andere Sache. So, da wollten wir sozusagen nachziehen und sich ein Befugnis geben. Und da sind dann die Kriminalisten, die Polizisten, die Innenminister und sagen, müssen wir haben, brauchen wir dringend. Da können wir jetzt noch kurz über den AI-Act sprechen, der biometrische Erkennung verbietet, aber nur in Echtzeit. Also die chinesischen Kameras, die überall da sind und sagen, du bist bei Rot über die Ampel gegangen, deswegen jetzt Abzüge oder bei der Ausreise aus Singapur dann das Bußgeld aufhängen. jetzt Ihre Rechnungen, Herr Kahlmeyer. Sie sind so und so oft bei Rot über die Straße gegangen oder über die Straße gegangen ohne Fußgängerweg, obwohl einer in weniger als 50 Meter Entfernung vorhanden war. Ich glaube, so lautet die Regel. Weiter Darf ich hier die Straße gehen? Ich komme zu weiter. Jetzt ist das Tolle am Podcast. Man wird nicht weggeschnitten, wenn man seine 20-Sekunden O-Ton gesagt hat. Und vor allem es gut an so Podcasts mit Toasts, die zu faul sind, den Schrott rauszuschneiden, wenn man vom Timmer abkommt.

54:57 Chan-jo Jun

Im Gegenteil, du bist so produktiv. Mach ich ja bei YouTube auch so. Also man könnte sich viel Zeit nehmen für ein richtig gutes Video, wenn man dann produziert, macht er nur eins pro Woche oder man schaltet einfach an und danach auf Senden. Mach nicht mal Thumbnails.

55:13 Chan-jo Jun

Ja, also die würden sich, also die Fragestellung war, könnte dann eine Software auch dann das Gesicht verwenden, wenn es markenrechtlich geschützt wäre. Und wenn wir uns anschauen, was sie schon jetzt machen, nämlich dass sie Sachen kopieren, die urheberrechtlich geschützt sind, die machen es einfach. In den allermeisten Fällen gibt es Bereichsausnahmen, die diese gewerblichen Schutzrechte für den Staat ausnehmen. Also es ist fast, manchmal ist es ausdrücklich reingeschrieben, zum Beispiel das kinderpornografisches Material zu Zwecken der Strafverfolgung trotzdem verwendet werden kann, ist irgendwie logisch, dass sie sich damit nicht strafbar machen. Oder es ist implizit geschrieben. Das heißt, Schutz hätten wir damit nicht, um diese Frage kurz zu beantworten. Markenrecht würde nicht den Staat aus. Hebel.

57:11 Chan-jo Jun

Was total super ist, auf Untätigkeit zu klagen, werde ich immer wieder auch gefragt, kann man nicht Verbotsverfahren gegen die AfD einklagen, den Bundeskanzler und so weiter, echt schwierig. Vielleicht sollen wir den folgenden Aspekt noch betrachten. Wenn das Gesicht urheberrechtlich geschützt wäre, dann wäre auch ganz klar, dass das Lernen von Trainingsmaterial mit urheberrechtlich geschütztem Material verboten ist. Und da kommen wir zu der. GEMAN gegen OpenAI, Klage von letzten Dezember, wo ja das Landgericht München I gesagt hat, nicht nur das Ausgeben von atemlos durch die Nacht ist eine Weberrechtsverletzung, sondern auch das Trainieren mit diesem Material und deswegen ist dummerweise dein Modell ChatGPT 4O rechtswidrig und muss entfernt werden, muss gelöscht werden. Das ist der Stand übrigens von dem Urteil, es ist nur noch nicht rechtskräftig. Die GEMA hätte, wenn sie die 100. 000 Kröten auf den Tisch gelegt hätten, das vorläufig auch durchsetzen können und sagen, Open Air, bitte löscht man dein aktuelles Modell. Es ist nicht mehr aktuell heute, deswegen ist es nicht so richtig schlimm. Aber nach der derzeitigen Rechtslage, die manche Leute nicht für dauerhaft und für wahr als beständig betrachten, ist das Trainieren einer KI Mit urheberrechtlich geschütztem Material illegal und führt zur Infektion des ganzen Datenmodells.

58:35 Chan-jo Jun

Wenn die GEMA in der zweiten Instanz auch gewinnen sollte oder wenn es rechtskräftig werden würde, würde es bedeuten, dass kein Datenmodell überhaupt noch Urberrechtlich geschütztes Material fressen. Früher hat man nämlich Folgendes gesagt. Training von Datenmodell ist ja nicht abspeichern, das ist ja nicht kopieren, das ist ja nur ein Verändern von Vektoren, hier werden ja nur Zahlen und Werte angepasst. Woraufhin das Landgericht München 1 gesagt hat. Wenn eine KI, ein Datenmodell, den ursprünglichen Inhalt regurgieren kann, ich musste diesen Begriff erst lernen, dauert eine Weile.

59:07 Chan-jo Jun

Kevin, machst du das nie? Regurgieren. Das kommt, bist du schon im Google, das kommt aus der Biologie. Das ist das Hochwürgen. So, jetzt dieses Bild musst du dir einbringen. Das ist lautmalerisch, ja, absolut. Also, merke, regurgieren. Wenn es rauskommt, muss es vorher drin gewesen sein. Ich kann nur das hochwirken, was ich vorher gegessen habe. An dem, was dann hochgewirkt wird, an dem Gewürge erkenne ich, was sie vorher gegessen haben. Und Landgericht München 1 sagt also, nachdem sie ständig diese Liedtexte regurgieren kann, müssen sie irgendwo drinnen gewesen sein. Dass sie sie gelesen haben, ist klar unstreitig. Aber dass sie auch da unten im Magen, im Speicher, drinnen waren, sieht man am Gewirge. Und Das war jetzt der Anlass, um zu sagen, das ist nicht nur ein Trainieren, sondern das ist ein Memorisieren, das ist ein Speichern der ursprünglichen Inhalte. Ganz viele Techniker sagen, nein, nein, nein, das ist falsch, ihr versteht die Technik nicht, aber das Urteil ist wirklich sehr ausführlich und setzt sich damit auseinander. Ich bin total gespannt, ob die zweite Instanz in die Tiefe mit einsteigen wird. Deine Frage, was bedeutet das? Naja, dass jeder Urheber sagen kann, OpenAI oder Enthropic, du hast mein. . Liedtext, mein Gedicht, mein Roman gefressen. . Ich kann ihn regurgieren und da reicht es nicht aus, dass du beim Regurgieren so eine Sperre einbaust. Man kann nämlich sagen, ich mache hier irgendwie so einen Filter beim Ausspucken, dass das nicht rauskommt. Das reicht nicht. Wenn es da drin ist und er würde es gerne rausspucken, dann ist es schon eine Rechtsverletzung. Du darfst das Zeug nicht beim Training verwenden, trotz Data Mining-Schranke. Und das würde. . Langfristig wahrscheinlich bedeuten, dass die Plattformhersteller, die die Modellhersteller Lizenzgebühren bezahlen müssen an die GEMA. . Ich meine, das könnte vielleicht auch die Motivation dahinter gewesen sein.

01:01:07 Chan-jo Jun

Und da wurde regurgiert. Ja, absolut. Und die könnte ich sagen, das ist zufällig. Die sagten später, aber es wird immer wieder ein bisschen variiert. Wenn ich atemlos durch die Nacht sage, kriege ich nach. 30 Durchgänge, auch mal in etwas anderen Text. Und dann haben wir festgestellt, diese Halluzinationen sind ein Feature. Das war mir auch nicht so klar. Man macht absichtlich, nachdem man sozusagen schon auf dem Weg nach oben ist, kommt jemand daher und sagt: Hey, lass uns ein paar Halluzinationen einbauen. kreativer wird. Ja, Temperatureinstellungen. Also Halluzinationen sind nicht Bugs, sondern Feature, um ein bisschen mehr Varianz reinzubringen. Ändert aber nichts daran, dass das, was aus dem Magen gerade nach oben kam, dort Genau, richtig auch abgebildet ist. Du kannst nämlich auch sagen, dass du nicht mehr so gut haben.

01:01:52 Chan-jo Jun

Das Bild, das Bild bleibt jetzt. Du kannst ja eine KI auch mal fragen, ist Ich habe hier eine Variation von dem Text, ist der richtig oder falsch? Und er sagt dir, ob er richtig oder falsch ist. Also die haben ja so Filter eingebaut, dass er es nicht reproduziert, aber wenn du sagen kannst, ich habe hier einen Text, bitte korrigiere den mit dem richtigen. Fällt er drauf rein und sagt dir, ey, nee, es heißt atemlos durch den Abend. Also oder heißt es richtig.

01:02:57 Chan-jo Jun

Nee. Was mir immer wieder passiert ist. dass wir erleben, dass man an einem Thema ganz lange dran ist und auf einmal bekommt es Bedeutung. Und das war jetzt die letzten Monate mit dem Deepfake-Thema. Das war ein Thema Ich meine, hier auf diesem Kanal haben wir darüber schon lange diskutiert, aber in der öffentlichen Diskussion spielte es kaum eine Rolle, wurde als Problem nicht wahrgenommen. Und dann ist es echt eine Freude, wenn. Aus welchem Grund auch immer das Thema aufkommt und die Leute dann auch gucken, wer kennt sich damit aus, weil dann sieht man, dass es sich gelohnt hat, dass man . sich hingesetzt hat, stundenlang ein Eckpunktepapier für die Bundesregierung auszuarbeiten, wie soweit es aussehen kann, dass man nämlich sofort auch sprechfähig ist dazu und dass sie Gesellschaft sich weiterentwickelt. Weil es ist gar nicht so schlimm, wie man immer denkt. Unser Job ist es, auf die Missstände hinzuweisen. Aber immer wieder sehen wir, wenn wir nach hinten blicken, dass wir auch Fortschritte gemacht haben, dass wir Sachen gelernt haben. Weil die Mission Den digitalen Raum genauso zu sehen wie den nicht digitalen Raum, dass dafür die gleichen Gesetze, Werte, Grundsätze gelten müssen, das ist ein Marathon. Und Man darf nicht bei Kilometer 11 traurig sein, dass man noch nicht im Ziel ist, sondern sollte nach hinten gucken und sagen, guck mal, wir haben schon 11 Kilometer hinter uns gemacht. Immer wieder gibt es diese Momente, wo man vielleicht in den nächsten Kilometermarke. Manchmal wird man zurückgeworfen. Also ich glaube, Elon Musk hat uns erstmal so richtig wieder auf Start zurückgeworfen. Aber wir retten trotzdem weiter.

01:05:00 Chan-jo Jun

Bis zum nächsten Mal.