Gefährliche Fälschungen – Wie Deepfakes das Recht herausfordern

00:00:03: Auslegungssache, der CT Datenschutz

00:00:07: Podcast.

00:00:14: Hallo und herzlich willkommen in der Auslegungssache heute mit Episode onehundertsechzig.

00:00:19: Wir zeichnen auf am fünften Oktober zweitausend sechsundzwanzig, mein Name ist Horger Bleich.

00:00:24: ich bin Redakteur bei Ct den Magazin für Computertechnik das bekanntermaßen auch diesen Podcast hier produziert und ermöglicht und an meiner Seite ist wie steht es aber bald im Urlaub und deswegen zeichne wir diesmal auch ein bisschen länger mit längerem Vorlauf auf ist Jörg Kaluyak.

00:00:40: Hallo

00:00:41: Herr Gange, schön dass es wieder losgeht und wir haben eine ganze Menge spannende Sachen auf der Liste.

00:00:46: Wir haben ein interessantes Bußgeld und einige Sachen über die wir so vorher sprechen wollen.

00:00:51: bevor wir das tun möchte ich aber gerne über unser heutiges Thema sprechen und wir möchten uns heute unterhalten über Deepfakes nämlich generell über DeepFakes, über die Regulierung von Deepfake und natürlich auch über Deep Fakes und Datenschutz Und dafür haben wir uns wie immer Wie man eingeladen, unsere Gästin heute Tahiri Panahi.

00:01:15: Hallo Tahiri!

00:01:16: Herzlich willkommen.

00:01:17: schön, dass du da bist.

00:01:18: Hallo ich freue mich auch total dabei zu sein und ein bisschen mit auszulegen.

00:01:21: Ja sehr schön.

00:01:22: Ich habe wie immer das Privileg dich vorstellen zu dürfen.

00:01:25: Du hast Rechtswissenschaften in Marburg studiert Und hast das zweite Staatsexamen abgelegt und bis seit September zwanzig-einenundzwanzig wissenschaftliche Mitarbeiterinnen bei Professor Ohnung an der Universität in Kassel und promovierst zur EU-Maßnahmen gegen Desinformationen im sozialen Medien.

00:01:43: Also schonmal ein super spannendes, gerade unfassbar wichtiges Thema!

00:01:47: Und du publizierst viel zum DSA zu Desinformation, politischer Werbung und digitaler Gewalt – da passt natürlich das Thema Deepfakes auch ganz hervorragend rein.

00:01:58: was du unter anderem als Sachverständige im Bundestag zum politischen Werbungs... Transparenzgesetz und sprichst regelmäßig auf Fachkonferenzen da auch mal zu Deepfakes.

00:02:06: Da haben wir uns mal kennengelernt.

00:02:08: vor zwei, drei Jahren auf der Republik in Hamburg hatte ich dich glaube ich angesprochen auf dein Thema oder du mich also jedenfalls im Fernsgespräch gekommen.

00:02:16: Und jetzt hast du einen Aufsatz geschrieben über Deepfake's.

00:02:20: in weiß ich nicht mehr

00:02:21: MMR?

00:02:22: In der MMR.

00:02:23: In der MMR,

00:02:24: Multimedia und Recht.

00:02:28: Das habe ich zum Andersen genommen, nicht mal zu fragen ob du willst das unsere Gästchen zu sein und mit uns reden über Deepfakes.

00:02:35: Bevor wir da hinkommen ein bisschen was aus unserer Woche... Holger hat sich mit dem Kids-Akt befasst.

00:02:43: Dazu werden wir gleich noch ein bisschen was reden, weil wir müssen glaube ich darüber reden.

00:02:46: es ist wirklich ziemlich unfassbar was da gerade auf uns zukommt.

00:02:50: Vielleicht kurz vorab Ich war auf einer spannenden Datenschutzveranstaltung zu den Stuttgarter Impulsen.

00:02:56: Da dürfte ich einen Panel moderieren Stutt garter.

00:02:59: Impulse sind so ein bisschen der Gegenentwurf zu denen doch sehr weitgehende Ideen der Bundesregierung, dass man die Zuständigkeit der Datenschutzbehörden für den privaten Bereich abschaffen möchte und dort dann alles auf den Bundesdatenschutzbeauftragten seit einigen Tagen verlagern möchte.

00:03:17: Auch da haben wir eine neue Entwicklung und war sehr interessant, habe viel gelernt viele Landesdatenschutze beauftragt und da vielleicht werden wir den einen oder anderen demnächst hier auch nochmal Hören!

00:03:28: Ich bin übrigens auch mal gespannt.

00:03:30: Herr Hennemann ist jetzt im Amt, unser neuer Bundesstaatsschutzbeaufgang.

00:03:33: Genau, viele Grüße von uns und auch verbunden mit der maßlichen Einladung doch gerne zu uns kommen.

00:03:40: Ja, aber das ist jetzt ein bisschen die Krux der frühen Ausnahme.

00:03:44: Weil morgen will er ja bei der Stiftung Datenschutz irgendwie seine Agenda umreißen und will ein bisschen was erzählen.

00:03:51: auch in einer live Veranstaltung, die auch geschehen wird – ich werde mir das denke ich mal angucken – bin ich mal sehr gespannt ob es da sehr weichende Positionen, Haltungen und Methoden gibt von dem, was wir vor Spechtdreamschneider bisher gewohnt waren?

00:04:04: Ja, auch zur Frage der Zentralisierung, ne?

00:04:06: Da war ja Spechdream-Schneider durchaus dafür!

00:04:09: Trotzdem, bevor es hier gleich losgeht, über den Kids Act reden.

00:04:12: Ich habe dich selten so irritiert gesehen und wir haben wirklich schon viele schlechte Gesetze begleitet.

00:04:18: Was hat das denn mit dem Kids-Aussicht?

00:04:21: Ja also es ist genau das rausgekommen was ich ehrlich gesagt ein bisschen befürchtet habe.

00:04:26: der Druck war riesig.

00:04:27: also es geht ja im Kern um Social Media Verbot.

00:04:31: Das ist das, was im Vordergrund stand.

00:04:34: Aus Deutschland gab es Druck hier gab's ja eine eigene Expertenkommission die als letzte Konsequenz auch ein Social Media Verbot gefordert hat.

00:04:41: und dann gehts immer noch um die Frage ab wann und wo sind die Altersgrenzen?

00:04:46: In Frankreich ist es zu letzt erstmal gescheitert.

00:04:48: wir haben in Spanien Initiativen, Griechenland usw.

00:04:52: Der Druck aus den nationalen Regierungen ist riesig und deswegen hat die EU-Kommission selber eine Expertenkommission eingesetzt, die dann gesagt hat ja sollten wir machen.

00:05:02: Und dann haben sie offensichtlich, finde ich, glaube ich, befürchtig in ziemlicher Eile irgendwie einen Gesetzentwurf zusammengezimmert.

00:05:09: Den hat Frau von der Leyen die Kommissionspräsidentin dann in der großen State of the Union also in ihrer Rede zum Zustell der Europäischen Union dargelegt.

00:05:18: am sechzehnten September und da war ich gerade noch, bin nicht gerade aus dem Urlaub zurückgekommen, habe schon gedacht als ich das gehört habe so ansatzweise oh jojoj, da kommt nichts Gutes auf uns zu weil Wir kennen sie noch aus früheren Zeiten, ich war selber aktiv in Sachen Sensursolar damals und habe die Gesetzgebung hier in Deutschland halt kritisiert diese Vorharte.

00:05:37: Und in dem Duktus war das dann auch also wirklich... Ich muss uns einfach so sagen Jugend- und Kinderschutz über alles unabsolut gestellt ohne Zwischenräume quasi.

00:05:49: Also das ist meine Interpretation dieses Gesetzentwurfs.

00:05:53: Wird den Eltern die Kontrolle weitgehend entzogen?

00:05:56: Da ist überhaupt kein Maß mehr drin, sondern es werden absolute Altersgrenzen gesetzt – ich sage's mal kurz!

00:06:02: Social Media werden absolut verbot bis ab fünfzehn.

00:06:06: Ab fünfzehnt darf man dann im kinkgerechten eigenen Zugang sich Account holen für soziale Medien.

00:06:13: Für andere Medien gilt es unter Umständen... schon eher zum Beispiel Videoplattformen, wenn die Videoplatformen kindgerecht sind dürfen, können sie auch schon eventuell ein bisschen früher nutzen.

00:06:21: Das Interessante ist aber vor allem es gibt den Minizugang Und der Minizugang muss komplett kontrolliert werden von den Eltern und er gilt im Alter von dreizehn und vierzehn.

00:06:30: Unter dreizehn geht gar nichts für Jugendliche, also man stelle sich vor das sind sechs Lesler in Gymnasium oder ist ja auch egal in welcher Schulform es ist die diesen Smartphone dabei haben sollen aber keinerlei Zugangs zur sozialen Medien kriegen.

00:06:44: Jetzt kommt in den Mini-Accounts die von den Enderaltern verwaltet werden müssen sollen dann solche Sachen sein, also sollen sehr starke Einschränkungen sein zum Beispiel maximal sechzig Minuten Nutzung pro Tag, Schlaf nachts komplett Verbot, Accountverbot.

00:07:02: Das sollen die Plattformen regulieren.

00:07:03: also nicht etwa die Eltern können haben da Einstellmöglichkeiten sondern das ist Voraussetzung der die die Platformen schaffen müssen und zum Beispiel natürlich keine Endlosfeeds die üblichen Sachen von denen die ihnen Verdacht stehen dass sie den Nutzungen gefördert nun süchtig machen.

00:07:17: Also solche Sachen wie auch keine Ahnung Schönheitsfilter und es sind alle möglichen einzelnen Maßnahmen drin, witzigerweise mit unheimlich handwerklichen Fehlern.

00:07:26: Das bringt mich zur zweiten Geschichte, die ich noch kurz sagen will.

00:07:29: Ich habe mir dann eine Menge Rezeption angeguckt jetzt mittlerweile auch von Juristen, von denen ich weiß, die sich mit dem Thema auskennen sind bei Schuesschefen Dreier den hatten wir ja schon öfter zitiert das ist ein Medienrechtler an der Leibniz Institut, der genau ins gleiche Horn stößt und sagt hier wird den Eltern keinen Freiraum mehr gegeben, also weil Entwicklungsstände von Kindern können ja durchaus unterschiedlich sein.

00:07:53: Dreizehn ist nicht gleich dreizehnt und das so absolut zu setzen es natürlich könnte auch ein Problem sein und zum Beispiel gegen Grundrechte verstoßen.

00:08:01: Also da wird's...da findet nie kein richtiges Verhältnismäßigkeitsstaat.

00:08:05: Das andere Riesenproblem was allgemein gesehen wird ich muss jetzt kurz den Rentner fortführen sorry auch wenn ich missten monologisiere.

00:08:13: Ist das ganze technische Problem?

00:08:15: Wir haben so viele technische Probleme.

00:08:17: Also um das kurz zu sagen, es soll grundsätzlich alle unter achtzehn sollen sich bei sozialen Medien identifizieren also sollen ihr Alter nachweisen müssen.

00:08:26: Das heißt, das gilt auch für uns Erwachsene.

00:08:28: Wenn wir Zugang kriegen wollen.

00:08:29: jetzt zu sozialen Medien und die kennen uns noch nicht Wir wollen neue Accounts anlegen.

00:08:34: wenn sie uns kennen können Sie unter Umständen schätzen, wenn wir zum Beispiel da Kreditkarten-Daten schon hinterlegt haben.

00:08:38: Ansonsten gilt sie müssen das Alter prüfen Und das soll alles mit einem ganz minimal invasiven und datenschutzfreundlichen Zero Knowledge Verfahren passieren.

00:08:46: Also dass die Plattform nur fragt über achtzehn oder unter achtzehnt und auch den Namen nicht kriegt oder sowas.

00:08:52: Da beißt sich aber die Katze ein bisschen in den Schwanz, denn gleichzeitig werden unheimlich viele Meterinformationen verlangt.

00:08:57: Nämlich nehmen wir zum Beispiel die Konten für dreizehn und vierzehnjährige.

00:09:00: da muss man das Sorgerecht nachweisen.

00:09:02: es geht ja darum dass nur sorgeberechtigte diese Konten verwalten dürfen.

00:09:06: wie soll das passieren?

00:09:07: Es fällt ein völlig ungelöstes Problem steht auch nicht zu im Akt.

00:09:10: dann ist was wo auch wozu auch nichts steht ist was ist passiert wenn sich Familienkonstellation ändern?

00:09:15: was mit vulnerablen Gruppen?

00:09:16: was ist mit Geflüchteten?

00:09:18: die sind geflüchtete Jugendlichen die sehen Deutschland aufhalten.

00:09:21: Was ist, wenn sich Eltern streiten ums Sorgerecht?

00:09:24: All das wird überhaupt nicht thematisiert in dem Akt.

00:09:26: Gleichzeitig sind die Umsetzungsfaszen unheimlich gering.

00:09:30: also zum Beispiel müssen V-Lobs, es wurden teilweise Definitionen aus einem DSA und aus dem Digital Marketsaktor sind die im A einfach abgeschrieben, die auch viel zu weit gehen.

00:09:41: kann ich gleich auch noch was zu sagen?

00:09:42: Und diese V-lops sollen innerhalb von dreißig Jahren... Das

00:09:45: musst du glaube ich kurz erklären.

00:09:49: Das sind die sehr großen Online-Plattformen, large Online-Platforms.

00:09:53: Die jetzt auch schon so definiert sind von der EU-Kommission.

00:09:56: Die sollen innerhalb von... Da fallen eben zum Beispiel Meta darunter und TikTok und so, ne?

00:10:01: Und sie sollen innerhalb vom dreißig Tagen einen kompletten extern auditierten Compliance-Katalog liefern wie genau Sie das umsetzen wollen.

00:10:09: Innerhalb von dreizig Tagen nach in Kraft treten!

00:10:11: bevor es wirksam wird.

00:10:12: Umsetzungsfrist generell sechs Monate, was auch krass kurz ist finde ich.

00:10:16: Ich glaube auch nicht dass sie zu halten ist.

00:10:17: das würde nicht passieren denke ich mal nicht.

00:10:19: und dann sind unheimlich viele handwerkliche Fehler drin.

00:10:21: Ich möchte nur einen auf einem Rechtsprofessor hinweisen.

00:10:25: da kann ich ja auch in die Shownotes packen.

00:10:26: Das hat mich wirklich von Sock'n gehauen der hat...ich kann's euch zitieren Der hat eine große Abhandlung geschrieben.

00:10:32: der ist Europarechtler vom University College of London UCL Michael Wiel.

00:10:39: heißt er Are you kidding me EU?

00:10:42: Und hat über auf dreißig Seiten irgendwie alle handwerklichen Fehler aufgelistet und ist zum Schluss gekommen.

00:10:47: Das ist der totale Schrott, das ist inkonsistenter Schrott.

00:10:50: bitte einfach wegwerfen und nochmal neu machen.

00:10:53: damit kann man nicht arbeiten.

00:10:54: dazu kann ich auch keine Stellungnahme geben.

00:10:56: da sind so viele Handwerkliche Fehler drin zb eine Lootbox Definition nur als Beispiel.

00:11:01: aber die Loot Box Definition bezieht sich nicht auf Online Spiele sondern nur auf soziale Netzwerke.

00:11:05: So ein handwerglicher Fehler.

00:11:08: Dann zum Beispiel sagt er, wenn die Definition so wie sie aus dem GMA übernommen worden sind würde es zum Beispiel bedeuten dass vierzehnjährige kein Teams benutzen dürfen oder das Kinder die in der oder im Schachtclub Chess-Base benutzen.

00:11:19: Das nicht mehr benutzen durften weil dann Chat Funktionen drin ist.

00:11:22: Lauter solche Dinge die Beispiele die ihr da nennt.

00:11:24: Spotify wäre natürlich auch Tabu mit Account.

00:11:27: Sachen ohne Account zum Beispiel YouTube sind komplett ausgenommen diesen überhaupt nicht adressiert.

00:11:31: also Youtube ohne Account und ohne eigene Account kannst du weiter gucken.

00:11:34: wie bisher Gibt's keine Regelung zu.

00:11:36: Messenger sind komplett ausgenommen, weil die eben im Digital Markets-Akt nicht reguliert werden – zumindest in der Definition, die sie übernommen haben.

00:11:43: Also es ist alles kaut an Rügen und totales Chaos!

00:11:46: Sorry das….

00:11:46: also ich würde die gleich beeinstimmen.

00:11:49: Wir haben verstanden du bist kein Fan aber Thairi, du bist ein Fan oder?

00:11:52: Nee eigentlich

00:11:55: auch

00:11:55: nicht.

00:11:57: Ich hab das Ding jetzt nur überflogen, aber dabei sind mir schon paar Sachen aufgefallen.

00:12:03: Erstmal würde ich sagen, es ist natürlich gut etwas mehr Steuerung in diesen Bereich zu bringen.

00:12:08: Also das war ja auch schon im DSA angelegt, dass man da endlich dieses Thema ein bisschen angegangen ist.

00:12:13: Aber ich würde auch sagen, da sind viele handwerkliche Fehler drin zum Einfahren nicht den Anwendungsbereich irgendwie sehr selektiv.

00:12:20: Man hätte ja auch einfach wirklich stringent die legal Definitionen, die man in anderen schon drin hatte, jetzt vor allem im DSA-DMA in der AVMD-Richtlinie.

00:12:31: Hätte man ja übernehmen können.

00:12:32: aber nein, man macht noch weitere Fässer auf.

00:12:36: und was mich dann wirklich sehr irritiert hatte es gibt eine Ausnahme für Bildungs Content, der aber nur für Bildungseinrichtungen gilt.

00:12:45: Das heißt man spricht eigentlich Plattform ab auch kleineren Plattform soweit ich das jetzt überblicke dass sie vielleicht auch sinnvolle Content für Minderjährige bereitstellen können und verwährt dann den Minderjährigen in dem Bereich auch den Zugang, also das ist schon bedenklich.

00:13:03: Zum Beispiel TikTok hat ja für den chinesischen Markt oder Biden zu den chinessischen Markten einen Mint-Feed oder eine eigene Mintversion rausgebracht und solche Dinge könnte man überlegen um zu fördern.

00:13:17: Da würde ich sagen rechtspolitisch warum nicht solche konstruktiven Entwicklungen ein bisschen mehr pushen anstatt nur Verbote einzuführen?

00:13:25: Das zweite was mir dann aufgefallen Im DSL gibt es jetzt sehr schwammige Vorschriften, was den Umgang für Minderjährige angeht.

00:13:37: Zum Beispiel in Artikel achtundzwanzig, der wirklich so etwas von Nicht-Aussage kräftig ist und auch Artikel vierunddreißig fünfund dreißig zu ... Risiko, Bewertung und Minderung.

00:13:47: Aber die EU-Kommission hat im Aufsichtsverfahren gegen TikTok bereits diese Artikel bemüht und gesagt okay, TikTok liegt eben im Verdacht – das gibt jetzt auch schon glaube ich diese vorläufige Einschätzung dazu – Sucht fördern zu wirken Was aber sich aus dem Wortlaut selbst des DSAs jetzt nicht so mittelbar ergibt.

00:14:05: Aber vielleicht ein ganz kurzer Ergänzungen, es gibt ja seit dem letzten Jahr einen Leitfaden wo die Kommission dahinter zu konkretisieren was sie denn mit dem, vor allem mit der Artikel-Achtundzwanzig gemeint hat?

00:14:15: Genau könnten wir uns jetzt auch lange drüber streiten ob das eine gute Idee ist so viel Regulierungskompetenz dann einfach der Exekutiven zu übertragen und so viele wichtige Fragen ins Software und delegierte Rechtsakte auszulagern.

00:14:28: also da bin ich eigentlich total dagegen.

00:14:30: Das Spannende ist, dass in diesem Kids Act jetzt drinsteht, dass eine solche Suchtförderung eigentlich verhindert werden muss.

00:14:37: Also jetzt haben wir endlich ne explizite Formulierung von dem was schon reingelesen wurde in den DSA und das finde ich spannend.

00:14:44: also da hat sich die EU-Kommission vielleicht auch eingestanden, dass das nicht konkret genug formuliert war.

00:14:49: Finde ich gut, finde ich super!

00:14:51: Eine derartige Steuerungswirkungen würde ich echt unterstützen aber musste da auch ein bisschen... laut Auflachen heute, als ich das gelesen habe.

00:14:59: Dass man erst etwas aus Sichtrechtlich durchführt und es dann erst ins Gesetz schreibt.

00:15:02: Wobei auch hier kritisiert wurde von Herrn Dreier dass sie sich dabei vor allem bei der Suchtwörterung also die Von der Leyen hat ja ganz viel gesagt.

00:15:12: wie furchtbar ist eigentlich alles Teufelszeug.

00:15:14: so war das in the State of The Union aber so die empirischen Nachweise ist ein bisschen schuldig geblieben.

00:15:20: Sie haben sich im Wesentlichen auf eine Studie verlegt die im August veröffentlicht wurde, und die jetzt glaube ich gerade erst langsam rezipiert wird.

00:15:30: Also das ist alles ein bisschen, weiß ich nicht... Alles ein bisschen schwierig?

00:15:35: Ja, sehe ich auch so!

00:15:36: Und dass auch im Aufsichtsverfahren diese empirischen Beweise der Öffentlichkeit zumindest nicht vorgelegt wurden.

00:15:41: Ich weiß nicht wie es jetzt interpartis ist aber ja schon schwierig.

00:15:46: Und du hattest ja vorhin angesprochen, dass unter drei zehn gar nichts möglich ist nach dem Kick Kids Act.

00:15:52: Jetzt haben wir aber auch Artikel sieben, also den Entwurf für Artikel Sieben wo auch noch den Eltern aufgetragen wird dass sie ihre Dienste Minderjährigen nur zur Verfügung stellen dürfen.

00:16:03: Also ihre eigenen Accounts die Minderjährige nur zur verfügung stellen dürfen wenn sie die ausreichend beaufsichtigen und kontrollieren finde ich spannend und so was auch noch auf die Binnenmarktkompetenz zu stützen.

00:16:15: ja Also bin ich gespannt, was es dazu jetzt bald noch für weitere Stellungnahmen in der Literatur geben wird.

00:16:22: Ich bin vor allem sehr gespannt wie Parlament und Rat reagieren werden.

00:16:26: Also beim Rat bin ich mir ziemlich sicher das der Rat da... Der würde da sehr positiv sein!

00:16:30: Könnte ich mir vorstellen.

00:16:31: Aber das Parlament, je nachdem mal gucken wäre da dann durch der Stadt, da würde ich glaube, könnte noch spannende Debatten geben.

00:16:38: und die EU hat irgendwie gesagt ... Die Kommission hatte eine Sprecherin in erster Stellungnahme gesagt Sie gehen davon aus dass das Ding noch im Jahr zwanzigundzwanzig ein Kraft tritt.

00:16:45: also ganz ehrlich Das glaub' ich nie im Leben.

00:16:48: Also vor Ende des Jahres ist es nichts Und im Juni-Zwz haben wir schon die nächste Parlamentswahl.

00:16:55: Es wird alles noch sehr spannend.

00:16:56: Ich

00:16:57: sehe ihr seid begeistert.

00:16:58: Gute Regulierung, die wir gerade aus Europa bekommen.

00:17:02: Ich bin ja so ein begeisterter Europäer.

00:17:04: aber was die Ura macht ist wirklich sehr schlimm und zwar in allen Bereichen und das wird leider politisch gar nicht diskutiert sondern es wird irgendwie einfach hingenommen und das meiste, wird ja gar nicht verfolgt.

00:17:15: Ich habe überhaupt keine öffentliche Berichterstattung über den Kids Act irgendwo gelesen.

00:17:19: also Ja bei Netzpolitik aber sonst... Nee

00:17:23: ich hab eher.

00:17:23: das Problem ist dass es politisiert wird.

00:17:27: Also es wird immer nur in Schlagworten darüber gesprochen Und zu einer auch politischen Frage gemacht.

00:17:32: wenn zum Beispiel jetzt aus dem USA ganz viel Kritik kommt Dass dann ja irgendwie anti-europäisch und schlecht ist.

00:17:39: Aber man versäumt irgendwie solche wichtigen Fragen auch wirklich innerpolit, erinner europäisch zu diskutieren.

00:17:45: Das ist wirklich ein Versäumnis.

00:17:47: Innerdeutsch?

00:17:47: Also in Deutschland haben wir da überhaupt nicht darüber diskutiert!

00:17:50: Wir haben aber noch ein anderes Thema was auch interessant und wichtig ist und deswegen würde ich jetzt mal überleiten bevor wieder hinkommen machen wir einen sehr kurzes... Unser Bußgeld der Woche kommt aus Spanien und es is älter.

00:18:07: Es ist allerdings jetzt erst veröffentlicht worden und es hat im Prinzip eine Kernaussage, die mir so wichtig war, dass ich hier zum Busker der Woche gemacht habe.

00:18:16: Was war passiert?

00:18:17: Eine Verbraucherorganisation beschwerte sich bei der spanischen Behörde über Hinweissschilder zur Videoüberwachung, die das Unternehmen Securitas direkt seit Zwei-Tausend elf bei seinen Kunden anbrachte.

00:18:33: Und auf diesen Schildern wurden Betroffene, für ihr Auskunfts- und Widerspruchstrecht an eine kostenpflichtige Servicennummer verwiesen.

00:18:43: Das ist im Prinzip das worum es geht.

00:18:45: Das fand die spanische Behörde gar nicht so wahnsinnig toll!

00:18:48: Sie hat das geprüft haben dann zu dem Ergebnis, dass es zwar keinen Verstoß gegen das Unentgeltigkeitsgebot in Artikel zwölf Absatz fünf ist.

00:19:00: Aber trotzdem ein Verstoßen gegen Artikel Zwölfe Absatz zwei hier für die Osten weil eine Mehrwertnummer also eine kostenpflichtige Nummer die Ausübungs des Rechts eben nicht gerade erleichtert und kein leicht zugängliches Mittel ist sondern im Gegenteil halt extrem abschreckend wird.

00:19:18: Also man wird sich sehr genau überlegen, ob man da Geld in die Hand nimmt um hier seine Rechte durchzusetzen.

00:19:25: Und das ist so.

00:19:26: wie kann aussagen dass es gar nicht geht?

00:19:27: und originellerweise, dass wir gerne los werden hat die Firma sich damit verteidigt, dass im ersten Quartal zwanzig-einundzwanzig nur eine einzige Anfrage über diese Nummer eingegangen sei!

00:19:40: Das hat wiederum die Behörde dann... dazu geführt zu argumentieren, naja die geringe Nutzung belegt ja vielleicht gerade die abschreitende Wirkung was jetzt nicht ganz völlig fernliegend ist.

00:19:50: Das war wirklich nicht so ein wahnsinnig gutes Argument.

00:19:52: und Bußgeld immerhin hunderttausend Euro.

00:19:56: guter Jahresumsatz, zwei tausend neunzehn lag bei achthundertzwanzig Millionen.

00:19:59: also das wird jetzt nicht umgewacht haben aber trotzdem relativ hohes Buß Geld.

00:20:03: Erschwerend bei der Bußgeld-Bemessung kam noch dazu, dass es ein Landesweit in Spanien tätig war und eine sehr hohe Zahl an potenziellen Betroffenen gibt.

00:20:12: Und das das ganze über drei Jahre lief.

00:20:15: und sie haben das Ganze als schwere Fahrlässigkeit eingespuft.

00:20:19: mit einer Umstände gab's nicht und es gab zusätzlich eine Anordnung, dass man alle Schüler innerhalb von kürzester Zeit hier Abändert.

00:20:27: Dagegen haben die sich hart gewährt, aber sind damit nicht durchgedrungen mit dem schönen Argument das ure Kosten – die haben sie gelten gemacht nach der Rechtsprechung des spanischen Gerichts – keine Unmöglichkeit begonnen und der Verantwortliche die kostenrechtmäßigen Verhaltens eben selber tragen muss.

00:20:44: Fand ich interessant?

00:20:45: Was nehmen wir da ausmit?

00:20:46: Kostenpflichtige Rufnummern sind keine wahnsinnig gute Idee für….

00:20:51: Da alles was Geld kostet ist im Bereich des Datenschutz keine wahnsinnig gute Idee.

00:20:55: Das in aller Kürze, warum wir glaube ich nicht groß diskutieren?

00:20:58: Da sind wir uns einig.

00:20:59: Ich glaube mit dem Bußgeld auch finde ich okay.

00:21:01: also bei hohen Umsätzen und da tausend finde ich jetzt für sowas nicht so wenig.

00:21:05: von daher das in aller kürze.

00:21:07: dann würde ich sagen fangen wir mal an mit unserem heutigen Thema.

00:21:11: Wir wollen über deepfakes reden.

00:21:15: Deepfake ist glaube ich gerade in vieler Hinsicht In der öffentlichen Diskussion nach diesen Missbausgeschichten von Frau Fernandez, es ist in der öffentliche Diskussion ziemlich stark.

00:21:34: In meiner Bubble zumindest mit den Kennzeichnungspflichten weil die gelten auch für Deepfakes und auch mit dem Verbot von Porno-Deepfakes, die im AI-Akt jetzt vorgezogen wurde.

00:21:47: Mein Problem dabei Die erste Frage, die wir uns stellen müssen.

00:21:52: Was ist denn überhaupt ein Deepfake?

00:21:55: Meine persönliche Definition von Deepfakes ist eine ganz wesentlich andere, als sie im RA-Akt steht dazu, wenn ihr gleich noch kommt und es auch eine ganz Wesentlich andere als sie derzeit in einer öffentlichen Diskussion verwandt wird.

00:22:07: was ist denn ein Deep fake?

00:22:09: Ja da bin ich jetzt schon sehr gespannt auf deine Definition.

00:22:12: also Ich würde sagen deepfaken Landläufig überlegt wird darunter ja schon eher etwas, was mit Desinformationen verbunden ist.

00:22:20: Verstanden?

00:22:21: Also wirklich mit einer schädigenden... Absicht, eine Person irgendwie falsch darzustellen und dabei natürlich Deep Learning Technologien einzusetzen.

00:22:28: Und interessanterweise ist aber im Artikel drei Nummer sechzig der KI-Verordnung mittlerweile der Begriff Deep Fake legal definiert.

00:22:37: Und zwar sind Deep Fakes dort durch KI erzeugte oder manipulierte Bildtonen oder Videoinhalte die wirklichen Personen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden.

00:22:49: Das heißt es ist sehr viel offener solche desinformationsbezogenen oder sonst schädlichen Inhalte.

00:22:58: Der Hintergrund, würde ich sagen liegt aber daran dass der Begriff deepfake in der KI-Verordnung auch nur einmal vorkommt und zwar wenn es um diese Kennzeichnungspflichten geht.

00:23:07: das heißt man hat eigentlich gedacht na gut wir umfassen das mal so weit wie möglich also sagen wir mal was jetzt das Schädigende angeht das klammern wir einfach aus sodass die Kennzeichnungspflicht möglichst effektiv durchgeführt werden kann Und insofern würde es auch, also zumindest was das angeht, Sinn machen.

00:23:25: Auch wenn's viele andere Kritikpunkte dann natürlich gibt.

00:23:28: aber ich glaube man öffnet damit auch eine andere Tür die gar nicht mal so sinnvoll ist.

00:23:34: ist natürlich auch der Zusammenhang zwischen KI-Verordnung und DSA zu beachten.

00:23:40: Gerade haben wir vorhin auch schon darüber geredet, diese sehr unbestimmten Formulierten Artikel thirty four und thirty five DSA, die ja dieser großen Onlineplattformen und Suchmaschinen wozu jetzt neuerdings auch ChatGPT zählt, dazu verpflichtend systemische Risiken zu bewerten und zu mindern.

00:23:58: Die sind extrem!

00:24:00: unbestimmt formuliert, also selbst der Begriff des systemischen Risikos wird nicht formuliert und dann wird es auf irgendwie vier sehr weit gefasste Risiko-Kategorien bezogen.

00:24:10: Und den Plattformen bleiben selbst die Wahl über Minderungsmaßnahmen überlassen.

00:24:14: Wenn die jetzt ankommen und natürlich den Begriff deepfake aus der KI-Verordnung heranziehen, der ja sehr weit ist und eben nicht nur schädigende Inhalte betrifft, könnte man auf die Idee kommen, naja, die Risiken ein bisschen... übermäßig zu mindern, einfach nur weil etwas KI generiert ist.

00:24:30: Da weiß ich jetzt nicht wie die Praxis aktuell ist müsste man sich mal die aktuellen Risikoberichte anschauen.

00:24:36: aber das ist mir noch etwas was mir eingefallen ist, wo ich dachte ah vielleicht doch nicht so sinnvoll das so offen zu gestalten.

00:24:41: Man hätte vielleicht eher zwei Definitionen aufnehmen müssen für ja einfach synthetisch hergestellte Inhalte und dann den Deep Fake-Begriff noch mal anders.

00:24:51: Aber jetzt sag du Malia, was wäre denn deine Definition?

00:24:54: Ich hatte nur noch zu den Definitionen zwei Nachfragen weil da habe ich ja mit Jörg auch schon viel darüber diskutiert, weil du jetzt nur von Personen gesprochen hast.

00:25:03: Vielleicht soll man das nochmal klarstellen.

00:25:06: so wie ich es verstanden habe geht es nicht nur um Personen.

00:25:08: wir reden natürlich jetzt vor allem von Personen ist klar aber es geht jetzt auch um... Es geht um jede Form von Tonbildern Videos die dem beim Rezipienten irgendwie den Eindruck verschaffen soll, das ist echt.

00:25:24: Genau auch Gegenstände Einrichtungen und Situation.

00:25:27: Aber es muss

00:25:28: ja

00:25:30: Songs Songs die mit Computergeneräte Stimme die nicht unbedingt einer echten Stimme nachem Brunnen sind sondern die auch wirklich.

00:25:38: also da auch das kann ja deepfake sein oder

00:25:41: so einschränkend muss man natürlich beachten dass muss einer wirklichen Person oder eben einer wirklichen Gegenstand, Einrichtung oder Situation ähneln und auch noch dazu geeignet sein, beispielsweise als echt- oder wahrheitsgemäß zu erscheinen.

00:25:55: Das ist dann natürlich Auslegungssache, wann das in der Fall ist.

00:26:01: Und spannend ist auch die englische Sprachfassung da, da ist dann auch die Rede von existing persons weil jetzt im Bezug auf Desinformation zum Beispiel so fiktive Fälle wenn man das jetzt eng auslegt wenn jetzt irgendwie fiktiver Politiker oder so erfunden wird, der aber trotzdem als echt wirkt.

00:26:18: Dann könnte man denken das soll nicht unter die Definition fallen.

00:26:23: im Leitfaden der EU-Kommission wird das Ganze wieder weiter ausgelegt.

00:26:27: also ja das klingt dann auch nach einer echt halbgaren Definitions einen Halbgarnen Definitionsversuch der hier dann doch tatsächlich im Recht gelandet ist.

00:26:36: Da will ich ein bisschen widersprechen mache ich ungern aber nach meiner Die Interpretation des Gesetzes gilt das generell für Bilder, die man verechthalten könnte.

00:26:45: Es muss also nicht eine natürlichen Person oder einer natürlichen Katze nach erfunden sein sondern dann müsste das Bild einfach in irgendeiner Form für echt halten können und zwar aus Sicht eines sehr dummen Menschen.

00:26:57: Das heißt wirklich

00:26:59: so interpretieren als es irgendeine möglicherweise real existierenden Personen oder Gegenstand

00:27:04: Genau, oder Katze?

00:27:06: Darf ich mal ein Beispiel bringen.

00:27:08: Also nur ums konkret zu machen.

00:27:10: Nehmen wir an es gibt einen politischen Akteur der komplett eine Person, ein Video von einer Person generiert die im Bundestag steht und Rede hält.

00:27:20: aber diese Personen gibt's nicht erinnert auch keiner keine Person wie sonst im Bundestagsaktiv ist Aber steht drunter keine Ahnung.

00:27:27: Peter Müller mdb cdu Oder so.

00:27:30: das wäre doch eindeutig ein Deepfake Und man legt ihm irgendwas in den Mund.

00:27:34: Ja, das Gesetz sagt einer wirklichen Person gegenständigen Orten einig nur was er eben schon gesagt oder Ereignissen ähnelt.

00:27:42: Also dass ist die Frage ob es jetzt wirklich eine natürliche Person sein muss.

00:27:45: aber jemand der da steht wird ja im Zauberzweile irgendjemandem ähneln.

00:27:49: von daher und bei den anderen Sachen sieht man das noch besser.

00:27:52: also die Katzenbilder das wird schon irgendwann Katze ähneln.

00:27:57: deswegen ich

00:27:58: kann es nicht wissen weil du ja nicht weiß aus welchem Trainingsfondus die Person generiert wird.

00:28:03: Das weißt

00:28:03: du eh nie.

00:28:05: Wenn ja Milliardenbilder sein, sonst würde das hier völlig leer laufen auch?

00:28:12: Ja eben also das meine ich auch.

00:28:14: Also es ist schon fragwürdig warum man das unbedingt so formuliert hat existing person oder eben wirkliche Personen und so weiter.

00:28:21: Andererseits wäre es nicht der erste Artikel in einer EU-Verordnung denn ich sehe der leer läuft in der Praxis.

00:28:29: Nee, nee.

00:28:29: Der wird nicht leerlaufen.

00:28:31: Da bin ich mir sehr sicher.

00:28:33: Ich würde um noch mal zu der Diskussion vom Anfang zu kommen was ist denn ein Deepfake?

00:28:37: Also die Politik hat hier einen Begriff gekapert, der eigentlich im normalen Leben und da würdest du mir sicher auch zustimmen völlig anders besetzt war.

00:28:46: Der Deepfak war halt irgendwas besonders ekliges, was meistens in sexualisierten Zusammenhang hatte also so irgendwelche Arschlöcher.

00:29:07: Das wäre so in meiner Vorstellung, die ursprüngliche Definition von Deepfakes gewesen.

00:29:11: Die hat man jetzt gekapert auf irgendwas was irgendwie ähnlich sieht Und auch Ereignissen und Orten oder so.

00:29:18: Also jedes Strandbild ist wahrscheinlich inzwischen deepfake, weil es irgendwie irgendwas ähnlich sehen könnte und man es vielleicht halten könnte wenn das dann gut gemacht ist.

00:29:27: Von daher ist das sehr weit ausgelegt und völlig anders als im ursprünglichen Sprachgebrauch war nach meinem Verständnis was nicht besonders hilfreich ist.

00:29:39: Also da hätte man vielleicht, ich finde deinen Vorschlag dass man hier zwei Definitionen nehmen können und die eine würde dann tatsächlich diese eher auch politisch ungewollte und auch sozial-ungewollten Form von Deepfakes umfassen und die andere wäre halt die eher harmlose.

00:29:56: weil das jetzt ein Katzenbild kennzeichnen muss wird es ja zur gesellschaftlichst rolle Wand.

00:30:01: Was ich mich frage, wir reden jetzt auch gleich über Datenschutz und reden dann auch über strafrechtliche Vorschriften die vielleicht kommen.

00:30:07: Aber in wie weit strahlte diese sehr weite Legale Definitionen, die jetzt im AI eikt oder der KI-Verordnung?

00:30:15: Wie hat's?

00:30:15: strahlt die denn auf andere Regulierungen aus als zum Beispiel auf die DSGVO?

00:30:19: Das ist eine sehr gute Frage!

00:30:22: Die pänzert

00:30:23: die Anfahrt, die DSGAO bleibt unberührt.

00:30:28: Also ich würde sie ranziehen, wenn ich ein Interesse daran hätte, sie heranzuziehen.

00:30:33: Wenn ich da irgendwas verändern wollte oder so.

00:30:35: Auf jeden Fall hat es eine Strahlwirkung auf den DSA.

00:30:37: Da wird der glaube ich sogar in Erwägungsgrund hundertsechs und weiß nicht, bin ich mich nicht direkt darauf bezuggenommen auf die Kennzeichnungsmöglichkeit von Deepfakes im Rahmen von Artikel thirty-five DSA

00:30:49: Ganzheitungspflicht, um genau zu sein.

00:30:51: Ich kenne zwar noch eine Möglichkeit, das muss ja seit...

00:30:53: Also die Pflicht besteht nach den Fünfzig KI-Vordernungen aber nach fünfunddreißig DSA besteht die Möglichkeit Risiken zum Mindern durch eine Kennzeichnung und das liegt ja in der Wahl des Dienstanbieters.

00:31:10: Auch der DSA wird von dem in Ruhe gelassen beziehungsweise er gilt weiter nebenher und wir praktisch haben es dann eben.

00:31:19: gucken, wie wir damit umgehen oder auch ihr Wissenschaftler.

00:31:24: Tolle Regulierung!

00:31:25: Wir kommen mal am Anfang und schauen uns ein bisschen die Datenschutzfragen an, die hier auch durchaus spannend sind.

00:31:33: Ich habe mal recherchiert und habe einen Bußgeld gefunden für den speziell für diesen Fall also für das was ich jetzt ursprünglich als DeepFake benannt hätte.

00:31:45: Die kann man vielleicht dann auch als Haupt nehmen können aber ich versuche mal so zwei unterschiedliche Bereiche zu machen.

00:31:51: Die auch aus Spanien.

00:31:52: und da hatte die spanische Behörde gegen den Ersteller- und Verbreiter KI Generator falscher Nacktbilder.

00:31:57: Ein Bußgeld von zweitausend Euro verhängt, das wurde wegen sofortiger Zahlung sogar auf tausend zweihundert reduziert.

00:32:04: Das klingt nach einer einzelnen Person?

00:32:07: Das

00:32:07: klingte nach einer einzigen Person.

00:32:08: ja auf jeden Fall.

00:32:09: Kein Dienst

00:32:10: oder so?

00:32:11: Kein Dienst!

00:32:12: Die Behörder hat das nicht schon ganz interessant... Hat erst mal gefragt gibt es eine Rechtsgrundlage diese Bilder zu veröffentlichen?

00:32:19: und natürlich gibt es sie nicht.

00:32:21: So was soll das sein?

00:32:23: Die haben sich tatsächlich auf rechtliche Interesse berufen, finde ich jetzt nicht so überzeugend.

00:32:27: Einwiedung gab's auch nicht und das ist wohl die erste Bußgeld wegen Verbreitung kreigeneriter Bilder.

00:32:33: Und daneben lief ein Strafverfahren beim Jugendgericht gegen fünfzehn Minderjährige, die das wohl alle gemacht haben.

00:32:39: also ist wahrscheinlich eher so aus einer... Aus nach minderjährigen Ecke.

00:32:42: und um das noch kurz zu ergänzen, gab es einen Verfahren der Garante.

00:32:46: Also aus Italien gegen einen Dienst namens Cloth Off.

00:32:51: Ich habe einfach die ganze Zeit belesen Klosthoff Und hat mich die ganze zeit gefragt was ist denn Kloshoff für ein komischer Anbieter scheint nicht besonders gewirkt zu haben Das gibt's wohl noch Und es wurde aber verboten für eine bestimmte Zeit, und da sind wir natürlich auch voll im Thema.

00:33:07: Weil Schutzmaßnahmen gegen die Nutzung durch Minderjährige und das Hochladen von Bilderminderjähriger eben nicht blockiert war.

00:33:15: Ebenso fehlte eine Einwilligungsprüfung und eine klare Kennzeichnung für KI-Inhalte.

00:33:20: Es gab eine Verwarnung, aber es gibt wohl kein Bußgeld.

00:33:23: Ich habe zumindest nichts gefunden, was ich bizarr finde.

00:33:27: Letztes Verfahren haben wir so alle fertig dass die Funktion von GROC auf X, die wir alle kennen.

00:33:35: Die glaube ich auch ein bisschen die Diskussion mit ausgelesen haben.

00:33:39: Teil dieser Phase ist wahrscheinlich stärker verfolgt.

00:33:41: Da gab es ja die Möglichkeit einfach Fotos hochzuladen und dann zu sagen mach mir das in Mini Bikini oder so.

00:33:47: Ich glaub ganz nackt ging glaube nicht aber es war schon ziemlich widerlich sexualisierend und da war ja auch Häumenfallpartnern glaube ich exklusiv geholfen.

00:33:57: Das wird uns nicht!

00:33:58: Ich

00:33:58: glaube es war noch mal krasser, weil Grog ja sogar dazu animiert hat solche Bilder zu erstellen.

00:34:04: Es waren wirklich Anreize erkennbar.

00:34:07: Ja da hast du glaub ich sogar ganz gut Geld verdient mit, weil du verdienst bei Grog wenn du irgendwie viel abrufe hast auch Geld und... Weil Grog kurz erklärt dass also Grog läuft auf X also ehemals Twitter und das ist ein großer Unterschied weil da die Bilder öffentlich veröffentlicht werden.

00:34:23: Das ist wenn man jetzt so andere Anbieter, dann kriegt man die halt privat zur Verfügung gestellt.

00:34:30: Bei X werden sie einfach dann hochgeladen und ich glaube es fanden ganz viele gerade Minderjährige gar nicht so richtig toll dass ihre Bilder da massiv sexualisiert dargestellt wurden.

00:34:40: Da hätte ich mir vielleicht auch von Europa ein bisschen härteres draufschlagen gewünscht aber das ging glaube ich noch nicht mehr so oder?

00:34:46: Naja,

00:34:46: also die EU-Kommission hat zumindest nach DSA einen Verfahren angestoßen und das läuft auch noch.

00:34:52: Da geht es dann auch wiederum darum ob die systemischen Risiken effektiv genug gemindert wurden ja.

00:34:57: Und seit diese Grockgeschichte so bekannt geworden ist, ist ja auch ganz viel regulatorisch passiert.

00:35:06: Also allein schon die Reform der KI-Fordernung durch den KI Omnibus, zwei neue Verbotszahlbestände auf europäischer Ebene eingeführt hat.

00:35:17: Das ist ja alles auch durch diese Geschichte ins Leben gerufen worden, aber ich glaube wir kommen gerade schon wieder ab vom Datenschutzrecht, sorry?

00:35:25: Nee, nee, da können wir schon

00:35:26: darüber sprechen!

00:35:27: Ja also gut dann kann ich kurz mal was dazu sagen... Also in Artikel fünf der KI-Verordnung gibt es so einen Katalog an verschiedenen Praktiken, die generell verboten sind.

00:35:38: Also Praktik wie zum Beispiel eben das Einführen von KI Systemen aber auch die Nutzung.

00:35:44: und also vor dem Hintergrund natürlich dass die KI Verordnung eine produktsicherheitsrechtliche Verordnung ist macht das total Sinn auch schon solche Maßnahmen wie die Einfuhr von solchen Systemen und Entwicklung solcher Systeme irgendwie einzuhägen.

00:35:57: Und ja, das ist sehr stark an ganz spezifischen Szenarien orientiert.

00:36:03: Also was da sonst so bisher geregelt war, waren vor allem irgendwie biometrische Gesichtserkennung in bestimmten Kontexten zum Beispiel oder manipulative KI-Systeme die Menschen zu Verhaltensweisen anregen, die sie eigentlich nicht ergreifen wollen.

00:36:20: und nun hat man jetzt auch gesagt okay wir wollen KI manipuliertes oder generiertes Material, das intime Körperteile einer Person darstellt.

00:36:31: Oder eine Person in sexualisierter Weise darstelt und auch kinderpornografisches Material wollen wir jetzt auch unter so einem Verbot

00:36:39: stellen.".

00:36:40: Und es ging alles sehr schnell!

00:36:42: Also wirklich ne sehr kurze Debatte und auch kurze Umsetzungsfrist also bis oder Anwendungsfrist.

00:36:49: Das wird jetzt schon im Dezember diesen Jahres gelten.

00:36:52: Ja, und das ist natürlich für das Thema Deepfakes wieder sehr relevant.

00:36:56: Es wird zwar der Begriff gar nicht verwendet dennoch ist klar dass es hier um die Fax gehen soll also eben solches manipuliertes oder generiertes Material und ich finde es aber interessant, vor allem auf diese sexuelle oder intime kinderpornografische Komponente abgestellt wird und zum Beispiel Gewalt darstellende Deepfakes nicht umfasst sind.

00:37:17: Hätte ich jetzt interessant gefunden, da sieht man wieder das wahrscheinlich diese gesellschaftlichen Debatten zu so einer kurzfristigen Reaktion geführt haben als statt dass man mal überlegt okay was sind denn wirklich die Art von Deepfags?

00:37:30: Menschen auf eine so herabwürdigende Weise darstellen, das kann ja alles mögliche andere auch noch sein.

00:37:36: Wie ist es

00:37:37: damit mit manipulativen Deepfakes zum Beispiel die existieren Politiker in anderen Sachen in den Mund legen oder so?

00:37:44: Also zum Beispiel der

00:37:47: sexualisierte Bereich.

00:37:51: Es wäre eigentlich eine Gelegenheit gewesen,

00:37:54: dass man jetzt auf diese ganz konkrete Batterie reagiert hat.

00:37:57: Ja

00:37:58: ich glaube da hat man sehr oft die Glockenbatterie reagieren, weil das ging auch nicht.

00:38:01: Das war wirklich so dermaßen widerlich und der Bilder von Winderjährigen machen wir in einer anzüglichen Pose mit Bikini, Mini bikini, Borat bikini oder so.

00:38:12: Ich finde es interessant was du gesagt hast.

00:38:14: um vielleicht mal kurz zum Datenschutz zurückzukommen Tatsächlich, schon bevor die EU-Kommission ihr Verfahren eröffnet hat noch DSA tatsächlich die von uns so viel geschulten ihre Datenschutzbehörde die PC ein Verfahren gegen XAI angestoßen hat.

00:38:33: Was waren's?

00:38:33: Das war der Verstoß gegen mehrere Vorstoßen, aber gegen mehrere Vorschriften.

00:38:37: Ich glaube es geht auch unter anderem um Jugendschutz, aber es geht auf die vielen Rechtsgrundlage und so weiter zu fort.

00:38:44: Natürlich ist das natürlich auch starke Datenschutzpersönlichkeitenrechtsverstöße.

00:38:48: ich bin mal sehr gespannt was daraus kommt also was die DPC da entscheiden wird.

00:38:53: allerdings wird das wahrscheinlich auch wieder noch zwei drei Jahre dauern bis wir dann noch etwas hören.

00:38:56: Also um das mal ein bisschen einzuordnen, ich bin ja sehr, sehr harter Nutzer von BKI und hier habe ich mit den Mitschernen bestimmt hunderttausend Bilder gemacht.

00:39:02: Und da ist alles so vernagelt!

00:39:05: Da wird man nie auch nur in Brustchen sehen.

00:39:08: Auch für JetGPT und für Gemini kann ich sagen die sind total asexuell also schon völlig übertrieben asexuelle.

00:39:16: Die Sachen über die wir reden alles massiv dunke, grau.

00:39:22: Nämlich massiv schweifende Farben.

00:39:24: Also jedenfalls im tief ekligen Bereich und einfach mal um sich das vorzustellen kann man nicht unterscheiden.

00:39:32: Also das ist so, die sind so gut inzwischen.

00:39:34: Das

00:39:34: war nicht nur was Bilder angeht sondern auch was Video angeht?

00:39:37: Die Videos

00:39:38: machen in der Regel die Videos und du kannst da das hochstellen und es sieht einfach total ebenso echt aus.

00:39:44: Und das macht sich glaube ich im Moment noch keiner an Vorstand.

00:39:46: Ich glaube das kursiert wahrscheinlich gerade unter Jugendlichen mehr als dass es bei Erwachsenen ist.

00:39:52: Der Unterschied aber zu GROC, das scheint mir noch wichtig ist, dass du's dann nur selber bekommst.

00:39:56: Es wird nicht irgendwie veröffentlicht.

00:39:58: Du kannst es doch selbst erfüllen!

00:40:00: Ja natürlich kann sie selber veröffentlichen Klar, aber da finde ich schon den inhaltlichen Unterschiede.

00:40:05: Ich musste auch noch mal kurz einhaken.

00:40:06: Gerade am Wochenende habe ich etwas sehr Spannendes erlebt.

00:40:09: Ich habe den ersten KI generierten Kinofilmen gesehen und es ist total relevant jetzt für unser Thema.

00:40:16: Es ging darum dass ein Regisseur der in England glaube ich lebt... Dieses Massaka hat das Anfang des Jahres im Iran stattfand, was ja nicht wirklich aufgearbeitet werden konnte.

00:40:26: Weil das Regime das Internet gesperrt hatte und es kamen wirklich wenig Bilder und Videos hier rüber.

00:40:30: Hat er durch KI versucht irgendwie mehr zu konkretisieren?

00:40:36: Hat dann auch mit Familien dort vor Ort gesprochen die eben die Angehörige verloren haben während des Massakas und hat... Man würde jetzt sagen nach der KI-Verordnungss Definition Deep Fakes!

00:40:46: erstellt, sein eigenes Gesicht und seine Person verwendet in diese Szenerie versetzt aber eine reale Geschichte erzählt.

00:40:53: Darin kam vor jede Menge Gewalt sexualisierte Gewalt intime Körperteile all das film ab achtzehn Aber nach, also korrigiert wichtig.

00:41:03: Nur eine Frage weil ich davon noch kein Material gesehen habe hat es denn absolut real gewirrt?

00:41:09: Waren die Bilder so real oder war es eher... Kommt

00:41:11: drauf an wem man fragt!

00:41:12: Oder war's eher ein Anime-Style?

00:41:15: Nee das war schon total auf darauf abgezielt dass es real aussehen sollte.

00:41:20: Ich hab natürlich sofort gemerkt dass es KI generiert ist.

00:41:23: aber zum Beispiel war ich mit einer etwas älteren Freundin da in den Fünfzigern ist, die hat erst nach ein paar Stunden gesagt du kann es sein dass manche Bilder KI generiert waren.

00:41:34: Sorry aber das war alles KI-generiert also sie hat's gar nicht gecheckt.

00:41:38: Es war schon ziemlich gut und vor allem toll wie er das auch hinbekommen hat das ganze Szenerie wirklich alles korrekt gewirkt hat also diese ganzen Straßenzüge und so.

00:41:48: das war alle sehr sehr stimmig.

00:41:51: Aber interessant jetzt im Bezug natürlich auf die KE-Verordnung.

00:41:54: Wir haben hier auch keinen Ausnahmetatbestand, soweit ich das überblicke für künstlerische Gestaltung.

00:42:00: Also anders als jetzt die Strafrechtsvorschläge oder habe ich das Übersehen?

00:42:03: Ja

00:42:03: doch!

00:42:04: Es gibt eine Ausnahme für Künstlerischen Sachen.

00:42:06: Da muss es zumindest nicht mit ins Bild pappen sondern wird wahrscheinlich reichen wenn du es vorher und am Ende machst.

00:42:11: Moment moment moment.

00:42:12: Du redest jetzt aber von Artikel fünfzig, nicht Artikel fünfe oder?

00:42:14: Fünfzig ja

00:42:15: Genau, ich bin bei Artikel five der Jahr reformiert wurde Der dieses Verbot für sexualisierte Deepfakes enthält Und da sehe ich keinen Ausnahme-Tatbestand für Künstler.

00:42:27: Nee, da

00:42:27: gibt's keine Ausnahme.

00:42:28: Und das ist ein Problem!

00:42:29: Wenn man jetzt so einen Film drehen will, na gut, dann zensiert man halt alles... Aber ich finde es redet halt auch so einem Registrierer ganz schön viel rein.

00:42:37: Du hast im Vorgespräch gesagt er war ab achtzehn, aber trotzdem könnte man nach AIX sagen oder es gibt keine Möglichkeit den durch die Kunst freiheit zu decken quasi.

00:42:47: Also würde ich jetzt sagen natürlich müsste

00:42:49: man... Würdest du in Zweifel ziehen, dass man ihn aufführen darf?

00:42:52: Genau.

00:42:53: Also jetzt im Moment darf man aber ab September weiß ich nicht.

00:42:56: Ja das Verbot gilt aber für die Anbieter und nicht für die Nutzer.

00:43:00: Aber lass uns mal einen Weg weiter in Richtung Datenschutz gehen.

00:43:04: weil die wahnsinnig spannende Frage dabei und natürlich auch bei diesem Kinofilm ist ja dann letztendlich es geht um die Darstellung von Personen.

00:43:14: Wenn es reale Personen sind, die durch KI nachgebildet werden weiß ich jetzt nicht ob das in dem Film so war aber könnte man ja durchaus machen.

00:43:23: Man kennt ja die Opfer des Regimes da, beide die aus Social Media aufgetreten sind und die könnte man auch durchaus nachbilden.

00:43:32: Ist das passiert?

00:43:34: Also wie ich das jetzt einordnen würde ist es nicht so passiert.

00:43:38: also

00:43:39: es könnte passieren

00:43:40: Aber es könnte passieren, ja.

00:43:42: Nee er hatte da auch viel mit Schauspielern gearbeitet und eher versucht... Ja

00:43:46: also man könnte jedenfalls komplett auch die Opfer quasi zu Wort kommen lassen ob man das jetzt will oder sonst.

00:43:51: eine künstliche Entscheidung.

00:43:52: aber Die spannende Frage ist halt sind bekannte Personen werden wenn sie von KI nach gebildet werden?

00:43:58: Sind wir dann im Anwendungsbereich der DSGVO?

00:44:01: Es ist glaube ich ziemlich umstritten.

00:44:03: Ich weiß ich habe mal mit unserem einem unserer Lieblingsgäste Professor Golland drüber gesprochen.

00:44:10: Der war da glaube ich anderer Ansicht, kann man auch ganz gut sein.

00:44:14: Aber ich habe dann meine Manne so ein bisschen geändert.

00:44:17: wenn die betroffene reale Person anhand ihrer charakteristischen äußeren Merkmale oder auch ihre Stimmprofils bei Videos Wenn die für die Öffentlichkeit ohne weiteres identifizierbar ist Dann wäre das meiner Ansicht nach ein klarer Fall dass es auch unter die DSGVO fällt weil das natürlich Ist eine identifizierbare Person und ist ja nichts anderes.

00:44:40: Also auch, wenn ich den male könnte das ja dann durchaus auch fallen aber letztendlich ist es ne eine.

00:44:47: Ich nehme die Bilder fürs KI Training schmeißt das da rein?

00:44:50: Und es ist dann auch eine entsprechende Verarbeitung und es kommt dann ein Bildnis der person raus was ja auch dann ziemlich echt aussieht.

00:44:55: deswegen ist das hier meiner an sich nach drin Wobei wir zwei datenschutzrechtliche Sachen haben, über die wir hier sprechen müssen.

00:45:03: Grundsätzlich über die Wir sprechen.

00:45:05: einmal das Modelltraining mit authentischen Fotografien was ja dann auch auf jeden Fall in der DSGVO fällt und letztendlich die Darstellung wo es meiner Ansicht nach nicht so völlig klar ist ob das unter die DSGFO fällt weil es ist ja keine Darstellung der Person.

00:45:20: nichtsdestotrotz kann man sie daraus identifizieren eine Rechtsgrundlage dafür haben, Einwilligung vielleicht mal im Film oder so.

00:45:31: Aber in einem normalen Leben eben nicht und ich komme ja auch nicht zu einem berechtigten Interesse ohne die Einverständnis.

00:45:39: Interessante Geschichte knallt hier noch dann zusammen möglicherweise und das sicherlich auch in deinem Film mit Medien- und Kunstprivileg auch mit Kunst-Uhrheuerrechtsgesetz, ganz spannend.

00:45:50: Aber Thairé würdest du mir da zustimmen?

00:45:54: Du bist nicht unbedingt von Haus aus eine harte Datenschützerin aber du hast dich natürlich auch schon damit beschätzt.

00:45:58: Ja würde ich schon sagen also wenn die Person identifizierbar ist und es gibt ja auch in der Literatur viele die sagen die digitale Repräsentation einer Person ist ja grundsätzlich zum Beispiel auch vom allgemeinen Persönlichkeitsrecht wo zumindest jetzt in Deutschland dogmatisch dass recht auf informationelle Selbstbestimmung ja auch draus abgeleitet wird, würde ich sagen könnte man das schon sehr einfach begründen.

00:46:22: Spannend wird es dann natürlich bei Artikel neun, würd' ich sagen.

00:46:26: also wenn jetzt eine nuftiktive Merkmale einer Person dargestellt werden die durch Artikel neuen DSGVO geschützt werden ob das dann auch geschützt wird und würde ich eigentlich schon weil der Schutz gilt nicht nur richtigen Daten sondern eben den besonderen Kategorien Oder, was meint ihr?

00:46:46: Ja ganz spannend.

00:46:46: Natürlich wenn der dann sagen wir mal als musiksoll dargestellt wird, der ich wahrscheinlich dann im neun und da wird es ganz schwer, dann kann ich das eigentlich gar nicht machen.

00:46:54: Vielleicht

00:46:55: jetzt schon, wenn du sagst keine Ahnung, da ist eine Narbe am rechten oberen Arm oder sowas.

00:47:01: Das ist ja schon fast ein Gesundheitsdatum bei einer Abbildung in einem Foto.

00:47:06: Ja mit dieser Ultra-Weitenrechtsprechung des OGH ist irgendwie alles ideal infiziert.

00:47:14: Wir hatten es in der letzten Episode.

00:47:15: ja, wir hatten einen Gast der Herrn Bertamann, der stark Kritik an der weiten Aussehnungsartikel neun geübt hat.

00:47:23: Und da haben wir uns eigentlich, glaube ich zu mich weitgehend angeschlossen.

00:47:27: Ja auf jeden Fall!

00:47:28: Sind's biometrische Daten?

00:47:29: Wahrscheinlich nicht.

00:47:30: wenn sie jetzt nicht spezielle technische Verfahren verarbeitet werden wird das wahrscheinlich nicht ausreichen.

00:47:36: aber ich glaube wir sind uns einig dass Person bezogene Daten sind und das macht das Ganze natürlich nochmal spannender.

00:47:45: Dann haben also die Regelung im AI-Akt mit ein paar Spuren im DSA, alles bleibt unberührt und ist nicht aufeinander abgestimmt.

00:47:53: Und jetzt schaut mal was wir daraus machen.

00:47:55: Liebe CIS herausfordernd!

00:47:57: Du hast den Aufsatz geschrieben über Diepegregulierung im mehr ebenden System, was auch immer das ist.

00:48:04: Und du hast dich da insbesondere nicht nur aber insbesondere auch Aktivitäten des Gesetzgebers beschäftigt.

00:48:13: Wir haben da eine ganze Menge Aktivität, ich glaube die kommt so ein bisschen wo das noch mal stark getriggert durch diese Fernandes-Ulmengeschichte, die, glaub' ich dazu geführt hat, dass es in sehr kurzer Zeit auch noch eine Gesetzesinitiative gab.

00:48:27: Es gibt denn ganz aus meiner Sicht der Vika e Bitka, ihr nutzt einen ganz ganz schlimmen Vorschlag aus Bayern.

00:48:32: Das wirst du uns gleich noch erzählen, der aus meiner fast sofortige Tod für alle Nutzung von Bildkai auf die ganz harmlosen Sachen bedeuten würde, weil das Risiko möchte keiner mehr eingehen.

00:48:43: Und ich glaube noch was für den Grünen.

00:48:45: Magst du uns mal so vielleicht fangen wir mit dem Regierungsentwurf an?

00:48:48: Weil es natürlich derjenige ist, der am meisten Chancen hat, vielleicht ins Leben zu treten – ist er gut!

00:48:54: Ich hätte jetzt sonst nochmal kurz etwas zum Ebenen verhältnis gesagt aber mach' ihn einfach gleich.

00:48:59: Ja, also dieser Referentenentwurf des Bundesjustizministeriums ist so eine Art Gesetzgebungspaket.

00:49:05: Also das ganz viel drin von Strafrecht eben bis zu Vorschlägen zur privaten Verbesserung privater Rechtsdurchsetzung und dass basiert ersichtlich auf einem alten Vorschlag der schon in einer alten Legislaturperiode vorgelegt wurde.

00:49:21: da gab es auch diesen Vorschlag für einen Gesetz gegen digitale Gewalt, das eben damals nur auf die Verbesserung der privaten Rechtsdurchsetzung konzentriert war.

00:49:31: Und das hat man jetzt eben ziemlich, ja würde ich sagen schnell wahrscheinlich aufgrund dieser Fernandesdebatte durch ein paar Vorstäge zur Reform des STGBs ergänzt und zwei von drei soweit ich weiß Straftatbeständen behandeln eben oder sind für das Thema Deep Facts relevant.

00:49:51: Jetzt fangen wir damit an, was ein bisschen schade ist.

00:49:54: Ganz kurz

00:49:55: dazwischen aber Deepfakes nicht im Sinne des AIX oder?

00:50:00: Komme ich gleich drauf also nicht in dem Sinne des AIAX.

00:50:03: man hat auf jeden Fall nicht die legalen Definition herangezogen.

00:50:07: Man benutzt auch das Wort deepfakes.

00:50:13: Es geht um die Herstellung oder Zugänglichmachung komputerverfälschter Bildaufnahmen, das ist da ein Vorschlag für Pragraf hundred eighty-four K. Und da geht es darum dass der anscheinend sexuelle Handlung oder bestimmte Körperteile zu vermeiden ist und vorgesehen ist eine Strafbarkeit bis zu zwei Jahren oder Geldstrafe also herstellung oder zugänglich machen Computer verfälschter Bildaufnahmen.

00:50:41: Ihr hört da also nicht das Wort Deepfakes, sondern es kann auch Cheapfakes umfassen oder Shallowfakes und wie auch immer man das nennen will.

00:50:48: Sie ja natürlich auch... Was

00:50:50: ist das?

00:50:50: Hellofakes?

00:50:52: Also alles was eben ohne Deep Learning Technologien durch andere Arten von Manipulation...

00:50:59: Also einfach so Gesicht irgendwo rein montieren oder so.

00:51:01: Zum

00:51:02: Beispiel ja ne?

00:51:02: Also computer verfälschte Bildaufnahme, das klingt für mich sehr weit!

00:51:08: Genau.

00:51:09: Und das Spannende ist hier, dass sogar die Herstellung... Die Herstellung strafbar sein soll und mein Aufsatz betrachtet ja eben dieses Mehrebenen- und Verhältnis zwischen der EU und den deutschen Vorschlägen.

00:51:24: und was da besonders interessant ist es gibt eine Richtlinie der EU, die eben auch solche Reformen zur Strafbarkeit von bestimmten manipulierten Bildaufnahmen oder Videos oder auch Audios vorsieht, dass die Mitgliedsstaaten da eben aktiv werden müssen und es regulieren müssen.

00:51:42: Da ist aber nicht von Herstellung die Rede.

00:51:44: Da sollen einfach schwere Persönlichkeitsverletzungen umfasst sein und das Bundesverstehensministerium geht er deutlich darüber hinaus.

00:51:54: Aber um das klarzustellen, genau wollte ich gerade sagen, die EU hat in der Richtlinie klargestellt, definiert, dass der Gesetzgeber im straffheitlichen Bereich noch über die Richtlinie rausgehen darf.

00:52:07: Genau!

00:52:08: Das ist ihm umbenommen.

00:52:10: Frage ist natürlich ob man das recht politisch möchte?

00:52:13: Ich finde es da immer interessant wenn man in einer Debatte hört, was im analogen Strafbar ist sollte auch im digitalen Straf bar sein.

00:52:20: Es ist so eine Floskel die hören wir schon seit Jahren.

00:52:24: aber ich find grad in dem Bereich.

00:52:25: Dieb Fakes muss wirklich zu einem Bruch der Technologie jetzt gekommen.

00:52:30: Da finde ich, das passt nicht mehr.

00:52:32: Weil es sind wirklich wesentlich ungleiche Dinge und da muss man sich als Gesetzgeber fragen, möchte man wirklich das was im Analogen strafbar ist?

00:52:40: Also jemanden unbefugt eine intime Aufnahme von einer Person unbeflugt herzustellen gleichzusetzen mit einer fiktiven Lackdarstellung oder sexualisierten Darstellung.

00:52:54: Das war aber noch nicht alles.

00:52:55: also das war jetzt ein Paragraf den Vorschlägt, es gibt noch einen zweiten der sogar noch ein bisschen weitergeht inhaltlich.

00:53:03: Den Vorschlag für Paragraph twohundert-eins B StGB.

00:53:08: da soll's um die Zugänglichmachung von Inhalten gehen den Anschein eines tatsächlichen Geschehens erwecken und geeignet sind das Ansehen der Person erheblich zu schädigen gilt auch für Verstorbene.

00:53:20: Hier ist eine Strafbarkeitsandrohung von bis zu zwei Jahren oder Geldstrafe.

00:53:26: Ohne jede Sexualisierung, ohne das Ansehen zu schädigen.

00:53:30: So und das geht sogar auch über die Richtlinie hinaus.

00:53:35: also da war ja eigentlich nur die Rede von schweren Persönlichkeitsrechtsverletzungen und hier wirkliche Persönliche Rechtsverletzung.

00:53:44: Man muss natürlich dazusagen, es sind auch Ausnahmen vorgesehen für berechtigte Interessen.

00:53:49: Also Meinungsfreiheit, Kunstfreiheit und Wissenschaftsfreiheit regelmäßig umfasst.

00:53:54: Und das ist ja auch eine Rechtwertigungsart die in vielen anderen Straftatbeständen schon seit sehr langer Zeit besteht.

00:54:06: also da kennen sich Gerichte eigentlich mit aus.

00:54:08: trotzdem frage ich mich Na ja, wenn die Technologie sich so verändert hat und es hier wirklich um Fragen geht, die gesellschaftlich sehr umstritten sind.

00:54:18: Ob da nicht der Tatbestand selber zu weit und unkontoriert gefasst ist?

00:54:23: Und die Rechtfertigungsmöglichkeit das dann gar nicht mehr richtig abfangen kann weil die Gerichte auch diese Grundsatzentscheidung jetzt erst mal treffen müssen.

00:54:31: Ich weiß nicht wie seht ihr das denn?

00:54:33: findet ihr das reicht so berechtigte Interessen als rechtfertigunggrund?

00:54:36: also ich blicke da Erst mal auf diese ganzen Geschichten drauf, aus der Sicht von jemanden, der sehr viel Bildkali nutzt.

00:54:43: Und für mich ist es der absolute Horror, dass ich hier plötzlich durch irgendwas was sich gar nicht unbedingt beeinflussen kann in einem strafrechtrelevantem Bereich landen kann.

00:54:52: Denn ich habe ja erst einmal das Herstellen.

00:54:55: soll dann auch schon unter Strafe gestellt werden?

00:54:59: Ich hab einen Vorsatz irgendetwas in die KI einzugeben.

00:55:02: Also ich hab nicht den Vorsatz, dass es stark sexualisiert sein soll.

00:55:07: Nichtsdestotrotz würde ich es nie ausschließen, dass das irgendwann mal passiert.

00:55:11: Irgendwie mal passiert ein neues Modell und da ist der Filter noch nicht gut oder so Und dann bin ich plötzlich in einem harten strafrechtlichen Bereich.

00:55:20: also für mich ist das wirklich aber das ist jetzt meine Sicht als KI Nutzer hart völlig unmöglich.

00:55:26: Also das kann ich.

00:55:27: dann muss ich mir echt überlegen ob ich das weiter nutze.

00:55:30: Eine an völlig andere Geschichte ist die Veröffentlichung.

00:55:33: Das ist veröffentlicht, das passiert ja nicht zufällig, da brauche ich Vorsatz und finde wenn ich das veröffentliche... Da wäre ich auch dabei, wenn es jetzt wirklich sexualisierte Darstellung ist, dass wir dich unterstützen.

00:55:47: Es gibt so viele super ekelige Fakes von mir.

00:55:53: Jeder lebenden Person, jedem Schauspieler alles sexualisiert hat.

00:56:00: Diese letzte Geschichte war mir ehrlich gesagt gar nicht so bewusst, wie du erzählt hast.

00:56:04: Das finde ich völlig verstört und das ist glaube ich die Angst der Politik vor solchen Darstellungen.

00:56:09: Und ich glaube da organikte... Ich glaube dass so muss man es auch sehen und so kann sich die Gesellschaft nicht einschränken!

00:56:27: gehört, das ist ja schon eine bewusste Entscheidung des Gesetzgebers hier quasi auch die eigene Zunft zu schützen.

00:56:34: Also es geht ja um Darstellungen, verfälschte Darstellung und Diebwerk-Darstellung von Politikern den Wort in den Mund gelegt werden usw.

00:56:42: Jetzt lese ich aber die... Du hast ja von den Einschränkungen berichtet ne?

00:56:47: Ich lese jetzt mal wenn ich die jetzt wortwörtlich lese Nicht zur Handlung.

00:56:52: die in Wahrnehmung überwiegende berechtigte Interessen erfolgen, namentlich der Kunst oder der Wissenschaften.

00:56:56: Jetzt kommt es der Forschung an der Lehre, der Berichterstattung über die Vorgänge des Zeitgeschehens oder der Geschichte oder ähnlichen Zwecken dienen?

00:57:03: Was ist denn jetzt die Bericht erstattet über das Zeitgeschenen?

00:57:07: Könnte ich auch sagen wenn du hast den mir mal ein nicht genanntes Krawallportal was ziemlich viel Social Media Inhalte absondert produziert teilweise hat auch die verickerniert.

00:57:20: Ist das nicht Berichterstattung über das politische Zeitgeschehen und wäre das dann nicht so eine Ausnahme, die genau hier von umfasst wäre?

00:57:27: Also ich frage mich ob dieser Zweihundert-Einsänderungen überhaupt funktioniert in der Praxis.

00:57:34: Weil da so viel unklar definiert ist.

00:57:36: Ja also super guter Punkt auch.

00:57:38: So wie die Gerichte bisher über diese Rechtwertigungs... Klausel gegangen sind oder entschieden haben, wurde das immer sehr weit ausgelegt.

00:57:49: Die berechtigten Interessen ist ja auch gut so aber dadurch dass der Tatbestand soweit ist... Und auch die

00:57:53: Pressefreiheit wohlgemerkt?

00:57:54: Genau, Pressefreihheit!

00:57:56: Auch wichtig, dass sie finde ich gut weit ausgelebt wird vom BGH in letzter Instanz.

00:58:01: Absolut, aber klar da fragt man sich dann auch könnte es nicht doch wieder ins Leere laufen wenn jetzt zum Beispiel Plattformen, die sich auf die Pressefreiheit berufen.

00:58:13: Aber eigentlich irgendwie ihre führende Enhalte darstellen oder so super tendenzieus, dass man das eigentlich doch unter Strafe stellen sollte.

00:58:22: Ich bin da persönlich eher kein Fan von und ich finde, da sollte man eher mit anderen Mitteln rangehen als jetzt mit dem Strafrecht oder halt nur für enge Fälle mit einem Strafrecht reagieren.

00:58:43: Also grundsätzlich würde ich es begrüßen, wenn auch diese Medien etwas weniger mit grauenhaften KI-Bildern arbeiten würden.

00:58:49: Würde die alle gefakten?

00:58:51: Aber vermutlich würde sich die Strafverkürzung nicht darauf beziehen.

00:58:54: da bin ich mir sogar relativ sicher Das wäre auch nicht gut.

00:58:57: Also das müssen wir irgendwie anderweitig in den Griff bekommen, irgendwelche Presse veröffentlichungen mit Strafrecht zu beurteilen ist glaube ich auch

00:59:06: ein grundgesetzlichen

00:59:07: Schutz, dass es nicht funktioniert.

00:59:09: Grunde genommen ist das natürlich auch Medienrecht und im Grunde ging es noch die Medienanstalten dafür verantwortlich für Skabia zwei Einzelfälle wo gerade so kleinere Blocks sagen wir mal an politischen Rändern Presserechtlich beurteilt wurden von Landesmedienanstalten und dann halt auch Auflagen bekommen haben zu Korrekturen, Korreakturen oder zur Einstellung des Angebots.

00:59:30: Die Frage ist halt ob das reicht?

00:59:32: Das passiert im Moment nur vereinzelt.

00:59:34: oder aber ob das der Hebel ist oder... Es geht ja jetzt hier nur darum ist der Strafrecht für solche Geschichten der richtige Hebel?

00:59:42: und ich habe da massive Zweifel drinnen.

00:59:44: Ich

00:59:44: glaube es haben wir alle drei zumindest.

00:59:47: also ich hab sehr an dieser Regelung nichts was sich unterschreiben würde.

00:59:51: Vielleicht die Verbreitung von sexualisierten Inhalten, ja der will ich wahrscheinlich dabei.

00:59:56: Bei allem was so hinausgeht hätte ich große Schwierigkeiten und auch grundgesetzlich europarechtlich aber das kann Teilrehm sicherlich besser beurteilen.

01:00:06: also Wissenschaftlerinnen in dem Bereich große Bauchschmerzen auch dass es zu halten ist vor den Gerichten.

01:00:12: Ja also meine Hauptkritik oder eine der Hauptkritikkunkte im aktuellen Aufsatz Diese Art der strafrechtlichen Regulierung, gerade jetzt der Vorschlag des Bundesjustizministeriums aber auch der Vorschlag des Bundesrates.

01:00:26: Dass die nicht besonders gut zu dem europäischen eher risikobasierten Regulierungsgefühl bepassen.

01:00:33: Also wenn man sich das anschaut wie die KI-Verordnung und der DSL mit dem Thema Deepfakes umgehen dann sehen wir es gibt halt harte Verbote wie wir vorhin besprochen haben für diese sexuellen oder kinderpornografischen Deepfake.

01:00:47: Dann gibt es Risikomminderungsmaßnahmen für Dienste, für sehr große anderen Plattformen oder KI-Systeme mit systemischem Risiko.

01:01:00: Das macht auch total Sinn.

01:01:01: und dann auf unterster Stufe haben wir... Oder dann kommt vielleicht auch noch diese strafrechtliche Richtlinie die eben eine Strafbarkeit vorsieht Und dann auf unterster Stufer haben wir diese Transparenzpflichten für andere KI- Systeme gelten sollen oder für andere Diebficks.

01:01:16: Das passt ja dann irgendwie nicht wirklich gut zu diesen Vorschlägen, die einfach bei Allgemeinen Persönlichkeitsrechtsverletzungen anfangen, die Herstellungen schon unter Strafe stellen oder sogar sehr harte oder hohe Strafandrohung beinhalten.

01:01:32: Der Vorschlag des Bundesrats um jetzt mal darauf zu kommen sieht eine Strafhandlung von bis zu fünf Jahren Freiheitsstrafe vor wenn ein solcher Inhalt also Persönlichkeit rechts verletzender Inhalt öffentlich gemacht wurde.

01:01:45: und klar ist das Ja, besonders schlimm wenn ein solcher Inhalt öffentlich gemacht wird.

01:01:51: Da kann man sich auch echt hauselige Szenarien ausdenken.

01:01:55: aber fünf Jahre das hat mich doch sehr stutzig gemacht gerade im Vergleich zu anderen Strafnormen zum Beispiel sexuelle Belästigung also wirklich physische körperliche Belächtigung mit anfassen die nur bis zu zwei Jahren geht.

01:02:09: da finde ich ist irgendwie schwer vermittelbar hier für so fiktive Szenariens fünf Jahre als maximal Strafe vorzusehen.

01:02:19: Aber vielleicht fehlt mir da auch einfach die Fantasie, es kann sein dass es in der Falle gibt das rechtfertigen.

01:02:24: Vielleicht gerade wenn's auch um Kinder geht oder so.

01:02:26: Ganz kurze Ergänzung bevor ich zuvor zu dir gebe Heuger die Mindeststrafe für Vergewaltigung beträgt zwei Jahre.

01:02:31: Mindeststrafe?

01:02:33: Ja.

01:02:34: Vielleicht nur ergänzen noch damit wir wissen wovon wir reden, also der Vorschlag der aus dem Bundesrat kam wurde vom Land Bayern initiiert und die haben auch glaube im Vergleich zu anderen, der dann ziemlich hartleinerische Vorstellungen und das er keine Mehrheit gefunden hat.

01:02:50: Das war glaube ich damals schon oder dass es eine Initiative bleiben wird und nicht weiter verfolgt wird, aber damals schon klar.

01:02:57: Ich möchte jetzt dort nochmal ganz kurz ein bisschen die Opferesperspektive beleuchten oder ansprechen.

01:03:03: also ich habe im Vorfeld jetzt auch noch mal ein bisschen google als wir können wir müssen sagen Wir haben da ein großes Problem.

01:03:10: Jörg Duhr ist vorhin von den Spezialisierten Bild- und Videogeneratoren gesprochen.

01:03:15: Und wenn ihr euch mal News Googled so aus dem letzten halben Jahr, ich habe jetzt gerade einmal geguckt letzte Woche in Oldenburg ein Fall wo Bilder von einer Schule von fünfzehn Schülerinnen verschickt wurden, Deep Fakes, der man ist jetzt wohl...

01:03:33: Leerer sogar?

01:03:35: Nee, man hat jetzt einen Verdächtigen

01:03:36: gesehen.

01:03:37: Ja, man hat jetzt einen verdächtigen Minderjährigen gefunden.

01:03:40: Ich weiß nicht ob der jetzt schon geständig ist wie auch immer es geht.

01:03:43: Es gab auch den Fall des Lehrers.

01:03:45: also es fast jeden Tag gibt's irgendwie neue Schlagzeile gerade in Bezug mit Schülern.

01:03:49: Genau und wir haben gerade im Bereich von Minderjährigen.

01:03:51: da glaube ich ein großes Problem weil da vielleicht doch das Problem Bewusstsein noch nicht so groß ist, dass man hier existenzennachhaltig zerstören kann, gerade was sexualisierte Gewalt gegen Mädchen angeht, so massive psychische Schäden anrichten kann.

01:04:06: Weil sie eben noch Schutzbedürftiger sind als Erwachsene in vielen Fällen.

01:04:11: und reicht da unser bisheriges Strafrecht aus?

01:04:17: Gerade was den Bereich Jugendlicher angeht.

01:04:19: aber das Neue finden wir nicht gut.

01:04:21: Aber was machen wir dann?

01:04:22: Ganz kurze Ergänzung für Kinder und auch für Jugendliche ist das schon strafbar.

01:04:26: Es gibt ja die Kinder- und Jugendpornografie würde das drunterfallen, da fallen auch fakes runter.

01:04:32: Da haben wir keine Lücke!

01:04:35: Aber es geht um die Täter?

01:04:36: Es geht mir jetzt nicht um die Opfer sondern... Nein

01:04:38: nein ich meine, es gibt eine Strafbarkeit für die Tater logischerweise.

01:04:42: Also da haben

01:04:43: wir

01:04:44: in dem Bereich keine Strafparkeit, die ist dann eher verwachsene.

01:04:48: Da sind wir eine Strapbarkeitslücke.

01:04:50: Das ist vielleicht ja aber zum Ende kommen teils.

01:04:56: was wäre denn deine Lösung?

01:04:58: oder was würdest du denn vorschlagen?

01:04:59: Also ich finde zum Beispiel interessant den Vorschlag von Bündnis Neunzig, die Grünen.

01:05:04: Die nur eine Reform des Paragraphs hundred vierund achtzig K vorschlagen und nicht auf die Herstellung abstellen sondern auf eine Zugänglichmachung an Dritte und Veröffentlichungen und dann auch noch eine Qualifikation oder Regelbeispiele vorsehen für Ausbildungsverhältnisse oder sonstige.

01:05:24: Also die haben da ein paar besondere Fallgruppen herausgearbeitet, wo es im Besondere Machtgefälle gibt.

01:05:31: Und das finde ich eigentlich so durchaus sinnvoll.

01:05:33: Ich könnte mir auch vorstellen dass man eine Reform von zweihundert-eins B durchführt aber man sollte's dann doch ein bisschen stärker konturieren.

01:05:41: also ist einfach so offen gefasst und es wäre denke ich sinnvoller da doch einige spezifischere Fall Gruppen herauszuarbeiten oder wenigstens auf schwere Persönlichkeitsrechtsverletzungen abzustellen.

01:05:55: Ja, und die Herstellung vielleicht sogar eher anderen Rechtsbereichen zu überlassen und nicht dem Strafrecht.

01:06:00: Mh, guter Punkt!

01:06:02: Nichtsdestotrotz haben wir ein massives gesellschaftliches Problem was glaube ich nicht andersweise diskutiert wird?

01:06:08: Ich gehe einmal rum mit meinen KI-Bildern und sage den Leuten hey... Ihr müsst von der Idee wegkommen, dass man die alle sechs Finger haben und so.

01:06:15: Die sind einfach inzwischen so gut, das man die Unterschiede nicht erkennen kann.

01:06:19: Und ich glaube da sind wir als Gesellschaft überhaupt nicht darauf vorbereitet.

01:06:22: und so eher skurrile Ideen.

01:06:25: Dass man da irgendwie KI drauf pappt.

01:06:27: Das interessiert natürlich keinen, der das irgendwie wirklich ein böser Absicht verwenden kann sei es sexualisierter Art sei es für politische Manipulation.

01:06:35: all diese Sachen sind nach wie vor ungekennzeichnet.

01:06:38: Geh ab und zu mal in dieses, naja ich sag's jetzt nicht.

01:06:41: Aber auf X und schau mal was da so passiert.

01:06:44: Da macht keiner ein KI-Papal drauf der irgendwas manipulieren wird.

01:06:48: aber spätestens im Sexuellen Bereich ist es glaube ich kommen wir glaub ich zu einem Punkt wo wir dann zumindest bestimmte Sachen auch wahrscheinlich über Strafrecht regeln müssen.

01:06:57: aber dann bitte aus meiner Sicht nur die Veröffentlichung Und das nicht so unverlust machen.

01:07:04: also ich hab da echt Angst um Bildkai nutzen oder ich will mir auch nicht jedes Mal Schlechtes Gewissen machen, wenn ich einen ganzen Bild mache.

01:07:12: Das ist auch sehr absurd!

01:07:14: Ja damit wären wir am Ende.

01:07:17: Vielen Dank für bei unserer Gästin.

01:07:21: Schön dass du da warst.

01:07:22: War auf jeden Fall interessant.

01:07:24: Auskeeping?

01:07:24: Du hast gleich das letzte Wort.

01:07:27: Ich

01:07:28: hab jetzt das vorletzte Wort.

01:07:31: Also nutze ich mal mein vorletztes Wort und weiß dann mal von so Kontaktmöglichkeiten in... Ihr könnt uns erreichen unter auslegungssachect.de.

01:07:39: Diese und alle vorangehenden Episoden findet ihr wie immer unter ct.de slash Auslegungssache, kann man sich dort direkt anhören.

01:07:47: aber natürlich findet ihr uns auch auf allen Audioplattformen wie zum Beispiel Spotify dieser natürlich Apple Podcast usw.

01:07:57: Das war es schon von meiner Seite und ich sage jetzt schon mal vielen vielen Dank.

01:08:00: dahil ist Ich habe mal wieder viel gelernt hier an der Stelle.

01:08:04: einiges war mir nicht so klar.

01:08:05: Ja,

01:08:05: es hat mir mega viel Spaß gemacht dabei zu sein.

01:08:08: Und ich hoffe dass wir ein bisschen Licht in dieses Chaos bringen konnten weil es ist ja momentan sehr viel im Bewegung so viele Reformverschläge und auch neue Reformen die schon in Kraft getreten sind oder bald in Kraft treten und da hoffe ich das der eine oder andere ein bisschen was gelernt hat und vielleicht dieser Diskurs auch etwas anders geführt wird in Zukunft, dass wir wirklich die Sache mehr aus verschiedenen Perspektiven beleuchten.

01:08:33: Also ich verbleibe ratlos, aber wesentlich besser informiert als vorher.

01:08:37: Ja vielen Dank!

01:08:39: Danke fürs Zuhören.

01:08:41: in vierzehn Tagen

01:08:42: gehts weiter.

01:08:43: Bis dann tschüss.