Jingles: Silicon Weekly Silicon Weekly war's für heute.
Elli: Hallo und herzlich willkommen zu einer neuen Folge Silicon Weekly.
Elli: Ich bin Elli. Letzte Woche war ich nicht da. Also wenn ihr letzte Woche angefangen
Elli: habt, unseren Podcast zu hören, dann kennt ihr mich noch nicht.
Elli: Außer als die, die Urlaub gemacht hat.
Elli: Und der, der das letzte Woche so schön eingeworfen hat, ist Caspar.
Elli: Der ist heute auch wieder da.
Caspar: Hallo. Ja, schön, dass du wieder da bist aus dem Urlaub, dass du zurück bist.
Elli: Gell.
Caspar: Ja, wir haben eben schon gesagt, du hast ja angemeldet und hast ja Erlaubnis eingeholt.
Elli: Nur eine Woche Pause zu machen.
Caspar: Genau.
Elli: Es ist gerade ein bisschen viel los und manchmal muss man dann irgendeine Baustelle
Elli: absägen und letzte Woche musste einmal kurz der Podcast dran glauben.
Caspar: Dementsprechend auch liebe Grüße an Stella, die ja sonst eigentlich auch mit uns mitmoderiert.
Elli: Genau, die ist diesmal auch an ihrer Gesundheit interessiert und hoffentlich
Elli: dann nächste Woche wieder dabei.
Elli: Ja, bevor wir in die Folge starten und mit euch über die Tech-Welt da draußen
Elli: sprechen und alles, was ihr so für euren Alltag wissen sollt,
Elli: könnt, wie auch immer, haben wir noch eine kleine Hörempfehlung.
Elli: Denn wir machen das hier ja als unser kleines Freizeit-Bastelprojekt.
Elli: Und ich sage mal so, der ein oder andere hat es vielleicht gemerkt,
Elli: wir haben nicht die große Zeit für Marketing und Öffentlichkeitsarbeit und sonst was.
Elli: Aber wir haben vor ein paar Wochen mit dem lieben Giovanni eine Podcast-Folge aufgenommen.
Elli: Der hat den Podcast So geht Podcast und hat uns aufgenommen.
Elli: Zu Gast gebeten in seiner Sendung. Und die Folge ist jetzt bei YouTube verfügbar,
Elli: so richtig mit Video und so weiter.
Elli: Und man kann sie auch anhören auf allen gängigen Plattformen.
Elli: Wir erzählen da so ein bisschen über uns, über Silicon Weekly.
Elli: Was machen wir eigentlich?
Elli: Wie bleibt man im Tech-Journalismus am Ball?
Elli: Wenn euch das interessiert, wenn ihr vielleicht auch einfach so aus der Podcast-Bubble
Elli: kommt insgesamt oder ihr mal wieder ein bisschen mehr nur von uns und ohne Technik.
Elli: Naja, wir haben schon auch über Technik gesprochen, aber so ein bisschen hinter
Elli: die Kulissen gucken wollt, dann hört gerne rein.
Elli: Wir packen euch die YouTube-Folge in die Shownotes.
Caspar: Genau, damit ihr uns auch mal sehen könnt. Apropos sehen, in der Episode erzählen
Caspar: wir auch, warum wir in der Regel nicht zu sehen sind.
Caspar: Und kleiner Blick hinter die Kulissen noch. Heute sehen Elli und ich uns mal
Caspar: nicht, weil wir die Kameras ausgemacht haben, aufgrund einer gewissen Internetsituation
Caspar: in der Hoffnung, die Bandbreite zu senken.
Caspar: Ich bin mal gespannt. Das ist zum ersten Mal, dass wir quasi telefonieren.
Caspar: Normalerweise sehen wir uns ja wenigstens, auch wenn wir das Video nicht aufzeichnen.
Elli: Stimmt, das ist unser erstes Telefonkonferenz-Podcast.
Caspar: So wie früher.
Elli: Wie man früher gesagt hat.
Caspar: Eine Teko ist das. Oh ja.
Elli: Ja, ich finde es auch ganz okay, dass du gerade hier nichts siehst,
Elli: weil hinter mir steht unter anderem mein Bügelbrett an der Wand.
Elli: Das ist nicht der ästhetischste Anblick.
Elli: Es ist mir gestern in einem Arbeitsmeeting aufgefallen. So viel dazu.
Caspar: Naja, guck mal, hinter mir liegt ein Kratzbaum, der eigentlich an die Wand gehört.
Caspar: Der liegt hier aus Gründen.
Caspar: Also insofern ist es auch ganz okay, dass wir heute mal nicht uns gegenseitig sehen.
Caspar: Und das Publikum, liebe Hörerinnen und Hörer, ihr solltet sowieso nicht sehen,
Caspar: was da im Hintergrund gerade so los ist bei uns.
Elli: Naja, also wir würden es mit euch schon auch teilen, aber das machen wir wieder wann anders.
Caspar: Genau.
Elli: Ja, was haben wir mitgebracht? Wir machen einen kurzen Abriss,
Elli: bevor ihr mit uns in die Folge reinstürzt.
Elli: Wir sprechen ganz kurz über humanoide Roboter bei BMW.
Elli: Dann geht es einmal kurz um die Chat-Kontrolle, die wir ja auch schon öfter zu Gast hatten.
Elli: Wir gucken durch ganz besondere Brillen. Und dann geht es auch wieder ums Gucken,
Elli: aber ums Erkennen, was ist eigentlich noch echt in diesem Internet und was nicht.
Elli: Ihr kennt das Spiel, wenn ihr uns schon länger hört, es wird immer schwieriger.
Elli: Heute sprechen wir mal so ein bisschen über Möglichkeiten der Kennzeichnung.
Elli: Und am Ende geht es noch um Korruption und Open Source, was man da so gegen
Elli: tun kann gegen Korruption.
Elli: Ja, ich finde, das ist ein buntes Potpourri.
Caspar: Ja, Korruption und gute Nachricht. Es passt trotzdem zusammen.
Caspar: Keine Sorge, wir kriegen das hin.
Elli: Yes. Und übrigens für alle, die sich vielleicht nach, ich glaube vor zwei oder
Elli: drei Wochen haben wir kurz darüber gesprochen, dass ich hier Trauermücken in
Elli: der Wohnung habe. Sie sind weg.
Elli: Ich habe Maßnahmen ergriffen. Ich muss jetzt während dieser Folge nicht mehr
Elli: irgendwelche Viecher erschlagen.
Caspar: Elli, das hättest du dir aufheben müssen. Du bist nämlich schon mitten in Updates quasi.
Elli: Das stimmt.
Elli: Nachdem ihr jetzt mal ein persönliches Update bekommen habt,
Elli: gucken wir in die Welt der humanoiden Roboter.
Elli: Da hatten wir ja vor kurzem eine Folge zu, was können die so,
Elli: was können die nicht, wofür sind die vielleicht mal spannend und warum.
Elli: Und genau diese Fragen stellt sich auch BMW, also der Autohersteller.
Elli: Die Nachrichtenagentur dpa hat jetzt nämlich berichtet, dass BMW schon seit
Elli: Dezember in einer Produktion in Leipzig Roboter vom Hersteller Hexagon testet.
Elli: Die kommen aus Schweden und im April soll es noch einen Test geben und dann
Elli: zum Sommer ein ausführlicheres Pilotprojekt mit so einer Handvoll humanoiden
Elli: Robotern. Wir reden gleich noch kurz darüber, wie die aussehen.
Elli: In den USA hat BMW schon mal ein paar Monate lang die Arbeit mit humanoiden
Elli: Robotern auch getestet.
Elli: Allerdings waren die da noch von einem anderen Hersteller.
Elli: Und da habe man, so heißt es zumindest von BMW, einen echten Mehrwert in der Produktion gesehen.
Elli: Also BMW kann sich das irgendwie langfristig wohl vorstellen.
Elli: Aktuell die Roboter, mit denen jetzt eben getestet wird in Deutschland,
Elli: die laufen nicht, also sind nicht ganz humanoid, menschenähnlich, sondern sie rollen.
Elli: Sie sind rund 1,65 Meter groß, wiegen 60 Kilo und nach drei Stunden ist zwar
Elli: ihre Batterie leer, aber sie können
Elli: sich selber noch eine neue Batterie einsetzen. Fand ich sehr spannend.
Elli: Aktuell arbeiten die aus Sicherheitsgründen noch in abgetrennten Bereichen.
Elli: Und BMW gibt auch zu. Und momentan ist das noch alles ziemlich teurer.
Elli: Die Anschaffungskosten für so einen Roboter liegen noch im sechsstelligen Bereich.
Elli: Also wir sind noch ein gutes Stück davon entfernt von, oh wei,
Elli: oh wei, die Roboter nehmen uns alle die Arbeit weg. Ja, das dauert noch.
Caspar: Sechsstellig, das wird dann auch bei mir zu Hause erst mal nichts. Richtig.
Caspar: Kommen wir zu einem zweiten kleinen Update, das uns noch häufiger begleitet
Caspar: hat bisher als die Roboter, nämlich die berühmte Chat-Kontrolle.
Caspar: Auch die grüßt uns hierher regelmäßig in der Sendung. Da geht es um die Idee,
Caspar: um es nochmal ganz kurz abzureißen, dass großen Plattformen und Anbietern erlaubt
Caspar: sein soll, private Nachrichten, die unter Umständen vielleicht auch verschlüsselt waren und sind.
Caspar: Automatisiert zu scannen und
Caspar: zum Beispiel die Darstellung von sexuellem Kindesmissbrauch zu erkennen.
Caspar: Als ein Beispiel, was dort erkannt werden soll.
Caspar: Und wir haben dazu schon mal einen ausführlichen Input gehabt und haben darüber
Caspar: gesprochen, dass das Thema immer mal wieder aus der Versenkung auftaucht.
Caspar: So gerade jetzt wieder, denn es gibt Neuigkeiten aus dem Innenausschuss des EU-Parlaments.
Caspar: Dort hat man nämlich überraschend gegen eine Verlängerung der freiwilligen Chatkontrolle
Caspar: gestimmt. Die gibt es nämlich sowieso schon.
Caspar: Es ging ja bisher immer darum, das zu einer Nicht-Freiwilligen zu machen,
Caspar: sondern quasi zu einem Gesetz.
Caspar: Freiwillig dürfen die Plattformen aber quasi auf solche Inhalte sowieso schon scannen.
Caspar: Und jetzt hat das EU-Parlament dagegen gestimmt, beziehungsweise dieser Innenausschuss
Caspar: mit 38 zu 28 Stimmen bei drei Enthaltungen
Caspar: lehnten die Abgeordneten diesen Vorschlag der EU-Kommission ab.
Caspar: Und damit scheitert dann zunächst der Plan, diese Ausnahme von der E-Privacy-Richtlinie,
Caspar: die das nämlich eigentlich ist, zu verlängern und dieses automatisierte Scan
Caspar: von Nachrichten auf Freiwillige-Lagebasis zu erlauben.
Caspar: Und diese Entscheidung, die da getroffen wurde, die gilt tatsächlich als politische
Caspar: Niederlage für die EU-Kommission, weil die wollte zumindest die Freiwilligen noch beibehalten.
Caspar: Und es hat auch viele BeobachterInnen überrascht, dass das so kam,
Caspar: weil eigentlich ging man eigentlich davon aus, dass zumindest das Freiwillige
Caspar: dann weiterhin so durchkommt.
Caspar: Aber man muss jetzt auch sagen, das ist jetzt kein kompletter Sieg für KritikerInnen
Caspar: und Kritiker von der Chatkontrolle, weil das gesamte Parlament in Plemna noch
Caspar: darüber abstimmen wird.
Caspar: Falls sich da was tut oder dann in der Abstimmung nochmal was Besonderes passiert,
Caspar: hört ihr das auch von uns.
Elli: Also wir sind sie noch nicht ganz los, die Chatkontrolle. Sie wird hier nochmal,
Elli: also wir hatten das ja schon ein paar Mal, dass sie hier nochmal so von den
Elli: Toten wieder auferstanden ist,
Elli: obwohl sie, also ja, es ist ein wiederkehrender Gast, sagen wir es so.
Caspar: Ja, vielleicht ist das jetzt der letzte Sargnagel, aber schauen wir mal,
Caspar: ich wage keine Prognose.
Elli: Ich glaube da ja noch nicht so ganz dran. Naja, wir sind damit auch durch mit
Elli: den Updates, also Roboter und die Chatkontrolle.
Elli: Und jetzt geht es im What the Fuck um Brillen, um Smartglasses.
Elli: Caspar, sind das die Smartglasses, die du auch schon mal aufhattest und getestet hast?
Caspar: Ja, ja, da erzähle ich gleich zu was. Das sind genau die tatsächlich.
Elli: Ah ja, dann kann ich da auch sagen, wie die Außenstehende wirken.
Caspar: Ich glaube, du hattest sie auch auf, oder nicht? Aber das können wir gleich drüber reden.
Elli: Jetzt haben wir uns so kryptisch ausgedrückt. Um welche Brillen geht es denn, Caspar?
Caspar: Es geht um die Smart Glasses von Meta. Das sind Brillen, die eigentlich fast
Caspar: aussehen wie ganz normale Brillengestelle.
Caspar: Die Bügel sind ein kleines bisschen dicker.
Caspar: In dieser Brille steckt dann unter anderem eine Kamera, ein Lautsprecher oder
Caspar: zwei, glaube ich, Mikrofone und es gibt zwei verschiedene Versionen davon.
Caspar: Es gibt eine, die genau das hat und dann gibt es noch welche,
Caspar: die im Display noch so Art, nicht im Display, im Glas noch eine Art Display verbaut haben, so rum.
Caspar: Und so ein KI-Assistent ist natürlich auch bei all diesen Brillen mit an Bord,
Caspar: den man dann per Stimme steuern kann und der ähnlich wie bei JetGPT und Co.
Caspar: Oder bei Gemini dann entsprechend Antworten ausliefert und das ist Meta-AI.
Elli: Diese Brillen sind jetzt nicht ganz neu.
Elli: 2025 hat Meter rund sieben Millionen davon verkauft, also schon einige.
Elli: Und wie gesagt, Caspar, du hast die Dinge auch mal getestet.
Elli: Ich fand die sehr unauffällig tatsächlich.
Elli: Also du hattest so eine Variante, die ausgesehen hat wie so eine Sonnenbrille. Und die
Elli: Man könnte fast vergessen als tragende Person, würde ich mal sagen,
Elli: dass man da eine smarte Brille auf der Nase hat.
Caspar: Ja, nicht nur als tragende Person, auch die Person, die einem gegenübersteht
Caspar: quasi oder denen mal begegnet.
Caspar: Das hat die Brillen auch so ein bisschen unbeliebt gemacht, weil viele Menschen
Caspar: das Gefühl haben, heimlich gefilmt werden zu können.
Caspar: Jetzt muss man dazu sagen, Meta hat versucht, da Maßnahmen gegenzutreffen.
Caspar: Es gibt nämlich auch eine kleine LED verbaut und sobald die Kamera angeht oder
Caspar: ein Foto gemacht wird, blinkt diese LED.
Caspar: Die ist jetzt allerdings nicht sonderlich hell, das muss man auch dazu sagen.
Caspar: Und auch das Geräusch, das die Kamera macht, wenn man ein Foto macht,
Caspar: da ist so ein Auslösegeräusch, das ist jetzt auch nicht unendlich laut.
Caspar: Gut, aber in unserem WTF soll es gar nicht um, ja doch, es soll um Filmen gehen,
Caspar: aber es soll nicht darum gehen, um das Unbehagen, was Menschen vielleicht mit
Caspar: dieser Brille haben, sondern das WTF geht so ein bisschen in eine andere Richtung.
Elli: Es ist tatsächlich, da kommen wir noch gleich dazu, eine Struktur,
Elli: die in der Tech-Welt nicht ganz unbekannt ist.
Elli: Wir gucken aber erstmal rein in die Nutzungsbedingungen der Smart Classes.
Elli: Denn da stehen so ein paar Passagen drin, wenn es um Meta-AI geht,
Elli: die datenschutztechnisch schwierig sind.
Elli: Also, in diesen Nutzungsbedingungen steht, dass Interaktionen mit der KI automatisiert
Elli: oder manuell überprüft werden können und dass Inhalte aus Gesprächen oder Nachrichten
Elli: analysiert werden dürfen.
Elli: Außerdem sagt Meta in diesen Nutzungsbedingungen, teilt mal bitte,
Elli: wenn ihr diese Glasses benutzt, keine sensiblen Informationen, weil...
Elli: Das könnte gespeichert oder verwendet werden. Also wenn ihr es teilt,
Elli: dann müsst ihr damit leben, dass wir das vielleicht dann, also was auch immer
Elli: ihr da an Daten teilt, dass wir das dann halt bei uns liegen haben.
Caspar: Heißt im Umkehrschluss, wer diese Brille auf hat, nimmt eben im Kauf,
Caspar: dass Meta sich bei Bedarf alles ansieht, was man selber so fotografiert oder
Caspar: gefilmt hat, wo es man mit Meta-AI besprochen hat.
Caspar: Also im Grunde ist das, ja, du hast es schon ein bisschen anklingen lassen,
Caspar: datenschutztechnisch, ich würde schon sagen, bedenklich bis hin zu einem ziemlichen
Caspar: Hammer, was da alles abgefragt wird.
Caspar: Man willigt das halt ein, sobald man diese Brille und Meta-AI nutzt.
Elli: Aber auch das ist noch nicht unser eigentliches What the Fuck.
Caspar: Nein, denn eine Recherche der
Caspar: schwedischen Zeitung Svenska Dagbladet und Göteborgs Posten hat gezeigt,
Caspar: DatenarbeiterInnen in Kenia, die werten diese Inhalte von MetaSmartLasses aus
Caspar: und das ist diese Struktur, die du gerade schon meintest, Elli, es ist durchaus üblich,
Caspar: das sind sogenannte ClickworkerInnen, dass Leute, Menschen bezahlt werden dafür,
Caspar: meistens eher in Niedriglohnländern, die dann zum Beispiel KI-Ergebnisse nochmal
Caspar: überprüfen oder Bilder analysieren und der KI quasi so ein bisschen zuarbeiten,
Caspar: damit die besser wird und lernt.
Elli: Und was diese ClickworkerInnen zu sehen bekommen, ist nicht ohne.
Elli: Denn diese Recherchen zeigen jetzt eben, dass die Aufnahmen,
Elli: die da gesichtet werden, häufig intime oder sensible Situationen enthalten.
Elli: Also Nacktheit zum Beispiel, Toilettengänge, aber auch sowas wie Bankkartendetails.
Elli: Also auf der einen Seite ist natürlich die Frage so sensible Informationen,
Elli: Bankkartendetails, aber auch was, wo man sich denkt, das ist doch scheiße,
Elli: dass das Leute sich angucken müssen in dem Moment.
Caspar: Ja, für beide Seiten. Also sowohl für die, die sich das angucken müssen,
Caspar: als auch die, die eigentlich nicht davon ausgehen, dass diese Inhalte das Gerät
Caspar: verlassen, aber sie tun es halt.
Elli: Und wie so oft in diesem Click-Working-System sind die Arbeitsbedingungen auch nicht besonders.
Elli: Die Mitarbeitenden arbeiten Schichten von etwa zehn Stunden und müssen Videos
Elli: und Bilder mit Schlagworten versehen, damit die KI eben daraus lernen kann.
Caspar: Und den NutzerInnen ist das halt oft nicht bewusst. Wie gesagt,
Caspar: das steht zwar in den AGBs und Datenschutzbestimmungen,
Caspar: wenn man genau da reinguckt, aber es ist halt, eigentlich ist den Leuten nicht klar,
Caspar: wenn du jetzt mal rumläufst und jeden fragst, der so eine Brille hat,
Caspar: weißt du, dass Menschen sich diese Aufnahmen angucken könnten und weißt du,
Caspar: dass das, wenn es ausgewertet wird, nicht automatisiert unbedingt immer passiert,
Caspar: sondern eben, wie gesagt, auch Menschen gibt, die sich das anschauen.
Elli: Deswegen auch die Kritik von DatenschützerInnen. Das Ganze ist aus deren Sicht
Elli: zu wenig transparent in der Hinsicht darauf, wie die Daten wirklich verarbeitet werden.
Elli: Aber Meta hat natürlich jetzt auf so Anfragen von JournalistInnen einen ganz
Elli: guten Antwortweg, also zumindest für Meta gut.
Caspar: Und zwar hat Meta nämlich gesagt, ja, das wissen wir, aber es steht ja auch
Caspar: in den Nutzungsbedingungen und Datenschutzrichtlinien, die sind sich quasi keiner
Caspar: Schuld bewusst, so nach dem Motto, wir haben es ja aufgeschrieben,
Caspar: worüber beschwert ihr euch denn eigentlich?
Elli: Yes, ach, der gute alte AGB-Verweis. Ich habe an der Stelle noch eine Filmempfehlung mitgebracht.
Elli: Die ist zwar schon älter, aber nicht weniger relevant.
Elli: Da geht es um dieses Clickworking-System auf der einen Seite,
Elli: auf der anderen Seite aber auch um das Konzept, dass das, was wir im Internet kennen,
Elli: kuratiert sehen auf Social Media. Auch da sehen wir schon viel Schrott und schlimme Dinge teilweise.
Elli: Aber da wird auch schon aussortiert. Und das passiert eben wieder oft in Niedriglohnländern
Elli: von Menschen, die das halt irgendwie als Job machen müssen.
Elli: Der Film heißt The Cleaners, ist von 2018. Da geht es doch mehr so um Facebook und sowas.
Elli: Und tatsächlich habe ich heute rausgefunden in der Recherche,
Elli: das ist denen bei der Bundeszentrale für politische Bildung,
Elli: gerade einfach so zu sehen gibt. Der war mal auf Netflix, meine ich.
Elli: Aber man kann sich den tatsächlich bei der Bundeszentrale für politische Bildung
Elli: auch mal so angucken. Das ist eine Stunde 20 oder so, glaube ich.
Elli: Wir verlinken euch den in den Shownotes. Das ist sehr, sehr spannend,
Elli: weil das einfach was ist, was man, glaube ich, überhaupt nicht auf dem Schirm
Elli: hat, wenn man Social Media benutzt oder irgendwelche Dienste,
Elli: wo dann doch mit KI, aber eben auch menschlich moderiert, wird, was wir sehen.
Caspar: Ich habe gerade was gelernt. Ich wusste nämlich, dass die Bundeszentrale für
Caspar: politische Bildung, oder Bundeszentrale, nicht Behörde, Entschuldigung,
Caspar: dass die Bundeszentrale für politische Bildung, dass die Bücher teilweise kostenlos
Caspar: rausgibt, Magazine auch.
Caspar: Die muss man bestellen. Ich glaube, Porto muss man manchmal bezahlen oder muss
Caspar: man bezahlen. Aber dass sie Filme verleiht, das wusste ich nicht.
Caspar: Insofern habe ich was gelernt, gucke ich mir an.
Elli: Ja, die haben eine Mediathek mit Videos drin tatsächlich. Und da ist der eben auch drin.
Caspar: Coole Sache.
Elli: Also hast du eine gute Überleitung. Mir fehlt nach diesem Gedanken,
Elli: der mir ehrlich gesagt Bauchschmerzen bereitet, fehlt mir so ein bisschen der
Elli: Elan für eine gute Überleitung.
Caspar: Ja, wir haben gerade über Meta-AI gesprochen.
Caspar: Das ist vielleicht die einzige Brücke, die wir schlagen können,
Caspar: dass wir uns jetzt mal angucken.
Caspar: Also wenn man mit dieser Brille eine der Funktionen, die Meta bewirbt,
Caspar: ganz stark, ist, dass man mit dieser Brille zum Beispiel instant auf Instagram
Caspar: Bilder posten kann oder auch Livestreams machen kann.
Caspar: Und da müsste unter Umständen dann, naja, eine KI-Kennzeichnung müsste nicht
Caspar: dran, aber wir gucken uns diesen Fall im Input jetzt mal an und schauen mal
Caspar: genau darauf, was man da eigentlich kennzeichnen müsste, warum vielleicht und warum das Thema KI,
Caspar: Flut und Welle inzwischen so groß geworden ist.
Elli: Ich muss an der Stelle sagen, als Caspar den Input gepincht hat,
Elli: wir sprechen immer montags darüber, was wir mittwochs so hier mit in die Sendung
Elli: nehmen wollen und da muss ich zugeben, habe ich gedacht,
Elli: schon wieder KI und Kennzeichnung und wir haben doch so oft schon darüber gesprochen
Elli: und wir hatten es doch neulich mit Musik und haben die Band The Velvet Sundown
Elli: uns angehört in der Folge Conny and The Velvet Sundown.
Elli: Das war noch der schönste Titel. Da ging es um KI-generierte Musik und auch
Elli: um die Frage, wie das auf so Musik-Streaming-Plattformen gehandhabt wird,
Elli: beziehungsweise, dass das ein großes Problem ist für die Plattform.
Elli: Und dann habe ich eben in der Vorbereitung für die Sendung heute mir gedacht,
Elli: schon wieder und gibt es denn was?
Elli: Wir haben tatsächlich, und das möchte ich jetzt, bevor wir hier mit unserer
Elli: Einleitung quasi starten, dazu sagen, es wird heute ganz spannend im Sinne von,
Elli: was gibt es für technische Möglichkeiten zur Kennzeichnung? Und das hatten wir hier noch nicht.
Elli: Und deswegen solltet ihr jetzt mit uns nochmal durch den KI-Dschungel gehen.
Caspar: Ja genau, es ist schon wieder KI, aber keine Sorge, du hast es eben schon erwähnt,
Caspar: wir gehen es diesmal ein bisschen anders an.
Caspar: Wir fangen mal an, dass wir uns die Musik-Streaming-Plattformen nochmal ein
Caspar: bisschen genauer angucken, zum Beispiel Spotify oder in dem Fall jetzt Apple Music.
Caspar: Die haben nämlich, und das haben wir schon bei der Velvet Sundown besprochen,
Caspar: vermutlich eine sehr hohe Dunkelziffer an KI-Songs.
Caspar: Ich weiß nicht, Eddie, wie das dir geht, aber eine Zeit lang habe ich auch diese
Caspar: Chill-Out-Playlists, wo man dann irgendwie zum Runterkommen und so, so ein bisschen gehört.
Caspar: Die Vermutung liegt nahe, dass das zum Beispiel alles schon seit längerer Zeit
Caspar: einfach KI-generierte Musik ist, die da vor sich hin plätschert und mit der
Caspar: Millionen Aufrufe erzielt werden.
Caspar: Also ich bin sicherlich auch nicht ganz frei davon, da auch schon mal sowas
Caspar: versehentlich gehört zu haben.
Elli: Ja, ich auch. Ich habe tatsächlich auch in meinen Favoriten,
Elli: glaube ich, zwei oder drei Songs, die mir leider gut gefallen,
Elli: die aber KI generiert sind.
Elli: Und da hat Spotify, als ich das noch als hauptsächlichen Musikdienst genutzt
Elli: habe, sofort Lunte gerochen und mir ganz, ganz viel davon in die Timeline gespürt.
Elli: Und ich war eben so, ich möchte das alles nicht, nein. Ein Hoch auf den Algorithmus.
Elli: Ja, das hat mich ganz sauer gemacht.
Caspar: Wir kommen auch gleich noch zu einer erschreckenden Zahl, was diese KI-Songs
Caspar: betrifft. Es gibt nämlich jetzt eine aktuelle Zahl, da seht ihr dann auch mal,
Caspar: wie groß das Problem ist.
Caspar: Wir bleiben aber erstmal noch bei einem anderen Thema, nämlich bei Apple Music.
Caspar: Da kommen wir gleich zu und wir haben diese Apple Music News genommen und uns
Caspar: überlegt, wir schauen mal auf das Thema Kennzeichnung nochmal mit ein bisschen
Caspar: anderen Blick drauf, nämlich ob es schon Lösungen gibt.
Caspar: Du hast es gerade auch schon angedeutet, technische Lösungen vielleicht auch,
Caspar: regulatorische Lösungen und kleiner Spoiler.
Caspar: Ganz final ist das alles noch nicht, aber da tut sich ein bisschen was.
Caspar: Deswegen ist es ganz sinnvoll, da jetzt auch schon mal drauf zu gucken.
Caspar: Aber wir fangen mal an mit der aktuellen Nachricht, die der Aufhänger ist und
Caspar: da geht es wie gesagt um Apple Music.
Elli: Apple hat vor ein paar Tagen seine Partner in der Musikindustrie,
Elli: also so Labels und Vertriebe eben darüber informiert, dass man demnächst eine
Elli: Kennzeichnung für KI-Inhalte einführen möchte.
Elli: Das Ganze nennt sich Transparency Tags und damit sollen NutzerInnen eben klar
Elli: angezeigt werden, wenn Inhalte nicht oder teilweise eben nur von Menschen erstellt worden sind.
Elli: Bisher, wenn ich zum Beispiel jetzt bei Spotify früher reingeguckt habe,
Elli: konnte ich nur so ein bisschen gucken, okay, wie ist denn die,
Elli: also KünstlerInnenbiografie zum Beispiel, wenn die so sehr generisch klang,
Elli: dann war mir schon relativ klar, hm.
Elli: Schwierig. Wenn dann auch noch so ein klassisches KI-Bild mit drin war,
Elli: dann wurde es immer eindeutiger.
Elli: Aber so richtig sicher konnte man sich immer nicht sein.
Elli: Und da möchte Apple jetzt eben rein und möchte eine aktive Kennzeichnung einfügen.
Elli: Das könnte bei Apple in mehreren Bestandteilen von so einem Song quasi dann
Elli: relevant sein oder für mehrere Bestandteile.
Elli: Für die Komposition, für den Songtext, für den eigentlichen Track,
Elli: aber auch so für Musikvideos oder eben zum Beispiel auch die Cover-Bilder.
Caspar: Wenn eine dieser Sachen entsprechend mit KI bearbeitet wurde,
Caspar: dann gäbe es entsprechende Tags, sodass man dann als NutzerInnen auch genau
Caspar: weiß, was dann da passiert ist.
Caspar: Ein ganz wichtiger Punkt ist aber, Apple überprüft das nicht selbst,
Caspar: weder technisch noch händisch irgendwie. Die Labels und Vertriebe müssen selber
Caspar: angeben, ob KI verwendet wurde und in welcher Form.
Caspar: Apple nimmt diese Daten jetzt ab sofort auf freiwilliger Basis erstmal entgegen,
Caspar: will in Zukunft aber dann diese Angaben verpflichtend machen.
Elli: Da klingelt es doch bei mir, da denke ich doch an unsere Folge zum Buchmarkt und das große Problem,
Elli: dass man das zwar auf freiwilliger Basis einfordern kann und auch als Angabe
Elli: von den Produzierenden einfordern kann,
Elli: aber was, wenn man selber gar nicht überprüfen kann, ob das stimmt,
Elli: ob da falsche Angaben gemacht wurden, ob da mehr KI drinsteckt,
Elli: als jemand zugeben möchte.
Caspar: Warum macht Apple das überhaupt? Nun kommen wir zu der eben angekündigten großen Zahl.
Caspar: Das Problem dieser KI-Musik wird nämlich immer größer und ist inzwischen,
Caspar: ich würde schon sagen, riesig.
Caspar: Wir haben eine Zahl mitgebracht von Deezer, Deezer ist auch ein Musik-Streaming-Dienst
Caspar: und die haben im Januar verkündet,
Caspar: dass bei ihnen täglich bis zu 60.000 KI-generierte Tracks hochgeladen werden
Caspar: und das entspricht tatsächlich inzwischen fast rund oder fast 40 Prozent aller
Caspar: eingereichten Songs auf der Plattform von Deezer und das ist deutlich mehr,
Caspar: als ich am Anfang gedacht hätte.
Elli: Ja, also Apple selber hat keine Zahlen dazu veröffentlicht,
Elli: wie stark man bei Apple Music mit KI-Musik kämpft, aber wir vermuten jetzt mal,
Elli: dass es ähnlich ist wie bei anderen Plattformen und deswegen hat Apple eben gesagt,
Elli: man möchte einen ersten Schritt zu mehr Transparenz in der Musikindustrie gehen,
Elli: also dieses KI-Label-System einführen.
Elli: Man könnte es jetzt vielleicht auch so übersetzen von, alle Plattformen werden
Elli: von generischem Quatsch überschwemmt und Apple möchte sich eben gegen die Konkurrenz
Elli: hervorheben und sagen, wir machen das jetzt mal.
Caspar: Ja, und eigentlich auch so ein bisschen das eigene Angebot retten,
Caspar: weil wenn wir ehrlich sind, wenn jetzt schon 40 Prozent der eingerechten Songs
Caspar: KI-Songs sind und das immer weiter geht,
Caspar: dann ist das irgendwann alles nur noch KI-Pampe und dann ist halt auch die Frage,
Caspar: ob Leute dafür monatlich weiterhin Geld zahlen, weil das tun sie ja.
Caspar: Das ist ja das Geschäftsmodell von Apple Music, Spotify, Deezer.
Caspar: Gut, bei Spotify gibt es auch Free-Accounts, aber da gibt es dann wenigstens Werbung.
Caspar: Das ist ja das Geschäftsmodell. Und wenn deren Angebot jetzt nur noch zu 90
Caspar: Prozent aus KI-Müll besteht, ich persönlich würde mir dann überlegen,
Caspar: ob ich nicht wieder zu gutem CD zurückgehe. Oder die Schallplatte ist ja auch wieder sehr beliebt.
Elli: Ja, die ist in, ich habe auch, also mein Herz schlägt immer noch für Kassetten,
Elli: aber ich glaube, das kommt nicht mehr wieder.
Elli: Schade eigentlich. Ich dachte früher immer so richtig romantisch,
Elli: Irgendwann macht mir mal einer ein Kassetten-Mixtape.
Caspar: Oh, alle aufgepasst.
Elli: Ja, dafür war ich dann doch irgendwie zu spät geboren.
Caspar: Hast du nicht mal eine Mixed-CD bekommen damals?
Elli: Das schon, das schon. Aber das war für mich nicht das Gleiche.
Caspar: Nee, der Aufwand ist ein bisschen geringer. Ich habe nämlich noch Mixtapes gemacht mit Kassette.
Caspar: Da musst du dich ja wirklich hinsetzen, musst die Kassette dann mit Rack drücken,
Caspar: an der richtigen Stelle wieder Stopp, kleinen Moment weiterlaufen lassen.
Caspar: Das war deutlich aufwendiger, als einfach ein paar Tracks auf eine CD zu ziehen. Hast du recht.
Elli: Na, guck. Ja, wir haben aber natürlich nicht nur bei Musik das Problem,
Elli: dass wir jetzt da sitzen und uns überlegen, gehen wir doch wieder zurück zur Schallplatte.
Elli: Auch wenn wir zum Beispiel auf Social Media unterwegs sind, wir erinnern uns
Elli: an unsere Folge mit dem Löwenbaby, die wir hier mal hatten.
Elli: Es gibt ganz viel Kram, wo man nicht weiß, ist es generiert,
Elli: ist es echt, Bilder, Videos produziert.
Elli: Das muss nicht immer schlecht sein. Manchmal darf man auch ein lustiges Video
Elli: mit Katzen sich angucken, wo ganz klar ist, das ist halt KI.
Elli: Aber ich persönlich, ich fände
Elli: es schon auch ganz nett, dann direkt zu sehen, das ist KI und das nicht.
Elli: Und nicht mir diesen Gedanken selber jedes Mal machen zu müssen und zu gucken,
Elli: wie ist denn hier der eine Lichtschatten
Elli: gefallen und passt dieses Stück Stoff zu dem anderen. So, ach.
Caspar: Kann es stimmen, dass da sechs Kaninchen auf einem Trampolin rumhüpfen?
Elli: Ja, noch nicht mal das. Also das ist ja so offensichtlich absurd,
Elli: aber es gibt ja immer mehr Kram und wir kommen da gleich dazu.
Caspar: Ich bin auf die Kaninchen reingefallen.
Elli: Nun, dann nehme ich das mit dem offensichtlich wieder zurück.
Caspar: Ja, genau. Also ihr seht, diese Flut an KI-Inhalten nimmt immer mehr zu, macht was mit einem.
Caspar: Und selbst wenn man dann lustige Videos irgendwie damit generiert,
Caspar: möchte man ja vielleicht trotzdem wissen, was es ist.
Caspar: Noch mal ein bisschen problematischer ist es, wenn wir dann in den Bereich der
Caspar: Deepfakes reingucken, also in den Bereich von Bildern und Videos,
Caspar: die eben vorgeben die Realität zu sein, wenn ich jetzt eine Comic-Katze habe,
Caspar: die generiert wird und ein lustiges Video dann gibt das ja nicht vor real zu
Caspar: sein oder es ist auch nicht so unendlich schlimm ob diese Kaninchen jetzt echt sind oder nicht,
Caspar: anders sieht das aus mit ein paar Beispielen, wir haben zwei Stück mitgebracht,
Caspar: ich habe eins mitgebracht und du hast eins mitgebracht, Eddie,
Caspar: aus der wirklich kürzesten Vergangenheit von vor wenigen Wochen bis quasi gestern, vorgestern,
Caspar: wo es eben zu Deepfakes kam, die dann eben nicht mehr ganz so lustig sind,
Caspar: weil sie eben vorgeben, Realität zu sein.
Caspar: Ich habe mitgebracht die, in Anführungszeichen, Verhaftung des venezuelanischen
Caspar: Staatspräsidenten Nicolas Maduro vor wenigen Wochen durch die US-Regierung.
Caspar: Ich weiß nicht, wie es bei euch in den Social-Media-Feeds war,
Caspar: aber bei mir war das Netz dann voll mit Bildern von Maduro und die waren die
Caspar: unterschiedlichsten Bilder.
Caspar: Man hat ihn mal weinend gesehen, wie er verhaftet wurde, in irgendwelchen Gefängniszellen
Caspar: sitzend, mit Handschellen.
Caspar: Man hat ihn aber auch teilweise fröhlich in der Menge winkend gesehen,
Caspar: so nach dem Motto, er ist gar nicht verhaftet, es ist gar nichts passiert.
Caspar: Ganz viele dieser Bilder waren aber KI-generiert. Einige offensichtlich,
Caspar: andere nicht so offensichtlich und zwar sogar so wenig offensichtlich,
Caspar: dass sogar Medienhäuser darauf reingefallen sind.
Caspar: Und auch das Weiße Haus hat teilweise KI-Bilder gepostet und ja,
Caspar: das ist dann schon wieder der Deepfake-Bereich, wo es dann weniger lustig wird.
Caspar: Eddie, du hast etwas aus Hollywood mitgebracht, ein Beispiel.
Elli: Ja, also zum Weißen Haus vielleicht noch da ist man mit der Benutzung von KI-Bildern
Elli: sowieso auch, ist man gut mit dabei.
Caspar: Ein bisschen Lachs.
Elli: Also es ist jetzt nicht ganz so ungewöhnlich tatsächlich aktuell, Stand jetzt.
Elli: Ich habe noch was aus der Yellow Press mitgebracht. Klatsch und Tratsch.
Elli: Schlagt eure Freizeit-Revue, bunte oder sonst irgendwas auf, imaginär.
Elli: Und zwar das Hollywood-Paar Tom Holland und Zendaya. Das sind zwei SchauspielerInnen.
Elli: Und die kennt man vielleicht aus dem Spider-Man.
Elli: Die haben zum Beispiel bei Spider-Man mitgespielt. Er war Spider-Man,
Elli: sie war dann eben sein Love Interest.
Elli: Und die sind tatsächlich auch im echten Leben ein Paar und halten ihre Beziehung
Elli: aber eigentlich ziemlich privat. Also davon gibt es...
Elli: Wenig Bildmaterial und schon gar nicht von den beiden selber.
Elli: Und jetzt gibt es aber ganz aktuell Hochzeitsbilder von den beiden,
Elli: die durchs Netz geistern.
Elli: Bei Instagram sind diese Bilder mit mehr als 11 Millionen Likes aktuell richtig,
Elli: richtig stark unterwegs.
Elli: Und in den Kommentarspalten finden wir ganz viele ernst gemeinte Glückwünsche
Elli: an das mutmaßlich scheinbar frisch verheiratete Paar.
Caspar: Ja, nur ich ahne, Elli, wenn wir das in diesem Kontext erzählen,
Caspar: da stimmt was nicht mit den Bildern, oder?
Elli: Richtig, diese Bilder sind KI generiert und tatsächlich, ich finde schon,
Elli: die sehen relativ echt aus.
Elli: Ich habe mir das, mein erster direkter Gedanke von das kann nicht echt sein,
Elli: kam auch einfach daher, dass ich diese beiden Schauspieler verfolge und deswegen
Elli: weiß, dass sie sowas an sich nicht posten würden.
Elli: Das passt einfach null irgendwie in deren Schema.
Elli: Und wenn man da mal genauer hinguckt, dann postet auch der Account zum Beispiel,
Elli: von dem diese Bilder ursprünglich ins Netz gestellt wurden, nur KI-generierte Promi-Bilder.
Elli: Also das ist ein Account, der da einfach seine Nische drin hat.
Elli: Aber was natürlich schwierig ist, unter anderem, ist, wenn diese Bilder weiter
Elli: verbreitet und immer weiter und weiter gepostet werden.
Elli: Irgendwo geht dann vielleicht auch mal die Info, dass das Ganze von so einem
Elli: KI-Account stammt, verloren.
Elli: Und ja, spätestens dann wird es richtig schwierig für außenstehende Leute,
Elli: die vielleicht auch nicht so drin sind, das zu erkennen oder eben zu sagen,
Elli: das ist echt oder nicht echt.
Caspar: Und mit Blick auf dieses Deepfake-Thema kann man dann ja überlegen,
Caspar: okay, irgendwie müsste hier ja jetzt mal was passieren.
Caspar: Solche Bilder und Videos müsste man ja eigentlich kennzeichnen,
Caspar: beziehungsweise es müsste doch eigentlich auch Gesetze dafür geben.
Caspar: Und kann man das nicht irgendwie technisch auch lösen oder regulieren?
Caspar: Wir können ja mal anfangen, ein bisschen drauf zu gucken, was denn so geht, was es schon gibt.
Caspar: Und wir können mal anfangen, wer denn schon bereits so kennzeichnet und welche
Caspar: Möglichkeiten es da gibt.
Caspar: Und wir bleiben mal im Social-Media-Bereich.
Caspar: Wir bleiben auch bei Instagram.
Caspar: Elli, du hast es eben erwähnt. Der Original-Account hat wohl,
Caspar: glaube ich, auch irgendwo klein angegeben, dass das KI-Bilder sind.
Caspar: Wie läuft das da so bei Instagram?
Elli: Ich bin aktuell tatsächlich, also so sehr ich die Plattform auch nicht mag,
Elli: ich bin noch aktiv und gucke immer wieder, was gibt es.
Elli: Und da ist mir schon länger aufgefallen, es gibt die Möglichkeit,
Elli: KI-Inhalte zu markieren als solche.
Elli: Man kann, wenn man ein Bild da hochlädt bei Instagram, gibt es so ein Kästchen,
Elli: wo man eben ankreuzen kann, dass das funktioniert.
Elli: Also da steht dann KI-Info, was auch immer das heißen mag.
Elli: Und wenn man das ankreuzt beim Hochladen von dem Bild, dann erscheint es auch,
Elli: wenn andere Leute dieses Bild sich angucken, ganz oben links in so einem kleinen Hinweis.
Elli: Der ist wirklich, wirklich klein, ist weiß.
Elli: Und außer KI-Info steht da auch nicht sehr viel mehr.
Elli: Also ich habe ehrlich schon ganz oft gedacht, als ich diese Funktion gesehen
Elli: habe, das ist sehr läppisch, wenn man es mal so flapsig formulieren darf.
Caspar: Und man muss ja auch dazu sagen, das funktioniert natürlich nur,
Caspar: wenn ich auch ehrlich sein möchte und KI-Inhalte entsprechend auch kennzeichnen möchte.
Caspar: Wenn ich jetzt diese Tom-Holland-Bilder, diese Hochzeitsfotos gar nicht kennzeichnen
Caspar: hätte wollen, dann hätte ich sie auch weglassen können.
Elli: Ja, oder wenn ich irgendwelche politischen Dinge darstellen möchte,
Elli: die so nie passiert sind, aber aus meinem ureigenen Interesse die anders darstellen
Elli: möchte, dann werde ich ja auch einen Teufel tun und das Häkchen bei KI-Info setzen.
Caspar: Jetzt könnte man überlegen, okay, dann macht auch Meta bestimmt irgendwas gegen
Caspar: Accounts, die das nicht setzen. Nee, echte Konsequenzen gibt es nicht.
Caspar: Manchmal sperrten Meta so KI-Fake-Accounts,
Caspar: die massenweise KI-Fakes irgendwie generieren und posten.
Caspar: Allerdings geht es dann oft gar nicht darum, dass das KI ist,
Caspar: sondern dass die zum Beispiel gegen Urheberrecht verstoßen, weil die zum Beispiel
Caspar: Disney-Charaktere erzeugen mit KI und die dann posten und Disney dann quasi
Caspar: in Beschwerde einlegt und dann werden diese Accounts gesperrt.
Caspar: KI ist da eher weniger das Problem.
Caspar: Ihr seht also, es gibt Möglichkeiten in sozialen Netzwerken.
Caspar: Bei TikTok ist das übrigens ganz ähnlich und auch bei einer anderen Plattform.
Caspar: Es gibt Möglichkeiten, das zu kennzeichnen, das ist aber sehr klein und es ist komplett freiwillig.
Caspar: Jetzt könnte man natürlich sagen, okay, da muss es doch rechtlich irgendwas geben.
Caspar: Da muss doch irgendwie eine Gesetzgebung da sein, die sagt, okay,
Caspar: wenn du KI irgendwo postest, dann musst du das doch kennzeichnen.
Caspar: Elli, wir haben den EU-AI-Act. Da geht es meistens bei KI irgendwie drum.
Elli: Toll, das ist doch mein Lieblings, also wenn man den auf eine Schriftrolle schreiben
Elli: würde, Leute, der wäre unfassbar lang, das sind 113 Artikel, Jesses Maria,
Elli: man hat sich Mühe gegeben in der Gesetzgebung auch wirklich alles mit reinzunehmen
Elli: und so zoomen wir mal etwas rein in unsere Schriftrolle zu Artikel Nummer 50.
Elli: Da geht es um die Kennzeichnung, beziehungsweise die sogenannte Transparenzpflichten für KI-Systeme.
Caspar: Richtig, das heißt, da kommt dann plötzlich Transparenz drin vor.
Caspar: Jetzt könnte man sagen, hurra, ja, da steht was drin zum Thema.
Caspar: Wir gucken es aber genauer an, weil, Überraschung, ganz so wie wir es uns das
Caspar: wünschen würden, ist es vielleicht gar nicht.
Caspar: Wir gucken mal auf Artikel 50.1.
Caspar: Da steht nämlich drin, wenn Menschen mit einem KI-System interagieren,
Caspar: müssen sie darüber informiert werden.
Caspar: Da geht es wirklich um das System. Also zum Beispiel, wenn ihr mit einem Chatbot
Caspar: schreibt, müsst ihr irgendwie informiert werden, dass das ein KI-Chatbot ist.
Caspar: Das kann auch ein virtueller Assistent sein oder ein KI-Service-Bot,
Caspar: so wie bei mir beim Hausarzt, der inzwischen, wenn ich da anrufe,
Caspar: ist da ein Telefon-Bot hinter, der den Termin mit mir ausmacht.
Caspar: Der sagt ganz am Anfang kurz, dass er eine KI ist, damit ich das auch weiß und
Caspar: das zum Beispiel regelt dieser Paragraf 50.1 aus dem EU-AI-Act.
Elli: In Paragraf 52, beziehungsweise in Artikel 52, ich möchte mich hier nicht irgendwie
Elli: auf rechtlich unsichere Boden begeben, da kommen dann auch Deepfakes zum ersten Mal drin vor.
Elli: Dort steht nämlich, KI-Systeme, die synthetische Inhalte erzeugen,
Elli: also Audio, Bild, Video oder Text, was eben nicht funktioniert.
Elli: Original echt ist, die müssen ihre Ausgaben so kennzeichnen,
Elli: dass sie als künstlich erzeugt oder manipuliert erkennbar sind.
Elli: Das heißt, wenn ich mir jetzt irgendwo ein lustiges Katzenbild generieren würde
Elli: oder auch ein entsprechendes Video, dann müsste das eigentlich schon irgendwo
Elli: eine Kennzeichnung enthalten, dass es ein KI-Produkt ist.
Elli: Und nicht, ich müsste bei Meta dann irgendwo einen winzig kleinen Haken setzen,
Elli: um das, wenn ich denn mal gewillt bin, meinen FollowerInnen und anderen Usern mitzuteilen.
Caspar: Der AI-Act selber verlangt also von uns Nutzerinnen und Nutzern gar keine Kennzeichnung
Caspar: und er verlangt in dem Sinne auch keine Kennzeichnung von KI-Inhalten zum Beispiel in Social Media,
Caspar: sondern er sagt, dass die Anbieter von KI-Systemen irgendwie sich technisch
Caspar: was ausdenken müssen, dass das schon quasi mitgeliefert wird, dass das KI ist.
Caspar: Jetzt muss man aber auch sagen, okay, wenn das im AI-Act steht,
Caspar: warum haben wir davon noch nicht so wirklich viel gehört und warum ist das zum
Caspar: Beispiel nicht so, dass wenn ich ein KI-Bild hochlade und da ja wohl technisch
Caspar: vielleicht irgendwas hinterlegt ist,
Caspar: zum Beispiel Instagram dann direkt anzeigt, dass das KI sei.
Caspar: Naja, das Entscheidende ist, dieser AI-Act tritt stufenweise in Kraft und dieser
Caspar: Artikel 50, der sich unter anderem auch mit der Kennzeichnung Deepfakes beschäftigt,
Caspar: der ist erst im August diesen Jahres dran.
Caspar: Ich glaube am 2. August tritt er in Kraft und bis dahin haben die Anbieter quasi noch Zeit.
Caspar: Das heißt, auf Gesetzgebungsweg gibt es nicht so wirklich was und wenn,
Caspar: regelt das auch wie gesagt nur die Anbieter.
Elli: Also da sind noch ein paar Promi-Hochzeiten drin bis August, würde ich sagen.
Elli: Ein paar gefälschte und auch andere Dinge.
Elli: Aber wir haben ja jetzt schon zumindest rausgehört, dass die Anbieter von KI-Systemen
Elli: tatsächlich irgendwie technische Lösungen einbauen müssen.
Elli: Und zwar ist da eben die Rede davon, dass Deepfakes als künstlich erzeugt oder
Elli: manipuliert erkannt werden müssen.
Elli: Können und in einem, Achtung, Maschinenlesbaren-Format gekennzeichnet sind.
Elli: Und das ist jetzt der Punkt, das finde ich spannend,
Elli: denn das heißt ja, dass wenn so ein KI-System ein Produkt ausspuckt,
Elli: also ein Video oder ein Foto und das wird irgendwo anders hingeschickt, dann kann der andere,
Elli: die andere Software, der andere Computer auch direkt sehen, aha,
Elli: KI. Und da frage ich mich, wie geht das?
Caspar: Da haben wir eine Lösung für dich, nämlich genau sogar drei eigentlich.
Caspar: Da ist tatsächlich auch der spannende neue Weg, der dann eventuell ab August
Caspar: vielleicht beziehungsweise kurz danach dann auch mal dazu führen könnte,
Caspar: dass sich diese ganze KI-Geschichte und Deepfake und so ein bisschen verbessert.
Caspar: Zumindest ist das die Hoffnung von vielen Expertinnen und Experten.
Caspar: Schauen wir mal auf die drei Wege, die technisch aktuell zum Beispiel denkbar
Caspar: wären. Der Weg 1 geht über die sogenannten Metadaten.
Caspar: Der zweite Weg über ein Wasserzeichen. Und der dritte Weg über kryptografische Signaturen.
Caspar: Wir gucken uns die drei nochmal an. Das Beispiel Metadaten, da wäre zum Beispiel
Caspar: der C2PA-Standard anzubringen.
Caspar: Den haben wir hier auch schon mal kurz behandelt. Das ist ein Metadatenstandard,
Caspar: da arbeiten verschiedenste Firmen zusammen, sogar richtig viele.
Caspar: Da sind auch sehr große Namen dabei, da sind Kamerahersteller dabei,
Caspar: da sind Firmen wie Adobe mit dabei, die dann ja Bildbearbeitungssoftware zum Beispiel anbieten.
Caspar: Da sind aber auch Medienhäuser wie zum Beispiel die BBC oder der WDR mit dabei
Caspar: und die alle zusammenarbeiten an diesem C2PA-Standard.
Elli: C2PA Gesundheit. Oder es könnte so eine C2PA, könnte auch so eine Entwicklung,
Elli: Entwicklerkonferenz sein oder so eine Gaming-Konferenz. C2PA.
Caspar: Ich komme jetzt zur C2PA in Barcelona.
Elli: Ja, aber was es eigentlich ist, das Ganze ist eigentlich ein digitaler Herkunftspass
Elli: für Medien, also Videos und Fotos.
Elli: Und da stehen dann drin zum Beispiel Infos zur Kamera, Infos zur Software,
Elli: die zum Bearbeiten benutzt wurde und auch zum Beispiel Infos zu den einzelnen
Elli: Bearbeitungsschritten.
Elli: Und am Ende kann man dann, wenn ein Foto veröffentlicht wurde,
Elli: als Nutzerin auf so einen Knopf drücken und sich all das einblenden lassen und mal gucken, aha,
Elli: mit welcher Kamera ist das denn gemacht worden, was wurde da am Ende noch reingefotoshoppt,
Elli: wurde überhaupt Photoshop benutzt oder was anderes und wo kam vielleicht auch
Elli: ein KI-Programm ins Spiel?
Caspar: Das Problem ist, das betrifft ja nur Bilder und Videos, die eben mit C2PL genutzt
Caspar: wurden und bei denen die Metadaten hinterlegt sind.
Caspar: Es ist also quasi nur ein Beweis für gewisse Bilder und Videos,
Caspar: die sind quasi echt, wenn die diesen Standard dann haben und man da draufklicken kann.
Caspar: Das wäre jetzt keine Hilfe, um zum Beispiel dieser KI-Flut irgendwie herzuwerden.
Caspar: Und das Problem ist auch, man könnte jetzt so ein Bild nehmen und die Metadaten
Caspar: natürlich auch löschen oder ein Screenshot davon machen, dann wäre das alles,
Caspar: was hinterlegt ist, auch gleich wieder weg.
Caspar: Und es gibt noch einen weiteren Punkt, der so ein bisschen C2PA kritisch dastehen lässt.
Caspar: Wir reden da seit Jahren drüber und die Firmen arbeiten da auch seit Jahren
Caspar: dran, diesen Standard fortzuentwickeln und einzuführen.
Caspar: Und ehrlicherweise passiert ist in dieser Zeit wenig bis gar nicht.
Caspar: Ja immer mehr, es gibt wenig Kamerahersteller, die das unterstützen und auch
Caspar: sonst im Internet begegnet einem, das ist so ein kleines I-Symbol,
Caspar: wo man dann draufklicken kann, mir begegnet das im Internet so gut wie gar nicht.
Elli: Gefühlt haben wir die Folge, wo wir über C2PA gesprochen haben,
Elli: aufgenommen, da hatte ich noch ganz, ganz lange Haare und ich habe seit 2023
Elli: kurze Haare, möchte ich sagen, an der Stelle.
Caspar: Ja, also es ist eine Weile her.
Elli: Na gut, wir haben ja noch zwei andere Sachen im Petto, oder?
Caspar: Ja.
Caspar: Ja, haben wir. Das eine ist ein digitales Wasserzeichen.
Caspar: Wasserzeichen kennt ihr bestimmt noch. In analoger Form war das,
Caspar: wenn man zum Beispiel so ein Blatt Papier mal hochgehalten hat und das gegen
Caspar: das Licht gehalten hat, dann schimmert da sowas durch. Das ist mit Wasserzeichen gemeint.
Caspar: Und sowas ähnliches gibt es auch in der digitalen Form.
Caspar: Google zum Beispiel hat sowas entwickelt für KI-Inhalte. Das nennt sich Thyns ID, also S-Y-N-T-H-ID.
Caspar: Thyns ID ist für einen deutschen Muttersprachler ein perfektes Wort, um TH zu üben.
Caspar: Und die Idee dahinter ist, dass Bilder oder Videos, die mit einer Google-KI,
Caspar: also zum Beispiel mit Gemini oder Nano Banana oder Vio 3 generiert wurden,
Caspar: dass die für das menschliche Auge ein unsichtbares Muster abbekommen oder reingebrannt bekommen.
Caspar: Das kann man jetzt nun, weil es digital ist, nicht gegen das Licht halten.
Caspar: Aber der Gedanke ist, wenn ich jetzt so ein Bild nehme, was zum Beispiel von
Caspar: Nano Banana erstellt wurde, das kann ich dann bei Gemini hochladen.
Caspar: Das guckt sich dieses Bild an und das würde dann dieses Muster erkennen und
Caspar: sagen, okay, dieses Bild wurde von der Google KI erstellt oder es wurde von
Caspar: der Google KI bearbeitet.
Caspar: Und die Idee ist an sich ja schon mal ganz gut.
Elli: Ja, ich musste jetzt aber doch wieder in die Parade fahren, denn das Ganze ist
Elli: aktuell nur im Google-Ökosystem möglich.
Elli: Das heißt, wenn ich ein KI-Bild habe und das da hochlade, muss ich es bei Gemini
Elli: hochladen und dann muss es aber
Elli: auch von Gemini oder Nano Banana oder so weiter generiert sein worden.
Elli: Wenn das von irgendeinem anderen Anbieter kommt, dann sind wir schon wieder raus aus dem Thema.
Elli: Und theoretisch gibt es auch die Möglichkeit, zum Beispiel durch Screenshots
Elli: oder eine starke Komprimierung, diese Muster durchzuführen.
Elli: Zu entfernen, beziehungsweise die Muster können verloren gehen,
Elli: je nachdem, wie man eben mit diesem Bild umgegangen ist zwischendurch.
Caspar: Ich habe das schon tatsächlich mal ausprobiert. Ich habe ein Bild von Google
Caspar: KI erstellen lassen, habe das dann gescreenshottet und das dann auch nochmal
Caspar: von Gemini überprüfen lassen.
Caspar: Da war das Wasserzeichen noch sichtbar. Allerdings war der Screenshot auch hochauflösend.
Caspar: Wenn man jetzt einen in der schlechten Qualität macht oder einen sehr kleinen,
Caspar: dann kann es natürlich schon wieder sein, dass das Muster dann nur noch so schlecht
Caspar: zu erkennen ist, dass Google dann nicht mehr sicher ist. Und deswegen ist das
Caspar: quasi auch nur so ein halber Weg, ehrlicherweise.
Elli: Wir haben noch eine Option, Caspar. Wie sieht es aus?
Caspar: Ja, die kryptografische Signatur habe ich noch für euch.
Caspar: Das ist eine Art digitaler Schlüssel, der wird vergeben für jedes einzelne Bild oder Video.
Caspar: Und man kann dann dieses Bild zur Prüfung quasi einreichen und kann dann relativ
Caspar: schnell feststellen, okay,
Caspar: wurde da was manipuliert, wurde zum Beispiel der Hintergrund ausgetauscht oder
Caspar: die Person, die in dem Bild zu sehen ist,
Caspar: vereinfacht ausgedrückt, um es auch nochmal, weil ihr könnt jetzt natürlich,
Caspar: man könnte sich jetzt fragen, okay, wir haben C2PA mit Metadaten,
Caspar: da steht ja auch was drin, was ist jetzt dieser Unterschied zu dieser Signatur?
Caspar: Ich habe mal ein Bild mitgebracht, was das vielleicht so ein bisschen deutlicher macht.
Caspar: Metadaten sind wie ein Etikett auf einer Weinflasche. Das kann man einfach abziehen und dann ist es weg.
Caspar: Dann sieht niemand mehr, wo der Wein herkommt oder was da drin ist.
Caspar: Und eine kryptografische Signatur ist sowas wie ein Siegel aus Wachs über dem Flaschenhals.
Caspar: Das kann man aufbrechen, aber man sieht sofort, dass da jemand dran war und
Caspar: die Flasche schon mal geöffnet war.
Caspar: So ist es eben bei dieser kryptographischen Signatur auch,
Caspar: aber auch hier, das muss man natürlich signieren und das muss auch hinterlegt
Caspar: werden, dass die Dienste das irgendwie anzeigen können und man muss das irgendwie
Caspar: nachhalten können, also auch da müsste man sich eigentlich auf einen Standard einigen.
Caspar: Und wer ist das, der das tun müsste?
Caspar: Das wäre wie bei C2PA natürlich die ganzen Kamerahersteller,
Caspar: es wären die Bildbearbeitungsprogramme, es wären die Medienhäuser, es wäre Social Media.
Caspar: Das ist im Grunde alles, was im Internet irgendwas mit Bildern zu tun hat.
Caspar: Und da sind natürlich technisch noch ein paar Herausforderungen, die da auf einen warten.
Caspar: So, lass uns mal versuchen, einen Deckel drauf zu machen.
Caspar: Was machen wir jetzt damit? Was fangen wir jetzt damit an?
Caspar: Wir haben ja immer noch das Grundproblem, dass es massenhafte KI-Inhalte gibt
Caspar: und dass immer mehr werden und immer mehr zunimmt, nicht nur bei Musikplattformen,
Caspar: sondern auch in Social Media und quasi überall, wo man irgendwie auf Inhalte stößt.
Caspar: Wenn wir jetzt nochmal zurückgucken, was wir irgendwie besprochen haben,
Caspar: also die Kennzeichnung durch Plattformen, dann AI Act von der EU,
Caspar: technische Lösungen wie Wasserzeichen oder so digitale Signaturen,
Caspar: dann merkt man schnell, es gibt ehrlicherweise, und das ist das Traurige an
Caspar: diesem Fazit, noch keine perfekte Lösung.
Caspar: Auch wenn man sich diese Apple Music KI Song Kennzeichnung anhört,
Caspar: wir haben die Schwächen ja schon besprochen, dass das freiwillig ist oder wenn
Caspar: wir dieses Instagram KI Info Label haben,
Caspar: das bleibt immer so, dass die Menschen, die die Sachen posten oder irgendwo hochladen,
Caspar: die müssen ehrlich sein, die müssen dem System gegenüber ehrlich sein,
Caspar: anderen Nutzerinnen und Nutzern und wenn du das nicht anhagst,
Caspar: dann ist es halt eben weg und einfach nur gut zureden.
Caspar: Das wissen wir leider, funktioniert im Internet nicht so richtig gut.
Elli: Meine Hoffnung ist ja tatsächlich, dass es irgendwann kippt, dass Authentizität
Elli: als Ware oder als Auszeichnungsmerkmal sich irgendwann wieder durchsetzt.
Elli: Aber na ja, bis dahin gucken wir auf die technische Lösung noch mal kurz und
Elli: machen da einen Deckel drauf.
Elli: Es gibt welche, die sinnvoll wären, die helfen könnten. Aber das Ganze funktioniert
Elli: eben nur, wenn viele Anbieter auf die gleichen Standards setzen.
Elli: Und auch dann gibt es immer noch Möglichkeiten, viele dieser Kennzeichnungen zu umgehen.
Elli: Wir stehen gerade erst am Anfang. Gesetzlich gucken wir mal Richtung August,
Elli: was dann so ist, wie es da weitergeht, auch wie sich das in Deutschland überlegt wird.
Elli: Wir haben EU-Gesetzgebung, klar, aber die muss natürlich auch in Deutschland
Elli: umgesetzt werden. Und wie es damit weitergeht, ja.
Elli: Und dementsprechend, das Fazit macht mich ein bisschen, ich weiß nicht,
Elli: ich finde es nicht so gut.
Elli: Also bisher konnte man lange im Internet davon ausgehen, dass Dinge echt waren,
Elli: Fotos, Videos und gerade auch Musik zum Beispiel galten erstmal als reale Produkte, Dokumente,
Elli: Produktionen und jetzt sind wir gerade da, wo sich alles irgendwie dreht und
Elli: vielleicht muss man irgendwie einfach auch mal von Anfang an davon ausgehen,
Elli: dass alles erstmal fake ist.
Caspar: Das ist traurig, aber es ist vielleicht erstmal die Lösung, bis wie gesagt regulatorisch
Caspar: oder technisch es Lösungen dafür gibt.
Caspar: Erstmal müssen wir leider, und das ist die aktuelle Realität,
Caspar: im Internet skeptisch sein, wenn wir was sehen und erstmal davon ausgehen,
Caspar: dass alles, was wir da sehen, gefakt sein kann,
Caspar: bis quasi entweder das Gegenteil bewiesen ist oder dass zum Beispiel von Stellen gepostet wurde,
Caspar: die genau diesen Schritt gegangen sind, das zum Beispiel zu verifizieren.
Caspar: Wir reden hier von zum Beispiel großen vertrauensvollen Medienhäusern,
Caspar: wir reden hier von offiziellen Stellen, wobei das muss man teilweise ja auch
Caspar: einschränken, wir haben über das Weiße Haus gesprochen, da kann man zum Beispiel
Caspar: auch nicht mehr darauf vertrauen, dass die keine KI-Inhalte teilen,
Caspar: also es ist alles ein bisschen schwierig leider.
Elli: Mit Geschmäckle, naja.
Caspar: Aber wir behalten es im Blick und wenn sich da was tut und es wird sich was
Caspar: tun, dann werden wir es natürlich hier nochmal genauer behandeln und ich glaube,
Caspar: vor allem der August oder die Zeit bis dahin könnte spannend werden,
Caspar: du hast es schon erwähnt mit der EU,
Caspar: vor allem diese technische Kennzeichnung, da wird sich einiges tun und die Hoffnung
Caspar: ist, dass man dann das zumindest so ein bisschen eindämmen kann,
Caspar: aber wie gesagt, wir schauen drauf.
Elli: Aber ich nehme tatsächlich aus diesem Input so ein bisschen mit,
Elli: doch die Frage mal irgendwann umzustellen von auf, okay, wie erkenne ich,
Elli: ob es vielleicht KI sein könnte,
Elli: hin zu, welche Dinge sagen mir gerade, dass das echt ist?
Elli: Also, aus welchen Quellen kommt das?
Elli: Wo kann ich das irgendwie nachvollziehen und so weiter? Vielleicht mal ein ganz spannender Ansatz.
Caspar: So, nachdem unser Fazit hier von dem Input jetzt einigermaßen unbefriedigend
Caspar: war, ich hätte Lust auf eine gute Nachricht. Wie sieht es bei dir aus?
Elli: Kriegst du, kannst du haben. Sehr schön.
Elli: Es geht um Politik und um Geld.
Elli: Und wir haben hier zum Beispiel beim Trump-Phone ja auch schon ab und zu mal
Elli: anklingen lassen, dass es gar nicht so gut ist, wenn Politik und Wirtschaft
Elli: sich allzu sehr die Hand geben.
Elli: Natürlich muss man sagen, weil wahrscheinlich keine PolitikerInnen trifft komplett
Elli: neutrale Entscheidungen.
Elli: Aber damit Entscheidungen möglichst im Sinne der Allgemeinheit gefällt werden,
Elli: gibt es sowas wie Transparenz im Bereich Lobbyarbeit und das ist auch sehr gut.
Elli: In Deutschland gibt es zum Beispiel die Plattform Abgeordnetenwatch,
Elli: die mit ihrer Arbeit versucht zu zeigen, welche Partei hat von welchen Firmen
Elli: dicke Spendengelder bekommen, welche PolitikerIn hat welche Nebeneinkünfte und
Elli: so gibt es möglicherweise Interessenkonflikte.
Caspar: Um diese Interessenkonflikte und Geldströme geht es auch in unserer guten Nachricht.
Caspar: Dafür schauen wir nach Brasilien. Ich glaube, da waren wir auch noch nicht so oft hier im Podcast.
Caspar: In Brasilien sind Korruption und Geldwäsche in der Politik leider ein sehr großes
Caspar: Thema, deutlich größer als das zum Beispiel in Europa der Fall ist.
Caspar: Es gibt einen sogenannten Korruptionswahrnehmungsindex. Das wusste ich bis zur
Caspar: Vorbereitung auf diesen Podcast auch noch nicht, dass es den gibt.
Caspar: Den gibt die deutsche NGO Transparency International heraus und die ermittelt den jährlich.
Caspar: Und 2025 lag der bei Brasilien, für Brasilien bei 35 von 100 Punkten und niedriger ist quasi schlechter.
Caspar: Zum Vergleich, in Deutschland lag dieser Korruptionswahrnehmungsindex bei 77
Caspar: von 100 Punkten und in Frankreich bei 66.
Elli: Es gibt in Brasilien zwar Gesetze, ähnlich wie in Deutschland,
Elli: die dafür sorgen sollen, dass BürgerInnen einen Einblick in die Geldgeschäfte
Elli: von Menschen bekommen, die Politik machen.
Elli: Aber die Datenmasse, die da so öffentlich einsehbar ist, ist ziemlich unübersichtlich.
Elli: Es gibt zig verschiedene Plattformen, Quellen und so weiter,
Elli: wo einzelne Details drauf sind. und jetzt kommt eben Technologie ins Spiel.
Elli: Der 20-jährige Entwickler Bruno Cesar hat eine Open-Source-Lösung entwickelt,
Elli: die 45 einzelne Regierungsdatenbanken zusammenwirft und daraus eine visuelle Aufbereitung bastelt.
Elli: Das Tool heißt BR-ACC, wir kommen gleich noch zum Namen, und macht eben sichtbar,
Elli: welche Verbindungen es zwischen Parteien, Unternehmen und Auftragsvergaben gibt.
Caspar: Open Source heißt in dem Fall der Code für BR slash RCC, ich weiß nicht,
Caspar: BRAC oder BRAC vielleicht, der ist via GitHub einsehbar, also der Entwicklungsplattform.
Caspar: Das ist insofern gut, weil dann jeder und jede mit entsprechenden Ressourcen
Caspar: und Fähigkeiten und Programmier-Skills eben auf den Code zugreifen kann und
Caspar: zur Not das System zum einen auch selber aufsetzen kann,
Caspar: aber eben auch nachgucken kann, ob das zum Beispiel Fehler oder Angriffsflächen sind.
Caspar: Das ist eben der große Vorteil an so Open Source Projekten.
Elli: Und ich habe es ja gerade schon gesagt, wir kommen noch mal kurz zum Namen.
Elli: Die Abkürzung BRACC steht für Brazilian Acceleration.
Elli: Ja, jetzt wisst ihr mehr. Nein, das ist eine Bewegung, die sich an den US-amerikanischen
Elli: Effective Accelerationism,
Elli: Das ist eine Bewegung, die darauf abzielt, Technologien zu nutzen,
Elli: da zu nutzen, wo Behörden zu lange brauchen.
Elli: Das ist, muss man dazu sagen, keine unumstrittene Bewegung, keine unumstrittene Idee,
Elli: aber die brasilianische Plattform ist eben ein Beispiel, wo das Ganze gut laufen
Elli: kann, denn für diese Plattform werden Infos genutzt, die eh online einfach schon verfügbar sind.
Elli: Also es ist jetzt datenschutzmäßig irgendwie nicht schwierig oder so,
Elli: sondern es sind einfach Informationen, die vorhanden sind und die dann zusammengeworfen sind.
Elli: Es wäre keine gute Nachricht ohne ein Aber.
Caspar: Gibt es ein Aber, Elli?
Elli: Ja, also zum einen Open Source bedeutet auch, dass Menschen,
Elli: die vielleicht nicht so interessiert daran sind, dass Dinge transparent laufen,
Elli: diesen Code auch einsehen können und dann zum Beispiel herausfinden könnten,
Elli: wo eine Manipulation möglich wäre.
Elli: Und aktuell ist das Ganze, wir haben da den Code, der zur Verfügung steht,
Elli: man braucht dann so ein bisschen technische Skills.
Elli: Momentan läuft das noch so bei Bruno Cesar lokal auf seiner Hardware und eben
Elli: bei Leuten, die sich das selber aufsetzen können.
Elli: Aber wenn man eine technische Nulpe ist, so wie ich, dann wird es eher schwierig in dem Bereich.
Elli: Nämlich, jetzt muss man sagen, ja, noch nicht, denn eine Beta-Version,
Elli: die diese Visualisierungen auch für technisch nicht so versierte Menschen zugänglich
Elli: machen soll, ist wohl in Planung.
Caspar: Ja, alles in allem, aber finde ich das eine sehr gute Idee, weil wie du auch gesagt hast,
Caspar: Regierungsdatenbanken, die eh schon öffentlich sind und die niemand sonst durcharbeiten
Caspar: könnte mit einer technischen Lösung und dafür ist Technik ja eigentlich ideal
Caspar: geeignet, zusammenzuführen und darzustellen.
Caspar: Das ist gut und vor allem natürlich auch in Brasilien.
Caspar: Wir haben ja gerade gelernt, dass dort der, ich möchte es nochmal wiederholen,
Caspar: dieses wunderbare Wort Korruptionswahrnehmungsindex besonders hoch ist.
Elli: Ja, oder niedrig, je nachdem, wie man es nimmt.
Caspar: Es stimmt, in dem Fall niedrig, ja.
Elli: Ja, an der Stelle eine Empfehlung, falls ihr euch noch mal in die technischen
Elli: Details reinfuchsen mögt.
Elli: Und zwar gibt es einen Artikel von Business Punk, der Kollege Uli Weisgerber
Elli: hat das Ganze mal aufgeschrieben und geht da auch noch mal tiefer ins Detail,
Elli: wie die technischen Sachen funktionieren.
Elli: Also wenn euch das interessiert, lest da sehr gerne mal rein.
Elli: Ich muss zugeben, mir knurrt jetzt der Magen. Ich bin ganz ehrlich,
Elli: es ist 19.30 Uhr fast. Ich habe Lust auf Abendessen.
Elli: Ich weiß nicht, wann ihr den Podcast hört. Ich hoffe, ihr habt einen volleren Magen als ich gerade.
Elli: Aber dementsprechend würde ich mal sagen, wir machen für diese Woche,
Elli: machen wir Schluss, hör mal auf.
Caspar: Ja, finde ich gut. Ich muss das hier auch noch schneiden, den Bums hier.
Elli: Das stimmt. Genau.
Caspar: Machen wir Schluss für heute.
Elli: Dann sagen wir vielen Dank, dass ihr auch diese Woche wieder dabei wart.
Elli: Wenn ihr mögt und es noch nicht getan habt, empfehlt uns sehr gerne weiter.
Elli: Lasst uns eine Bewertung da
Elli: und schreibt uns auch immer gern an unsere Mailadresse post.siliconweekly.
Elli: Und ansonsten hören wir uns nächste Woche wieder. Gleiche Stelle,
Elli: gleiche Welle, wie man so schön sagt.
Caspar: Und wenn euch die Faststunde irgendwie zu kurz war und ihr nicht von unseren
Caspar: Stimmen genug kriegen könnt, hört wie gesagt bei So geht Podcast rein in die
Caspar: aktuelle Folge. Da sind wir zuhörern.
Elli: Grüße gehen auch raus an Gio.
Caspar: Genau.
Elli: In diesem Sinne. Macht es gut.
Caspar: Macht es gut. Tschüss.
Elli: Tschüss.