Caspar: Ein kräftiges Hallo und herzlich Willkommen hier bei Silicon Weekly.
Caspar: Heute wieder mal aus dem Süden Deutschlands mir zugeschaltet ist die...
Elli: Elli, hallo!
Caspar: Und nicht weit weg von hier, fast ein Steinwurf in Hannover sitzt.
Stella: Stella, guten Tag!
Caspar: Guten Tag und ich, Caspar, bin auch aus Hannover zugeschaltet.
Caspar: Schön, dass ihr uns eingeschaltet habt, wo auch immer ihr uns hört.
Caspar: Ob im Urlaub, weil die Sommerurlaubsferiensaison geht ja langsam los.
Caspar: Oder ob ihr vielleicht auf dem Weg zur Arbeit pendelt, dann kann man nur sagen, haltet durch.
Caspar: Die Bahn ist zumindest ein bisschen leerer als sonst. Bei mir ist es zumindest so.
Caspar: Das ist ja vielleicht auch ganz schön insofern. Aber trotzdem,
Caspar: danke, dass ihr bei uns eingeschaltet habt.
Stella: Vielleicht ist das ein guter Hinweis. Schreibt uns doch mal wieder,
Stella: wo ihr so unterwegs seid. Ihr könnt uns einfach bei Instagram schreiben.
Stella: At Silicon, ich meine unterstriche weekly, aber wir schreiben es auch nochmal in die Shownotes.
Stella: Und dann schreibt uns doch mal, ob ihr uns gerade, weiß ich nicht,
Stella: auf den sonnigen Kanaren hört oder jetzt muss mir irgendein kalter Ort einfallen.
Elli: Der Süden Deutschlands gerade.
Caspar: Oder ob ihr uns aus Bayern hört im Eisigen.
Elli: Ja, ich weiß, dass hier einige Leute aus Bayern zu hören.
Elli: Genau, aber ihr könnt uns übrigens auch per Mail schreiben, wenn ihr nicht bei
Elli: Instagram seid oder sein wollt oder wie auch immer, dann könnt ihr uns auch
Elli: per Mail. Unsere Faxnummer geht auch immer noch.
Caspar: Ja, die muss man sich nur aus einer alten Folge raussuchen, weil Ich habe die
Caspar: nicht parat. Ich wurde die neulich schon mal gefragt, ob ich die noch hätte.
Caspar: Die ist in der Folge, ich weiß nicht mal mehr in welche, aber da nennen wir
Caspar: sie und da steht sie auch in den Shownotes, also wenn es unbedingt ein Fax sein muss.
Stella: Wir schreiben vielleicht lieber die E-Mail in die Shownotes.
Stella: Was haben wir denn heute für euch? Es gibt wieder ganz klassisch Updates.
Caspar: Ein WTF. Diesmal wieder.
Stella: Natürlich die gute Nachricht und einen ganz besonderen Input,
Stella: auf den ich mich sehr freue.
Caspar: Ja, ihr könnt euch schon mal ein bisschen auf Conny vorbereiten und auf The
Caspar: Velvet Sundown, das klingt, Conny und The Velvet Sundown, das klingt wie eine
Caspar: Konzertveranstaltung.
Caspar: Es geht um Musik, es geht aber nicht um Konzert, aber da kommen wir gleich noch zu.
Caspar: Wir fangen erstmal mit den Updates an, unserem kleinen Blick zurück auf Themen,
Caspar: wo sich Neuigkeiten ergeben haben.
Elli: Update. Ich habe euch was mitgebracht und zwar zwei Updates,
Elli: aber ich muss kurz noch einwerfen. Conny and the Velvet Sundown.
Elli: Das klingt für mich wie so Conny, die einen neuen Cocktail entdeckt hat und
Elli: am nächsten Tag ganz furchtbar Kopfschmerzen hat.
Caspar: Oh ja.
Elli: The Velvet Sundown klingt für mich wie so ein Getränk.
Stella: Für mich klingt das wie eine Folge über einen Roadtrip. Auch schön.
Stella: Das hatte ich jetzt so im Kopf.
Caspar: Ja, es ist eine Projektionsfläche, aber die werden wir uns dann gleich beim
Caspar: Input genauer angucken.
Elli: Wenn The Velvet Thundown ein Cocktail wäre, dann hätte er wahrscheinlich eine
Elli: Wikipedia-Seite, würde ich mal sagen. Und das bringt uns zu unserem ersten Update.
Elli: Wir haben ja in den vergangenen Wochen immer wieder über Wikipedia gesprochen
Elli: und auch über eine Analyse der Frankfurter Allgemeinen Sonntagszeitung,
Elli: die ergeben hat, viele Wikipedia-Seiten sind veraltet und oder enthalten falsche Informationen.
Elli: Wikipedia hat sich diesen Artikel natürlich auch durchgelesen,
Elli: beziehungsweise die Community aus Freiwilligen, die ja an Wikipedia arbeitet.
Elli: Und man hat darauf reagiert und ist sich dabei irgendwie so ziemlich selbsttreu
Elli: geblieben, würde ich sagen.
Elli: Die Community hat sich nämlich drangemacht, diese Liste, die die FAS erstellt
Elli: hat mit den Fehlern und den Falschinformationen und veraltet und so weiter,
Elli: in Wikipedia zu übertragen.
Elli: Dann gab es dazu Spalten und dann wurde abgearbeitet.
Elli: Und da wurde akribisch geguckt, wo kommt der Fehler her, was ist wo durcheinander
Elli: geraten, gab es da einen Dreher drin, gab es da ein Missverständnis und man
Elli: sieht das, man kann das ganz gut nachvollziehen, es gibt Kommentator bzw.
Elli: Prüfer 1 und Prüfer 2, also es haben auch immer zwei Leute drüber geguckt und
Elli: da entbrennt teilweise eine rege Diskussion, wie denn da dieser Fehler passieren
Elli: konnte und zustande gekommen ist und so weiter und so fort und am Ende gibt es in dieser ganzen,
Elli: Tabelle natürlich auch ein Spältchen, wo dann drin steht, erledigt und wenn
Elli: man das alles durchdiskutiert und berichtigt hat, Dann konnte man da einen Haken setzen.
Elli: Fand ich sehr spannend, ist natürlich ganz in Wikipedia-Manier,
Elli: alles wird sehr transparent diskutiert und auch eben überarbeitet und tatsächlich
Elli: hat ein Kollege von Netzpolitik sich das mal genauer angeguckt,
Elli: der hat dazu beschrieben, am Sonntagabend, 6.
Elli: Juli, waren die meisten der gröberen Schnitzer bereits ausgebügelt.
Elli: Also, das ging relativ flott, dass sich da diese Tabelle vorgeknöpft wurde und
Elli: dann hat man gesagt, gut.
Elli: Lässt sich ja alles regeln. Und das fand ich irgendwie ganz witzig.
Caspar: Ja, ist tatsächlich sehr gut. Typisch Wikipedia schnell reagiert.
Caspar: Die gröbsten Schnitzer ausgebügelt. Das ist fast eine Überleitung zum zweiten Update.
Caspar: Wir hatten hier ja auch mal über die App zum Melden von Funklöchern berichtet
Caspar: und die Aktionswoche, die es im Mai gegeben hat, nicht geben sollte,
Caspar: sondern tatsächlich gegeben hat.
Caspar: Auch ich habe daran teilgenommen und zwischen Hannover und Bremen versucht,
Caspar: zwei Funklöcher zu melden. Ich hoffe, sie sind angekommen.
Caspar: Ich war nicht alleine bei der Aktion, denn inzwischen gibt es jetzt eine Auswertung
Caspar: von dieser Mobilfunk-Messwoche und
Caspar: mehr als 150.000 Menschen haben laut Bundesnetzagentur daran teilgenommen.
Caspar: Wichtig, den kompletten Überblick über Deutschland haben diese Messpunkte natürlich nicht ergeben.
Caspar: 150.000 Menschen reichen dafür nicht aus, aber es ist zumindest mal ein Ansatz.
Caspar: Immerhin 16 Prozent der Bundesfläche konnten durch die so 150.000 Menschen erfasst
Caspar: werden und eine Auswertung gibt es natürlich auch von den Daten und besonders
Caspar: schlecht ist das Status Quo der Netzabdeckung
Caspar: laut Auswertung wohl in Baden-Württemberg und Rheinland-Pfalz.
Caspar: Es gibt aber auch im Harz, wo Elli ja auch vor kurzem Wandern war,
Caspar: ein paar Teilbereiche, wo wenig Empfang ist.
Caspar: Ich weiß nicht, ob sich das mit deiner Beobachtung deckt.
Caspar: Es gibt noch Wittenberg, Stendal und in diesen Bereichen soll es auch größere Lücken geben.
Stella: Gibt es denn da auch eine Konklusio draus? Also jetzt hat man das Ganze erhoben und nun?
Elli: Ja, tatsächlich ist jetzt die Idee, dass man das Ganze ausweiten möchte,
Elli: um da noch ein besseres Bild davon zu bekommen.
Elli: Also diese Aktionswoche wird es vielleicht auch noch das ein oder andere Mal
Elli: in Wiederholung geben, vielleicht noch breiter gestreut, vielleicht noch mehr
Elli: Öffentlichkeitsarbeit, keine Ahnung, weil ich bin ehrlich, wenn ich nicht den
Elli: Podcast hier machen würde, ich hätte es nicht mitbekommen.
Elli: Von daher könnte man da,
Elli: Vielleicht mal Anregung an die zuständigen Ministerien und so weiter.
Elli: Genau, aber die Idee ist, dass das nochmal wiederholt wird und man sich da immer
Elli: mehr quasi durch die Funklöcher der Bundesrepublik durchfräsen möchte.
Caspar: Ja, und dann sagen wir euch natürlich Bescheid, dann könnt ihr auch nochmal
Caspar: teilnehmen und dann sind es
Caspar: ja vielleicht mehr als 150.000 und mehr als 16 Prozent der Bundesrepublik.
Caspar: Weil ich glaube, da sind doch ein paar Funklöcher vielleicht noch nicht entdeckt
Caspar: worden, aber das sehen wir.
Elli: Ich habe auch so den Eindruck.
Caspar: Gut, dann würde ich sagen, soweit ist es mit den Updates durch.
Caspar: Wir haben letzte Woche kein WTF gehabt, dafür haben wir diese Woche ein umso Größeres mitgebracht.
Stella: Caspar, danke für diese Überleitung.
Stella: Also dieses WTF, das trifft wirklich an mehreren Stellen zu.
Stella: Ihr werdet es jetzt auch gleich hören, woran das liegt. Also,
Stella: es geht um X. Ihr kennt vielleicht die Plattform noch unter Twitter.
Stella: Allerdings gehört sie jetzt schon länger zu Elon Musk und seit März 2025 zu
Stella: Musk's KI-Unternehmen XAI.
Stella: Und um XAI, beziehungsweise genauer um den KI-Chatbot GROC, der dazu gehört,
Stella: geht es jetzt auch primär in diesem WTF.
Stella: Der wird wiederum automatisch auf X eingesetzt und das Ganze funktioniert eben
Stella: so, dass beispielsweise Nutzer in Grog taggen können, wenn sie einen Tweet oder
Stella: Seed oder ich weiß noch, wir haben mal darüber diskutiert, wie man das Ganze denn nun nennt.
Stella: Also ein Posting auf der Plattform absetzen und dann kann Grog eben sich automatisch
Stella: quasi in diesen Thread mit einmischen und da entsprechend kommentieren.
Stella: Und in der vergangenen Woche, am 8.
Stella: Juli, da ist er mit antisemitischen und rechtsextremen Äußerungen auf der Plattform aufgefallen.
Elli: Wer uns schon länger hört, weiß, das ist nicht das erste Mal.
Elli: Wir hatten das Thema schon mal hier im WTF, meine ich auch.
Elli: Ja, es ist, ups, he did it again, würde ich mal sagen.
Elli: Aber mal zurück zu dem, was jetzt passiert ist. Was genau war da los?
Stella: Was genau? Ich werde jetzt bewusst nicht zitieren, was auf dieser Plattform
Stella: erschienen ist, weil wir einfach diesen antisemitischen, rassistischen Äußerungen
Stella: jetzt nicht noch zusätzlich Reichweite geben wollen.
Stella: An der Stelle eine kleine Podcast-Empfehlung und zwar die Kollegen von,
Stella: wie das klingt, die KollegInnen von The Journal, vom Wall Street Journal,
Stella: die haben dazu eine Podcast-Folge gemacht und den Link findet ihr in den Shownotes.
Stella: Aber unter anderem, grob zusammengefasst, hat Grog Adolf Hitler verherrlicht,
Stella: was selbst, der hat sich dann auch via X erstmal rechtfertigt und zwischenzeitlich
Stella: wurde auch Grog abgeschaltet und die Posts wurden auch gelöscht.
Stella: Was man dazu sagen muss, Grog hat eben auf Postings von NutzerInnen reagiert,
Stella: die laut Wall Street Journal das Ganze auch herausgefordert haben.
Stella: Übrigens, auch wenn Grog quasi abgeschaltet wurde, im privaten Chat konnten
Stella: NutzerInnen die ganze Zeit auf diesen Chatbot eben zugreifen.
Elli: Ich erinnere mich an den Vorfall im Mai, da gab es dann mehr oder weniger glaubwürdige Statements von XAI.
Elli: Haben wir denn diesmal auch was von der Firma hinter dem Chatbot zu hören bekommen?
Caspar: Ja, haben wir. Genauer gesagt, am Samstag vergangene Woche war es dann tatsächlich soweit, am 12.
Caspar: Juli. Da gab es dann ein offizielles Statement von XAI und da hat sich das Unternehmen
Caspar: dann auch auf dem eigenen X-Profil für Grog entschuldigt und auch ist ein bisschen
Caspar: auf die angeblichen Gründe eingegangen.
Caspar: Es sei unter anderem daran gelegen, dass es eine teils falsche Programmierung
Caspar: der KI gegeben hätte, so wie Softwareanpassung.
Caspar: Das klingt ein bisschen so wie das, was wir im Mai schon gehört haben.
Caspar: Und der Spiegel unter anderem zitiert, die Grog-Macherinnen und Macher,
Caspar: dass die Programmierung so eingestellt sei, dass Grog keine Angst davor habe,
Caspar: politisch korrekte Leute zu schockieren.
Caspar: Also so nach dem Motto, liebe KI, du darfst auch gerne mal anecken,
Caspar: so ein bisschen nach dem Motto.
Caspar: Und außerdem habe ein Update an Grog zu einer Code-Änderung geführt,
Caspar: wodurch der Chatbot anfälliger auf extremistische Beiträge reagiert hätte.
Elli: Komisch, komisch.
Stella: Ja, es geht aber noch weiter in diesem WTF rund um Grog.
Stella: Das US-amerikanische Medium TechCrunch hat nämlich berichtet,
Stella: dass in dieser Programmierung in der jüngsten Version, die auch kurioserweise
Stella: genau in dem Zeitraum dann auch erschienen ist, das Ganze noch weitergeht.
Stella: Weil in dieser jüngst vorgestellten Version 4 von Grog gibt es tatsächlich Hinweise
Stella: laut TechCrunch, dass Grog sich sehr an den, sagen wir mal, Werten und Ansichten
Stella: von Musk orientiert, wie TechCrunch das ermittelt haben möchte.
Stella: Sie haben eben geschaut, wie der KI-Chatbot auf seine Antworten kommt.
Stella: Jetzt mal kurzer Tech-Drive, wie kann man sowas nachschauen?
Stella: Das geht mit dem ganzen Chain-of-Thoughts-Prinzip.
Stella: Und da werden quasi die einzelnen Schritte einer KI bis zu ihrem Ergebnis nachvollzogen.
Stella: Also, da sieht man quasi, stellt euch das mal vor, wie kennt ihr noch von früher,
Stella: von dem Matheunterricht, diese Bäume, wo es immer weiter ging?
Stella: Mit Punkt 1, dann hat er sich aufgeteilt in zwei Richtungen.
Stella: So könnt ihr euch das ganz grob vorstellen.
Stella: Das ist zumindest immer ein guter Hinweis, wie dieses System funktioniert.
Stella: Und bei Grock soll es eben laut TechCrunch in ihrem Test so gewesen sein,
Stella: dass Musk-Sicht auf das Thema US-Immigration besonders gesucht worden sei.
Stella: Also das noch mal zum Hintergrund. Jetzt muss man aber auch sagen,
Stella: dass das ja quasi nicht die Version ist, um die es jetzt in diesem jüngsten
Stella: X-Vorfall geht. Nur um das einmal klarzustellen.
Elli: Und beim Thema Versionen, da ist eh irgendwas durcheinander geraten,
Elli: habe ich so den Eindruck.
Elli: Wir erinnern uns, es gab diesen rassistischen Ausfall und Musk hat eine Änderung
Elli: von System-Promts angekündigt, vier Tage vorher. Aber...
Elli: Jetzt muss man dazu sagen, der Chatbot, der eben diese rassistischen und antisemitischen
Elli: Inhalte produziert hat, das war eine Version, die noch nicht diese Änderungen
Elli: enthalten haben soll, also die Vorgängerversion quasi.
Elli: Irgendwie blickt man da auch nicht mehr ganz so wirklich durch, habe ich das Gefühl.
Caspar: Ja, und ich finde auch immer so lustig, dass X sich dann äußert und sagt,
Caspar: ja, das liegt daran, dass jemand was am Code geändert hat, obwohl der Chef kurz
Caspar: vorher angekündigt hat, dass jemand was am Code ändern wird.
Caspar: Also das ist immer so ein bisschen so Henne-Ei-Prinzip und irgendwie,
Caspar: ja, also vor allem, ich finde es halt auch so,
Caspar: Elon Musk fällt ja gerne mal durch solche Äußerungen auf und wenn er sagt,
Caspar: er möchte, dass der Chatbot eher so funktioniert und dann funktioniert er so,
Caspar: ist das irgendwie auch keine so richtige Überraschung.
Stella: Ich möchte an den Fall vor über einem Jahr erinnern, wo er auch ein großes Problem
Stella: damit hatte, dass der US-Präsident damals noch Joe Biden mehr,
Stella: ich glaube, Likes und Reichweite bei X bekommt als er selbst.
Stella: Das soll ja dann im Nachgang auch durch die EntwicklerInnen eben entsprechend angepasst worden sein.
Stella: Also, dass wohl dieser Code sehr an seinen Interessen ausgelegt wird,
Stella: da gab es schon mehrere Hinweise drauf.
Stella: Übrigens, um dieses WTF noch ein bisschen abzurunden, ich habe noch was mitgebracht.
Stella: Bei X gibt es mir jetzt nämlich auch so, ich nenne es jetzt mal umstrittene
Stella: KI-Figuren, also Avatare, die eben auch mit Grog zusammenhängen.
Stella: Und Tecrunch hat da einen Test gemacht, wie ich fand es sehr erschreckend.
Stella: Also das eine ist eher so ein Not-safe-for-work-Ding quasi, was da rausgebracht wurde im Test.
Stella: Und das andere ist ein Fuchs. wenn ich das jetzt, weiß jetzt nicht,
Stella: wie ich das vernünftig zitieren kann, der kein Problem hat, über Gewalt an Kindern
Stella: zu fantasieren und das sehr deutlich.
Caspar: Ja, also Moral von der Geschichte, um das WTF so ein bisschen abzurunden,
Caspar: auch bei Grog vielleicht vorsichtig sein, generell sowieso bei KI-Modellen ja
Caspar: vorsichtig sein, was die antworten, aber Grog, sehen wir, ist einfach inzwischen,
Caspar: einfach dreht am Rad, weil die Macherinnen das so wollen.
Elli: Und wenn jemand mit euch über X und die KIs, die es da so gibt,
Elli: spricht und da ganz von überzeugt ist, dann wisst ihr jetzt vielleicht den ein
Elli: oder anderen Artikel, den ihr da an der Stelle nochmal rausholen und zitieren könnt.
Stella: Links in den Shownotes und bitte, also vielleicht an der Stelle,
Stella: das zeigt finde ich auch nochmal, wie sehr diese Chatbots eben von Programmierung
Stella: abhängig sind und wie leicht die sich ändern lassen und wie kurzfristig.
Stella: Also bitte behaltet das auch immer bei der KI-Netzung im Hinterkopf.
Elli: Das war jetzt ein sehr, sehr ernstes Thema.
Elli: Es bleibt auch ernst, aber irgendwie zumindest der Anfang von unserem Input,
Elli: finde ich, ist so ein bisschen erfrischend.
Elli: Ich hatte da jetzt Lust drauf.
Caspar: Ja, und ich wollte gerade sagen, lasst uns vielleicht das Thema KI mal zumachen,
Caspar: aber das können wir gar nicht, was unser Input auch damit zu tun hat.
Caspar: Aber immerhin geht es auch ein bisschen um Kunst, versprochen.
Stella: Ich muss sagen, für mich ist das jetzt ein sehr emotionales Thema,
Stella: weil ich diese Bücher, diese Pixie-Bücher als Kind, ich sehe sie vor mir,
Stella: ich hätte sie raussuchen müssen, ob sie noch irgendwo in irgendeiner Ecke vielleicht
Stella: da sind. Ich habe sie geliebt.
Stella: Es geht um Conny. Und ich würde behaupten, Conny hat mit diesem ganzen Conny
Stella: traut sich was, Conny geht zum Zahnarzt.
Stella: Weiß ich noch, habe ich damals als Kind vom Zahnarztbesuch geschenkt bekommen.
Stella: Das hat wirklich geholfen.
Stella: Also Conny ist für mich so eine kleine Legende.
Elli: Wir werden jetzt die Conny-Bücher nix sagen. Wir machen mal hier kurz den Rundumschlag.
Elli: Conny ist eine Bilderbuchreihe vom Carlsen Verlag.
Elli: PIX, die Bücher hast du schon gesagt, das heißt, das sind sehr kleine Bücher,
Elli: in denen diese Bilderbücher ursprünglich mal erschienen sind.
Elli: Mittlerweile gibt es ungefähr alles von Conny, große Bücher,
Elli: Aufklappbücher, Kassetten hat man heutzutage auch nicht mehr, also Hörspiele gibt es.
Elli: Ich würde mich wetten trauen, dass es auch irgendwelche Tony-Figuren oder sowas
Elli: gibt mit Conny. Also es gibt mittlerweile einfach alles.
Elli: Der Ursprung waren eben diese kleinen, handlichen Bilderbücher,
Elli: wo dann erklärt wird, wie so Alltagssituationen ablaufen.
Elli: Ich erinnere mich noch, ich hatte Conny auf dem Reiterhof oder geht auf den Reiterhof.
Elli: Da durfte sie dann auf dem Pony reiten. Ja, also relativ kindgerecht.
Elli: Conny ist ein kleines, blondes Mädchen, hat einen Kater namens Mau, soweit ich weiß.
Elli: Genau, das ist jetzt das Universum, in dem wir uns befinden.
Caspar: Und Conny kennen viele von euch wahrscheinlich und wahrscheinlich seid ihr im
Caspar: Netz auch schon mal über eine Conny-Parodie oder ein Meme oder einen Witz mit
Caspar: Conny irgendwie gestoßen.
Caspar: Das ist nämlich schon seit mehreren Jahren so, spätestens seit Corona ist es
Caspar: losgegangen, dass es immer mal wieder Parodien darauf gab.
Caspar: Da sind dann so Cover mit Conny traut sich dann halt was anderes als normalerweise,
Caspar: also nicht irgendwie auf dem Reiterhof, sondern Conny lässt sich impfen zum
Caspar: Beispiel, weil ich ja Corona schon erwähnt habe.
Caspar: Das kommt dann aber natürlich nicht vom Carlson Verlag, sondern es kommt aus
Caspar: dem Netz und sind Parodien, die die Leute zusammenstellen.
Caspar: Da sind dann so Titel dabei, so in letzter Zeit, Conny hat den Kater ihres Lebens,
Caspar: Conny boxt Elon Musk, was so ein bisschen zu unserem WTF passen würde.
Caspar: Oder ganz frisch aktuell habe ich vor ein paar Tagen gesehen,
Caspar: Conny erschießt einen Wels, was sich auf das Sommerlochtier, den Wels bezieht.
Elli: Ihr seht schon, das Publikum dieser Memes, die jetzt daraus geworden sind,
Elli: hat sich ein bisschen verschoben.
Elli: Wir sind jetzt nicht mehr in, wie vom Carlson Verlag angepeilt,
Elli: der Lebenswelt der drei- bis sechsjährigen Mädchen und Jungen,
Elli: sondern es geht mehr so in die Erwachsenenrichtung, gerade wenn Conny einen
Elli: Kater hat, der nicht Mau heißt.
Elli: Ja, also da hat sich was entwickelt und möglich ist das Ganze.
Elli: Da sind wir wieder, dank KI.
Caspar: Ja, ihr ahnt es nämlich schon, dass diese ganzen Parodien und auch unser Kapitelcover,
Caspar: wenn ihr eine Podcast-App habt, die das unterstützt, dann seht ihr jetzt während
Caspar: dieses Input-Kapitels auch nicht unser normales Cover, sondern wie Conny diesen
Caspar: Podcast findet. Sie hört ihn nämlich sehr gerne.
Caspar: Das ist natürlich alles KI generiert und in Zeiten von KI ist sowas auch immer
Caspar: häufiger und diese Fake-Cover überschwemmen gerade in letzter Zeit,
Caspar: in den letzten Wochen eigentlich fast schon das Netz.
Caspar: Also es vergeht eigentlich kein Tag, wo mir sowas nicht über die Timeline fliegt.
Stella: Also es stimmt und ich muss jetzt aber auch gestehen, es ist natürlich so,
Stella: ich habe auch das eine oder andere geliked, was auch meine Lebensrealität in Teilen zeigt.
Stella: Und es einfach witzig ist, also ich glaube, da hat auch die Generation,
Stella: die mit Conny aufgewachsen ist, sich jetzt ziemlich viel Spaß erlaubt.
Stella: Aber du sagst es, das Ganze sind eben Fake-Cover, weil sie nicht offiziell vom Carlsen Verlag sind.
Stella: Also auch die ganzen Titel nochmal, die Caspar eben zitiert hat,
Stella: da gibt es nicht wirklich, da gibt es keine Conny-Geschichte,
Stella: sondern das hat sich jemand ausgedacht und hat dann mit KI im Conny-Look ein Bild generiert.
Stella: Und das Ganze ist eben nicht nur bei Caspar und mir in der Timeline gelandet,
Stella: sondern so viral gegangen, dass auch der Carlsen-Verlag dann darauf reagieren musste.
Stella: Und der hat bei Instagram Stellung bezogen unter dem Motto, Conny will da mal was klarstellen.
Elli: Da sind wir jetzt bei einem Conny-Cover, was dann doch wieder von Carlson kam.
Elli: Warum muss jetzt aber Conny was klarstellen?
Elli: Diese Beiträge sind nicht nur witzig oder teilweise halt auch nicht so witzig.
Elli: Es gab tatsächlich auch Conny-Memes, die dann in eine rechtsradikale oder beleidigende
Elli: Richtung gingen. Und da hat sich der Carlsen-Verlag gedacht,
Elli: Moment mal, das findet Conny jetzt aber nicht so gut.
Elli: Und dementsprechend gab es von Carlsen eine Stellungnahme.
Elli: Wir haben uns natürlich auch gefragt, als wir jetzt diese Kapitelmarke zum Beispiel
Elli: für unseren Podcast gemacht haben, darf man denn...
Elli: Zum Beispiel Werbung machen damit. Wie ist das denn? Und auch darüber hat der
Elli: Carlsen Verlag im Statement gesprochen.
Elli: Es ist unter anderem zu lesen, dass man nicht vorhabe, alle Meme-ErstellerInnen
Elli: zu verklagen, Thema Urheberrecht und so.
Elli: Aber in bestimmten Fällen will man Menschen dazu auffordern,
Elli: das jeweilige Meme aus dem Netz
Elli: zu löschen, eben wenn es sich gerade um menschenverachtende, rassistische,
Elli: gewaltverherrlichende oder pornografische Darstellungen handelt,
Elli: bei der die Conny-Figur verwendet wird und auch eine kommerzielle Nutzung.
Elli: Also wenn wir jetzt zum Beispiel irgendwie Geld verdienen wollen würden mit
Elli: unserem Conny Cover, das wir erstellt haben, das ist auch nicht im Sinne des Carlson Verlags.
Elli: Grundsätzlich gegen die ganzen
Elli: lustigen Hi-Hi-Haha-Memes, die da so rumschwirren, hat man aber nichts.
Elli: Das ist so die Aussage des Carlson Verlags.
Stella: Jetzt dürft ihr euch zu Recht fragen, Moment mal, das denke ich jetzt aber auch
Stella: nach einem WTF, das ist der Input.
Stella: Richtig, weil wir wollen ja heute über KI und Kunst sprechen und genau das ist
Stella: nur ein Beispiel, was wir heute mitgebracht haben,
Stella: weil dieser ganze Wandel, den wir gerade durch generative Künstliche Intelligenz,
Stella: vielleicht auch nochmal wichtig, wir reden hier über generative KI,
Stella: nicht einfach nur über Künstliche Intelligenz,
Stella: was dieser Wandel eben mitbringt.
Stella: Wir hätten hier noch ein musikalisches Beispiel für euch,
Stella: nämlich vor einigen Tagen hat die Band The Velvet Sundown, ihr erinnert euch
Stella: an den Titel heute, Conny und The Velvet Sundown, die haben Schlagzeilen gemacht.
Stella: Das ist eine Band, die hat aktuell monatlich so mehr als 1,3 Millionen Plays bei Spotify.
Caspar: Und ich habe euch den größten Hit dieser Band mal mitgebracht.
Caspar: Der Titel heißt Dust on the Wind und wir hören mal kurz rein.
Caspar: Wir werden nicht den ganzen Song hören, aber zumindest mal zitatmäßig so kurz
Caspar: in den Anfang reinschnuppern.
Caspar: Ich mach das hier mal langsam leiser und mach's auch mal aus.
Caspar: Wie gesagt, wir wollten nur reinhören. Frage an die Runde, vielleicht auch an
Caspar: die Hörerinnen und Hörer, aber auch in erster Linie natürlich an euch beiden,
Caspar: weil ihr mir jetzt antworten könnt.
Caspar: Ja, wie fandet ihr den Anfang von Dust on the Wind?
Stella: Also hat mir schon Roadtrip-Vibes gegeben, muss ich jetzt mal sagen.
Stella: Ich stelle mir gerade jemanden vor, damit der Gitarre, wie es hier in so einer
Stella: Wüstenlandschaft steht, hinter ihm rollt so ein Stroh-Heu-Ballengedöns durch
Stella: die Gegend, Cowboy-Hut auf,
Stella: die Sonne geht langsam unter, warmes, weiches Licht.
Stella: Ja, ich glaube aber, ich liege sehr falsch, weil ich glaube,
Stella: da hat niemand in der Wüste gestanden und gesungen.
Caspar: Ja, da kommen wir gleich zu. Elli?
Elli: Ja, das ist ein Part, den habe ich mir auch gedacht, in dem Moment,
Elli: als die Singstimme eingesetzt hat.
Elli: Die hatten mich am Anfang so ein bisschen rumgeeiert. Und ich glaube,
Elli: wenn das ein menschlicher Take gewesen wäre, dann hätte man das wohl vielleicht
Elli: nochmal aufgenommen und ein bisschen sauberer angefangen.
Elli: Aber ich muss auch sagen, der Titel, Dust on the Wind, in meinem Gehirn hat
Elli: es geklingelt und dann habe ich gestutzt.
Elli: Und dann dachte ich mir so, Moment mal, irgendwas mit Staub und Wind,
Elli: das gab es doch schon mal.
Elli: Richtig, 1977 von Kansas war nur Dust in the Wind und nicht on the Wind.
Elli: Ich weiß auch nicht, wie man Staub auf den Wind bringen. Naja, ihr seht schon.
Stella: Das ist Poesie, das ist kreativ. Genau, das verstehst du nicht.
Stella: Das ist Kunst. Das vielleicht jetzt auch nicht aus einem menschlichen Hirn kommt.
Caspar: Genau, das ist diese Kunst. Das ist die Kunst.
Elli: Über die wir jetzt sprechen wollen.
Caspar: Ja, ihr ahnt es schon, weil wir ja schon über Conny und KI und Memes und Fake
Caspar: gesprochen haben, auch diese Band gibt es nicht. Da wäre es bei Zandor,
Caspar: zumindest nicht in echt.
Caspar: Weder die Band ist echt, noch der Song ist echt. Irgendeines der Instrumente,
Caspar: die wir gerade gehört haben, auch die Gesangsstimme nicht.
Caspar: Das ist eine komplett mit verschiedenen KI-Modellen erstellte Band.
Caspar: Auf Spotify gibt es auch Bandcover. Es gibt sogar ein Video zu dem Song.
Caspar: Aber nichts davon ist wirklich echt. Es gibt zwar Menschen dahinter,
Caspar: die das machen. Da werden wir nachher nochmal zukommen. Aber die eigentliche
Caspar: Musik gibt es eben nicht.
Elli: Also wenn ihr uns schon länger hört, dann wisst ihr ja auch,
Elli: dass das alles nichts Neues ist.
Elli: Sie haben schon länger über KI-generierte Bücher zum Beispiel,
Elli: haben wir mal gesprochen im, ich glaube, Sommer vor einem Jahr,
Elli: haben wir darüber gesprochen über irgendwelche Pilzbücher oder war das vor zwei
Elli: Jahren, die dann Ess-Empfehlungen geben, die man absolut nicht befolgen sollte.
Elli: Also KI-generierte Bilder, Videos, Bücher, Musik, das ist nichts Neues.
Elli: Aber wir merken, es wird immer alltäglicher und wir finden die auch in unserem Alltag immer mehr.
Elli: Das Ganze wird auch immer einfacher zu erstellen und deswegen haben wir uns
Elli: mal Conny und The Velvet Sundown rausgepickt, um mal zu gucken,
Elli: wie ist jetzt gerade die Lage, wie finden wir das so,
Elli: genau, wo sind wir aktuell?
Caspar: Wir fangen mal mit dem Status Quo an und ich hau direkt einen Spoiler raus.
Caspar: Ihr merkt es schon an den zwei Beispielen und wir haben noch weitere Beispiele dabei.
Caspar: KI wird schon jetzt an immer mehr Stellen verwendet. Einige davon erkennt ihr sofort.
Caspar: Also, dass die Conny-Memes in der Regel wahrscheinlich nicht vom Carlson Verlag
Caspar: sind, das hat man geahnt.
Caspar: Da wäre es Zander und ich muss gestehen, hätte man mir vorgespielt und nichts dazu gesagt.
Caspar: Ich hätte es nicht geahnt. Ich habe mich auch dabei ertappt bei der Vorbereitung,
Caspar: dass ich den Song halt einfach laufen lasse und das ganze Album dann durchlief.
Caspar: Also das kann man wirklich gut so nebenbei hören.
Caspar: Also ich bin einer dieser 1,3 Millionen Plays.
Caspar: Das heißt, nicht immer erkennt man auch sofort die KI. Aber was ganz,
Caspar: ganz klar ist, es wird immer mehr und es wird inzwischen zum Alltag.
Stella: Bevor wir da zu einer These kommen, Caspar, das, was du gerade so im Nebensatz
Stella: quasi verpackt hast, zeigt übrigens auch sehr gut, KI generiert hat ja manchmal
Stella: auch den Stempel so, KI generiert gleich schlecht.
Stella: Wir erinnern uns alle an so ganz komische, wackelige Videos.
Stella: Ich weiß nicht, ob ihr dieses Beispiel mit Smith kennt, wie er da in Nudeln
Stella: isst, was sich über die Jahre aber immer weiter verbessert hat.
Stella: Und der Sinn ist ja, dass uns das immer besser gefällt. Also man kann überhaupt
Stella: gar nicht sagen, dass es per se schlecht ist und wir es nicht mögen,
Stella: genauso wie du, Caspar, gerade gesagt hast.
Stella: Hey, ich habe dann das Album durchgehört. Weil klar, die Leute,
Stella: die es produzieren, die wollen ja auch nicht was schaffen, was dann kein Mensch
Stella: mag, sondern es soll ja genau bei uns ankommen.
Elli: Wir haben, also was so Karischrott angeht, da kommen wir in der guten Nachricht noch mal zu.
Elli: Aber tatsächlich, dass ich das mal in einem Kontext sehen würde,
Elli: die beiden Dinge, die jetzt zusammenkommen, Hätte ich auch nicht gedacht.
Elli: Und zwar Thomas Mann und KI. Wo sind wir denn jetzt gelandet?
Caspar: Bei einem weiteren Beispiel, was wir mitgebracht haben, was auch die letzten
Caspar: Tage durch die Medien ging.
Caspar: Und zwar der S. Fischer Verlag. Die haben die Rechte an den Thomas Mann Romanen
Caspar: und die bringen die Reihe neu raus.
Caspar: Soweit noch keine Schlagzeile. Das passiert ja immer mal wieder mal.
Caspar: Dass Klassiker neu aufgelegt werden.
Caspar: Dann gibt es ein neues Cover irgendwie und dann wird es neu verpackt.
Caspar: Und dann wird es halt neu gedruckt, damit die Leute das auch neu kaufen können,
Caspar: falls sie das zum Beispiel noch nicht in ihrem Regal stehen haben,
Caspar: die Bunenbrooks oder was auch immer von Thomas Mann.
Caspar: Und das Ding, warum wir jetzt hier darüber sprechen, ist, der S.
Caspar: Fischer Verlag hat sich diesmal überlegt, okay, wir machen neue Bücher,
Caspar: wir machen alle neu, dann lass doch die Cover diesmal komplett mit KI generieren.
Caspar: Und sie haben auf ihrer Webseite auch ein Interview mit den Macherinnen dahinter
Caspar: geführt und dort wird zitiert, Ich zitiere jetzt mal kurz dieses Interview auf
Caspar: der Seite vom S. Fischer Verlag.
Caspar: Für die zahlreichen Ausgaben der Thomas Mann Reihe galt es Motive zu finden,
Caspar: die sehr spezifische, detailreiche Situationen aus den jeweiligen Geschichten
Caspar: darstellen und zugleich einen stilistischen Zusammenhang erkennen lassen.
Caspar: Passende Motive zu finden, stellte uns vor eine große Herausforderung.
Caspar: Die KI Midjourney hat sich für uns bereits in der Vergangenheit als hilfreiches Tool erwiesen.
Caspar: Sie ermöglicht es sich mehr mit den Motiven, seinen Details,
Caspar: seiner Komposition und dem Stil auseinanderzusetzen, anstatt viel Zeit in eine
Caspar: oft langwierige Bildrecherche zu investieren.
Caspar: Schnell war uns klar, dass wir dieses Tool für diese Buchreihe nutzen möchten.
Caspar: Das lassen wir jetzt so erstmal stehen. Wir kommen gleich noch zu einer Einordnung.
Elli: Auch bei Funk, dem jungen Medienangebot von ARD und ZDF, gibt es KI-generierte Videos.
Elli: Es gibt zum Beispiel den TikTok-Kanal, der heißt Geschichtskollage.
Elli: Und da wird zum Beispiel der Mauerfall aus der Sichtweise von einem Grenzer gezeigt.
Elli: Es ist was, was man früher vielleicht mit SchauspielerInnen gedreht hätte,
Elli: das hätte dann Drehort gebraucht, mehrere Drehtage gedauert,
Elli: dann hätte man das dann noch zusammengeschnitten und damit wäre das sehr kostenintensiv
Elli: gewesen und jetzt denkt man sich halt,
Elli: gut, das können wir auch mit KI darstellen.
Elli: Also auch im öffentlich-rechtlichen Rundfunk wird das genutzt für eben entsprechende
Elli: Dinge, die sonst deutlich aufwendiger und kostenaufwendiger gewesen wären.
Caspar: Nicht nur Funk experimentiert damit, auch Hollywood, beziehungsweise Hollywood
Caspar: ist in dem Fall eine Ortsangabe, die nicht ganz stimmt, wobei man auch in Hollywood
Caspar: mit KI experimentiert, da kommen wir gleich noch zu.
Caspar: In dem Fall geht es jetzt aber kurz nach Südkorea, dort gibt es nämlich ein
Caspar: Produktionsstudio, das eine komplette Animationsserie, also kleine Kurzfilmchen,
Caspar: die sind immer so drei, vier Minuten lang die einzelnen Episoden,
Caspar: auf YouTube veröffentlicht.
Caspar: Sie trägt den Titel Cat Biggie und zeigt die Abenteuer eines Katers und eines
Caspar: kleinen Kükens, das frisch schlüpft und der Kater übernimmt dann so ein bisschen
Caspar: die Aufsicht über dieses Küken.
Caspar: Ist ganz niedlich und auch hier ist es so, natürlich ist diese Serie,
Caspar: weil wir hier in der Sendung drüber sprechen, nicht handgezeichnet oder animiert,
Caspar: sondern komplett durch KI erzeugt. Das sieht man an ein, zwei Stellen,
Caspar: auch wenn man sich die Episoden anguckt.
Caspar: Aber tatsächlich ist es so, Stella, du hast ja schon Will Smith mit seinem Spaghetti
Caspar: angesprochen, die Technik wird immer besser.
Caspar: Vor einem Jahr würde ich tatsächlich einfach mal mich aus dem Fenster lehnen
Caspar: und sagen, wäre die Serie so technisch nicht möglich gewesen.
Caspar: Also auch wenn man an einigen Stellen noch sieht, dass es KI ist,
Caspar: ist es trotzdem relativ beeindruckend.
Caspar: Den Trailer zu der Show verlinken wir euch auch in den Shownotes,
Caspar: dann könnt ihr selber mal reingucken.
Stella: Ich stimme Caspar zu. Also vor einem Jahr wäre das echt nicht drin gewesen mit
Stella: sehr vielen KI-Tools, die sich rasant und sehr schnell weiterentwickeln.
Elli: Okay, jetzt hatten wir Conny, wir hatten Development Sundown,
Elli: wir hatten Thomas Mann, wir hatten den öffentlich-rechtlichen Rundfunk bei uns
Elli: in Deutschland, wir sind dann nach Südkorea gegangen.
Elli: Ihr seht schon, es ist ein Thema, das ist durchaus allgegenwärtig so global auch, international.
Elli: Da geht es natürlich jetzt die Frage, es gibt ja meistens zwei Seiten der Medaille
Elli: und die gucken wir uns heute mal an.
Elli: Was ist denn der Vorteil daran und wo sehen wir das Ganze aber auch kritisch
Elli: und wo muss man sich auch vielleicht überlegen, wie es dann am Ende weitergeht?
Stella: Wir fangen jetzt erstmal mit den positiven Aspekten und den Vorteilen an.
Stella: So quasi die kleine Rubrik pro KI in der Kunst.
Stella: Man könnte das vielleicht auch so unter den Titel erstmal Demokratisierung der
Stella: Inhaltserstellung setzen.
Stella: Also ein Argument nämlich der Befürworter innen generativer künstlicher KI-Modelle
Stella: ist die Tatsache, dass sie die Erstellung von Inhalten nicht nur langfristig
Stella: günstiger und schneller machen, sondern sie machen sie eben auch einfacher.
Stella: Vielleicht da auch nochmal ein Beispiel, wir hatten ja jetzt viel eben aus Verlag,
Stella: also wo man eben auch sagt, da sind entsprechende Ressourcen da,
Stella: aber schaut doch einfach mal auf einer Social Media Plattform oder auch bei YouTube,
Stella: da findet ihr auch von Privatpersonen mittlerweile so viel, also ich kenne zum
Stella: Beispiel Accounts, die machen auch so Katzenvideos, ganz ähnliches wie jetzt
Stella: diese Serie aus Südkorea, da gibt es wirklich eine Masse an Inhalten.
Stella: Die ermöglicht eben zum Beispiel auch Videoinhalte, wie dieses Funkbeispiel
Stella: zeigt, was früher vielleicht aufgrund von Kosten und Zeit auch gar nicht möglich gewesen wäre.
Stella: Auch ein einfaches Beispiel für Musik. Früher hättest du einen Gitarrenkoffer
Stella: gebraucht, für unsere Szene jetzt natürlich auch ein Verstärker,
Stella: ein großes Kamerateam, Beleuchter.
Stella: Die Liste ist lang und natürlich auch insgesamt sehr viel Budget,
Stella: um überhaupt Musik zu machen.
Stella: Und heute ist es echt so, ein paar Zeilen in Tool reingeben und du hast innerhalb von 30 Sekunden Song.
Stella: Also ich weiß, Caspar und ich, wir haben das auch beide schon mal ausprobiert.
Stella: Das geht wirklich schnell, wirklich leicht. Wir können jetzt nochmal darüber
Stella: reden, wie gut die Ergebnisse sind.
Stella: Aber ich glaube, wenn man sich reinfuchst und natürlich auch die Modelle möglicherweise
Stella: im Abo bezieht, ist das in der Regel manchmal ganz überzeugend,
Stella: wie dieses Velvet-Beispiel zeigt.
Elli: Du hast jetzt schon eine kleine Einschränkung gemacht. Man muss natürlich auch
Elli: wissen, was man da eingibt.
Elli: Weil ich habe zum Beispiel schon mal versucht, als ich am Anfang mit JGPT Bilder
Elli: erzeugen wollte, mein Gott, ist da eine Grütze rausgekommen,
Elli: weil ich einfach nicht wusste, wie ich das richtig formulieren soll,
Elli: dass das wirklich passiert, was ich da machen möchte.
Elli: Also das ist schon was, zum Beispiel diese Conny-Bilder, dafür gibt es auch
Elli: Ressourcen, wo man dann nachlesen kann, dann so und so muss man das reinschreiben,
Elli: damit dann dieses Conny-Bild auch wirklich rauskommt.
Elli: Wenn man das nicht weiß, dann kann man schon auch mal wieder Ochs vorm Berg
Elli: stehen und nicht weiterkommen.
Elli: Aber es gibt noch einen Vorteil tatsächlich.
Elli: Gut, Demokratisierung der Inhaltserstellung, hast du jetzt gesagt, das ist ein großes Wort.
Elli: Was ich aber auch ganz spannend finde, ist, es gab ja früher viel Stockfotos und Videos.
Elli: Also so Material, was dann halt als Symbolbild mal hergenommen wurde,
Elli: aber nicht so ganz 100 Prozent gepasst hat, aber man hatte halt irgendwie auch
Elli: gerade nichts Besseres.
Stella: Roboterhand, um künstliche Intelligenz zu symbolisieren. Falls ihr euch fragt,
Stella: was so ein typisches Symbolbild ist.
Caspar: Zum Beispiel.
Elli: Zum Beispiel. Und diese mehr oder weniger passenden Stockbilder,
Elli: da kann man jetzt natürlich argumentieren,
Elli: die fallen vielleicht einfach in Zukunft weg und werden durch passenderes Material
Elli: ersetzt, weil man sich das eben per KI generieren kann.
Elli: Also die Idee ist da, ja, okay, wir benutzen KI und können uns damit aber einfach
Elli: Sachen prompten, die einfach besser auf uns zugeschnitten sind noch.
Elli: Also da nochmal ein Pluspunkt vielleicht.
Stella: Und vielleicht auch beim Thema Kreativität auch durchaus nochmal der Aspekt,
Stella: du kannst eben auch Sachen schaffen, die es so nicht gibt.
Stella: Also nicht nur im Zeichentrick, sondern das Ganze wird ja auch immer realistischer
Stella: unter Umständen, womit wir jetzt durch verschiedene Punkte auch mehr und mehr zum Kontra kommen.
Caspar: Ja, genau. Es gibt nämlich auch natürlich Kritik an der ganzen Entwicklung,
Caspar: auch berechtigterweise.
Caspar: Wir fangen mal mit den KünstlerInnen an, die durchaus jetzt sehen,
Caspar: dass ihre oft sowieso schon nicht gut bezahlte Arbeit jetzt noch mehr gefährdet
Caspar: wird. Bleiben wir beim Thema Musik mal.
Caspar: Stella, du hast es ja gerade schon gesagt, wir haben es auch schon mal ausprobiert,
Caspar: innerhalb von wenigen Sekunden oder Minuten hat man da verbrauchbares Material.
Caspar: Ich glaube, The Velvet Sundown hat wahrscheinlich ein bisschen länger in diese
Caspar: Prompts investiert und es wird auch nicht so innerhalb von 30 Sekunden gewesen
Caspar: sein, aber es wird nicht den Aufwand gehabt haben, den ein Album noch vor ein
Caspar: paar Jahren gebraucht hat.
Caspar: Und so ein Album, wenn man das dann einfach veröffentlicht für 0 Euro,
Caspar: weil man ja auch keine Kosten hatte oder für sagen wir 2, 3 Euro,
Caspar: wie möchte man denn dann noch als echter Musiker, echte Musikerin Geld verdienen
Caspar: und davon leben, wenn man dann ein Album für 30, 40 Euro verkaufen muss,
Caspar: um irgendwie die Einnahmen zu haben.
Caspar: Das trifft natürlich nicht nur auf Musik zu, das trifft auch auf Bilder und
Caspar: Videokünstlerinnen zu. Die sehen nicht ohne Grund da so ein bisschen ihre Fälle wegschwimmen.
Elli: Ich habe übrigens im Zuge der Recherche mich natürlich auch gefragt,
Elli: was denn zum Beispiel die Schöpferin von Conny eigentlich dazu sagen würde.
Elli: Und ich habe mal geguckt, wer ist das? Das ist Eva Wenzel-Bürger.
Elli: Nur leider kann sie, die sich zu den kompletten Memes, die es gibt,
Elli: nicht mehr äußern. Denn Eva Wenzel-Bürger ist im Januar diesen Jahres kurz vor
Elli: ihrem 93. Geburtstag verstorben.
Elli: Also da gibt es keine Konfrontation mehr mit dieser Flut an Conny-Bildern.
Elli: Wir wissen nicht genau, wie sie es gefunden hätte.
Elli: Aber du hattest jetzt gerade auch schon über das Geld gesprochen,
Elli: Caspar. Und das ist natürlich auch ein Aspekt.
Elli: Nicht nur zum Beispiel IllustratorInnen fürchten an sich um ihre Beschäftigung.
Elli: Die Frage ist natürlich auch, wenn es immer mehr Inhalte gibt,
Elli: wie viel ist dann ein einzelner Inhalt wert? und wenn man jetzt zum Beispiel auf Musik guckt,
Elli: Und überwiegend verdienen dann so große Player wie Spotify vor allem an diesen
Elli: KI-Songs, die millionenfach aufgerufen werden.
Elli: Und man weiß ja bei Spotify mittlerweile, dass das ein großer Geldpool ist und
Elli: da die kleinen KünstlerInnen nicht unbedingt viel abbekommen von.
Stella: Das leitet gut über zum Beispiel auch mit dem S.
Stella: Fischer Verlag, weil der hatte ja zum Beispiel für die Cover,
Stella: das ging ja auch um Bildrecherche, aber ging auch um das Design,
Stella: der hätte auch GrafikerInnen engagieren können, aber hat eben stattdessen auf
Stella: KI gesetzt, ist einfacher, ist billiger.
Stella: An der Stelle auch mal, man kann das auch kombinieren. Also sprich ja nichts
Stella: dagegen, sich Inspiration von künstlicher Intelligenz zu holen und trotzdem
Stella: noch professionelle GrafikerInnen zu haben, die das Ganze dann eben umsetzen.
Caspar: Ja, eine Kritik an dem Statement von S. Fischer war dann auch im Netz zu lesen,
Caspar: an vielen Stellen, zum Beispiel war das Argument vom S.
Caspar: Fischer Verlag, ja, das sind so vielfältige Motive und das sei so schwer dann
Caspar: da eine Bildrecherche zu machen, also zum Beispiel Tod in Venedig von Thomas
Caspar: Mann, also das Cover, was jetzt dann zu sehen ist, ist eine Gondel,
Caspar: die durch Venedig fährt,
Caspar: künstlerisch abstrahiert, aber das ist etwas, da muss man dann sagen,
Caspar: das hätte man vielleicht auch einem Grafiker oder einer Grafikerin geben können,
Caspar: die hätten das auch hingekriegt.
Caspar: Also das Argument wurde so ein bisschen zerrissen.
Stella: Und auch die Idee ist jetzt ehrlich gesagt nicht überragend.
Caspar: Deswegen, ja. Wenn man es ein bisschen, weil ihr auch gerade schon sagtest, Inspiration holen.
Caspar: Ich habe mal so einen Satz aufgeschrieben, das System frisst seine Mütter und
Caspar: Väter. Das ist jetzt auch ein relativ starkes Statement.
Caspar: Aber was damit gemeint ist, ist natürlich, dass die KI ganz oft trainiert wird
Caspar: mit Inhalten von jemandem. Die ist ja nicht so, dass die aus dem Nichts kommen,
Caspar: diese Inhalte, die die KI generiert, sondern das beruht ja auf Trainingsdaten
Caspar: und da sind wir bei dem ganz großen nächsten Problem.
Caspar: Diese Trainingsdaten müssen irgendwo herkommen und warum kann die KI zum Beispiel
Caspar: Conny so gut kopieren? Naja, vermutlich, weil das ein oder andere oder vielleicht
Caspar: auch alle bisherigen echten Conny-Cover in den Trainingsdaten beinhaltet sind oder waren.
Caspar: Das wissen wir nicht, weil niemand genau weiß, was bei den großen Modellen so
Caspar: zum Training genutzt wird, außer natürlich diejenigen, die die Modelle machen.
Caspar: Dasselbe gilt natürlich nicht nur für Conny, das gilt auch für andere berühmte
Caspar: Comic- und Manga-Stile.
Caspar: Wir hören uns an Studio Ghibli, wie viele Memes da plötzlich auftauchten und
Caspar: wie gut diese KIs es schaffen, Studio Ghibli zu kopieren.
Caspar: Das ist ja nahezu eins zu eins.
Caspar: Das heißt, da wird es sehr, sehr viel in den Trainingsdaten gegeben haben.
Elli: Das Problem, du hattest es jetzt gerade schon angesprochen, irgendwann beißt
Elli: sich die Katze wahrscheinlich auch in den Schwanz und die KI trainiert sich
Elli: dann irgendwann nur noch mit ihrem eigenen früher generierten Output,
Elli: der nicht unbedingt der Beste ist vielleicht.
Elli: Also das ist schon mal schwierig.
Elli: Und mir ist noch ein Gedanke gekommen, wenn man jetzt sagt, man weiß nicht,
Elli: ob zum Beispiel die Conny-Cover ins Training von KIs reingeflossen sind.
Elli: Man könnte nur überlegen, wie soll die KI da reingekommen sein?
Elli: Naja, die Dinger werden ja auch online verkauft. Das heißt, jedes Conny-Cover
Elli: dürfte irgendwo bei Amazon oder im Buchhandel online verkaufen.
Elli: Und wenn ein KI-Modell nur diese Seiten allein crawlt, dann hat es da schon
Elli: ganz, ganz, ganz viel Futter, um eben entsprechend dann Bilder daraus zu generieren.
Stella: Das Ganze geht ja so in Richtung der Urheberrechtsdiskussion.
Stella: Ich glaube, die können wir jetzt nicht ganz aufmachen, weil da fehlt natürlich
Stella: auch, ich erinnere mich, wir hatten neulich im Update auch das Thema New York
Stella: Times mit OpenAI-Training.
Stella: Also auch da bei der Texterstellung, sage ich jetzt mal ganz klassisch,
Stella: gibt es an vielen Stellen, also eigentlich an allem, was es an Daten im Netz
Stella: gibt, immer die Frage, hey, ist
Stella: das ohne Zustimmung der Urheber in diese Trainingsmodelle eingeflossen?
Stella: Sieht so aus, zeigen zum Beispiel die Conny-Beispiele. Aber das ist,
Stella: vielleicht müssen wir dazu nochmal einen anderen Input machen,
Stella: nur dass ihr das zumindest mal gehört habt, dass das natürlich auch dazu gehört.
Stella: Vielleicht bevor wir auch langsam zum Lösenden und Abschlussteil kommen,
Stella: weil es gibt ja auch durchaus die ersten Ansätze mit gerade diesem Problem der
Stella: Trainingsdaten umzugehen.
Stella: Wir hatten ganz kurz die Stockfotos angesprochen und da kann man jetzt sagen,
Stella: ja Stockfotos, aber das ist schon eine ganze Industrie, die sich da aufgebaut hat.
Stella: Also beispielsweise, wenn ihr mal bei Shutterstock guckt, sind ja auch immer
Stella: die FotografInnen angegeben, die verdienen damit ihr Geld.
Stella: Und wenn jetzt natürlich jeder sich einfach seine Bilder generiert,
Stella: dann mag das für denjenigen, der dieses Bild generiert, ganz praktisch sein,
Stella: bedeutet aber auch, dass die Menschen, die da bei Shutterstock um Aufmerksamkeit
Stella: kämpfen, ja, noch größere Probleme haben, ihre wirklich fotografierten Bilder loszuwerden.
Stella: Wobei, da muss man auch sagen, die sind natürlich teilweise auch Grafiken etc.
Stella: Also bei Shutterstock gibt es ja auch nicht nur echtes Fotomaterial.
Elli: Gleichzeitig kann man an der Stelle sagen, es gibt wahrscheinlich auch Menschen,
Elli: die sich damit eine neue Einkommensquelle aufbauen, indem sie halt ExpertInnen darin werden,
Elli: wie man die besten Bilder generieren kann, wie man am besten mit einem KI-Tool
Elli: spricht quasi, um ein gutes Ergebnis rauszubekommen.
Elli: Auch das ist eben eine Expertise, die jetzt neu gefragt wird. Ich wäre mal gespannt.
Elli: Wir haben ja jetzt schon gesagt, es gibt Menschen, die diese Sachen generieren immer noch.
Elli: Und da haben wir ja vorhin auch schon was zu dieser Band angerissen.
Elli: Wer steckt denn da nun dahinter?
Caspar: Damit leiten wir zum Schluss über und der großen Frage, ist KI jetzt eigentlich
Caspar: eher eine Bedrohung für Kreativität oder ist sie ein neues Werkzeug?
Caspar: Und wir können direkt schon sagen, wir wissen es nicht, aber vielleicht ist
Caspar: es beides und da passt dann The Velvet Sundown auch wieder ganz gut dazu,
Caspar: die KI-Band, die wir eben schon zum Input angesprochen haben.
Caspar: Und was wir bisher verschwiegen haben, ist, dass diese Band,
Caspar: beziehungsweise die Menschen dahinter, das ist ja keine echte Band,
Caspar: dass die auch ein Statement veröffentlicht haben, was sehr gut das Ganze so ein bisschen abrundet.
Caspar: Die wollen nämlich nicht KünstlerInnen ersetzen mit dem Projekt,
Caspar: das sagen sie ganz klar, sondern sie wollen provozieren, sie wollen ein bisschen
Caspar: aufwecken und aufrütteln und sie wollen zeigen, dass diese Grenze zwischen Mensch
Caspar: und Maschine quasi gerade ein bisschen verschwindet.
Caspar: Wir haben das Statement mal zum Beispiel von Instagram kopiert,
Caspar: das ist auch bei Spotify zu finden, aber wir haben es von Instagram genommen
Caspar: und haben es für euch aus dem Englischen übersetzt und ich lese daraus mal kurz vor.
Caspar: Boah, The Velvet Sundown ist ein synthetisches Musikprojekt,
Caspar: boah, direkt schon Zungenbrecher, das von menschlicher Kreativität geleitet
Caspar: und mit Unterstützung künstlicher Intelligenz komponiert, vertont und visualisiert wird.
Caspar: Das ist kein Trick, es ist ein Spiegel.
Caspar: Eine fortlaufende künstlerische Provokation, die dazu dient,
Caspar: die Grenzen von Autorschaft, Identität und der Zukunft der Musik im Zeitalter
Caspar: der KG herauszufordern.
Caspar: Alle Charaktere, Geschichten, Musikstücke, Stimmen und Texte sind originäre
Caspar: Kreationen, die mithilfe von KI-Tools als kreative Instrumente erschaffen wurden.
Caspar: Nicht ganz Mensch, nicht ganz Maschine.
Caspar: Der Velvet Sundown existiert irgendwo dazwischen.
Caspar: Ja, nicht ganz Mensch, nicht ganz Maschine. Das ist schon fast poetisch.
Elli: Ja, und das spiegelt irgendwie so ein bisschen das, was wir jetzt besprochen haben, wieder.
Elli: Nicht ganz Mensch, nicht ganz Maschine, irgendwo dazwischen.
Elli: Es gibt Menschen, die sich diese Conny-Cover zum Beispiel auch ausdenken,
Elli: die dann irgendeine Situation da drauf packen.
Elli: Da ist wieder der Faktor Mensch. Was bewegt uns? Was bringen wir mit rein in diese neuen Cover?
Elli: Gleichzeitig hast du die Maschine, die die Illustration übernimmt.
Elli: Es ist ein spannendes Dazwischen.
Caspar: Und da stecken wir gerade. Und da gilt es herauszufinden, wie das weitergeht.
Caspar: Wer die Regeln vielleicht auch dafür festlegt, was wir wollen, was wir nicht wollen.
Caspar: Ob wir KI-Musik in Zukunft vielleicht, so wie mir das passiert ist,
Caspar: versehentlich gerne hören. Obwohl wir sagen, wir wollen dann doch lieber bei
Caspar: menschlicher Musik bleiben.
Caspar: Deswegen haben wir hier auch kein abschließendes Fazit für euch,
Caspar: sondern können euch nur immer wieder hier im Podcast auch erzählen,
Caspar: wie der aktuelle Stand ist, euch auf einem Laufenden halten.
Caspar: Und vielleicht sind wir dann irgendwann mal so leid, dass wir ein Fazit zu dem
Caspar: Thema gefunden haben, aber das wird leider noch ein bisschen dauern.
Caspar: Aber ich bin gespannt. Schreibt uns auch gerne, falls ihr irgendwelche Kommentare dazu habt.
Caspar: Falls ihr sagt, ihr hört euch das Album mal an, ihr findet es ganz schrecklich
Caspar: oder ihr findet es großartig.
Caspar: Euch macht es Angst, ihr macht euch Sorgen oder ihr sagt ach,
Caspar: das wird sich schon alles zurecht rückeln. Schreibt uns gerne.
Caspar: Post at silicon-weekly.de.
Stella: Es ist Zeit für die gute Nachricht dieser Folge und wir kommen so langsam also auch zum Abschluss.
Elli: Wir bleiben noch im KI-Kosmos und es ist auch nur eine kleine gute Nachricht,
Elli: muss ich zugeben, diese Woche.
Elli: Ich muss sagen, ich weiß nicht, wie es euch geht. Ich bin ziemlich genervt,
Elli: wenn ich aktuell auf YouTube bin, gerade im Bereich der YouTube-Shorts,
Elli: also die Kurzvideos, die es bei YouTube gibt,
Elli: gibt es wirklich viel Müll mittlerweile und ganz, ganz viel davon ist KI generiert.
Elli: Ich glaube, ich kriege auch teilweise dreimal hinterher den gleichen Bums angezeigt, wo dann ein Typ,
Elli: dessen Gesichtszüge und Bewegungen nicht zu seiner Stimme passen und dann will
Elli: er mir irgendwas verkaufen und man merkt einfach ganz, ganz deutlich, dass es KI generiert.
Elli: Und da hat YouTube jetzt gesagt, ja, wir sehen das, wir wissen,
Elli: dass ganz viel gerade auf unserer Plattform an Müll unterwegs ist.
Elli: Man will dagegen jetzt vorgehen. Wie will man das machen?
Elli: Also, es wird jetzt keine Welle an Inhaltslöschungen geben oder YouTube wird
Elli: alle KI-generierten Videos direkt sperren.
Elli: Das nicht. Aber sie haben zumindest mal in Partnerprogrammen angesetzt.
Elli: Das ist die Sparte von YouTube, wo Videos monetarisiert werden,
Elli: wo also diejenigen Menschen, die das hochladen, ein bisschen Geld dafür bekommen,
Elli: wenn zum Beispiel Werbung davor ausgespielt wird.
Elli: Und in diesem YouTube-Partner-Programm möchte man zukünftig keine Videos mehr
Elli: und keine Kanäle haben, die eben überwiegend KI-generierten Short-Content produzieren und hochladen.
Elli: Es gab am Dienstag eine entsprechende Änderung in den Plattform-Richtlinien.
Elli: Man erklärt dazu, YouTube habe schon immer, Zitat verlangt, dass User originale
Elli: und authentische Inhalte hochladen.
Elli: Das ist jetzt mal so dahingestellt, um mit dem Partnerprogramm Geld zu können
Elli: und jetzt will man eben sicherstellen mit dem Update der Richtlinien,
Elli: dass Massenproduzierte und sich wiederholende Inhalte besser erkannt werden,
Elli: genauer definiert wird,
Elli: wie inauthentische Inhalte aussehen und man möchte damit quasi einfach mal das
Elli: Ganze noch etwas schärfen und zuschneiden.
Caspar: Ja, ich fand vor allem den Einsatz, den du auch gerade zitiert hast,
Caspar: mit sich wiederholende Inhalte sehr schön.
Caspar: Ich weiß nicht, ob ihr das mitbekommen habt, im Netz gab es ja eine kleine Aufregerwelle
Caspar: rund um Ralf Schumacher, der wissen will, wie viel dein Auto wert ist.
Caspar: Ich sehe schon nickende Gesichter, weil nämlich eine Firma, die Gebrauchtwagen
Caspar: ankauft, mit Ralf Schumacher Werbung macht, das an sich ist ja gar kein Problem,
Caspar: aber diese Werbung ist wohl zigfach und immer wiederholend zum Beispiel bei
Caspar: YouTube ausgespielt worden und im Fernsehen ganz oft und auch in den Social Medias.
Caspar: Oft, dass sie, ich glaube, ähnlich wie die Check24-Werbung immer mal wieder,
Caspar: so oft auch getaucht ist, dass die Leute einfach unglaublich genervt hat und
Caspar: Ralf Schumacher zu so einem kleinen Internet-Meme wurde, weil er überall auftaucht
Caspar: und wissen will, wie viel dein Auto wert ist.
Caspar: Ich denke nicht, dass YouTube das damit meinte, mit sich wiederholenden Inhalten,
Caspar: aber vielleicht sollten sie an der Stelle auch mal aufpassen und solche Inhalte
Caspar: dann auch ein bisschen einschränken.
Elli: Ja, aber das bringt uns quasi schon schließt den Bogen zu den Conny-Memes,
Elli: mit denen wir beim Input angefangen habe, weil tatsächlich die Ralf-Schumacher-Darstellungen,
Elli: Ralf Schumacher, wie er irgendwo einem auflauert und fragt, wie viel das Auto wert ist,
Elli: das ist der zweite große Trend, der aktuell bei mir in meinen Social-Media-Kanälen zu beobachten ist.
Elli: Einmal Conny und ganz, ganz viel Ralf Schumacher und ich kann es nicht mehr sehen, muss ich sagen.
Caspar: Ja, und dabei ist der Ralf Schumacher nicht mal KI generiert.
Caspar: Die haben wirklich noch eine Kamera genommen und das gedreht.
Caspar: Naja, gut.
Elli: So, wir wollen jetzt nicht wissen, wie viel euer Auto wert ist.
Elli: Wir können es euch auch nicht sagen, weil wir sind nicht Ralf Schumacher.
Elli: Aber ich würde sagen, wir haben trotzdem irgendwie hoffentlich ein bisschen
Elli: Mehrwert mit der heutigen Folge transportiert.
Elli: Ihr wisst jetzt wieder ein bisschen mehr, was so in diesem Internet abgeht und
Elli: können mal vielleicht so ein bisschen
Elli: auch mit uns teilen, wie ihr zu KI-generierten Kunstinhalten steht.
Caspar: Wir haben noch ein Versprechen, wir bleiben menschlich. Das können wir,
Caspar: glaube ich, auch noch sagen.
Stella: Wir werden uns nicht mit Notebook-LM einfach die Podcast-Notizen zum Podcast machen lassen.
Stella: Ich muss aber sagen, nächste Woche seid ihr nur zu zweit. Ich mache eine Woche
Stella: Urlaub, aber übernächster Woche, dann sind wir wieder zu dritt.
Caspar: Seid ihr gegönnt. seid ihr gegönnt, dann werden Eddie und ich uns was Schönes
Caspar: raussuchen. Aber dann hörst du uns ja.
Stella: Ich wollte gerade sagen, und zwar außerhalb von Deutschland,
Stella: dann ich schreibe, ich schreibe unserem Account.
Caspar: Sehr gut. Schreib uns mal, wo du uns hörst.
Elli: Dann breit unsere Statistiken wieder nach oben.
Caspar: Genau. Du hast den Aufruf nur gemacht, weil du selber schon wusstest,
Caspar: du wirst du es mal anders hören.
Stella: Ja, ich glaube, das Land, in das ich reise, haben wir aber schon eine Liste.
Stella: Also lag tatsächlich nicht daran.
Caspar: In diesem Sinne, den Hörerinnen und Hörern eine schöne Woche.
Caspar: Stella, dir einen schönen Urlaub. Zu zweit hören wir uns nächste Woche und zu
Caspar: dritt dann wieder übernächste Woche.
Stella: Bis dahin. Tschüss.
Elli: Macht es gut. Tschüss.
Caspar: Tschüss.