Maximilian Göß: Herzlich willkommen zu einer wunderbaren weiteren neuen Folge von unserem traumhaften Podcast 404.
Maximilian Göß: So Arno, es hatten wir ja bisher harte Themen.
Maximilian Göß: Also zum einen, wir haben ja selber gedacht, wo wir uns das erste Mal getroffen
Maximilian Göß: haben, sind wir überhaupt beide echt?
Maximilian Göß: Reden wir jetzt mit der KI? Ist der eine von uns eine KI oder nicht?
Maximilian Göß: Dann haben wir uns ja so ein bisschen kennengelernt, haben über Innovation gesprochen,
Maximilian Göß: was auch gerade alles so schief läuft.
Maximilian Göß: Über das Thema Führung, die Probleme in der Kommunikation und zu guter Letzt
Maximilian Göß: ja auch über unsere wunderbar geschätzten Mittelmanagement-Orgs.
Maximilian Göß: Und das waren bisher alles sehr harte Themen und deswegen würde ich auch gerne
Maximilian Göß: bei einem harten Thema bleiben und ich würde gerne nur mal am Rand einfach mal
Maximilian Göß: kurz dieses Thema vom Fall Ulmen Fernandes ganz kurz aufgreifen.
Maximilian Göß: Nicht in dem Fall eine Schuldfrage zu klären, das steht uns als Menschen nicht
Maximilian Göß: zu, das ist Sache von Gerichten.
Maximilian Göß: Was mich mehr so interessiert und warum ich mit dir darüber reden möchte,
Maximilian Göß: zum einen, warum trifft dieser Fall gerade so einen Nerv? Sie sehen es ja auch
Maximilian Göß: gerade bei der ganzen Geschichte um den Wal-Timmy.
Maximilian Göß: Da waren ja so ähnliche Instrumente von uns Menschen, psychologischer,
Maximilian Göß: gesellschaftlicher Sicht ja aktiv, jetzt ja bei dem Thema auch.
Maximilian Göß: Weil wir jetzt an Themen angekommen sind, wo wir uns auch fragen müssen,
Maximilian Göß: das, was wir zeigen oder worüber wir reden oder was wir sehen,
Maximilian Göß: es betrifft ja unsere Identität, unsere Stimme, das Gesicht,
Maximilian Göß: den kompletten Körper und ja auch das Vertrauen in, naja, alles.
Maximilian Göß: Weil so gesehen ist ja alles technisch manipulierbar und gerade hier ist das
Maximilian Göß: ja jetzt beim Fall Ullmann auch klar ein Deepfake,
Arno Selhorst: So wie man das ja nennt.
Maximilian Göß: Bevor wir jetzt über Deepfakes reden, müssen wir gleich erst mal erklären, was das ist.
Maximilian Göß: Arno, was genau sind eigentlich Deepfakes?
Arno Selhorst: Ja, also leitet sich eigentlich ab von Deep Learning.
Arno Selhorst: Also Deep Learning-Modelle werden verwendet, also KI-Modelle,
Arno Selhorst: Deep Learning-Modelle werden verwendet, um sehr realistische,
Arno Selhorst: aber eben synthetische Darstellungen von Menschen, Objekten oder Ereignissen
Arno Selhorst: zu erzeugen. Da haben wir nachher auch ein paar Beispiele für.
Arno Selhorst: Die Deepfakes, wie sie heute erstellt werden, sind deswegen so heikel oder werden
Arno Selhorst: jetzt immer auch populärer in Anführungsstrichen, auch im Mainstream,
Arno Selhorst: weil sie immer einfacher erstellbar sind, zu erstellen sind.
Arno Selhorst: Also wir hatten früher viele Deepfakes,
Arno Selhorst: die ganz kompliziert zu erstellen waren. Das war sehr schwierig.
Arno Selhorst: Man brauchte sehr starke Rechenleistung. Man brauchte schon ein bisschen Verständnis
Arno Selhorst: darüber, was man da so gerade macht, auch IT-technisch, auch programmiertechnisch.
Arno Selhorst: Man musste Ahnung haben von Medien, wie man die einsetzt, wie welche Positionen
Arno Selhorst: gut sind, gerade beim Video oder bei Fotos.
Arno Selhorst: Bei Audio musste man schon Ahnung haben, wie man Sprache digital verarbeitet.
Arno Selhorst: Das muss man heute alles nicht mehr. Heute reicht ein handelsüblicher PC,
Arno Selhorst: Gaming-PC mit einer guten Grafikkarte drin.
Arno Selhorst: Und fürs Deepfaken von Stimme, zum Beispiel, wenn ich jetzt Max deine Stimme
Arno Selhorst: faken wollte, könnte ich das bei mir mit ungefähr 5 bis 15 Sekunden deiner Stimme
Arno Selhorst: machen und hätte eine perfekte Max-Stimme geklont.
Arno Selhorst: Und zwar nicht irgendwie über einen großen Cloud-Server oder draußen,
Arno Selhorst: sondern auf meinem Rechner.
Maximilian Göß: Eigentlich erschrecken, dass 15 Sekunden reichen. Ich meine,
Maximilian Göß: allein mit unseren Podcast-Folgen könntest du uns jetzt praktisch so perfekt
Maximilian Göß: nachmachen, dass wir es selbst wahrscheinlich gar nicht mehr merken würden. Ja, also überleg mal,
Arno Selhorst: Ich habe vor einem Jahr dasselbe Experiment gemacht und da brauchte ich noch
Arno Selhorst: ungefähr 25 Minuten einer Stimme und habe die in meinem Computer,
Arno Selhorst: um ein Modell anzupassen auf diese Stimme,
Arno Selhorst: das ganze Wochenende meinen Rechner laufen lassen, also Tag und Nacht,
Arno Selhorst: damit der im Grunde dieses Modell berechnet.
Arno Selhorst: Und heute schmeiße ich 15 Sekunden Sound-Schnipsel in ein Tool rein,
Arno Selhorst: das ich hier auf dem Rechner laufen habe und die Stimme kommt sofort,
Arno Selhorst: die wird sofort gefakt, also mit einem Knall.
Arno Selhorst: Dann muss ich nur noch Text eingeben, was die sprechen soll und dann spricht die das.
Arno Selhorst: Jetzt überleg mal, ich bin ja jetzt einer, der, sage ich mal,
Arno Selhorst: noch einigermaßen aufklärerisch unterwegs ist, der Menschen ein bisschen aufklären,
Arno Selhorst: wachrütteln will, der gerne experimentiert und so weiter ohne niedere Absichten.
Arno Selhorst: Jetzt überleg dir aber mal, und das ist ein kleiner Rechner,
Arno Selhorst: jetzt überleg dir mal Leute, die einen guten Rechner haben oder die vielleicht
Arno Selhorst: eine ganze Serverfarm haben,
Arno Selhorst: die vielleicht nicht so nett eingehangen sind wie meiner eine und die vielleicht
Arno Selhorst: auch das Experimentieren treibt, sondern die wirklich mit finanziellen oder
Arno Selhorst: machttechnischen Dingen unterwegs sind,
Arno Selhorst: vielleicht auch smartere AI noch haben dazu, die gehen natürlich ganz anders damit um.
Maximilian Göß: Also wenn du das jetzt so sagst, muss ich sagen, Gott sei Dank bin ich froh,
Maximilian Göß: wenn ich noch eine Spam-Mail kriege, wo ein nigerianischer Prinz einfach sagt,
Maximilian Göß: hey, überweise mir 1000 Euro und dann bekommst du eine Million von mir.
Maximilian Göß: Das ist ja noch, das ist ja schon fast die wunderbare Welt.
Arno Selhorst: Ja, auf die Millionen warten wir alle noch.
Maximilian Göß: Aber gut, zumindest war da ja eine Storyline dahinter. Ich, der wichtige nigerianische
Maximilian Göß: Prinz und bitte hilf mir, wenn du mir jetzt das gibst, dann kriegst du ganz
Maximilian Göß: viel zurück. Da war ja zumindest noch Inhalt da.
Maximilian Göß: So heute reichen jetzt beim Voice Cloning also 15 Sekunden. Das hat ja auch
Maximilian Göß: ganz unterschiedliche Aussagen.
Maximilian Göß: Also beim Qual Ulmen geht es ja jetzt um sexualisierte Deepfakes,
Maximilian Göß: also Fake-Pornos, Deep-Nudes.
Maximilian Göß: Also sozusagen Angriff auf die Würde des Menschen, Selbstbestimmung, dessen Ruf.
Maximilian Göß: Beim Voice Cloning machst du Also Betrug, Erpressung, kannst ja Leute sozusagen schocken.
Maximilian Göß: Dann hatten wir ja immer noch, es gibt ja dieses Social Engineering nennt sich
Maximilian Göß: das, kannst ja wunderbar dann Business Frauds machen.
Maximilian Göß: Also der CEO meldet sich und ich brauche jetzt ganz dringend sehr viel Geld,
Maximilian Göß: aber ich bin dein CEO und damit hast du zu liefern.
Maximilian Göß: Die Drohgebärde funktioniert dann auch ganz gut.
Arno Selhorst: Da gab es übrigens mal einen spannenden Fall. Da interessiert sich der Arup Hongkong-Scam.
Arno Selhorst: Da wurden Mitarbeitende von einem Unternehmen dazu gebracht,
Arno Selhorst: 25 Millionen Dollar an die Betrüger zu überweisen.
Arno Selhorst: Das Problem war ein bisschen, dass die dachten, die hätten ihrem echten CEO
Arno Selhorst: das in England überwiesen.
Arno Selhorst: Sprich, die wurden in Hongkong angesprochen, die wurden in eine Videokonferenz eingeladen.
Arno Selhorst: Da saß dann tatsächlich ihr CEO vor ihnen.
Arno Selhorst: Und die ganzen anderen Personen drumherum, also es war eigentlich nur eine Person,
Arno Selhorst: die betrogen wurde und die hat die 25 Millionen überwiesen und alle anderen
Arno Selhorst: drumherum waren Fake AIs, also AI-Personas.
Arno Selhorst: Und jetzt stell dir mal vor, du kommst als Mitarbeitender an einem Freitagspätnachmittag
Arno Selhorst: in so eine Videokonferenz, dein CEO sitzt dir gegenüber, hoch aufgebracht,
Arno Selhorst: sehr dringlich, alles muss ganz schnell gehen natürlich, es sind immer rote
Arno Selhorst: Flaggen natürlich, sowas sollten rote Flaggen sein, aber es ist ganz dringlich.
Arno Selhorst: Und dann sitzen aber nicht nur er da, sondern noch drei, vier andere,
Arno Selhorst: die auch aus dem Board sind und drängen jetzt auf diesen Mitarbeitenden ein.
Arno Selhorst: Und die ganze Situation ist übrigens sehr plausibel gewesen.
Arno Selhorst: Es war schon plausibel, dass der da vorgeladen wurde und mit denen gesprochen
Arno Selhorst: hat, aber es waren halt alle fünf, also der CEO plus diese vier Mitarbeitenden waren alles Fakes.
Arno Selhorst: Und das Verrückte ist, so die Zeitungsartikel dazu, die haben sogar sich untereinander unterhalten.
Speaker2: Und dann wieder
Arno Selhorst: Mit dem Kollegen gesprochen, der als einziger echter Mensch da drin war.
Arno Selhorst: Und das ist natürlich so, ich sag mal, die Krone des Betrugs im Moment,
Arno Selhorst: oder das war jetzt 24 übrigens, nicht dieses Jahr, sondern 24,
Arno Selhorst: vor zwei Jahren war das der Betrugsfall.
Arno Selhorst: Da muss aber viel vorbereitet werden, das kann man nicht mal so eben machen.
Speaker2: Das zeigt auch ganz gut,
Arno Selhorst: Welch immense kreative, kriminelle Energie da mittlerweile reinfließt in sowas.
Arno Selhorst: Und meine Vermutung ist auch, dass das eben das Werk jetzt auch vom organisierten Verbrechen war.
Arno Selhorst: Das war jetzt nicht irgendwie so ein Max oder ein Arno, die dachten,
Arno Selhorst: das ist ja mal ganz lustig, so ein Unternehmen die Haut über die Ohren zu ziehen,
Arno Selhorst: sondern das war richtig lang geplant.
Arno Selhorst: Da mussten Menschen ausgekundschaftet werden, perfekte Opfer gefunden werden und und und.
Arno Selhorst: Aber der Arup Hongkong Scam ist für mich ein Paradebeispiel dafür, wie das funktioniert.
Arno Selhorst: Und übrigens, ich habe es selber erlebt, auf LinkedIn wurde ich tatsächlich
Arno Selhorst: von einem gediebfähigten CEO des Unternehmens angesprochen, bei dem ich arbeite.
Arno Selhorst: Und der wollte mich dann in eine WhatsApp-Gruppe hineinziehen und sage,
Arno Selhorst: hier, ich muss mal mit dir reden, Arno.
Arno Selhorst: Und ich wusste, dass das auf keinen Fall unser CEO wirklich sein kann.
Arno Selhorst: Ich habe mir dann die LinkedIn-Präsenz angeguckt und habe gesehen,
Arno Selhorst: das war irgendwie völlig schattenhaft, was da gezeigt wurde auf LinkedIn von dieser Person.
Arno Selhorst: Und letzten Endes habe ich unserer Security den Fall weitergegeben und die ist
Arno Selhorst: dann testweise in diese Videokonferenz reingegangen und hat mal sich angeguckt,
Arno Selhorst: was denn da so gemacht wird.
Arno Selhorst: Die wussten ja Bescheid, die wussten ja, dass das alles nicht koscher ist und
Arno Selhorst: haben mir danach noch mal gedankt, dass ich das denen geschickt habe,
Arno Selhorst: weil tatsächlich war dann ein Fake-CEO da und wollte dann eben von den anwesenden
Arno Selhorst: Geld haben und die sollen das dann möglichst ganz schnell überweisen.
Maximilian Göß: Das war aber wohl auch so. Das war echt ein Fake-Tim?
Arno Selhorst: Das war ein Fake, ja genau, das war ein Fake-CEO, das war tatsächlich so und
Arno Selhorst: der war auch dann recht eloquent, auch stimmentechnisch wohl relativ ähnlich,
Arno Selhorst: aber nicht ganz, aber da waren halt
Arno Selhorst: viele Pointer, die in Richtung gezeigt hatten, das ist nicht der echte.
Arno Selhorst: Allein schon die Tatsache, niemand würde mich aus so einer Ebene anchatten auf
Arno Selhorst: LinkedIn und fragen, kannst du mal in WhatsApp-Chat kommen?
Arno Selhorst: Nie im Leben. Und da muss man ein bisschen seinem Bauchgefühl erfolgen.
Arno Selhorst: Also ist ja schön, wenn man die Ehre hat, mit einem CEO zu reden.
Arno Selhorst: Aber jetzt mal ganz ehrlich, ist das real?
Arno Selhorst: Nee, wahrscheinlich nicht. Kneif mich und ich kann dir sagen,
Arno Selhorst: nein, das ist alles nur Traum.
Arno Selhorst: Und in dem Fall war es halt auch so und ich habe das direkt auch für mich durchschaut.
Arno Selhorst: Ich glaube aber, dass die größere Gefahr, Max, ja da drin liegt,
Arno Selhorst: dass es Menschen wortwörtlich wie du und ich sind.
Arno Selhorst: Das sind also dann Menschen, die vielleicht deine direkten Kollegen oder nur ein Vorgesetzter,
Arno Selhorst: ein Level über dir ist oder so oder unter dir oder was auch immer,
Arno Selhorst: dass da so ein möglichst doch plausibles Szenario entsteht und ich wette,
Arno Selhorst: dass da viel mehr in Anführungsstrichen ein Deepfake-Umsatz gemacht wird mit
Arno Selhorst: Unternehmensbetrug als so völlig absurde Aktionen wie jetzt ruft dich der CEO
Arno Selhorst: an und Arno, der muss jetzt mit dir reden.
Arno Selhorst: Das ist so auffällig falsch, das kann gar nicht sein.
Arno Selhorst: Da würde ich sagen, da sind viele sicher, wenn man sich einigermaßen den Kopf
Arno Selhorst: auf den Schultern behält und nicht völlig abgehoben wird und denkt,
Arno Selhorst: oh, der CEO will mich sprechen.
Arno Selhorst: Aber diese kleinen Dinge in der gleichen Hierarchieebene drüber oder drunter
Arno Selhorst: vielleicht auch, das halte ich schon für wahrscheinlicher, dass man sich davon
Arno Selhorst: schnell, wenn man nicht aufpasst, übers Ohr hauen lässt.
Maximilian Göß: Jetzt fällt mir gerade ein, weil wir dieses Thema jetzt hatten,
Maximilian Göß: ich erinnere mich noch an so Videos, beziehungsweise beim letzten Video-Ident-Verfahren,
Maximilian Göß: das ist noch gar nicht so lange her, hat man das auch verlangt.
Maximilian Göß: Und ich habe mich ja ein bisschen gewundert, weil da war die Aufgabe,
Maximilian Göß: nimm bitte deine Hand, so war das ja auch bei den Bewerbungsgesprächen,
Maximilian Göß: nimm deine Hand und fahre praktisch so direkt mit der Hand über dein Gesicht
Maximilian Göß: von unten nach oben, von oben nach unten.
Maximilian Göß: Da dachte ich mir so, okay, also ich nehme an, das hat wahrscheinlich vor drei
Maximilian Göß: Jahren super funktioniert, aber wenn du mir das vorhin erzählst,
Maximilian Göß: vorher 25 Minuten, jetzt 15 Sekunden,
Maximilian Göß: gerade bei Videocalls und der, ich nenne es mal Verifikation oder jetzt dem
Maximilian Göß: CEO-Fraud, klappt das überhaupt noch, wenn ich hier mein Händchen mal so hoch und runter mache?
Arno Selhorst: Nee, eigentlich nicht mehr. Also ähnlich ist das in den USA, habe ich Fälle gelesen,
Arno Selhorst: Da haben Jugendliche Altersgrenzen umgehen wollen und haben dann im Grunde mit
Arno Selhorst: Deepfake-Tool sich selber ein anderes Gesicht gegeben und haben dann genauso
Arno Selhorst: Videoident gemacht und konnten dann, keine Ahnung,
Arno Selhorst: bei verschiedenen Games zum Beispiel trotzdem die Spiele spielen,
Arno Selhorst: obwohl sie nicht 16 waren oder 18.
Arno Selhorst: Und das haben Kids gemacht, also nicht irgendwelche Eierköpfe im Labor,
Arno Selhorst: die sich irgendwelche smarte Software hingelegt haben, sondern Jugendliche,
Arno Selhorst: die einfach wissen, wo sie was finden.
Arno Selhorst: Und das ist halt jetzt, das meine ich, mit in den Mainstream gekommen.
Arno Selhorst: Das macht jetzt jeder hin zu Kunst, kann jetzt alle möglichen Fakes machen.
Arno Selhorst: Ich habe damals, lustigerweise, kann man hier ganz gut mal anbringen,
Arno Selhorst: eine Magisterarbeit geschrieben an der Uni Bonn über das Thema letzten Endes,
Arno Selhorst: dass ich sage, die Wirklichkeit ist nichts anderes als ein Special Effect.
Arno Selhorst: Also ich habe Medienanalyse gemacht und habe dann herausgefunden,
Arno Selhorst: eigentlich wird Realität, die Wirklichkeit, so in Szene gesetzt,
Arno Selhorst: wie man einen Special Effect nutzt.
Arno Selhorst: Und das hat sich mittlerweile bestätigt, weil nichts anderes sind die Deepfakes, die wir heute sehen.
Arno Selhorst: Das sind Special Effects. Das sind halt, ich könnte jetzt dein Gesicht nehmen
Arno Selhorst: und irgendwo anders einbauen und niemand wird es merken.
Arno Selhorst: Das ist also ein Special-Effekt, den ich digital anwende, um dein Gesicht in
Arno Selhorst: eine andere Szene zu packen oder deinen Körper oder was auch immer.
Arno Selhorst: Und diese Möglichkeiten hat es halt zu der Zeit, als ich die Magistarbeit geschrieben
Arno Selhorst: habe, sowieso noch nicht gegeben, davor auch nicht.
Arno Selhorst: Da brauchtest du noch ganze Special-Effekt-Studios à la Hollywood, in denen das ging.
Arno Selhorst: Wir haben ja uns eben auch ein Video angeguckt, da kommen wir ja gleich nochmal
Arno Selhorst: zu. Chloe, da ist die Protagonistin des Videos, das wir uns gleich vielleicht
Arno Selhorst: auch anschauen wollen, in der Zeit der Dinosaurier.
Arno Selhorst: Und ich musste so ein bisschen an den Film denken, wie hieß er nochmal mit den Dinosauriern?
Arno Selhorst: Jurassic Park. Jurassic Park. Und ich weiß noch, damals, als ich den im Kino
Arno Selhorst: gesehen habe, wie krass das war, die stehen dann von diesem Range Rover auf,
Arno Selhorst: diesem Geländewagen und gucken dann in die Ferne, wo dann diese riesigen Dinosaurier rumlaufen.
Arno Selhorst: Das war mega schwierig, diese Special Effects zu machen. Ich habe ein Making-of
Arno Selhorst: gesehen, total komplex.
Arno Selhorst: Und jetzt macht das mal eben so ein YouTuber am Wochenende für ein lustiges
Arno Selhorst: Video, in dem eine Frau in die Vergangenheit gereist ist und sich die Dinosaurier anguckt.
Arno Selhorst: Ich meine, überleg mal, wie krass ist das?
Maximilian Göß: Es heißt jetzt zum einen, diese Schwelle für, ich nenne es mal,
Maximilian Göß: um kriminelle Menschen,
Maximilian Göß: Energie überhaupt aufzuwenden, ist jetzt praktisch um das X-Fache gesunken.
Maximilian Göß: Dann nicht nur die Schwelle, sondern auch die Möglichkeit, das überhaupt zu tun.
Maximilian Göß: Parallel haben wir immer mehr, ja schon fast, ich kann es ja so sagen, eigentlich Krisen.
Maximilian Göß: Das Beispiel, so beim Ukraine-Krieg hat das ja auch sehr, sehr viel angefangen.
Maximilian Göß: Da gab es doch auch einige Vorkommnisse.
Maximilian Göß: Ich habe das noch irgendwie so ein bisschen im Gedächtnis.
Arno Selhorst: Ja, das war glaube ich 22, da gab es schon das erste Kapitulationsvideo angebliche von Selensky.
Arno Selhorst: Da hat er gesagt, im Grunde, ja, das hat keinen Sinn, ich gebe auf.
Arno Selhorst: War natürlich reinste Propaganda, Propaganda vom Feinsten.
Arno Selhorst: Es gab auch gefälschte Videos von Friedrich Merz.
Arno Selhorst: Im Wahlkampfkontext gab es da was. Scholz wurde gedeepfaked.
Arno Selhorst: Es wurden Nachrichten, ARD-Nachrichtensprecher gefaked.
Speaker2: Ich habe mir mal die Mühe gemacht, ein bisschen zu suchen,
Arno Selhorst: Wo die Leute die Stimmen verdammt nochmal herkriegen. Und es gibt tatsächlich,
Arno Selhorst: oder es gab, es ist schon wieder gelöscht worden, ein Repository,
Arno Selhorst: eine Datensammlung von Deepfake-Stimmen auf Hugging Face.
Arno Selhorst: Hugging Face ist nichts Illegales, es ist eine ganz tolle Sammlung an Modellen
Arno Selhorst: und Dateien für Modelle, für KI-Modelle.
Arno Selhorst: Aber da gab es halt auch einen Ordner, in dem wirklich tausende von Stimmen
Arno Selhorst: waren, von Schauspielern, Politikern und so weiter, die irgendwer da hochgeladen hat.
Arno Selhorst: Und ich muss das so ein bisschen an die Zeit von Napster erinnern und gestohlener
Arno Selhorst: Musik, wo auch dann irgendwie dauernd die Server gewechselt wurden,
Arno Selhorst: damit man ja nicht irgendwie den Benhammer bekommt.
Arno Selhorst: Und jetzt wurden halt da überall diese Stimmen hochgeladen. Es gab mal,
Arno Selhorst: ich glaube 23 war das im Winter, Aufnahmen von Demos,
Arno Selhorst: von irgendwie AfD-Demos, wo dann laut auf Lautsprechern angebliche Entschuldigungsverlautbarungen
Arno Selhorst: von Tagesschausprechern vorgespielt wurden, während die durch die Straßen gezogen sind.
Arno Selhorst: Und das waren natürlich auch gediebfakte Entschuldigungen von ARD-Moderatoren
Arno Selhorst: und Moderatorinnen. Die haben das natürlich nie gesagt.
Arno Selhorst: Die würden sich ja nie dafür entschuldigen, dass sie vernünftigen Journalismus machen.
Arno Selhorst: Aber die AfD, gewusst, gewollt, also Vorsatz oder nicht, haben diese Soundfiles
Arno Selhorst: abgespielt, während sie durch die Straßen marschierten.
Arno Selhorst: Und auch das ist natürlich komplette Instrumentalisierung von Deepfake.
Arno Selhorst: Das sind Dinge, die werden jetzt unser Alltag sein.
Arno Selhorst: Man kann, ohne jetzt zu weit vorauszugreifen, aber man kann jedem und jeder
Arno Selhorst: nur raten, jetzt nicht nihilistisch durch die Welt zu gehen und zu sagen,
Arno Selhorst: alles ist fake, nichts ist wahr.
Arno Selhorst: Aber man muss eine neue Lesart für Medien sich aneignen, vor allen Dingen für Medien.
Arno Selhorst: Und das ist jetzt nicht so Medienunterricht an der Schule, sondern das muss gelebt werden.
Arno Selhorst: Das heißt, wenn ich jetzt irgendwie was sehe, muss ich nicht direkt denken,
Arno Selhorst: das stimmt nicht, aber ich müsste, wenn mich das wirklich interessiert und ich
Arno Selhorst: diese Nachricht, sei sie Bild, Ton oder Video, aufnehme,
Arno Selhorst: dann wäre es eigentlich meine Pflicht zu checken, wenn das für mich relevant
Arno Selhorst: ist, ist das echt oder nicht.
Arno Selhorst: Wenn ich das einfach mit einem Lächeln wegtue und sage, jo, das ist halt irgendwie
Arno Selhorst: was, keine Ahnung, ist mir egal, ob das echt ist oder nicht,
Arno Selhorst: ist es witzig, wenn eine Katze Klavier spielt, okay, verstehe ich.
Arno Selhorst: Oder eine Katze vor einer Tür steht und Geige spielt, bis die Besitzer rauskommen
Arno Selhorst: und sie wegscheuchen und sie die Geige fallen lässt, ist alles super witzig.
Arno Selhorst: Springende Eichhörnchen auf Trampolins im Garten, auch super witzig.
Arno Selhorst: Aber wenn es dann darum geht, dass ich plötzlich Selinski sehe,
Arno Selhorst: der in Tränen vor dem Mikro steht, und sagt, es hat alles keinen Sinn.
Arno Selhorst: Und wenn ich das dann einfach, was ich nicht tun würde, aber gedankenlos an
Arno Selhorst: dich, Max, schicken würde, habe ich genau das getan, was eigentlich auch intendiert
Arno Selhorst: ist von den Menschen, die sowas lostreten, nämlich schön verbreiten,
Arno Selhorst: dass hier jemand etwas getan hat, was er eigentlich nie getan hat.
Arno Selhorst: Und das ist die neue Bürgerpflicht, die alle haben, global, nicht nur die Deutschen,
Arno Selhorst: global, dass wir solchen Dingen nachgehen, uns die Zeit nehmen, das zu analysieren.
Arno Selhorst: Und wenn wir dann wirklich glauben, ja, das ist echt, dann vielleicht nochmal
Arno Selhorst: mit jemandem darüber sprechen, der das nochmal bewertet und dann vielleicht
Arno Selhorst: sich tatsächlich denken, okay, das möchte ich jetzt weiterleiten oder eben auch nicht.
Arno Selhorst: Aber da muss viel, viel mehr, meiner Meinung nach, tiefes Verständnis aufgebaut
Arno Selhorst: werden von dem, was ich da vor mir sehe oder was ich da höre.
Arno Selhorst: Und ich unterstelle jetzt mal, dass das nicht stattfinden wird.
Arno Selhorst: Ich unterstelle eher, dass die meisten Menschen Rückenmarkreaktionen haben und
Arno Selhorst: sagen, das ist ja gerade die Ragekultur, die wir so haben, also schön aufregen,
Arno Selhorst: Skandal aufregen, da zählt übrigens auch diese Ulmensache zu.
Arno Selhorst: Ich will nicht abtun, dass die vielleicht wirklich so passiert ist.
Arno Selhorst: Ich will aber auch sagen, dass Aufregung immer Publikum findet.
Speaker2: Und auch das, diese Ulmensache,
Arno Selhorst: Ist ein typischer Aufreger. Ja, das ist schlimm, wenn das alles wirklich so
Arno Selhorst: passiert wurde, ist das schlimm.
Arno Selhorst: Wir dürfen uns aber nicht davon so mitreißen lassen. Wir müssen solche Sachen
Arno Selhorst: viel neutraler, viel objektiver, viel cooler uns anschauen.
Arno Selhorst: Und dann, wie du es eben ganz richtig gesagt hast, Max, den entsprechenden Stellen
Arno Selhorst: den Zugriff lassen, die darüber zu urteilen haben und zu bewerten haben.
Arno Selhorst: Das ist nun mal gerichtet.
Arno Selhorst: Das ist eine Straftat. Wenn es denn so ist, ist es eine Straftat.
Arno Selhorst: Muss man ganz normal wie alles andere auch bestrafen. Es hilft niemandem,
Arno Selhorst: wenn man das dann rumschickt.
Arno Selhorst: Aber damit bin ich jetzt durch.
Maximilian Göß: Das ist eine wichtige Zusammenfassung, die du gerade gemacht hast.
Maximilian Göß: Zum einen habe ich ja vorhin gesagt, ja, die Schwelle, um überhaupt bösartige
Maximilian Göß: Dinge zu tun, ist jetzt auf einem Level, naja, Ebene minus zwei.
Maximilian Göß: Vorher war es ja immer noch der siebte oder achte Stock.
Maximilian Göß: Dann sehen wir jetzt ja auch ganz klar die Aufregerthematik.
Maximilian Göß: Also Menschen, die wahllos Dinge verschicken, es selbst gar nicht mehr prüfen.
Maximilian Göß: Das heißt, die andere Seite fehlt ja dann im Prinzip.
Maximilian Göß: Das kritische Denken, das kritische Hinterfragen.
Maximilian Göß: Ist das, was ich da sehe, jetzt überhaupt gut? Und dann unsere,
Maximilian Göß: naja, ich nenne es jetzt mal, ist jetzt egal in welchem Fall,
Maximilian Göß: wir sind jetzt identische Muster jetzt ja auch gerade, wo es um den gestrandeten Wal ging,
Maximilian Göß: wo Menschen sich im Netz ja zusammengeführt haben.
Maximilian Göß: Dann gab es wieder Wilde, die dahin und geweint haben und sonst wie.
Maximilian Göß: Man hat es geschafft, extrem viele Wissenschaftler zu überhören.
Maximilian Göß: Gab es ja wieder irgendwelche Streamer oder Influencer, die sich dann wichtiger
Maximilian Göß: gemacht haben, weil die Show ist ja doch wichtiger als alles andere.
Maximilian Göß: Das war so der wunderbare Nebeneffekt.
Maximilian Göß: Das hier interessiert eigentlich keinen, aber ich bin im Netz und wichtig und toll.
Maximilian Göß: Und parallel diese ganze Sache, die,
Maximilian Göß: ich bin kein Jurist, ich kann es nicht rechtlich einschätzen,
Maximilian Göß: aber was ich ja zumindest sehe und aus den Nachrichten und Infos so zusammen
Maximilian Göß: habe, ich meine, okay, in Deutschland dauert es immer ein bisschen länger, das ist ganz normal.
Maximilian Göß: Und gerade wenn wir jetzt über Deepfakes reden, Strafverfolger hatten ja bisher
Maximilian Göß: auch nie wirklich die Möglichkeit, irgendwie das Ganze grifftechnisch zu machen,
Maximilian Göß: wenn dann war es ja eher Beleidigung,
Maximilian Göß: Kunsturheberrecht und andere Vorschriften, die es ja gab.
Maximilian Göß: Also jetzt gibt es ja gerade so die Richtung im Gesetzentwurf,
Maximilian Göß: um sowas überhaupt mal in Richtung digitale Gewalt ja überhaupt zu greifen oder
Maximilian Göß: greifbar möglich zu machen.
Speaker2: Aber wenn wir jetzt
Maximilian Göß: All das jetzt mal so in Summe sehen, und das ist ja doch ein gewisser großer
Maximilian Göß: Knackpunkt aus deiner Sicht,
Speaker2: Was würdest du jetzt so an Tipps geben,
Maximilian Göß: Damit Menschen sagen, wie
Speaker2: Müsste ich denn
Maximilian Göß: Jetzt vorgehen, um mich ja auch selbst zu schützen?
Arno Selhorst: Ja, also wir gehen ja gleich nochmal so ein bisschen auf die Cases rein,
Arno Selhorst: die ein bisschen positiver sind. Wir haben jetzt gerade auch so ein paar Sachen
Arno Selhorst: genommen, die natürlich sehr edgy sind und sehr schwierig.
Arno Selhorst: Gibt es ja auch ganz viel, kommen wir gleich nochmal drauf.
Arno Selhorst: Aber jetzt gerade bei so Deepfakes, die auch negativ sind und so.
Arno Selhorst: Man schützt sich zunächst mal, das ist ganz schwierig, aber ich glaube,
Arno Selhorst: das ist ein ganz wichtiger Punkt, in dem man sich emotional festigt.
Arno Selhorst: Das können Menschen, die ein bisschen gereifter sind, besser als Menschen,
Arno Selhorst: die vielleicht gerade in oder aus der Pubertät kommen, denn die haben auch ein
Arno Selhorst: bisschen andere Probleme gerade am Laufen.
Arno Selhorst: Die lassen sich auch schneller natürlich hinreißen zu verschiedenen emotionalen Reaktionen.
Arno Selhorst: Aber wenn ich mich von etwas, wie auch immer, im Guten, wem Bösen,
Arno Selhorst: im Schlechten, wem Sauren hinreißen lasse, ohne darüber nachzudenken,
Arno Selhorst: überspringe ich halt so das kritische Denken im Hirn und gehe sofort in den
Arno Selhorst: Rückenmarkreflex, was ich eben als Rückenmarkreflex meinte.
Arno Selhorst: Und eine Version oder eine Form, sich gegen Deepfakes zu wappnen,
Arno Selhorst: ist tatsächlich cool zu bleiben, ruhig zu bleiben.
Arno Selhorst: Es ist niemandem geholfen, habe ich eben gesagt, wenn man jetzt da sich riesig
Arno Selhorst: aufregt. Ich glaube, es ist ganz wichtig, erstmal cool zu bleiben und je absurder
Arno Selhorst: und je teilweise auch, Deepfakes können auch extrem brutal sein,
Arno Selhorst: auch visuell ganz schlimm sein.
Speaker2: Da zuckt es einem zusammen und der Magen geht runter.
Arno Selhorst: Merkt man, wie das Blut in den Magen schießt, wenn man so geschockt ist.
Arno Selhorst: Und man hat dummerweise sich gar nicht darauf vorbereiten können,
Arno Selhorst: dass plötzlich so ein bescheuertes Video einem in die Timeline gespült wird. Das kann passieren.
Arno Selhorst: Deswegen übrigens Jugendliche und so weiter und Internet, anderes Thema.
Arno Selhorst: Und wenn ich dann so einen Defect sehe, das mich dermaßen weghaut,
Arno Selhorst: dann, das ist zumindest meine Erfahrung, hilft es immer, wenn man sagt,
Arno Selhorst: weißt du was, die wollen genau diese Knöcke drücken, damit man so reagiert.
Arno Selhorst: Ein guter Filmemacher, also ich werde nie vergessen, als ich Requiem for a Dream
Arno Selhorst: gesehen habe, ich muss es nochmal sagen, ich habe den Film nur dreiviertel gesehen,
Arno Selhorst: da musste ich raus, ich habe den nicht ausgehalten, weil der so gut war.
Arno Selhorst: Aber der war gut grausam, der war halt sehr, sehr gut gemacht technisch,
Arno Selhorst: aber das Thema war so brutal, dass ich sagte, das halte ich einfach nicht aus.
Arno Selhorst: Ich werde den wahrscheinlich auch nie mehr wiedersehen, den Film.
Arno Selhorst: Aber wäre der nicht handwerklich so gut gewesen, hätte der ja nicht diese Knöpfe
Arno Selhorst: gefunden, die er da drücken muss, um mich so reagieren zu lassen,
Arno Selhorst: wie ich dann menschlich, körperlich, psychisch reagiert habe.
Arno Selhorst: Und das ist bei Deepfakes Programm.
Arno Selhorst: Deepfakes, die eine bestimmte Absicht haben, wie finanziellen Betrug oder politische
Arno Selhorst: Meinungsmache, Propaganda, die drücken ja genau auf diese Knöpfe,
Arno Selhorst: damit das reflektive, kritische Denken ausgeschaltet.
Speaker2: Und übersprungen wird.
Arno Selhorst: Und deswegen ganz wichtig als allererstes, wenn du fragst, was soll man,
Arno Selhorst: was macht man gegen Deepfakes, sich selber kurz mal checken,
Arno Selhorst: reagiere ich jetzt aus dem Bauch raus, aus dem Rückenmark oder reagiere ich,
Arno Selhorst: weil ich darüber erstmal ein bisschen nachgedacht habe. Das ist schwer,
Arno Selhorst: aber das kann man auch üben.
Arno Selhorst: Man muss ja deswegen kein gefühlloses Stück Stein werden. Also man ist ja trotzdem
Arno Selhorst: ein Mensch und man darf auch Emotionen haben.
Arno Selhorst: Aber fragt euch einfach mal, warum ist dieses Stück Medium jetzt so gebastelt,
Arno Selhorst: wie es gebastelt ist? Was will das denn erreichen bei mir?
Arno Selhorst: Und oh, bei mir klingelt irgendwas drin. Offenbar hat es da was angetingelt. Und warum genau das?
Arno Selhorst: Sei es Fremdenhass, sei es Hass auf größere Gruppen, was auch immer.
Arno Selhorst: Hass auf Frauen, Hass auf Männer, Hass auf Kinder, Hass auf Hunde, völlig egal.
Arno Selhorst: Neid, solche Sachen, die werden gerne benutzt, Menschen gegeneinander ausspielen,
Arno Selhorst: Technologien verteufeln, übrigens auch KI verteufeln, das ist auch Blödsinn.
Arno Selhorst: KI in den Himmel heben, genauso, finde ich auch bescheuert, aber überall,
Arno Selhorst: wo ihr so im Bauchgefühl wisst, ah, irgendwie ist da,
Arno Selhorst: das geht bei mir so rein, also Mist, ich muss ja nicht mal drüber nachdenken,
Arno Selhorst: ich reagiere sofort, fast vielleicht körperlich, vielleicht kriegt man schwitzige
Arno Selhorst: Hände, oder läuft es einem wortwörtlich kalten Rück runter, das ist immer so ein Marker.
Arno Selhorst: Und ansonsten gibt es viele technische Dinge, also genau, Genau,
Arno Selhorst: also zum Beispiel Bildbearbeitung.
Arno Selhorst: Guckt mal, ob die Perspektive stimmt, ob die Schatten richtig fallen.
Arno Selhorst: Und da gibt es ganz viele Sachen. Bei Videos bewegt sich der Adernapfel,
Arno Selhorst: gerade bei Männern, wenn die Leute sprechen.
Arno Selhorst: Zucken die, blinken die Menschen mit den Augen. Auch ganz interessant,
Arno Selhorst: manche tun das gar nicht. Ist die Stimme synchron mit dem Mund?
Arno Selhorst: Hat der die Zähne immer anders jedes Mal, wenn er den Mund aufmacht?
Arno Selhorst: Sehen die immer anders aus, die Zähne? Ganz interessant.
Arno Selhorst: Hat der vernünftig viele Finger an den Händen? Das ist mittlerweile fast schon
Arno Selhorst: oldschool, aber das ist auch noch ein Punkt. Da gibt es ganz viele Sachen.
Maximilian Göß: So, das ist ja schon mal gut, dass ich mich zumindest so ein bisschen schützen
Maximilian Göß: kann oder zumindest auch weiß, worauf ich drauf achten muss.
Maximilian Göß: Ist ja auch ganz wichtig, dass wir nicht immer nur über das Negative reden.
Maximilian Göß: Hast du, ich nenne es mal bewusst, positive Deepfakes, wo das Ganze ja auch
Maximilian Göß: mal sinnvoll, gut und nützlich ist?
Maximilian Göß: Ich meine, klar, wir sind Menschen, wir machen immer erstmal irgendeine Shitshow
Maximilian Göß: und machen immer das Schlechteste, weil hey, wir sind Menschen,
Maximilian Göß: wir könnten ja einfach mal gute Dinge tun, aber das wäre viel zu einfach.
Maximilian Göß: Das ist ja leider der Klassiker, wir sehen es ja auch in der heutigen Welt eh
Maximilian Göß: sowieso, jeden Tag, jede Minute.
Maximilian Göß: Aber es gibt ja trotzdem auch die guten Dinge und deswegen will ich die auch
Maximilian Göß: unbedingt hervorheben, weil auch wenn es wenige sind, aber lass uns doch mal
Maximilian Göß: über die guten Dinge sehen.
Maximilian Göß: Was wären so deine guten AI Beispiele für Deepfakes?
Arno Selhorst: Also ein gutes Beispiel für Deepfakes ist zum Beispiel, wenn du mich siehst
Arno Selhorst: auf einem Sprungbrett an einem
Arno Selhorst: Swimmingpool und dann springe ich rein und springe in einen Haufen Geld.
Arno Selhorst: Das wäre richtig cool, das wäre ein schön... nein Quatsch. Also gute Anwendungen.
Arno Selhorst: Ja, Dagobert. Da hatte ich gerade so im Kopf einen schönen Dagobert.
Arno Selhorst: Nee, aber jetzt mal ernsthaft. Es gibt tolle Anwendungen für KI.
Arno Selhorst: Habe ich letztens noch mit meiner Frau ein ganz tolles YouTube-Video gesehen,
Arno Selhorst: in dem ein Mensch mal die alte Zeit in Köln, als der Kölner Dom noch nicht gebaut
Arno Selhorst: war, also als der gerade im Bau war, dokumentiert hat.
Arno Selhorst: Und das Tolle ist, dieser YouTuber ist tatsächlich selber dann als Person durch
Arno Selhorst: diese alte Köln gelaufen und hat dann, während er durch die Stadt ging,
Arno Selhorst: im Grunde so ganz beiläufig erzählt, wie sich jetzt Köln gerade auf den Kölner
Arno Selhorst: Dom vorbereitet, wie die Kirche da involviert ist.
Arno Selhorst: Sie ist ja im Grunde eine eigene Bank gewesen, ein Institut da und erklärt im
Arno Selhorst: Grunde sehr gut recherchiert die Zeit, wie sie damals so war zu Köln.
Arno Selhorst: Und ich fand das so toll, dass man jetzt durch Diebfax im Grunde als moderner
Arno Selhorst: Mensch durch die Städte oder durch die Zeiten gehen kann, dass ich mir das nochmal mehr angeguckt habe.
Arno Selhorst: Da gibt es dann auch, hatte ich dir, glaube ich, mal gezeigt,
Arno Selhorst: wie hieß sie nochmal, Joey.
Arno Selhorst: Oder Zoe's Lauf durch die Geschichte, ich gucke mal gerade, nee,
Arno Selhorst: Chloe war es, Chloe, genau.
Arno Selhorst: Die hat einen YouTube-Kanal, Chloe vs. History, können wir in den Shownotes
Arno Selhorst: auch mal verlinken, glaube ich.
Arno Selhorst: Chloe vs. History auf YouTube. Und die geht dann auch durch die verschiedenen
Arno Selhorst: Zeitalter, die hat nicht so viele komplette Videos, sondern eher so Shorts veröffentlicht,
Arno Selhorst: in denen sie mal zeigt, was man so machen kann.
Arno Selhorst: Mit Deepfaking und ja, also einem positiven Aufschlag.
Arno Selhorst: Nämlich dann zu sagen, ich erkläre euch jetzt mal zum Beispiel,
Arno Selhorst: wie es damals in Ägypten bei den Pharaonen aus oder diese, was ich eben erzählt
Arno Selhorst: habe, diese Reise zu den Dinosauriern.
Arno Selhorst: Dann erzählt sie, wie es zur Zeit im alten Rom war.
Arno Selhorst: Geht zu den Eingeborenen, den Native Americans in den USA, als noch nicht die Siedler da waren.
Arno Selhorst: Oder reist mal eben 10.000 Jahre vor Christi in die Steinzeit.
Arno Selhorst: Also richtig toll und diese verschiedenen Eindrücke, die man dann so von ihr
Arno Selhorst: mitbekommt, die pfeffert sie immer mit unheimlich viel Humor,
Arno Selhorst: weil sie ist halt so ein Influencer aus der Neuzeit,
Arno Selhorst: ungefähr so in ihren Zwanzigern gerade und hält natürlich die Kamera immer schön im Selfie-Look.
Arno Selhorst: Kommentare, muss man zwangsläufig schmunzeln und man sieht quasi,
Arno Selhorst: wie viel Liebe zum Detail und wie viel Mühe in solche Fake-Videos gesteckt wird,
Arno Selhorst: um Menschen für Geschichte und für Ereignisse aus der Geschichte zu begeistern, zu interessieren.
Arno Selhorst: Ob jetzt die Person, die da abgebildet ist, wirklich auch die Person ist,
Arno Selhorst: die den Kanal macht, steht auf einem anderen Blatt, das ist wieder dann Faking,
Arno Selhorst: hoch 1, hoch 5, aber grundsätzlich ist das ein sehr schönes Beispiel dafür,
Arno Selhorst: wie man eben auch Deepfakes nutzen kann.
Arno Selhorst: Überhaupt, wenn du dir anguckst, was so, sag ich mal, im künstlerischen Bereich
Arno Selhorst: mit Deepfakes gemacht wird. Das ist spannend.
Arno Selhorst: Es gibt zum Beispiel Dali Lives. Das ist im Dali-Museum eine Deepfake-Installation,
Arno Selhorst: in der man Salvador Dali als interaktives Exponat erleben kann,
Arno Selhorst: wie er dann über die Sachen spricht, über seine Kunst spricht. Sehr, sehr spannend.
Arno Selhorst: In dem wurde natürlich viel auch sein Charakter reingebaut. Dann erlebt er nicht mehr logischerweise.
Arno Selhorst: Und da anschließend, es gibt auch, wo ich ein bisschen zwiegespalten bin,
Arno Selhorst: aber Trauerarbeit, die erleichtert wird durch Deepfakes.
Arno Selhorst: Wenn Menschen verstorben sind, lässt man sie im Grunde durch Deepfake nochmal aufnehmen.
Arno Selhorst: Da gibt es einen sehr spannenden Fall von 25 im Mai, also ungefähr vor einem Jahr war das.
Arno Selhorst: Das ist das Arizona-Pelkey-Impact-Statement. Da hat eine Familie ein KI-Video
Arno Selhorst: ihres Verstorbenen, das Chris Pelkey, erschaffen, um vor Gericht ein Opferstatement
Arno Selhorst: zu bringen, durch seine Lippen.
Arno Selhorst: Also der hat im Grunde dann vor Gericht nochmal ausgesagt als Opfer, als Mordopfer.
Arno Selhorst: Und das hat natürlich in den Medien noch Wellen geschlagen, dass ein Mordopfer
Arno Selhorst: nochmal vor Gericht aussagt.
Arno Selhorst: Es war für die Geschworene natürlich eine extreme Emotionalisierung,
Arno Selhorst: hat aber auch der Familie dabei geholfen, Trauerarbeit für sich zu leisten und
Arno Selhorst: Dinge abzuschließen und den Schlüssel umzudrehen zu dem Kapitel.
Arno Selhorst: Aber auch ein sehr, sehr spannender Fall.
Arno Selhorst: Überhaupt, auch in der Forensik kann man natürlich sehr, sehr gut sowas nutzen,
Arno Selhorst: also gerichtliche Dinge, wo dann ganz klar natürlich ausgewiesen wird,
Arno Selhorst: dass das Fakes sind, aber damit können sich Menschen, Richter und Geschworene
Arno Selhorst: sehr gut Situationen vorstellen.
Maximilian Göß: Also gerade in der Forensik kann das sehr spannend sein, was mich aber doch
Maximilian Göß: ein bisschen überrascht. Aber gut, sind die USA, da sind solche Dinge möglich.
Maximilian Göß: Dass ein Opfer als, naja, AI aussagt zu dem, was passiert ist.
Arno Selhorst: Wild, wild.
Maximilian Göß: Aber das mit Chloe, das beschäftigt mich. Hast du mal Lust, dass wir da mal ganz kurz reinhören?
Arno Selhorst: Ja klar, also wir können ja mal schauen, was wir da an interessanten Videos haben.
Arno Selhorst: Die Videos in der Steinzeit sind ein bisschen doof, weil da niemand spricht.
Arno Selhorst: Übrigens, sie spricht eigentlich die ganze Zeit. Ich würde sagen,
Arno Selhorst: wir gehen mal ins alte Rom. Das fand ich ganz spannend.
Maximilian Göß: Oder machen wir das mal? Ich hole mir das mal her.
Maximilian Göß: Also für euch, die natürlich da jetzt ganz neugierig sind, ihr kriegt es da
Maximilian Göß: natürlich auch in den Shownotes zur Verfügung gestellt.
Maximilian Göß: Da könnt ihr auf den Link klicken und euch das mal bei YouTube angucken.
Arno Selhorst: Die reale Sachen, nicht die... Da ist ein Goat. Da ist ein Goat. Auf der Helle.
Arno Selhorst: So welcome to Rome in the year 44 AD. And as you can see, this is no four seasons.
Arno Selhorst: It absolutely stinks in here. Also, I have been sleeping on an actual stone
Arno Selhorst: slab, like not firm, stone.
Arno Selhorst: I did not sleep. I would normally do a bathroom tour right now, but this is what I get.
Arno Selhorst: I am simply going to acknowledge that it exists, that Romans were very practical
Arno Selhorst: people. And yeah, moving on. So outfit check.
Arno Selhorst: It's giving ancient Rome. I'm into it.
Maximilian Göß: Hast du gerade gemerkt, wie als sie die Bar-Droom-Tour machen wollte und das
Maximilian Göß: Handy sich rumgedreht hat, das könnt ihr natürlich nicht sehen,
Maximilian Göß: aber hast du gemerkt, wie sich die Tonqualität verändert hat,
Maximilian Göß: weil die Mikroposition eine andere war? Das war crazy.
Arno Selhorst: An sowas zu denken, ne?
Maximilian Göß: Wahnsinn. Das wäre sogar
Arno Selhorst: Mir nicht mehr.
Maximilian Göß: Eingefallen, obwohl ich ganz lange bei der ARD gearbeitet habe,
Maximilian Göß: aber darauf, ja, die Continuity wäre stolz auf jeden Fall.
Arno Selhorst: Die können das halt sehr gut. Die können, die haben sozusagen eine situative
Arno Selhorst: Awareness, situational Awareness, also eine diese Modelle haben ein Bewusstsein für den Raum.
Arno Selhorst: Das heißt, die müssen, die können nicht nur toll Videos, also Bilder produzieren,
Arno Selhorst: sondern die verstehen auch dann, wo Dinge passieren, auch wenn sie nicht mehr
Arno Selhorst: in der Kamera sichtbar sind.
Arno Selhorst: Also wenn ich jetzt jemanden habe, der spricht und die Kamera dreht sich nach
Arno Selhorst: rechts, dann wandert der Ton nach links.
Arno Selhorst: Und das verstehen diese Videomodelle mittlerweile. Das können die.
Maximilian Göß: Schön, dass es auch mal schöne Dinge gibt. Und vor allem, wenn wir jetzt auch
Maximilian Göß: mal was Schönes, Positives geben.
Maximilian Göß: Also ich muss zugeben, ich gucke mir heute noch Chloe vs. History an.
Arno Selhorst: Ich bin es doch neugierig geworden.
Arno Selhorst: Ja, es gab viele gute Dinge, also zum Beispiel auch politisch.
Arno Selhorst: Es gab eine Obama-Aufklärungskampagne zum Thema Deepfakes und da wurde Obama
Arno Selhorst: eben als Deepfake in Anführungszeichen Opfer genommen,
Arno Selhorst: aber ganz klar positioniert im Kontext einer Aufklärungskampagne oder auch Dinge,
Arno Selhorst: die in die Richtung Lokalisierung gehen.
Arno Selhorst: Das ist auch ein super tolles Thema. Das heißt also, Menschen und Audio werden
Arno Selhorst: sofort übersetzt in verschiedene Sprachen, aber mit derselben Stimme.
Arno Selhorst: Und das ist halt auch besonders.
Arno Selhorst: Das ist so, das siehst du jetzt schon übrigens auf YouTube, macht das auch nicht
Arno Selhorst: so gut, aber immerhin, das wird schon.
Arno Selhorst: Da kannst du dann eben mittlerweile englisch- oder arabischsprachige Videos
Arno Selhorst: in deutscher Stimme hören, mit der arabischen Stimme, aber mit der Klangfarbe
Arno Selhorst: desjenigen, des Influencers, der jetzt, keine Ahnung, da auf Arabisch gesprochen
Arno Selhorst: hat. Und das ist auch, finde ich, ganz, ganz spannend.
Arno Selhorst: Mir gefallen die Videos persönlich noch nicht so toll, weil die Stimme noch
Arno Selhorst: sehr blass ist und sehr monoton spricht.
Arno Selhorst: Aber der Weg dahin ist ganz klar, dass, wenn ich ein YouTube-Video mache,
Arno Selhorst: direkt meine Stimme in alle Herren Länder übersetzt wird, automatisiert über KI.
Arno Selhorst: Und ja, das ist auch ein Deepfake meiner Stimme.
Arno Selhorst: Nur jetzt eben dafür ganz gut, dass eben ein Video in mehreren Ländern auch
Arno Selhorst: verstanden werden kann.
Arno Selhorst: Und dann haben wir natürlich noch ein, kann man positiv oder negativ sehen,
Arno Selhorst: aber ein super Use Case für Marketing und Werbung. Du kannst also ganz schnell,
Arno Selhorst: wenn du die verschiedenen Verträge hast mit den Personen, Prominente für dein Werbeprodukt nehmen.
Arno Selhorst: Natürlich nur dann, wenn die Prominenten eingewilligt haben,
Arno Selhorst: du entsprechende Lizenzgebühren zahlst. Das musst du natürlich alles Hand und Fuß haben.
Arno Selhorst: Sonst wird das halt schwierig. Sonst hast du halt wieder negative Fälle.
Arno Selhorst: Also wie dieser Fall Jason Momoa, Romance Scam, 2025 war das,
Arno Selhorst: da wurde eine britische Witwe um 500.000 Pfund betrogen, weil sie dachte,
Arno Selhorst: sie hätte via Videokonferenz eine Liebesbeziehung zum Schauspieler Jason Momoa, Mr.
Arno Selhorst: Aquaman. Und das ist schon...
Arno Selhorst: Da wird es dann wieder, ich glaube nicht, dass Jason Momoa dazu gesagt hat.
Arno Selhorst: Das sind dann wieder diese Edge-Cases, die nicht so lustig sind.
Arno Selhorst: Aber wie gesagt, auch für Marketing, Kino, guck dir Star Wars an.
Arno Selhorst: Da wurden auch mittlerweile verstorbene Schauspieler nochmal resurrected und
Arno Selhorst: wurden dann für Deepfake-Szenen verwendet.
Arno Selhorst: Manchmal gut, manchmal nicht so gut. Aber das sind halt noch so Anfängerfehler,
Arno Selhorst: die passieren immer noch. Aber das wird immer besser.
Arno Selhorst: Und da muss ich sagen, es ist schon viel Potenzial. Wenn das alles juristisch
Arno Selhorst: einwandfrei ist und die Personen zugestimmt haben, finde ich das eine ganz, ganz tolle Sache.
Arno Selhorst: Ob das jetzt ethisch, moralisch so toll ist, wenn wir verstorbene Schauspieler
Arno Selhorst: doch wieder sehen, weiß ich nicht. Denkt mal an Pumuckl.
Arno Selhorst: Die neuen Folgen von Pumuckl sind ja mit der Stimme von Hans Klarin eingesprochen.
Arno Selhorst: Hans Klarin lebt nicht mehr, aber seine Verwandten, die seinen Nachlass verwalten,
Arno Selhorst: haben dem zugestimmt, dass seine Stimme für die neuen Pumuckl-Folgen geklont werden darf.
Arno Selhorst: Und da ist natürlich, ich finde das großartig, weil ich großer Hans-Karin-Fan
Arno Selhorst: war früher, auch von Pumuckl.
Arno Selhorst: Und dass der jetzt nochmal gesprochen werden kann mit Hans-Karin-Stimme, finde ich mega.
Arno Selhorst: Und es hat halt alles Hand und Fuß, es ist juristisch abgeklärt.
Arno Selhorst: Also sind die Menschen auch glücklich, die bekommen ihr Geld auch dafür,
Arno Selhorst: dass die Stimme genutzt wird. Also alles fein, finde ich.
Maximilian Göß: Also da gebe ich dir vollkommen recht, ich war ein sehr großer,
Maximilian Göß: was heißt sie war, ich bin immer noch ein sehr großer Pumuckl-Fan.
Maximilian Göß: Und ja, diese Stimme wieder zu hören in neuen Folgen war absolut großartig.
Maximilian Göß: Das ist auch, ich bin ein großer Fan von Remedies Max Payne.
Maximilian Göß: Nicht, weil es meinen Namen trägt, das ist nochmal ein anderes Thema,
Maximilian Göß: sondern aufgrund der Stimme von James McCaffrey.
Maximilian Göß: Diese herausragende, tiefe, dunkle Stimme in einem Neo-Noir-Design,
Maximilian Göß: das das Ganze so unglaublich, tragisch und tiefgreifend gemacht hat
Maximilian Göß: Das Schöne ist, dass James McCaffrey ja mit dem Spielehersteller von Remedy
Maximilian Göß: ja noch bis zu seinem Tod zusammengearbeitet hat mit Alan Wake 2 und dieses
Maximilian Göß: ganze Setting ja weitergelebt hat.
Maximilian Göß: Und da muss ich sagen, weil es Pumukli ja sozusagen vorgemacht hat,
Maximilian Göß: ich hoffe sehr, dass die Familie von James McCaffrey diese Möglichkeit auch
Maximilian Göß: gibt, dass diese Stimme weiterhin bestehen kann, weil,
Maximilian Göß: mein Gott, es gibt Stimmen, die sind einfach unglaublich göttlich und schön zu hören.
Maximilian Göß: Und egal wie, was wir auf jeden Fall festhalten können, auch für euch alle,
Maximilian Göß: seid immer euer eigener kritischer Journalist, der nochmal genau nachprüft,
Maximilian Göß: ist das eigentlich so, so wie es eben die Journalisten tun, so ist das jetzt
Maximilian Göß: auch für euch wichtig, dass wir das nicht vergessen.
Maximilian Göß: Was auch ganz wichtig ist, bleibt kritische Denker, hinterfragt,
Maximilian Göß: glaubt nicht immer gleich alles, was ihr seht und haltet euch an Zahlen, Daten und Fakten.
Maximilian Göß: Denn wenn, dann muss es nicht nur aus einer, sondern vor allem aus mehreren
Maximilian Göß: Quellen beweisbar sein.
Maximilian Göß: Und ich würde sagen, unsere abschließenden Worte hierzu sind auf jeden Fall, seid kritisch.
Maximilian Göß: Guckt nach und vergesst nicht, KI ist hier nicht unbedingt das Problem.
Maximilian Göß: Das Problem ist eher, dass unsere sozialen Sicherheitsmechanismen,
Maximilian Göß: die wir ja haben aus einer Welt stammen, wo Sehen und Hören noch Beweise waren.
Maximilian Göß: Nun ja, die Welt sich schneller verändert, als wir es tun.
Maximilian Göß: Also egal wie, habt nicht gleich Panik, schwingt nicht gleich die Moralkeule,
Maximilian Göß: sondern seid Teil der Veränderung und seid Mitteilhaber einer beginnenden Kultur der Verifikation.
Arno Selhorst: Ja, und vielleicht, wenn es was Gutes hat das Ganze, dann, dass wir doch eigentlich
Arno Selhorst: öfters mal wieder rausgehen und live Menschen, live von den Farben erkennen
Arno Selhorst: und mit denen sie uns auseinandersetzen und vielleicht ein bisschen weniger
Arno Selhorst: vor den Bildschirmen hängen und ein bisschen mehr wieder an die frische Luft kommen.
Arno Selhorst: Denn das kann uns im Moment noch keiner nehmen, dass da wirklich jemand Authentisches
Arno Selhorst: sitzt vor mir oder auch was verkauft oder mit mir plaudert oder mit mir auch streitet.
Arno Selhorst: Und das ist auch ganz schön, glaube ich. Und das sollten wir uns ein bisschen
Arno Selhorst: wieder angewöhnen, denke ich.
Maximilian Göß: Unbedingt. Das lasse ich auch so stehen.
Speaker2: Perfekt.
Maximilian Göß: Dann, wir hören uns zur nächsten Folge. Danke euch fürs Zuhören und bis bald. Ciao.
Arno Selhorst: Tschüss.