WEBVTT 00:00:00.017 --> 00:00:08.217 Herzlich willkommen zu einer wunderbaren weiteren neuen Folge von unserem traumhaften Podcast 404. 00:00:09.329 --> 00:00:12.229 So Arno, es hatten wir ja bisher harte Themen. 00:00:12.749 --> 00:00:16.129 Also zum einen, wir haben ja selber gedacht, wo wir uns das erste Mal getroffen 00:00:16.129 --> 00:00:18.409 haben, sind wir überhaupt beide echt? 00:00:18.689 --> 00:00:22.009 Reden wir jetzt mit der KI? Ist der eine von uns eine KI oder nicht? 00:00:22.329 --> 00:00:25.689 Dann haben wir uns ja so ein bisschen kennengelernt, haben über Innovation gesprochen, 00:00:26.049 --> 00:00:28.249 was auch gerade alles so schief läuft. 00:00:28.529 --> 00:00:34.369 Über das Thema Führung, die Probleme in der Kommunikation und zu guter Letzt 00:00:34.369 --> 00:00:38.549 ja auch über unsere wunderbar geschätzten Mittelmanagement-Orgs. 00:00:39.329 --> 00:00:43.649 Und das waren bisher alles sehr harte Themen und deswegen würde ich auch gerne 00:00:43.649 --> 00:00:50.809 bei einem harten Thema bleiben und ich würde gerne nur mal am Rand einfach mal 00:00:50.809 --> 00:00:58.089 kurz dieses Thema vom Fall Ulmen Fernandes ganz kurz aufgreifen. 00:00:58.669 --> 00:01:03.989 Nicht in dem Fall eine Schuldfrage zu klären, das steht uns als Menschen nicht 00:01:03.989 --> 00:01:05.709 zu, das ist Sache von Gerichten. 00:01:06.189 --> 00:01:10.089 Was mich mehr so interessiert und warum ich mit dir darüber reden möchte, 00:01:10.689 --> 00:01:15.549 zum einen, warum trifft dieser Fall gerade so einen Nerv? Sie sehen es ja auch 00:01:15.549 --> 00:01:19.869 gerade bei der ganzen Geschichte um den Wal-Timmy. 00:01:20.149 --> 00:01:28.009 Da waren ja so ähnliche Instrumente von uns Menschen, psychologischer, 00:01:28.169 --> 00:01:30.949 gesellschaftlicher Sicht ja aktiv, jetzt ja bei dem Thema auch. 00:01:30.949 --> 00:01:37.529 Weil wir jetzt an Themen angekommen sind, wo wir uns auch fragen müssen, 00:01:37.909 --> 00:01:42.829 das, was wir zeigen oder worüber wir reden oder was wir sehen, 00:01:43.389 --> 00:01:48.569 es betrifft ja unsere Identität, unsere Stimme, das Gesicht, 00:01:49.349 --> 00:01:56.389 den kompletten Körper und ja auch das Vertrauen in, naja, alles. 00:01:56.389 --> 00:02:04.289 Weil so gesehen ist ja alles technisch manipulierbar und gerade hier ist das 00:02:04.289 --> 00:02:07.529 ja jetzt beim Fall Ullmann auch klar ein Deepfake, 00:02:07.769 --> 00:02:09.249 So wie man das ja nennt. 00:02:09.977 --> 00:02:14.277 Bevor wir jetzt über Deepfakes reden, müssen wir gleich erst mal erklären, was das ist. 00:02:14.557 --> 00:02:18.397 Arno, was genau sind eigentlich Deepfakes? 00:02:18.857 --> 00:02:23.157 Ja, also leitet sich eigentlich ab von Deep Learning. 00:02:23.597 --> 00:02:26.577 Also Deep Learning-Modelle werden verwendet, also KI-Modelle, 00:02:26.677 --> 00:02:29.777 Deep Learning-Modelle werden verwendet, um sehr realistische, 00:02:29.897 --> 00:02:34.037 aber eben synthetische Darstellungen von Menschen, Objekten oder Ereignissen 00:02:34.037 --> 00:02:36.557 zu erzeugen. Da haben wir nachher auch ein paar Beispiele für. 00:02:37.157 --> 00:02:41.597 Die Deepfakes, wie sie heute erstellt werden, sind deswegen so heikel oder werden 00:02:41.597 --> 00:02:45.697 jetzt immer auch populärer in Anführungsstrichen, auch im Mainstream, 00:02:45.957 --> 00:02:49.177 weil sie immer einfacher erstellbar sind, zu erstellen sind. 00:02:49.177 --> 00:02:51.537 Also wir hatten früher viele Deepfakes, 00:02:51.677 --> 00:02:54.197 die ganz kompliziert zu erstellen waren. Das war sehr schwierig. 00:02:54.597 --> 00:03:00.517 Man brauchte sehr starke Rechenleistung. Man brauchte schon ein bisschen Verständnis 00:03:00.517 --> 00:03:04.497 darüber, was man da so gerade macht, auch IT-technisch, auch programmiertechnisch. 00:03:05.117 --> 00:03:09.777 Man musste Ahnung haben von Medien, wie man die einsetzt, wie welche Positionen 00:03:09.777 --> 00:03:12.537 gut sind, gerade beim Video oder bei Fotos. 00:03:12.817 --> 00:03:19.397 Bei Audio musste man schon Ahnung haben, wie man Sprache digital verarbeitet. 00:03:19.617 --> 00:03:23.737 Das muss man heute alles nicht mehr. Heute reicht ein handelsüblicher PC, 00:03:23.937 --> 00:03:25.897 Gaming-PC mit einer guten Grafikkarte drin. 00:03:27.357 --> 00:03:31.417 Und fürs Deepfaken von Stimme, zum Beispiel, wenn ich jetzt Max deine Stimme 00:03:31.417 --> 00:03:35.437 faken wollte, könnte ich das bei mir mit ungefähr 5 bis 15 Sekunden deiner Stimme 00:03:35.437 --> 00:03:39.057 machen und hätte eine perfekte Max-Stimme geklont. 00:03:39.257 --> 00:03:42.897 Und zwar nicht irgendwie über einen großen Cloud-Server oder draußen, 00:03:43.197 --> 00:03:44.377 sondern auf meinem Rechner. 00:03:45.464 --> 00:03:48.184 Eigentlich erschrecken, dass 15 Sekunden reichen. Ich meine, 00:03:48.404 --> 00:03:52.124 allein mit unseren Podcast-Folgen könntest du uns jetzt praktisch so perfekt 00:03:52.124 --> 00:03:56.544 nachmachen, dass wir es selbst wahrscheinlich gar nicht mehr merken würden. Ja, also überleg mal, 00:03:56.724 --> 00:04:00.404 Ich habe vor einem Jahr dasselbe Experiment gemacht und da brauchte ich noch 00:04:00.404 --> 00:04:06.424 ungefähr 25 Minuten einer Stimme und habe die in meinem Computer, 00:04:06.444 --> 00:04:09.264 um ein Modell anzupassen auf diese Stimme, 00:04:09.584 --> 00:04:12.504 das ganze Wochenende meinen Rechner laufen lassen, also Tag und Nacht, 00:04:12.724 --> 00:04:14.404 damit der im Grunde dieses Modell berechnet. 00:04:14.404 --> 00:04:20.204 Und heute schmeiße ich 15 Sekunden Sound-Schnipsel in ein Tool rein, 00:04:20.284 --> 00:04:22.904 das ich hier auf dem Rechner laufen habe und die Stimme kommt sofort, 00:04:23.184 --> 00:04:25.224 die wird sofort gefakt, also mit einem Knall. 00:04:25.284 --> 00:04:28.644 Dann muss ich nur noch Text eingeben, was die sprechen soll und dann spricht die das. 00:04:29.683 --> 00:04:32.403 Jetzt überleg mal, ich bin ja jetzt einer, der, sage ich mal, 00:04:32.443 --> 00:04:36.043 noch einigermaßen aufklärerisch unterwegs ist, der Menschen ein bisschen aufklären, 00:04:36.103 --> 00:04:40.183 wachrütteln will, der gerne experimentiert und so weiter ohne niedere Absichten. 00:04:40.283 --> 00:04:41.943 Jetzt überleg dir aber mal, und das ist ein kleiner Rechner, 00:04:42.063 --> 00:04:44.143 jetzt überleg dir mal Leute, die einen guten Rechner haben oder die vielleicht 00:04:44.143 --> 00:04:45.283 eine ganze Serverfarm haben, 00:04:45.483 --> 00:04:49.023 die vielleicht nicht so nett eingehangen sind wie meiner eine und die vielleicht 00:04:49.023 --> 00:04:54.683 auch das Experimentieren treibt, sondern die wirklich mit finanziellen oder 00:04:54.683 --> 00:04:56.663 machttechnischen Dingen unterwegs sind, 00:04:57.383 --> 00:05:03.703 vielleicht auch smartere AI noch haben dazu, die gehen natürlich ganz anders damit um. 00:05:04.643 --> 00:05:07.863 Also wenn du das jetzt so sagst, muss ich sagen, Gott sei Dank bin ich froh, 00:05:07.943 --> 00:05:11.463 wenn ich noch eine Spam-Mail kriege, wo ein nigerianischer Prinz einfach sagt, 00:05:11.563 --> 00:05:15.143 hey, überweise mir 1000 Euro und dann bekommst du eine Million von mir. 00:05:15.263 --> 00:05:18.563 Das ist ja noch, das ist ja schon fast die wunderbare Welt. 00:05:19.163 --> 00:05:21.423 Ja, auf die Millionen warten wir alle noch. 00:05:22.363 --> 00:05:27.803 Aber gut, zumindest war da ja eine Storyline dahinter. Ich, der wichtige nigerianische 00:05:27.803 --> 00:05:31.563 Prinz und bitte hilf mir, wenn du mir jetzt das gibst, dann kriegst du ganz 00:05:31.563 --> 00:05:34.283 viel zurück. Da war ja zumindest noch Inhalt da. 00:05:34.723 --> 00:05:39.483 So heute reichen jetzt beim Voice Cloning also 15 Sekunden. Das hat ja auch 00:05:39.483 --> 00:05:40.723 ganz unterschiedliche Aussagen. 00:05:41.183 --> 00:05:44.963 Also beim Qual Ulmen geht es ja jetzt um sexualisierte Deepfakes, 00:05:45.143 --> 00:05:47.623 also Fake-Pornos, Deep-Nudes. 00:05:47.983 --> 00:05:55.043 Also sozusagen Angriff auf die Würde des Menschen, Selbstbestimmung, dessen Ruf. 00:05:55.263 --> 00:06:01.823 Beim Voice Cloning machst du Also Betrug, Erpressung, kannst ja Leute sozusagen schocken. 00:06:02.923 --> 00:06:06.663 Dann hatten wir ja immer noch, es gibt ja dieses Social Engineering nennt sich 00:06:06.663 --> 00:06:09.563 das, kannst ja wunderbar dann Business Frauds machen. 00:06:09.883 --> 00:06:14.683 Also der CEO meldet sich und ich brauche jetzt ganz dringend sehr viel Geld, 00:06:14.783 --> 00:06:17.063 aber ich bin dein CEO und damit hast du zu liefern. 00:06:17.263 --> 00:06:19.883 Die Drohgebärde funktioniert dann auch ganz gut. 00:06:20.636 --> 00:06:26.836 Da gab es übrigens mal einen spannenden Fall. Da interessiert sich der Arup Hongkong-Scam. 00:06:27.376 --> 00:06:30.996 Da wurden Mitarbeitende von einem Unternehmen dazu gebracht, 00:06:31.736 --> 00:06:35.436 25 Millionen Dollar an die Betrüger zu überweisen. 00:06:35.956 --> 00:06:40.696 Das Problem war ein bisschen, dass die dachten, die hätten ihrem echten CEO 00:06:40.696 --> 00:06:42.416 das in England überwiesen. 00:06:42.536 --> 00:06:46.176 Sprich, die wurden in Hongkong angesprochen, die wurden in eine Videokonferenz eingeladen. 00:06:46.396 --> 00:06:49.896 Da saß dann tatsächlich ihr CEO vor ihnen. 00:06:50.896 --> 00:06:55.336 Und die ganzen anderen Personen drumherum, also es war eigentlich nur eine Person, 00:06:55.376 --> 00:07:00.016 die betrogen wurde und die hat die 25 Millionen überwiesen und alle anderen 00:07:00.016 --> 00:07:03.656 drumherum waren Fake AIs, also AI-Personas. 00:07:04.256 --> 00:07:08.216 Und jetzt stell dir mal vor, du kommst als Mitarbeitender an einem Freitagspätnachmittag 00:07:08.216 --> 00:07:12.336 in so eine Videokonferenz, dein CEO sitzt dir gegenüber, hoch aufgebracht, 00:07:12.956 --> 00:07:16.356 sehr dringlich, alles muss ganz schnell gehen natürlich, es sind immer rote 00:07:16.356 --> 00:07:19.676 Flaggen natürlich, sowas sollten rote Flaggen sein, aber es ist ganz dringlich. 00:07:19.676 --> 00:07:22.416 Und dann sitzen aber nicht nur er da, sondern noch drei, vier andere, 00:07:22.776 --> 00:07:27.196 die auch aus dem Board sind und drängen jetzt auf diesen Mitarbeitenden ein. 00:07:27.836 --> 00:07:30.516 Und die ganze Situation ist übrigens sehr plausibel gewesen. 00:07:30.596 --> 00:07:33.816 Es war schon plausibel, dass der da vorgeladen wurde und mit denen gesprochen 00:07:33.816 --> 00:07:39.896 hat, aber es waren halt alle fünf, also der CEO plus diese vier Mitarbeitenden waren alles Fakes. 00:07:40.336 --> 00:07:44.796 Und das Verrückte ist, so die Zeitungsartikel dazu, die haben sogar sich untereinander unterhalten. 00:07:45.356 --> 00:07:46.036 Und dann wieder 00:07:46.036 --> 00:07:49.256 Mit dem Kollegen gesprochen, der als einziger echter Mensch da drin war. 00:07:49.716 --> 00:07:53.816 Und das ist natürlich so, ich sag mal, die Krone des Betrugs im Moment, 00:07:54.016 --> 00:07:56.896 oder das war jetzt 24 übrigens, nicht dieses Jahr, sondern 24, 00:07:56.916 --> 00:07:58.636 vor zwei Jahren war das der Betrugsfall. 00:07:59.196 --> 00:08:02.416 Da muss aber viel vorbereitet werden, das kann man nicht mal so eben machen. 00:08:03.496 --> 00:08:04.776 Das zeigt auch ganz gut, 00:08:04.896 --> 00:08:10.596 Welch immense kreative, kriminelle Energie da mittlerweile reinfließt in sowas. 00:08:10.736 --> 00:08:15.076 Und meine Vermutung ist auch, dass das eben das Werk jetzt auch vom organisierten Verbrechen war. 00:08:15.136 --> 00:08:18.136 Das war jetzt nicht irgendwie so ein Max oder ein Arno, die dachten, 00:08:18.176 --> 00:08:22.156 das ist ja mal ganz lustig, so ein Unternehmen die Haut über die Ohren zu ziehen, 00:08:22.236 --> 00:08:24.456 sondern das war richtig lang geplant. 00:08:24.596 --> 00:08:28.916 Da mussten Menschen ausgekundschaftet werden, perfekte Opfer gefunden werden und und und. 00:08:29.456 --> 00:08:33.796 Aber der Arup Hongkong Scam ist für mich ein Paradebeispiel dafür, wie das funktioniert. 00:08:33.956 --> 00:08:37.716 Und übrigens, ich habe es selber erlebt, auf LinkedIn wurde ich tatsächlich 00:08:37.716 --> 00:08:43.876 von einem gediebfähigten CEO des Unternehmens angesprochen, bei dem ich arbeite. 00:08:44.216 --> 00:08:48.996 Und der wollte mich dann in eine WhatsApp-Gruppe hineinziehen und sage, 00:08:49.076 --> 00:08:50.536 hier, ich muss mal mit dir reden, Arno. 00:08:50.756 --> 00:08:53.536 Und ich wusste, dass das auf keinen Fall unser CEO wirklich sein kann. 00:08:53.536 --> 00:08:57.396 Ich habe mir dann die LinkedIn-Präsenz angeguckt und habe gesehen, 00:08:57.456 --> 00:09:03.976 das war irgendwie völlig schattenhaft, was da gezeigt wurde auf LinkedIn von dieser Person. 00:09:04.776 --> 00:09:10.616 Und letzten Endes habe ich unserer Security den Fall weitergegeben und die ist 00:09:10.616 --> 00:09:15.916 dann testweise in diese Videokonferenz reingegangen und hat mal sich angeguckt, 00:09:15.956 --> 00:09:16.976 was denn da so gemacht wird. 00:09:16.976 --> 00:09:20.396 Die wussten ja Bescheid, die wussten ja, dass das alles nicht koscher ist und 00:09:20.396 --> 00:09:22.636 haben mir danach noch mal gedankt, dass ich das denen geschickt habe, 00:09:22.716 --> 00:09:26.916 weil tatsächlich war dann ein Fake-CEO da und wollte dann eben von den anwesenden 00:09:26.916 --> 00:09:30.256 Geld haben und die sollen das dann möglichst ganz schnell überweisen. 00:09:30.996 --> 00:09:32.036 Das war aber wohl auch so. Das war echt ein Fake-Tim? 00:09:32.799 --> 00:09:36.279 Das war ein Fake, ja genau, das war ein Fake-CEO, das war tatsächlich so und 00:09:36.279 --> 00:09:40.339 der war auch dann recht eloquent, auch stimmentechnisch wohl relativ ähnlich, 00:09:40.419 --> 00:09:42.239 aber nicht ganz, aber da waren halt 00:09:42.239 --> 00:09:45.659 viele Pointer, die in Richtung gezeigt hatten, das ist nicht der echte. 00:09:46.399 --> 00:09:50.839 Allein schon die Tatsache, niemand würde mich aus so einer Ebene anchatten auf 00:09:50.839 --> 00:09:52.879 LinkedIn und fragen, kannst du mal in WhatsApp-Chat kommen? 00:09:53.019 --> 00:09:55.779 Nie im Leben. Und da muss man ein bisschen seinem Bauchgefühl erfolgen. 00:09:56.039 --> 00:09:59.119 Also ist ja schön, wenn man die Ehre hat, mit einem CEO zu reden. 00:09:59.199 --> 00:10:00.719 Aber jetzt mal ganz ehrlich, ist das real? 00:10:01.099 --> 00:10:03.279 Nee, wahrscheinlich nicht. Kneif mich und ich kann dir sagen, 00:10:03.399 --> 00:10:04.479 nein, das ist alles nur Traum. 00:10:04.799 --> 00:10:07.999 Und in dem Fall war es halt auch so und ich habe das direkt auch für mich durchschaut. 00:10:08.199 --> 00:10:11.739 Ich glaube aber, dass die größere Gefahr, Max, ja da drin liegt, 00:10:12.159 --> 00:10:14.559 dass es Menschen wortwörtlich wie du und ich sind. 00:10:14.559 --> 00:10:19.019 Das sind also dann Menschen, die vielleicht deine direkten Kollegen oder nur ein Vorgesetzter, 00:10:19.199 --> 00:10:21.899 ein Level über dir ist oder so oder unter dir oder was auch immer, 00:10:21.999 --> 00:10:27.419 dass da so ein möglichst doch plausibles Szenario entsteht und ich wette, 00:10:27.579 --> 00:10:32.179 dass da viel mehr in Anführungsstrichen ein Deepfake-Umsatz gemacht wird mit 00:10:32.179 --> 00:10:37.559 Unternehmensbetrug als so völlig absurde Aktionen wie jetzt ruft dich der CEO 00:10:37.559 --> 00:10:39.059 an und Arno, der muss jetzt mit dir reden. 00:10:39.339 --> 00:10:41.719 Das ist so auffällig falsch, das kann gar nicht sein. 00:10:42.379 --> 00:10:45.679 Da würde ich sagen, da sind viele sicher, wenn man sich einigermaßen den Kopf 00:10:45.679 --> 00:10:48.459 auf den Schultern behält und nicht völlig abgehoben wird und denkt, 00:10:48.539 --> 00:10:49.659 oh, der CEO will mich sprechen. 00:10:50.019 --> 00:10:54.079 Aber diese kleinen Dinge in der gleichen Hierarchieebene drüber oder drunter 00:10:54.079 --> 00:10:57.219 vielleicht auch, das halte ich schon für wahrscheinlicher, dass man sich davon 00:10:57.219 --> 00:10:59.639 schnell, wenn man nicht aufpasst, übers Ohr hauen lässt. 00:11:00.526 --> 00:11:03.706 Jetzt fällt mir gerade ein, weil wir dieses Thema jetzt hatten, 00:11:04.486 --> 00:11:09.406 ich erinnere mich noch an so Videos, beziehungsweise beim letzten Video-Ident-Verfahren, 00:11:09.486 --> 00:11:12.046 das ist noch gar nicht so lange her, hat man das auch verlangt. 00:11:12.126 --> 00:11:15.726 Und ich habe mich ja ein bisschen gewundert, weil da war die Aufgabe, 00:11:16.366 --> 00:11:19.406 nimm bitte deine Hand, so war das ja auch bei den Bewerbungsgesprächen, 00:11:19.526 --> 00:11:23.846 nimm deine Hand und fahre praktisch so direkt mit der Hand über dein Gesicht 00:11:23.846 --> 00:11:27.086 von unten nach oben, von oben nach unten. 00:11:27.906 --> 00:11:31.846 Da dachte ich mir so, okay, also ich nehme an, das hat wahrscheinlich vor drei 00:11:31.846 --> 00:11:34.886 Jahren super funktioniert, aber wenn du mir das vorhin erzählst, 00:11:35.166 --> 00:11:38.106 vorher 25 Minuten, jetzt 15 Sekunden, 00:11:39.106 --> 00:11:44.426 gerade bei Videocalls und der, ich nenne es mal Verifikation oder jetzt dem 00:11:44.426 --> 00:11:50.066 CEO-Fraud, klappt das überhaupt noch, wenn ich hier mein Händchen mal so hoch und runter mache? 00:11:51.306 --> 00:11:54.926 Nee, eigentlich nicht mehr. Also ähnlich ist das in den USA, habe ich Fälle gelesen, 00:11:54.926 --> 00:12:01.906 Da haben Jugendliche Altersgrenzen umgehen wollen und haben dann im Grunde mit 00:12:01.906 --> 00:12:07.166 Deepfake-Tool sich selber ein anderes Gesicht gegeben und haben dann genauso 00:12:07.166 --> 00:12:09.926 Videoident gemacht und konnten dann, keine Ahnung, 00:12:10.146 --> 00:12:13.006 bei verschiedenen Games zum Beispiel trotzdem die Spiele spielen, 00:12:13.106 --> 00:12:14.766 obwohl sie nicht 16 waren oder 18. 00:12:15.226 --> 00:12:19.966 Und das haben Kids gemacht, also nicht irgendwelche Eierköpfe im Labor, 00:12:20.246 --> 00:12:23.686 die sich irgendwelche smarte Software hingelegt haben, sondern Jugendliche, 00:12:23.766 --> 00:12:25.146 die einfach wissen, wo sie was finden. 00:12:25.786 --> 00:12:29.246 Und das ist halt jetzt, das meine ich, mit in den Mainstream gekommen. 00:12:29.386 --> 00:12:32.466 Das macht jetzt jeder hin zu Kunst, kann jetzt alle möglichen Fakes machen. 00:12:33.267 --> 00:12:36.367 Ich habe damals, lustigerweise, kann man hier ganz gut mal anbringen, 00:12:36.467 --> 00:12:40.307 eine Magisterarbeit geschrieben an der Uni Bonn über das Thema letzten Endes, 00:12:40.367 --> 00:12:43.787 dass ich sage, die Wirklichkeit ist nichts anderes als ein Special Effect. 00:12:44.107 --> 00:12:47.187 Also ich habe Medienanalyse gemacht und habe dann herausgefunden, 00:12:47.747 --> 00:12:51.947 eigentlich wird Realität, die Wirklichkeit, so in Szene gesetzt, 00:12:52.407 --> 00:12:54.527 wie man einen Special Effect nutzt. 00:12:54.887 --> 00:12:59.307 Und das hat sich mittlerweile bestätigt, weil nichts anderes sind die Deepfakes, die wir heute sehen. 00:12:59.387 --> 00:13:02.227 Das sind Special Effects. Das sind halt, ich könnte jetzt dein Gesicht nehmen 00:13:02.227 --> 00:13:05.227 und irgendwo anders einbauen und niemand wird es merken. 00:13:05.327 --> 00:13:08.387 Das ist also ein Special-Effekt, den ich digital anwende, um dein Gesicht in 00:13:08.387 --> 00:13:10.867 eine andere Szene zu packen oder deinen Körper oder was auch immer. 00:13:11.847 --> 00:13:17.447 Und diese Möglichkeiten hat es halt zu der Zeit, als ich die Magistarbeit geschrieben 00:13:17.447 --> 00:13:19.087 habe, sowieso noch nicht gegeben, davor auch nicht. 00:13:19.567 --> 00:13:24.887 Da brauchtest du noch ganze Special-Effekt-Studios à la Hollywood, in denen das ging. 00:13:25.227 --> 00:13:27.807 Wir haben ja uns eben auch ein Video angeguckt, da kommen wir ja gleich nochmal 00:13:27.807 --> 00:13:34.027 zu. Chloe, da ist die Protagonistin des Videos, das wir uns gleich vielleicht 00:13:34.027 --> 00:13:37.947 auch anschauen wollen, in der Zeit der Dinosaurier. 00:13:38.447 --> 00:13:43.747 Und ich musste so ein bisschen an den Film denken, wie hieß er nochmal mit den Dinosauriern? 00:13:44.447 --> 00:13:49.067 Jurassic Park. Jurassic Park. Und ich weiß noch, damals, als ich den im Kino 00:13:49.067 --> 00:13:53.167 gesehen habe, wie krass das war, die stehen dann von diesem Range Rover auf, 00:13:53.327 --> 00:13:58.787 diesem Geländewagen und gucken dann in die Ferne, wo dann diese riesigen Dinosaurier rumlaufen. 00:13:58.967 --> 00:14:02.647 Das war mega schwierig, diese Special Effects zu machen. Ich habe ein Making-of 00:14:02.647 --> 00:14:04.107 gesehen, total komplex. 00:14:04.367 --> 00:14:08.907 Und jetzt macht das mal eben so ein YouTuber am Wochenende für ein lustiges 00:14:08.907 --> 00:14:12.627 Video, in dem eine Frau in die Vergangenheit gereist ist und sich die Dinosaurier anguckt. 00:14:12.867 --> 00:14:15.367 Ich meine, überleg mal, wie krass ist das? 00:14:16.147 --> 00:14:20.207 Es heißt jetzt zum einen, diese Schwelle für, ich nenne es mal, 00:14:20.507 --> 00:14:22.087 um kriminelle Menschen, 00:14:22.528 --> 00:14:27.508 Energie überhaupt aufzuwenden, ist jetzt praktisch um das X-Fache gesunken. 00:14:28.448 --> 00:14:31.968 Dann nicht nur die Schwelle, sondern auch die Möglichkeit, das überhaupt zu tun. 00:14:33.188 --> 00:14:39.028 Parallel haben wir immer mehr, ja schon fast, ich kann es ja so sagen, eigentlich Krisen. 00:14:39.248 --> 00:14:44.128 Das Beispiel, so beim Ukraine-Krieg hat das ja auch sehr, sehr viel angefangen. 00:14:44.608 --> 00:14:47.068 Da gab es doch auch einige Vorkommnisse. 00:14:47.768 --> 00:14:49.548 Ich habe das noch irgendwie so ein bisschen im Gedächtnis. 00:14:50.488 --> 00:14:56.028 Ja, das war glaube ich 22, da gab es schon das erste Kapitulationsvideo angebliche von Selensky. 00:14:56.568 --> 00:15:00.548 Da hat er gesagt, im Grunde, ja, das hat keinen Sinn, ich gebe auf. 00:15:00.908 --> 00:15:03.728 War natürlich reinste Propaganda, Propaganda vom Feinsten. 00:15:04.228 --> 00:15:08.508 Es gab auch gefälschte Videos von Friedrich Merz. 00:15:08.968 --> 00:15:13.808 Im Wahlkampfkontext gab es da was. Scholz wurde gedeepfaked. 00:15:14.208 --> 00:15:17.948 Es wurden Nachrichten, ARD-Nachrichtensprecher gefaked. 00:15:18.981 --> 00:15:20.561 Ich habe mir mal die Mühe gemacht, ein bisschen zu suchen, 00:15:20.621 --> 00:15:23.441 Wo die Leute die Stimmen verdammt nochmal herkriegen. Und es gibt tatsächlich, 00:15:23.561 --> 00:15:26.641 oder es gab, es ist schon wieder gelöscht worden, ein Repository, 00:15:26.801 --> 00:15:30.221 eine Datensammlung von Deepfake-Stimmen auf Hugging Face. 00:15:30.621 --> 00:15:34.101 Hugging Face ist nichts Illegales, es ist eine ganz tolle Sammlung an Modellen 00:15:34.101 --> 00:15:39.281 und Dateien für Modelle, für KI-Modelle. 00:15:40.421 --> 00:15:45.801 Aber da gab es halt auch einen Ordner, in dem wirklich tausende von Stimmen 00:15:45.801 --> 00:15:49.081 waren, von Schauspielern, Politikern und so weiter, die irgendwer da hochgeladen hat. 00:15:49.421 --> 00:15:53.981 Und ich muss das so ein bisschen an die Zeit von Napster erinnern und gestohlener 00:15:53.981 --> 00:15:56.141 Musik, wo auch dann irgendwie dauernd die Server gewechselt wurden, 00:15:56.221 --> 00:15:58.861 damit man ja nicht irgendwie den Benhammer bekommt. 00:15:59.121 --> 00:16:02.501 Und jetzt wurden halt da überall diese Stimmen hochgeladen. Es gab mal, 00:16:02.741 --> 00:16:07.461 ich glaube 23 war das im Winter, Aufnahmen von Demos, 00:16:07.761 --> 00:16:14.741 von irgendwie AfD-Demos, wo dann laut auf Lautsprechern angebliche Entschuldigungsverlautbarungen 00:16:14.741 --> 00:16:18.741 von Tagesschausprechern vorgespielt wurden, während die durch die Straßen gezogen sind. 00:16:19.021 --> 00:16:23.761 Und das waren natürlich auch gediebfakte Entschuldigungen von ARD-Moderatoren 00:16:23.761 --> 00:16:25.761 und Moderatorinnen. Die haben das natürlich nie gesagt. 00:16:26.001 --> 00:16:28.281 Die würden sich ja nie dafür entschuldigen, dass sie vernünftigen Journalismus machen. 00:16:28.641 --> 00:16:35.501 Aber die AfD, gewusst, gewollt, also Vorsatz oder nicht, haben diese Soundfiles 00:16:35.501 --> 00:16:37.321 abgespielt, während sie durch die Straßen marschierten. 00:16:37.621 --> 00:16:43.081 Und auch das ist natürlich komplette Instrumentalisierung von Deepfake. 00:16:43.481 --> 00:16:47.121 Das sind Dinge, die werden jetzt unser Alltag sein. 00:16:47.621 --> 00:16:52.501 Man kann, ohne jetzt zu weit vorauszugreifen, aber man kann jedem und jeder 00:16:52.501 --> 00:16:56.381 nur raten, jetzt nicht nihilistisch durch die Welt zu gehen und zu sagen, 00:16:56.441 --> 00:16:57.721 alles ist fake, nichts ist wahr. 00:16:58.241 --> 00:17:04.221 Aber man muss eine neue Lesart für Medien sich aneignen, vor allen Dingen für Medien. 00:17:04.761 --> 00:17:10.261 Und das ist jetzt nicht so Medienunterricht an der Schule, sondern das muss gelebt werden. 00:17:10.621 --> 00:17:14.201 Das heißt, wenn ich jetzt irgendwie was sehe, muss ich nicht direkt denken, 00:17:14.261 --> 00:17:18.661 das stimmt nicht, aber ich müsste, wenn mich das wirklich interessiert und ich 00:17:18.661 --> 00:17:22.081 diese Nachricht, sei sie Bild, Ton oder Video, aufnehme, 00:17:22.933 --> 00:17:27.053 dann wäre es eigentlich meine Pflicht zu checken, wenn das für mich relevant 00:17:27.053 --> 00:17:28.193 ist, ist das echt oder nicht. 00:17:28.453 --> 00:17:31.973 Wenn ich das einfach mit einem Lächeln wegtue und sage, jo, das ist halt irgendwie 00:17:31.973 --> 00:17:33.613 was, keine Ahnung, ist mir egal, ob das echt ist oder nicht, 00:17:33.673 --> 00:17:37.013 ist es witzig, wenn eine Katze Klavier spielt, okay, verstehe ich. 00:17:37.453 --> 00:17:41.453 Oder eine Katze vor einer Tür steht und Geige spielt, bis die Besitzer rauskommen 00:17:41.453 --> 00:17:44.373 und sie wegscheuchen und sie die Geige fallen lässt, ist alles super witzig. 00:17:45.633 --> 00:17:48.453 Springende Eichhörnchen auf Trampolins im Garten, auch super witzig. 00:17:48.573 --> 00:17:51.633 Aber wenn es dann darum geht, dass ich plötzlich Selinski sehe, 00:17:51.733 --> 00:17:54.073 der in Tränen vor dem Mikro steht, und sagt, es hat alles keinen Sinn. 00:17:54.553 --> 00:17:59.393 Und wenn ich das dann einfach, was ich nicht tun würde, aber gedankenlos an 00:17:59.393 --> 00:18:04.933 dich, Max, schicken würde, habe ich genau das getan, was eigentlich auch intendiert 00:18:04.933 --> 00:18:07.973 ist von den Menschen, die sowas lostreten, nämlich schön verbreiten, 00:18:08.533 --> 00:18:10.853 dass hier jemand etwas getan hat, was er eigentlich nie getan hat. 00:18:11.333 --> 00:18:16.453 Und das ist die neue Bürgerpflicht, die alle haben, global, nicht nur die Deutschen, 00:18:16.653 --> 00:18:23.433 global, dass wir solchen Dingen nachgehen, uns die Zeit nehmen, das zu analysieren. 00:18:23.873 --> 00:18:27.473 Und wenn wir dann wirklich glauben, ja, das ist echt, dann vielleicht nochmal 00:18:27.473 --> 00:18:30.093 mit jemandem darüber sprechen, der das nochmal bewertet und dann vielleicht 00:18:30.093 --> 00:18:34.193 sich tatsächlich denken, okay, das möchte ich jetzt weiterleiten oder eben auch nicht. 00:18:34.393 --> 00:18:41.473 Aber da muss viel, viel mehr, meiner Meinung nach, tiefes Verständnis aufgebaut 00:18:41.473 --> 00:18:44.933 werden von dem, was ich da vor mir sehe oder was ich da höre. 00:18:45.753 --> 00:18:48.553 Und ich unterstelle jetzt mal, dass das nicht stattfinden wird. 00:18:48.553 --> 00:18:52.633 Ich unterstelle eher, dass die meisten Menschen Rückenmarkreaktionen haben und 00:18:52.633 --> 00:18:56.633 sagen, das ist ja gerade die Ragekultur, die wir so haben, also schön aufregen, 00:18:57.073 --> 00:19:00.173 Skandal aufregen, da zählt übrigens auch diese Ulmensache zu. 00:19:00.453 --> 00:19:03.213 Ich will nicht abtun, dass die vielleicht wirklich so passiert ist. 00:19:03.313 --> 00:19:06.393 Ich will aber auch sagen, dass Aufregung immer Publikum findet. 00:19:07.198 --> 00:19:08.978 Und auch das, diese Ulmensache, 00:19:09.098 --> 00:19:12.178 Ist ein typischer Aufreger. Ja, das ist schlimm, wenn das alles wirklich so 00:19:12.178 --> 00:19:13.238 passiert wurde, ist das schlimm. 00:19:13.738 --> 00:19:17.598 Wir dürfen uns aber nicht davon so mitreißen lassen. Wir müssen solche Sachen 00:19:17.598 --> 00:19:21.298 viel neutraler, viel objektiver, viel cooler uns anschauen. 00:19:21.478 --> 00:19:25.478 Und dann, wie du es eben ganz richtig gesagt hast, Max, den entsprechenden Stellen 00:19:25.478 --> 00:19:29.218 den Zugriff lassen, die darüber zu urteilen haben und zu bewerten haben. 00:19:29.258 --> 00:19:29.978 Das ist nun mal gerichtet. 00:19:30.098 --> 00:19:32.618 Das ist eine Straftat. Wenn es denn so ist, ist es eine Straftat. 00:19:32.698 --> 00:19:37.338 Muss man ganz normal wie alles andere auch bestrafen. Es hilft niemandem, 00:19:38.118 --> 00:19:39.338 wenn man das dann rumschickt. 00:19:39.958 --> 00:19:41.538 Aber damit bin ich jetzt durch. 00:19:42.398 --> 00:19:45.338 Das ist eine wichtige Zusammenfassung, die du gerade gemacht hast. 00:19:45.478 --> 00:19:51.198 Zum einen habe ich ja vorhin gesagt, ja, die Schwelle, um überhaupt bösartige 00:19:51.198 --> 00:19:56.558 Dinge zu tun, ist jetzt auf einem Level, naja, Ebene minus zwei. 00:19:56.558 --> 00:19:58.858 Vorher war es ja immer noch der siebte oder achte Stock. 00:19:59.518 --> 00:20:04.518 Dann sehen wir jetzt ja auch ganz klar die Aufregerthematik. 00:20:04.798 --> 00:20:09.138 Also Menschen, die wahllos Dinge verschicken, es selbst gar nicht mehr prüfen. 00:20:09.258 --> 00:20:12.958 Das heißt, die andere Seite fehlt ja dann im Prinzip. 00:20:13.258 --> 00:20:16.818 Das kritische Denken, das kritische Hinterfragen. 00:20:17.038 --> 00:20:21.678 Ist das, was ich da sehe, jetzt überhaupt gut? Und dann unsere, 00:20:22.038 --> 00:20:25.538 naja, ich nenne es jetzt mal, ist jetzt egal in welchem Fall, 00:20:25.678 --> 00:20:31.118 wir sind jetzt identische Muster jetzt ja auch gerade, wo es um den gestrandeten Wal ging, 00:20:31.458 --> 00:20:37.578 wo Menschen sich im Netz ja zusammengeführt haben. 00:20:37.578 --> 00:20:42.198 Dann gab es wieder Wilde, die dahin und geweint haben und sonst wie. 00:20:42.658 --> 00:20:47.698 Man hat es geschafft, extrem viele Wissenschaftler zu überhören. 00:20:48.178 --> 00:20:52.878 Gab es ja wieder irgendwelche Streamer oder Influencer, die sich dann wichtiger 00:20:52.878 --> 00:20:56.838 gemacht haben, weil die Show ist ja doch wichtiger als alles andere. 00:20:56.998 --> 00:20:58.838 Das war so der wunderbare Nebeneffekt. 00:20:59.218 --> 00:21:03.438 Das hier interessiert eigentlich keinen, aber ich bin im Netz und wichtig und toll. 00:21:04.578 --> 00:21:08.218 Und parallel diese ganze Sache, die, 00:21:08.918 --> 00:21:12.838 ich bin kein Jurist, ich kann es nicht rechtlich einschätzen, 00:21:12.878 --> 00:21:17.838 aber was ich ja zumindest sehe und aus den Nachrichten und Infos so zusammen 00:21:17.838 --> 00:21:22.698 habe, ich meine, okay, in Deutschland dauert es immer ein bisschen länger, das ist ganz normal. 00:21:22.698 --> 00:21:27.158 Und gerade wenn wir jetzt über Deepfakes reden, Strafverfolger hatten ja bisher 00:21:27.158 --> 00:21:32.898 auch nie wirklich die Möglichkeit, irgendwie das Ganze grifftechnisch zu machen, 00:21:33.018 --> 00:21:35.458 wenn dann war es ja eher Beleidigung, 00:21:36.058 --> 00:21:39.878 Kunsturheberrecht und andere Vorschriften, die es ja gab. 00:21:40.438 --> 00:21:43.798 Also jetzt gibt es ja gerade so die Richtung im Gesetzentwurf, 00:21:44.358 --> 00:21:49.018 um sowas überhaupt mal in Richtung digitale Gewalt ja überhaupt zu greifen oder 00:21:49.018 --> 00:21:50.498 greifbar möglich zu machen. 00:21:51.438 --> 00:21:51.858 Aber wenn wir jetzt 00:21:51.858 --> 00:21:57.178 All das jetzt mal so in Summe sehen, und das ist ja doch ein gewisser großer 00:21:57.178 --> 00:22:00.098 Knackpunkt aus deiner Sicht, 00:22:01.274 --> 00:22:03.554 Was würdest du jetzt so an Tipps geben, 00:22:03.854 --> 00:22:06.654 Damit Menschen sagen, wie 00:22:06.654 --> 00:22:07.434 Müsste ich denn 00:22:07.434 --> 00:22:11.034 Jetzt vorgehen, um mich ja auch selbst zu schützen? 00:22:11.874 --> 00:22:15.654 Ja, also wir gehen ja gleich nochmal so ein bisschen auf die Cases rein, 00:22:15.714 --> 00:22:17.934 die ein bisschen positiver sind. Wir haben jetzt gerade auch so ein paar Sachen 00:22:17.934 --> 00:22:19.854 genommen, die natürlich sehr edgy sind und sehr schwierig. 00:22:20.094 --> 00:22:22.054 Gibt es ja auch ganz viel, kommen wir gleich nochmal drauf. 00:22:22.614 --> 00:22:25.254 Aber jetzt gerade bei so Deepfakes, die auch negativ sind und so. 00:22:25.454 --> 00:22:28.294 Man schützt sich zunächst mal, das ist ganz schwierig, aber ich glaube, 00:22:28.354 --> 00:22:31.074 das ist ein ganz wichtiger Punkt, in dem man sich emotional festigt. 00:22:31.274 --> 00:22:34.274 Das können Menschen, die ein bisschen gereifter sind, besser als Menschen, 00:22:34.354 --> 00:22:37.894 die vielleicht gerade in oder aus der Pubertät kommen, denn die haben auch ein 00:22:37.894 --> 00:22:39.594 bisschen andere Probleme gerade am Laufen. 00:22:39.874 --> 00:22:43.554 Die lassen sich auch schneller natürlich hinreißen zu verschiedenen emotionalen Reaktionen. 00:22:45.974 --> 00:22:50.454 Aber wenn ich mich von etwas, wie auch immer, im Guten, wem Bösen, 00:22:50.534 --> 00:22:54.194 im Schlechten, wem Sauren hinreißen lasse, ohne darüber nachzudenken, 00:22:54.674 --> 00:22:57.314 überspringe ich halt so das kritische Denken im Hirn und gehe sofort in den 00:22:57.314 --> 00:22:59.574 Rückenmarkreflex, was ich eben als Rückenmarkreflex meinte. 00:22:59.874 --> 00:23:04.334 Und eine Version oder eine Form, sich gegen Deepfakes zu wappnen, 00:23:04.434 --> 00:23:07.394 ist tatsächlich cool zu bleiben, ruhig zu bleiben. 00:23:08.054 --> 00:23:12.114 Es ist niemandem geholfen, habe ich eben gesagt, wenn man jetzt da sich riesig 00:23:12.114 --> 00:23:16.334 aufregt. Ich glaube, es ist ganz wichtig, erstmal cool zu bleiben und je absurder 00:23:16.334 --> 00:23:20.754 und je teilweise auch, Deepfakes können auch extrem brutal sein, 00:23:21.114 --> 00:23:22.554 auch visuell ganz schlimm sein. 00:23:23.429 --> 00:23:26.269 Da zuckt es einem zusammen und der Magen geht runter. 00:23:26.549 --> 00:23:29.049 Merkt man, wie das Blut in den Magen schießt, wenn man so geschockt ist. 00:23:29.149 --> 00:23:31.269 Und man hat dummerweise sich gar nicht darauf vorbereiten können, 00:23:31.749 --> 00:23:36.049 dass plötzlich so ein bescheuertes Video einem in die Timeline gespült wird. Das kann passieren. 00:23:36.549 --> 00:23:39.969 Deswegen übrigens Jugendliche und so weiter und Internet, anderes Thema. 00:23:40.729 --> 00:23:44.529 Und wenn ich dann so einen Defect sehe, das mich dermaßen weghaut, 00:23:45.409 --> 00:23:48.789 dann, das ist zumindest meine Erfahrung, hilft es immer, wenn man sagt, 00:23:49.189 --> 00:23:53.169 weißt du was, die wollen genau diese Knöcke drücken, damit man so reagiert. 00:23:53.669 --> 00:23:57.489 Ein guter Filmemacher, also ich werde nie vergessen, als ich Requiem for a Dream 00:23:57.489 --> 00:24:00.269 gesehen habe, ich muss es nochmal sagen, ich habe den Film nur dreiviertel gesehen, 00:24:00.329 --> 00:24:03.089 da musste ich raus, ich habe den nicht ausgehalten, weil der so gut war. 00:24:03.409 --> 00:24:07.269 Aber der war gut grausam, der war halt sehr, sehr gut gemacht technisch, 00:24:07.649 --> 00:24:11.129 aber das Thema war so brutal, dass ich sagte, das halte ich einfach nicht aus. 00:24:11.589 --> 00:24:13.629 Ich werde den wahrscheinlich auch nie mehr wiedersehen, den Film. 00:24:13.989 --> 00:24:17.789 Aber wäre der nicht handwerklich so gut gewesen, hätte der ja nicht diese Knöpfe 00:24:17.789 --> 00:24:20.969 gefunden, die er da drücken muss, um mich so reagieren zu lassen, 00:24:21.029 --> 00:24:23.629 wie ich dann menschlich, körperlich, psychisch reagiert habe. 00:24:23.929 --> 00:24:26.509 Und das ist bei Deepfakes Programm. 00:24:26.889 --> 00:24:33.309 Deepfakes, die eine bestimmte Absicht haben, wie finanziellen Betrug oder politische 00:24:33.309 --> 00:24:37.649 Meinungsmache, Propaganda, die drücken ja genau auf diese Knöpfe, 00:24:37.649 --> 00:24:41.529 damit das reflektive, kritische Denken ausgeschaltet. 00:24:41.529 --> 00:24:42.449 Und übersprungen wird. 00:24:43.009 --> 00:24:46.309 Und deswegen ganz wichtig als allererstes, wenn du fragst, was soll man, 00:24:46.449 --> 00:24:49.029 was macht man gegen Deepfakes, sich selber kurz mal checken, 00:24:49.429 --> 00:24:52.589 reagiere ich jetzt aus dem Bauch raus, aus dem Rückenmark oder reagiere ich, 00:24:52.649 --> 00:24:55.889 weil ich darüber erstmal ein bisschen nachgedacht habe. Das ist schwer, 00:24:55.969 --> 00:24:56.749 aber das kann man auch üben. 00:24:57.169 --> 00:25:01.829 Man muss ja deswegen kein gefühlloses Stück Stein werden. Also man ist ja trotzdem 00:25:01.829 --> 00:25:03.549 ein Mensch und man darf auch Emotionen haben. 00:25:04.409 --> 00:25:08.929 Aber fragt euch einfach mal, warum ist dieses Stück Medium jetzt so gebastelt, 00:25:09.049 --> 00:25:11.349 wie es gebastelt ist? Was will das denn erreichen bei mir? 00:25:11.849 --> 00:25:17.769 Und oh, bei mir klingelt irgendwas drin. Offenbar hat es da was angetingelt. Und warum genau das? 00:25:18.069 --> 00:25:22.409 Sei es Fremdenhass, sei es Hass auf größere Gruppen, was auch immer. 00:25:22.729 --> 00:25:26.129 Hass auf Frauen, Hass auf Männer, Hass auf Kinder, Hass auf Hunde, völlig egal. 00:25:27.084 --> 00:25:31.564 Neid, solche Sachen, die werden gerne benutzt, Menschen gegeneinander ausspielen, 00:25:32.484 --> 00:25:35.424 Technologien verteufeln, übrigens auch KI verteufeln, das ist auch Blödsinn. 00:25:35.884 --> 00:25:39.804 KI in den Himmel heben, genauso, finde ich auch bescheuert, aber überall, 00:25:39.804 --> 00:25:42.204 wo ihr so im Bauchgefühl wisst, ah, irgendwie ist da, 00:25:42.924 --> 00:25:47.424 das geht bei mir so rein, also Mist, ich muss ja nicht mal drüber nachdenken, 00:25:47.504 --> 00:25:49.824 ich reagiere sofort, fast vielleicht körperlich, vielleicht kriegt man schwitzige 00:25:49.824 --> 00:25:53.244 Hände, oder läuft es einem wortwörtlich kalten Rück runter, das ist immer so ein Marker. 00:25:54.104 --> 00:25:56.664 Und ansonsten gibt es viele technische Dinge, also genau, Genau, 00:25:56.864 --> 00:25:58.924 also zum Beispiel Bildbearbeitung. 00:25:59.204 --> 00:26:02.384 Guckt mal, ob die Perspektive stimmt, ob die Schatten richtig fallen. 00:26:02.544 --> 00:26:05.464