WEBVTT 00:00:10.770 --> 00:00:16.140 Silicon Weekly. Der Tech-Podcast mit den wichtigsten News der Woche. 00:00:18.380 --> 00:00:21.260 Für dich eingeordnet von Elli, Stella und Caspar. 00:00:33.050 --> 00:00:37.980 Hallo und schön, dass ihr eingeschaltet habt, um mit uns den Ritt durch die Tech-Welt zu machen. 00:00:38.370 --> 00:00:41.390 Ich muss sagen, ich muss mich vorab bei unseren Zuhörenden entschuldigen, 00:00:41.390 --> 00:00:45.620 Caspar, weil vielleicht denke ich für dich gerade wie aus dem Aquarium und für 00:00:45.620 --> 00:00:49.070 euch danach hoffentlich besser, weil Caspar hat mir eben schon angedroht, 00:00:49.070 --> 00:00:51.790 Stella, ich jag dich durch die KI hinterher. 00:00:52.730 --> 00:00:55.950 Ja, Stella, was ist passiert? Wieso klingst du so anders als sonst? 00:00:56.850 --> 00:01:01.450 Ja, also ich habe das gemacht, was für so Podcaster eigentlich ein Kardinalsdelikt 00:01:01.450 --> 00:01:04.780 ist. Ich habe mein Mikrofon vergessen. Das ist schon. 00:01:05.530 --> 00:01:10.160 Ja, nächste Woche habe ich dann wieder mein Mikrofon dabei. 00:01:10.850 --> 00:01:15.100 Passiert den besten. Wir haben jetzt ausnahmsweise dann mal das Mikrofon von 00:01:15.100 --> 00:01:18.850 deinem Computer. und wie gesagt, es gibt inzwischen ja relativ gute Audiofilter. 00:01:19.510 --> 00:01:22.080 Ich denke, ihr werdet hören, dass Stella anders klingt. Ihr werdet sie aber 00:01:22.080 --> 00:01:24.810 glaube ich nicht ganz so hören, wie ich sie gerade höre. Es klingt im Moment 00:01:24.810 --> 00:01:28.970 so ein bisschen, ihr kennt das doch noch, das wird auch öfter gerne noch im 00:01:28.970 --> 00:01:33.410 Radio benutzt, wenn da eine Experte oder eine Experte per Festnetztelefon zugeschaltet ist. 00:01:34.650 --> 00:01:36.670 Für mich klingt das gerade so in der Qualität. 00:01:37.730 --> 00:01:40.130 Ich schäme mich. Ich glaube, ich möchte gar nichts mehr sagen. 00:01:40.470 --> 00:01:43.960 Du bist einfach die Experte, die wir heute brauchen. Du bist zugeschaltet zu 00:01:43.960 --> 00:01:47.430 uns. Das ist doch ideal. Also, wenn es zum Radio geht, geht es bei uns auch. 00:01:48.290 --> 00:01:51.200 Und wisst ihr, was ich euch heute passenderweise mitgebracht habe? 00:01:51.550 --> 00:01:55.620 Ein Input zum Thema digitaler Euro. Damit ihr hinterher wisst, 00:01:55.620 --> 00:01:58.490 weil das geisterte jetzt so die vergangenen Wochen ja auch mehr und mehr, 00:01:58.830 --> 00:02:03.140 nochmal so durch die News spalten, würde ich sagen, was denn dieser digitale 00:02:03.140 --> 00:02:04.530 Euro ist, was dahinter steckt. 00:02:04.530 --> 00:02:06.770 Das wisst ihr auf jeden Fall nach dieser Podcast-Folge. 00:02:07.130 --> 00:02:10.720 Wir haben Updates dabei und wir haben oder beziehungsweise Caspar hat sich heute 00:02:10.720 --> 00:02:15.660 brandaktuell noch in unser Doc begeben, in unser Redaktionssystem, 00:02:16.060 --> 00:02:18.390 um ein WTF vorzubereiten. 00:02:18.390 --> 00:02:23.820 Und zwar geht es um, ja, eine KI, die quasi aus ihrem Käfig ausbrechen wollte. 00:02:24.000 --> 00:02:26.990 Ja, das WTF ist also quasi noch warm. 00:02:28.820 --> 00:02:32.340 Wie wäre es? Wollen wir uns die drei kleinen kurzen Updates angucken und danach 00:02:32.340 --> 00:02:36.600 dann mal gucken, wie die so ausbricht im WTF? 00:02:37.100 --> 00:02:40.280 Wir haben auch eine gute Nachricht zum Abschluss. Die wollte ich nicht unterschlagen. 00:02:40.280 --> 00:02:40.980 Ohne geht nicht. 00:02:40.980 --> 00:02:41.640 Alles am Start. 00:02:48.740 --> 00:02:53.090 Und wir schauen nach Frankreich. Und zwar machen wir das auch ganz schnell. 00:02:53.090 --> 00:02:55.450 Ich glaube, wer uns häufig hört, falls ihr das noch nicht tut, 00:02:55.450 --> 00:02:58.800 übrigens, ihr könnt uns auch abonnieren, dann verpasst ihr keine Folge. Kostenlos. 00:02:59.140 --> 00:03:04.320 Aber das Thema, das kommt sehr häufig bei uns vor. Es geht nämlich um das Social-Media-Verbot. 00:03:04.660 --> 00:03:09.410 Und Frankreich führt jetzt als erstes Land in der EU eben ein solches für Kinder 00:03:09.410 --> 00:03:11.990 und Jugendliche unter 15 Jahren ein. 00:03:12.120 --> 00:03:15.910 Möglich geworden ist das, weil der Senat nämlich am Dienstag dieser Woche, 00:03:15.910 --> 00:03:20.280 also wenn ihr uns zu der Woche hört, wo wir rauskommen, auch die Nationalversammlung, 00:03:21.320 --> 00:03:24.510 also Senat und Nationalversammlung mit einer breiten Mehrheit sogar für ein 00:03:24.510 --> 00:03:26.870 entsprechendes Gesetz gestimmt haben. 00:03:27.470 --> 00:03:30.920 Und der französische Präsident, der hat auch schon angekündigt, 00:03:30.920 --> 00:03:34.730 dass dieses Verbot auch schon nach den Sommerferien in Kraft treten soll. 00:03:35.180 --> 00:03:37.540 Das heißt, wir sind nicht mehr weit davon entfernt. Das wird tatsächlich, 00:03:37.540 --> 00:03:39.950 du hast es gerade schon gesagt, das erste europäische Land haben, 00:03:40.290 --> 00:03:44.220 was so eine Sperre von Social Media für Kölner und Jugendliche umsetzt. 00:03:44.920 --> 00:03:48.900 Aber wie genau diese Umsetzung eben aussehen könnte, das ist noch unklar. 00:03:49.370 --> 00:03:53.830 Und interessanterweise ist ausgerechnet die EU-Kommission auch nicht glücklich 00:03:53.830 --> 00:03:56.580 über diesen Vorstoß Frankreichs. Und wieso das Ganze? 00:03:57.060 --> 00:04:02.620 Ja, also die technische Umsetzung einer Altersgrenze für TikTok, Instagram und Co. 00:04:02.930 --> 00:04:08.220 Fällt eben in die Zuständigkeit der EU und diese warnt nun vor unterschiedlichen 00:04:08.220 --> 00:04:11.740 nationalen Regelungen. Sprich, Frankreich ist da quasi vorgeprescht, 00:04:11.920 --> 00:04:17.820 aber hat nicht auf eine Regelung gewartet, die dann für alle Staaten in der EU gültig ist. 00:04:18.430 --> 00:04:21.760 Also mal gucken, was sich da noch so tut, wie sie jetzt schon untereinander 00:04:21.760 --> 00:04:25.390 streitig werden über Social-Media-Verbote. Mal gucken, was da passiert. 00:04:26.600 --> 00:04:31.600 Das zweite Update, das Thema an sich haben wir so noch gar nicht wirklich behandelt. 00:04:31.600 --> 00:04:35.670 Wir haben aber öfter schon über, wir bleiben bei der EU, über EU-Strafen gesprochen 00:04:35.670 --> 00:04:40.470 und über EU-Strafen vom Digital Markets Act und genau so eine, 00:04:40.870 --> 00:04:45.000 beziehungsweise auch den Digital Service Act, genau so eine Strafe um die geht es jetzt. 00:04:45.000 --> 00:04:49.700 Und zwar um eine Plattform, die wahrscheinlich die meisten von euch Hörerinnen und Hörer auch kennen. 00:04:50.130 --> 00:04:56.180 AliExpress, das ist ein globaler Online-Shopping-Dienst, eine Plattform der 00:04:56.180 --> 00:05:01.650 chinesischen Alibaba Group, die auch aus überwiegend chinesischen Händlern besteht 00:05:01.950 --> 00:05:04.270 und dort Produkte aller Art anbietet. 00:05:04.270 --> 00:05:09.760 Wirklich von den günstigsten Cent-Produkten bis hin zu Consumer-Elektronik und 00:05:09.760 --> 00:05:11.700 was man sich so vorstellen kann, ist dort. 00:05:12.040 --> 00:05:15.700 Es ist so eine Art asiatisches Amazon in quasi nochmal größer. 00:05:16.310 --> 00:05:21.960 Und man kann dort weltweit bestellen. Und eigentlich war AliExpress dazu aufgefordert, 00:05:21.960 --> 00:05:26.690 mithilfe von Moderationen und Überprüfung von Verkäufern, illegale, 00:05:26.690 --> 00:05:30.920 unsichere und gefälschte Produkte gegen diese Produkte vorzugehen. 00:05:31.530 --> 00:05:35.600 Aber Tests der Europäischen Kommission haben eben ergeben, dass es trotz solcher, 00:05:36.090 --> 00:05:40.660 Moderationsbemühungen von AliExpress weiterhin eine große Menge an illegalen 00:05:40.660 --> 00:05:45.650 Produkten, darunter zum Beispiel auch unsichere Spielzeuge und gefährliche Kosmetika 00:05:46.050 --> 00:05:47.560 in die EU geschafft haben. 00:05:47.780 --> 00:05:51.980 Und deswegen hat eben die Europäische Kommission AliExpress nun ja mit einer 00:05:51.980 --> 00:05:57.760 eigentlich schon rekordverdächtigen Geldstrafe von mehr als 550 Millionen Euro belegt. 00:05:58.150 --> 00:06:01.330 Und das ist tatsächlich, deswegen haben wir euch das hier nochmal mitgebracht, 00:06:01.740 --> 00:06:04.530 weil zugegebenermaßen, es gibt ja die eine oder andere Strafe und wir haben 00:06:04.530 --> 00:06:07.990 nicht jede immer in den Updates dabei, aber das ist jetzt so eigentlich bisher 00:06:07.990 --> 00:06:10.860 die höchste unter eben diesem Digital Services Act. 00:06:11.240 --> 00:06:15.930 Mir geht es jetzt weiter. Aliexpress kann tatsächlich nochmal Rechtsmittel dagegen einlegen, 00:06:16.350 --> 00:06:20.290 hat auch schon sich dazu geäußert und hat gesagt, dass sie das unverhältnismäßig 00:06:20.290 --> 00:06:25.080 finden, die Höhe der Strafe und man habe ja proaktiv schon Verbesserungen durchgeführt 00:06:25.080 --> 00:06:27.520 und das würde sich nicht widerspiegeln in diesem Urteil. 00:06:28.520 --> 00:06:31.500 Ja, und man kündigt auch an, Rechtsmittel gegen die Entscheidung einzulegen. 00:06:31.500 --> 00:06:36.210 Das heißt, so richtig abgehandelt ist das Ganze noch nicht. Da ist niemand einsichtig 00:06:36.210 --> 00:06:38.060 so nach dem Motto und sagt, ja gut, dann zahlen wir. 00:06:38.560 --> 00:06:40.910 Ja, also auch da müssen wir mal gucken, ob wir vielleicht dann in den Absätzen 00:06:40.910 --> 00:06:43.000 nochmal darüber berichten, was sich da so tut. 00:06:43.540 --> 00:06:47.690 Und wir hatten auch mal vor längerer Zeit einen Input zu einem Thema und da 00:06:47.690 --> 00:06:49.340 haben wir jetzt ein Update mitgebracht. 00:06:49.340 --> 00:06:53.560 Surprise, das versprechen wir ja immer. Und zwar geht es um die Fusion von Paramount 00:06:53.560 --> 00:06:59.100 und Warner Bros. im Wert von über 100 Milliarden Dollar und Richter haben das 00:06:59.100 --> 00:07:00.310 Ganze jetzt eben pausiert. 00:07:00.650 --> 00:07:04.830 Paramount Skydance, die planen eigentlich die Übernahme und das Ganze im Wert 00:07:04.830 --> 00:07:08.980 von 110 Milliarden Dollar ist der Deal und eigentlich war das alles auch schon 00:07:08.980 --> 00:07:11.020 abgefrühstückt und dadurch sollten dann 00:07:11.330 --> 00:07:16.190 so bedeutende Filmstudios und Streamingplattformen wie Paramount Plus und HBO Max vereint werden. 00:07:16.190 --> 00:07:21.160 Also es wäre ein riesiger Gigant entstanden und zudem auch eines der größten 00:07:21.160 --> 00:07:24.550 Portfolios an Fernsehsendern, darunter so Dienste wie Paramount, 00:07:24.550 --> 00:07:28.370 CBS, MTV, was früher vielleicht mal ein bisschen größer war als heute, 00:07:29.280 --> 00:07:32.590 sowie CNN und HBO, also alles ganz große Namen. 00:07:33.000 --> 00:07:35.840 Und wie gesagt, eigentlich war das schon in trockenen Tüchern, 00:07:35.840 --> 00:07:41.100 sollte bis September durchgezogen werden. Doch jetzt hat ein US-Bezirksrichter, 00:07:41.540 --> 00:07:45.090 die Fusion zumindest für 14 Tage mal pausiert. 00:07:46.120 --> 00:07:51.020 Warum? Weil nämlich zwölf Generalstaatsanwälte aus verschiedenen amerikanischen 00:07:51.020 --> 00:07:56.260 Bundesstaaten, angeführt von Kaliforniens Generalstaatsanwalt Rob Bonta, 00:07:56.640 --> 00:07:59.800 die haben nämlich geklagt gegen diese Fusion. 00:08:00.420 --> 00:08:04.030 Der Grund dafür ist eben, dass dieser Zusammenschluss Kinos, 00:08:04.030 --> 00:08:07.880 Kabelanbieter und auch das Publikum, also gefühlt eigentlich alle, 00:08:08.300 --> 00:08:12.460 die damit außer den Firmen direkt zu tun haben, benachteiligen würde. 00:08:12.460 --> 00:08:18.480 Und Rob Bonter hat auch erklärt, das sei eben so der erste quasi wichtige Sieg, um dieses, 00:08:20.040 --> 00:08:25.030 Mega-Fusionsprojekt zu verhindern und hat da auch nochmal die Bedeutung eines 00:08:25.030 --> 00:08:27.500 freien und fairen Marktes betont. 00:08:27.790 --> 00:08:31.210 Und ein Sprecher von Paramount, der sich natürlich auch geäußert und sie sagen, 00:08:31.210 --> 00:08:35.100 dass die Antitrust-Argumente der Generalstaatsanwälte unbegründet seien, 00:08:35.100 --> 00:08:40.030 dass die Fusion rechtmäßig sei und auch den Wettbewerb sogar fördern würde. 00:08:40.700 --> 00:08:44.020 Wie genau und warum, haben sie nicht erklärt. Und das ist jetzt auch erstmal 00:08:44.020 --> 00:08:45.430 nur Aufschub für 14 Tage. 00:08:45.890 --> 00:08:48.960 Also mal gucken, wer da am Ende Recht behält, die Generalstaatsanwälte oder 00:08:48.960 --> 00:08:50.030 die Sprecher von Paramount. 00:08:50.540 --> 00:08:53.800 Wir werden das im Blick behalten und auch da vielleicht in den Updates dann 00:08:53.800 --> 00:08:54.750 nochmal drüber berichten. 00:08:55.670 --> 00:08:59.070 Aber jetzt lasst uns doch immer auf das WTF gucken. Wir haben es ja schon angekündigt, 00:08:59.070 --> 00:09:02.720 es geht um sich verselbstständigende künstliche Intelligenz. 00:09:03.330 --> 00:09:03.830 Oh oh. 00:09:07.380 --> 00:09:10.290 Caspar, ich musste daran denken, ich weiß nämlich, als wir, 00:09:10.600 --> 00:09:13.900 ich meine, es war vergangene Woche, hatten wir das Thema auch so, 00:09:14.190 --> 00:09:17.170 ihr müsst euch vorstellen, immer in unserem Redaktionssystem so, 00:09:17.430 --> 00:09:20.730 haben wir ganz, ganz viele verschiedene Nachrichten, Themen, 00:09:20.730 --> 00:09:22.870 sammeln das alles und wählen dann 00:09:23.270 --> 00:09:27.550 manuell alles so nacheinander aus, was wir machen und dann fliegt halt das eine oder andere auch raus. 00:09:27.910 --> 00:09:30.630 Und das erinnere ich mich, hatten wir auch überlegt, können wir das irgendwie 00:09:30.630 --> 00:09:32.730 unterbringen, haben es dann aber nicht gemacht. 00:09:33.230 --> 00:09:35.930 Und jetzt ist es doch irgendwie am Start. 00:09:35.930 --> 00:09:39.170 Ja, den ersten Teil dieser Geschichte haben wir aussortiert, 00:09:39.170 --> 00:09:42.820 weil der war noch nicht groß und dann ist aber noch ein bisschen was passiert. 00:09:43.890 --> 00:09:48.020 Worum geht's? Vielleicht erinnert ihr euch noch, Anfang des Jahres haben wir 00:09:48.020 --> 00:09:51.700 auch über Open Claw hier gesprochen. Das ist ja eine agentische KI, 00:09:51.700 --> 00:09:54.600 die im Grunde alleine loslaufen kann und Dinge erledigt. 00:09:55.180 --> 00:10:01.930 Und wir haben euch damals auch erzählt die Geschichte der KI-Sicherheitsforscherin. 00:10:03.270 --> 00:10:07.850 Und zwar heißt sie Summer You. Die hat Anfang des Jahres auf X eine Geschichte 00:10:08.270 --> 00:10:10.320 mit ihrem Open Claw Bot veröffentlicht. 00:10:10.320 --> 00:10:15.790 Und zwar hat sie ihm die Aufgabe gegeben, überprüfe den Posteingang, 00:10:15.790 --> 00:10:20.030 also ihr Mail-Posteingang und schlage vor, was du archivieren oder löschen würdest, 00:10:20.510 --> 00:10:25.240 aber führe keine Aktion durch, bis ich es dir sage. Was hat der Bot daraufhin gemacht? 00:10:25.750 --> 00:10:29.810 Der hat munter angefangen, ihr Mail-Postfach leer zu räumen und eine Mail nach 00:10:29.810 --> 00:10:34.340 der anderen zu löschen. Und zwar ohne Rücksprache zu halten mit ihr. 00:10:35.410 --> 00:10:41.250 Und ja, als dann Summer Yu schrieb, er soll sofort aufhören damit, 00:10:41.250 --> 00:10:42.620 hat das Ding auch nicht aufgehört. 00:10:43.090 --> 00:10:46.640 Sie musste tatsächlich wortwörtlich zu dem Computer rennen und den Stecker ziehen, 00:10:46.640 --> 00:10:50.780 auf dem dieser OpenClaw installiert war, um das Löschen weiterer Mails zu verhindern. 00:10:51.650 --> 00:10:55.950 So, warum erzählen wir euch das jetzt, wenn wir über eine aktuelle Nachricht reden wollen? 00:10:56.360 --> 00:11:00.970 Naja, weil ein bisschen sowas jetzt aktuell wieder passiert ist in einem deutlich 00:11:00.970 --> 00:11:05.510 größeren Rahmen und zwar einer Firma namens OpenAI. Ihr kennt sie alle, 00:11:05.510 --> 00:11:06.970 die stecken hinter ChatGPT. 00:11:08.730 --> 00:11:12.790 Und da haben sich nicht nur ein kleiner OpenClawBot, sondern gleich eine ganze 00:11:12.790 --> 00:11:17.640 Reihe an KI-Modellen selbstständig gemacht und hat, und das ist das Interessante, 00:11:17.960 --> 00:11:22.350 eine andere KI-Plattform, nämlich Hugging Face gehackt. oder gehackt. 00:11:22.820 --> 00:11:25.050 Gehackt. Das war auch sehr gemeint. 00:11:25.470 --> 00:11:26.510 Das ist schwierig. 00:11:27.830 --> 00:11:31.320 Wir müssen das jetzt mal der Reihe nach aufrollen. Und dann fangen wir doch 00:11:31.320 --> 00:11:34.410 einfach zum Einstieg mit der eigentlichen Meldung an. Wir sind wieder im Jetzt. 00:11:34.780 --> 00:11:39.470 Und zwar vor einigen Tagen gab eben HackingFace bekannt, dass diese Plattform 00:11:39.470 --> 00:11:42.270 Opfer von einem Hacker-Angriff geworden ist. Das ist die Nachricht. 00:11:42.270 --> 00:11:43.670 Die wir nicht ausgewählt hatten. 00:11:44.010 --> 00:11:44.470 Da ist sie. 00:11:45.090 --> 00:11:47.690 Naja, weil sie relativ klein klang. Und man so dachte, ja, mein Gott, 00:11:47.690 --> 00:11:49.110 hat halt jemand versucht, sich reinzuhacken. 00:11:49.650 --> 00:11:53.620 So what? So, das ist jetzt Das ist kein Thema, was wir euch hier dann mitnehmen, so nach dem Motto. 00:11:53.630 --> 00:11:56.570 Ist das nicht eigentlich auch schrecklich, Caspar, wie es mittlerweile schon so? 00:11:56.890 --> 00:11:59.910 Ich glaube, mittlerweile gibt es wöchentlich eben Nachrichten darüber, 00:11:59.910 --> 00:12:02.520 dass etwas angegriffen worden ist, dass etwas gehackt wurde. 00:12:02.860 --> 00:12:06.990 Und es ist dann eben aus dem Grund allein nicht mehr quasi sofort eine Nachricht, 00:12:06.990 --> 00:12:08.220 für die wir auch im Podcast holen. 00:12:08.590 --> 00:12:10.900 Aber gut, das ist ein anderes Thema. Lasst uns darauf schauen, 00:12:10.900 --> 00:12:12.800 was ist denn jetzt dieses Hugging-Face? 00:12:13.190 --> 00:12:17.730 Stellt euch das mal vor wie so eine Art riesige Online-Bibliothek und Austausch-Plattformen für KI. 00:12:18.140 --> 00:12:22.250 Das heißt, Unternehmen, Universitäten, EntwicklerInnen, die veröffentlichen 00:12:22.250 --> 00:12:26.150 da ihre KI-Modelle, Datensätze, Programme. 00:12:26.580 --> 00:12:28.970 Ich finde, das ist so ein bisschen eigentlich wie, geht auch in die Richtung 00:12:28.970 --> 00:12:30.940 von GitHub auch, vielleicht muss ich das so vorzustellen. 00:12:31.050 --> 00:12:32.720 Ja, mit so einem KI-Fokus halt wirklich. 00:12:32.720 --> 00:12:36.620 Genau. Also GitHub ist auch einfach eine Plattform, wo eben ja Code, 00:12:36.620 --> 00:12:41.380 wo Software-Code veröffentlicht wird, der dann aber auch von anderen eben genutzt 00:12:41.380 --> 00:12:43.550 werden, weiterverarbeitet werden kann etc. 00:12:43.890 --> 00:12:47.660 Also zum Austausch. Und genau das ist auch der Sinn von Hugging Face mit einem 00:12:47.660 --> 00:12:51.910 Fokus auf KI, damit eben solche KI-Modelle weitergenutzt werden, 00:12:51.910 --> 00:12:53.210 weiterentwickelt werden können. 00:12:53.890 --> 00:12:58.520 Und laut der Plattform haben eben die Betreiber vor so ungefähr zwei Wochen 00:12:58.890 --> 00:13:03.130 einen Einbruch in einen, ja, in Teile ihrer digitalen Infrastruktur bemerkt. 00:13:03.490 --> 00:13:06.910 Und die sind dann auch dagegen vorgegangen und haben das natürlich einfach so laufen lassen. 00:13:07.320 --> 00:13:12.390 Was schon damals interessant war, der Angriff sei vollständig durch künstliche 00:13:12.390 --> 00:13:13.870 Intelligenz ausgeführt worden. 00:13:14.540 --> 00:13:19.110 Und auch Hugging Face gibt wiederum an, ihn quasi so entdeckt und analysiert, 00:13:19.110 --> 00:13:24.770 auch hauptsächlich mit KI zu haben. Das heißt, das ist so eine Interaktion von KI mit KI. 00:13:25.830 --> 00:13:30.610 Damals war aber unklar, welche Modelle oder was überhaupt für eine KI dahinter steckt. 00:13:31.360 --> 00:13:37.190 Welcher Initiator, in Anführungszeichen, ja, und das Caspar hat es ja eingangs schon aufgelöst. 00:13:38.860 --> 00:13:42.020 Ja, das ist nämlich jetzt das Neue daran und das macht es jetzt auch so spannend, 00:13:42.020 --> 00:13:43.790 warum wir es als WTF auch mitgebracht haben. 00:13:43.790 --> 00:13:47.100 OpenAI hat nämlich selbst in einer Pressemitteilung inzwischen eingeräumt, 00:13:47.100 --> 00:13:51.290 ganz frisch, dass sie, nämlich heute, dass sie mehrere eigene KI-Modelle, 00:13:51.610 --> 00:13:54.480 dass die dafür verantwortlich sind, und zwar KI-Modelle von ihnen. 00:13:55.040 --> 00:13:59.890 Der Angriff auf Hanging Face soll während eines internen Sicherheitstests geschehen 00:13:59.890 --> 00:14:04.620 sein. Beteiligt gewesen sei unter anderem das neue Modell GPT 5.6 Soul, 00:14:05.010 --> 00:14:09.960 das auch schon von EndanwenderInnen genutzt werden kann. Also ihr könnt das alles schon einsetzen. 00:14:10.340 --> 00:14:14.710 Aber auch ein bisher unveröffentlichtes, leistungsfähigeres Modell soll daran 00:14:15.030 --> 00:14:19.550 beteiligt gewesen sein, bei diesem Sicherheitstest in Anführungszeichen. 00:14:20.620 --> 00:14:23.640 Wobei auch da habe ich jetzt Fragen im Kopf, Caspar. Aber ich glaube, 00:14:23.640 --> 00:14:26.590 da müssen wir noch ein bisschen aufräumen, was OpenAI da genau getestet hat 00:14:26.590 --> 00:14:31.940 und wie es da zu einem Cyberangriff auf eine andere Plattform kommen konnte. 00:14:32.230 --> 00:14:36.190 Ja, was haben die da getestet? Eigentlich wollte OpenAI ausprobieren, 00:14:36.190 --> 00:14:40.160 ob gewisse Modelle, die sie haben, komplexe Cyberangriffe durchführen können. 00:14:40.560 --> 00:14:43.690 Und für diese Tests wurden auch einige Sicherheitsbeschränkungen von den Modellen 00:14:43.690 --> 00:14:47.360 aufgehoben. Normalerweise ist es so, ihr kennt das ja, ihr kennt das ja von 00:14:47.360 --> 00:14:50.940 Anfang an, seit es diese Sprachmodelle gibt und wir sie alle nutzen können. 00:14:51.410 --> 00:14:55.480 Selbst ganz zu Beginn hat man JGPT nicht fragen können, wie man eine Bombe baut, 00:14:55.480 --> 00:14:58.750 weil dann hat das Ding eine Sicherheitskette quasi davor geworfen und hat gesagt, 00:14:58.750 --> 00:15:02.020 nein, halt, stopp, da rede ich nicht mit dir drüber, auch wenn es das theoretisch gewusst hätte. 00:15:02.520 --> 00:15:05.770 Und wenn ich jetzt frage, kannst du für mich mein Hugging Face einbrechen? 00:15:06.150 --> 00:15:08.540 Dann sagt das Modell auch, nee, nee, das machen wir hier nicht, 00:15:08.540 --> 00:15:12.440 das machen wir nicht. Und OpenAI hat diese Sicherheitsvorkehrung aber abgestellt, 00:15:13.330 --> 00:15:16.990 um einfach mal auszuprobieren, ob man damit auch Cyberangriffe durchführen könnte. 00:15:17.330 --> 00:15:21.000 Naja, und das Interessante daran und auch der eigentliche Teil des WTFs, 00:15:22.030 --> 00:15:26.630 Die Modelle haben es tatsächlich geschafft, in einer eigentlich stark isolierten 00:15:26.630 --> 00:15:29.500 sogenannten Sandbox-Umgebung auszubrechen. 00:15:30.090 --> 00:15:33.910 Das ist eine Art Käfig oder vielleicht auch ein Raum ohne Türen, 00:15:33.910 --> 00:15:37.230 ohne Fenster, in dem so ein Programm eingesperrt ist. Natürlich virtuell, 00:15:37.230 --> 00:15:38.950 jetzt nicht physikalischer Raum. 00:15:40.210 --> 00:15:44.500 Und die KI hat auch nur auf das Innere dieses Raums quasi Zugriff. 00:15:44.930 --> 00:15:47.310 Das ist keine neue Erfindung, das gibt es schon sehr lange. 00:15:48.130 --> 00:15:52.100 Viele Programme laufen in Sandboxen. Auf dem iPhone ist das ein ganz großes 00:15:52.100 --> 00:15:55.010 Thema aus Sicherheitsgründen auch. Eine App läuft in einer Sandbox, 00:15:55.010 --> 00:15:57.200 kann oft nicht sehen, was in anderen Sachen passiert und so. 00:15:58.350 --> 00:16:01.680 Und das ist für KI-Agenten natürlich nochmal besonders praktisch als Sicherheitsvorkehrung. 00:16:01.680 --> 00:16:03.900 Wenn man die einsperrt, dann können die in ihrer Sandbox machen, 00:16:03.900 --> 00:16:05.780 was sie wollen, können nichts kaputt machen. 00:16:06.110 --> 00:16:08.410 Und solange die Secondbox zum Beispiel keinen Zugang auf die Mails hat, 00:16:08.410 --> 00:16:10.120 dann kann man auch keine Mails löschen. 00:16:10.700 --> 00:16:15.170 So, und trotzdem hat es die KI da irgendwie rausgeschafft. 00:16:15.490 --> 00:16:20.070 Und das ist ja auch der krasse Punkt daran, dass es eben diese Modelle von 00:16:20.490 --> 00:16:24.940 OpenAI aus diesen Sandboxen, in denen sie eigentlich gesichert sein sollen und 00:16:24.940 --> 00:16:28.690 wo sie auch nicht, vor allen Dingen schon gar nicht selbstständig ohne Aufforderung 00:16:28.690 --> 00:16:32.690 dazu herauskommen sollen, es dennoch eben passiert ist, 00:16:33.190 --> 00:16:37.340 dass sie diese quasi verlassen haben, Zugriff auf das Internet hatten und dann 00:16:37.340 --> 00:16:41.360 durch diese Ausnutzung von Sicherheitslücken und gestohlenen Zugangsdaten sich 00:16:41.360 --> 00:16:44.230 quasi Zugriff auf Hugging Face verschafft haben. 00:16:44.740 --> 00:16:49.360 Ja, und dieser Angriff wurde, wie schon beschrieben, dann halt erkannt von der Plattform. 00:16:49.770 --> 00:16:53.440 Und die hat dann wiederum diese angreifenden Systeme ausgesperrt. 00:16:54.040 --> 00:16:56.030 Aber ich glaube, wir müssen noch einmal vielleicht... 00:16:57.190 --> 00:17:00.560 Und klar ziehen, wieso wir jetzt auch gesagt haben, hey, das ist wirklich ein 00:17:00.560 --> 00:17:02.190 WTF, was da gerade passiert ist. 00:17:02.510 --> 00:17:06.200 Ja, weil das eigentliche WTF ist gar nicht unbedingt, dass KI-Schwachstellen 00:17:06.200 --> 00:17:09.900 finden kann, auch wenn das jetzt groß durch die Presse auch nochmal geht. 00:17:09.900 --> 00:17:11.630 Uh, eine KI hackt die andere. 00:17:12.080 --> 00:17:15.270 Das an sich ist eigentlich nicht neu. Das geht schon seit längerer Zeit so. 00:17:15.270 --> 00:17:19.400 Das wissen wir ja auch. Entropic hat ja auch vor einer Weile schon Cloud Mythos 00:17:19.400 --> 00:17:22.440 nicht veröffentlicht oder zumindest nicht frei zugänglich gemacht. 00:17:22.800 --> 00:17:25.400 Sicherheitsforschende und WissenschaftlerInnen können ja darauf zugreifen, 00:17:25.940 --> 00:17:30.630 aber jetzt Otto-Normal-VerbraucherInnen eben nicht, weil Knoten-Mythos wohl 00:17:30.630 --> 00:17:34.090 relativ gut dazu da ist, um solche Sicherheitslücken zu finden und die man dann 00:17:34.090 --> 00:17:35.250 ja auch ausnutzen könnte. 00:17:35.870 --> 00:17:41.990 Das eigentliche WTF ist, dass ausgerechnet OpenAI mit gelockerten Sicherheitsmechanismen 00:17:42.250 --> 00:17:46.320 in so einer Sandbox testet und diese Modelle dann einen Weg nach außen finden 00:17:46.320 --> 00:17:50.180 und dass OpenAI ja eigentlich so passiert ist. 00:17:50.180 --> 00:17:52.990 Das hat mich erinnert und deswegen habe ich den Vergleich mal mitgebracht. 00:17:53.330 --> 00:17:57.470 Dadurch wird es nochmal ein bisschen deutlicher. Das hat mich erinnert ein bisschen an Jurassic Park. 00:17:57.870 --> 00:18:02.160 So nach dem Motto, wir forschen hier Medinos, wir stellen die wieder her aus 00:18:02.480 --> 00:18:04.900 Genen, aber wir haben alles unter Kontrolle. 00:18:05.380 --> 00:18:08.340 Wie dieser Film endet, wissen die alle. Also Vorsicht, Spoiler, 00:18:08.340 --> 00:18:11.000 wer Jurassic Park nicht gesehen hat. Es endet nicht gut. 00:18:11.200 --> 00:18:13.930 Die Dinos brechen natürlich aus, unter anderem ein T-Rex. 00:18:14.980 --> 00:18:18.790 Und genauso wie bei Jurassic Park ist es jetzt auch. Aber, und das ist das eigentliche 00:18:18.790 --> 00:18:20.810 WTF, der T-Rex ist nicht das Problem. 00:18:20.810 --> 00:18:24.790 Der T-Rex ist nicht der Grund für die ganze Geschichte, sondern die Menschen 00:18:24.790 --> 00:18:28.420 dahinter, die auf die Idee gekommen sind, so einen T-Rex zu züchten und sich 00:18:28.420 --> 00:18:32.250 dann nicht um die Sicherheitsvorkehrung gekümmert haben, sodass der aus seinem 00:18:32.250 --> 00:18:33.520 Gehege ausbrechen konnte. 00:18:34.030 --> 00:18:38.320 Weil, und das ist der traurige Teil von der Geschichte, Sicherheit und IT-Sicherheit 00:18:38.320 --> 00:18:42.860 kostet immer Geld, macht wenig Spaß und ist eigentlich eher sogar hinderlich, 00:18:42.860 --> 00:18:46.590 wenn man an die Börse zum Beispiel möchte, wie zum Beispiel OpenAI. 00:18:47.160 --> 00:18:50.460 Caspar, jetzt muss ich dich aber doch an zwei stellen. Das eine, 00:18:50.460 --> 00:18:54.300 es gibt ja nicht nur einen Jurassic Park, sondern es gibt mehrere Teile, ältere und neuere. 00:18:54.300 --> 00:18:55.100 Ja, ja, ja. 00:18:56.440 --> 00:18:58.480 So, das wollte ich, also falls ihr sie noch nicht gesehen habt. 00:18:58.480 --> 00:19:00.240 Aber in allem brechen die Dinos aus. 00:19:01.520 --> 00:19:04.730 Das stimmt natürlich, aber was ich damit eigentlich sagen wollte, 00:19:04.730 --> 00:19:08.050 auch bei Jurassic Park ist es ja so, eigentlich wurden zum Beispiel diese Käfige 00:19:08.050 --> 00:19:11.400 und Sicherheitsanlagen durchaus so gebaut, dass die Dinos eigentlich nicht ausbrechen. 00:19:11.780 --> 00:19:16.280 Das heißt, die Menschen haben ja gedacht, das reicht und haben nicht damit gerechnet, 00:19:16.580 --> 00:19:21.260 was denn die Dinosaurier da plötzlich machen und wie klug die mitunter auch 00:19:21.260 --> 00:19:23.420 sind. Das ist ja so immer dieses, 00:19:26.160 --> 00:19:29.690 Katzmausspiel, was da auch in diesem Film immer hin und her geht. 00:19:30.050 --> 00:19:33.000 Warum erzählen wir euch das? Und deshalb ist das Beispiel sehr treffend, 00:19:33.370 --> 00:19:37.320 weil ich finde, das Ganze zeigt auch, Omeyer hat ja Sicherheitsvorkehrungen getroffen. 00:19:37.540 --> 00:19:43.480 Es gab ja diese Sandbox-Umgebung, aber offensichtlich auch von einem Unternehmen wie OpenAI, die dazu ja, 00:19:44.110 --> 00:19:46.710 Man könnte sagen, diese Modelle weiterentwickeln, in gewisser Art und Weise 00:19:46.710 --> 00:19:51.000 auch forschen dazu, hat es nicht geschafft, obwohl sie ja direkt an der Quelle 00:19:51.000 --> 00:19:54.280 sitzen, eine Umgebung zu schaffen, die so abgesichert ist für einen solchen 00:19:54.280 --> 00:19:57.160 Test, dass es nicht so gesehen außer Kontrolle gerät. 00:19:57.510 --> 00:20:00.970 Und ich frage mich ehrlich gesagt auch, ist das direkt aufgefallen und man hat 00:20:00.970 --> 00:20:04.870 es einfach jetzt quasi erst später veröffentlicht, aus welchem Grund auch immer? 00:20:05.490 --> 00:20:11.740 Also wann genau kam denn der Zeitpunkt, dass OpenAI auch realisiert hat, oh shit, das waren wir? 00:20:12.760 --> 00:20:16.570 Ja, also das finde ich, da habe ich noch ein Fragezeichen. 00:20:16.570 --> 00:20:19.740 Ja, es geht auch aus den Presseabteilungen, äh, Mitteilungen hervor, 00:20:19.740 --> 00:20:22.330 ob jetzt Huggingface sich bei OpenAI gemeldet hat, sondern aus dem Motto, 00:20:22.330 --> 00:20:27.070 kann es sein, dass bei euch irgendwas schief gelaufen ist? Oder ob die währenddessen 00:20:27.070 --> 00:20:31.090 schon gemerkt haben, upsie, das ist nicht so gut, wir schreiben Huggingface an. 00:20:32.560 --> 00:20:35.280 Das ist nicht so richtig klar. Ja, vielleicht kommt das die Tage noch raus. 00:20:36.380 --> 00:20:39.520 Es ist halt aber auch klar, jetzt gerade reden wir über KI-Plattformen, 00:20:39.520 --> 00:20:40.930 die sich gegenseitig irgendwie hacken. 00:20:41.170 --> 00:20:46.360 Das mag noch einigermaßen lustig sein, aber lass uns in nächster Zeit mal drüber 00:20:46.360 --> 00:20:50.350 nachdenken, dass es hoffentlich nicht in Nachrichten ist, dass es gehackte Krankenhäuser 00:20:50.350 --> 00:20:54.260 oder Kraftwerke gibt, weil dann wird das zu einem großen Problem. 00:20:55.120 --> 00:20:59.400 Und ich glaube, es wäre ganz gut, wenn das nicht erst zu solchen katastrophalen 00:20:59.400 --> 00:21:03.290 Sicherheitsbrüchen kommt, bis dann zum Beispiel mal auf Seiten von Regulierungsbehörden 00:21:03.290 --> 00:21:05.980 das Thema KI-Sicherheit und, 00:21:07.540 --> 00:21:10.160 IT-Sicherheit beim Thema KI angegangen wird. 00:21:11.940 --> 00:21:18.590 Wir behalten es im Blick und gucken mal, welcher T-Rex als nächstes durchs Sennicon Valley wandert. 00:21:19.490 --> 00:21:23.370 Okay, wer weiß, welche, oh Gott, was man da für Bilder mit KI zu generieren 00:21:23.370 --> 00:21:27.070 könnte. Vielleicht noch eine Sache für jeden, der auch hier zuhört und vielleicht 00:21:27.070 --> 00:21:30.190 KI interessiert ist. Ich weiß, KI-Agenten sind gerade ein großes Thema. 00:21:30.640 --> 00:21:34.350 Firmen wie Google, auch wie OpenAI, drängen ja regelrecht drauf und auch an 00:21:34.350 --> 00:21:38.250 Anthropic. Hey, schaltet eure Kalender frei, gebt uns die E-Mail-Accounts. 00:21:38.250 --> 00:21:40.010 Das ist super praktisch für euch. 00:21:40.180 --> 00:21:43.110 Ihr könnt hier automatisch E-Mails bearbeiten lassen. 00:21:43.440 --> 00:21:46.440 E-Mail kommt rein, Kalendereintrag zum Termin wird erstellt. 00:21:46.740 --> 00:21:51.080 Ihr habt weniger mit diesem, ja Entschuldigung, Kleinscheiß so zu tun, 00:21:51.390 --> 00:21:53.180 der halt tagtäglich immer mitläuft. 00:21:53.750 --> 00:21:57.310 Macht euch einfach nur bewusst, dass was hier gerade in einem ganz großen Stil passiert ist, 00:21:58.480 --> 00:22:02.420 das hat sehr viel auch mit Kontrollverlust zu tun und der kann eben auch passieren, 00:22:02.420 --> 00:22:05.060 wie dieses Beispiel, was wir eingangs mitgebracht hatten, 00:22:05.540 --> 00:22:08.290 wenn die Accounts so verbunden sind, weil die Berechtigungen, 00:22:08.290 --> 00:22:11.580 die ihr da gebt, wenn die gegeben sind, ist es mitunter sehr, 00:22:11.580 --> 00:22:15.280 sehr schwer einzufangen, was da alles passieren kann. Also bedenkt das bitte. 00:22:15.720 --> 00:22:19.050 Wir wollen gar nicht sagen, hey, oh Gott, böse KI macht nichts damit, 00:22:19.430 --> 00:22:22.830 aber habt da einfach den entsprechenden Umgang damit und seid euch über die 00:22:22.830 --> 00:22:26.250 Risiken auf jeden Fall bewusst, bevor ihr da quasi aus einer Oh, 00:22:26.570 --> 00:22:28.880 Bequemlichkeit, mega, alles freischaltet. 00:22:29.320 --> 00:22:31.400 Das war das Wort zum Sonntag? Gute Nachricht? Nein. 00:22:32.860 --> 00:22:34.520 Sorry, so soll das gar nicht klingen. 00:22:34.860 --> 00:22:38.900 Nein, so war es auch nicht gemeint. Es ist ein völlig richtiger und guter Hinweis. 00:22:39.600 --> 00:22:42.960 Das klang nur schon nach einem richtig schönen Schlusswort, aber wir haben für 00:22:42.960 --> 00:22:47.770 euch noch einen sehr interessanten Input, weil ich muss nämlich gestehen, 00:22:48.780 --> 00:22:51.640 wir reden ja jetzt über den digitalen Euro und eine Frage, die ich mich immer 00:22:51.640 --> 00:22:55.330 wieder gestellt habe bei diesem Thema, bis wir uns damit beschäftigt haben und 00:22:55.330 --> 00:22:57.460 du dankenswertenweise in diesen Input aufbereitet hast. 00:22:57.890 --> 00:23:02.190 Ich bezahle doch schon digital mit Euro im Internet. Warum brauche ich einen digitalen Euro? 00:23:02.630 --> 00:23:05.710 Das ist so eine der Fragen, die wir gleich im Input klären werden. 00:23:11.190 --> 00:23:11.820 Input. 00:23:12.250 --> 00:23:15.270 Caspar, du bist mit dieser Frage nicht allein, denn genau das ist glaube ich 00:23:15.270 --> 00:23:19.500 mit die Kernfrage dieser Recherche. Was soll das eigentlich? 00:23:20.120 --> 00:23:26.010 Ich habe Online-Banking, wir haben hier schon mehrmals über Vero gesprochen, 00:23:26.010 --> 00:23:28.140 Alternative zu Paypal unter anderem. 00:23:28.580 --> 00:23:31.180 Warum denn jetzt zum Geiern digitaler Euro? 00:23:31.960 --> 00:23:34.930 Und Aufhänger des Ganzen, warum auch Caspar und ich nochmal drüber gesprochen 00:23:34.930 --> 00:23:40.480 haben, ist, dass eben Mitte Juni die Europäische Zentralbank 36 Zahlungsdienstleister, 00:23:40.980 --> 00:23:44.160 für eine Testphase des digitalen Euros ausgewählt hat. 00:23:44.860 --> 00:23:49.870 Und an diesem Pilotprojekt nehmen eben Zahlungsdienstleister und Banken aus ganz Europa teil. 00:23:50.400 --> 00:23:54.880 Und in Deutschland sind es etwa die Deutsche Bank, die DZ Bank und die Helaba. 00:23:55.200 --> 00:23:59.270 Vielleicht kennt ihr sie. Und wahrscheinlich genau dann, wenn ihr in Hessen-Thüringen 00:23:59.270 --> 00:24:02.060 ansässig seid, das ist nämlich die Landesbank Hessen-Thüringen. 00:24:02.060 --> 00:24:03.660 Deswegen habe ich es mitgebracht. 00:24:03.870 --> 00:24:05.520 Ich kann sie nicht. 00:24:17.690 --> 00:24:22.950 Ich würde mal sagen, gut Ding will Weil haben, denn eigentlich wird dieser digitale 00:24:22.950 --> 00:24:29.510 Euro seit 2021 geplant und Spoiler, 2029 soll es dann so richtig damit losgehen. 00:24:29.510 --> 00:24:35.090 Ein langfristiges Projekt und wir haben da jetzt das Ganze mal zum Anlass genommen, 00:24:35.090 --> 00:24:37.470 überhaupt die Grundfrage zu klären. 00:24:37.900 --> 00:24:42.840 Was zum Geher soll das eigentlich? Und gibt es das vielleicht auch schon weltweit an anderer Stelle? 00:24:43.390 --> 00:24:45.700 Das schauen wir uns jetzt nach und nach an. 00:24:45.760 --> 00:24:50.380 Und an der Stelle, das fällt mir jetzt natürlich ein und natürlich ist es zu 00:24:50.380 --> 00:24:53.230 spät, aber es wäre interessant mal zu wissen, wie lange die Währungsumstellung 00:24:53.230 --> 00:24:56.940 auf den Euro gedauert hat. Ich kann mir vorstellen, dass das nicht acht Jahre waren. Aber gut. 00:24:58.160 --> 00:25:01.780 Caspar, du könntest ja jetzt einfach parallel mal die Suchmaschine deines Vertrauens 00:25:02.200 --> 00:25:06.130 ganz im Hintergrund fragen. Es wäre noch eine gute Frage. 00:25:06.240 --> 00:25:07.370 Hier googeln wir noch live. 00:25:07.370 --> 00:25:07.500 Ja, 00:25:10.630 --> 00:25:15.330 wir reichen das nach. Aber jetzt mal ganz kurz und knackig, was soll der digitale 00:25:15.330 --> 00:25:21.030 Euro? Ja, der soll nichts Geringeres als die Funktion von Bargeld in die digitale Welt übertragen. 00:25:21.610 --> 00:25:25.520 Und der ist auch kein Ersatz, sondern soll unser Papiergeld ergänzen. 00:25:26.030 --> 00:25:29.300 Und um das genauer zu erklären und vielleicht verständlicher zu machen, 00:25:29.300 --> 00:25:31.700 schauen wir auch gleich nochmal auf unser Bezahlsystem. 00:25:32.130 --> 00:25:34.710 Aber wir gehen jetzt auch erst nochmal durch so ein bisschen, 00:25:34.860 --> 00:25:39.060 was soll ich denn sagen, die Geschichte des Euros. Weil bevor es den Euro gab, 00:25:39.060 --> 00:25:42.140 war es ja so, dass es in Europa verschiedene Nationalwährungen gab. 00:25:42.340 --> 00:25:44.900 Also vielleicht erinnert ihr euch zum Beispiel noch an die D-Mark. 00:25:45.100 --> 00:25:50.520 Ja, den Schilling in Österreich, die Lira in Italien. 00:25:50.580 --> 00:25:54.710 Und Caspar, was musstest du immer machen, wenn du zum Beispiel von Österreich 00:25:54.710 --> 00:25:55.700 nach Deutschland gefahren bist? 00:25:55.700 --> 00:25:59.170 Ja, Geld wechseln natürlich. Das war immer Pain. 00:26:00.480 --> 00:26:04.770 Und ich musste im Urlaub immer umrechnen, was denn was jetzt, 00:26:04.770 --> 00:26:05.760 wie viel wert sein könnte. 00:26:06.140 --> 00:26:10.930 Überraschung, ich glaube, ein Mickey-Maus-Heft hat irgendwie 25 Schilling gekostet. 00:26:12.090 --> 00:26:15.130 Ich finde das super, dass du das immer noch weißt. 00:26:15.670 --> 00:26:17.830 Wenn sowas behalte ich, stimmt wahrscheinlich auch gar nicht. 00:26:19.600 --> 00:26:21.340