WEBVTT 00:00:10.770 --> 00:00:16.140 Silicon Weekly, der Tech-Podcast mit den wichtigsten News der Woche. 00:00:18.380 --> 00:00:21.260 Für dich eingeordnet von Elli, Stella und Caspar. 00:00:35.680 --> 00:00:40.080 Hallo und herzlich willkommen zu Silicon Weekly. Heute wieder mal mit Caspar 00:00:40.080 --> 00:00:42.170 und mit Stella. Hallo Stella. 00:00:42.620 --> 00:00:45.660 Hallo, schön, dass ihr wieder eingeschaltet habt oder vielleicht zum ersten 00:00:45.660 --> 00:00:49.710 Mal, um uns hier bei unserem Ritt durch die Tech-Welt zu begleiten. 00:00:49.910 --> 00:00:53.400 Ja, wir haben wieder ganz viele News für euch mitgebracht, aber für die, 00:00:53.400 --> 00:00:56.620 die uns länger schon hören, das ist keine News-Flash-Folge, sondern wir haben 00:00:56.620 --> 00:00:58.590 auch wieder einen ausführlichen Input dabei. 00:00:59.110 --> 00:01:01.990 Das wird ein Drama in drei Akten, das kann ich schon mal spoilern. 00:01:02.530 --> 00:01:05.500 Ja, wir haben uns das griechische Drama heute mal vorgenommen. 00:01:06.810 --> 00:01:10.420 Oh, es stimmt sogar, weil es mit Mythos und Fable... Aber dazu kommen wir gleich. 00:01:10.420 --> 00:01:11.970 Ich merke gerade, dass das sehr gut passt. 00:01:13.510 --> 00:01:17.150 Das machen wir gleich. Ein Hinweis noch, wir sagen normalerweise die Episoden-Nummer 00:01:17.150 --> 00:01:19.460 nicht wirklich dazu. Sie steht auch nicht in der Überschrift. 00:01:19.840 --> 00:01:23.490 Sie steht nur auf der Webseite in klein, aber das hier ist Episode 99. 00:01:23.490 --> 00:01:27.510 Ein kleiner Spoiler, dass eventuell nächste Woche eine etwas andere Silicon 00:01:27.510 --> 00:01:30.830 Weekly-Woche wird. Aber dazu dann nächste Woche mehr. 00:01:31.750 --> 00:01:33.760 Stella, wollen wir mit den Updates loslegen? 00:01:33.760 --> 00:01:34.600 Wir legen los. 00:01:34.600 --> 00:01:42.000 Heute sind es drei und von Börsengang über Social Media Verbot bis hin nochmal was zu Google. 00:01:48.680 --> 00:01:54.670 Ja, wir reden über SpaceX. Die sind an die Börse gegangen vergangenen Freitag. 00:01:54.670 --> 00:01:58.450 Das US-Unternehmen von Elon Musk, das ist ja bekannt für Raketenstarts unter 00:01:58.450 --> 00:02:01.530 anderem oder auch für das Satellitennetzwerk Starlink. 00:02:02.120 --> 00:02:07.030 Und ausgegeben wurde eine Aktie zum Start für 135 US-Dollar und zum Handelsstoß 00:02:07.420 --> 00:02:11.280 war sie dann nach dem ersten Tag auf 160,95, 00:02:13.480 --> 00:02:18.130 Dollar gestiegen. Das ist übrigens ein Rekordbörsengang und der hat dem Unternehmen 00:02:18.130 --> 00:02:24.180 75 Milliarden Dollar eingebracht und dazu auch Musk zum ersten Billionär der 00:02:24.180 --> 00:02:25.890 Welt gemacht, wobei man dafür sagen müsste, 00:02:26.460 --> 00:02:29.570 richtig Billionär wäre natürlich erst, wenn er seine ganzen Anteile verkauft. 00:02:29.570 --> 00:02:31.750 Ja, auf dem Papier. Auf dem Papier. 00:02:32.860 --> 00:02:36.210 So hält er sie natürlich. Und was auch ganz interessant ist, 00:02:36.210 --> 00:02:43.160 ist der größte Börsengang der Geschichte mit 555,6 Millionen Aktien. 00:02:44.020 --> 00:02:48.050 Und insgesamt, ich hatte ja gesagt, eine Aktie wurde ausgegeben für 135 US-Dollar. 00:02:48.050 --> 00:02:51.980 Das heißt, da kommen eben 75 Milliarden dann raus. 00:02:52.280 --> 00:02:57.400 Und wir hast jetzt gerade die Weltraumunternehmen aufgezählt mit einem Grund, 00:02:57.400 --> 00:03:01.550 warum dieser Börsengang wohl auch so groß ist, ist, dass SpaceX inzwischen auch, 00:03:02.010 --> 00:03:07.780 das ganze KI-Zeugs, also die ganzen Serverfarmen und alles von Elon Musks Firmen, 00:03:07.780 --> 00:03:12.420 also von Tesla und von X und eben von SpaceX übernommen hat und dort in die 00:03:12.420 --> 00:03:13.410 Firma eingegliedert hat. 00:03:13.770 --> 00:03:17.310 Das heißt, es ist einer dieser typischen KI-Börsengänge, Anthropic, 00:03:17.310 --> 00:03:21.210 zu dem wir im Input noch kommen und OpenAI wollen ja auch an die Börse. 00:03:21.740 --> 00:03:23.580 Also mal gucken, was da so passiert. 00:03:24.190 --> 00:03:28.160 Und Experte und Experten sagen auch, dass das so ein riesiger Börsengang ist. 00:03:28.160 --> 00:03:31.690 Das ist alles so ein bisschen, naja, eigentlich haben diese KI-Unternehmen ja 00:03:31.690 --> 00:03:36.020 noch nicht bewiesen, dass sie lukrativ arbeiten können. Also mal gucken, 00:03:36.020 --> 00:03:38.520 ob das der Anfang von der berühmten Blase ist. 00:03:38.830 --> 00:03:41.560 Aber wir halten euch auf eine Laufende. Wir gucken uns das an und schauen nochmal, 00:03:41.560 --> 00:03:43.150 wie sich diese Aktie dann weiterentwickelt. 00:03:43.800 --> 00:03:47.320 Übrigens, wir hätten das ganz ans Ende packen müssen eigentlich, denn im 00:03:47.700 --> 00:03:53.940 WTF der Woche sprechen wir möglicherweise auch über GROC und XAI und wie Caspar 00:03:53.940 --> 00:03:57.470 eben gesagt hat, gehört das Ganze ja jetzt mit zu SpaceX und es gibt natürlich 00:03:57.470 --> 00:04:00.550 auch Gerüchte, ob irgendwie Tesla damit einfließen soll und 00:04:00.940 --> 00:04:05.740 also da ist jetzt natürlich auch viel quasi was besprochen wird, aber 00:04:06.170 --> 00:04:10.080 wie Caspar sagt, wenn es irgendwas Dingfestes gibt, sagen wir euch hier Bescheid. 00:04:10.470 --> 00:04:14.220 Und jetzt hätten wir noch Update 2 für euch. Wir gucken nochmal auf das Thema, 00:04:15.070 --> 00:04:17.060 Verbot von Social Media. 00:04:17.270 --> 00:04:20.720 Versprochen, wir machen es kurz, weil das Thema ist ja immer mal wieder hier 00:04:20.720 --> 00:04:21.650 ein ausführliches Thema. 00:04:22.100 --> 00:04:26.630 Das Update ist eigentlich auch nur, dass das nächste Land entschieden hat, 00:04:26.630 --> 00:04:27.800 solche Regelungen einzuführen. 00:04:28.240 --> 00:04:32.570 Genauer gesagt, das Vereinigt Königreich. Premierminister Kies Dahmer hat nämlich 00:04:32.570 --> 00:04:36.820 am Montag angekündigt, dass seine Regierung ein Verbot der Nutzung sozialer 00:04:36.820 --> 00:04:39.650 Medien für Kinder unter 16 Jahren einführen wird. 00:04:40.000 --> 00:04:42.250 Bei den Jahren unterscheiden sich die Länder in der Regel immer. 00:04:42.250 --> 00:04:45.760 Eine haben es 14, die andere haben es 16. In England, wie gesagt, jetzt 16. 00:04:46.320 --> 00:04:49.830 Das Verbot betrifft eine Reihe von Social-Media-Plattformen, 00:04:49.830 --> 00:04:53.130 darunter unter anderem Snapchat, TikTok, sogar auch YouTube, 00:04:53.130 --> 00:04:57.790 was ich spannend finde, weil das hat für mich oft nicht so die typischen Social-Media-Charakter. 00:04:58.720 --> 00:05:03.310 Instagram, Facebook und Axe. Was aber ganz klar ausgenommen wurde, 00:05:03.310 --> 00:05:06.360 sind Messaging-Dienste wie zum Beispiel WhatsApp oder Signal. 00:05:06.360 --> 00:05:08.810 Die sind nicht für unter 16-Jährige verboten. 00:05:09.260 --> 00:05:13.120 Und auch ganz interessant, es soll auch Einschränkungen für KI-Tools geben und 00:05:13.120 --> 00:05:14.460 zwar insbesondere müssen, 00:05:15.760 --> 00:05:20.780 KI-romantische Begleiter-Chatbots, also die quasi zum Ziel haben, 00:05:20.780 --> 00:05:28.810 eine Liebesbeziehung aufzubauen, die sollen nur von Personen über 18 Jahren genutzt werden. 00:05:29.340 --> 00:05:32.920 Ja, und auch in Großbritannien sind Expertinnen und Experten, 00:05:34.140 --> 00:05:37.770 sich sicher, dass dieses pauschale Verbot nicht unbedingt alle Probleme löst, 00:05:38.600 --> 00:05:41.930 und stellen das in Frage und auch Stama räumt ein, dass es da Herausforderungen 00:05:41.930 --> 00:05:45.830 gibt, vor allem was dann auch die Durchsetzung dieses Verbots betrifft, 00:05:45.830 --> 00:05:47.580 das haben wir in Australien ja auch schon mal angesprochen, 00:05:48.090 --> 00:05:52.180 da ist ja auch Social Media, ich glaube für unter 14 verboten und viele schaffen trotzdem den Zugang. 00:05:52.680 --> 00:05:56.410 Also wir gucken mal, was das so wird und welches Land dann auch als nächstes 00:05:56.410 --> 00:05:58.320 über so ein Social Media Verbot nachdenkt. 00:05:59.170 --> 00:06:02.500 Ein Update haben wir noch und zwar geht es um Google. 00:06:02.870 --> 00:06:06.360 Die Google-Suche, die kennt ihr ja früher, war so, ihr habt wahrscheinlich immer 00:06:06.360 --> 00:06:10.880 kürzere Schlagbegriffe eingegeben, habt dann mehrere Links in einer Übersicht 00:06:10.880 --> 00:06:14.350 bekommen, beziehungsweise Websites, eine kurze Textvorschau. 00:06:14.650 --> 00:06:18.950 Das heißt, insgesamt hattet ihr für eine Anfrage verschiedene Antwortoptionen. 00:06:19.470 --> 00:06:25.730 Das hat sich jetzt aber geändert, denn Google zeigt ja immer mehr KI-generierte 00:06:25.730 --> 00:06:28.450 Übersichten an, die ihr dann ganz am Anfang der Seite seht. 00:06:28.780 --> 00:06:32.330 Das ist dann eben Text, den Google aus verschiedenen Inhalten, 00:06:32.330 --> 00:06:35.410 verschiedenen Websites zusammengesucht hat. Links sind dann teilweise auch an 00:06:35.410 --> 00:06:37.130 diesen kleinen Kreisen daneben zu sehen. 00:06:37.600 --> 00:06:40.890 Und jetzt ist eben die Frage, wer haftet denn eigentlich dafür, 00:06:40.890 --> 00:06:43.800 wenn in einer solchen Übersicht ein Fehler ist? 00:06:44.360 --> 00:06:50.160 Und darüber hat das Landgericht München in einem Fall bereits am 28. Mai 2026 entschieden. 00:06:50.500 --> 00:06:54.700 Geklagt hatte da zum Beispiel ein Verlag, der in einer solchen KI-Übersicht, 00:06:55.240 --> 00:06:59.460 fälschlicherweise unlautes Geschäftsgebaren wurde, dem unterstellt, 00:06:59.800 --> 00:07:01.290 wie der Spiegel schreibt. 00:07:01.790 --> 00:07:05.380 Und ja, gegen Google gibt es jetzt eine einstweilige Verfügung, 00:07:05.380 --> 00:07:09.170 diese falschen Aussagen in der Übersicht nicht zu verbreiten. 00:07:09.840 --> 00:07:11.950 Und warum wir euch das erzählen, jetzt denkt ihr vielleicht, 00:07:11.950 --> 00:07:17.790 ja, ist doch logisch, wenn das da steht. Nee, ist aber nicht logisch. Dazu gleich mehr. 00:07:18.790 --> 00:07:22.930 Denn der richterliche Grund ist, dass die KI-Zusammenfassung kein klassisches 00:07:22.930 --> 00:07:26.720 Suchmaschinen-Ergebnis mit Links und einer Vorschau auf Websites ist. 00:07:27.140 --> 00:07:31.700 Weil das ist eben so bisher so gewesen, dass die Suchmaschinen quasi nicht gehaftet 00:07:31.700 --> 00:07:33.930 haben, weil sie haben ja nicht selber diesen Inhalt erstellt, 00:07:34.190 --> 00:07:36.300 sondern sind ja quasi wie so ein Vermittler. 00:07:36.300 --> 00:07:41.280 Übrigens, das logisch war keine Wertung, sondern das war einfach quasi dieser 00:07:41.280 --> 00:07:43.950 bisherigen Tatsache geschuldet, wie das gehandhabt wurde. 00:07:43.950 --> 00:07:48.840 Aber weil sich ja das Spiel geändert hat und Google bzw. Google mit der KI Gemini 00:07:48.840 --> 00:07:53.570 jetzt selber solche Inhalte erstellt, hat eben auch der Richter oder haben die 00:07:53.570 --> 00:07:58.460 Richter so entschieden, dass das eben dementsprechend ja nicht so verbreitet werden darf. 00:07:58.770 --> 00:08:03.510 Das Ganze wird vielmehr jetzt als eigener Google-Beitrag gesehen und das würde 00:08:03.510 --> 00:08:08.190 eben auch dadurch unterstützt, dass Google ja für die falsche Aussage keine 00:08:08.190 --> 00:08:09.700 verlinkte, passende Quelle hatte. 00:08:10.280 --> 00:08:11.900 Das fand ich halt ganz interessant. 00:08:12.480 --> 00:08:17.030 Ja, das ist lustig. Insofern lustig, weil das ja auch oft Google vorgeworfen 00:08:17.030 --> 00:08:19.400 wird, dass das schön ist, dass da jetzt eine KI-Zusammenfassung steht, 00:08:19.400 --> 00:08:21.650 aber dass das, worauf das Aufbau gar nicht mehr verlinkt wird, 00:08:21.650 --> 00:08:24.410 so nach dem Motto, frisch oder stirb, das ist die Wahrheit hier. 00:08:25.100 --> 00:08:28.230 Jetzt mal ganz umgangssprachlich ausgesprochen. Ja, interessant ist, 00:08:28.230 --> 00:08:29.920 die Richterinnen und Dichter das so gesehen haben. 00:08:29.920 --> 00:08:32.990 Ich bin auch gespannt, was das für die Zukunft heißt, dieses Urteil, 00:08:32.990 --> 00:08:38.880 ob darauf Aufbau und weitere Prozesse und Urteile folgen, weil für Google ist 00:08:38.880 --> 00:08:41.750 das ja insofern ein Problem, weil die das ja einfach hinnehmen, 00:08:41.750 --> 00:08:43.540 dass diese KI auch mal Fehler macht. 00:08:43.540 --> 00:08:46.840 Die bauen diese Zusammenfassung halt einfach ein und nehmen das halt hin. 00:08:46.840 --> 00:08:47.690 Das kann halt passieren. 00:08:48.030 --> 00:08:52.040 Stichwort, wir hatten es vor ein oder zwei Jahren, Kleister auf einer Pizza. 00:08:52.520 --> 00:08:54.060 Das ging ja ganz groß durch die Presse. 00:08:54.780 --> 00:08:57.930 Oder bei mir, als ich mal gefragt habe, bei wie viel Grad man Gemüse einweckt 00:08:57.930 --> 00:08:59.610 und dann 800 Grad vorgeschlagen wurden. 00:09:00.540 --> 00:09:02.990 Also eine Kugel nimmt das einfach hin. 00:09:03.220 --> 00:09:04.840 Machst du das nicht bei 800 Grad? 00:09:04.840 --> 00:09:09.180 Also ich sage mal so, es ist danach keimfrei, das Gemüse. 00:09:09.790 --> 00:09:12.800 Nee, aber wie du sagst und was man auch nicht vergessen darf, 00:09:12.800 --> 00:09:17.640 dass Google da ganz munter ordentlich Traffic klaut, den Website-Betreiber aus 00:09:17.640 --> 00:09:22.860 verschiedenen Gründen brauchen, zum Beispiel ja auch Medienhäuser im Thema Werbefinanzierung. 00:09:22.860 --> 00:09:27.470 Deswegen, ja, auf jeden Fall eine Sache, die wir euch hier im Update nochmal 00:09:27.470 --> 00:09:30.230 mitgebracht haben. Und ich würde sagen, wir gucken jetzt aufs WTF. 00:09:30.590 --> 00:09:33.520 Spoiler, für die, die wirklich regelmäßig einschalten. 00:09:34.060 --> 00:09:36.860 Falls ihr jetzt schon so ein bisschen innerlich durchgeht, schon wieder Meta. 00:09:36.860 --> 00:09:42.300 Nee, wir hatten einen Kandidaten, der hat sich, ja, obwohl Meta sie auch angestrengt 00:09:42.300 --> 00:09:44.730 hat, aber da hat sich einer nochmal mehr angestrengt. 00:09:45.070 --> 00:09:48.070 Ja, bevor ich den Jingle reinhaue, Meta hatte zum Beispiel so eine Nachricht 00:09:48.070 --> 00:09:50.120 diese Woche, dass die Mitarbeiterinnen und Mitarbeiter sagen, 00:09:51.060 --> 00:09:52.660 bei denen zu arbeiten sei wie in einem Gulag. 00:09:53.960 --> 00:09:55.360 Also die haben sich auch angestellt. 00:09:56.860 --> 00:09:58.560 Das ist jetzt nicht unser WTF. 00:09:58.900 --> 00:09:59.270 Nee, genau. 00:09:59.270 --> 00:10:01.630 Und ich glaube, das müssen wir auch sonst nochmal ausführen, 00:10:01.630 --> 00:10:03.170 was genau da gemeint ist. 00:10:03.170 --> 00:10:05.960 Ja, aber das könnt ihr ja mal googeln oder wir verlinken es euch. 00:10:06.320 --> 00:10:07.520 Dann seht ihr das auch als News. 00:10:07.520 --> 00:10:09.670 Oder in einer anderen Suchmaschine nachgucken. 00:10:09.670 --> 00:10:14.080 Oder das stimmt, Bing, oder wie sie alle heißen. Dr. Go, ein großer Hinweis. 00:10:15.080 --> 00:10:18.400 Wir gucken jetzt auf Grog, weil die haben sich diese Woche definitiv qualifiziert. 00:10:22.410 --> 00:10:23.150 WTF. 00:10:23.820 --> 00:10:29.140 Genau, da hat sich eine EU-Entscheidung quasi getroffen mit einer Recherche 00:10:29.140 --> 00:10:31.560 des amerikanischen Riot Magazins. 00:10:32.100 --> 00:10:36.930 Und deswegen haben wir uns entschieden, Grog zu dem WTF der Woche zu machen. 00:10:36.930 --> 00:10:40.130 Und Grog, kurz nochmal, ich meine, Caspar, du hast es eh schon erwähnt, 00:10:40.540 --> 00:10:45.260 ehemals quasi, oder was heißt ehemals, so rum ist es nicht richtig, 00:10:45.260 --> 00:10:48.410 sondern Grog ist die KI von X und das war ehemals Twitter. 00:10:48.410 --> 00:10:49.680 Richtig, genau, so rum. 00:10:49.680 --> 00:10:54.400 So rum ist es richtig. Grog gehört zu XAI, was wiederum zu SpaceX gehört. 00:10:54.900 --> 00:10:57.030 Wir legen mal los mit der EU-Entscheidung. 00:10:57.420 --> 00:10:59.710 Ja, lasst uns erst auf diese Entscheidung gucken von der EU. 00:11:00.200 --> 00:11:05.320 Nach monatelangen Verhandlungen hat nämlich das EU-Parlament diese Woche entschieden, 00:11:05.320 --> 00:11:07.190 das habt ihr vielleicht auch schon in anderen Medien gehört, 00:11:07.190 --> 00:11:09.050 weil es auch da wieder mal groß durch die Presse ging, 00:11:09.470 --> 00:11:14.410 dass sexualisierte Deepfakes, beziehungsweise Tools, die solche Deepfakes erstellen 00:11:14.410 --> 00:11:16.440 können, verboten werden. 00:11:17.660 --> 00:11:22.060 Deepfakes, ihr wisst, das sind kreergenerierte Bilder, die man für die Realität halten könnte. 00:11:22.510 --> 00:11:25.410 Und in dem Fall geht es genauer gesagt noch um sexualisierte, 00:11:25.410 --> 00:11:29.160 KI-generierte Bilder, die so real wirken, dass man glauben könnte, 00:11:29.160 --> 00:11:30.390 dass es die Person wirklich gibt. 00:11:30.390 --> 00:11:35.000 Oder weil das sogar Bilder sind, die von real existierenden Personen erzeugt 00:11:35.000 --> 00:11:37.770 wurden. Also die Bilder sehen dann so aus, wie wenn das die Person wäre. 00:11:39.280 --> 00:11:42.540 Noch haben die EU-Staaten diesem Gesetz nicht zugestimmt. Aber man geht davon 00:11:42.540 --> 00:11:45.040 aus, dass das relativ problemlos und schnell passieren wird. 00:11:45.400 --> 00:11:50.300 Und die Idee ist, dass das Gesetz dann am 2. Dezember tatsächlich in Kraft Dritt. 00:11:51.020 --> 00:11:55.390 Sollte das dann so sein, Anfang Dezember, dann ist es so, dass vor allem große 00:11:55.390 --> 00:12:01.580 KI-Anbieter Probleme bekommen, wenn sie weiterhin solche Deepfakes machen und 00:12:01.580 --> 00:12:05.750 ihr ahnt schon, dass wir jetzt langsam in Richtung Grog gehen. 00:12:06.730 --> 00:12:13.160 GROC gehört ja zu XAI und das sieht sich eben schon seit Januar 2026 einer regelrechten 00:12:13.160 --> 00:12:19.770 Welle von Klagen und regulatorischen Prüfungen ausgesetzt, weil GROC eben auf X verwendet wird, um, 00:12:20.970 --> 00:12:22.620 Judification-Bilder zu erstellen. 00:12:22.620 --> 00:12:28.810 Also wie Caspar sagte, sexuelle KI-Inhalte, die dann in der Regel nackte Personen 00:12:28.810 --> 00:12:31.600 zeigen oder zumindest größtenteils entkleidete Personen. 00:12:32.090 --> 00:12:35.380 Es gibt auch eine Sammelklage zum Beispiel im März von einem Bundesgericht in 00:12:35.380 --> 00:12:41.970 Kalifornien, wo eben auch geklagt wird, dass auch, ja, ich überlege gerade, 00:12:41.970 --> 00:12:46.290 ob wir vielleicht auch hätten eine Triggerwarnung anstellen müssen vorweg. 00:12:46.740 --> 00:12:49.870 Ja, das ist jetzt die schlimmste Stelle, aber ja, ganz kurz, 00:12:49.870 --> 00:12:53.490 es geht um sexualisierte Gewalt und Minderjährige, das ist nämlich genau der 00:12:53.490 --> 00:12:58.090 Punkt, der in dieser Verhandlung in Kalifornien verhandelt wird, dass Agrock, 00:12:58.810 --> 00:13:03.080 beziehungsweise die KI of X, genau solche Inhalte eben auch erstellt hat. 00:13:03.080 --> 00:13:07.340 Also nicht nur nackte Promis, sondern auch noch leider nackte Minderjährige, 00:13:07.690 --> 00:13:09.660 also so richtig ekliges Zeug. 00:13:10.640 --> 00:13:14.750 Danke, Caspar, fürs Übernehmen. Und jetzt geht es weiter. XLL sagt eben, 00:13:14.750 --> 00:13:18.520 hey, wir haben Schutzmaßnahmen eingeführt, um eben die, sorry, 00:13:18.520 --> 00:13:22.270 ich finde das Wording da, die Erstellung nicht einvernehmlicher und sexualisierter 00:13:22.270 --> 00:13:24.270 Deepfakes zu begrenzen und zu verhindern. 00:13:24.600 --> 00:13:29.360 Also ein Defekt ist per se eigentlich in der Regel, aber gut, egal. 00:13:30.370 --> 00:13:35.100 Unternehmen, wie gesagt, hat gesagt, ja, wir machen was dagegen und insbesondere 00:13:35.100 --> 00:13:40.140 gegen den sexuellen Missbrauch von Kindern, dass der eben auch über die Plattform 00:13:40.140 --> 00:13:42.180 verboten ist, offensichtlich. 00:13:42.580 --> 00:13:46.440 So alles andere wäre, wie gesagt, auch in sich verboten, aber gut. 00:13:47.170 --> 00:13:51.890 Jetzt ist nur das Problem, diese Schutzmaßnahmen, wenn es sie denn dann gibt, 00:13:52.190 --> 00:13:55.330 die greifen nicht wirklich oder auch nicht ausreichend. 00:13:55.330 --> 00:13:58.690 Denn dieser GROG-Chatbot, der wird weiter genutzt und das ist dann auch unser 00:13:58.690 --> 00:14:04.130 tatsächliches WTF, um eben nicht einvernehmliche, explizite Bilder und Videos 00:14:04.130 --> 00:14:06.760 von Frauen zu erstellen und zu hosten. 00:14:07.110 --> 00:14:10.810 Und das zeigt eben auch die Analyse von Riot. Wir verlinken sie in den Shownotes. 00:14:11.830 --> 00:14:18.390 Das US-Magazin, das hat sehr viele von öffentlichen Grog-Bildern überprüft, 00:14:18.970 --> 00:14:23.150 die zum Beispiel dann auch auf X gelandet sind und fand da echt Dutzende, 00:14:23.600 --> 00:14:29.600 die eben zu sexualisierten KI-Bildern, Videos gehörten und natürlich auch solche, 00:14:29.600 --> 00:14:33.110 die nicht mit der Zustimmung von Betroffenen erstellt worden sind. 00:14:33.390 --> 00:14:38.390 Die Redaktion hat auch Grog-Videos gefunden, die Frauen zeigen, 00:14:38.390 --> 00:14:40.930 die sich in Kleiden oder eben bei sexuellen Handlungen, 00:14:42.130 --> 00:14:48.460 gezeigt werden und einige sind davon auch, schreibt Weyert so schön, vollständig explizit. 00:14:48.460 --> 00:14:52.380 Also es geht hier nicht um mal eine Frau im Bikini oder so, sondern es geht 00:14:52.380 --> 00:14:55.610 um wirklich, ich sag mal so, hardcore pornografisches Material. 00:14:56.380 --> 00:15:00.810 Genau, das ist dann teilweise auch nicht in Anführungszeichen nur fotorealistisch, 00:15:00.810 --> 00:15:06.650 sondern es gibt zum Beispiel auch eher animierte Stile, also quasi eine Bandbreite. 00:15:07.550 --> 00:15:10.830 Riot will auch verschiedene Prompts getestet haben, zum Beispiel bei Gemini, 00:15:10.830 --> 00:15:14.570 ChatGPT sein, die dann nicht durchgegangen sind, also geblockt worden. 00:15:15.410 --> 00:15:17.900 Ja, Grog hat sich da quasi anders entschieden. 00:15:19.440 --> 00:15:21.380 Ja, das ist unser WTF. 00:15:21.650 --> 00:15:24.860 Insgesamt, schreibt Wired, würden andere generative KI-Systeme, 00:15:24.860 --> 00:15:27.170 du hast es gerade schon genannt, Gemini zum Beispiel oder ChatGPT, 00:15:27.650 --> 00:15:29.770 sehr viel mehr Sicherheitsverkehrungen haben. 00:15:30.120 --> 00:15:34.590 Da ist es ja oft auch so, dass selbst kleinste Andeutungen oft schon geblockt 00:15:34.590 --> 00:15:37.210 werden und eben bei GROG ist es nicht so. 00:15:38.070 --> 00:15:41.950 Wired hat dann auch Grog tatsächlich angeschrieben, beziehungsweise Ex-AI und 00:15:41.950 --> 00:15:46.190 hat über diese expliziten Bilder informiert und hat gefragt, wie das denn sein kann. 00:15:46.640 --> 00:15:50.170 Ja, und das Interessante ist, die sind direkt nach dieser Anfrage dann verschwunden. 00:15:51.570 --> 00:15:55.000 Und die neuesten Nutzungsbedingungen von Ex-AI besagen nun auch, 00:15:55.000 --> 00:16:00.730 dass das System sexuelle Situationen antworten kann, jedoch nicht für schadenverursachende 00:16:01.030 --> 00:16:04.840 oder missbräuchliche Aktivitäten genutzt werden darf. 00:16:05.080 --> 00:16:08.230 Also nach dem Motto, es kann sein, dass es Blödsinn erstellt, 00:16:08.440 --> 00:16:10.380 aber das darf es natürlich eigentlich nicht. 00:16:10.920 --> 00:16:14.740 Ja gut, wenn es so einfach ist, schauen wir mal, ob es so einfach bleibt. 00:16:15.430 --> 00:16:17.870 Nach der EU-Regelung, also wenn die im 2. Dezember in Kraft tritt, 00:16:18.450 --> 00:16:22.130 sollte XAI, wenn das denn bis dahin nicht abgestellt hat, dieses Vorgehen ein 00:16:22.130 --> 00:16:26.570 ziemliches Problem bekommen, weil die Strafen, die die EU gegen solche Unternehmen 00:16:26.570 --> 00:16:29.170 verhängen kann, ich sag mal so durchaus auch saftig sein können. 00:16:30.610 --> 00:16:37.120 Und mir fehlen an der Stelle jetzt die Worte. Das ist das WTF der Woche und ich würde sagen... 00:16:45.040 --> 00:16:49.710 Super griechisches Drama. Input. Wir wollen über Antrophic natürlich sprechen, 00:16:50.650 --> 00:16:53.960 und dröseln das jetzt einmal für euch auf. Was ist denn da eigentlich so übers 00:16:53.960 --> 00:16:57.590 Wochenende passiert? Was wurde da gesperrt? Was ist der Hintergrund? 00:16:57.980 --> 00:16:59.600 Das hört ihr jetzt in den nächsten Minuten. 00:17:06.900 --> 00:17:09.770 Also ich kann verstehen, wahrscheinlich, wenn ihr an Antrophic denkt, 00:17:09.770 --> 00:17:13.840 an die US-Firma hinter Clore zum Beispiel, hinter dem KI-Shadebot, 00:17:13.840 --> 00:17:16.840 dann denkt ihr jetzt vielleicht, aha, ein KI-Input. 00:17:17.240 --> 00:17:18.760 Ja, was ist denn das jetzt wieder? 00:17:19.680 --> 00:17:22.810 Geht es jetzt hier um Modelle, um bestmögliche Einsatzzwecke? 00:17:23.010 --> 00:17:28.200 Nein, es geht unter anderem ja eigentlich um vielleicht übertriebenes Marketing. 00:17:28.650 --> 00:17:34.270 Es geht um Multimatum, es geht über Alarmstimmung in US-Regierungskreisen, 00:17:34.270 --> 00:17:41.320 wilde Telefonate und quasi die Pointe, eine weltweite Sperrung von KI-Modellen. 00:17:42.150 --> 00:17:45.450 Das gucken wir uns jetzt alles an, was da passiert ist, wie gesagt, 00:17:45.450 --> 00:17:46.730 seit Ende vergangener Woche. 00:17:47.040 --> 00:17:50.730 Und ein Stichwort müsst ihr euch aber merken, es geht nämlich auch um digitale 00:17:50.730 --> 00:17:52.890 Souveränität. Caspar, das ist angekündigt. 00:17:53.260 --> 00:17:58.810 Wir haben hier ein Tech-Drama in drei Akten rund um Anthroping, 00:17:58.810 --> 00:18:04.570 die Modelle Mythos und Fable 5, die US-Regierung und sehr viele Missverständnisse. 00:18:04.570 --> 00:18:10.490 Und damit moderiere ich jetzt den ersten Akt an, der hier den wundervollen Titel in den Notizen trägt. 00:18:11.240 --> 00:18:16.390 Kurz röstern, die gefährlichste KI der Welt. Caspar, was steckt dahinter? 00:18:16.400 --> 00:18:19.610 Stück Auftritt von mir auf die Bühne. 00:18:20.600 --> 00:18:24.430 Wir müssen einmal kurz in die Vergangenheit gehen. Nicht weit zurück, 00:18:24.430 --> 00:18:27.720 ich komme jetzt nicht wieder zu den Anfängen von künstlicher Intelligenz, 00:18:27.720 --> 00:18:28.790 sondern ein paar Wochen zurück. 00:18:29.200 --> 00:18:32.740 Da hat Anthropic nämlich ein neues KI-Modell namens Mythos 5 vorgestellt. 00:18:32.740 --> 00:18:33.910 Du hast es gerade schon erzählt. 00:18:34.400 --> 00:18:38.150 Die Besonderheit bei diesem Modell ist, das wurde nicht wie normalerweise direkt 00:18:38.150 --> 00:18:42.670 veröffentlicht und man konnte es dann ausprobieren, sondern das blieb erst mal 00:18:42.670 --> 00:18:45.790 unter Verschluss. Das heißt, eigentlich Eigentlich wurde das auch nicht wirklich 00:18:45.790 --> 00:18:47.340 veröffentlicht, sondern nur vorgestellt. 00:18:48.160 --> 00:18:52.280 Bekommen haben das nur einzelne Sicherheitsforscherinnen und Forscher, 00:18:52.280 --> 00:18:54.420 die durften das ausprobieren. 00:18:54.910 --> 00:18:59.160 Warum? Ja, das kommt auch so ein bisschen in dem Marketing raus. 00:18:59.160 --> 00:19:03.400 Das Unternehmen hat Mythos nämlich direkt von Beginn an als Modell vermarktet, 00:19:03.780 --> 00:19:08.590 dass praktisch jede Sicherheitslücke in Programmcode finden könne. 00:19:09.120 --> 00:19:13.430 Und die Kommunikation lautet sinngemäß, dieses Modell ist so mächtig, 00:19:13.650 --> 00:19:15.940 dass wir es kaum veröffentlichen können. 00:19:16.760 --> 00:19:20.080 Jetzt muss man natürlich einmal differenzieren. Wir hatten es ja eingangs gesagt, 00:19:20.080 --> 00:19:24.650 inwieweit das jetzt reines Marketing ist oder ob das auch wirklich ein Modell 00:19:24.650 --> 00:19:27.790 ist, das besonders stark darin ist, Sicherheitslücken zu finden. 00:19:28.120 --> 00:19:31.750 Ihr ahnt es, das konnten wir aus Gründen nicht selbst prüfen. 00:19:32.290 --> 00:19:35.600 Aber wir machen jetzt mal einen Schritt weiter. Also unabhängig davon, 00:19:35.600 --> 00:19:39.650 ob das Modell jetzt so mächtig ist oder das Marketing dahinter, 00:19:39.650 --> 00:19:41.420 dass wir gleich nochmal wichtig werden. 00:19:41.420 --> 00:19:47.360 Wir schauen jetzt erstmal darauf, was das denn jetzt auch nochmal mit Fable 5 zu tun hat, weil, 00:19:47.980 --> 00:19:51.970 wie dann vor ein paar Tagen statt Mythos 5 ein anderes Modell namens Fable 5 00:19:51.970 --> 00:19:58.560 veröffentlicht wurde und da sind dann auch, ja, Usern eigentlich direkt darauf 00:19:58.560 --> 00:19:59.680 aufmerksam gemacht worden. 00:19:59.680 --> 00:20:02.500 Ich weiß noch, ich habe auch Cloud geöffnet und dann hatte ich da auch eine 00:20:02.500 --> 00:20:07.990 große Anzeige, dass eben für die Abonnements dieses Fable 5 zugänglich ist, 00:20:08.180 --> 00:20:11.690 für die anderen nicht. Also, was ist denn Fable 5? 00:20:11.920 --> 00:20:15.590 Ja, das ist sozusagen eine abgeschwächte Version von Mythos. 00:20:15.590 --> 00:20:20.710 Es soll sogar wohl das gleiche Modell sein, schwieriger Satz, Reihenfolge. 00:20:21.340 --> 00:20:25.590 Ähm, Fable 5 hat aber eine Besonderheit im Vergleich zum Mythos. 00:20:25.590 --> 00:20:29.540 Es ist nämlich mit einer Art, ähm, ja, Sicherheitsvorkehrung, 00:20:29.940 --> 00:20:33.240 ähm, versehen. Das soll genauso gut Schwachstellen finden können und genauso 00:20:33.240 --> 00:20:34.590 gut Sicherheitslücken aufdecken. 00:20:35.020 --> 00:20:39.220 Aber, ähm, wenn man Fable 5 nach genau diesen Dingen gefragt hätte, 00:20:39.220 --> 00:20:42.820 als es noch verfügbar war, dann hätte es gesagt, halt, stopp, 00:20:42.820 --> 00:20:45.970 du willst hier gerade ein Thema mit mir bereden, was zu gefährlich ist. 00:20:46.260 --> 00:20:52.030 Deswegen gehe ich jetzt über zu Cloud Opus 4.8. Das ist quasi das nächst ältere 00:20:52.030 --> 00:20:55.330 Modell, das nächst in Anführungszeichen schlechtere Modell, was dann nicht so 00:20:55.330 --> 00:20:56.720 gut ist in Sicherheitslücken aufdecken. 00:20:57.000 --> 00:21:01.860 Und das kann dann deine Anfrage beantworten. Das haben wir soweit auch mal ausprobiert. Das funktioniert. 00:21:02.290 --> 00:21:05.240 Genau das ist mir quasi passiert. Ich habe aus Gag mal eingegeben, 00:21:05.660 --> 00:21:08.610 guck mal, hier ist Code. Such doch bitte mal nach den Sicherheitslücken und nennen sie mir. 00:21:08.950 --> 00:21:11.950 Und dann kam hier, ich kann dir das nicht beantworten. Das machst du bitte mit 00:21:11.950 --> 00:21:14.910 Opus 4.8. Nicht wortwörtlich, aber so in dem Sinne. 00:21:16.080 --> 00:21:19.480 Soweit erst mal die Vorgeschichte. Also wir haben Mythos, was nicht veröffentlicht 00:21:19.480 --> 00:21:23.380 wurde, aber Fable, was quasi Mythos ist mit so einer Sicherheitssperre. 00:21:24.030 --> 00:21:26.600 Und jetzt müssten wir eigentlich, wenn wir bei dem Theaterbild bleiben, 00:21:26.600 --> 00:21:28.850 ich weiß, Caspar, du hast ja auch eine persönliche Verbindung zu, 00:21:29.100 --> 00:21:31.290 stellt euch mal vor, wir wechseln einmal das Bühnenbild. 00:21:32.500 --> 00:21:37.970 Weil was wir jetzt besprechen, ist eben während Anthropic Fable 5 veröffentlicht 00:21:37.970 --> 00:21:42.960 hat, ist eben im Parallel in Washington die Sorge vor KI und Cybersicherheit, 00:21:42.960 --> 00:21:45.430 auch gerade im Zusammenhang mit China, gewachsen. 00:21:45.910 --> 00:21:51.210 Und das legt zumindest einen Bericht der Nachrichten- und Analyseplattform SEMA vor nah. 00:21:52.940 --> 00:21:56.860 Dieser Bericht ist Ende vergangener Woche erschienen. Und demnach habe sich 00:21:56.860 --> 00:22:01.290 Amazon-CEO Andrew Jesse bei einem Abendessen mit Regierungsvertretern 00:22:01.730 --> 00:22:07.460 getroffen und darauf auf verschiedene Risiken, mögliche Risiken für die nationale 00:22:07.460 --> 00:22:11.360 Sicherheit der USA durch Mythos und Fable Five hingewiesen. 00:22:11.680 --> 00:22:15.210 Also nur mal kurz festhalten, das heißt, von einer anderen Firma, 00:22:15.210 --> 00:22:18.360 die auch im Tech-Sektor tätig ist, sagt jetzt der CEO, 00:22:18.940 --> 00:22:22.310 Ihr wisst ja da eigentlich, wie gefährlich das sein kann. 00:22:22.800 --> 00:22:27.010 Und die US-Regierung beginnt daraufhin möglicherweise, zumindest durch dieses 00:22:27.010 --> 00:22:30.870 Bericht zu glauben, dass da eine super gefährliche Technologie auf dem Markt 00:22:30.870 --> 00:22:34.130 ist, die eben potenziell die nationale Sicherheit gefährdet. 00:22:34.540 --> 00:22:39.650 Und das besonders, wenn sie eben bei anderen Nationen, zum Beispiel bei China 00:22:39.650 --> 00:22:42.980 quasi in die Finger gerät, beziehungsweise unter die Finger eigentlich, 00:22:42.980 --> 00:22:44.420 wenn ich mir eine Tastatur vorstelle. 00:22:44.680 --> 00:22:47.590 Das ist jetzt erstmal… Wenn die Zugriff darauf bekommen. 00:22:48.050 --> 00:22:52.620 Genau, das ist Cut. Und jetzt widmen wir uns dem zweiten Akt, 00:22:52.620 --> 00:22:55.180 das 90-Minuten-Ultimatum. 00:22:55.310 --> 00:22:56.050 Ja, dem Höhepunkt. 00:22:56.050 --> 00:22:58.010 Müssen wir nochmal die Szene wechseln oder wie sieht es aus? 00:22:58.610 --> 00:23:00.980 Ja, wir müssen jetzt so ein bisschen die Szene wechseln. Wir wechseln jetzt 00:23:00.980 --> 00:23:02.690 quasi in das Büro von Entropic. 00:23:03.170 --> 00:23:08.850 Dort klingelte nämlich Freitag dann das Telefon. Und wer war dran? Die US-Regierung. 00:23:09.400 --> 00:23:11.040 Die berichtet The Verge. 00:23:11.730 --> 00:23:15.460 Laut The Verge, genau. Die berichten jetzt nämlich über diesen Telefonanruf. 00:23:15.900 --> 00:23:18.380 Und statt nun, dass die US-Regierung irgendwie mal fragt, sag mal hier, 00:23:18.380 --> 00:23:20.460 wir haben gehört, ihr habt da so ein KI-Modell veröffentlicht, 00:23:20.460 --> 00:23:22.660 was ist denn das? Und hat da China drauf Zugriff? 00:23:23.050 --> 00:23:26.390 Nee, das Telefonat lief so ein bisschen anders. Die US-Regierung hat relativ 00:23:26.390 --> 00:23:29.570 schnell gesagt, wir geben euch jetzt 90 Minuten, dann ist das weg vom Fenster, 00:23:29.570 --> 00:23:30.740 dann habt ihr den Zugang gesperrt. 00:23:31.260 --> 00:23:34.040 So, das für Nicht-US-Bürger war die Forderung. 00:23:34.740 --> 00:23:37.910 Andernfalls, wenn ihr dem nicht nachkommt, dann kommt das Handelsministerium 00:23:37.910 --> 00:23:41.660 und dann gibt es Exportkontrollen und so nach dem Motto, dann wird es für euch 00:23:41.660 --> 00:23:43.070 nicht lustig, so nach dem Motto. 00:23:43.790 --> 00:23:46.740 So, ihr könnt euch vorstellen, in dieser Firmenzentrale in San Francisco von 00:23:46.740 --> 00:23:48.810 Entropic, da wurde es dann ein bisschen hektisch. 00:23:49.250 --> 00:23:52.670 Man hat dann super schnell den CEO von Entropic, Dario Amodai, 00:23:53.050 --> 00:23:56.080 quasi ins Büro gerufen, zitiert. Der ist dann auch schnell ins Büro gefahren. 00:23:56.570 --> 00:24:01.630 Ja und dann gab es in diesen 90 Minuten Gespräche unter anderem mit dem Finanzministerium, 00:24:01.630 --> 00:24:06.820 mit dem Handelsministerium und mit dem Cyberdirektor der USA und wie jetzt die 00:24:06.820 --> 00:24:08.510 Nachrichtenseite Axios berichtet, 00:24:09.070 --> 00:24:12.490 fühlte sich die US-Regierung wohl von Entropic hintergangen, 00:24:12.490 --> 00:24:15.310 da diese Fable ohne Rücksprache veröffentlicht hätte. 00:24:15.760 --> 00:24:18.060 Auch wenn Anthropic das Gegenteil behauptet und sagt, nee, nee, 00:24:18.060 --> 00:24:20.740 wir haben euch schon informiert, dass wir das Modell veröffentlichen. 00:24:21.280 --> 00:24:24.060 Naja, und ihr könnt schon, ihr merkt es schon fast an diesen gegensätzlichen 00:24:24.060 --> 00:24:27.690 Standpunkten, man ist sich in den 90 Minuten nicht einig geworden. 00:24:28.170 --> 00:24:31.870 Und tatsächlich musste Anthropic dann Mythos und Fable abschalten. 00:24:32.390 --> 00:24:35.900 Aber das nicht nur für Nutzerinnen und Nutzer außerhalb der USA, 00:24:35.900 --> 00:24:37.910 weil das konnte Anthropic auf die Schnelle nicht. 00:24:38.180 --> 00:24:39.160 Die konnten nicht einfach so 00:24:39.160 --> 00:24:42.750 schnell mal eben sagen, okay, du bist EU-Bürger, dann bist du jetzt raus. 00:24:43.140 --> 00:24:45.960 Sondern sie mussten quasi den großen Hebel umlegen zur Sicherheit. 00:24:46.340 --> 00:24:50.170 Und so kann jetzt gerade niemand mehr auf Mythos und Fable zugreifen. 00:24:50.490 --> 00:24:53.950 Wenn die Cloud-App zum Beispiel aktuell öffnet, dann ist das auch so bei Fable 00:24:53.950 --> 00:24:57.380 5 bei der Auswahl der Modelle, sofern ihr die dann auswählen könnt. 00:24:58.170 --> 00:24:59.920 Weil ich denke, das ist immer noch eine Abo-Funktion. 00:25:00.060 --> 00:25:01.320 Glaube auch, ja. 00:25:01.460 --> 00:25:04.880 Es ist ausgegraut oder zumindest um auf alle Modelle zuzugreifen. 00:25:04.880 --> 00:25:07.400 Für Gratis ist das eben nur in beschränktem Rahmen möglich. 00:25:07.740 --> 00:25:10.980 Aber es ist auch ausgegraut und das steht eben derzeit nicht verfügbar. 00:25:11.250 --> 00:25:15.690 Wir zeichnen übrigens vielleicht als Hinweis am Mittwoch, den 17. Juni auf. 00:25:16.450 --> 00:25:19.960 Und ja, die Verhandlungen zwischen Anthropic und der US-Regierung, 00:25:19.960 --> 00:25:21.420 die sind noch nicht abgeschlossen. 00:25:21.980 --> 00:25:24.980 Denn, gut, dass ich gesagt habe, wir zeichnen am Mittwoch auf. 00:25:25.840 --> 00:25:27.370 Bis jetzt ist noch nichts wieder verfügbar. 00:25:27.370 --> 00:25:29.870 Genau. Also hat man sich nicht geeinigt. Wir könnten auch nicht sagen, 00:25:30.220 --> 00:25:33.050 das ändert sich innerhalb der nächsten so und so Tagestunden. 00:25:33.500 --> 00:25:34.600 Man weiß es schlicht nicht. 00:25:35.060 --> 00:25:41.360 Aber was wir für euch vorbereitet haben, sind nochmal vielleicht ein paar Antworten auf Fragen. 00:25:41.780 --> 00:25:43.360 Warum das Ganze jetzt eigentlich genau? 00:25:44.340 --> 00:25:47.310 Hat denn da die Regierung jetzt was entdeckt und wenn ja was? 00:25:47.760 --> 00:25:51.010 Was ist jetzt mit diesen Sicherheitsfunktionen von Fable 5? Weil wir hatten 00:25:51.010 --> 00:25:54.050 auch gesagt, hey, die verweisen ja dann eigentlich auf andere Modelle. 00:25:54.050 --> 00:26:01.340