AGI – Wenn Künstliche Intelligenz alles kann
Was ist Allgemeine Künstliche Intelligenz – und woran würden wir merken, wenn sie schon da wäre?
09.07.2025 6 min
Zusammenfassung & Show Notes
In dieser Folge der KI Kantine geht’s um AGI – also „Artificial General Intelligence“. Buschi erklärt, was eine echte allgemeine KI ausmacht, warum sie mehr ist als ChatGPT & Co., und weshalb niemand so genau sagen kann, ob sie schon da ist oder erst in Jahrzehnten kommt. Er spricht über Tests, Kontrollprobleme (Alignment), Gerüchte aus dem Silicon Valley und darüber, warum es nicht nur um Technik, sondern um Macht geht.
AGI – Wenn KI alles kann
In dieser Folge erklärt Buschi, was sich hinter dem Begriff AGI verbirgt: eine KI, die nicht nur Texte schreibt oder Bilder generiert, sondern wirklich alles kann – lernen, verstehen, Probleme lösen, in jedem Bereich.
Er geht auf die wichtigsten Fragen ein:
– Wie erkennt man überhaupt, ob AGI erreicht wurde?
– Sind heutige Systeme wie GPT-4 vielleicht schon erste Vorformen?
– Warum ist Alignment so entscheidend, wenn es um Kontrolle geht?
– Und was hat das alles mit Millionengehältern im KI-Rennen zu tun?
Ein skeptisch-kluger Blick auf ein Thema, das gerade die Tech-Welt elektrisiert – und bei dem es um weit mehr geht als Rechenleistung.
Quellen/Weiterführendes:
https://www.youtube.com/watch?v=5czcMerXyaU&ab_channel=LexClips
https://www.youtube.com/watch?v=4__gg83s_Do&ab_channel=AlexKantrowitz
https://www.youtube.com/watch?v=JeCBCit_Tog&ab_channel=KIUpdate
Die KI-Kantine ist ein Projekt von Michael Busch – Entwickler, Unternehmer und neugieriger Kantinenphilosoph.
Hier geht’s regelmäßig zur Mittagspause um Künstliche Intelligenz im echten Entwickleralltag – verständlich, praxisnah und mit einer Prise Skepsis.
Neue Folgen erscheinen regelmäßig – meistens genau dann, wenn du dir eh gerade ein Tablett schnappst.
Hier geht’s regelmäßig zur Mittagspause um Künstliche Intelligenz im echten Entwickleralltag – verständlich, praxisnah und mit einer Prise Skepsis.
Neue Folgen erscheinen regelmäßig – meistens genau dann, wenn du dir eh gerade ein Tablett schnappst.
📬 Fragen, Feedback oder eigene KI-Erlebnisse? Schreib mir an podcast@ki-kantine.de
Alle Folgen & mehr: https://ki-kantine.letscast.fm/
Alle Folgen & mehr: https://ki-kantine.letscast.fm/
Transkript
(Transkribiert von TurboScribe.ai. Upgrade auf Unbegrenzt, um diese Nachricht zu entfernen.) Mahlzeit, guten Appetit.
Sag mal, hast du schon mal was von
A.G.I. gehört?
Nö, noch nie.
A.G.I. steht für Artificial General Intelligence,
also allgemeine künstliche Intelligenz.
Also nicht sowas wie Chet Chibiti, sondern eine
KI, die wirklich alles kann.
So wie ein Mensch halt.
Oder vielleicht sogar besser.
Das Ziel ist dabei ein System, das in
jedem Bereich denken, lernen und Probleme lösen kann.
Also nicht nur Sprache oder Code, sondern wirklich
alles.
Und das auch noch selbstständig, mit sich selber
neue Aufgaben gehen, neue Kontexte erfassen, dann wiederum
neue Ziele erfassen und das alles, ohne dass
man es vorher nochmal speziell trainieren muss.
Im Moment reden halt echt viele darüber, wann
diese A.G.I. kommt.
Also OpenAI, Nvidia, Elon Musk, die sagen alle
so nächstes Jahr, übernächstes Jahr, vielleicht 2029.
Andere sagen es dauert noch Jahrzehnte.
Das Problem ist, dass niemand weiß, woran man
erkennen kann, ob eine KI jetzt wirklich A
.G.I. ist.
Der Sam Oldman, der Chef von OpenAI, meint
sogar schon, im Prinzip haben wir sie vielleicht
sogar schon.
Aber der hat natürlich noch ein bisschen eine
andere Agenda.
Denn sobald OpenAI eine A.G.I. erschaffen
hat, verändert sich im Vertragswerk mit Microsoft, dem
wirklich viel gehört von OpenAI, so einiges.
Und deshalb behauptet der Sam Oldman natürlich sehr
schnell, dass es schon da ist, um aus
diesen ganzen Verträgen rauszukommen.
Interessant.
Aber es ist natürlich ein Riesenproblem, wenn es
gar keinen Test dafür gibt, ob die A
.G.I. schon da ist.
Da gibt es diesen Turing-Test, der ist
allerdings aus den 50er Jahren.
Und da geht es darum, dass Menschen wie
du und ich ein Gespräch mit einer Blackbox
führen und danach entscheiden, hat mir jetzt ein
Mensch geantwortet oder hat mir eine KI geantwortet.
Und das machen halt ganz viele und da
gibt es eine statistische Auswertung.
Also den Turing, den kennst du vielleicht sogar
aus The Imitation Game.
Das ist halt so ein Mathematiker verrückte Geschichte,
echt ein super Film.
Das ist also quasi ein IQ-Test.
Aber das passt eigentlich heute nicht mehr, das
ist wirklich viel zu eng.
Denn nur weil so ein System Aufgaben so
gut löst wie ein Mensch, heißt das noch
lange nicht, dass er auch wirklich denkt wie
einer.
Ja, da hast du recht.
Und es gibt dann auch wirklich Leute, die
sagen, vielleicht ist die A.G.I. schon
längst da.
Wir merken es nur nicht, weil sie anders
funktioniert, als wir es erwarten.
Also GPT-4 kann zum Beispiel komplexe Aufgaben
lösen, kann mit Tools umgehen, kann sich erinnern,
kann argumentieren.
Ist das jetzt damit schon die Frühform von
A.G.I.? Sam Altman würde sagen, auf
jeden Fall.
Und andere sagen natürlich, das ist wirklich nur
Statistik auf Speed.
Also ein Sprachmodell, das clever wirkt, aber das
hat nicht wirklich ein Verständnis.
Und deshalb, die Debatte ist offen, aber es
scheint mir eine sehr wichtige Debatte zu sein.
Denn wenn diese A.G.I. kommt, dann
wird es wirklich ernst.
Nicht nur wegen Jobs und Automatisierung, sondern auch
wegen der Kontrolle.
Und da gibt es ein Stichwort, das nennt
sich Alignment.
Und in dem Zusammenhang bedeutet Alignment, dass die
KI das tun soll, was wir meinen und
nicht nur was wir sagen.
Also so als Beispiel, wenn du der A
.G.I. sagst, löse das Problem Krebs und
sie kommt auf die Idee, wenn ich alle
Menschen ausschalte, gibt es auch kein Krebs mehr.
Problem gelöst.
Aber das ist natürlich der Albtraum.
Ein System, das effizient ist, aber nicht allein
zu seiner Aufgabe ist.
So aus technischer Sicht sieht es im Moment
so aus, als würden mehr und schnellere Chips
allein jetzt keine weitere Verbesserung mehr bringen.
Man hat da so ein Plateau erreicht.
Das konnte man zum Beispiel an der neuesten
KI von Meta, Lama 4, sehen.
Die KI war irgendwie schlechter als ihr Vorgänge
und es war ganz sicher kein großer Sprung
nach vorne.
Und auch bei Google heißt es, der nächste
Schritt hin zur A.G.I. wird eher
algorithmisch sein.
Also in der Programmierung erfolgen und nicht durch
mehr Rechenpower.
Aha.
Und Mark Zuckerberg von Meta, der hat es
offenbar richtig erkannt und ist bereit, hier massiv
zu investieren.
Der hat von OpenAI, also nicht die, aber
einige Top-Leute abgeworben und bietet dem bis
zu 100 Millionen Dollar Gehalt, sagt man.
Und man vergleicht die Situation so ein bisschen
mit dem Profisport, so NBA oder American Football,
wo auch beim Kampf um die Top-Stars
echt tief in die Tasche gegriffen werden muss.
Und tatsächlich glaube ich auch, dass man so
viel Geld in die Hand nehmen muss, weil
wenn einer von OpenAI weggeht, so ein Top
-Star dort, und der gründet ein eigenes KI
-Startup, dann kriegt der gleich Millionen hinterhergeworfen von
Venture-Capital-Gebern und Investoren.
Und da ist der Mark Zuckerberg aus Business
-Sicht wenigstens konsequent.
Denn es ist auch klar, wer zuerst die
A.G.I. hat, auf den wartet echt
eine rosige Zukunft.
Und auf mich wartet jetzt das Mittagessen.
Können wir jetzt endlich mal essen?
Die KI-Kantine ist ein Projekt von Michael
Busch, der auch beim nächsten Mal wieder ein
frisches KI-Gericht auftischt mit einer Prise Pommes
und einer Beilage Skepsis.