"What did Ilya see?", Ray Kurzweil und die Künstliche Superintelligenz (Teil 1)
28.06.2024 15 min
Zusammenfassung & Show Notes
Der Weg nach KAI – Episode 19: "What did Ilya see?", Ray Kurzweil und die Künstliche Superintelligenz (Teil 1)
In dieser Folge geht es um die Gründung des neuen Unternehmens "Safe Superintelligence Inc." (SSI) durch den renommierten KI-Forscher Ilya Sutskever.
Sutskever war bis vor kurzem Chief Scientist bei OpenAI und maßgeblich an der Entwicklung von Technologien beteiligt, die hinter Systemen wie ChatGPT stehen. Im November 2023 war Sutskever an der kurzfristigen Entlassung von OpenAI-CEO Sam Altman beteiligt. Das daraufhin entstandene Meme "What did Ilya see?" ist bis heute Ausdruck der Spekulationen, dass er möglicherweise etwas Beunruhigendes bei OpenAI gesehen haben könnte. Nur einen Monat nach seinem Ausscheiden im Mai 2024 konzentriert er sich nun auf die Entwicklung einer sicheren Superintelligenz.
Im weiteren Verlauf vergleichen wir die Konzepte der Künstlichen Allgemeinen Intelligenz (KAI) und der Künstlichen Superintelligenz (ASI). Eine ASI würde menschliche Fähigkeiten weit übertreffen, was ethische und sicherheitsrelevante Bedenken aufwirft und besonders das Kontrollproblem ("Alignment") adressiert.
Die Begriffe KAI/AGI und ASI haben eine lange Geschichte, geprägt durch Persönlichkeiten wie Alan Turing, John McCarthy, Irving John Good und Nick Bostrom. Wir vertiefen die Entstehungsgeschichte und bereiten den Weg für die erstaunlichen Erfindungen eines Ray Kurzweil, dessen technologischen Vorhersagen bis heute eine omnipräsente Position in der Welt der KI spielen.
In dieser Folge geht es um die Gründung des neuen Unternehmens "Safe Superintelligence Inc." (SSI) durch den renommierten KI-Forscher Ilya Sutskever.
Sutskever war bis vor kurzem Chief Scientist bei OpenAI und maßgeblich an der Entwicklung von Technologien beteiligt, die hinter Systemen wie ChatGPT stehen. Im November 2023 war Sutskever an der kurzfristigen Entlassung von OpenAI-CEO Sam Altman beteiligt. Das daraufhin entstandene Meme "What did Ilya see?" ist bis heute Ausdruck der Spekulationen, dass er möglicherweise etwas Beunruhigendes bei OpenAI gesehen haben könnte. Nur einen Monat nach seinem Ausscheiden im Mai 2024 konzentriert er sich nun auf die Entwicklung einer sicheren Superintelligenz.
Im weiteren Verlauf vergleichen wir die Konzepte der Künstlichen Allgemeinen Intelligenz (KAI) und der Künstlichen Superintelligenz (ASI). Eine ASI würde menschliche Fähigkeiten weit übertreffen, was ethische und sicherheitsrelevante Bedenken aufwirft und besonders das Kontrollproblem ("Alignment") adressiert.
Die Begriffe KAI/AGI und ASI haben eine lange Geschichte, geprägt durch Persönlichkeiten wie Alan Turing, John McCarthy, Irving John Good und Nick Bostrom. Wir vertiefen die Entstehungsgeschichte und bereiten den Weg für die erstaunlichen Erfindungen eines Ray Kurzweil, dessen technologischen Vorhersagen bis heute eine omnipräsente Position in der Welt der KI spielen.