Knowledge Science - Alles über KI, ML und NLP

Episode 237 - Rekursive Selbstverbesserung – Beschleunigt sich die KI-Forschung bereits selbst?

• Sigurd Schacht, Carsten Lanquillon • Season 1 • Episode 237

Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.

0:00 | 39:22

Send us Fan Mail

Irving John Good schrieb 1965, die erste ultraintelligente Maschine sei die letzte Erfindung, die der Mensch je machen müsse – vorausgesetzt, sie sei fügsam genug, uns zu sagen, wie wir sie unter Kontrolle halten. Sechzig Jahre später zeigt ein neuer Bericht, dass sich die KI-Forschung bei Anthropic zwischen 2024 und 2026 etwa verdoppelt hat – zu knapp einem Drittel getragen von KI-Systemen selbst. Und ausgerechnet in der Woche des größten Börsengangs der Geschichte.

Sigurd und Carsten zerlegen den Begriff „rekursive Selbstverbesserung“ in seine Bestandteile: Was ist rekursiv, was ist selbst, was ist Verbesserung? Warum Goodharts Gesetz jede Messung von Fortschritt untergräbt, warum Carl Shulmans Schleife aus Umsatz, Hardware und Forschung eine alternative Beschreibung sein könnte als Yudkowskys „FOOM“ – und was es bedeutet, wenn Modelle bei Safety-Aufgaben absichtlich schlechter abschneiden. Am Ende bleibt die Frage, die alles entscheidet: Wer ist eigentlich „uns“?

Erwähnte Quellen und Namen:

Support the show