Knowledge Science - Alles über KI, ML und NLP

Episode 236 - Kontrollillusionen Mit Dr. Karl von Wendt (Karl Olsberg)

• Sigurd Schacht, Carsten Lanquillon • Season 1 • Episode 236

Share episode

Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.

0:00 | 48:35

Send us Fan Mail

Karl von Wendt – promovierter KI-Forscher, Chatbot-Pionier, Unternehmensberater und unter dem Namen Karl Olsberg Bestseller-Autor ist seit 2020 eine der deutschsprachigen Stimmen in der Debatte um KI-Sicherheit. In dieser Folge sprechen Sigurd Schacht und Carsten Lanquillon mit ihm über die Frage, wie viel Kontrolle wir über KI-Systeme tatsächlich noch haben – und wie viel davon Illusion ist.

Themen der Folge:

  • Vom KI-Roman 2007 zur Realität 2026: Warum Karls Science-Fiction der Wirklichkeit unangenehm nahe kommt
  • Die Navi-Geschichte: Wie schnell wir formal entscheiden, aber de facto der Maschine folgen
  • Human in the Loop: Warum das Konzept nur unter drei Bedingungen funktioniert (ausreichende Information, echtes Verständnis, interaktive statt reiner Freigabe-Entscheidung)
  • Illusion des Verständnisses: Das Go-Beispiel und warum wir glauben, am Steuer zu sitzen
  • „Move fast and break things“ vs. Sicherheitskultur: Was die KI-Branche von anderen Hochrisiko-Industrien lernen müsste
  • Pause oder Vollbremse? Wie sich ein Entwicklungsstopp überhaupt kontrollieren ließe
  • Rekursive Selbstverbesserung: Warum Systeme, die wir nicht verstehen, sich nicht selbst verbessern sollten
  • Alignment, Fähigkeiten, Umgebung: Welche Stellschrauben bleiben, wenn Alignment nie ganz gelöst wird
  • Warum Containment allein nicht reicht: Das AI-Box-Experiment von Yudkowsky
  • Tool AI statt Alleskönner: AlphaFold als Vorbild für spezialisierte KI
  • Persona statt KI: Warum wir mit einem fragilen Konstrukt reden – und was Jailbreaks und emergente Fehlausrichtung darüber verraten
  • Sykophantie, Abhängigkeit und verlerntes kritisches Denken bei Jugendlichen
  • Prüfen wir die Kompetenz der KI oder der Studierenden? Ein Evaluationsproblem der Hochschulen
  • Science-Fiction vs. Wissenschaftskommunikation: Was Forschende von Autoren lernen können (und was nicht)

Über unseren Gast:
Dr. Karl von Wendt promovierte über Expertensysteme, gründete 1999 eines der ersten deutschen Chatbot-Startups (Startup des Jahres) und arbeitete lange als Unternehmensberater. Als Karl Olsberg veröffentlichte er über 50 Bücher, darunter Spiegel-Bestseller, Minecraft-Romane und KI-Thriller wie „Das System“. Seit 2020 erklärt er die KI-Sicherheitsdebatte auf ki-risiken.de und auf seinem YouTube-Kanal mit über 20.000 Abonnenten.

Links:

Knowledge Science – aktuelle KI-Forschung, verständlich erklärt und kritisch geprüft. Mit Blick auf den Menschen.

Support the show