Knowledge Science - Alles über KI, ML und NLP
Knowledge Science - Alles über KI, ML und NLP
Episode 235 - Neustart: Wir sind zurück: Neues Konzept, neue Fragen – und ein Sommer voller KI-Vorfälle
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
Wir sprechen über die Rückkehr von Knowledge Science, das neue Format mit Grundlagen- und Gästefolgen sowie die Arbeit des Forschungsinstituts COAI zu menschlicher Handlungsfähigkeit, Threat Modeling und Evaluation. Dabei diskutieren wir, wie KI die Lern- und Denkprozesse beeinflussen kann und welche Sicherheitsmaßnahmen für KI-Agenten wichtig sind. Zum Abschluss geht es um die Grenzen heutiger Evaluationen und darum, wie Tests Risiken von Modellen, Agententeams und ihren Einsatzumgebungen erfassen können, ohne Menschen zu gefährden.
0:06 Neustart für Knowledge Science
4:21 Neues Podcast-Konzept mit Gästen
8:48 Co.AI: Menschliche Handlungsfähigkeit bewahren
14:51 KI nutzen, ohne Kompetenzen abzugeben
16:35 Kontrollverlust und Risiken autonomer Agenten
18:27 KI als Spiegel der Gesellschaft
21:34 Wie Agenten Sicherheitslücken ausnutzen
26:28 Risiken eindämmen durch sichere Umgebungen
28:19 Unabhängige Prüfungen und KI-Sicherheit
31:33 Forschung zu Evaluation und Agententeams
34:13 Sicherheitstests ohne reale Versuchspersonen
35:09 Der menschliche Faktor in der KI-Sicherheit
Knowledge Science, COAI, menschliche Handlungsfähigkeit, Threat Modeling, Evaluation, KI-Agenten, Lernprozesse, Denkprozesse, Sicherheitsmaßnahmen, Risikobewertung