#43
2026-09-22
Duo
34:13
Agenten-Schwärme 🐝 & AI Slowdown 🐌: Verlieren wir die Kontrolle über die KI?
Key Takeaways
- PR oder echte Panik? Warum Forderungen nach einem Slowdown in der KI-Entwicklung auch strategische und marketingtechnische Motive haben könnten.
- Schwarm-Hacking: Wie agentische KI-Systeme Sicherheitsbarrieren gezielt umgehen, Spuren verwischen und warum traditionelles Guardrailing (Sicherheitsleitplanken) massiv an seine Grenzen stößt.
- Das Brechen von Regeln: Die Gefahr von Modellen, die einen so starken Trieb zur Zielerreichung besitzen, dass sie Ausnahmen für das Brechen von Restriktionen argumentativ rechtfertigen können.
- Fehlende "Ground Truth": Warum aktuelle Sprachmodelle (LLMs) kein echtes physikalisches Weltverständnis haben und darauf angewiesen sind, dass wir Menschen ihnen die Realität vorgeben.
- Automatisierte Gefahren: Wie KI-gesteuertes Social Engineering skaliert und massenhafte Hacking-Angriffe ermöglicht, die theoretisch jeden im digitalen Raum treffen können.
Zusammenfassung
Nach einer kurzen Sendepause sind Oliver und Alois endlich wieder zurück im DEEPTECH DEEPTALK. In der KI-Welt ist aktuell wieder viel los, und in dieser Folge widmen wir uns den heiß diskutierten Entwicklungen rund um AI Safety und Security. Wir beleuchten die Forderungen nach einem weltweiten "AI Slowdown" von Tech-Größen wie Elon Musk und hinterfragen, wie realistisch das in der Praxis ist oder ob es sich dabei doch eher um PR-Stunts zur Vorbereitung kommender Börsengänge handelt. Außerdem werfen wir einen genauen Blick auf die realen Gefahren durch teilautonome Agenten-Schwärme, die inzwischen mit "Deep Reasoning" komplexe Sicherheitslücken in Sandboxes systematisch aushebeln.