Gefahr oder Geschäft: KI und das Ende der Menschheit

Shownotes

Erkenntnisse ohne Ende

… sammeln die beiden Dissenspfleger Sebastian und Andreas in dieser Folge. Ob sie alle davon haben wollen? Wie wäre es zum Beispiel mit "in Kürze droht die Auslöschung der Menschheit durch KI"? Gut, die Frage ist, ob das schon eine Erkenntnis ist oder nicht vielmehr ein Marketing-Trick von KI-Bossen wie Sam Altman (OpenAI), Dario Amodei (Anthropic) und vielen anderen. Die nämlich werden dieser Tage nicht müde zu betonen, wie gefährlich ihre Produkte sind, also Large Language Models und KI-Agenten wie ChatGPT und Claude.

Reale Gefahren

Doch gleichzeitig entsteht auf der Basis solcher Aussagen ein Diskurs, der genau diese KI-Modelle erst so richtig interessant macht. Denn wenn uns die Modelle zwar auslöschen, gleichzeitig aber auch den Krebs besiegen können, dann müssen wir den Entwicklern wohl noch mehr Geld geben, damit sie uns vor den Geistern, die sie riefen, beschützen und die Menschheit gleichzeitig heilen. Worauf der Fokus dann schnell nicht mehr liegt: Schäden entstehen schon jetzt, etwa wenn KI Entscheidungen im Krieg übernimmt. Oder wenn die KI eines rogue agent kritische Infrastruktur angreift.

Moralische Maschinen

Dennoch: Selbst wenn wir von solchen Szenarien noch weit entfernt sind, so ist es nicht schwer anzunehmen, dass KI künftig ganz schön schlau sein wird. Schlauer sogar als der Mensch. Ob daraus dann doch irgendwann das Ende der Menschheit entsteht oder ob KI-Agenten auch eine Moral entwickeln können, das und noch vieles mehr diskutieren die Dissenspfleger in dieser Folge.

Ressourcen

• Film "The AI Doc: Or How I Became an Apocaloptimist" (2026, Regie: Daniel Roher, Charlie Tyrell)
• Max Tegmark, Life 3.0, New York 2017

Worauf es wirklich ankommt

Und auch dieses Mal haben die beiden Dissenspfleger wieder Musikempfehlungen: Andreas' Tipp findet ihr hier, Sebastians hier. Abonniert auch die stetig wachsende Dissenspflege-Playlist und unsere nach Genres sortierten Playlisten.