Kann Künstliche Intelligenz ein Bewusstsein entwickeln? Wie könnte das überhaupt funktionieren, und was würde das für uns bedeuten? Staffel 2 (2023): 12 Folgen, 12 Gespräche mit Expertinnen und Experten und eine gemeinsame Abschlussrunde. Staffel 1 (2020-21): 12 Folgen, 12 Gespräche mit Expertinnen und Experten und eine gemeinsame Abschlussrunde. Autor: Karsten Wendland Web: www.ki-bewusstsein.de Twitter: twitter.com/KIBewusstsein
https://www.ki-bewusstsein.de/podcast
episode 2: #21 Karl Olsberg: Unkontrollierte bösartige KIs erwarte ich eher als die Lösung des Alignment-Problems
In seinen Romanen beschreibt der Science-Fiction-Autor Karl von Wendt (Pseudonym Karl Olsberg) zukünftige Welten, in den Menschen mit moderner Technik konfrontiert sind. Er zeigt, wie ihnen die Kontrolle über diese Technik entgleitet - bis hin zur Gefahr der völligen Vernichtung unserer Spezies. Anders als in seinen Romanen lässt sich in unsere realen Welt jedoch kein Held hineintexten, der die Menschheit vor dem Untergang retten kann. Karl von Wendt blickt mit Sorge auf zukünftige KI-Entwicklungen, insbesondere auf die Herausforderungen des Alignments von KI an verschiedenartige Wertekonzepte unterschiedlicher Menschengruppen. Seine Romane sollen die Leser zwar unterhalten, aber auch mahnen. So erzählt er auch, warum er das Moratorium zum 6-monatigen KI-Entwicklungsstopp des Future of Life Institutes mitunterzeichnet hat.
Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann
In dieser Episode genannte Quellen:
Aktuelles Buch von Karl Olsberg: Virtua
Website von Karl Olsberg (aka Karl von Wendt).
Das Moratorium zum 6-monatigen Stopp der KI-Entwicklung des Future of Life Institute.
Der kanadische Informatiker und KI-Forscher Yoshua Bengio.
8 Schreibregeln des US-amerikanischen Science-Fiction-Schriftstellers Kurt Vonnegut.
Wie ist es, eine Fledermaus zu sein? Vom US-amerikanischen Philosophen Thomas Nagel.
Der Film Matrix in der International Movie Database IMDb.
Das Jugendbuch Infernia von Karl Olsberg, in welchem die Figuren im Videospiel ein Bewusstsein haben.
Der Open-AI Gründer Sam Altman.
Die KI AlphaFold, die die Faltungsstruktur von Proteinen vorhersagen kann.