Todesalgorithmus. Roberto Simanowski

>

      Algorithmen beherrschen die Welt, so hört man, heute schon und morgen noch viel mehr. Sie sitzen am Steuer selbstfahrender Autos und lenken mehr und mehr gesellschaftliche Prozesse. Wie programmieren wir sie, und was passiert, wenn sie sich schließlich selbst programmieren? Die Angst ist so groß wie die Hoffnung und das moralische Dilemma. Dürfen Algorithmen im Ernstfall entscheiden, wer sterben muss? Wird die künstliche Intelligenz dem Menschen den freien Willen nehmen, ihn vor sich selbst schützen und zurück ins Paradies der Entscheidungslosigkeit befördern? Dieses Buch lädt ein zu einer philosophischen Spekulation über unsere Zukunft. Es handelt von den Aporien und Paradoxien der künstlichen Intelligenz. Es vagabundiert im Denken, verbindet das scheinbar Unverbundene und sieht am Ende in den Erfindern des Silicon Valley nicht mehr und nicht weniger als die Geschäftsführer von Hegels Weltgeist.

      Roberto Simanowski, geboren 1963, war bis 2018 Professor für Kultur- und Medienwissenschaft in Providence, Hongkong und Basel und lebt seitdem als Publizist in Berlin und Rio de Janeiro.

      Roberto Simanowski

      Todesalgorithmus

      Das Dilemma der

      künstlichen Intelligenz

      Passagen Thema

      herausgegeben von

      Peter Engelmann

      Deutsche Erstausgabe

      Dieses Buch wurde ermöglicht durch die freundliche Unterstützung der Passagen Freunde – Freundeskreis des Passagen Verlags.

      Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.dnb.de/ abrufbar.

      Alle Rechte vorbehalten

      ISBN 978-3-7092-0417-7

      eISBN (EPUB) 978-3-7092-5025-9

      © 2020 by Passagen Verlag Ges. m. b. H., Wien

      Grafisches Konzept: Gregor Eichinger

      Satz: Passagen Verlag Ges. m. b. H., Wien

       http://www.passagen.at

      Inhalt

       Vorbemerkung

       Würde des Menschen

       SpamAssassin

       Terminator 7

       Lebenswertverrechnung

       Weichensteller nach 9/11

       Moral Machine

       Tötungsregeln

       Verfassungswidrigkeit

       Opferlogik

       Technikkultur

       Sachordnungen

       Herrschaft der Maschinen

       HALs Enkel

       Anthrobscene

       KI-Diktatur

       Asimovs viertes Gesetz

       Posthumanismus

       List der Vernunft

       Hegel im Silicon Valley

       Willensfreiheit

       Geschäftsführer des Weltgeistes

       Digitaler Pantheismus

       Geist und Technik

       Sozialingenieure

       Nachbemerkung

       Anmerkungen

       Editorische Notiz

      Vorbemerkung

      Dieses Buch handelt vom Todesalgorithmus, von der Klimakrise und von der Heimkehr des Menschen ins Paradies diesseits der Willensfreiheit. Der Todesalgorithmus sitzt am Steuer autonomer Fahrzeuge und hat bei einem Unfall über Leben und Tod zu entscheiden. Ein Dilemma, weil die Entscheidung im Funktionsrahmen der künstlichen Intelligenz (KI) nicht mehr spontan erfolgen kann, sondern vorprogrammiert werden muss. Es muss vorab bestimmt werden, ob das Auto dem Kind oder den Rentnern ausweichen soll. Wie auch immer die Entscheidung ausfällt, sie verstößt gegen das in Deutschland und vielen anderen Staaten geltende Aufrechnungsverbot von Menschenleben.

      Während dieses ethische Dilemma aus den Erfolgen der KI-Forschung resultiert, ist die Klimakrise Resultat des vorangegangenen technischen Fortschritts: von den auf fossilen Brennstoffen basierenden Verbrennungsmotoren und Industrieanlagen bis zum Plastikmüll und Flugverkehr. Der Hoffnung, diese Krise mit smarter Technik, „grünen Codes“ und einer CO2-Grenzausgleichs-Steuer zu lösen, steht die Ansicht gegenüber, dass es einer grundlegenden Veränderung des menschlichen Lebensstils im Kontext einer Postwachstumsgesellschaft bedarf. Gegen die ökologischen Notwendigkeiten sprechen ökonomische und politische Bedenken, die nicht zuletzt aus der Kondition des modernen Menschen resultieren, sich und die Gegenwart den anderen und der Zukunft vorzuziehen. Der Mensch, so scheint es, kann das eigene Überleben nicht sichern – jedenfalls nicht, solange die Mängel der demokratischen Staatsform die der Conditio Humana verdoppeln. Kann die künstliche Intelligenz es, wenn sie stark genug ist und, vom Menschen dazu beauftragt, das Regime übernimmt: als besorgte Nanny oder gütiger Diktator? Weder die technische noch die politische Entwicklung sind reif für ein solches Szenario. Aber die Forschung