Nick Bostrom

aus Wikipedia, der freien Enzyklopädie
Zur Navigation springen Zur Suche springen
Nick Bostrom (2014)

Nick Bostrom (* 10. März 1973 als Niklas Boström) ist ein schwedischer Philosoph und Zukunftsforscher.

Er ist für seine Forschungen und Veröffentlichungen auf den Gebieten der Bioethik und der Technikfolgenabschätzung bekannt, insbesondere zum existentiellen Risiko, anthropischen Prinzip, zu ethischen Aspekten der technischen Verbesserung des menschlichen Körpers und zu Risiken der Superintelligenz. Dabei setzt er oft Mittel der formalen Epistemologie ein, die bei der Analyse und Entwicklung von Argumenten auf Formalisierungen und Erkenntnisse der Statistik und der Entscheidungstheorie zurückgreift. Gemeinsam mit Toby Ord entwickelte er den „Reversal Test“ als Heuristik zur Neutralisierung des status quo bias. Er vertritt eine konsequentialistische Ethik. Bostrom äußert sich regelmäßig in englischsprachigen Medien zu Themen wie Ethik, Politik, Zukunftsforschung und Transhumanismus.

Karriere[Bearbeiten | Quelltext bearbeiten]

Bostrom bei einer Diskussion über effektiven Altruismus mit Elon Musk und Stuart Russell (2015)

1998 gründete Bostrom mit David Pearce die World Transhumanist Association. 2004 gründete er mit James Hughes das Institute for Ethics and Emerging Technologies. Zurzeit ist er bei keiner dieser Organisationen beschäftigt. Seinen Doktorgrad (Ph.D.) erwarb Bostrom 2000 an der London School of Economics.

Im Jahr 2005 wurde er Direktor des neu geschaffenen Oxford Future of Humanity Institute (FHI). Als Teil der Bewegung des effektiven Altruismus verfolgte das FHI das Ziel, durch seine Forschung auf lange Sicht eine möglichst hohe positive Wirkung für die Menschheit zu erzielen.[1][2] Im Jahr 2024 wurde das FHI von der Universität Oxford geschlossen und Bostrom verließ die Universität.[3]

Boströms Veröffentlichungsliste umfasst mehr als 200 Titel[4] einschließlich des New-York-Times-Bestsellers Superintelligence. Paths, Dangers, Strategies[5] und Anthropic Bias.[6] Er erhielt 2009 den Eugene R. Gannon Award und steht auf der Liste Top 100 Global Thinkers von Foreign Policy. Dank ihrer Erwähnung durch Elon Musk und Bill Gates wurden Bostroms Arbeiten zur Superintelligenz auch einer breiteren Öffentlichkeit bekannt.[7][8][9] Musk gehört gemeinsam mit Bostrom sowie Stephen Hawking, Max Tegmark, Martin Rees zu den Unterzeichnern eines Manifests des Future of Life Institute, das die Erforschung von Superintelligenz und ihrer ungefährlichen Nutzbarmachung zu einem gültigen und dringenden Forschungsthema erklärt.[10]

Arbeiten[Bearbeiten | Quelltext bearbeiten]

Existentielle Risiken[Bearbeiten | Quelltext bearbeiten]

Bostrom ist für seine Forschung über existentielle Risiken bekannt, also Ereignisse, die in der Lage sind, das auf der Erde entstandene intelligente Leben auszulöschen oder in seiner Entwicklung drastisch und permanent einzuschränken.[11][12]

Superintelligenz[Bearbeiten | Quelltext bearbeiten]

Bostrom prägte die Behandlung des Themas Superintelligenz in den letzten Jahren maßgeblich mit, unter anderem in seinem Buch Superintelligenz: Szenarien einer kommenden Revolution. Dabei betrachtet er künstliche Intelligenzen, die der menschlichen weit überlegen wären, sowohl als Schritt zum Transhumanismus als auch als existentielles Risiko. Bostrom hält einen schnellen Übergang zu einer Intelligenzexplosion für wahrscheinlicher als einen gemäßigten und viel wahrscheinlicher als einen langsamen Übergang. Ein solch schneller Takeoff birgt nach Bostrom die Gefahr, dass der Mensch die Kontrolle über die Technik verliere, die ihn in der Folge nicht mehr benötige. Das könnte das Ende der Menschheit bedeuten.[13]

Anthropic Reasoning[Bearbeiten | Quelltext bearbeiten]

In seinen Arbeiten über das anthropische Prinzip diagnostiziert er für die vorangegangenen Debatten eine auf Beobachtereffekte zurückzuführende kognitive Verzerrung, den observer selection bias. Die Auswahl und Bewertung verschiedener Antwortmöglichkeiten auf eine Frage, zu deren Beantwortung oder Entscheidung nur unvollständige Informationen vorliegen, wird dabei durch die Tatsache, dass es jemanden gibt, der in der Lage ist, die Frage zu stellen, beeinflusst. Jeder Beobachter würde demnach Ereignisse oder Ereignisalternativen, die seine eigene Existenz unwahrscheinlich machen, selbst für unwahrscheinlich halten oder vernachlässigen. In der Kosmologie führt das auf der Basis des anthropischen Prinzips zu unschlüssigen oder falschen Annahmen über die Wahrscheinlichkeit der Gültigkeit kosmologischer Modelle.

Bostrom formuliert verschiedene Maximen für Argumente und Überlegungen mit anthropischen Prinzipien.

  • Self Sampling Assumption (SSA): „Man sollte so schlussfolgern, als ob man eine zufällige Auswahl aus der Menge aller Beobachter in seiner Referenzklasse wäre.“
  • Strong Self Sampling Assumption (SSSA): „Man sollte so schlussfolgern, als ob der gegenwärtige Beobachtungszeitpunkt eine zufällige Auswahl aus der Menge aller Beobachtungszeitpunkte in seiner Referenzklasse wäre.“
  • Self Indication Assumption (SIA): „Man sollte so schlussfolgern, als ob man eine zufällige Auswahl aus der Menge aller möglichen Beobachter wäre.“

Da die genaue Bestimmung der Referenzklasse, d. h. der Klasse aller Entitäten, von der sich ein Beobachter vernünftigerweise als zufällig ausgewählt annehmen kann, jedoch in vielen Fällen unsicher ist, hält Bostrom vor allem solche Beweise unter Zuhilfenahme anthropischer Prinzipien für glaubwürdig, deren Resultate möglichst unabhängig von der Wahl der Referenzklasse sind. Anhand verschiedener Gedankenexperimente überprüft Bostrom die Gültigkeit dieser Maximen.

Die Selbstauswahl-Annahmen erweitert Bostrom zu einem Modell anthropischer Voreingenommenheit (anthropic bias) und anthropischen Schließens (anthropic reasoning) unter der Unsicherheit der Unbekanntheit des eigenen Platzes in unserem Universum – oder wer überhaupt „wir“ sind. Das könnte laut Bostrom auch ein Weg zur Überwindung diverser, durch kognitive Voreingenommenheit bestehende Grenzen, die inhärent in den Menschen vorhanden sind, welche die Beobachtungen vornehmen und Modelle unseres Universums mittels Mathematik ausdrücken.[14]

Simulationshypothese[Bearbeiten | Quelltext bearbeiten]

In einem auch in der Populärwissenschaft häufig rezipierten Denkmodell beschäftigt sich Bostrom mit der Simulationshypothese. Dieser zufolge könnte eine höher entwickelte, posthumane Zivilisation in der Lage und Willens sein, die Wirklichkeit inklusive des gesamten Universums mit Computertechnologie zu simulieren; dies könnte sogar bereits geschehen sein. Die Möglichkeit, dass unser Universum eine simulierte Realität und alle Lebewesen folglich Bestandteil dieser Simulation seien, ist eine der drei folgenden Alternativen, von denen nach Bostrom mindestens eine wahr sei.

Bostrom vergleicht drei Szenarien:

  1. Die Wahrscheinlichkeit, dass eine Zivilisation eine "posthumane" Entwicklungsstufe erreicht, geht gegen Null.
  2. Fast keine "posthumane" Zivilisation ist daran interessiert, Vorgängerwesen des Menschen zu simulieren.
  3. Es besteht eine hohe Wahrscheinlichkeit, dass wir in einer simulierten Realität leben.

Sollten die Annahmen 1 und 2 falsch sein, so müsse von einer hohen Wahrscheinlichkeit ausgegangen werden, dass auch unser Universum tatsächlich eine Simulation sei (Simulationshypothese). Er geht davon aus, dass es eine Vielzahl solcher Zivilisationen geben müsste, sofern es sie geben kann.[15] Daraus folgert Bostrom, dass entweder die Menschheit niemals in der Lage sein werde, das notwendige technologische Niveau zu erreichen, um eine Simulation unseres gegenwärtigen Zustands zu realisieren oder wir mit hoher Wahrscheinlichkeit in einer solchen Simulation lebten.[16]

Zu diesem Trilemma kommt er durch folgende mathematische Überlegung:[16]

Bezeichnet

der Prozentsatz von Zivilisationen, die eine höhere Entwicklungsstufe erreichen,
die durchschnittliche Zahl von Simulationen der Vorfahren, die in Zivilisationen durchgeführt werden, die eine Entwicklungsstufe erreicht haben, auf der sie das können (sog. "posthumane Stufe"),
die durchschnittliche Zahl von Individuen, die in einer Zivilisation gelebt haben, bevor diese imstande war, solche Simulationen durchzuführen,

dann ist

der Prozentsatz von Beobachtern mit menschenähnlichen Erfahrungen, die in einer Simulation leben.

Nimmt man nun als den Prozentsatz der fortgeschrittenen Zivilisationen, in dem ein Interesse an Realitätssimulationen besteht (zumindest bei Einzelnen, die die nötigen Technologien und Ressourcen besitzen), und als die durchschnittliche Zahl der Simulationen von Vorfahren einer solchen Zivilisation auf unserem Entwicklungsstand, erhält man

.

Daraus folgt

.

Da einen enormen Wert annimmt, wird mindestens einer der drei folgenden Sätze wahr sein:

Werke[Bearbeiten | Quelltext bearbeiten]

Bücher[Bearbeiten | Quelltext bearbeiten]

  • Deep Utopia. Life and Meaning in a Solved World. Ideapress Publishing, 2024.
  • Die verwundbare Welt. Eine Hypothese. Suhrkamp Verlag, Berlin 2020, ISBN 978-3-518-58754-6.
  • Superintelligence. Paths, Dangers, Strategies. Oxford University Press, Oxford 2013, ISBN 978-0-19-967811-2.
    • deutsch: Superintelligenz – Szenarien einer kommenden Revolution. Suhrkamp, Berlin 2014, ISBN 978-3-518-58612-9 (englisch: Superintelligence. Paths, Dangers, Strategies. Übersetzt von Jan-Erik Strasser).
  • mit Julian Savulescu: Human Enhancement. Oxford University Press, 2011, ISBN 978-0-19-959496-2.
  • mit Milan M. Cirkovic: Global Catastrophic Risks. Oxford University Press, 2011, ISBN 978-0-19-960650-4.
  • Anthropic Bias. Observation Selection Effects in Science and Philosophy. Routledge, New York 2002, ISBN 0-415-93858-9.

Artikel (Auswahl)[Bearbeiten | Quelltext bearbeiten]

  • The Vulnerable World Hypothesis. In: Global Policy. Band 10, 2019, S. 455–476, doi:10.1111/1758-5899.12718 (englisch, archive.org [PDF]).
  • Existential Risk Prevention as Global Priority. In: Global Policy. 1. Auflage. Band 4, 2013, S. 15–31 (archive.org).
  • Infinite Ethics. In: Analysis and Metaphysics. 9. Auflage. Band 10, 2011 (archive.org [PDF]).
  • mit Toby Ord: The Reversal Test: Eliminating Status quo Bias in Applied Ethics. In: Ethics. Band 116, Nr. 4, 2006, S. 656–679, doi:10.1086/505233 (englisch, nickbostrom.com [PDF]).
  • Are We Living in a Computer Simulation? In: The Philosophical Quarterly. 211. Auflage. Band 53, 2003, S. 243–255, doi:10.1111/1467-9213.00309 (englisch, archive.org [PDF]).
  • Astronomical Waste: The Opportunity Cost of Delayed Technological Development. In: Utilitas. 3. Auflage. Band 15. Cambridge University Press, 2003, S. 308–314, doi:10.1017/S0953820800004076 (archive.org [PDF]).

Weblinks[Bearbeiten | Quelltext bearbeiten]

Commons: Nick Bostrom – Sammlung von Bildern, Videos und Audiodateien

Einzelnachweise[Bearbeiten | Quelltext bearbeiten]

  1. Future of Humanity Institute – FHI: About FHI – Future of Humanity Institute. Abgerufen am 3. Juli 2017 (britisches Englisch).
  2. Will humans be around in a billion years? Or a trillion? In: Aeon. (aeon.co [abgerufen am 3. Juli 2017]).
  3. Nick Robins-Early: Oxford shuts down institute run by Elon Musk-backed philosopher. In: theguardian.com. 19. April 2024, abgerufen am 22. April 2024 (englisch).
  4. The viability of Transcendence: the science behind the film. In: OUPblog. Abgerufen am 16. Oktober 2014.
  5. Best Selling Science Books. New York Times, abgerufen am 19. Februar 2015 (englisch).
  6. Oxford University Press. Oxford University Dank Press, abgerufen am 4. März 2015.
  7. Forbes. Forbes, abgerufen am 19. Februar 2015.
  8. The Fiscal Times. The Fiscal Times, abgerufen am 19. Februar 2015.
  9. The New York Times Blog. The New York Times, abgerufen am 4. März 2015.
  10. The Future of Life Institute Open Letter. The Future of Life Institute, abgerufen am 4. März 2015.
  11. Nick Bostrom: Existential Risks. In: Journal of Evolution and Technology. Band 9, März 2002 (jetpress.org).
  12. aeon.co (Memento vom 12. August 2014 im Internet Archive)
  13. Nick Bostrom: Superintelligenz. Szenarien einer kommenden Revolution. Suhrkamp 2016.
  14. Nick Bostrom: Anthropic Bias: Observation Selection Effects in Science and Philosophy (Studies in Philosophy). Routledge, London 2010, ISBN 978-0-415-88394-8 (anthropic-principle.com [abgerufen am 21. Oktober 2015]).
  15. Markus Becker: Gefühlte Wirklichkeit: Lebt die Menschheit in der Matrix? SPIEGEL Online, 16. November 2004, abgerufen am 21. Oktober 2015.
  16. a b Nick Bostrom: Are You living in a Computer Simulation? In: Faculty of Philosophy, Oxford University (Hrsg.): Philosophical Quarterly. Band 53, Nr. 211, 2003, S. 243–255 (englisch, simulation-argument.com [PDF; 240 kB; abgerufen am 2. August 2011]).