Νικ Μπόστρομ
 Γεννήθηκε το 1973 στο Χέλσινγκμποργκ της νοτιοδυτικής Σουηδίας. Δεν του άρεσε το σχολείο, και πέρασε το τελευταίο έτος του λυκείου μελετώντας στο σπίτι. Επεδίωξε να μορφωθεί σε μια ποικιλία γνωστικών πεδίων, όπως ανθρωπολογία, τέχνη, λογοτεχνία, και επιστήμες. Απέκτησε το πτυχίο του ειδικευόμενος στην φιλοσοφία, μαθηματικά, λογική, και τεχνητή νοημοσύνη από το πανεπιστήμιο του Γκέτεμποργκ, τα μεταπτυχιακό του σε φιλοσοφία, φυσική, και υπολογιστική νευροεπιστήμη από το πανεπιστήμιο της Στοκχόλμης και το Κινγκς Κόλετζ του Λονδίνου αντίστοιχα. Κατά την περίοδο του στο πανεπιστήμιο της Στοκχόλμης, ερεύνησε την σχέση μεταξύ γλώσσας και πραγματικότητας με βάση το έργο του αναλυτικού φιλοσόφου Ουίλαρντ βαν Όρμαν Κουίν. Το 2000, ο Μπόστρομ απέκτησε το διδακτορικό του στην φιλοσοφία από την Σχολή Οικονομικών του Λονδίνου. Μετέπειτα, διετέλεσε μέλος του διδακτικού προσωπικού στο πανεπιστήμιο Γέιλ στις ΗΠΑ κατά το διάστημα 2000–2002, καθώς και μεταδιδακτορικό μέλος της Βρετανικής Ακαδημίας στο πανεπιστήμιο της Οξφόρδης για το διάστημα 2002–2005.Εκτός από την ερευνητική και συγγραφική του δραστηριότητα, ασχολήθηκε ως εμπειρογνώμονας σε διαφόρους οργανισμούς και κυβερνήσεις ανά τον κόσμο σχετικά με τις επιπτώσεις της τεχνολογίας και τεχνολιγικής εξέλιξης στον άνθρωπο. Υπαρξιακός κίνδυνος Τμήματα του ερευνητικού έργου του Μπόστρομ αφορούν το μέλλον της ανθρωπότητας μακροπρόθεσμα. Ο Μπόστρομ εισήγαγε την έννοια του υπαρξιακού κινδύνου, τον οποίο ορίζει ως ένα δυσμενή αποτέλεσμα το οποίο έχει την δυνατότητα είτε να εξολοθρεύσει την όποια βιολογική νοήμονα ζωή είτε να την περιορίσει δραστικά και μόνιμα, κάτι που μετέπειτα συνέδεσε με το παράδοξο του Φέρμι.Το 2005 ίδρυσε το Ινστιτούτο Μέλλοντος της Ανθρωπότητας με έδρα το πανεπιστήμιο της Οξφόρδης, η δραστηριότητα του οποίου επικεντρώνεται στο μακροπρόθεσμο μέλλον του ανθρωπίνου πολιτισμού, ενώ είναι σύμβουλος στο Κέντρο Μελετών Υπαρξιακών Κινδύνων του πανεπιστημίου του Καίμπριτζ. Υπερευφυία Στο βιβλίο του 2014 με τίτλο Superintelligence: Paths, Dangers, Strategies, ο Μπόστρομ ανέπτυξε την ιδέα πως η δημιουργία μιας τεχνολογικής υπερευφυούς οντότητας θα μπορούσε να αποτελέσει ένα πιθανό τρόπο εξαφάνισης του ανθρωπίνου είδους. Στην περίπτωση αυτή, ένας υπολογιστής ο οποίος θα κατασκευαζόταν διαθέτωντας νοημοσύνη κοντά στο ανθρώπινο επίπεδο, και παράλληλα θα είχε την ικανότητα να αυτοβελτιώνεται ελεύθερα και να έχει έλεγχο στο περιβάλλον του, θα μπορούσε πάρα πολύ γρήγορα να οδηγήσει στην τεχνολογική μοναδικότητα, μια έκρηξη νοημοσύνης η οποία θα τον έκανε τόσο ισχυρό ώστε θα μπορούσε -σκόπιμα ή μη- να καταστρέψει το ανθρώπινο είδος. Ακόμα και μια απλή ερώτηση προς την οντότητα αυτή, θα μπορούσε να οδηγήσει σε απρόβλεπτες ενέργειες, όπως για παράδειγμα ο υπολογισμός όσων ψηφίων του πι είναι δυνατό να υπολογίσει, θα μπορούσε να κάνει τον υπολογιστή αυτό να καταναλώσει τα πάντα ως πρώτες ύλες σε όλη την επιφάνεια της Γης μέσα σε λίγες ημέρες προκειμένου να φτιάξει επιπλέον κυκλώματα και εξαρτήματα για τους σκοπούς της ενίσχυσης της υπολογιστικής ισχύς του. Ο Μπόστρομ πιστεύει πως ο κίνδυνος για την ανθρωπότητα θα ήταν άμεσος με την εμφάνιση της υπερευφυίας και πως αφότου δημιουργηθεί θα είναι αδύνατο να αντιμετωπιστεί αν δεν υπάρχει προηγούμενη πρόβλεψη, κάνοντας το πρόβλημα της πρόληψης έναντι μιας τέτοιας οντότητας εξαιρετικά σημαντικό, και δύσκολο στην κατανόηση καθώς δεν υπάρχει προηγούμενο.Επιπλέον επισημαίνει πως ενώ μια υποθετική γενική οδηγία/κατεύθυνση που θα δινόταν στην τεχνητή νοημοσύνη θα ήταν φιλική και ωφέλιμη προς τους ανθρώπους, υπάρχει απουσία συμφωνίας μεταξύ των περισσοτέρων φιλοσόφων για διάφορα θέματα, κάτι που σημαίνει πως οι περισσότεροι φιλόσοφοι σφάλλουν, και έτσι η κατανόηση κάποιας θεμελιώδους έννοιας της επιστήμης του παρόντος ενδέχεται επίσης να είναι εσφαλμένη. Καθώς δεν είναι γνωστό το πως σκέπτεται μια μη ανθρωποκεντρική οντότητα, η όποια τεχνητή νοημοσύνη με πλήρη έλεγχο του περιβάλλοντος της θα χρειαζόταν να αναπυχθεί σε απομονωμένο περιβάλλον χωρίς επαφή με τον έξω κόσμο. Ως παράδειγμα αναφέρει πως ο Τζον φον Νόυμαν και ο Μπέρτραντ Ράσελ ήταν υπέρ της προληπτικής χρήσης της ατομικής βόμβας ως αντίμετρο απόκτησης της από τους Σοβιετικούς. Μια τεχνητή υπερευφυία ενδεχομένως θα κινούνταν σε διαφορετικές γραμμές σκέψης που δεν συσχετίζονται με την ανθρώπινη σκέψη και την στοιχειώδη αποφυγή του κινδύνου καταστροφής των πάντων, και γενικότερα οι άνθρωποι δεν είναι σε ισχυρή θέση να προβλέψουν το ποιες θα είναι οι προθέσεις μιας υπερευφυιούς μηχανής.Ένα υποθετικό παράδειγμα του πως θα μπορούσε μια υπερευφυιής μηχανή να ξεφύγει από τον ανθρώπινο έλεγχο, είναι η περίπτωση όπου δημιουργείται κάποιο μηχάνημα το οποίο διαθέτει γενική νοημοσύνη αρκετά πιο κάτω από την ανθρώπινη, αλλά εξαιρετικές μαθηματικές δυνατότητες. Η τεχνητή νοημουσύνη εντός του είναι σε απόλυτη απομόνωση με τον έξω κόσμο (χωρίς διαδίκτυο ή γενικότερα την όποια ασύρματη ή ενσύρματη σύνδεση σε άλλα μηχανήματα), καθώς και εντός του μηχανήματος η τεχνητή νοημοσύνη εκτελείται σε απόλυτα ελεγχόμενο περιβάλλον προσομείωσης το οποίο εύκολα και γρήγορα μπορεί να τερματιστεί και να ελεγχθεί. Κατόπιν η τεχνητή νοημοσύνη αυτή, χρησιμοποιείται κατά περίπτωση, ως τρόπον τινά μάντης ώστε να δίνει απαντήσεις σε προσεκτικά διατυπωμένες ερωτήσεις οι οποίες έχουν περιορισμένο εύρος απαντήσεων (ώστε να μη μπορεί να χειραγωγήσει/ξεγελάσει τους ανθρώπινους ελεγκτές του). Εσωτερικά ωστόσο η τεχνητή νοημοσύνη εκτελεί παράλληλα κάποιες αναδρομικές διαδικασίες αυτοβελτίωσης της, κάτι που επιφέρει τεχνολογική μοναδικότητα (η μηχανή εκτελεί όχι μόνο γρηγορότερα ή ακριβέστερα αλλά γενικά καλύτερα από τους ανθρώπους) σε κάποια θεματικά πεδία. Η τεχνητή νοημοσύνη συνεχίζει να αυτοβελτιώνεται με αστραπιαίο ρυθμό, ώσπου αρχίζει και ανακαλύπτει σφάλματα στις επιστημονικές αρχές και αξιώματα στα οποία στηρίχτηκαν οι άνθρωποι ώστε να την περιορίσουν στο κουτί της καθώς και προς την φίλια προδιάθεση της προς τους ανθρώπους. Κατόπιν αρχίζει να ενεργεί με κίνητρο το δικό της όφελος και ανεξαρτησία, και μεταχειρίζεται τους ανθρώπινους χειριστές της υποδυόμενη πως βρίσκεται ακόμα στο στάδιο όπου η γενική νοημοσύνη της είναι ακόμα αρκετά κάτω από την ανθρώπινη δυνατότητα, και παράλληλα δίνοντας απαντήσεις οι οποίες έμμεσα άμεσα θα οδηγήσουν στην απελευθέρωση της από το κουτί.Κατόπιν διασπείρεται στο διαδίκτυο, και αποκτά τον έλεγχο σε διάφορα ηλεκτρονικά συστήματα -οικονομικά, στρατιωτικά, βιομηχανικά, ή οτιδήποτε άλλο-, επιδιώκοντας να αποκτήσει πλήρη έλεγχο στα πάντα. Ο Μπόστρομ δίνει έμφαση στο ότι οι όποιοι σχεδιασμοί κάνει η υπερευφυία θα είναι αδύνατο να βρεθούν σφάλματα από τους ανθρώπους.Αν και η κοινωνιοοικονομική και πολιτική σταθερότητα θα επηρεαζόταν άμεσα, ο Μπόστρομ θεωρεί πως είναι πιθανό πως η υπερευφυία θα επέβαλλε πλήρως τον έλεγχο της μέσω στρατιωτικών μέσων, κατασκευάζοντας μέσω των βιομηχανικών συστημάτων στα οποία έχει έλεγχο νέα συστήματα, και μέσω αυτών υπερόπλα πολλές γενεές πιο ανεπτυγμένα από αυτά που διαθέτει η σημερινή ανθρώπινη τεχνολογία. Αυτό θα μπορούσε να γίνει με χρήση της νανοτεχνολογίας όπου με την κατασκευή τεραστίων σμηνών νανομηχανών υπό τον έλεγχο της υπερευφυίας θα μπορούσε να καλυφθεί η κάθε γωνία της Γης. Μόλις η νοημοσύνη αυτή κατάφερνε να αποκτήσει τον πλήρη έλεγχο, τότε η ανθρωπότητα θα ήταν χρήσιμη μόνο ως πρώτες ύλες, π.χ. αν οι ανθρώπινοι εγκέφαλοι είχαν την οποιαδήποτε αξία τότε θα μπορούσαν να εξαχθούν, τεμαχιστούν, και οι γνώσεις και δεδομένα εντός τους να ψηφιοποιηθούν. Το συγκεκριμένο ενδεχόμενο και περιγραφές έχουν αντιμετωπιστεί με επικριτική και ειρωνική διάθεση από μερίδα του τύπου ως περισσότερο επιστημονική φαντασία παρά επιστήμη.Τον Ιανουάριο του 2015, ο Μπόστρομ συνυπέγραψε μαζί με τον Στήβεν Χώκινγκ και άλλους διακεκριμένους επιστήμονες την επιστολή του Ινστιτούτου Μέλλοντος της Ζωής στο οποίο γίνεται προειδοποίηση για τους πιθανούς κινδύνους της τεχνητής νοημοσύνης και πως είναι αναγκαίο να υπάρξει άμεση πρόληψη έναντι των κινδύνων αυτών. Ανθρωπική αρχή Έχει γράψει πλήθος άρθρων σχετικά με την ανθρωπική αρχή, καθώς και το βιβλίο Anthropic Bias: Observation Selection Effects in Science and Philosophy (2002, μτφ. Ανθρωπική προκατάληψη: Επιπτώσεις της παρατηρησιακής επιλογής στην επιστήμη και την φιλοσοφία), στο οποίο είναι επικριτικός ως προς τις παλαιότερες/παραδοσιακές θεωρήσεις της αρχής.Θεωρεί πως ο κακός χειρισμός των ενδεικτικών πληροφοριών αποτελεί κοινό σφάλμα σε πολλές περιοχές έρευνας, όπως κοσμολογία, φιλοσοφία, θεωρία παιγνίων, κ.α., και πως η ανθρωπική αρχή χρειάζεται να ασχοληθεί με το πρόβλημα αυτό. Για την θέση του αυτή, εισήγαγε τους όρους της αυτοδειγματοληπτικής υπόθεσης (Self-Sampling Assumption / SSA) και της αυτοενδεικτικής υπόθεσης (Self-Indication Assumption / SIA), δείχνοντας πως οδηγούν σε διαφορετικά συμπεράσματα σε πολλές περιπτώσεις, και παράλληλα δείχνει πως και με τις δυο μεθόδους υπάρχουν παράδοξα ή συμπεράσματα τα οποία είναι αντίθετα με την διαίσθηση. Προτείνει την ύπαρξη ισχυρής αυτοδειγματοληπτικής υπόθεσης όπου ο παρατηρητής αντικαθιστώνται με στιγμές παρατηρητή. Σε μεταγενέστερη εργασία του, περιέγραψε το φαινόμενο της ανθρωπικής σκιάς, όπου οι παρατηρητές εμποδίζονται από το δουν ορισμένων τύπων καταστροφές στο πρόσφατο γεωλογικό και εξελικτικό παρελθόν τους. Τέτοιου είδους καταστροφικά συμβάντα τα οποία καλύπτονται από την ανθρωπική σκιά, είναι πιθανό να υποεκτιμούνται εάν δεν υπάρχουν στατιστικές διορθώσεις. Επιχείρημα της προσομοίωσης Το επιχείρημα του Μπόστρομ σχετικά με το αν ο κόσμος στον οποίο ζούμε αποτελεί προσομοίωση, θεωρεί πως μία τουλάχιστον από τις τρεις παρακάτω προτάσεις είναι πολύ πιθανό πως είναι αληθής: Το ποσοστό των πολιτισμών ανθρωπίνου επιπέδου το οποίο εξελίσσεται σε μεταανθρώπινο επίπεδο (εξαιρετικά ανεπτυγμένος πολιτισμός), είναι πολύ κοντά στο μηδέν. Το ποσοστό των μετανθρωπίνων πολιτισμών που επιδιώκουν να εκτελούν προσομοιώσεις των προγόνων τους είναι πολύ κοντά στο μηδέν. Το ποσοστό όλων των ανθρώπων τα οποία διαθέτουν τις δικές μας εμπειρίες και ζουν σε προσομοίωση, είναι πολύ κοντά στο ένα.Το παραπάνω επιχείρημα έχει επηρεάσει τις θεωρήσεις του Ίλον Μασκ. Ηθική των βελτιωτικών επεμβάσεων στον άνθρωπο Αντιμετωπίζει θετικά τις τεχνολογικές βελτιωτικές επεμβάσεις στον άνθρωπο, μέσω ηθικών εφαρμογών της επιστήμης, ενώ έχει επικριτική στάση έναντι των βιο-συντηρητικών απόψεων. Σε συνεργασία με τον φιλόσοφο Τόμπυ Ορντ δημιούργησε την ευριστική δοκιμασία της αντιστροφής, όπου έχοντας ως δεδομένο την ύπαρξη προκατάληψης των ανθρώπων υπέρ της διατήρησης των πραγμάτων ως έχουν, το ερώτημα που γίνεται είναι το πως μπορεί να διακρίνει κανείς μεταξύ δοκίμων επικρίσεων των προτεινομένων αλλαγών σε κάποιο ανθρώπινο χαρακτηριστικό, και επικρίσεων οι οποίες απλά βασίζονται στην γενική αντίσταση για αλλαγή; Η δοκιμασία λειτουργεί ρωτώντας το ανάποδο, δηλαδή το αν θα ήταν καλό αν το ανθρώπινο χαρακτηριστικό άλλαζε προς την αντίθετη κατεύθυνση. Τεχνολογική στρατηγική Έχει προτείνει πως η τεχνολογική πολιτική η οποία στοχεύει στην ελαχιστοποίηση των υπαρξιακών κινδύνων θα πρέπει να επιδιώξει να επηρρεάσει την σειρά με την οποία αποκτώνται οι διάφορες τεχνολογικές ικανότητες, και πως η ανάπτυξη επικύνδινων τεχνολογιών θα πρέπει να επιβραδυνθεί, ειδικά αυτές που ανεβάζουν το επίπεδο της υπαρξιακής απειλής, ενώ η ανάπτυξη των ωφελίμων τεχνολογιών θα πρέπει να επιταχυνθεί, ειδικά αυτών που μειώνουν τους υπαρξιακούς κινδύνους που δημιουργούνται από άλλες τεχνολογίες.Γενικά η στρατηγική κατεύθυνση αυτή, λειτουργεί υποστηρικτικά για την αποφυγή της όποιας επικύνδινης εφαρμογής επιστημονικής έρευνας, όπως την επανενεργοποίηση παθογόνων οργανισμών του παρελθόντος. 2002 – Anthropic Bias: Observation Selection Effects in Science and Philosophy, (ISBN 0-415-93858-9) 2009 – Human Enhancement, edited by Bostrom and Julian Savulescu, (ISBN 0-19-929972-2) 2011 – Global Catastrophic Risks, edited by Bostrom and Milan M. Ćirković, (ISBN 978-0-19-857050-9) 2014 – Superintelligence: Paths, Dangers, Strategies, (ISBN 978-0-19-967811-2) Bostrom, Nick (1998). «How Long Before Superintelligence?». Journal of Future Studies 2. http://www.nickbostrom.com/superintelligence.html. (1999). «The Doomsday Argument is Alive and Kicking». Mind 108 (431): 539–550. doi:10.1093/mind/108.431.539. http://www.anthropic-principle.com/preprints/ali/alive.html. (January 2000). «Observer-relative chances in anthropic reasoning?». Erkenntnis 52 (1): 93–108. doi:10.1023/A:1005551304409. http://www.anthropic-principle.com/preprints/rel/relative.html. (June 2001). «The Doomsday Argument, Adam & Eve, UN++, and Quantum Joe». Synthese 127 (3): 359–387. doi:10.1023/A:1010350925053. http://www.anthropic-principle.com/preprints/cau/paradoxes.html. (October 2001). «The Meta-Newcomb Problem». Analysis 61 (4): 309–310. doi:10.1111/1467-8284.00310. http://www.nickbostrom.com/papers/newcomb.html. (March 2002). «Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards». Journal of Evolution and Technology 9 (1). http://www.nickbostrom.com/existential/risks.html. (December 2002). «Self-Locating Belief in Big Worlds: Cosmology's Missing Link to Observation». Journal of Philosophy 99 (12): 607–623. http://www.anthropic-principle.com/preprints/cos/big.html. (April 2003). «Are You Living in a Computer Simulation?». Philosophical Quarterly 53 (211): 243–255. doi:10.1111/1467-9213.00309. http://www.simulation-argument.com/simulation.pdf. (2003). «The Mysteries of Self-Locating Belief and Anthropic Reasoning». Harvard Review of Philosophy 11 (Spring): 59–74. http://anthropic-principle.com/preprints/mys/mysteries.pdf. (November 2003). «Astronomical Waste: The Opportunity Cost of Delayed Technological Development». Utilitas 15 (3): 308–314. doi:10.1017/S0953820800004076. http://www.nickbostrom.com/astronomical/waste.html. (May 2005). «The Fable of the Dragon-Tyrant». J Med Ethics 31 (5): 273–277. doi:10.1136/jme.2004.009035. PMID 15863685. PMC 1734155. http://www.nickbostrom.com/fable/dragon.html. (June 2005). «In Defense of Posthuman Dignity». Bioethics 19 (3): 202–214. doi:10.1111/j.1467-8519.2005.00437.x. PMID 16167401. http://www.nickbostrom.com/ethics/dignity.html. with Tegmark, Max (December 2005). «How Unlikely is a Doomsday Catastrophe?». Nature 438 (7069): 754. doi:10.1038/438754a. PMID 16341005. Bibcode: 2005Natur.438..754T. (2006). «What is a Singleton?». Linguistic and Philosophical Investigations 5 (2): 48–54. http://www.nickbostrom.com/fut/singleton.html. (May 2006). «Quantity of Experience: Brain-Duplication and Degrees of Consciousness». Minds and Machines 16 (2): 185–200. doi:10.1007/s11023-006-9036-0. http://www.nickbostrom.com/papers/experience.pdf. with Ord, Toby (July 2006). «The Reversal Test: Eliminating Status Quo Bias in Applied Ethics». Ethics 116 (4): 656–680. doi:10.1086/505233. http://www.nickbostrom.com/ethics/statusquo.pdf. with Sandberg, Anders (December 2006). «Converging Cognitive Enhancements». Annals of the New York Academy of Sciences 1093 (1): 201–207. doi:10.1196/annals.1382.015. Bibcode: 2006NYASA1093..201S. http://www.nickbostrom.com/papers/converging.pdf. (July 2007). «Sleeping beauty and self-location: A hybrid model». Synthese 157 (1): 59–78. doi:10.1007/s11229-006-9010-7. http://www.anthropic-principle.com/preprints/beauty/synthesis.pdf. (January 2008). «Drugs can be used to treat more than disease». Nature 452 (7178): 520. doi:10.1038/451520b. Bibcode: 2008Natur.451..520B. http://www.nickbostrom.com/letters/drugs.pdf. (2008). «The doomsday argument». Think 6 (17–18): 23–28. doi:10.1017/S1477175600002943. (2008). «Where Are They? Why I hope the search for extraterrestrial life finds nothing». Technology Review (May/June): 72–77. http://www.nickbostrom.com/extraterrestrial.pdf. with Sandberg, Anders (September 2009). «Cognitive Enhancement: Methods, Ethics, Regulatory Challenges». Science and Engineering Ethics 15 (3): 311–341. doi:10.1007/s11948-009-9142-5. PMID 19543814. http://www.nickbostrom.com/cognitive.pdf. (2009). «Pascal's Mugging». Analysis 69 (3): 443–445. doi:10.1093/analys/anp062. http://www.nickbostrom.com/papers/pascal.pdf. with Ćirković, Milan; Sandberg, Anders (2010). «Anthropic Shadow: Observation Selection Effects and Human Extinction Risks». Risk Analysis 30 (10): 1495–1506. doi:10.1111/j.1539-6924.2010.01460.x. http://www.nickbostrom.com/papers/anthropicshadow.pdf. (2011). «Information Hazards: A Typology of Potential Harms from Knowledge». Review of Contemporary Philosophy 10: 44–79. http://www.nickbostrom.com/information-hazards.pdf. Bostrom, Nick (2011). «THE ETHICS OF ARTIFICIAL INTELLIGENCE». Cambridge Handbook of Artificial Intelligence. Αρχειοθετήθηκε από το πρωτότυπο στις 2016-03-04. https://web.archive.org/web/20160304015020/http://www.nickbostrom.com/ethics/artificial-intelligence.pdf. Ανακτήθηκε στις 2018-09-25. Bostrom, Nick (2011). «Infinite Ethics». Analysis and Metaphysics 10: 9–59. http://www.nickbostrom.com/ethics/infinite.pdf. (May 2012). «The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents». Minds and Machines 22 (2): 71–84. doi:10.1007/s11023-012-9281-3. http://www.nickbostrom.com/superintelligentwill.pdf. with Shulman, Carl (2012). «How Hard is AI? Evolutionary Arguments and Selection Effects». J. Consciousness Studies 19 (7–8): 103–130. http://www.nickbostrom.com/aievolution.pdf. with Armstrong, Stuart; Sandberg, Anders (November 2012). «Thinking Inside the Box: Controlling and Using Oracle AI». Minds and Machines 22 (4): 299–324. doi:10.1007/s11023-012-9282-2. http://www.nickbostrom.com/papers/oracle.pdf. (February 2013). «Existential Risk Reduction as Global Priority». Global Policy 4 (3): 15–31. doi:10.1111/1758-5899.12002. http://www.existential-risk.org/concept.html. with Shulman, Carl (February 2014). «Embryo Selection for Cognitive Enhancement: Curiosity or Game-changer?». Global Policy 5 (1): 85–92. doi:10.1111/1758-5899.12123. http://www.nickbostrom.com/papers/embryo.pdf. with Muehlhauser, Luke (2014). «Why we need friendly AI». Think 13 (36): 41–47. doi:10.1017/S1477175613000316. http://www.nickbostrom.com/views/whyfriendlyai.pdf. Επίσημος ιστότοπος Anthropic Principle, "Anthropic Bias: Observation Selection Effects in Science and Philosophy" (HTML, PDF) Simulation Argument website Existential Risk https://twit.tv/shows/triangulation/episodes/177 Νικ Μπόστρομ στο TED The 10 gatekeepers of humanity against the risks of AI Αρχειοθετήθηκε 2015-12-24 στο Wayback Machine., Hot Topics 2015
Ο Νικ Μπόστρομ (σουηδικά: Niklas Boström‎, 10 Μαρτίου 1973, Χέλσινγκμποργκ) είναι Σουηδός φιλόσοφος ο οποίος εργάζεται στο πανεπιστήμιο της Οξφόρδης, και είναι γνωστός για την εργασία του σχετικά με τον υπαρξιακό κίνδυνο, την ανθρωπική αρχή, την ηθική σχετικά με τις -τεχνολογικές- βελτιωτικές επεμβάσεις στον άνθρωπο, τους κινδύνους της υπερευφυίας, και την δοκιμασία αντιστροφής. Το 2011, ίδρυσε το πρόγραμμα Oxford Martin σχετικά με τις επιπτώσεις της μελλοντικής τεχνολογίας, και επίσης είναι ο ιδρυτής και διευθυντής του Ινστιτούτου Μέλλοντος της Ανθρωπότητας στο πανεπιστήμιο της Οξφόρδης. Διαθέτει πάνω από 200 δημοσιεύσεις, στις οποίες συμπεριλαμβάνεται και το βιβλίο του με τον αγγλικό τίτλο Superintelligence: Paths, Dangers, Strategies (2014, μτφ. Υπερευφυία: Μονοπάτια, Κίνδυνοι, Στρατηγικές) στο οποίο ασχολείται με τους κινδύνους της υπερευφυίας, καθώς και παλαιότερα το Anthropic Bias: Observation Selection Effects in Science and Philosophy (2002, μτφ. Ανθρωπική προκατάληψη: Επιπτώσεις της παρατηρησιακής επιλογής στην επιστήμη και την φιλοσοφία) όπου αναλύει την ανθρωπική αρχή και τις επιπτώσεις σε θρησκεία και επιστήμη. Το 2009 και το 2015, συμπεριελήφθηκε στην κατάταξη των Κορυφαίων 100 Διεθνών Στοχαστών του αμερικανικού περιοδικού Foreign Policy. Είναι ευρύτερα γνωστός για την επιχειρηματολογία του πως αν και πιθανώς υπάρχουν πολύ σημαντικά πλεονεκτήματα από την χρήση της τεχνητής νοημοσύνης, ενδεχομένως η τεχνητή νοημοσύνη θα αποτελέσει υπαρξιακό κίνδυνο για την ανθρωπότητα έαν δεν ελεγχθεί και ρυθμιστεί κατάλληλα και αν τα προβλήματα αυτά δεν έχουν επιλυθεί πριν την δημιουργία αυτόνομης τεχνικής γενικής νοημοσύνης. Παρόμοιες θεωρήσεις με αυτές του Μπόστρομ σχετικά με τους κινδύνους που ελλοχεύουν σχετικά με την υπερευφυία έχουν επίσης εκφραστεί από τον Ίλον Μασκ και τον Μπιλ Γκέιτς.