Einmal im Jahr stellt der Literaturagent John Brockman Wissenschaftlern auf der Website edge.org eine Frage. Dieses Jahr geht es um künstliche Intelligenz. Hier eine Auswahl von Antworten.
Das menschliche Denken ist deshalb so effizient, weil Menschen Leid kennen. Erkenntnis auf höchster Ebene ist eine Sache, die sich selbst befeuernde Motivation eine andere. Künstliches Denken könnte schon bald effizienter werden, aber wird es dann zwangsläufig Leiden erfahren? Wird das Leiden sogar notwendiger Teil einer post-biotischen Intelligenz sein müssen, die diesen Namen verdienen soll? Oder sind negative Gefühle von der Evolution nur für Menschen vorgesehen? Menschen haben zerbrechliche Körper, sie werden in eine gefährliche Umwelt hineingeboren und sie befinden sich in einem beständigen Bemühen, ihre Sterblichkeit leugnen zu müssen. Unser Hirn arbeitet fortwährend daran, dass die Wahrscheinlichkeit, böse überrascht zu werden, minimal bleibt. Wir sind deshalb schlau, weil wir verletzen und Bedauern empfinden können und weil wir uns bemühen, für uns selbst eine überzeugende Form der Täuschung und der wenigstens symbolischen Unsterblichkeit zu finden. Die Frage also lautet: Benötigt auch künstliche Intelligenz den zerbrechlichen Körper, die unsichere Umwelt und ein Wissen um die eigene Sterblichkeit? Es wird irgendwann denkende Maschinen geben. Werden sie sich um ihre eigene Gedanken scheren? Warum sollten sie? Das Wesen des Leidens liegt in der Tatsache, dass ein denkendes System nicht anders kann, als sich mit seiner Gefährdung zu identifizieren. Leiden hat natürlich verschiedene Aspekte. Doch es ist diese Identifikation damit, die zählt. Denn was dem System solches Unbehagen bereitet, ist untrennbar mit ihm verbunden, ein Zustand, der dessen Autonomie bedroht. Wenn man das versteht, sieht man, warum die "Erfindung" des bewussten Leidens durch die biologische Evolution so erfolgreich war. Sie ist ein zugleich innovatives wie absolut böses und grausames Konzept. Klar, diese Phänomenologie der Zugehörigkeit erklärt Leiden nicht hinreichend. Wir alle können uns leicht selbstbewusste Lebewesen vorstellen, die nicht leiden. Leiden benötigt einen Zustand mit negativer Wertigkeit, der vollständig in das Selbstbild und Selbstverständnis eines Systems integriert ist. Durch diese Integration erst werden aus negativen Präferenzen negative subjektive Präferenzen - und das sind die bewussten und klaren Vorstellungen darüber, dass es eben meine eigenen Präferenzen, Wünsche, Vorstellungen sind, die scheitern, gescheitert sind oder in Zukunft scheitern werden. Das bedeutet nicht, dass ein System mit künstlicher Intelligenz ebenfalls ein völliges Verständnis dessen haben muss, was diese Präferenzen genau sind. Es reicht, dass es nicht will, dass sich die Erfahrung eines negativ empfundenen Zustandes wiederholt, dass es diesen beenden will. Ich bin oft gefragt worden, ob wir nicht Maschinen bauen könnten, die sehr intelligent sind und leidensunfähig zugleich. Doch kann es echte Intelligenz ohne existenzielle Sorge überhaupt geben? Thomas Metzinger, Philosoph, Universität Mainz