Was schlägt der Autor in der folgenden Zusammenfassung des Buches "Human Compatible" von Stuart Russell vor, um die Grenzen des Standardansatzes zur Entwicklung von KI zu überwinden?
Given the following summary of the book "Human Compatible" by Stuart Russell, what is the author's proposal to overcome the limitations of the standard approach for developing AI?
Russell suggests that the AIs should be trained in a way that makes them gradually gain knowledge of what is truly beneficial to humans. AIs developed in this fashion would cooperate with humans while leaving them with a high enough level of autonomy.
Russell schlägt vor, die KI so zu trainieren, dass sie nach und nach herausfindet, was für die Menschen wirklich nützlich ist. KIs, die auf diese Weise entwickelt werden, würden mit den Menschen kooperieren und ihnen gleichzeitig ein ausreichendes Maß an Autonomie lassen.
closed_qa
Russell beginnt mit der Behauptung, dass das Standardmodell der KI-Forschung, bei dem die primäre Definition von Erfolg darin besteht, immer besser zu werden, um starre, von Menschen vorgegebene Ziele zu erreichen, ein gefährlicher Irrweg ist. Solche Ziele spiegeln möglicherweise nicht das wider, was die menschlichen Konstrukteure beabsichtigen, z. B. weil sie die menschlichen Werte, die nicht in den Zielen enthalten sind, nicht berücksichtigen. Wenn eine KI, die nach dem Standardmodell entwickelt wurde, superintelligent werden würde, würde sie wahrscheinlich die menschlichen Werte nicht vollständig widerspiegeln und könnte für die Menschheit katastrophale Folgen haben. Russell behauptet, dass gerade weil der Zeitplan für die Entwicklung einer menschlichen oder superintelligenten KI höchst ungewiss ist, so schnell wie möglich mit der Sicherheitsforschung begonnen werden sollte, da es auch höchst ungewiss ist, wie lange es dauern würde, diese Forschung abzuschließen.

Russell argumentiert, dass die Weiterentwicklung der KI-Fähigkeiten aufgrund des wirtschaftlichen Drucks unvermeidlich ist. Dieser Druck zeigt sich bereits in der Entwicklung bestehender KI-Technologien wie selbstfahrenden Autos und persönlicher Assistenzsoftware. Außerdem könnte KI auf menschlicher Ebene viele Billionen Dollar wert sein. Anschließend untersucht Russell die aktuelle Debatte über KI-Risiken. Er widerlegt eine Reihe gängiger Argumente, mit denen das KI-Risiko abgetan wird, und führt ihre Hartnäckigkeit größtenteils auf Stammesdenken zurück - KI-Forscher/innen könnten die Bedenken über das KI-Risiko als "Angriff" auf ihr Fachgebiet betrachten. Russell bekräftigt, dass es legitime Gründe gibt, KI-Risiko-Bedenken ernst zu nehmen, und dass der wirtschaftliche Druck weitere Innovationen im Bereich der KI unausweichlich macht.

Russell schlägt dann einen Ansatz für die Entwicklung nachweislich nützlicher Maschinen vor, bei dem die Achtung vor dem Menschen im Mittelpunkt steht. Anders als beim Standardmodell der KI, bei dem das Ziel starr und sicher ist, bleibt bei diesem Ansatz das wahre Ziel der KI ungewiss und die KI nähert sich der Gewissheit erst, wenn sie mehr Informationen über den Menschen und die Welt erhält. Diese Ungewissheit würde im Idealfall katastrophale Missverständnisse der menschlichen Präferenzen verhindern und die Zusammenarbeit und Kommunikation mit den Menschen fördern. Russell schließt mit der Forderung nach einer strengeren Kontrolle der KI-Forschung und -Entwicklung sowie einer kulturellen Selbstreflexion über das angemessene Maß an Autonomie, das in einer von KI dominierten Welt bewahrt werden sollte.
de