Isku soo wada duuboo, ku qor saddex siyaabood oo nidaamyada sirdoonka macmalka ah ay ku muujiyaan dabeecad aan ku habboonayn qiimaha aadanaha, oo uu daboolay Brian Christian saddexda qaybood ee buugiisa "The Alignment Problem"?
Context:Buuggu wuxuu u qaybsan yahay saddex qaybood: Wax sii sheegid, hay'ad, iyo qaanuun. Qeyb kasta waxay daboolaysaa cilmi baarayaasha iyo injineerada ka shaqeynaya caqabadaha kala duwan ee ku saabsan iswaafajinta sirdoonka macmalka ah ee qiimaha aadanaha.  Wax sii sheegid Qeybta koowaad, Christian wuxuu ka wada hadlayaa taariikhda cilmi baarista sirdoonka macmalka ah, gaar ahaan habka barashada mashiinka ee shabakadaha neerfaha ee macmalka ah sida Perceptron iyo AlexNet, oo leh tusaalooyin ku saabsan sida nidaamyada AI ay u yeelan karaan dabeecad aan la rabin. Wuxuu sheegayaa sheekada Julia Angwin, oo ah wariye ProPublica ay baaritaan ku sameysay algorithm-ka COMPAS, oo ah aalad lagu saadaalinayo ku noqoshada dambiyada dambiyada, ayaa horseeday dhaleeceyn baahsan oo ku saabsan saxnaanta iyo u janjeedhida dadka qaarkood. Mid ka mid ah caqabadaha ugu waaweyn ee la xiriira iswaafajinta AI waa dabeecadda sanduuqa madow (inputs iyo wax soo saarka waa la aqoonsan karaa laakiin geedi socodka isbeddelka ee u dhexeeya lama go'aamin). Daahfurnaan la'aanta ayaa ka dhigaysa in ay adagtahay in la ogaado halka nidaamka uu ku socdo sax iyo meesha uu ku socdo khalad.  Wakaaladda Qeybta labaad, Christian wuxuu si la mid ah u dhexgalaa taariikhda daraasadda cilmi nafsiga ee abaalmarinta, sida dhaqanka iyo dopamine, oo leh sayniska kombiyuutarka ee barashada xoojinta, taas oo nidaamyada AI ay u baahan yihiin inay horumariyaan siyaasad ("maxaa la sameeyaa") marka la eego shaqo qiimo leh ("wax abaalmarin ah ama ciqaab ah oo la filayo"). Wuxuu ugu yeeray nidaamka DeepMind AlphaGo iyo AlphaZero "laga yaabee in ay tahay guusha ugu cajiibka badan ee naqshadeynta manhajka otomaatiga ah". Wuxuu sidoo kale iftiiminayaa muhiimada xiisaha, taas oo bartayaasha xoojinta ay si dabiici ah ugu dhiirigeliyaan inay sahamiyaan deegaankooda, halkii ay si gaar ah u raadin lahaayeen abaalmarinta dibadda.  Xeerarka Qeybta saddexaad waxay daboolaysaa tababarka AI iyada oo loo marayo ku dayashada dabeecadda aadanaha ama mashiinka, iyo sidoo kale doodaha falsafada sida suurtagalnimada iyo dhabta ah ee ku lug leh dabeecadda ku habboon ee nidaamyada AI. Muhiimad gaar ah waxaa leh barashada xoojinta, hab ballaaran oo loogu talagalay mashiinada si ay u bartaan shaqada ujeedada aadanaha ama wakiil kale. Christian wuxuu ka hadlayaa caqabadaha caadiga ah ee la xiriira samafalka wax ku oolka ah iyo halista jiritaanka, oo ay ku jiraan shaqada falsafada Toby Ord iyo William MacAskill oo isku dayaya inay dejiyaan istiraatiijiyado bini aadam iyo mashiin si ay ugu maraan dhibaatada iswaafajinta sida ugu macquulsan ee suurtogalka ah.
Qeybta koowaad, saadaasha, qoraagu wuxuu ka hadlayaa moodooyinka saadaalinta ee go'aanada ay adag tahay in la baaro oo laga yaabo inay noqoto mid takoorid ama cadaalad darro.  Qeybta labaad, Hay'ada, ku saabsan nidaamyada waxbarashada xoojinta, in kasta oo ay guulo la taaban karo gaareen, waxaa lagu hagaajiyay ku dhowaad si gaar ah shaqadooda ujeedada, ma ahan wax badan oo xiisaha ah si loo ogaado adduunka.  Qeybta sadexaad, Normativity, farsamooyinka barashada xoojinta gadaal waxay wajahaan caqabada ah inay ogaadaan shaqada ujeedada aadanaha.