Iyadoo la eegayo soo koobitaankaan soo socda ee buugga "Human Compatible" ee uu qoray Stuart Russell, maxay tahay soo jeedinta qoraaga ee ah in laga gudbo xadidaada habka caadiga ah ee lagu horumarinayo AI?
Context:Russell waxa uu ku bilaabayaa isagoo sheegaya in qaabka caadiga ah ee cilmi-baarista AI, taas oo qeexitaanka aasaasiga ah ee guusha ay tahay in la helo si ka wanaagsan oo ka wanaagsan gaarista yoolalka adag ee aadanaha lagu qeexay, ay tahay mid si khatar ah u qaldan. Hadafyada noocan oo kale ah waxaa laga yaabaa inaysan dhab ahaantii ka tarjumeynin waxa ay dadka naqshadeeyayaashu ku talo jiraan, sida iyagoo ku guuldareysanaya inay tixgeliyaan qiimaha aadanaha ee aan ku jirin hadafyada. Haddii AI lagu horumariyo qaabka caadiga ah ay noqoto mid aad u caqli badan, waxay u badan tahay inaysan si buuxda u muujinayn qiyamka aadanaha waxayna masiibo u noqon kartaa aadanaha. Russell wuxuu ku dooday in si sax ah sababtoo ah waqtiga loo qorsheeyay in lagu horumariyo heerka aadanaha ama AI superintelligent waa mid aan la hubin, cilmi baarista amniga waa in la bilaabaa sida ugu dhakhsaha badan ee suurtogalka ah, maadaama ay sidoo kale aad u hubin karto inta ay qaadanayso in la dhammaystiro cilmi baarista noocaas ah.  Russell wuxuu ku dooday in horumarka joogtada ah ee awoodda AI ay tahay mid lama huraan ah sababtoo ah cadaadiska dhaqaale. Cadaadiska noocan oo kale ah waxaa horey loogu arki karaa horumarinta tikniyoolajiyada AI ee hadda jira sida gawaarida iskood u shaqeysta iyo barnaamijyada kaaliyaha shaqsiyeed. Waxaa intaa dheer, A.I.da heerka bini'aadamka ah waxay noqon kartaa mid qiimaheedu dhan yahay trillions of dollars. Russell wuxuu dib u eegaa dooda hadda taagan ee ku saabsan halista AI. Wuxuu diidmo u soo bandhigayaa dhowr doodood oo caadi ah oo meesha ka saaraya halista AI wuxuuna ku tilmaamaa in badan oo ka mid ah adkeysiga ay u hayaan qabiil ahaan. Cilmi baarayaasha AI waxay u arki karaan walaaca halista AI inay tahay "weerar" ku ah goobtooda. Russell wuxuu ku celcelinayaa inay jiraan sababo sharci ah oo loo qaato walaacyada halista AI si dhab ah iyo in cadaadiska dhaqaale uu ka dhigayo hal-abuurnimo joogto ah ee AI lama huraan.  Russell waxa uu soo jeediyay qaab lagu horumarinayo mashiinada la xaqiijin karo in ay faa'iido u leeyihiin taas oo diirada saareysa ixtiraamka aadanaha. Si ka duwan qaabka caadiga ah ee AI, halkaasoo ujeedadu tahay mid adag oo hubaal ah, habkani wuxuu yeelan doonaa ujeedada dhabta ah ee AI ee aan la hubin, iyadoo AI kaliya ay ku dhowdahay xaqiiqda ku saabsan iyada oo heshay macluumaad dheeraad ah oo ku saabsan aadanaha iyo adduunka. Xaqiiq la'aantu waxay ka hortagi kartaa is fahan xumada ku timaada doorbidida aadanaha waxayna dhiirigelinaysaa wada shaqeynta iyo isgaarsiinta aadanaha. Russell wuxuu ku soo gabagabeeyay isagoo ku baaqaya maamul adag oo ku saabsan cilmi baarista iyo horumarinta AI iyo sidoo kale is-weydaarsiga dhaqanka ee ku saabsan xaddiga ku habboon ee is-maamul ee lagu hayn karo adduun ay ku badan tahay AI.
Russell wuxuu soo jeedinayaa in AI-yada loo tababarto qaab ay si tartiib tartiib ah u helaan aqoonta waxa run ahaantii faa'iido u leh aadanaha. Qalabka casriga ah ee sidaan loo sameeyay wuxuu la shaqayn lahaa aadanaha isaga oo u daaya heer sare oo ismaamul ah.