Ho latela kakaretso ena, thathamisa litsela tse tharo tseo ka tsona litsamaiso tsa bohlale ba maiketsetso li bontšang boitšoaro bo sa lumellaneng le litekanyetso tsa batho, tse tšohloang ke Brian Christian likarolong tse tharo tsa buka ea hae ea "The Alignment Problem"?
Context:Buka ena e arotsoe likarolo tse tharo: Boprofeta, Boemeli le Melao. Karolo ka 'ngoe e akaretsa bafuputsi le baenjiniere ba sebetsang ka mathata a fapaneng ho hokahanya bohlale ba maiketsetso le litekanyetso tsa batho.  Boprofeta Karolong ea pele, Christian o kopanya lipuisano tsa nalane ea lipatlisiso tsa bohlale ba maiketsetso, haholo-holo mokhoa oa ho ithuta ka mochini oa marang-rang a maiketsetso a kang Perceptron le AlexNet, ka mehlala ea hore na litsamaiso tsa AI li ka ba le boitšoaro bo sa reroang joang. O pheta pale ea Julia Angwin, moqolotsi oa litaba eo patlisiso ea hae ea ProPublica ea COMPAS algorithm, sesebelisoa sa ho bolela esale pele botlokotsebe har'a baqosuoa ba botlokotsebe, e lebisitseng ho nyatsong e pharalletseng ea ho nepahala ha eona le leeme ho batho ba itseng. E 'ngoe ea liphephetso tse ka sehloohong tsa ho hokahanya AI ke sebopeho sa eona sa lebokose le letšo (li-input le li-output lia tsebahala empa ts'ebetso ea phetoho lipakeng ha e tsejoe). Ho haella ha ponaletso ho etsa hore ho be thata ho tseba hore na tsamaiso ena e tsamaea hantle le hore na e tsamaea hampe hokae.  Setsi Karolong ea bobeli, Christian ka ho tšoanang interweaves histori ea thuto ea kelello ea moputso, tse kang behaviorism le dopamine, le saense ea k'homphieutha ea matlafatso ithuta, eo AI tsamaiso ea lokela ho ntshetsa pele leano ("seo a ka se etsa") ka sefahleho sa mosebetsi boleng ("seo meputso kapa kotlo ho lebella"). O bitsa litsamaiso tsa DeepMind AlphaGo le AlphaZero "mohlomong e le katleho e ikhethang ka ho fetisisa ea ho qapa mananeo a thuto a iketselitseng". O boetse o totobatsa bohlokoa ba bohelehele, boo ho bona batho ba ithutang ka ho matlafatsoa ba susumetsoang ka tlhaho ho hlahloba tikoloho ea bona, ho e-na le ho batla moputso o ka ntle feela.  Tloaelo Karolo ea boraro e akaretsa koetliso ea AI ka ho etsisa boitšoaro ba batho kapa ba mochine, hammoho le lipuisano tsa filosofi tse kang pakeng tsa bokhoni le bokhoni bo bontšang boitšoaro bo fapaneng ba mekhoa ea AI. Ntho ea bohlokoa ka ho khetheha ke ho ithuta ka ho matlafatsa ka tsela e fapaneng, e leng mokhoa o pharaletseng oa hore mechine e ithute mosebetsi oa motho kapa oa moemeli e mong. Christian o bua ka liphephetso tse tloaelehileng tse amanang le boiketlo bo sebetsang le kotsi ea ho ba teng, ho kenyeletsoa le mosebetsi oa bo-rafilosofi Toby Ord le William MacAskill ba lekang ho qapa maano a batho le a mochini bakeng sa ho tsamaisa bothata ba ho hokahanya ka nepo kamoo ho ka khonehang.
Karolong ea pele, Boprofeta, mongoli o bua ka mehlala e bolellang esale pele e etsang liqeto tseo ho leng thata ho li hlahloba'me e ka ba tse khethollang kapa tse hlokang toka.  Karolong ea bobeli, Agency, mabapi le mekhoa ea ho ithuta e matlafatsang, ho sa tsotellehe katleho e 'ngoe e tsotehang, e tataisoa hoo e batlang e le ka ho feletseng ke mosebetsi oa eona oa sepheo, eseng hakaalo ka thahasello ea ho fumana lefatše.  Karolong ea boraro, Normativity, mekhoa ea ho ithuta ka ho matlafatsa ka ho khutlisetsa morao e tobane le phephetso ea ho fumana hore na sepheo sa motho ke sefe.