Tichifunga nezvemashoko akapfupikiswa anotevera ari mubhuku rinonzi "Human Compatible" rakanyorwa naStuart Russell, munyori wacho anotii nezvokukurira zvinotadza kuitwa nemaitiro anowanzoshandiswa pakugadzira unyanzvi hwokugadzira zvinhu?
Context:Russell anotanga nokutaura kuti chimiro chomuenzaniso chokutsvakurudza kweAI, umo rondedzero huru yokubudirira iri kuva iri nani uye iri nani pakuwana nharidzano dzakasimba dzinotsanangurwa nomunhu, yakatsauka zvine ngozi. Zvinangwa zvakadaro zvingasaita sezvinotarisirwa nevagadziri vevanhu, zvakadai sokukundikana kufunga nezvezvimwe zvinhu zvinokosheswa nevanhu zvisiri muzvinangwa zvacho. Kana AI yakagadzirwa maererano neyakajairwa modhi ikava yakangwara kwazvo, zvingangoita kuti isaratidze zvizere hunhu hwevanhu uye inogona kuva njodzi kuvanhu. Russell anotaura kuti nemhaka yokuti nguva yokugadzira munhu-level kana kuti superintelligent AI haina chokwadi, kutsvakurudza kwakachengeteka kunofanira kutanga nokukurumidza sezvinobvira, sezvo kusinawo chokwadi kuti inguva yakareba sei kuti ipedze kutsvakurudza kwakadaro.  Russell anotaura kuti kufambira mberi kunopfuurira mukukwanisa kweAI hakudzivisiki nemhaka yezvematongerwe enyika. Dzvinyiriro dzakadaro dzinogona kuonekwa kare mukusimudzirwa kwemichina yeAI iripo yakadai semotokari dzinotyaira dzoga uye purogiramu yemubatsiri womunhu oga. Uyezve, unyanzvi hwokugadzira zvinhu hunoenzana nehwemunhu hunogona kuita mabhiriyoni emadhora. Russell anobva aongorora gakava riripo pamusoro pengozi yeAI. Anopa zvinopesana kune huwandu hwezvakataurwa zvakajairika zvinoregedza njodzi yeAI uye zvinopa zvakawanda zvekushingirira kwavo kumarudzi<unk>Vatsvakurudzi veAI vanogona kuona AI njodzi kunetsekana se "kurwisa" mundima yavo. Russell anodzokorora kuti pane zvikonzero zvine musoro zvekutora zvinetso zveAI zvakakomba uye kuti kudzvinyirira kwehupfumi kunoita kuti kuenderera mberi kwekuvandudza muAI kusadzivisika.  Russell anobva ataura nzira yokugadzira michina inobatsira inoratidza kuti inoremekedza vanhu. Kusiyana neyakajairwa modhi yeAI, uko chinangwa chakaomarara uye chiri chechokwadi, iyi nzira ichave nechinangwa chechokwadi cheAI chinoramba chisina chokwadi, neAI chete ichisvika pakuva nechokwadi pamusoro payo painenge ichiwana rumwe ruzivo nezve vanhu nenyika. Kusava nechokwadi uku, nenzira yakanakisisa, kwaizodzivisa kusanzwisisana kune ngwavaira kwezvinodiwa navanhu uye kwaizokurudzira kushandira pamwe nekurukurirano navanhu. Russell anopedzisa nekukumbira hutongi hwakasimba hwekutsvagisa nekusimudzira kweAI pamwe nekufungisisa kwetsika pamusoro pehuwandu hwakakodzera hwekuzvitonga kuti uchengetedze munyika inotongwa neAI.
Russell anoratidza kuti maAI anofanira kudzidziswa nenzira inoita kuti awane zvishoma nezvishoma zivo yezvinonyatsobatsira vanhu. Unyanzvi hwekugadzira zvinhu hwakagadzirwa nenzira iyi hwaizobatsirana nevanhu uku huchivaita kuti vazviitire voga.