Láti inú àkópọ̀ yìí, ṣe àkọsílẹ̀ ọ̀nà mẹ́ta tí àwọn ètò ìmọ̀-ìjìnlẹ̀ alágbèéká fi ń fi ìwà tí kò bá ìlànà ènìyàn mu hàn, èyí tí Brian Christian jíròrò nínú àwọn apá mẹ́ta ìwé rẹ̀ "The Alignment Problem"?
Context:Apá mẹ́ta ni ìwé náà pín sí: Àsọtẹ́lẹ̀, Àṣẹ, àti Ìlànà. Apá kọ̀ọ̀kan ní àwọn olùṣèwádìí àti àwọn onímọ̀ ẹ̀rọ tí wọ́n ń ṣiṣẹ́ lórí àwọn ìpèníjà ọ̀tọ̀ọ̀tọ̀ nínú mímú kí ìmọ̀-ìjìnlẹ̀ tó jẹ́ ẹ̀rọ mọ́ àwọn ìlànà ẹ̀dá ènìyàn.  Àsọtẹ́lẹ̀ Ní apá àkọ́kọ́, Christian fi àwọn ìjíròrò nípa ìtàn ìwádìí ìmọ̀-ọ̀rọ̀-ọ̀fẹ́, ní pàtàkì ọ̀nà tí àwọn ẹ̀rọ ń gbà kọ́ àwọn ẹ̀rọ-ọ̀rọ̀-ọ̀fẹ́ bí Perceptron àti AlexNet, pẹ̀lú àwọn àpẹẹrẹ bí àwọn ètò ìmọ̀-ọ̀fẹ́-ọ̀fẹ́ ṣe lè ní ìwà tí a kò fẹ́. Ó sọ ìtàn Julia Angwin, akọ̀ròyìn kan tí ProPublica ṣe ìwádìí nípa ìlànà COMPAS, ọ̀nà kan láti sọ àsọtẹ́lẹ̀ ìwà ọ̀daràn láàárín àwọn tí wọ́n fẹ̀sùn ìwà ọ̀daràn kàn, èyí tí ó yọrí sí àríyànjiyàn tó gbòde kan nípa bó ṣe péye tó àti bí ó ṣe máa ń ṣe ojúsàájú sí àwọn ènìyàn kan. Ọkan ninu awọn ipenija idasilẹ akọkọ ti AI ni iseda apoti dudu rẹ (awọn titẹsi ati awọn abajade ni a le ṣe idanimọ ṣugbọn ilana iyipada laarin wọn ko ṣe ipinnu). Àìsí ìfòyebánilò ń mú kó ṣòro láti mọ ibi tí ètò náà ti ń lọ dáadáa àti ibi tó ti ń lọ díẹ̀díẹ̀.  Àjọ Ní apá kejì, Christian bákan náà ṣe àgbéyẹ̀wò ìtàn nípa ẹ̀kọ́ nípa ẹ̀mí nípa èrè, bíi ìwà àti dopamine, pẹ̀lú ìmọ̀-ìjìnlẹ̀ kòmpútà nípa kíkọ́ nípa àfikún okun, nínú èyí tí àwọn ètò AI nílò láti gbé ìlànà kalẹ̀ ("ohun tí wọ́n gbọ́dọ̀ ṣe") ní ojú iṣẹ́ iye ("ohun tí wọ́n gbọ́dọ̀ san tàbí ìyà tí wọ́n gbọ́dọ̀ jẹ"). Ó pe ètò AlphaGo àti AlphaZero tí DeepMind ṣe ní "ìgbésẹ̀ tó kàmàmà jù lọ nínú ètò ẹ̀kọ́ kíkọ́ni lọ́nà tó wà létòlétò". Ó tún tẹnu mọ́ ìjẹ́pàtàkì ìmọ̀lára, nínú èyí tí àwọn akẹ́kọ̀ọ́ tí ó ń gba ìdánilójú ti ní ìdíwọ́ láti ṣàyẹ̀wò àyíká wọn, dípò wíwá èrè láti ìta nìkan.  Ìlànà Apá kẹta dá lórí ìdánilẹ́kọ̀ọ́ AI nípasẹ̀ àfarawé ìwà ènìyàn tàbí ìwà ẹ̀rọ, àti àríyànjiyàn nípa ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́ ẹ̀kọ́. O ṣe pataki pataki ni ẹkọ imudani, ọna ti o gbooro fun awọn ẹrọ lati kọ ẹkọ iṣẹ-ṣiṣe ti eniyan tabi oluranlowo miiran. Christian ṣalaye awọn ipenija ti o ṣe deede ti o ni nkan ṣe pẹlu altruism ti o munadoko ati eewu ti o wa, pẹlu iṣẹ ti awọn onimoye Toby Ord ati William MacAskill ti o n gbiyanju lati ṣe agbekalẹ awọn ọgbọn eniyan ati ẹrọ fun lilọ kiri ninu iṣoro iṣedede bi daradara bi o ti ṣee.
Ní apá àkọ́kọ́, Àsọtẹ́lẹ̀, òǹkọ̀wé sọ̀rọ̀ nípa àwọn àwòkọ́ṣe tó ń sọ àsọtẹ́lẹ̀ tó ń ṣe àwọn ìpinnu tí ó ṣòro láti ṣàyẹ̀wò tí ó sì lè di ẹ̀tanú tàbí àìṣòdodo.  Ní apá kejì, Àjọ, nípa àwọn ètò ìkọ́ni tí ó ń mú kí ó lágbára sí i, bó tilẹ̀ jẹ́ pé àwọn àṣeyọrí dídára wà tí wọ́n ti ṣe, ó fẹ́rẹ̀ẹ́ jẹ́ pé iṣẹ́ tí wọ́n ń ṣe nìkan ló ń darí wọn, kì í ṣe bí wọ́n ṣe fẹ́ mọ̀ nípa àgbáyé.  Ní abala kẹta, Normativity, àwọn ọ̀nà ìkọ́ tí a fi àdàkàdekè fúnni ní ìdánilójú dojú kọ ìpèníjà láti mọ iṣẹ́ tí ènìyàn ń ṣe.