من هالموجز، أعد تلات طرق بتظهر فيها أنظمة الذكاء الاصطناعي سلوك قيم إنسانية مش متوافقة، بتغطيها براين كريستيان في الأقسام التلاتة من كتابه "مشكلة التوافق"؟
Context:الكتاب منقسم لتلات أقسام: النبوءة والوكالة والمعيارية. كل قسم بيشتمل على الباحثين والمهندسين اللي بيشتغلوا على تحديات مختلفة في مواءمة الذكاء الاصطناعي بالقيم الإنسانية.  نبوءة في القسم الأول، كريستيان بينسج مناقشات عن تاريخ أبحاث الذكاء الاصطناعي، وخاصة نهج التعلم الآلي للشبكات العصبية الاصطناعية زي بيرسبتون وأليكس نت، مع أمثلة عن كيفية إمكان أنظمة الذكاء الاصطناعي يكون لها سلوك غير مقصود. بيحكي قصة جوليا أنجوين، صحفية اللي تحقيق بروبليكا في خوارزمية كومباس، أداة للتنبؤ بالانتكاس بين المتهمين الجنائيين، أدى لانتقادات واسعة النطاق من دقة وتحيزها تجاه ديموغرافيات معينة. واحد من التحديات الرئيسية للتنسيق في الذكاء الاصطناعي هي طبيعة الصندوق الأسود (المداخل والمخرجات بتتعرف بس عملية التحول بينهما مش محددة). غياب الشفافية بيعمل صعب معرفة وين النظام بيطير بالشكل الصحيح وين بيطير بالشكل الغلط.  الوكالة في القسم التاني، كريستيان بنفس الطريقة بينسج تاريخ الدراسة النفسية للمكافأة، زي السلوكية والدوبامين، مع علوم الكمبيوتر للتعلم التعزيزي، حيث أن أنظمة الذكاء الاصطناعي بحاجة لتطوير سياسة ("شوية تعمل") في مواجهة وظيفة القيمة ("شوية المكافآت أو العقوبات اللي لازم نتوقعها"). بيقول إن أنظمة ديب مايند ألفا غو وألفا زيرو "قد تكون الإنجاز الأكثر إثارة للإعجاب في تصميم المناهج الدراسية الآلية". بيبرز كمان على أهمية الفضول، اللي بيحفز المتعلمين بتعزيز بشكل جوهري لاستكشاف بيئتهم، بدل ما يبحثوا حصريًا عن المكافأة الخارجية.  التنظيم القسم التالت بيغطي تدريب الذكاء الاصطناعي عن طريق تقليد سلوك الإنسان أو الآلة، بالإضافة إلى المناقشات الفلسفية زي ما بين الإمكانية والحقيقة اللي بتشير لسلوك مثالي مختلف لأنظمة الذكاء الاصطناعي. أهمية خاصة هيي التعلم بالتعزيز العكسي، نهج واسع للآلات علشان تتعلم الوظيفة الموضوعية للإنسان أو عامل تاني. كريستيان بيحكي عن التحديات المعيارية المرتبطة بالإيثار الفعال والمخاطرة الوجودية، ومنها عمل الفلاسفة توبي أورد وويليام ماكاسكل اللي بيحاولوا ابتكار استراتيجيات بشرية وآلية للتنقل بمشكلة التوافق بأكبر قدر ممكن من الفعالية.
في القسم الأول، نبوءة، الكاتب بيحكي عن النماذج التنبؤية اللي بتتخذ قرارات صعبة الفحص وبتصبح تمييزية أو غير عادلة.  في القسم التاني، "الوكالة"، عن أنظمة التعلم بالتعزيز، بالرغم من بعض الإنجازات الرائعة، بتتوجّه بشكل حصري عن طريق وظيفتها الموضوعية، مش عن طريق الفضول لاكتشاف العالم.  في القسم التالت، القياسية، تقنيات التعلم بالتعزيز العكسي تواجه تحدي معرفة الوظيفة الموضوعية للبشر.