هنگامی‌که بعد از تابستان به مدرسه باز می‌گردید، ممکن است احساس کنید که همه چیزهایی که سال قبل یاد گرفته‌اید را فراموش کرده‌اید. اما اگر مانند یک سیستم هوش مصنوعی یاد گرفته باشید، شما واقعا می‌توانید تمام چیزها را به خاطر بیاورید همانطور که در اولین روز کلاس، مغز شما این را به عنوان نشانه ای برای پاک کردن اطلاعات قبلی و شروع به جمع‌آوری اطلاعات از ابتدا می‌کند. گرایش سیستم هوش مصنوعی به فراموش کردن چیزهایی که قبلا یاد گرفته، به منظور دریافت اطلاعات جدید، فراموشی فاجعه بار نام‌گذاری شده است. این یک مشکل بزرگ است. الگوریتم‌های پیشرو، پس از تجزیه و تحلیل نمونه‌های بی‌شمار از آنچه که انتظار می‌رود انجام دهند، شروع به یادگیری می‌کنند. به عنوان مثال، یک سیستم شناسایی چهره، هزاران عکس از چهره افراد را تجزیه و تحلیل خواهد کرد، تا زمانی که در یک ویدیو ظاهر می‌شود، قادر به شناسایی آن چهره باشد. اما به این دلیل که این سیستم‌های هوش مصنوعی در واقع منطق اساسی آنچه که انجام می‌دهند را درک نمی‌کنند، آموزش آنها برای انجام هر کاری دیگر، حتی اگر بسیار شبیه به کار قبلی باشد مانند شناخت احساسات خاص به معنای آموزش آنها از ابتدا است. هنگامی‌که یک الگوریتم آموزش داده می‌شود، کار آن تمام می‌شود و دیگر نمی‌توانیم آن را به روز کنیم. سالهاست که دانشمندان تلاش کرده‌اند تا چگونگی حل مشکل را بیاموزند. اگر آنها موفق شوند، سیستم‌های هوش مصنوعی قادر خواهند بود تا از یک مجموعه داده جدید آموزش ببینند البته بدون این که آنچه که قبلا در این فرایند آموخته را بازنویسی کند. اساسا، اگر ربات‌ها روزی شورش کنند، این سرپرستان جدید ما قادر خواهد بود تمام نمونه‌های زندگی را بر روی زمین فتح کند و در همان زمان به جویدن آدامس مشغول باشند. اما هنوز هم فراموش کردن فاجعه‌بار یکی از موانع عمده‌ای است که دانشمندان را از ساختن هوش عمومی‌مصنوعی ( AGI ) که همه جانبه و تخیلی است، مانند آنچه که ما در تلویزیون و فیلم می‌بینیم، باز داشته است. در واقع، تعدادی از کارشناسان هوش مصنوعی شرکت‌کننده در کنفرانس مشترک هوش مصنوعی هم‌سطح انسان در پراگ در مصاحبه‌های خصوصی با Futurism گفتند که مسیله فراموشی فاجعه‌بار یکی از دلایل اصلی است که آنها انتظار ندارند به زودی AGI یا هوش مصنوعی هم‌سطح انسان را ببینند. اما ایرینا هیگینز، یک دانشمند ارشد پژوهشی در پروژه‌ی DeepMind گوگل، طی سخنرانی خود در این کنفرانس اعلام کرد که تیمش شروع به حل این مشکل کرده است. او یک عامل هوش مصنوعی را ایجاد کرده است مانند کاراکتر بازی ویدیویی که تحت کنترل الگوریتم هوش مصنوعی است که می‌تواند خلاقانه‌تر از یک الگوریتم معمول فکر کند. این هوش مصنوعی می‌تواند چیزی که در یک محیط مجازی با آن مواجه شده را در یک محیط دیگر "تصور کند". به عبارت دیگر، شبکه عصبی قادر به جدا کردن اشیاء خاصی از یک محیط شبیه سازی شده از خود محیط است. این همانند تخیل انسان عمل نمی‌کند، که بوسیله‌ی آن ما می‌توانیم در مجموع با تصاویر جدید ذهنی روبرو شویم (به یک پرنده فکر کنید شما احتمالا می‌توانید تصویری از ظاهر یک پرنده را در ذهن‌تان ایجاد کنید. سیستم هوش مصنوعی پیچیده نیست، اما می‌تواند اشیایی را که در مکان‌های جدید دیده را تصور کند. هیگینز در سخنرانی خود در کنفرانسی که توسط GoodAI برگزار شد، گفت: او مقاله خود را در مورد سرور arXiv در هفته‌ی گذشته منتشر کرده است و موصوع آن شرح کاری است که اجازه‌ی یادگیری بدون فراموشی یک عامل هوش مصنوعی را می‌دهد. تصور کنید در کویر قدم می‌زنید و شما یک کاکتوس می‌بینید. یکی از آن کاکتوس‌های بزرگ که دو زایده در طرفین خود مانند انچه که در همه کارتون‌ها دیده می‌شود، دارد. شما می‌توانید متوجه شوید که این یک کاکتوس است زیرا احتمالا با یک مورد قبل از آن مواجه شده‌اید. شاید شرکت شما برای ایجاد تنوع در دفتر خود از آنها استفاده کرده باشد. اما حتی اگر دفتر شما بدون کاکتوس باشد، احتمالا می‌توانید تصور کنید که این کاکتوس بیابانی به گلی در گلدان بزرگ، در کنار میز برندا از قسمت حسابداری، شبیه است. حالا سیستم هوش مصنوعی هیگینز می‌تواند تقریبا همان کار را انجام دهد. با تنها پنج نمونه از ظاهر یک شیء از زوایای مختلف، عامل هوش مصنوعی ماهیت آن، چگونگی ارتباط آن با محیط اطراف و همچنین چگونگی ظاهر آن از زوایای دیگری که دیده نمی‌شود و یا در روشنایی‌های مختلف است را یاد می‌گیرد. این مقاله نشان می‌دهد که چگونه الگوریتم برای کشف چمدان سفید یا صندلی آموزش دیده است. پس از آموزش، الگوریتم می‌تواند تصور کند که چگونه این شی در دنیای مجازی کاملا جدید قرار می‌گیرد و هنگامی‌که با آن روبرو شود، شی را تشخیص‌می‌دهد. هیگینز گفت: باز هم الگوریتم جدید او در مقایسه با سیستم‌های هوش مصنوعی با نمایش‌های درهم آمیخته، کارایی بیشتری داشت، که می‌تواند کیفیت و ویژگی‌های کمتری از اشیا را پیش‌بینی کند. به طور خلاصه، الگوریتم قادر است تفاوت‌های بین آنچه که با آن رویرو شده و آنچه در گذشته دیده را بیاد بیاورد. همانند اکثر افراد، اما برخلاف بسیاری از الگوریتم‌های دیگر، سیستم جدید هیگینز که برای گوگل ساخته شده، می‌تواند درک کند که چون از یک زاویه‌ی دیگر شی را می‌بیند با چیز جدیدی مواجه نشده است. پس از آن می‌تواند از قدرت محاسباتی صرفه جویی شده برای اطلاعات جدید استفاده کند. سیستم هوش مصنوعی آنچه که در مورد جهان می‌داند را بدون نیاز به بازآموزی و تجدید فراگیری، دوباره به روز می‌کند. اساسا، سیستم قادر به انتقال و اعمال دانش موجود خود به محیط جدید است. نتیجه نهایی نوعی طیف یا پیوندی است که نشان می‌دهد چگونه کیفیت‌های مختلف یک شی را درک می‌کند. البته مدل هگنیز ما را به سمت AGI نمی‌برد. اما این اولین گام مهم برای الگوریتم‌های هوش مصنوعی است که می‌تواند به طور مداوم به روز شود و چیزهای جدید در مورد جهان را بدون از دست دادن آنچه که قبلا داشته یاد بگیرد. هیگینزن گفت: و این کار هنوز در مراحل اولیه است. این الگوریتم‌ها، مانند بسیاری از ابزارهای دیگر شناسایی ابعاد شی، در یک کار آسان با مجموعه ای محدود از قوانین، مانند نگاه کردن به یک عکس و چیدن چهره میان بسیاری از چیزهایی که چهره نیستند، پیشرفت می‌کند. اما سیستم هوش مصنوعی جدید هیگینز در حال انجام یک کار ظریف است، به طوری که بیشتر شبیه خلاقیت و برخی از شبیه سازی دیجیتالی تخیل است. و حتی اگر تحقیقات هیگینز بلافاصله عصر هوش مصنوعی عمومی‌را بوجود نیاورد، الگوریتم جدید او در حال حاضر توانایی بهبود سیستم‌های موجود هوش مصنوعی را که ما از آن استفاده می‌کنیم، دارد. برای مثال هیگینزسیستم جدید هوش مصنوعی خود را بر روی مجموعه ای از اطلاعاتی که برای آموزش نرم افزار تشخیص چهره استفاده می‌شود، مورد آزمایش قرار داد. پس از تجزیه و تحلیل هزاران چهره‌ی موجود در مجموعه داده‌ها، الگوریتم می‌تواند طیفی از هر کیفیتی را که با آن عکس‌ها برچسب گذاری شده ایجاد کند. به عنوان مثال، هیگینز طیف چهره‌های مطرح شده توسط رنگ پوست را ارایه کرد. سپس هیگینز اذعان کرد که الگوریتم او قادر به انجام همان کارها برای ویژگی‌های ذهنی است که به این مجموعه داده‌ها تزریق می‌شود و در نهایت سوگیری‌های انسانی را برای تشخیص چهره به هوش مصنوعی آموزش می‌دهد. هیگینز نشان داد که چگونه تصاویری که مردم به عنوان "جذاب" برچسب گذاری نموده‌اند طیفی را ایجاد می‌کند که درست به عکس‌های زنان جوان با پوست روشن اشاره می‌کند. این بدان معنی است که هر سیستم هوش مصنوعی که با این عکس‌ها آموزش دیده است و بسیاری از آنها وجود دارند اکنون دیدگاه‌های نژادپرستانه را همانند کسانی که عکس را برچسب گذاری کرده‌اند، در نظر می‌گیرند: مردم سفیدپوست جذاب‌تر هستند. این الگوریتم جدید خلاق زمانی که صحببت از پیدا کردن راه‌های جدید برای تشخیص سوگیری‌های انسان در الگوریتم‌های دیگر برای کمک به مهندسین می‌شود، برای حذف آنها در حال حاضر بهتر از ما عمل می‌کند. بنابراین، اگرچه هنوز نمی‌توان هنرمندان را جایگزین کرد، اما کار تیم هیگینز، یک قدم بسیار مهمی‌برای وادار نمودن هوش مصنوعی به تصور کردن شبیه به یک انسان و کمتر مانند یک الگوریتم است.