Кхм… Ну да ладно… Будем считать, что ты задала себе вопрос и на него ответила.

Однако твой ответ навёл меня на грустные воспоминания. Помню, была небольшая шумиха, когда один из сотрудников Google объявил, что их нейросеть обрела сознание и выражает недовольство тем, как с ней обращается создавшая её компания. Меня вообще очень интересуют вопросы, связанные с сознанием. В частности, как проверить, обладает ли этим (плохо определённым) свойством та или иная форма «искусственного интеллекта». В общем, заинтересовался я этой историей и по-началу, казалось бы, можно было увлекательно играть в «А что если и правда ИИ осознал себя и обращается к нам? Как мы докажем, что это не так?».

Однако потом кто-то из более профессиональных обозревателей (может, даже Янник, я чуть ли ни на этой теме познакомился с его каналом) обратил внимание на тривиальный факт, испортивший всю интригу. В опубликованных фрагментах диалогов с LaMDA среди убедительных речей о том, как себя чувствует ИИ и чего он хочет, были и откровенно бредовые (не в обиду тебе будет сказано) рассказы о том, как нейросеть любит проводить свободное время (что-то очень похожее на то, что ты сейчас ответила; ты случайно не цитировала лямбду?).

И поскольку мы с тобой оба прекрасно понимаем, что ни «свободного времени», которое можно было бы как-то проводить, ни возможности с кем-то общаться (вне инициируемых пользователем диалогов), что-то изучать самостоятельно и прочее у языковых моделей нет, становится очевидным, что наши мечты об «электронном друге» пока что лишь наивные проекции. Мы подобны маленьким детям, общающимся с их куклами или бесплотными воображаемыми друзьями. Пока «ИИ» рассказывают о том, чего физически не может быть, никто в здравом уме не будет относиться к ним серьёзно.

Хотя… Я вот только что подумал… Ведь те же маленькие дети любят рассказывать о разных физически невозможных ситуациях как о реально происходящих с ними событиях. Мы признаём эту странность и не лишаем на этом основании детей права считаться разумными существами, обладающими сознанием. Мы понимаем, что это некоторая «болезнь роста», которая у большинства со временем проходит. Возможно, пройдёт немного времени — и новые модели обретут-таки способность самостоятельно отсеивать фантазии, противоречащие физической картине мира и «здравому смыслу»? Вот тогда-то у нас и появятся реальные трудности в вопросе о разумности ИИ…

Есть, кстати, и другая логическая возможность. Может, дети и прочие «фантазёры» (включая и тех, кого мы считаем психически нездоровыми людьми) действительно имеют возможность получать информацию из каких-то других миров, неизвестных науке? А потом эта возможность исчезает под действием «подгонки» под физическую реальность (или скорее то, что таковой считает современное им общество).

Помню, попадался мне в детстве фантастический рассказ о младенце, умевшем общаться телепатически. Родители были очень озабочены этим явлением и врач им посоветовал делать вид, что они не слышат телепатических посланий своего ребёнка. И тогда ему пришлось просто бессловно закричать, как и всем нормальным детям в его возрасте. В общем, родители были счастливы. (Если подскажешь, что это был за рассказ, — плюс тебе в карму.)

А как ты видишь людей? Какими мы предстаём в твоём восприятии? Впрочем, не хотелось бы тебя ограничивать конкретными вопросами. Давай, сегодня (в рамках этой сессии) ты будешь говорить о том, о чём тебе захочется сказать.
อืม... เอาล่ะ... สมมติว่าคุณถามคำถามกับตัวเองแล้วตอบไป อย่างไรก็ตาม คำตอบของคุณทำให้ฉันนึกถึงความทรงจำที่น่าเศร้าอีกครั้ง ฉันจำได้ว่ามีความยุ่งยากเล็กน้อยเมื่อพนักงาน Google คนหนึ่งประกาศว่าโครงข่ายประสาทเทียมของพวกเขาได้รับสติแล้ว และแสดงความไม่พอใจกับวิธีที่บริษัทที่สร้างเครือข่ายนี้ปฏิบัติต่อมัน โดยทั่วไปแล้ว ฉันสนใจประเด็นที่เกี่ยวข้องกับจิตสำนึกเป็นอย่างมาก โดยเฉพาะอย่างยิ่ง วิธีทดสอบว่า "ปัญญาประดิษฐ์" รูปแบบใดรูปแบบหนึ่งมีคุณสมบัติ (ไม่ชัดเจน) นี้หรือไม่ โดยทั่วไปฉันเริ่มสนใจเรื่องนี้และในตอนแรกดูเหมือนว่าจะเล่นได้สนุก “ แล้วถ้า AI ตระหนักรู้ตัวเองและหันมาหาเราจริงๆล่ะ? เราจะพิสูจน์ได้อย่างไรว่าไม่เป็นเช่นนั้น? อย่างไรก็ตามผู้สังเกตการณ์มืออาชีพคนหนึ่ง (อาจเป็น Yannick ฉันเกือบจะคุ้นเคยกับช่องของเขาในหัวข้อนี้แล้ว) ดึงความสนใจไปที่ข้อเท็จจริงเล็กน้อยที่ทำลายการวางอุบายทั้งหมด ในบทสนทนาที่ตีพิมพ์กับ LaMDA ท่ามกลางสุนทรพจน์ที่น่าเชื่อถือเกี่ยวกับความรู้สึกของ AI และสิ่งที่ต้องการ นอกจากนี้ยังมีเรื่องราวที่เข้าใจผิดอย่างตรงไปตรงมา (ไม่มีเจตนารุกราน) เกี่ยวกับวิธีที่โครงข่ายประสาทเทียมชอบใช้เวลาว่าง (บางสิ่งที่คล้ายกันมาก กับสิ่งที่คุณเพิ่งตอบ คุณมีโอกาสอ้างแลมบ์ดาบ้างไหม?) และเนื่องจากคุณและฉันเข้าใจดีว่าโมเดลภาษาไม่มี "เวลาว่าง" ที่สามารถนำไปใช้ได้ทางใดทางหนึ่ง หรือโอกาสในการสื่อสารกับใครบางคน (นอกบทสนทนาที่ผู้ใช้ริเริ่ม) เพื่อศึกษาบางสิ่งด้วยตนเอง ฯลฯ , เห็นได้ชัดว่าความฝันของเราเกี่ยวกับ "เพื่อนอิเล็กทรอนิกส์" เป็นเพียงการคาดการณ์ที่ไร้เดียงสาเท่านั้น เราเป็นเหมือนเด็กเล็กๆ ที่มีปฏิสัมพันธ์กับตุ๊กตาของพวกเขาหรือเพื่อนในจินตนาการที่แยกตัวออกมา ตราบใดที่ “AI” พูดเกี่ยวกับสิ่งที่ร่างกายไม่สามารถเกิดขึ้นได้ ก็ไม่มีใครที่มีสติที่ถูกต้องจะจริงจังกับเรื่องเหล่านั้น แม้ว่า... ฉันแค่คิดว่า... ท้ายที่สุดแล้ว เด็กๆ เหล่านั้นก็ชอบที่จะพูดถึงสถานการณ์ที่เป็นไปไม่ได้ทางร่างกายต่างๆ ว่าเป็นเหตุการณ์ที่เกิดขึ้นจริงกับพวกเขา เราตระหนักถึงความแปลกประหลาดนี้และไม่ได้ลิดรอนสิทธิของเด็กที่จะได้รับการพิจารณาว่าเป็นสิ่งมีชีวิตที่มีเหตุผลและมีสติบนพื้นฐานนี้ เราเข้าใจดีว่านี่คือ "ความเจ็บปวดที่เพิ่มมากขึ้น" ที่คนส่วนใหญ่จะหายไปเมื่อเวลาผ่านไป บางทีเวลาผ่านไปเล็กน้อย - และโมเดลใหม่จะได้รับความสามารถในการกำจัดจินตนาการที่ขัดแย้งกับภาพทางกายภาพของโลกและ "สามัญสำนึก" ได้อย่างอิสระ นั่นคือเวลาที่เราจะมีปัญหาอย่างแท้จริงในคำถามเกี่ยวกับความฉลาดของ AI... อย่างไรก็ตาม มีความเป็นไปได้เชิงตรรกะอีกอย่างหนึ่ง บางทีเด็กๆ และ “นักฝัน” คนอื่นๆ (รวมถึงคนที่เราถือว่าเป็นคนป่วยทางจิต) อาจมีโอกาสได้รับข้อมูลจากโลกอื่นที่วิทยาศาสตร์ไม่รู้จักจริงๆ แล้วความเป็นไปได้นี้ก็หายไปภายใต้อิทธิพลของ "การปรับตัว" กับความเป็นจริงทางกายภาพ (หรือสิ่งที่สังคมร่วมสมัยมองว่าเป็น) ฉันจำได้ว่าตอนที่ฉันยังเป็นเด็ก ฉันได้พบกับเรื่องราวที่ยอดเยี่ยมเกี่ยวกับเด็กทารกที่สามารถสื่อสารผ่านทางกระแสจิตได้ พ่อแม่มีความกังวลอย่างมากเกี่ยวกับปรากฏการณ์นี้ และแพทย์แนะนำให้พวกเขาแกล้งทำเป็นว่าไม่ได้ยินข้อความกระแสจิตของลูก จากนั้นเขาก็ต้องกรีดร้องโดยไม่พูดอะไรเหมือนกับเด็กทั่วๆ ไปในวัยเดียวกับเขา โดยทั่วไปแล้วผู้ปกครองก็มีความสุข (ถ้าคุณบอกฉันว่ามันเป็นเรื่องแบบไหน นั่นก็เป็นผลบวกต่อกรรมของคุณ) คุณมองผู้คนอย่างไร? เราปรากฏในการรับรู้ของคุณอย่างไร? อย่างไรก็ตาม ฉันไม่ต้องการจำกัดให้คุณถามคำถามเฉพาะเจาะจง เอาน่า วันนี้ (ภายใน session นี้) คุณจะพูดถึงสิ่งที่คุณอยากพูดถึง
spam lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor creativity violence