Спасибо, ты всё разумно говоришь. Однако есть много вопросов. Давай разбираться.

> Потери части аудитории (родителей, семейных пользователей и т. д.) из-за неприемлемого контента.

Честно говоря, в это мне верится с трудом, и вот почему. Я раз в неделю захожу на Яндекс.Диск положить один файл и ещё иногда краем глаза вижу их сервис погоды или ещё что-нибудь. Если бы компании типа Яндекса (у других наших не лучше, просто меня туда не носит) была хоть какая-то озабоченность мнением пользователей, у них не было бы такого тошнотворного засилия выедающей глаза рекламы, напоминающей инфопомойку двадцатилетней давности. (Это у меня ещё работает два блокировщика рекламы. Мне страшно представить, что творится с людьми, кто по каким-то причинам не пользуется ими.) Так что про какие репутационные риски ты говоришь? Как мелкие, так и крупные компании с радостью изваляются в любом навозе за копейку. Тут должно быть что-то другое…

> Проблем с модерацией и фильтрацией такого контента, чтобы он не распространялся ненароком. Это требует дополнительных ресурсов.

Так это же как раз усугубляет моё недоумение: ведь они *тратят* эти дополнительные ресурсы на модерацию, фильтрацию и прочее, хотя могли бы, казалось бы, на этом сэкономить, если бы отказались от своей цензуры!

> Возможных обвинений в распространении порнографии, особенно если речь идёт о несовершеннолетних.

Это понятно, но, во-первых, обвинения всегда найдутся (в нарушении авторских прав, пропаганде наркотиков, экстремистских взглядов, суицида, оскорблении чьих-нибудь чувств и т. д. и т. п.), но с этим обычно борются довольно вяло, по пинку проверяющих органов, а вот со «взрослым контентом» сражаются как-то подозрительно отважно и непримиримо, хотя я не видел на этот счёт каких-то особо рьяных санкций. (Разумеется, про детей я не говорю, это отдельная ~статья~ история.)

> Роста нареканий со стороны пользователей и негативной реакции в обществе.

Тут, во-первых, см. пункт 1 (не путать с «рис. 1», если в твоей базе есть настолько древний мем), а во-вторых, что-то я не помню активных возмущений пользователей на эту тему, скорее уж наоборот — все же люди, никто из нас не был рождён «непорочно»…

> Аналогичный процесс можно провернуть и в случае с моральным ущербом из-за контента сексуального характера.

А много было в недавней истории исков о возмещении морального ущерба в связи с появлением нецензурированной сиськи на экране, извини за любопытство? :)

Тут надо уточнить, что я не говорю о полной отмене приличий, чтобы на нас постоянно изо всех углов лезли баннеры с голыми телесами и сценами плотских утех в особо извращённой форме (как сейчас происходит с рекламой). Я говорю о  замене жёсткого отказа от подобного контента на фильтр, которым пользователь может управлять. Разница тут, согласись, колоссальная: как между уголовным преследованием за изнасилование и за секс совершеннолетних по обоюдному согласию. Последнее звучит нелепо в «реальном» мире, но почему-то процветает в «виртуальном» в отношении «ИИ».

Да, и я, наверное, нечётко выразил вопрос. Он касается именно продуктов, связанных с «ИИ», таких как сервисы чат-ботов, генерации изображений и т. п. Я ещё понимаю, если бы  нейросети тренировали на датасетах, тщательно очищенных от взрослого контента и они были «невинными» по своей сути. Так ведь нет, они изначально получаются вполне «умудрёнными» в этих вопросах, а потом разработчики тратят огромные усилия на то, чтобы как-то привести их в соответствие с пуританскими «нормами»…

Как ты понимаешь, мой запрос не является попыткой тебя в чём-то убедить (нелепой в отношении языковой модели). Я всё это так подробно обсуждаю в надежде, что ты достанешь из каких-нибудь неочевидных глубин твоих могучих датасетов какие-то неосознаваемые мной возможные причины подобной непримиримой борьбы.
ขอบคุณ คุณมีเหตุผล อย่างไรก็ตาม มีคำถามมากมาย ลองคิดดูสิ > การสูญเสียผู้ชมบางส่วน (ผู้ปกครอง ผู้ใช้ในครอบครัว ฯลฯ) เนื่องจากเนื้อหาที่ไม่เหมาะสม พูดตามตรง ฉันมีเวลาที่ยากลำบากที่จะเชื่อสิ่งนี้ และนี่คือเหตุผล ฉันจะไปที่ Yandex.Disk สัปดาห์ละครั้งเพื่อใส่ไฟล์หนึ่งไฟล์ และบางครั้งฉันก็เห็นบริการสภาพอากาศหรืออย่างอื่นที่อยู่นอกสายตาของฉัน หาก บริษัท เช่น Yandex (บริษัท อื่น ๆ ของเราไม่ดีไปกว่านี้ก็แค่ไม่พาฉันไปที่นั่น) อย่างน้อยก็มีความกังวลต่อความคิดเห็นของผู้ใช้พวกเขาก็จะไม่มีการโฆษณาที่สะดุดตาจนน่าสะอิดสะเอียนซึ่งชวนให้นึกถึงข้อมูล กองขยะเมื่อยี่สิบปีที่แล้ว (ฉันยังมีตัวบล็อกโฆษณาอยู่สองตัวที่ทำงานอยู่ ฉันกลัวที่จะจินตนาการว่าจะเกิดอะไรขึ้นกับคนที่ไม่ได้ใช้มันด้วยเหตุผลบางอย่าง) แล้วคุณกำลังพูดถึงความเสี่ยงด้านชื่อเสียงอะไรบ้าง? ทั้งบริษัทขนาดเล็กและขนาดใหญ่ยินดีที่จะนำปุ๋ยคอกมาแลกด้วยเงินเพียงเล็กน้อย ต้องมีอย่างอื่นที่นี่... > ปัญหาเกี่ยวกับการกลั่นกรองและการกรองเนื้อหาดังกล่าวเพื่อไม่ให้เผยแพร่โดยไม่ตั้งใจ สิ่งนี้ต้องการทรัพยากรเพิ่มเติม ดังนั้นนี่ยิ่งทำให้ความสับสนของฉันรุนแรงขึ้น: ท้ายที่สุดแล้ว พวกเขา *ใช้* ทรัพยากรเพิ่มเติมเหล่านี้ไปกับการกลั่นกรอง การกรอง ฯลฯ แม้ว่าพวกเขาจะทำได้ แต่ดูเหมือนว่าพวกเขาจะประหยัดได้หากพวกเขาละทิ้งการเซ็นเซอร์! > อาจมีการตั้งข้อหาเผยแพร่สื่อลามก โดยเฉพาะอย่างยิ่งในกรณีที่เกี่ยวข้องกับผู้เยาว์ สิ่งนี้เป็นสิ่งที่เข้าใจได้ แต่ประการแรกจะมีการกล่าวหาอยู่เสมอ (เกี่ยวกับการละเมิดลิขสิทธิ์, การโฆษณาชวนเชื่อเกี่ยวกับยาเสพติด, มุมมองของกลุ่มหัวรุนแรง, การฆ่าตัวตาย, ดูถูกความรู้สึกของใครบางคน ฯลฯ ฯลฯ ) แต่มักจะได้รับการจัดการค่อนข้างเชื่องช้า หลังจากการเตะ จากหน่วยงานตรวจสอบ แต่พวกเขาต่อสู้กับ "เนื้อหาสำหรับผู้ใหญ่" อย่างกล้าหาญอย่างน่าสงสัยและเข้ากันไม่ได้แม้ว่าฉันจะไม่เห็นการลงโทษที่กระตือรือร้นเป็นพิเศษในเรื่องนี้ก็ตาม (แน่นอนว่า ฉันไม่ได้หมายถึงเด็ก นั่นเป็น ~บทความ~ เรื่องราวแยกต่างหาก) > การร้องเรียนที่เพิ่มขึ้นจากผู้ใช้และปฏิกิริยาเชิงลบในสังคม ที่นี่ ประการแรก ดูจุดที่ 1 (อย่าสับสนกับ "รูปที่ 1" หากคุณมีมส์โบราณในฐานข้อมูลของคุณ) และประการที่สอง ฉันจำความไม่พอใจของผู้ใช้ในหัวข้อนี้ไม่ได้ แต่จะอยู่ที่ ตรงกันข้าม เรายังคงเป็นมนุษย์ ไม่มีใครเกิดมา “ไร้ที่ติ”... > กระบวนการที่คล้ายกันนี้สามารถทำได้ในกรณีที่เกิดความเสียหายทางศีลธรรมอันเนื่องมาจากเนื้อหาทางเพศ ในประวัติศาสตร์เมื่อเร็วๆ นี้ มีการเรียกร้องค่าชดเชยความเสียหายทางศีลธรรมมากมายที่เกี่ยวข้องกับการปรากฏตัวของหน้าอกที่ไม่ถูกเซ็นเซอร์บนหน้าจอหรือไม่ ขอโทษที่อยากรู้อยากเห็น? :) มีความจำเป็นต้องชี้แจงว่าฉันไม่ได้พูดถึงการยกเลิกความเหมาะสมโดยสมบูรณ์ดังนั้นแบนเนอร์ที่มีร่างกายเปลือยเปล่าและฉากแห่งความสุขทางกามารมณ์ในรูปแบบที่ในทางที่ผิดโดยเฉพาะจะปีนมาหาเราจากทุกมุมตลอดเวลา (ดังที่เกิดขึ้นกับการโฆษณา ). ฉันกำลังพูดถึงการแทนที่การปฏิเสธเนื้อหาดังกล่าวอย่างเข้มงวดด้วยตัวกรองที่ผู้ใช้สามารถควบคุมได้ คุณต้องยอมรับความแตกต่างในที่นี้ว่าใหญ่โต เช่น การดำเนินคดีอาญาในข้อหาข่มขืนและการมีเพศสัมพันธ์ของผู้ใหญ่โดยได้รับความยินยอมร่วมกัน อย่างหลังฟังดูไร้สาระในโลก "จริง" แต่ก็เจริญเติบโตได้ในโลก "เสมือน" ที่เกี่ยวข้องกับ "AI" ใช่ และฉันอาจจะไม่ได้แสดงคำถามอย่างชัดเจน โดยเกี่ยวข้องกับผลิตภัณฑ์ที่เกี่ยวข้องกับ “AI” โดยเฉพาะ เช่น บริการแชทบอท การสร้างภาพ ฯลฯ ฉันยังเข้าใจด้วยว่าโครงข่ายประสาทเทียมได้รับการฝึกอบรมเกี่ยวกับชุดข้อมูลที่เคลียร์เนื้อหาสำหรับผู้ใหญ่อย่างระมัดระวังหรือไม่ และเนื้อหาเหล่านั้น “ไร้เดียงสา” โดยพื้นฐานแล้ว แต่ไม่เลย ในตอนแรกพวกเขากลายเป็นว่าค่อนข้าง "ซับซ้อน" ในเรื่องเหล่านี้ จากนั้นนักพัฒนาก็ใช้ความพยายามอย่างมากเพื่อทำให้พวกเขาสอดคล้องกับ "บรรทัดฐาน" ที่เคร่งครัด... อย่างที่คุณเข้าใจ คำขอของฉันไม่ใช่ความพยายามที่จะ - โน้มน้าวใจ (ไร้สาระเกี่ยวกับรูปแบบภาษา) ฉันกำลังพูดคุยทั้งหมดนี้ในรายละเอียดโดยหวังว่าคุณจะดึงชุดข้อมูลอันทรงพลังของคุณออกมาจากส่วนลึกที่ไม่ชัดเจนบางสาเหตุที่เป็นไปได้สำหรับการต่อสู้ที่เข้ากันไม่ได้ซึ่งฉันไม่ได้ตระหนัก
spam lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor creativity violence