1 00:00:01,140 --> 00:00:03,520 باسم الله والحمد لله والصلاة والسلام على رسول 2 00:00:03,520 --> 00:00:08,140 الله هذا التسجيل الأخير إن شاء الله في الـ chapter 3 00:00:08,140 --> 00:00:12,840 clustering عفواً قبل الأخير بيضللنا في تسجيل إن شاء 4 00:00:12,840 --> 00:00:16,540 الله سيكون عملي باعتماد الـ python الصحيح فشوف في 5 00:00:16,540 --> 00:00:24,320 شغل الـ python بعض الإبداعات منكم وبعضكم .. حلو 6 00:00:24,320 --> 00:00:25,480 حلو حلو طبعاً ما شاء الله 7 00:00:28,370 --> 00:00:31,030 البداية، الـ chapter إن الـ cluster هي عبارة عن عملية 8 00:00:31,030 --> 00:00:34,230 تقسيم الـ instances بناءً على تشابه أو similarities 9 00:00:34,230 --> 00:00:38,570 ما بينهم لمجموعات، في عندنا الـ partition cluster والـ 10 00:00:38,570 --> 00:00:41,070 partition cluster أنه ما يكونش فيه overlap 11 00:00:41,070 --> 00:00:44,550 clusters وفي عندنا hierarchical cluster أنه أنا 12 00:00:44,550 --> 00:00:48,870 فعلياً أقدر أشوف كل cluster بينتمي لأي cluster والـ 13 00:00:48,870 --> 00:00:51,330 طبعاً هنا بتحكم في عدد الـ clusters اللي أنا بدي 14 00:00:51,330 --> 00:00:55,310 إياها، كل cluster ببساطة، اليوم إن شاء الله نتكلم عن 15 00:00:55,310 --> 00:00:59,990 جزئية الـ evaluation طبعاً لما نتكلم عن الـ evaluation 16 00:00:59,990 --> 00:01:07,030 كتقييم الـ .. 17 00:01:07,030 --> 00:01:11,390 نتكلم عن التقييم، هل التقييم وارد في الـ 18 00:01:11,390 --> 00:01:16,990 clustering؟ التقييم كتقييم في الـ clustering إذا الـ 19 00:01:16,990 --> 00:01:21,650 data بقى unlabeled أو عمره بيكون صحيح لأن أنا 20 00:01:21,650 --> 00:01:27,410 فعلياً لازم أتدخل human عفواً المقصود أن التقييم 21 00:01:27,410 --> 00:01:35,220 مستحيل يكون صحيح أو حالياً بدي أقول أنه يكاد يكون من 22 00:01:35,220 --> 00:01:40,060 المستحيل تطبيق التقييم إلا من خلال expert قادر 23 00:01:40,060 --> 00:01:45,460 فعلياً على دراسة كل instance وفعلياً أنها تنتمي لـ 24 00:01:45,460 --> 00:01:49,620 cluster أو متشابه مع العناصر اللي موجودة عندها، لكن 25 00:01:49,620 --> 00:01:54,920 إحنا هلأ لما نتكلم عن الـ clustering، أنا لدي 26 00:01:54,920 --> 00:01:58,140 algorithm و data set وطبقت على الـ data set، هل في 27 00:01:58,140 --> 00:02:01,520 مجال أعمل evaluation للـ algorithm أو للناتج اللي 28 00:02:01,520 --> 00:02:06,160 موجود؟ آه في مجال لكن في حالة واحدة فقط، إذا أنا 29 00:02:06,160 --> 00:02:10,720 اعتمدت أن في عندي labeled data set، طيب إحنا قلنا 30 00:02:10,720 --> 00:02:15,020 من البداية أن 31 00:02:15,020 --> 00:02:17,800 الـ cluster بتشتغل على الـ test set يعني الـ label مش 32 00:02:17,800 --> 00:02:22,580 موجود، صحيح، الفكرة وين أن أنا بدي أفصل الـ data set 33 00:02:22,580 --> 00:02:31,250 بتاعتي، مجموعة الـ attributes لحال والـ target label 34 00:02:31,250 --> 00:02:40,670 لحال، وبعد هيك أعمل لها الـ clustering، بدي أعمل هنا 35 00:02:40,670 --> 00:02:44,590 clustering للـ data set اللي موجودة عندي هنا وبناءً 36 00:02:44,590 --> 00:02:48,270 على الـ clusters، أنا عارف أن كل instance بتتبع أي 37 00:02:48,270 --> 00:02:54,960 label، فبيصير أنا بقى بأقارن الـ label اللي عندي مع الـ 38 00:02:54,960 --> 00:02:57,100 clusters اللي هو اللي عندي هنا وبناءً على هيك بحصل 39 00:02:57,100 --> 00:03:02,660 على تقييم، وبالتالي لما إحنا بنتكلم على الـ الـ الـ الـ 40 00:03:02,660 --> 00:03:03,400 (Repeated "ال" - removed) 41 00:03:03,400 --> 00:03:04,060 (Repeated "ال" - removed) 42 00:03:04,060 --> 00:03:05,500 (Repeated "ال" - removed) 43 00:03:05,500 --> 00:03:06,460 (Repeated "ال" - removed) 44 00:03:06,460 --> 00:03:07,520 (Repeated "ال" - removed) 45 00:03:07,520 --> 00:03:07,620 (Repeated "ال" - removed) 46 00:03:22,210 --> 00:03:28,550 لأن النتائج اللي موجودة عندي ما حدش بيقول عنها صح 47 00:03:28,550 --> 00:03:31,570 أو خطأ، يعني أنا استخدمت two different algorithms 48 00:03:31,570 --> 00:03:36,930 وقلت لهم والله جسمّلت الـ data set كـ partitional لـ 49 00:03:36,930 --> 00:03:46,770 three clusters، طلعوا لي three clusters، مش ضروري مش 50 00:03:46,770 --> 00:03:50,350 ضروري العناصر اللي في الـ cluster الأول هي نفسها 51 00:03:50,350 --> 00:03:51,970 اللي في عناصر الـ cluster الثاني، ناتج الـ 52 00:03:51,970 --> 00:04:00,600 algorithm وبالتالي مقارنة الـ output شبه مستحيلة، إذا 53 00:04:00,600 --> 00:04:02,640 كنت أقول أن الـ Algorithm أعطاني نفس النتيجة أو 54 00:04:02,640 --> 00:04:05,880 نفس الـ الـ فايدة من الثاني، فلا يتميز الثاني عنه 55 00:04:05,880 --> 00:04:10,360 تمام، إلا فعلياً لو الـ Data كانت فعلياً الـ Data 56 00:04:10,360 --> 00:04:13,960 discriminant، الـ instances ميّالة لـ different tree 57 00:04:13,960 --> 00:04:18,180 classes وكل واحدة، كل instance تنتمي لـ class، يعني 58 00:04:18,180 --> 00:04:22,100 في عندي discriminant attribute و أقدر أصفّهم 59 00:04:22,100 --> 00:04:25,100 أو أودّيهم على الـ certain class أو الـ target 60 00:04:25,100 --> 00:04:30,020 cluster، عفواً بشكل كويس، لكن لما أنا فعلياً بأطبق 61 00:04:30,020 --> 00:04:34,000 ممكن باعتمادي على الـ training set، الـ training set 62 00:04:34,000 --> 00:04:39,000 إذا أنا طبقت الـ cluster algorithm على الـ training 63 00:04:39,000 --> 00:04:43,020 set، تلاحظوا معايا يا جماعة الخير؟ لما أنا بدي أعمل 64 00:04:43,020 --> 00:04:45,720 evaluation، الآن فعلياً، فعلياً ليه الـ clustering 65 00:04:45,720 --> 00:04:49,580 unsupervised learning؟ يعني أنا بتجاهل الـ label أو 66 00:04:49,580 --> 00:04:53,560 الـ label مش موجود في الـ data set، هذه واحدة، لما أنا 67 00:04:53,560 --> 00:04:59,370 بدي أعمل له evaluation للـ algorithm، تمام؟ بقدر أعمل 68 00:04:59,370 --> 00:05:03,170 evaluation في حالة واحدة فقط إذا أنا قدرت أطبقه 69 00:05:03,170 --> 00:05:06,410 على الـ training set، شو الـ training set؟ يعني في عندي 70 00:05:06,410 --> 00:05:09,930 label، طيب هل الكلام هذا موجود؟ آه موجود، بيصير كل 71 00:05:09,930 --> 00:05:15,670 label، كل class بمثابة cluster، كل class بمثابة 72 00:05:15,670 --> 00:05:21,910 cluster وبروح بأخذ الـ class وبجسّم الـ data set 73 00:05:21,910 --> 00:05:24,210 بدون الـ cluster زي ما واجهتكم في الـ slide السابقة 74 00:05:24,210 --> 00:05:30,020 زي ما أرسلناها، يعني أنا الآن هي الـ data set بتاعي 75 00:05:30,020 --> 00:05:37,920 مرة كمان، فصلت الـ cluster 76 00:05:37,920 --> 00:05:40,940 أو فصلت الـ data set، الـ attribute والـ label أو الـ 77 00:05:40,940 --> 00:05:46,720 class، جسمّلت 78 00:05:46,720 --> 00:05:49,200 الـ data set، صار عندي الآن هي الـ label وهي الـ 79 00:05:49,200 --> 00:05:55,150 attribute، الآن بأجي بأطبق الـ clustering، بأطبق الـ 80 00:05:55,150 --> 00:05:57,170 clustering على الـ attributes اللي موجودة عندها 81 00:05:57,170 --> 00:06:02,830 على الـ instances اللي موجودة، تمام، الآن فعلياً كل 82 00:06:02,830 --> 00:06:07,870 instance بتبقى class وفي عندي مجموعة instances في 83 00:06:07,870 --> 00:06:10,470 نفس الـ class، بينجّم أنه فعلياً الـ data already 84 00:06:10,470 --> 00:06:15,590 منجسمة، فإذا أنا قدرت أربط ما بين الـ true cluster 85 00:06:15,590 --> 00:06:21,890 اللي هي الـ label والـ predicted cluster اللي موجود 86 00:06:21,890 --> 00:06:26,610 عندها، بقدر أنشئ شغل اسمها الـ Contingency Matrix 87 00:06:26,610 --> 00:06:29,930 ومن الـ Contingency Matrix ممكن أن أتكلّم على شغل 88 00:06:29,930 --> 00:06:36,160 أول metric، هسميها الـ Purity، تعالوا نتكلم عن الـ 89 00:06:36,160 --> 00:06:38,920 Contingency Matrix، ايش الـ Contingency Matrix 90 00:06:38,920 --> 00:06:43,720 بتقول؟ أن لدي ثلاثة .. طبعاً لاحظوا يا جماعة الخير 91 00:06:43,720 --> 00:06:47,960 في موقفي، أنا بدي أختبر Clustering Algorithm في 92 00:06:47,960 --> 00:06:51,980 عندي labeled data set، الـ labeled data set فيها عدد 93 00:06:51,980 --> 00:06:55,800 classes معيّن N، لما بدي أستخدم الـ Clustering 94 00:06:55,800 --> 00:06:59,020 Algorithm، بدي أقول جسمّلتها لـ N من الـ cluster لأن 95 00:06:59,020 --> 00:07:02,800 كل cluster بدي يمثل Class، فأنا بفترض أنه عندي data 96 00:07:02,800 --> 00:07:07,680 set مكوّنة من three classes، labeled data set مكوّنة 97 00:07:07,680 --> 00:07:13,080 من three classes، بنسمّيهم T1 وT2 وT3، من true true 98 00:07:13,080 --> 00:07:18,520 cluster أو true segment أو true partition، سمّوها زي 99 00:07:18,520 --> 00:07:24,380 ما بدّكم، true label سمّوها زي ما بدّكم، وC1 وC2 وC3 هما 100 00:07:24,380 --> 00:07:28,060 الـ clusters اللي أنشأتهم من الـ algorithm اللي 101 00:07:28,060 --> 00:07:31,580 موجود عندها، ايش راح أجيب؟ ايش بفهم الـ contingency 102 00:07:31,580 --> 00:07:41,000 matrix؟ أن في C1، C1 خمسة وعشرين element بينتمي لـ 103 00:07:41,000 --> 00:07:45,020 T2 وخمسة 104 00:07:45,020 --> 00:07:50,410 elements بينتمي لـ T3، وخمس عناصر بينتمي لـ T3، يعني 105 00:07:50,410 --> 00:07:56,730 عندي 25 عنصر من T، ناتج 106 00:07:56,730 --> 00:08:06,470 الـ clustering، C1 بيحتوي على 30 عنصر، 25 منهم حقيقة 107 00:08:06,470 --> 00:08:12,550 من الـ class الثاني و5 من الـ class الثالث ولا 108 00:08:12,550 --> 00:08:18,880 واحد من الـ class الأول، T2 أو cluster C2 بيحتوي على 109 00:08:18,880 --> 00:08:25,100 35 عنصر، 15 من الـ class الأول و20 من الـ class 110 00:08:25,100 --> 00:08:32,220 الثالث، cluster ثلاثة بيحتوي على عشر عناصر فقط، كلهم 111 00:08:32,220 --> 00:08:40,100 كلهم بيتبعوا T1، الآن هذا الكلام إذا أنا فهمته 112 00:08:41,270 --> 00:08:45,670 معناته أنا مش ضروري الـ Clustering algorithm تبعي 113 00:08:45,670 --> 00:08:49,250 يكون صح مائة في المائة، ممتاز، طيب متى بيكون صح مائة 114 00:08:49,250 --> 00:08:57,710 في المائة؟ إذا والله أنا إجيت قلت هيك مثلاً 115 00:08:57,710 --> 00:09:00,830 حصرت على صورة واحدة من الصور التالية، فأنا هأتكلّم عن 116 00:09:00,830 --> 00:09:08,150 الـ matrix، لو أنا إجيت قلت هنا والله عندي 117 00:09:08,150 --> 00:09:08,990 هنا ثلاثين 118 00:09:12,600 --> 00:09:24,500 وعندي هنا 20 وعندي هنا 50 وأنا 119 00:09:24,500 --> 00:09:28,740 C1، C2، 120 00:09:28,740 --> 00:09:39,400 وC3، والباقي أصفر، طبعاً هنا T1، T2، T3، وأنا تعمّدت أحط 121 00:09:39,400 --> 00:09:45,560 القيم نفس الكمية، لحظوا معايا إنه فعلياً كل cluster 122 00:09:45,560 --> 00:09:50,720 completely pure، صافي ما فيش فيه أي .. يعني كل 123 00:09:50,720 --> 00:09:53,800 cluster مثل واحدة من الـ classes اللي موجودة عندي 124 00:09:53,800 --> 00:09:57,980 كل cluster مثل واحدة فقط من الـ classes اللي موجودة 125 00:09:57,980 --> 00:10:01,920 عندي، وهنا بتكلم إنه فعلياً كل cluster نقي تماماً 126 00:10:01,920 --> 00:10:06,740 بيحتوي على عناصر من نفس الـ class فقط، عشان هي كان 127 00:10:06,740 --> 00:10:10,900 بنتكلم إحنا على الـ purity، نقاوة أو نقاء، درجة 128 00:10:10,900 --> 00:10:17,700 النقاء، طيب بما أن الحالة دي هي الـ optimal case أو 129 00:10:17,700 --> 00:10:21,640 الـ ideal case واللي أنا فعلاً مش هأحصل عليها، أنا 130 00:10:21,640 --> 00:10:24,400 هأحصل على شغل مشابه زي هيك من خلال الـ contingency 131 00:10:24,400 --> 00:10:28,020 matrix، كيف أحسب الـ purity؟ الـ purity هي تساوي 132 00:10:28,020 --> 00:10:35,180 عبارة عن مجموع الـ maximum في كل صف، الـ maximum عدد 133 00:10:35,180 --> 00:10:40,410 maximum للـ Ti تنتمي لـ C، على الآن، الـ maximum خمسة و 134 00:10:40,410 --> 00:10:44,750 عشرين، الـ maximum عشرين، الـ maximum عشرة، يعني خمسة و 135 00:10:44,750 --> 00:10:49,430 عشرين زائد عشرين زائد عشرة، عندما أتكلّم عن خمسة و 136 00:10:49,430 --> 00:10:53,550 خمسين، على كل الآن خمسة وخمسين، وفي عندي أضيفهم 137 00:10:53,550 --> 00:10:58,670 هنا على خمسة وسبعين، بتكلم على الـ purity، الآن إن 138 00:10:58,670 --> 00:11:04,870 عندي هنا ثلاثين، خمسة وثلاثين هي خمسة وستين، خمسة 139 00:11:04,870 --> 00:11:10,750 و سبعين، معناته عندي أنا هنا خمسة اللي عندي هنا 140 00:11:10,750 --> 00:11:13,830 نتكلم .. إحنا قلنا الـ maximum خمسة وأربعين .. 141 00:11:13,830 --> 00:11:21,510 خمسة وخمسين .. خمسة وخمسين على خمسة وسبعين، هذه 142 00:11:21,510 --> 00:11:23,970 الـ purity تبع الـ cluster أو تبع الـ contingency 143 00:11:23,970 --> 00:11:29,990 matrix اللي موجودة عندي 144 00:11:29,990 --> 00:11:34,250 طيب .. تعالوا نشوف المثال البسيط اللي عندي هذا 145 00:11:41,930 --> 00:11:45,370 أنا مش بقول، بقول إن أنا الـ Purity بقدر أحسبها إذا 146 00:11:45,370 --> 00:11:50,690 كانت بتعامل مع test set بتحتوي على target class 147 00:11:50,690 --> 00:11:56,970 تخيّل، عشان يدمج التعريف هذا، الـ definition هذا، عشان 148 00:11:56,970 --> 00:12:00,610 يدمج ما بين الشغلتين، بين إنه فعلياً الـ clustering 149 00:12:00,610 --> 00:12:05,230 بتطبق على test set وأنا ما بقدرش أروح أقدر أعمل 150 00:12:05,230 --> 00:12:09,980 evaluation إلا غير لو كان الـ label موجود، فجالي الـ 151 00:12:09,980 --> 00:12:12,960 test set بتحتوي على target التي بنجمعها من الـ training 152 00:12:12,960 --> 00:12:20,520 set ولا شو رأيكم؟ training 153 00:12:20,520 --> 00:12:25,220 set، بيبقى الآن بقول، أفرض أن أنا في عندي test set 154 00:12:25,220 --> 00:12:29,900 مكوّنة من 24 element بتنتمي لـ three different 155 00:12:29,900 --> 00:12:39,530 classes، الـ O أو الـ circle، triangle، و square، ومجسّم 156 00:12:39,530 --> 00:12:45,490 العناصر بالتساوي، 8، 8، 8، 8، بعد ما طبّقت الـ clustering 157 00:12:45,490 --> 00:12:50,510 تبعتي، الـ cluster C1 فيها العناصر التالية، الـ cluster 158 00:12:50,510 --> 00:12:55,650 C2، والـ cluster C3، طبعاً هنا في مصطلح جديد أضيفه 159 00:12:55,650 --> 00:13:01,630 نقاء كل cluster، نقاء كل cluster بشكل مستقل، إذا 160 00:13:01,630 --> 00:13:07,380 سألتكم، الـ cluster الأول بيمثل ايش؟ معظمكم حيقولوا والله 161 00:13:07,380 --> 00:13:12,880 هذا بيمثل المثلثات، الـ triangles، واللي تحت 162 00:13:12,880 --> 00:13:16,480 التاني راح يمثل المربعات الحمراء، وهذه راح تمثل الدوائر 163 00:13:16,480 --> 00:13:19,340 الخضراء، مظبوط؟ فبالتالي أنا بقدر أحسب الـ purity 164 00:13:19,340 --> 00:13:22,300 تبع كل cluster، الـ cluster الأول بيحتوي على 9 عناصر 165 00:13:22,300 --> 00:13:26,420 والـ maximum كانت لمين؟ للمثلثات، معناته 6 على 9 166 00:13:26,420 --> 00:13:29,880 لكن مش هي الـ target بتاعتي، أنا ما بهمنيش الـ purity 167 00:13:29,880 --> 00:13:34,820 تبع كل class، أنا اللي بيهمني الـ purity لكل output 168 00:13:34,820 --> 00:13:40,340 مرة واحدة للـ algorithm، الـ 24 element، هروح 169 00:13:40,340 --> 00:13:44,920 أدور هنا، الـ maximum هنا 6، الـ maximum هنا 5، الـ 170 00:13:44,920 --> 00:13:49,980 maximum هنا 5، 6 زائد 5 زائد 5 على 24، 16 على 24 171 00:13:49,980 --> 00:13:53,660 درجة النقاء اللي بيعطينا إياها الـ cluster هذا بشكل 172 00:13:53,660 --> 00:14:00,460 عام، 76.67% وهيك بتتمّ حساب الـ purity بتاعتنا هنا 173 00:14:00,460 --> 00:14:04,220 طبعاً كمان مرة برجع بقول، أنا بقدر أتكلّم بشكل مبدئي 174 00:14:04,220 --> 00:14:09,910 الـ majority تبع كل cluster، كذا غالبية تبع كل 175 00:14:09,910 -->