1 00:00:02,650 --> 00:00:05,590 باسم الله والحمد لله والصلاة والسلام على رسول الله 2 00:00:05,590 --> 00:00:11,630 أهلاً وسهلاً بكم في المحاضرة التالية في مساق تنقيب 3 00:00:11,630 --> 00:00:15,350 البيانات، نتكلم على الـ Clustering، كنا غطينا في 4 00:00:15,350 --> 00:00:17,530 chapter الـ Clustering، مفهوم الـ Clustering أنه 5 00:00:17,530 --> 00:00:20,970 عبارة عن تقسيم الـ Data set اللي موجودة عندي 6 00:00:20,970 --> 00:00:25,570 لمجموعات بناءً على الـ Similarities أو التشابه ما 7 00:00:25,570 --> 00:00:29,680 بين الـ Instances اللي موجودة فيها، وذكرنا أن الـ 8 00:00:29,680 --> 00:00:33,140 Clustering يأخذ واحدة من نوعين: إما Partitional 9 00:00:33,140 --> 00:00:36,540 Clustering، وهي عبارة عن مجموعة من الـ Clusters أو 10 00:00:36,540 --> 00:00:39,980 نعم، مجموعة من الـ Clusters اللي بيكون الـ Disjoint 11 00:00:39,980 --> 00:00:42,920 أو التقاطعات بينهم صفر، ما فيش نقاط مشتركة ما بينهم، 12 00:00:42,920 --> 00:00:48,440 وبالتالي كل Element موجود في Cluster واحد فقط، وفي 13 00:00:48,440 --> 00:00:51,760 عندنا، حكينا أنه في عندنا... وشوفنا على المثال هذا 14 00:00:51,760 --> 00:00:56,360 على مثل Partitional K-means، واتكلمنا عليه بالتفصيل 15 00:00:57,340 --> 00:01:00,400 في المحاضرة إن شاء الله تعالى، سنتكلم على 16 00:01:00,400 --> 00:01:03,960 النوع الثاني من الـ Clustering اللي هو الـ 17 00:01:03,960 --> 00:01:08,840 Hierarchical Clustering، إن شاء الله تعالى، عندما 18 00:01:08,840 --> 00:01:11,580 نتكلم عن Hierarchical Clustering، يعني أننا نتكلم 19 00:01:11,580 --> 00:01:16,640 عن Clustering تجميعي، الفكرة فيه أنه عندما نتكلم عن 20 00:01:16,640 --> 00:01:19,560 Agglomerative، الـ Hierarchical أو الـ Agglomerative 21 00:01:19,560 --> 00:01:24,220 مترادفان، لأن كل Hierarchical يتعلق بـ Agglomerative 22 00:01:24,220 --> 00:01:28,280 يعني تجميعي، Agglomerative Clustering عادةً 23 00:01:28,280 --> 00:01:33,440 نُشير لكل الـ Clustering Algorithms التي تبني على نفس 24 00:01:33,440 --> 00:01:38,200 المبدأ، وهو تجميع البيانات اللي موجودة عندنا، فكرة 25 00:01:38,200 --> 00:01:41,920 الـ Agglomerative Clustering بشكل عام، بتتركز أنه 26 00:01:41,920 --> 00:01:47,120 يبدأ، بيعرف أن كل نقطة كـ Cluster مستقل، وبعد ذلك 27 00:01:47,120 --> 00:01:54,720 يعمل Merge أو Combine لكل Two Similar Clusters بناءً 28 00:01:54,720 --> 00:01:57,080 على ايش؟ الـ Similarity، Cluster معناته في عندي 29 00:01:57,080 --> 00:02:00,800 Similarity Distance أو Similarity Function زي ما 30 00:02:00,800 --> 00:02:04,180 شوفناها في الـ Partitional، لازم تُطبق عندنا، وهذا 31 00:02:04,180 --> 00:02:08,500 الـ Similarity Function هي اللي هتكون معيار دمج أو 32 00:02:08,500 --> 00:02:12,660 قبول، دمج أو رفض دمج الـ Two Clusters اللي 33 00:02:12,660 --> 00:02:17,680 موجودين عندي، طبعاً، وهذا الكلام بيستمر لحد ما يتوصل 34 00:02:17,680 --> 00:02:25,300 يتحقق عندي شرط توقف معين، شرط التوقف يكون عبارة عن 35 00:02:25,300 --> 00:02:29,980 عدد الـ Clusters اللي اتكلمت عليه، أنا بدي أعمل دمج 36 00:02:29,980 --> 00:02:35,040 دمج دمج لحد ما أوصل لـ 3 Clusters، فعلياً الـ Data اللي 37 00:02:35,040 --> 00:02:38,820 عندي هتبدأ من واحد واحد واحد واحد، بعد هيك هيبدأ 38 00:02:38,820 --> 00:02:43,900 يتجمعوا، آخر تجميع اللي ممكن أوصل إليه، هذا مفهوم 39 00:02:43,900 --> 00:02:46,140 أن يكون عندي 3 Clusters أو 4 Clusters أو 10 40 00:02:46,140 --> 00:02:49,300 Clusters حسب الحاجة، وبهيك أنا فعلياً هذا شرطي 41 00:02:49,300 --> 00:02:55,280 التوقف اللي موجود عندي، أو فعلياً أنا ما ضلّ عندي 42 00:02:55,280 --> 00:02:59,060 شيء أدمجه، اندمجت كل البيانات لحد ما 43 00:02:59,060 --> 00:03:02,540 صارت Only One Cluster بيحتوي كل الـ Sub Clusters 44 00:03:02,540 --> 00:03:06,020 اللي جاية بعد هيك، طبعاً أنا في عندي Linkage 45 00:03:06,020 --> 00:03:10,820 Criteria أو شرط الدمج، أو سمّيناها Linkage، دلالة على 46 00:03:10,820 --> 00:03:13,760 أنه أنا فعلياً عندي Clusterين وبدي أربطهم مع بعض، بدي 47 00:03:13,760 --> 00:03:18,860 أحطهم في قالب أو عفواً في ضمن Boundary واحدة، طبعاً 48 00:03:18,860 --> 00:03:21,420 عندما أتكلم عن الـ Linkage Criteria أو الـ Linkage 49 00:03:21,420 --> 00:03:25,800 Function، نفس المصطلح، الـ Similarity Function للـ 50 00:03:25,800 --> 00:03:28,660 Clusters، بس دائماً عندما أتكلم عن الـ Similarity 51 00:03:28,660 --> 00:03:32,160 بتكلم عن الـ Distance، عفواً، بتكلم عن الـ Distance 52 00:03:32,160 --> 00:03:36,160 لكن عندما أتكلم عن الـ Linkage Criteria، بتكلم عن أن 53 00:03:36,160 --> 00:03:41,840 أنا فعلياً بتكلم عن الـ Clustering، بتكلم عن Linkage 54 00:03:41,840 --> 00:03:45,040 أو ربط ما بين الـ Clusters، فعلياً أنا بتكلم برضه عن 55 00:03:45,040 --> 00:03:49,410 الـ Distance، والـ Distance هذه تُقاس مع كل الـ 56 00:03:49,410 --> 00:03:52,090 Observations أو كل الـ Instances اللي موجودة عندنا، 57 00:03:52,090 --> 00:03:56,390 وين؟ في داخل الـ Cluster اللي موجود عندنا، فعلياً أنا 58 00:03:56,390 --> 00:04:03,710 في عندي مجموعة من الـ Linkage Criteria، وهذه الـ 59 00:04:03,710 --> 00:04:07,470 Linkage Criteria بتحدد فعلياً هل هدول الـ Clusters 60 00:04:07,470 --> 00:04:13,390 Similar أم لا، وبالتالي، يعني بالخلاصة، فكرة الـ 61 00:04:13,390 --> 00:04:16,590 Agglomerative أو الـ Hierarchical Clustering بتبدأ 62 00:04:16,590 --> 00:04:20,890 بأن كل نقطة عبارة عن Cluster مستقل، وبعد هيك بيصير 63 00:04:20,890 --> 00:04:25,810 ادمج ما بين كل Two Clusters، الشرط للدمج أنه في عندي 64 00:04:25,810 --> 00:04:28,530 شيء بنسميه الـ Linkage Criteria أو الـ Linkage 65 00:04:28,530 --> 00:04:31,610 Distance أو الـ Linkage Function اللي هي شرط الدمج 66 00:04:31,610 --> 00:04:36,270 هنا، وهي عبارة عن Distance Measure، لكن مش مع نقطة، مع 67 00:04:36,270 --> 00:04:39,250 Cluster، وبالتالي ممكن أنا آخذ نقطة، نُطبق على 68 00:04:39,250 --> 00:04:43,350 Cluster، ممكن آخذ كل Cluster، وحنشوف الـ Different 69 00:04:43,350 --> 00:04:49,630 Linkage Criteria اللي موجودة عندنا، نبدأ مع أول الـ 70 00:04:49,630 --> 00:04:54,590 Linkage Criteria، الـ Criteria اللي هي الـ Criterion 71 00:04:54,590 --> 00:04:57,450 اللي هي الـ Single، ولما أنا بتكلم على Single 72 00:04:57,450 --> 00:05:04,970 Linkage، بتكلم أنه أنا فعلياً بدور على أقصر Pair 73 00:05:04,970 --> 00:05:09,500 يعني بين جُثتين، بأحسن الـ Point اللي أنا فيه، 74 00:05:09,500 --> 00:05:13,940 عندي Two Clusters، زي... زي ما ال... أوكي، خليني مش 75 00:05:13,940 --> 00:05:17,180 مشكلة، برجع فيه، عندي أنا هنا Two Clusters، Two 76 00:05:17,180 --> 00:05:20,600 Clusters، وفي الـ Two Clusters هدول أنا بروح بدور 77 00:05:20,600 --> 00:05:25,220 على كل النقاط، يعني بحسب النقطة هاي مع كل الـ 78 00:05:25,220 --> 00:05:28,180 Distances الموجودة، في كل الأحوال يا جماعة الخير الـ 79 00:05:28,180 --> 00:05:34,420 Distances هتنحسب ما بين كل عناصر الـ Cluster، وكذلك 80 00:05:34,420 --> 00:05:38,380 High، يعني أنت تخيلها Fully Connected Distances أو 81 00:05:38,380 --> 00:05:41,580 تخيلوها معايا Fully Connected Area، فبتحسب كل الـ 82 00:05:41,580 --> 00:05:46,920 Distances اللي موجودة عندنا، الآن الـ Pair، Pair of 83 00:05:46,920 --> 00:05:51,820 Clusters اللي بيحقق أقصر مسافة بين أي Two Pairs من 84 00:05:51,820 --> 00:05:56,640 النقاط اللي موجودة عندنا، بأخذه على أنه اللي هو الـ 85 00:05:56,640 --> 00:06:01,360 يعني عمل Home Dungeon، يعني لو أنا بدي أُعيد تاني، 86 00:06:04,190 --> 00:06:06,570 لو أنا افترضت أن أنا في عندي Three Different 87 00:06:06,570 --> 00:06:15,230 Clusters، لو 88 00:06:15,230 --> 00:06:22,170 كان أنا في عندي Another Cluster، والـ Cluster ده 89 00:06:22,170 --> 00:06:28,230 فيه مجموعة من النقاط، تبدأ 90 00:06:28,230 --> 00:06:31,170 المسافات تُحسب ما بين كل النقاط اللي موجودة في كل 91 00:06:31,170 --> 00:06:37,190 اتجاه، من كل نقطة، الـ Pair of Clusters اللي بتحقق 92 00:06:37,190 --> 00:06:41,910 أقصر مسافة بين أي نقطتين موجودتين فيهم، بنعتمد أن 93 00:06:41,910 --> 00:06:45,250 هدول الـ Clusters، في حين أن أنا في عندي هنا في 94 00:06:45,250 --> 00:06:50,490 Pair بعيد جداً، وأنا ما بدور هون، بدور على أقصر 95 00:06:50,490 --> 00:06:54,850 المسافات، يعني الآن هدول أقرب نقطتين لبعض، هيهم 96 00:06:54,850 --> 00:07:01,800 بأقارن المسافة هذه ومسافة هذين، من أقصر المسافة هذه، 97 00:07:01,800 --> 00:07:05,920 أقصر، معناته هذين الاثنين بنعمل لهم دمج مع بعضهم، 98 00:07:05,920 --> 00:07:09,020 على أنهم هدول ايش؟ بيصيروا الـ Next Level أو الـ 99 00:07:09,020 --> 00:07:12,940 Next Cluster، هذه فكرة، كمان مرة، الـ Single Linkage، 100 00:07:12,940 --> 00:07:17,060 طبعاً احنا ليش بحاول أوضحها هون أكثر لأن فعلياً احنا 101 00:07:17,060 --> 00:07:21,660 محتاجين نفهمها كويس، لأن أنا فعلياً بدي كل النقاط 102 00:07:21,660 --> 00:07:26,230 اللي موجودة تكون داخلة في الحسبة، بنرجع كمان مرة في 103 00:07:26,230 --> 00:07:28,970 عندي أنا Single Linkage، و Single Linkage بعمل 104 00:07:28,970 --> 00:07:32,270 Combine لـ Two Clusters لما بيكون فيهم الـ Shortest 105 00:07:32,270 --> 00:07:37,610 Pair، لما يكون في عندي أنا فعلياً ال... هذه البيانات 106 00:07:37,610 --> 00:07:42,390 تبعتي، أصغر 107 00:07:42,390 --> 00:07:46,630 ما بين الـ Minimum Distance Between Any Pair، بشرط 108 00:07:46,630 --> 00:07:49,870 أن هدول الـ Pair ما يكونوش تمدمجهم مسبقاً، طبعاً، 109 00:07:53,060 --> 00:07:58,420 كمان مرة، لو أنا افترضت أن هنا في عندي Another 110 00:07:58,420 --> 00:08:02,020 Cluster، و 111 00:08:02,020 --> 00:08:06,580 الـ Cluster هي وهي النقاط اللي موجودة، دائماً 112 00:08:06,580 --> 00:08:10,900 دائماً في عملية، وهنا في كمان واحد، دائماً في عملية 113 00:08:10,900 --> 00:08:14,620 الدمج، بروح 114 00:08:14,620 --> 00:08:18,140 بدور، لما بتكلم عن الـ Single Linkage، بروح بدور على 115 00:08:18,140 --> 00:08:20,820 أقصر مسافة، هدول أقرب نقطتين، بحسب الـ Distance بينهم 116 00:08:21,540 --> 00:08:24,920 هو كيف بده يدور على أنه أقرب نقطتين؟ هو فعلياً بتم 117 00:08:24,920 --> 00:08:28,340 حسب الـ Distance ما بين كل العناصر اللي في الـ 118 00:08:28,340 --> 00:08:31,800 Clusters، يعني النقطة هذه مع كل العناصر اللي موجودة 119 00:08:31,800 --> 00:08:37,660 هنا، وبيعتمد أقصر مسافة، النقطة مع كل العناصر، كل النقاط 120 00:08:37,660 --> 00:08:40,880 اللي هنا مع كل النقاط اللي هنا، وبيعتمد أقصر مسافة، 121 00:08:40,880 --> 00:08:46,220 وبالتالي، لو أنا هذه النقطة هيروح يحسبها مع هذول 122 00:08:46,220 --> 00:08:50,440 كمان، وبيعتمد هذه أقصر مسافة، الآن هي مسافة هذين، 123 00:08:50,440 --> 00:08:54,460 ثلاثة، هدول أقصر، أقصر واحدة فيهم، هذه، بيروح 124 00:08:54,460 --> 00:09:00,800 بعمل دمج لمين؟ لهذول، اصحاب Single Linkage، بتمنى 125 00:09:00,800 --> 00:09:02,260 تكون الفكرة وصلت 126 00:09:12,500 --> 00:09:15,880 الـ Criterion الثاني اللي موجودة عندي أنا اللي هي 127 00:09:15,880 --> 00:09:21,140 الـ Average، والـ Average هنا بتتكلم على أنه أنا 128 00:09:21,140 --> 00:09:24,500 بيعمل Merge لـ Two Clusters، اللي بيكون Shortest 129 00:09:24,500 --> 00:09:28,820 Average Distance، Shortest Average Distance، يعني 130 00:09:28,820 --> 00:09:36,200 ايش اللي حيصير؟ بعد ما راح حسب كل الـ Distances بين 131 00:09:36,200 --> 00:09:37,060 كل النقاط، 132 00:09:58,300 --> 00:10:01,740 بين كل النقاط، ايش بروح بيساوي؟ بياخد الـ Average 133 00:10:01,740 --> 00:10:05,660 تبعت الـ Distance، لاحظوا أنا في كل مرة بيعمل 134 00:10:05,660 --> 00:10:09,540 Marriage لـ Two Clusters فقط، تمام؟ بيعمل Marriage لـ 135 00:10:09,540 --> 00:10:13,680 Two Clusters فقط، فهو بيروح بيحسب كل الـ Averages أو 136 00:10:13,680 --> 00:10:17,520 بيحسب كل الـ Distances وبياخد الـ Average في الـ 137 00:10:17,520 --> 00:10:20,080 Simple Linkage، أو عفواً في الـ Single، أنا غلطان هنا 138 00:10:20,080 --> 00:10:23,260 في الكتابة، طبعاً Simple Linkage 139 00:10:38,990 --> 00:10:50,390 Single، Single Linkage، سامحوني، 140 00:10:50,390 --> 00:10:54,090 هذه أسهل حاجة أعملها الآن، لأن أنا حولت لصورة، و 141 00:10:54,090 --> 00:11:04,190 ما بدي أرجع أُعيد نفس ال... Okay، Shift 142 00:11:04,190 --> 00:11:08,490 F5، بنتكلم هنا إنه أنا بتكلم على الـ Single Linkage، 143 00:11:08,490 --> 00:11:12,010 أخذت أقصر، لكن هون حسبت كل النقاط، وبالتالي أخذت الـ 144 00:11:12,010 --> 00:11:14,570 Average، عشان إذا حاولت أرسم السهم هون، يمثل للـ 145 00:11:14,570 --> 00:11:21,990 Center تبع الـ Clusters اللي موجودين عندنا، هذه 146 00:11:21,990 --> 00:11:28,730 الـ Average، بالنسبة للـ... للـ Complete، بياخد الـ 147 00:11:28,730 --> 00:11:34,150 Maximum Linkage، بياخد... بيعتمد... من وين؟ أطول... 148 00:11:34,150 --> 00:11:39,200 أبعد نقطتين، أقصر مسافة بين أبعد نقطتين، بروح، بروح 149 00:11:39,200 --> 00:11:42,100 مالهم، جنب 150 00:11:43,400 --> 00:11:47,280 يعني لو أنا أجيت هنا، هذه العناصر اللي موجودة عندنا، 151 00:11:47,280 --> 00:11:50,480 بحسب كل الـ Distances اللي موجودة عندنا، بكل 152 00:11:50,480 --> 00:11:55,060 الاتجاهات، مع كل الـ Clusters، هذه أقصر... يعني هدول 153 00:11:55,060 --> 00:11:58,580 أبعد نقطتين، نعم، لكن هذه الـ Distance اللي بين الـ Two 154 00:11:58,580 --> 00:12:03,040 Clusters هدول، هي عبارة عن أقصر مسافة، مماثلة مع 155 00:12:03,040 --> 00:12:06,200 Different Clusters، فبقرر أنه يعمل Merge للـ 156 00:12:06,200 --> 00:12:11,060 Clusters اللي موجودين عندنا، النوع الثالث اللي هو الـ 157 00:12:11,060 --> 00:12:15,020 Ward، الـ Ward، الـ Ward، أو الـ Ward، لما أنا 158 00:12:15,020 --> 00:12:21,520 بتكلم هنا، بتكلم عن الـ Ward، القسم هنا، بدور، النوبة هو 159 00:12:21,520 --> 00:12:27,820 يعمل Merge لـ Two Clusters، لما يقلل 160 00:12:27,820 --> 00:12:31,160 الـ Variance بين الـ Clusters الموجودة، يقلل 161 00:12:31,160 --> 00:12:35,080 الاختلافات بين الـ Clusters، يعني هو الآن بيحسب كل 162 00:12:35,080 --> 00:12:39,460 النقاط، كل الـ Distances اللي موجودة عنده، بيحسب كل 163 00:12:39,460 --> 00:12:43,380 الـ Distances وبيحسب كل الـ Distances وبيحاول يشوف 164 00:12:43,380 --> 00:12:48,720 مين أقرب Cluster في الاختلافات، في الـ Elements اللي 165 00:12:48,720 --> 00:12:53,240 موجود عنده هون، وبيروح بدمجهم، يعني هو ايش بيروح 166 00:12:53,240 --> 00:12:54,420 بساوي؟ بكل بساطة، 167 00:12:58,220 --> 00:13:01,320 بعد ما بيروح بيحسب، بيحسب كل الـ Areas، بيحسب الـ Variance 168 00:13:01,320 --> 00:13:04,540 هنا، الاختلاف، والـ Variance اللي هنا مع الـ Cluster 169 00:13:04,540 --> 00:13:09,200 الثالث، الـ Variance وأقل Clusters في اختلاف الـ 170 00:13:09,200 --> 00:13:13,340 Variance اللي بينهم، بيروح بدمجهم، ليش؟ عشان يحافظ على 171 00:13:13,340 --> 00:13:17,240 التشابه ما بين الـ Two Different Clusters، يعني أنت 172 00:13:17,240 --> 00:13:21,220 تخيل أن في عندك Cluster كبير جداً وعندك Cluster 173 00:13:21,220 --> 00:13:25,250 صغير جداً، هدول الـ Two Clusters صعب أنهم يدمجوا، ليش؟ 174 00:13:25,250 --> 00:13:28,690 مع الـ Ward، لأنهم فعلياً الـ Variance تبعتهم عالية 175 00:13:28,690 --> 00:13:32,190 جداً، فهو بيروح بدور على الـ Clusters المشابهة بداخله، 176 00:13:32,190 --> 00:13:36,730 By Default، بالمناسبة الـ Ward هي الـ Default Linkage 223 00:17:09,140 --> 00:17:12,320 Hierarchical Clustering نفس.. نفس الكلام، يعني أنه 224 00:17:12,320 --> 00:17:18,240 يحتاج كل point أن تدخل برحلة أن تصبح cluster مستقلة 225 00:17:18,240 --> 00:17:22,860 ذاتها، وستنتمي إلى آخر cluster، يعني هذا الفرق الأساسي 226 00:17:22,860 --> 00:17:26,000 ما بين الـ agglomerative و الـ hierarchical. 227 00:17:26,000 --> 00:17:31,160 الـ agglomerative فعلياً سيُدمجها لي، لكن في المحصلة 228 00:17:31,160 --> 00:17:34,280 الأخيرة يا جماعة الخير، أنا حصلت على partitional 229 00:17:34,280 --> 00:17:37,920 clustering. ملاحظين هنا، الرسمة الأخيرة في step 9 هي 230 00:17:37,920 --> 00:17:41,180 عبارة عن partitional لأن ليس لديّ عناصر 231 00:17:51,050 --> 00:17:56,350 لكن في الـ hierarchical، لا، أنا أستطيع أن أحافظ على أن 232 00:17:56,350 --> 00:18:02,330 العناصر التابعة تكون disjoint حتى مستوى معين. طيب، 233 00:18:02,330 --> 00:18:05,870 الآن، كما قلنا، هذه هي الرسمة التي يمكنني الاعتماد عليها. 234 00:18:05,870 --> 00:18:09,390 هو أن أقول أن، والله، هذا ما أفهمه من هذه، أن كل 235 00:18:09,390 --> 00:18:16,390 واحدة من هذه كانت بهذا الشكل: 1 و 4 اندمجت معهما 2 و 236 00:18:16,390 --> 00:18:22,090 8، اندمجت معهما 3 و 5 مستقلة، 0 و 1 و 2 اندمجت معهما 5 237 00:18:22,090 --> 00:18:28,190 و 6 و 9، اندمجت معهما 7 و 10، اندمجت معهما 7 و 10 238 00:18:28,190 --> 00:18:28,470 اندماجت معهما 7 و 10 اندمجت معهما 7 و 10 اندمجت 239 00:18:28,470 --> 00:18:28,830 معهما 7 و 10 اندمجت معهما 7 و 10 اندمجت معهما 7 و 240 00:18:28,830 --> 00:18:29,230 10 اندمجت معهما 7 و 10 اندمجت معهما 7 و 10 اندمجت 241 00:18:29,230 --> 00:18:29,590 10 اندمجت معهما 7 و 10 اندمجت معهما 7 و 10 اندمجت 242 00:18:29,590 --> 00:18:33,470 معهما 7 و 10 اندمجت معهما 7 و 10 اندمجت معهما 7 و 243 00:18:33,470 --> 00:18:39,300 10 اندمجت معهما 7 و 10. ولكن لو أخذت نظرة 244 00:18:39,300 --> 00:18:44,920 جانبية، يعني أنني أتعرف على شئ اسمه الـ 245 00:18:44,920 --> 00:18:49,200 Dendrogram. الـ Dendrogram عبارة عن رسم تخطيطي يخدمني 246 00:18:49,200 --> 00:18:55,140 في فهمي للبيانات الموجودة. الـ visualization 247 00:18:55,140 --> 00:18:58,080 مهم جداً، لكي أستطيع أن أرى وأفهم العناصر التي 248 00:18:58,080 --> 00:19:03,620 موجودة في موضوع الـ hierarchical clustering، والـ 249 00:19:03,620 --> 00:19:09,000 dendrogram التي أرغب في تمثيلها، وبالتالي، ولما الـ 250 00:19:09,000 --> 00:19:13,000 visualization يعطيني detailed view للـ hierarchical 251 00:19:13,000 --> 00:19:16,380 clustering، فهذا يعني أنها ما زالت في البعدين 252 00:19:16,380 --> 00:19:22,180 الأساسيين الموجودة، وبالتالي، أنا سأبقى أشتغل، و 253 00:19:22,180 --> 00:19:26,500 سأبقى أسأل، وسنبقى نحاول أن نرسم الـ Dendrogram. أنتَ 254 00:19:26,500 --> 00:19:30,140 تخيل الرسمة معي، لو ظهرت معي بهذا الشكل، طبعاً 255 00:19:30,140 --> 00:19:33,640 هذان الرسمتان للـ Dendrogram هما الأساس الموجود 256 00:19:33,640 --> 00:19:36,640 عندي هنا. الأولى، كما قلت لك، هي عبارة عن 257 00:19:36,640 --> 00:19:40,420 الصورة العمودية من فوق، للـ clusters، ورأيت التجميعات 258 00:19:40,420 --> 00:19:45,020 بينما هنا، أنا أتحدث عن أنني أرى البيانات كلها في 259 00:19:45,020 --> 00:19:49,240 الـ 2D، أراها من نظرة جانبية، وهذه الرسمة هي عبارة 260 00:19:49,240 --> 00:19:52,520 عن الـ Dendrogram. الآن، فكرة الـ Dendrogram أو الـ 261 00:19:52,520 --> 00:19:56,120 Hierarchical Clustering الأساسية هي أنني أستطيع أن أحصي 262 00:19:56,120 --> 00:20:00,680 على أي عدد من الـ clusters التي أحتاجها، يعني تخيل أنا 263 00:20:00,680 --> 00:20:04,620 أحتاج three clusters، وسيبقى كل خط عمودي في الرسمة 264 00:20:04,620 --> 00:20:10,180 يمثل cluster. أريد three clusters، ها هي. أريد اثنين، 265 00:20:10,180 --> 00:20:16,120 ها هما. لاحظ؟ لماذا؟ لأنها فعلياً هذه كلها مع بعضها 266 00:20:17,510 --> 00:20:21,190 عبارة عن cluster، وهذه مع بعضها عبارة عن cluster. 267 00:20:21,190 --> 00:20:27,750 ثانياً، رسمت العمود مع العناصر الموجودة. أريد 268 00:20:27,750 --> 00:20:34,750 ثلاثة. هذه الثلاثة ستصبح مع بعضها. إذا 269 00:20:34,750 --> 00:20:39,770 أنا أريد أن أتحدث عن three clusters، يعني هذا واحد، 270 00:20:39,770 --> 00:20:44,030 العشرة معها طبعاً، اثنان، 271 00:20:48,010 --> 00:20:55,110 و هذا ثلاثة. هل أريد أكثر؟ نعم، لكن ماذا أريد؟ أن أزال 272 00:20:55,110 --> 00:21:01,330 الـ scale الخاص بعدد الـ clusters إلى الأسفل، إلى أين؟ 273 00:21:01,330 --> 00:21:10,890 أريد أن يكون مثلاً، لو أنزلت عدد الـ clusters إلى هنا، 274 00:21:10,890 --> 00:21:14,690 يعني أنا أتحدث عن single cluster واحد. 275 00:21:17,600 --> 00:21:25,440 لا، ليس واحداً. الآن، هذا عندك واحد، هذا 276 00:21:25,440 --> 00:21:32,020 اثنان، هذا ثلاثة، عشرة على حالها، هذا أربعة. أنا هنا 277 00:21:32,020 --> 00:21:37,480 أتحدث عن four clusters، بناءً على النقطة التي 278 00:21:37,480 --> 00:21:43,410 اخترتها. أهم شيء في الموضوع أنه أنا فعلياً لما أحصل 279 00:21:43,410 --> 00:21:46,690 على الـ dendrogram، أستطيع أن أحصل على أي عدد من الـ 280 00:21:46,690 --> 00:21:50,410 clusters التي أريده. أريد أن أعود مرة أخرى لأقول والله 281 00:21:50,410 --> 00:21:57,490 أنا هنا أريد.. لو افترضت أنني هنا، هذا الخط 282 00:21:57,490 --> 00:22:03,590 الخاص بي، عفواً، 283 00:22:03,590 --> 00:22:05,630 رسمتي غير دقيقة بعض الشيء. 284 00:22:12,280 --> 00:22:15,960 لو مشيت هنا، وقلت هذا مع الاثنين هنا، أريد 285 00:22:15,960 --> 00:22:22,820 أن أمشي، okay. 286 00:22:22,820 --> 00:22:26,240 أفضل من الأول. لو سألتك عند هذا الخط، كم cluster 287 00:22:26,240 --> 00:22:29,940 أحصل عليه؟ أستطيع أن أقول أنني أتحدث عن four clusters. 288 00:22:29,940 --> 00:22:41,220 four clusters: هذا واحد، يجمع واحد وأربعة. ثانياً، ايوه، 289 00:22:45,790 --> 00:22:56,350 الثالث، العشرة وحدها، والرابع، هذه. عفواً، ليس أربعة، 290 00:22:56,350 --> 00:23:03,050 هذه خمسة، five clusters، خمسة 291 00:23:03,050 --> 00:23:07,890 clusters. طبعاً، هناك فائدة أخرى من الـ dendrogram، أنا 292 00:23:07,890 --> 00:23:10,810 أستطيع أن أفهم أنه على الرغم من أن الـ cluster 293 00:23:10,810 --> 00:23:14,590 الأخير هذا، الذي فيه 7 و 6 و 9، هذه الـ elements 294 00:23:14,590 --> 00:23:16,610 في نفس الـ cluster، إلا أنه من خلال الـ 295 00:23:16,610 --> 00:23:21,370 dendrogram، أستطيع أن أفهم أن 6 و 9 instances أقرب 296 00:23:21,370 --> 00:23:26,150 لبعض من 7. كذلك، 0 و 11 في الـ cluster 297 00:23:26,150 --> 00:23:32,370 الثالث، و 2 و 8 في الـ cluster الثاني. لكي نستطيع 298 00:23:32,370 --> 00:23:36,790 أن نطبق هذا المثال، في مثال مشهور جداً أخذته سابقاً من 299 00:23:36,790 --> 00:23:38,990 الـ slide الخاصة بالدكتور علاء، جزاه الله خيراً، 300 00:23:38,990 --> 00:23:42,230 المثال 301 00:23:42,230 --> 00:23:49,430 المشهور أيضاً. أنا لديّ خريطة إيطاليا، وأريد 302 00:23:49,430 --> 00:23:56,280 أن أعتبر أن المدن هذه بمثابة Clustering، هو أنا الـ 303 00:23:56,280 --> 00:23:59,660 clusters، وأريد أن أذهب لأعمل بينها merge، لأرى 304 00:23:59,660 --> 00:24:05,020 أقرب المدن لبعضها، باعتماد على الـ single linkage 305 00:24:05,020 --> 00:24:15,120 criterion. single linkage criterion. الآن، عفواً، لما 306 00:24:15,120 --> 00:24:19,800 أنا أتحدث، هذه رموز للولايات أو المدن في إيطاليا. 307 00:24:19,800 --> 00:24:22,980 طبعاً، من ذهب إلى إيطاليا من بينكم؟ لأن أنتم 308 00:24:22,980 --> 00:24:30,150 فرحانين. لكن، بالطبع، بارما 309 00:24:30,150 --> 00:24:39,190 ليست من ضمنها، أو موجودة. هي بارما. طيب، الآن فعلياً، الـ 310 00:24:39,190 --> 00:24:43,710 contingency matrix، النتيجة التي ستحصل عليها عبارة عن 311 00:24:46,160 --> 00:24:50,160 Symmetric Matrix، وفيها كل العناصر الموجودة 312 00:24:50,160 --> 00:24:57,900 عندي هنا. وبناءً عليها، أنا أريد أن أقرر. الآن، بارما، بارما، 313 00:24:57,900 --> 00:25:04,620 أقصر distance، أين؟ مع من؟ فأنا فعلياً أذهب لأبحث عن 314 00:25:04,620 --> 00:25:09,200 الـ shortest distance. أنا الآن هنا، okay، 250، وأبدأ 315 00:25:09,200 --> 00:25:13,580 أن أبحث. لكن، عندما وجدنا أن هناك مسافة أقصر منها موجودة، 316 00:25:13,580 --> 00:25:13,800 أين؟ 317 00:25:16,920 --> 00:25:23,360 تربط Milano و TMI و TO، وبالتالي، هذه أقصر 318 00:25:23,360 --> 00:25:26,720 ملاحظين يا جماعة الخير، أنا رأيت الـ distance مع 319 00:25:26,720 --> 00:25:31,300 الكل، بين الكل. لم أعتمد السفر، لأنها مدينة مع 320 00:25:31,300 --> 00:25:33,460 نفسها. لا أريدها cluster مع نفسها، أو الـ 321 00:25:33,460 --> 00:25:38,160 instance مع نفسها. لكن هنا، ذهبت لأبحث حتى وصلت إلى 322 00:25:38,160 --> 00:25:42,820 مسافة أصغر، مسافة في كل المسافات الموجودة لديّ 323 00:25:42,820 --> 00:25:52,650 هنا، وبالتالي، فعلياً هذه المسافة هنا، و 324 00:25:52,650 --> 00:26:01,150 نفس الكلام، mi مع كل المدن، و fi مع كل المدن، كل الـ 325 00:26:01,150 --> 00:26:07,630 possible distances حسبتها. يعني، إذا تكلمت من mi 326 00:26:07,630 --> 00:26:18,920 إلى ba، mi إلى ba، هي ثمانمائة وسبعة وسبعون كيلومتراً. ففي النهاية 327 00:26:18,920 --> 00:26:21,980 أنا أعتمد فقط على مسافة واحدة فقط، التي هي 328 00:26:21,980 --> 00:26:26,100 shortest، لأن هذه الـ minimum distance، حسب الـ 329 00:26:26,100 --> 00:26:32,240 linkage criteria. معناته، أنا سأدمج الـ mi و الـ 330 00:26:32,240 --> 00:26:33,500 to، تمام. 331 00:26:36,100 --> 00:26:41,560 وهذا أول cluster حصلت عليه، سأسميه marriage رقم 332 00:26:41,560 --> 00:26:48,520 1. ممتاز. فلما أنا أدمج MIT و MIT، MIT MIT MIT MIT MIT 333 00:26:48,520 --> 00:26:49,180 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 334 00:26:49,180 --> 00:26:49,760 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 335 00:26:49,760 --> 00:26:51,240 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 336 00:26:51,240 --> 00:26:51,980 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 337 00:26:51,980 --> 00:26:52,080 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 338 00:26:52,080 --> 00:26:52,620 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 339 00:26:52,620 --> 00:26:52,640 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 340 00:26:52,640 --> 00:26:53,360 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 341 00:26:53,360 --> 00:26:53,560 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 342 00:26:53,560 --> 00:26:53,740 MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT MIT 343 00:26:53,740 --> 00:26:56,560 MIT MIT MIT 344 00:27:06,430 --> 00:27:09,370 ماذا عن علاقة الـ cluster الجديد هذا مع الـ 345 00:27:09,370 --> 00:27:10,950 elements الأخرى؟ 346 00:27:16,670 --> 00:27:21,730 إن هذا هو الـ cluster. متفقون؟ الآن، الـ cluster الجديد 347 00:27:21,730 --> 00:27:25,690 هذا، أنا سأتعامل معه، سأضع له قيمة تمثله، 348 00:27:25,690 --> 00:27:32,230 تمثل علاقته، لأنه هذا عبارة عن cluster جديد. ما 349 00:27:32,230 --> 00:27:34,290 هو الـ distance بين هذا الـ cluster وباقي الـ clusters 350 00:27:34,290 --> 00:27:38,770 الأخرى؟ سآخذ الـ minimum distance ما بين كل 351 00:27:38,770 --> 00:27:43,410 العناصر الموجودة. بمعنى، أقول كالتالي في السطر 352 00:27:43,410 --> 00:27:53,780 الأول هنا، لما أريد أن أدمج أي و تي أو مع 353 00:27:53,780 --> 00:27:57,900 الـ بي إي، هذه التي ستصبح one cluster. يعني هنا 354 00:27:57,900 --> 00:28:06,580 هذا العمود سيبقى فارغاً مثلاً، وسأضع هنا تي أو و 355 00:28:06,580 --> 00:28:11,120 مأي. بغض النظر عن من دمجت مع من، ليست قضية كبيرة. 356 00:28:11,120 --> 00:28:17,000 تمام. الآن، الـ بي إي، لديّ مسافة، لديّ مسافتان، 357 00:28:17,000 --> 00:28:19,740 أي منهما سآخذ؟ بما أنني ما زلت أعتمد على الـ 358 00:28:19,740 --> 00:28:22,840 single linkage، معناته أنا سآخذ الـ shortest 359 00:28:22,840 --> 00:28:33,280 distance. أي منهما أقصر؟ 877 أم 996؟ لا، 877 مع الـ FI. الآن 360 00:28:33,280 --> 00:28:41,920 الـ FI، لديّ 295 و 400، سأعتمد 295. هذه ستبقى 361 00:28:41,920 --> 00:28:49,960 صفر، لن تتغير. وحتى التي هي الأقصر. الآن، لديّ 457، 362 00:28:49,960 --> 00:28:53,100 طبعاً هذا الخام أيضاً، أنا أحتاج أن أنهي منه. جامعة الخير، 363 00:28:53,100 --> 00:28:59,660 لا تنسوا 754، ولدي 869، 364 00:28:59,660 --> 00:29:06,520 سأعتمد هذه. ولدي 564، 365 00:29:06,520 --> 00:29:11,930 سأعتمدها. وبالتالي، الجدول الجديد سيكون بهذا الشكل. 366 00:29:11,930 --> 00:29:17,770 هذا، باقي الأرقام لم تتغير. أنا أنهيت من الصف والعمود 367 00:29:17,770 --> 00:29:21,890 الذي كان يمثل الـ TO، واعتمدت على الـ shortest 368 00:29:21,890 --> 00:29:25,090 distance الموجودة. إن شاء الله لم أخطئ الحساب. 369 00:29:25,090 --> 00:29:29,610 ثمانمائة وسبعة وسبعون، ثنين، تسعة، خمسة، صفر. 370 00:29:37,510 --> 00:29:41,110 أول عملية تمت، موجودة عندي، باعتماد على single 371 00:29:41,110 --> 00:29:41,510 linkage. 372 00:29:44,500 --> 00:29:47,860 أريد أن أكرر نفس العملية، لأعمل دمج، سأبدأ بالبحث عن 373 00:29:47,860 --> 00:29:52,500 shortest distance. أي 255 في الصف الأول، هي أقصر 374 00:29:52,500 --> 00:29:57,600 مسافة حتى اللحظة. 255، 375 00:29:57,600 --> 00:30:05,420 هي الأقصر. 255، 255، 255 هي الأقصر. معناته، الآن أريد 376 00:30:05,420 --> 00:30:10,920 أن نعمل دمج ما بين الـ NA و الـ BA. بنفس الكلام 377 00:30:10,920 --> 00:30:22,700 السابق، سأنتهي من عمود الـ Na وصف الـ Na. تمام، علاقتهما 378 00:30:22,700 --> 00:30:28,580 ستكون، سنضعهما في عمود واحد، أي distance التي احتفظت 379 00:30:28,580 --> 00:30:33,300 بهما. الآن، هذه لن تتغير، لأنها ستأتي من العمود الذي 380 00:30:33,300 --> 00:30:40,140 عندها بـ A، Na. 381 00:30:42,020 --> 00:30:46,560 صفر. تمام، هذه عندها ستمائة واثنين وستين، ولديّ 382 00:30:46,560 --> 00:30:51,280 أربعمائة وثمانية وستين. لا، سأعتمد المسافة الأقصر. 383 00:30:51,280 --> 00:30:59,140 أربعمائة وثمانية وستين، عندها 384 00:30:59,140 --> 00:31:07,240 ثمانمائة وسبعة وسبعون، وعندها سبعمائة وأربعة وخمسون، 385 00:31:07,240 --> 00:31:15,800 سأعتمد السبعمائة وأربعة وخمسون. طبعاً، صفها سيلغى عند 386 00:31:15,800 --> 00:31:19,320 هنا، أربعمائة واثنا عشر، ولدي اثنين وتسعون، سأعتمد 387 00:31:19,320 --> 00:31:24,780 الاثنين وتسعون. لماذا؟ لأنني مرة أخرى أبحث عن 388 00:31:24,780 --> 00:31:30,300 الـ single linkage، وبالتالي أنا أخطأت. 389 00:31:37,670 --> 00:31:45,690 عفواً، أنا أخطأت هنا عند 219، لأنها أقصر. أنا آسف، ليس 390 00:31:45,690 --> 00:31:53,250 كثيراً، يعني أقول أن الخطأ مردود، إن شاء الله، سأصحح. أقصر 391 00:31:53,250 --> 00:32:04,260 مسافة لديّ فعلياً هي هذه،