(به : ) گروهی از الگوریتم‌های هستند که در کاربرد دارند. درخت‌های تصمیم به گروه الگوریتم‌های تعلق دارند و بیشتر آنها بر اساس حداقل‌سازی کمیتی به نام آنتروپی ساخته می‌شوند. هرچند توابع دیگری هم برای یادگیری درخت تصمیم وجود دارند. نمونه‌های قدیمی درخت تصمیم تنها قادر به استفاده از متغیرهای گسسته بودند، اما الگوریتم‌های جدیدتر هردو نوع متغیر گسسته و پیوسته را در یادگیری به کار می‌برند. یکی از مزایای مهم الگوریتم درخت تصمیم قابلیت فهم و تفسیر آسان است که محبوبیت این الگوریتم را بالا برده است. از معایب آن عدم استواری و دقت ناکافی است. 
 
 درخت‌های تصمیم ممکن است متریک‌های متفاوتی برای یادگیری استفاده کنند. از رایج‌ترین این متریک‌ها می‌توان به آنتروپی (یا افزایش اطلاعات) و اشاره کرد. 
 افزایش اطلاعات (به : ) یکی از متریک‌های یادگیری درخت تصمیم است که بر اساس آنیروپی بوده و به شکل زیر فرموله می‌شود:
 
 که در آن کسرهایی هستند که مجموعشان برابر با ١ است و نشانگر درصد‌های هر کلاس در گره فرزند پس از تقسیم هستند.
 
بدین ترتیب افزایش اطلاعات حاصل در سیستم از تقسیم یک گره به صورت تفریق آنتروپی سیستم پیش و پس از تقسیم (یعنی آنتروپی والد منهای آنتروپی فرزند) به شکل زیر محاسبه می‌شود:
 یادگیری درخت به این شکلست که ابتدا متغیری که بیشترین تغییر در آنتروپی را ایجاد می‌کند (یا بیشترین افزایش اطلاعات را دارد) انتخاب می‌شود و بر اساس این متغیر تقسیم می‌شود. سپس همین عمل برای هرکدام از زیرمجموعه‌های ایجاد شده تکرار می‌شود و تا جایی ادامه پیدا می‌کند که زیرمجموعه‌های بدست آمده از حداقلی از خلوص برخوردار باشند. بنابراین ترتیب متغیرها در ساختار یک درخت تصمیم نشانگر میزان اطلاعات نهفته در آنهاست.
{"title": "یادگیری درخت تصمیم", "link": "https://fa.wikipedia.org//w/index.php?title=%DB%8C%D8%A7%D8%AF%DA%AF%DB%8C%D8%B1%DB%8C_%D8%AF%D8%B1%D8%AE%D8%AA_%D8%AA%D8%B5%D9%85%DB%8C%D9%85&oldid=28573620", "language": "fa"}