Can you summarize the following document?
        
  機器學習中,決策樹是一個預測模型;他代表的是物件屬性與物件值之間的一種對映關係。樹中每個節點表示某個物件,而每個分叉路徑則代表某個可能的屬性值,而每個葉節點則對應從根節點到該葉節點所經歷的路徑所表示的物件的值。決策樹僅有單一輸出,若欲有複數輸出,可以建立獨立的決策樹以處理不同輸出。 資料探勘中決策樹是一種經常要用到的技術,可以用於分析資料,同樣也可以用來作預測。  從資料產生決策樹的機器學習技術叫做決策樹學習,通俗說就是決策樹。  一個決策樹包含三種型別的節點: 決策樹學習也是資料探勘中一個普通的方法。在這裡,每個決策樹都表述了一種樹型結構,它由它的分支來對該型別的物件依靠屬性進行分類。每個決策樹可以依靠對源資料庫的分割進行資料測試。這個過程可以遞迴式的對樹進行修剪。 當不能再進行分割或一個單獨的類可以被應用於某一分支時,遞迴過程就完成了。另外,隨機森林分類器將許多決策樹結合起來以提升分類的正確率。  決策樹同時也可以依靠計算條件概率來構造。  決策樹如果依靠數學的計算方法可以取得更加理想的效果。 資料庫已如下所示:  相關的變數Y表示我們嘗試去理解,分類或者更一般化的結果。 其他的變數x1, x2, x3等則是幫助我們達到目的的變數。

  決策樹有幾種產生方法:

  決策樹,影響性圖表,應用函式以及其他的決策分析工具和方法主要的授課物件是學校裡商業、健康經濟學和公共衛生專業的本科生,屬於運籌學和管理科學的範疇。

  下面我們用例子來說明:  小王是一家著名高爾夫俱樂部的經理。但是他被僱員數量問題搞得心情十分不好。某些天好像所有人都來玩高爾夫,以至於所有員工都忙的團團轉還是應付不過來,而有些天不知道什麼原因卻一個人也不來,俱樂部為僱員數量浪費了不少資金。  小王的目的是通過下週天氣預報尋找什麼時候人們會打高爾夫,以適時調整僱員數量。因此首先他必須瞭解人們決定是否打球的原因。  在2周時間內我們得到以下記錄:  天氣狀況有晴,雲和雨;氣溫用華氏溫度表示;相對溼度用百分比;還有有無風。當然還有顧客是不是在這些日子光顧俱樂部。最終他得到了14行5列的資料表格。  決策樹模型就被建起來用於解決問題。  決策樹是一個有向無環圖。根結點代表所有資料。分類樹演算法可以通過變數outlook,找出最好地解釋非獨立變數play(打高爾夫的人)的方法。變數outlook的範疇被劃分為以下三個組:  晴天,多雲天和雨天。  我們得出第一個結論:如果天氣是多雲,人們總是選擇玩高爾夫,而只有少數很著迷的甚至在雨天也會玩。  接下來我們把晴天組的分為兩部分,我們發現顧客不喜歡溼度高於70%的天氣。最終我們還發現,如果雨天還有風的話,就不會有人打了。  這就通過分類樹給出了一個解決方案。小王(老闆)在晴天,潮溼的天氣或者颳風的雨天解僱了大部分員工,因為這種天氣不會有人打高爾夫。而其他的天氣會有很多人打高爾夫,因此可以僱用一些臨時員工來工作。

  C4.5和C5.0生成樹演算法使用熵。這一度量是基於資訊學理論中熵的概念。  formula_1

  相對於其他資料探勘演算法,決策樹在以下幾個方面擁有優勢:

  決策樹:

  剪枝是決策樹停止分支的方法之一,剪枝有分預先剪枝和後剪枝兩種。預先剪枝是在樹的生長過程中設定一個指標,當達到該指標時就停止生長,這樣做容易產生“視界侷限”,就是一旦停止分支,使得節點N成為葉節點,就斷絕了其後繼節點進行“好”的分支操作的任何可能性。不嚴格的說這會已停止的分支會誤導學習演算法,導致產生的樹不純度降差最大的地方過分靠近根節點。後剪枝中樹首先要充分生長,直到葉節點都有最小的不純度值為止,因而可以克服“視界侷限”。然後對所有相鄰的成對葉節點考慮是否消去它們,如果消去能引起令人滿意的不純度增長,那麼執行消去,並令它們的公共父節點成為新的葉節點。這種“合併”葉節點的做法和節點分支的過程恰好相反,經過剪枝後葉節點常常會分佈在很寬的層次上,樹也變得非平衡。後剪枝技術的優點是克服了“視界侷限”效應,而且無需保留部分樣本用於交叉驗證,所以可以充分利用全部訓練集的資訊。但後剪枝的計算量代價比預剪枝方法大得多,特別是在大樣本集中,。

  在決策樹中所有從根到葉節點的路徑都是通過“與”(AND)運算連線。在決策圖中可以使用“或”來連線多於一個的路徑。

  

  決策樹的程式碼實現可參考:決策樹演算法實現——Bash
決策論中 (如風險管理),決策樹(英語:Decision tree)由一個決策圖和可能的結果(包括資源成本和風險)組成, 用來建立到達目標的規劃。決策樹建立並用來輔助決策,是一種特殊的樹結構。決策樹是一個利用像樹一樣的圖形或決策模型的決策支援工具,包括隨機事件結果,資源代價和實用性。它是一個演算法顯示的方法。決策樹經常在運籌學中使用,特別是在決策分析中,它幫助確定一個能最可能達到目標的策略。如果在實際中,決策不得不在沒有完備知識的情況下被線上採用,一個決策樹應該平行概率模型作為最佳的選擇模型或線上選擇模型演算法。決策樹的另一個使用是作為計算條件概率的描述性手段。