Can you summarize the following document?
        
  “卷積神經網路”表示在網路採用稱為卷積的數學運算。卷積是一種特殊的線性操作。卷積網路是一種特殊的神經網路,它們在至少一個層中使用卷積代替一般矩陣乘法

  

  卷積層是一組平行的特徵圖(feature map),它通過在輸入影象上滑動不同的卷積核並執行一定的運算而組成。此外,在每一個滑動的位置上,卷積核與輸入影象之間會執行一個元素對應乘積並求和的運算以將感受野內的資訊投影到特徵圖中的一個元素。這一滑動的過程可稱為步幅 Z_s,步幅 Z_s 是控制輸出特徵圖尺寸的一個因素。卷積核的尺寸要比輸入影象小得多,且重疊或平行地作用於輸入影象中,一張特徵圖中的所有元素都是通過一個卷積核計算得出的,也即一張特徵圖共享了相同的權重和偏置項。

  線性整流層(Rectified Linear Units layer, ReLU layer)使用線性整流(Rectified Linear Units, ReLU)formula_1作為這一層神經的激勵函式(Activation function)。它可以增強判定函式和整個神經網路的非線性特性,而本身並不會改變卷積層。  事實上,其他的一些函式也可以用於增強網路的非線性特性,如雙曲正切函式 formula_2, formula_3,或者Sigmoid函式formula_4。相比其它函式來說,ReLU函式更受青睞,這是因為它可以將神經網路的訓練速度提升數倍,而並不會對模型的泛化準確度造成顯著影響。

  池化(Pooling)是卷積神經網路中另一個重要的概念,它實際上是一種非線性形式的降取樣。有多種不同形式的非線性池化函式,而其中“最大池化(Max pooling)”是最為常見的。它是將輸入的影象劃分為若干個矩形區域,對每個子區域輸出最大值。  直覺上,這種機制能夠有效地原因在於,一個特徵的精確位置遠不及它相對於其他特徵的粗略位置重要。池化層會不斷地減小資料的空間大小,因此引數的數量和計算量也會下降,這在一定程度上也控制了過擬合。通常來說,CNN的網路結構中的卷積層之間都會週期性地插入池化層。池化操作提供了另一種形式的平移不變性。因為卷積核是一種特徵發現器,我們通過卷積層可以很容易地發現影象中的各種邊緣。但是卷積層發現的特徵往往過於精確,我們即使高速連拍拍攝一個物體,照片中的物體的邊緣畫素位置也不大可能完全一致,通過池化層我們可以降低卷積層對邊緣的敏感性。  池化層每次在一個池化視窗(depth slice)上計算輸出,然後根據步幅移動池化視窗。下圖是目前最常用的池化層,步幅為2,池化視窗為formula_5的二維最大池化層。每隔2個元素從影象劃分出formula_6的區塊,然後對每個區塊中的4個數取最大值。這將會減少75%的資料量。  formula_7  除了最大池化之外,池化層也可以使用其他池化函式,例如“平均池化”甚至“L2-範數池化”等。過去,平均池化的使用曾經較為廣泛,但是最近由於最大池化在實踐中的表現更好,平均池化已經不太常用。  由於池化層過快地減少了資料的大小,目前文獻中的趨勢是使用較小的池化濾鏡,甚至不再使用池化層。  RoI池化(Region of Interest)是最大池化的變體,其中輸出大小是固定的,輸入矩形是一個引數。  池化層是基於 Fast-RCNN 架構的卷積神經網路的一個重要組成部分。

  最後,在經過幾個卷積和最大池化層之後,神經網路中的高階推理通過完全連線層來完成。就和常規的非卷積人工神經網路中一樣,完全連線層中的神經元與前一層中的所有啟用都有聯絡。因此,它們的啟用可以作為仿射變換來計算,也就是先乘以一個矩陣然後加上一個偏差(bias)偏移量(向量加上一個固定的或者學習來的偏差量)。

  損失函式層(loss layer)用於決定訓練過程如何來“懲罰”網路的預測結果和真實結果之間的差異,它通常是網路的最後一層。各種不同的損失函式適用於不同型別的任務。例如,Softmax交叉熵損失函式常常被用於在K個類別中選出一個,而Sigmoid交叉熵損失函式常常用於多個獨立的二分類問題。歐幾里德損失函式常常用於標籤取值範圍為任意實數的問題。

  

  卷積神經網路通常在影像辨識系統中使用。

  相比影像辨識問題,視訊分析要難許多。CNN也常被用於這類問題。

  卷積神經網路也常被用於自然語言處理。 CNN的模型被證明可以有效的處理各種自然語言處理的問題,如語義分析、搜尋結果提取、句子建模 、分類、預測、和其他傳統的NLP任務 等。

  卷積神經網路已在藥物發現中使用。卷積神經網路被用來預測的分子與蛋白質之間的相互作用,以此來尋找靶向位點,尋找出更可能安全和有效的潛在治療方法。

  卷積神經網路在計算機圍棋領域也被使用。2016年3月,AlphaGo對戰李世<unk>的比賽,展示了深度學習在圍棋領域的重大突破。

  卷積神經網路(例如Alexnet、VGG網路)在網路的最後通常為softmax分類器。微調一般用來調整softmax分類器的分類數。例如原網路可以分類出2種影象,需要增加1個新的分類從而使網路可以分類出3種影象。微調(fine-tuning)可以留用之前訓練的大多數引數,從而達到快速訓練收斂的效果。例如保留各個卷積層,只重構卷積層後的全連線層與softmax層即可。
卷積神經網路(Convolutional Neural Network, CNN)是一種前饋神經網路,它的人工神經元可以響應一部分覆蓋範圍內的周圍單元,對於大型影象處理有出色表現。