GRU Restricted Boltzmann machine 자기조직화지도 합성곱 신경망 강화 학습 Q 러닝 SARSA 시간차 학습 이론 편향 - 분산 트레이드오프 Computational learning theory Empirical risk minimization PAC learning Statistical learning VC theory v. d. e. h 은닉 마르코프 모델 ( 영어 : hidden Markov model, HMM ) 은 통계적 마르코프 모델의 하나로, 시스템이 은닉된 상태와 관찰가능한 결과의 두 가지 요소로 이루어졌다고 보는 모델이다. 관찰 가능한 결과를 야기하는 직접적인 원인은 관측될 수 없는 은닉 상태들이고, 오직 그 상태들이 마르코프 과정을 통해 도출된 결과들만이 관찰될 수 있기 때문에'은닉'이라는 단어가 붙게 되었다. 은닉 마르코프 모델은 동적 베이지안 네트워크로 간단히 나타낼 수 있으며, 은닉 마르코프 모델의 해를 찾기 위해 전향 - 후향 알고리즘을 제안한 스트라토노빅 [ 1 ] 의 최적 비선형 필터링 문제와 밀접한 관련이 있다. 한편 은닉 마르코프 모델에 사용된 수학적 개념들은 바움 ( L. E. Baum ) 과 그의 동료들에 의해 정립되었다. [ 2 ] [ 3 ] [ 4 ] [ 5 ] [ 6 ]
i = 1 dots N, j = 1 dots N } } = 상태 i에서 상태 j로 가는 확률 i = 1... N { displaystyle { boldsymbol { phi } } - { i = 1 dots N } } = i, 1... N { displaystyle phi - { i, 1 dots N } } 로 구성 된N - 차원 벡터 ; 합이 1 { displaystyle 1 } 이 되어야 한다. V = Categorical 관찰들의 차원, 예를 들어 단어 어휘의 크기. theta i = 1... N, j = 1... V { displaystyle theta - { i = 1 dots N, j = 1 dots V } } = j 번째 아이템을 관찰하는 상태 i를 위한 확률 theta i = 1... N { displaystyle { boldsymbol { theta } } - { i = 1 dots N } } = theta i, 1... V { displaystyle theta - { i, 1 dots V } } 로 구성 된 V - 차원 벡터 ; 합이 1 { displays
##한다면 이는 잘못된 선택이다. 이 경우 오늘의 날씨가 맑고 ( Sunny ) 내일 비가 온다면 ( Rainy ) 모레 이후로는 맑은 날씨가 나타날 수 없게 된다. 반면 음성 인식이나 온라인 필기 인식처럼 어떤 부분 패턴이 지나간 후에 그것이 다시 나타나지 않는 상황에서는 좌우 모델이 많이 사용된다. 이에 주로 해당하는 응용 분야는 음성 인식이나 온라인 필기 인식 등이 있다. 각주 [ 편집 ] ↑ 가 나 Stratonovich, R. L. ( 1960 ). " Conditional Markov Processes ". 《 Theory of Probability and its Applications 》 5 : 156 - 178. doi : 10. 1137 / 1105015. ↑ Baum, L. E. ; Petrie, T. ( 1966 ). " Statistical Inference for Probabilistic Functions of Finite State Markov Chains ". 《 The Annals of Mathematical Statistics 》 37 ( 6 ) : 1554 - 1563. doi : 10. 1214 / aoms / 1177699147. 2011년 11월 28일에 확인함. ↑ Baum, L. E. ; Eagon, J. A. ( 1967 ). " An inequality with
boldsymbol { phi } } - { i = 1 dots N } } = - i, 1... N { displaystyle - phi - { i, 1 dots N } } 로 구성 된 N차원 벡터 ; 합이 1이 되어야 한다. x t = 1... T { displaystyle x - { t = 1 dots T } } = 시간 t에서 관찰의 상태 y t = 1... T { displaystyle y - { t = 1 dots T } } = 시간 t에서의 관찰 F ( y | theta ) { displaystyle F ( y | theta ) } = theta에 대해 모수화 된 관찰의 확률 분포 x t = 2... T { displaystyle x - { t = 2 dots T } } ~ Categorical ( x t - 1 ) { displaystyle operatorname { Categorical } ( { boldsymbol { phi } } - { x - { t - 1 } } ) } y t = 1... T { displaystyle y - { t = 1 dots T } } ~ F ( thet
##ta - { i, 1 dots V } } 로 구성 된 V - 차원 벡터 ; 합이 1 { displaystyle 1 } 되어야 한다. x t = 1... T { displaystyle x - { t = 1 dots T } } = 시간 t에서 관찰의 상태 y t = 1... T { displaystyle y - { t = 1 dots T } } = 시간 t에서의 관찰 alpha = 각 상태에 대한 theta { displaystyle { boldsymbol { theta } } } 의 공유 집중 초 모수 beta = 전이 행렬의 밀도를 조절하는 집중 초 모수 i = 1... N { displaystyle { boldsymbol { phi } } - { i = 1 dots N } } ~ j 번째 아이템을 관찰하는 상태 i를 위한 확률 theta i = 1... N { displaystyle { boldsymbol { theta } } - { i = 1 dots N } } = theta i, 1... V { displaystyle theta - { i, 1 dots V } } 로 구성 된 V - 차원 벡터
{ displaystyle mu - { 0 }, lambda } = 각각의 상태의 평균들의 공유 초 모수, 0 2 { displaystyle nu, sigma - { 0 } ^ { 2 } } = 각각의 상태의 편차들의 공유 초 모수 i = 1... N { displaystyle { boldsymbol { phi } } - { i = 1 dots N } } ~ S y m m e t r i c - D i r i c h l e t N ( beta ) { displaystyle operatorname { Symmetric - Dirichlet } - { N } ( beta ) } x t = 2... T { displaystyle x - { t = 2 dots T } } ~ Categorical ( x t - 1 ) { displaystyle operatorname { Categorical } ( { boldsymbol { phi } } - { x - { t - 1 } } ) } i = 1... N { displaystyle mu - { i = 1 dots N } } ~ N ( 0
[ 15 ] 현대에는 음성 인식, 계산언어학, 생물정보학등에 사용되고 있다. 항아리를 이용한 설명 [ 편집 ] 그림 1. 은닉 마르코프 모델의 확률 모수들 ( 예시 ) X - 상태들 y - 얻을 수 있는 관측값들 a - 상태 전이 확률들 b - 출력 확률들 은닉 마르코프 모델의 이산적인 ( Discrete ) 관점에서 은닉 마르코프 모델은 복원 추출을 하는 항아리 문제를 일반화 시킨 것이라고 볼 수 있다. [ 16 ] 다음과 같은 예제를 생각해 보자. 관측자에게 보이지 않는 방이 있고, 그 안에 요정이 있다. 방에는 항아리 X 1, X 2, X 3,... { displaystyle X - { 1 }, X - { 2 }, X - { 3 },... } 가 존재한다. 각각의 항아리에는 y 1, y 2, y 3,... { displaystyle y - { 1 }, y - { 2 }, y - { 3 },... } 으로 이름이 붙은 공들이 섞여서 들어가 있고, 항아리의 공들이 섞인 상태는 알려져있다. 요정은 방 안의 항아리를 하나 고르고, 항아리 안에서 무작위로 공을 하나 꺼내어 컨베이어 벨트에 올려둔다. 관측자
##는 과정이라고 할 수 있다. 필터링과 마찬가지로 관찰된 사건들이 특정 확률 과정에 의해 은닉 변수를 거쳐가며 도출된다는 관점에서, 특정 시간 t { displaystyle t } 에서 k { displaystyle k } 만큼 상태에서의 확률 분포를 묻는 것으로 이해할 수 있다. 해당 문제는 전향 - 후향 알고리즘으로 은닉 변수의 다듬질된 값을 구해낼 수 있다. 가장 가능성이 높은 설명에 대한 추론 [ 편집 ] 이 문제는 필터링이나 다듬질과는 달리, 특정한 관찰 결과들의 나열이 주어졌을 때 고려할 수 있는 전체 은닉 변수들에 대한 결합 확률들의 분포를 묻는다. 보통 이러한 유형의 문제는 필터링이나 다듬질이 적용되기 힘든 다른 종류의 문제들을 은닉 마르코프 모델을 이용하여 풀 때 적용가능하다. 가장 대표적인 예로는 품사 추론이 있다. 품사 추론이란 특정한 단어들의 나열이 주어졌을 때, 해당 단어들의 품사들을 추론하는 문제이다. 이 문제에 은닉 마르코프 모델을 적용한다면 관찰된 결과는 주어진 단어들의 나열에 해당하고, 은닉 변수들은 단어들의 품사로서 생각될 수 있다. 만약 이 문제에 필터링이나 다듬질 기법을 적용한다면 오직 한 단어의 품사만을
##의 크기. theta i = 1... N, j = 1... V { displaystyle theta - { i = 1 dots N, j = 1 dots V } } = j 번째 아이템을 관찰하는 상태 i를 위한 확률 theta i = 1... N { displaystyle { boldsymbol { theta } } - { i = 1 dots N } } = theta i, 1... V { displaystyle theta - { i, 1 dots V } } 로 구성 된 V - 차원 벡터 ; 합이 1 { displaystyle 1 } 되어야 한다. x t = 1... T { displaystyle x - { t = 1 dots T } } = 시간 t에서 관찰의 상태 y t = 1... T { displaystyle y - { t = 1 dots T } } = 시간 t에서의 관찰 x t = 2... T { displaystyle x - { t = 2 dots T } } ~ Categorical ( x t - 1 ) { displaystyle operatorname { Categorical } ( { bold
##ta i, 1... V { displaystyle theta - { i, 1 dots V } } 로 구성 된 V - 차원 벡터 ; 합이 1 { displaystyle 1 } 되어야 한다. x t = 1... T { displaystyle x - { t = 1 dots T } } = 시간 t에서 관찰의 상태 y t = 1... T { displaystyle y - { t = 1 dots T } } = 시간 t에서의 관찰 alpha = 각 상태에 대한 theta { displaystyle { boldsymbol { theta } } } 의 공유 집중 초 모수 beta = 전이 행렬의 밀도를 조절하는 집중 초 모수 i = 1... N { displaystyle { boldsymbol { phi } } - { i = 1 dots N } } ~ S y m m e t r i c - D i r i c h l e t N ( beta ) { displaystyle operatorname { Symmetric - Dirichlet } - { N } ( beta ) } theta 1... V { displaystyle { bold
은닉 마르코프 모형(영어: hidden Markov model, HMM)은 통계적 마르코프 모형의 하나로, 시스템이 은닉된 상태와 관찰가능한 결과의 두 가지 요소로 이루어졌다고 보는 모델이다. 관찰 가능한 결과를 야기하는 직접적인 원인은 관측될 수 없는 은닉 상태들이고, 오직 그 상태들이 마르코프 과정을 통해 도출된 결과들만이 관찰될 수 있기 때문에 '은닉'이라는 단어가 붙게 되었다. 은닉 마르코프 모형은 동적 베이지안 네트워크로 간단히 나타낼 수 있으며, 은닉 마르코프 모형의 해를 찾기 위해 전향-후향 알고리즘을 제안한 스트라토노빅의 최적 비선형 필터링 문제와 밀접한 관련이 있다. 한편 은닉 마르코프 모형에 사용된 수학적 개념들은 바움(L. E. Baum)과 그의 동료들에 의해 정립되었다.마르코프 연쇄와 같은 단순한 마르코프 모형에서는 상태를 관찰자가 직접적으로 볼 수 있으며, 그러므로 상태가 전이될 확률은 단순히 모수(parameter)들로 표현될 수 있다. 반면 은닉 마르코프 모형에서는 상태를 직접적으로 볼 수 없고 상태들로부터 야기된 결과들만을 관찰할 수 있다. 각각의 상태는 특정 확률 분포에 따라 여러 가지 결과를 도출해 낼 수 있으므로, 은닉 마르코프 모형로부터 생성된 결과들의 나열은 기저에 은닉된 상태들에 대한 정보들을 제공하고 있다고 생각할 수 있다. 여기서 단어 은닉(Hidden)이 모델의 모수를 가리키는 것이 아니라 모델이 거쳐가는 연속된 상태를 지칭하는 것에 주의해야한다. 은닉 마르코프 모형에서 모수들이 정확히 알려졌음에도 불구하고 여전히 '은닉' 마르코프 모형로 불리는 이유는 결과를 야기하는 상태들이 근본적으로 은닉되어있어 관찰할 수 없기 때문이다. 은닉 마르코프 모형은 시간의 흐름에 따라 변화하는 시스템의 패턴을 인식하는 작업에 유용하다. 예를 들어 음성 인식, 필기 인식(en:Handwriting recognition), 동작 인식(en:Gesture Recognition), 품사 태깅(en:Part-of-speech tagging), 악보에서 연주되는 부분을 찾는 작업, 부분 방전(en:Partial discharge), 생물정보학 분야에서 이용된다. 은닉 마르코프 모형은 은닉 변수가 독립되지 않고 마르코프 과정을 통해 변화하면서, 각 과정에서 혼합 요소를 선택하는 혼합 모델의 일반화로 볼 수 있다. 최근 이러한 은닉 마르코프 모형은 더 복잡한 자료 구조들과 안정적이지 않은 데이터들을 모델링할 수 있도록 이중 마르코프 모형, 삼중 마르코프 모형 등으로 일반화되고 있다.