SARSA 시간차 학습 이론 편향 - 분산 트레이드오프 Computational learning theory Empirical risk minimization PAC learning Statistical learning VC theory v. d. e. h 은닉 마르코프 모델 ( 영어 : hidden Markov model, HMM ) 은 통계적 마르코프 모델의 하나로, 시스템이 은닉된 상태와 관찰가능한 결과의 두 가지 요소로 이루어졌다고 보는 모델이다. 관찰 가능한 결과를 야기하는 직접적인 원인은 관측될 수 없는 은닉 상태들이고, 오직 그 상태들이 마르코프 과정을 통해 도출된 결과들만이 관찰될 수 있기 때문에'은닉'이라는 단어가 붙게 되었다. 은닉 마르코프 모델은 동적 베이지안 네트워크로 간단히 나타낼 수 있으며, 은닉 마르코프 모델의 해를 찾기 위해 전향 - 후향 알고리즘을 제안한 스트라
위한 알고리즘을 개발하기 위해 많은 과학자들이 이 분야에 뛰어들었다. 전향 - 후향 재귀법 ( forward - backward recursion ) 과 주변 다듬질 확률 ( marginal smoothing probability ) 등에 대한 이론이 스트라토노빅 ( Ruslan L. Stratonovich ) 에 의해 1950년대 후반 최초로 논의되었고 [ 1 ], 1960년대 후반 바움 ( Leonard E. Baum ) 에 의해 은닉 마르코프 모델의 모수들을 찾아내는 바움 - 웰치 알고리즘이 발표되면서 은닉 마르코프 모델에 대한 연구가 활발히 진행되기 시작하였다. 1967년 앤드루 비터비 ( Andrew Viterbi ) 는 동적 프로그래밍을 이용하여 관찰된 사건들이 도출될 확률이 가장 높은 은닉 상태들의 순서를 찾아내는 비터비 알고리즘을 발표하였다. 은닉 마르코
기 때문에'은닉'이라는 단어가 붙게 되었다. 은닉 마르코프 모델은 동적 베이지안 네트워크로 간단히 나타낼 수 있으며, 은닉 마르코프 모델의 해를 찾기 위해 전향 - 후향 알고리즘을 제안한 스트라토노빅 [ 1 ] 의 최적 비선형 필터링 문제와 밀접한 관련이 있다. 한편 은닉 마르코프 모델에 사용된 수학적 개념들은 바움 ( L. E. Baum ) 과 그의 동료들에 의해 정립되었다. [ 2 ] [ 3 ] [ 4 ] [ 5 ] [ 6 ] 마르코프 연쇄와 같은 단순한 마르코프 모델에서는 상태를 관찰자가 직접적으로 볼 수 있으며, 그러므로 상태가 전이될 확률은 단순히 모수 ( parameter ) 들로 표현될 수 있다. 반면 은닉 마르코프 모델에서는 상태를 직접적으로 볼 수 없고 상태들로부터 야기된 결과들만을 관찰할 수 있다
가 전이될 확률은 단순히 모수 ( parameter ) 들로 표현될 수 있다. 반면 은닉 마르코프 모델에서는 상태를 직접적으로 볼 수 없고 상태들로부터 야기된 결과들만을 관찰할 수 있다. 각각의 상태는 특정 확률 분포에 따라 여러가지 결과를 도출해 낼 수 있으므로, 은닉 마르코프 모델로부터 생성된 결과들의 나열은 기저에 은닉된 상태들에 대한 정보들을 제공하고 있다고 생각할 수 있다. 여기서 단어 은닉 ( Hidden ) 이 모델의 모수를 가리키는 것이 아니라 모델이 거쳐가는 연속된 상태를 지칭하는 것에 주의해야한다. 은닉 마르코프 모델에서 모수들이 정확히 알려졌음에도 불구하고 여전히'은닉'마르코프 모델로 불리는 이유는 결과를 야기하는 상태들이 근본적으로 은닉되어있어 관찰할 수 없기 때문이다. 은닉 마르코프 모델은
, 이는 곧 주어진 관찰 결과가 도출될 확률을 극대화 하는 은닉 마르코프 모델의 모수 theta { [UNK] displaystyle [UNK] theta } 를 찾는 과정이라 할 수 있다. [ 18 ] 확장 [ 편집 ] 연속적 상태 공간으로의 확장 [ 편집 ] 위에서 고려된 은닉 마르코프 모델에서는 은닉 변수의 상태공간은 이산이다. 반면에 관찰된 결과값은 이산적일 수도 있고 연속적일 수도 있다. 은닉 마르코프 모델은 연속적인 상태 공간들을 허용하는 것으로 확장될 수 있다. 모든 변수들이 선형적이고 가우시안 분포를 따르는 마르코프 프로세스가 선형 동적 시스템 ( en : Linear dynamical system ) 이 되는 것이 그러한 확장의 예시이다. 이와 같은 선형 동적 시스템은 간단하기 때문에 칼만 필터를 이용하여 정확한 추론이 가능한 편이다. 그러나
스 샘플링이나 기댓값 최대화 알고리즘의 확장 버전 등을 이용하여 학습된다. 앞서 설명 했던 디리클레 사전 분포를 이용한 은닉 마르코프 모델의 확장은 디리클레 분포 대신에 디리클레 과정을 사용한다. 이러한 종류의 모델은 알려지지 않고 잠재적으로 무한한 수의 상태를 감안한다. 앞서 설명한 2단계의 디리클레 분포와 비슷하게, 2단계 디리클레 과정은 자주 사용된다. 이러한 모델은 계층적인 디리클레 과정 은닉 마르코프 모델 혹은 HDP - HMM으로 줄여서 지칭된다. 이 모델은 원래 무한 은닉 마르코프 모델 ( Infinite Hidden Markov Model ) 이라는 이름으로 서술되었으나, [ 19 ] 에서 보다 형식화가 이루어졌다. 판별 모델을 이용한 확장 [ 편집 ] 다른 종류의 확장은 표준 은닉 마르코프 모델의
은 특별한 규칙을 따른다 : n { [UNK] displaystyle n } 번째 공을 뽑기 위한 항아리는 무작위 숫자와 ( n - 1 ) { [UNK] displaystyle ( n - 1 ) } 번째 공을 뽑기 위해 선택한 항아리에만 영향을 받는다. 현재 항아리로부터 하나보다 더 전에 선택된 항아리는 현재 항아리의 선택에 직접적으로 영향을 주지 않는다. 이러한 규칙은 주로 마르코프 특성 ( Markov Property ) 이라 불리며, 따라서 이것은 마르코프 과정 ( Markov Process ) 이라고 불린다. 이에 대한 설명은 그림 1의 위쪽에 잘 나타나있다. 마르코프 과정 자체는 관측될 수 없고 오직 컨베이어 벨트 위의 공의 나열만 관측이 가능하기 때문에 " 은닉 마르코프 과정 " 이라고 불린다. 이는 그림 1의 아래 부분에 잘 나타나있다. 그림에서 묘사된
뿐 아니라 둘이나 셋 이전의 상태들의 영향을 받는 것을 허용하는 것이다. 이 경우 전이 확률은 인접한 세 상태를 포함하도록 확장된다. 이를 일반화하면 K { [UNK] displaystyle K } 개의 인접 상태를 포함하도록 확장할 수 있다. 이 모델의 문제점은 인접 상태들이 K { [UNK] displaystyle K } 개 있고, 전체 관측값이 T { [UNK] displaystyle T } 개 있을 때 ( 길이 T { [UNK] displaystyle T } 인 마르코프 연쇄 ), 학습을 위한 동적 프로그래밍 알고리즘이 O ( N K T ) { [UNK] displaystyle O ( N ^ { K } T ) } 의 실행 시간을 가진다는 것이다. 삼중 마르코프 모델 [ 편집 ] 다른 최근의 확장 형태는 삼중 마르코프 모델 ( triplet Markov model ) 이다. 이 모델에서
용에 기반하여 그 지역의 날씨를 예측해보려고 한다. 영희는 날씨가 이산 마르코프 연쇄로 동작한다고 믿는다. " 비 " 가 오거나 ( Rainy ) " 맑음 ( Sunny ) " 이라는 두 가지 상태가 있다는 것을 알지만 직접 관찰할 수 없기 때문에 정확히 알 수는 없다. 즉, 날씨는 영희에게 은닉 상태이다. 철수는 그 날의 날씨에 따라서 걷거나, 쇼핑을 하거나, 청소를 하고 영희는 전화 통화를 통해 그것들을 관찰 ( observations ) 한다. 이는 은닉 마르코프 모델의 좋은 비유가 될 수 있다. 영희는 그 지역의 일반적인 날씨의 경향성과 철수가 특정한 날씨에 주로 어떤 행동을 하는지에 대해 알고 있다. 즉, 영희의 은닉 마르코프 모델의 모수는 모두 알려져있다는 것이다. 이 파이썬 프로그래밍 언어로 다음
은닉 마르코프 모델 - 위키백과, 우리 모두의 백과사전 은닉 마르코프 모델 위키백과, 우리 모두의 백과사전. 둘러보기로 가기 검색하러 가기 기계 학습과 데이터 마이닝 문제 분류 클러스터 분석 회귀 분석 이상 발견 연관 규칙 강화 학습 구조 기반 예측 특성 공학 특성 학습 온라인 기계 학습 준 지도 학습 비 지도 학습 Grammar induction 지도 학습 ( 통계적 분류. 회귀 분석 ) 결정 트리 학습법 앙상블 학습법 ( 배깅, Boosting, 랜덤 포레스트 ) 최근접 이웃 탐색 k - NN 선형 회귀 나이브 베이즈 인공신경망 로지스틱 회귀 퍼셉트론 상관 벡터 머신 ( RVM ) 서포트 벡터 머신 ( SVM ) 클러스터 분석 BIRCH Hierarchical clustering k - 평균 알고리즘 기댓값 최대화 알고리즘 DBSCAN OPTICS Mean - shift 차원 축소 요인 분석 CCA 독립 성분 분석 LDA 음수 미포
은닉 마르코프 모형(영어: hidden Markov model, HMM)은 통계적 마르코프 모형의 하나로, 시스템이 은닉된 상태와 관찰가능한 결과의 두 가지 요소로 이루어졌다고 보는 모델이다. 관찰 가능한 결과를 야기하는 직접적인 원인은 관측될 수 없는 은닉 상태들이고, 오직 그 상태들이 마르코프 과정을 통해 도출된 결과들만이 관찰될 수 있기 때문에 '은닉'이라는 단어가 붙게 되었다. 은닉 마르코프 모형은 동적 베이지안 네트워크로 간단히 나타낼 수 있으며, 은닉 마르코프 모형의 해를 찾기 위해 전향-후향 알고리즘을 제안한 스트라토노빅의 최적 비선형 필터링 문제와 밀접한 관련이 있다. 한편 은닉 마르코프 모형에 사용된 수학적 개념들은 바움(L. E. Baum)과 그의 동료들에 의해 정립되었다.마르코프 연쇄와 같은 단순한 마르코프 모형에서는 상태를 관찰자가 직접적으로 볼 수 있으며, 그러므로 상태가 전이될 확률은 단순히 모수(parameter)들로 표현될 수 있다. 반면 은닉 마르코프 모형에서는 상태를 직접적으로 볼 수 없고 상태들로부터 야기된 결과들만을 관찰할 수 있다. 각각의 상태는 특정 확률 분포에 따라 여러 가지 결과를 도출해 낼 수 있으므로, 은닉 마르코프 모형로부터 생성된 결과들의 나열은 기저에 은닉된 상태들에 대한 정보들을 제공하고 있다고 생각할 수 있다. 여기서 단어 은닉(Hidden)이 모델의 모수를 가리키는 것이 아니라 모델이 거쳐가는 연속된 상태를 지칭하는 것에 주의해야한다. 은닉 마르코프 모형에서 모수들이 정확히 알려졌음에도 불구하고 여전히 '은닉' 마르코프 모형로 불리는 이유는 결과를 야기하는 상태들이 근본적으로 은닉되어있어 관찰할 수 없기 때문이다. 은닉 마르코프 모형은 시간의 흐름에 따라 변화하는 시스템의 패턴을 인식하는 작업에 유용하다. 예를 들어 음성 인식, 필기 인식(en:Handwriting recognition), 동작 인식(en:Gesture Recognition), 품사 태깅(en:Part-of-speech tagging), 악보에서 연주되는 부분을 찾는 작업, 부분 방전(en:Partial discharge), 생물정보학 분야에서 이용된다. 은닉 마르코프 모형은 은닉 변수가 독립되지 않고 마르코프 과정을 통해 변화하면서, 각 과정에서 혼합 요소를 선택하는 혼합 모델의 일반화로 볼 수 있다. 최근 이러한 은닉 마르코프 모형은 더 복잡한 자료 구조들과 안정적이지 않은 데이터들을 모델링할 수 있도록 이중 마르코프 모형, 삼중 마르코프 모형 등으로 일반화되고 있다.