망 Autoencoder 딥 러닝 다층 퍼셉트론 순환 신경망 LSTM GRU Restricted Boltzmann machine 자기조직화지도 합성곱 신경망 강화 학습 Q 러닝 SARSA 시간차 학습 이론 편향 - 분산 트레이드오프 Computational learning theory Empirical risk minimization PAC learning Statistical learning VC theory v. d. e. h 은닉 마르코프 모델 ( 영어 : hidden Markov model, HMM ) 은 통계적 마르코프 모델의 하나로, 시스템이 은닉된 상태와 관찰가능한 결과의 두 가지 요소로 이루어졌다고 보는 모델이다. 관찰 가능한 결과를 야기하는 직접적인 원인은 관측될 수 없는 은닉 상태들이고, 오직 그 상태들이 마르코프 과정을 통해 도출된 결과들만이 관찰될 수 있기 때문에'은닉'이라는 단어가 붙게 되었다. 은닉 마르코프 모델은 동적 베이지안 네트워크로 간단히 나타낼 수 있으며, 은닉 마르코프 모델의 해를 찾기 위해 전향 - 후향 알고리즘을 제안한 스트라토노빅 [ 1 ] 의 최적 비선형 필터링 문제와 밀접한 관련이 있다. 한편 은닉 마르코프 모델에 사용된 수학적 개념들은 바움 ( L. E. Baum ) 과 그의 동료들에 의해 정립
다. 마르코프 연쇄는 20세기 초반 물리학계의 중요한 연구 주제였던 브라운 운동과 에르고딕 가설과 연관성이 있는 것으로 밝혀져 많은 관심을 받았으나, 정작 마르코프 자신은 해당 마르코프 연쇄를 큰 수의 법칙을 서로 의존적인 사건들로 확장시키는 수학적 일반화의 관점을 선호하였다. 확률 및 통계학에서 마르코프 연쇄는 주로 이산 상태 공간을 가지며 마르코프 특성을 따르는 확률 과정을 의미한다. 은닉 마르코프 모델로의 발전 [ 편집 ] 1940년대 계산 과학의 급격한 발전과 더불어 비선형적이고 확률적인 시스템들의 해를 찾기 위한 알고리즘을 개발하기 위해 많은 과학자들이 이 분야에 뛰어들었다. 전향 - 후향 재귀법 ( forward - backward recursion ) 과 주변 다듬질 확률 ( marginal smoothing probability ) 등에 대한 이론이 스트라토노빅 ( Ruslan L. Stratonovich ) 에 의해 1950년대 후반 최초로 논의되었고 [ 1 ], 1960년대 후반 바움 ( Leonard E. Baum ) 에 의해 은닉 마르코프 모델의 모수들을 찾아내는 바움 - 웰치 알고리즘이 발표되면서 은닉 마르코프 모델에 대한 연구가 활발히 진행되기 시작하였다. 1967년 앤드루 비터비 ( Andrew Viter
수들이 정확히 알려졌음에도 불구하고 여전히'은닉'마르코프 모델로 불리는 이유는 결과를 야기하는 상태들이 근본적으로 은닉되어있어 관찰할 수 없기 때문이다. 은닉 마르코프 모델은 시간의 흐름에 따라 변화하는 시스템의 패턴을 인식하는 작업에 유용하다. 예를 들어 음성 인식, 필기 인식 ( en : Handwriting recognition ), 동작 인식 ( en : Gesture Recognition ), [ 7 ] 품사 태깅 ( en : Part - of - speech tagging ), 악보에서 연주되는 부분을 찾는 작업, [ 8 ] 부분 방전 ( en : Partial discharge ), [ 9 ] 생물정보학 분야에서 이용된다. 은닉 마르코프 모델은 은닉 변수가 독립되지 않고 마르코프 과정을 통해 변화하면서, 각 과정에서 혼합 요소를 선택하는 혼합 모델의 일반화로 볼 수 있다. 최근 이러한 은닉 마르코프 모델은 더 복잡한 자료 구조들과 [ 10 ] [ 11 ] 안정적이지 않은 데이터들을 모델링할 수 있도록 [ 12 ] [ 13 ] 이중 마르코프 모델, 삼중 마르코프 모델 등으로 일반화되고 있다. 목차 1 역사 1. 1 마르코프 연쇄 1. 2 은닉 마르코프 모델로의 발전 1. 3 은닉 마르코프 모델의 응용 2 항아리를
한다. 그러한 2단계 사전 분포는 두 집중 모수가 희소 분포를 생성하기 위해 설정된다. 그 분포는 어떤 품사가 다른 것보다 더 많이 발생하는 비지도 품사 추론의 예제를 위해 사용될 수 있다. 균등 사전 분포를 가정하는 학습 알고리즘은 일반적으로 이 작업에서는 제대로 기능하지 못한다. 비균등 사전 분포 등 과 같은 이러한 종류의 모델들의 모수들은 깁스 샘플링이나 기댓값 최대화 알고리즘의 확장 버전 등을 이용하여 학습된다. 앞서 설명 했던 디리클레 사전 분포를 이용한 은닉 마르코프 모델의 확장은 디리클레 분포 대신에 디리클레 과정을 사용한다. 이러한 종류의 모델은 알려지지 않고 잠재적으로 무한한 수의 상태를 감안한다. 앞서 설명한 2단계의 디리클레 분포와 비슷하게, 2단계 디리클레 과정은 자주 사용된다. 이러한 모델은 계층적인 디리클레 과정 은닉 마르코프 모델 혹은 HDP - HMM으로 줄여서 지칭된다. 이 모델은 원래 무한 은닉 마르코프 모델 ( Infinite Hidden Markov Model ) 이라는 이름으로 서술되었으나, [ 19 ] 에서 보다 형식화가 이루어졌다. 판별 모델을 이용한 확장 [ 편집 ] 다른 종류의 확장은 표준 은닉 마르코프 모델의
시간 t { [UNK] displaystyle t } 에서 k { [UNK] displaystyle k } 만큼 상태에서의 확률 분포를 묻는 것으로 이해할 수 있다. 해당 문제는 전향 - 후향 알고리즘으로 은닉 변수의 다듬질된 값을 구해낼 수 있다. 가장 가능성이 높은 설명에 대한 추론 [ 편집 ] 이 문제는 필터링이나 다듬질과는 달리, 특정한 관찰 결과들의 나열이 주어졌을 때 고려할 수 있는 전체 은닉 변수들에 대한 결합 확률들의 분포를 묻는다. 보통 이러한 유형의 문제는 필터링이나 다듬질이 적용되기 힘든 다른 종류의 문제들을 은닉 마르코프 모델을 이용하여 풀 때 적용가능하다. 가장 대표적인 예로는 품사 추론이 있다. 품사 추론이란 특정한 단어들의 나열이 주어졌을 때, 해당 단어들의 품사들을 추론하는 문제이다. 이 문제에 은닉 마르코프 모델을 적용한다면 관찰된 결과는 주어진 단어들의 나열에 해당하고, 은닉 변수들은 단어들의 품사로서 생각될 수 있다. 만약 이 문제에 필터링이나 다듬질 기법을 적용한다면 오직 한 단어의 품사만을 고려하게 되지만, 앞서 언급한 방법론은 각각의 품사들을 전체적인 문맥을 고려하여 추론하게 된다. 해당 방법론은 가능한 모든 은닉 변수들
의해 은닉 마르코프 모델의 모수들을 찾아내는 바움 - 웰치 알고리즘이 발표되면서 은닉 마르코프 모델에 대한 연구가 활발히 진행되기 시작하였다. 1967년 앤드루 비터비 ( Andrew Viterbi ) 는 동적 프로그래밍을 이용하여 관찰된 사건들이 도출될 확률이 가장 높은 은닉 상태들의 순서를 찾아내는 비터비 알고리즘을 발표하였다. 은닉 마르코프 모델의 응용 [ 편집 ] 은닉 마르코프 모델은 1970년대 음성 인식 분야에서 응용되기 시작하였으며, 1980년대 후반에는 DNA의 서열을 분석하는 데 사용되기 시작하였다. [ 15 ] 현대에는 음성 인식, 계산언어학, 생물정보학등에 사용되고 있다. 항아리를 이용한 설명 [ 편집 ] 그림 1. 은닉 마르코프 모델의 확률 모수들 ( 예시 ) X - 상태들 y - 얻을 수 있는 관측값들 a - 상태 전이 확률들 b - 출력 확률들 은닉 마르코프 모델의 이산적인 ( Discrete ) 관점에서 은닉 마르코프 모델은 복원 추출을 하는 항아리 문제를 일반화 시킨 것이라고 볼 수 있다. [ 16 ] 다음과 같은 예제를 생각해 보자. 관측자에게 보이지 않는 방이 있고, 그 안에 요정이 있다. 방에는 항아리 X 1, X 2, X 3
노빅 [ 1 ] 의 최적 비선형 필터링 문제와 밀접한 관련이 있다. 한편 은닉 마르코프 모델에 사용된 수학적 개념들은 바움 ( L. E. Baum ) 과 그의 동료들에 의해 정립되었다. [ 2 ] [ 3 ] [ 4 ] [ 5 ] [ 6 ] 마르코프 연쇄와 같은 단순한 마르코프 모델에서는 상태를 관찰자가 직접적으로 볼 수 있으며, 그러므로 상태가 전이될 확률은 단순히 모수 ( parameter ) 들로 표현될 수 있다. 반면 은닉 마르코프 모델에서는 상태를 직접적으로 볼 수 없고 상태들로부터 야기된 결과들만을 관찰할 수 있다. 각각의 상태는 특정 확률 분포에 따라 여러가지 결과를 도출해 낼 수 있으므로, 은닉 마르코프 모델로부터 생성된 결과들의 나열은 기저에 은닉된 상태들에 대한 정보들을 제공하고 있다고 생각할 수 있다. 여기서 단어 은닉 ( Hidden ) 이 모델의 모수를 가리키는 것이 아니라 모델이 거쳐가는 연속된 상태를 지칭하는 것에 주의해야한다. 은닉 마르코프 모델에서 모수들이 정확히 알려졌음에도 불구하고 여전히'은닉'마르코프 모델로 불리는 이유는 결과를 야기하는 상태들이 근본적으로 은닉되어있어 관찰할 수 없기 때문이다. 은닉 마르코프 모델은 시간의 흐름에
있다. 위의 문제는 비터비 알고리즘을 통하여 해를 찾을 수 있다. 은닉 마르코프 모델은 다양한 추론 문제들과 깊은 관련을 가지고 있다. 그러한 추론 문제들에 대한 예시들은 아래와 같다. 일련의 사건들이 관찰될 확률에 대한 추론 [ 편집 ] 이 추론의 목표는 어떠한 일련의 사건들이 순서대로 관찰되었을 때, 우리가 가지고 있는 확률 모델에 기반하여 해당 사건들이 관측될 확률을 계산하는 것이다. 즉, Y = y ( 0 ), y ( 1 ),..., y ( L - 1 ) { [UNK] displaystyle Y = y ( 0 ), y ( 1 ), [UNK] dots, y ( L - 1 ) [UNK], } 와 같은 순서로 총 L개의 사건들 ( Y ) 이 관측되었다고 가정해보자. 그러한 사건이 일어날 확률은 P ( Y ) = [UNK] X P ( Y [UNK] X ) P ( X ), { [UNK] displaystyle P ( Y ) = [UNK] sum - { X } P ( Y [UNK] mid X ) P ( X ), [UNK], } 와 같이 각 사건 y ( n ) { [UNK] displaystyle y ( n ) } 이 일어날 수 있는 확률들의 합이다. 여기서 각각의 관측되는 사건은 은닉 변수 ( Hidd
이 정규 분포를 따른다고 이야기 할 수 있다. 출력된 결과값이 둘 이상의 혼합 정규 분포에 의해 표현된다면 훨씬 더 복잡한 시스템을 표현할 수도 있다. 이 경우 특정 결과가 관찰될 확률은 정규 분포들 중에서 하나를 선택할 확률과 그 정규 분포에서 해당 관측 값을 출력할 확률의 곱이 된다. 추론 문제에의 응용 [ 편집 ] 이 다이어그램에서 붉은 화살표는 전이 확률을, 검은 화살표는 출력 확률을 의미한다. 화살표가 진할 수록 확률이 높다는 의미이다. 아래의 관찰된 결과들 ( 아랍어, 별, 네모, 별, 별, 골뱅이 ) 이 관찰되었을 때 우리가 주로 관심있는 것은 해당 관찰된 결과를 출력한 상태들의 나열이다. 위의 주어진 다이어그램에 기반하면 아래와 같은 상태의 순서들이 후보로 추려질 수 있다 : 5 3 2 5 3 2 4 3 2 5 3 2 3 1 2 5 3 2 가장 가능성이 높은 상태들의 나열은 각각의 경우에 대하여 해당 상태가 나열될 확률과 주어진 관찰결과가 도출될 확률의 결합 확률로 표현될 수 있다. 위의 문제는 비터비 알고리즘을 통하여 해를 찾을 수 있다. 은닉 마르코프 모델은 다양한 추론 문제들과 깊은 관련을 가지고 있다. 그러한 추론 문제들에 대한 예시들
이중 마르코프 모델, 삼중 마르코프 모델 등으로 일반화되고 있다. 목차 1 역사 1. 1 마르코프 연쇄 1. 2 은닉 마르코프 모델로의 발전 1. 3 은닉 마르코프 모델의 응용 2 항아리를 이용한 설명 3 은닉 마르코프 모델의 구조 3. 1 은닉 변수 3. 2 은닉 변수의 상태 공간 3. 3 전이 확률 3. 4 출력 확률 3. 5 출력 확률의 확률 분포 4 추론 문제에의 응용 4. 1 일련의 사건들이 관찰될 확률에 대한 추론 4. 1. 1 전향 알고리즘 ( Forward algorithm ) 4. 2 특정 은닉 변수에 대한 확률 추론 4. 2. 1 필터링 ( Filtering ) 4. 2. 2 다듬질 ( Smoothing ) 4. 2. 3 가장 가능성이 높은 설명에 대한 추론 4. 3 통계적 유의성 5 구체적인 예제 6 은닉 마르코프 모델의 학습 7 확장 7. 1 연속적 상태 공간으로의 확장 7. 2 다양한 사전 분포로의 확장 7. 3 판별 모델을 이용한 확장 7. 4 차례곱 은닉 마르코프 모델 7. 5 삼중 마르코프 모델 8 수학적 서술 8. 1 보편적 서술 8. 2 단순 혼합 모델과의 비교 8. 3 예시 8. 4 두 단계 베이지안 은닉 마르코프 모델 9 은닉 마르코프 모델의 응용 9. 1 음성 인식에의 응용 9. 2 생물정보학에의
은닉 마르코프 모형(영어: hidden Markov model, HMM)은 통계적 마르코프 모형의 하나로, 시스템이 은닉된 상태와 관찰가능한 결과의 두 가지 요소로 이루어졌다고 보는 모델이다. 관찰 가능한 결과를 야기하는 직접적인 원인은 관측될 수 없는 은닉 상태들이고, 오직 그 상태들이 마르코프 과정을 통해 도출된 결과들만이 관찰될 수 있기 때문에 '은닉'이라는 단어가 붙게 되었다. 은닉 마르코프 모형은 동적 베이지안 네트워크로 간단히 나타낼 수 있으며, 은닉 마르코프 모형의 해를 찾기 위해 전향-후향 알고리즘을 제안한 스트라토노빅의 최적 비선형 필터링 문제와 밀접한 관련이 있다. 한편 은닉 마르코프 모형에 사용된 수학적 개념들은 바움(L. E. Baum)과 그의 동료들에 의해 정립되었다.마르코프 연쇄와 같은 단순한 마르코프 모형에서는 상태를 관찰자가 직접적으로 볼 수 있으며, 그러므로 상태가 전이될 확률은 단순히 모수(parameter)들로 표현될 수 있다. 반면 은닉 마르코프 모형에서는 상태를 직접적으로 볼 수 없고 상태들로부터 야기된 결과들만을 관찰할 수 있다. 각각의 상태는 특정 확률 분포에 따라 여러 가지 결과를 도출해 낼 수 있으므로, 은닉 마르코프 모형로부터 생성된 결과들의 나열은 기저에 은닉된 상태들에 대한 정보들을 제공하고 있다고 생각할 수 있다. 여기서 단어 은닉(Hidden)이 모델의 모수를 가리키는 것이 아니라 모델이 거쳐가는 연속된 상태를 지칭하는 것에 주의해야한다. 은닉 마르코프 모형에서 모수들이 정확히 알려졌음에도 불구하고 여전히 '은닉' 마르코프 모형로 불리는 이유는 결과를 야기하는 상태들이 근본적으로 은닉되어있어 관찰할 수 없기 때문이다. 은닉 마르코프 모형은 시간의 흐름에 따라 변화하는 시스템의 패턴을 인식하는 작업에 유용하다. 예를 들어 음성 인식, 필기 인식(en:Handwriting recognition), 동작 인식(en:Gesture Recognition), 품사 태깅(en:Part-of-speech tagging), 악보에서 연주되는 부분을 찾는 작업, 부분 방전(en:Partial discharge), 생물정보학 분야에서 이용된다. 은닉 마르코프 모형은 은닉 변수가 독립되지 않고 마르코프 과정을 통해 변화하면서, 각 과정에서 혼합 요소를 선택하는 혼합 모델의 일반화로 볼 수 있다. 최근 이러한 은닉 마르코프 모형은 더 복잡한 자료 구조들과 안정적이지 않은 데이터들을 모델링할 수 있도록 이중 마르코프 모형, 삼중 마르코프 모형 등으로 일반화되고 있다.