関係性の解析では、行列分解によって、A-B型の行列を2つの行列の積に分ける事があります。複雑な行列の特徴が簡単に表現できる事があります。Aの特徴をDで表現でき、Bの特徴もDで表現できるようになります。このため、Dの要素は、特徴やパターンと呼ばれます。一般的に知られているクラスター分析とは異なります。場合は、パターンは「トピック」や「潜在意味」と呼ばれます。この分析は、「トピックモデル」と呼ばれています。それぞれの単語が、どのような分野でよく使われるかが解析でき、また、それぞれのテキストがどのような分野のものなのかが解析できるようになります。(応用として、単語が分かれば、そのテキストの分野が当てられる(予測できる)ようになります。行列の分解は、「特異値分解」と呼ばれる代数学の方法が、比較的古くから採用されて来たそうです。Indexing、Analysis)とも呼ばれます。特異値分解は、Rなどのソフトでは「SVD」という名前です。Allocation)と呼ばれる方法が発達したそうです。(NMF)」として分解する方法もあります。この分解によるパターンは独立にはならないですのですが、これはデータによっては、望ましい性質です。良い分類にはなりません。このような単語は、どの分類にも振り分けられるようにして、頻度の少ない単語で分類した方が、良い分類になりやすいです。独立にならない性質は、テキストデータのこのような性質に対して、うまく機能してくれます。その手法として、特異値分解、LSI、PLSI、NMFが紹介されています。次元縮約は、高次元行列のクラスタリングの前処理として行われる場合と、これのみでクラスタリングとして使われる場合がある。LSIは、特異値分解そのもの。NMFは縮約後の軸が直交しない。この特徴はテキストの分類の用途には適している。ファジィクラスタリングは、ソフトクラスタリングの別名。混合分布モデルやNMFは、ソフトクラスタリングの一種。c-meansがファジィクラスタリングと呼ばれている事がある。クラスター分析を解説しています。スタートするものもあるそうです。2016関係データとは、行列の値が2つのものの関係性を表しているデータの事です。関係データの扱い方について、2016年時点までの最新の情報をまとめているそうです。分析の目的は知識抽出と予測。知識抽出としてクラスタリング。予測は欠損値の推定を使う。2章が固有値問題による行列のクラスタリング。3章がクラスターを仮定し確率モデルとしてクラスタリング。モデルの作り方で分析してわかる事が変わるので、考える事が多いのが難点。4章が行列分解で、i行j列の行列を、i行k列とk行j列の行列の積にする方法。kとして出て来るものが、元の行列のパターンを表す。自然言語処理の分野では、このパターンはトピックとして解釈される。行列の分解をするための最適化計算のアルゴリズムが、丁寧にまとまっています。5章6章で行列分解がテンソルに拡張される。行列分解では2つの事柄の関係までしか分析できないが、テンソルが扱えると、3つ以上でも扱える。3つ目を時系列データにすると、時系列解析にもなる。行列の分解には、A-Bの行列をi-k、k-k、k-jの行列に分解する方法があります。テンソル分解のタッカー分解は、k-kのような部分を作る所が似ています。この本は、前半が行列を固有値なので、そのままの形で要約するアプローチで、後半は行列やテンソルに分解して要約するアプローチです。著者が違うせいかもしれませんが、これらのアプローチの関係がよくわかりませんでした。RでNMFをする手順は、下記を参考にさせていただきました。約20ページで、潜在意味解析の概要を学び、Rで実際に実施してみるところまで、できるようになっています。2015p.24までで、トピックモデルがどういうものであるのかを、丁寧に解説しています。いう3つの行列の積にする性質があるそうです。このモデルの問題の解決として、統計的なモデルが構築されたそうです。文書の時系列モデリングの章が続きます。2015確率モデルのバリエーションを、数学の言葉で説明している本です。