緯度経度情報追加による
行動履歴分散表現の高精度化
佐賀健志 田中宏季 中村哲
理化学研究所 革新知能統合研究センター 観光情報解析チーム
奈良先端科学技術大学院大学 知能コミュニケーション研究室
2021/6/11
2021©Saga Riken-AIP TIA1
JSAI2021, 2D1-OS-6-03
移動経路の傾向分析を行うことで効果的な観光戦略や商品開発等に活用
– 問題点：データ量が膨大かつ多様で分析が難しい
2021/6/112021©Saga Riken-AIP TIA2/10
経路の長さや通過箇所がバラバラ
– 経路の意味を固定長のベクトル化：分散表現
分散表現に基づく分析
分散表現を用いた移動系列の類似度による人流解析 [Crivellari+ 2019]
– 行動近接性（移動系列の意味的な近さ）を考慮– Mesh2Vec (Word2Vecを人の移動系列に適用)
2021/6/112021©Saga Riken-AIP TIA3/10
ID:12345
ID:12344
ID:12565
ID:12123
各地点のID番号
BiLSTMに基づく分散表現の導入
BiLSTM分散表現と階層的クラスタリングによる人流解析 [田中ら 2020]
– BiLSTMを用いることで移動系列のコンテキストを考慮した分散表現を獲得
• 行動予測ではなく行動分析を目的としているため順路の順方向・逆方向を区別しない
– 階層的クラスタリングを用いることで類似した系列をグルーピング– 系列の分散表現 -> 階層的クラスタリング
2021/6/112021©Saga Riken-AIP TIA4/10
各地点のID系列
類似度を考慮してグルーピング
今回のベースラインモデル
– 入力として離散的なMesh-IDのみを使用
先行研究の課題
– 各地点の位置（緯度経度）情報が明示的に示されていない
2021/6/112021©Saga Riken-AIP TIA5/10
離散的なMesh-IDと連続的な緯度経度情報に基づいた分散表現の獲得
及び階層的クラスタリングを通した妥当性の検討
ID:12345, Lat: 35.01, Long: 135.13
ID:12344Lat...Long...
ID:12565Lat...Long..
ID:12123Lat...Long..
移動系列のID系列
提案手法の概要
目的：時系列分散表現に基づく人流クラスタリング
– 入力として位置情報を追加したBi-LSTMによる移動系列の分散表現の獲得– 階層的クラスタリングを用いた入力への位置情報追加の妥当性検討
2021/6/112021©Saga Riken-AIP TIA6/10
移動系列の分散表現獲得（表現獲得）
分散表現を用いた
クラスタリング（グルーピング）
+緯度経度情報
明示的に位置情報を入力
位置関係を正確に考慮した分散表現の獲得を目指す
2021/6/112021©Saga Riken-AIP TIA7/10
移動系列の分散表現獲得（表現獲得）
分散表現を用いた
クラスタリング（グルーピング）
+緯度経度情報
Step.1Step.2
具体的な概略図
2021/6/112021©Saga Riken-AIP TIA8
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列（埋め込み層含む）
緯度経度系列
次のMesh-ID予測
次の緯度経度予測
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列（埋め込み層含む）
緯度経度系列
Step.1
Step.2
ベースラインモデルと提案モデル
2021/6/112021©Saga Riken-AIP TIA9
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列（埋め込み層含む）
緯度経度系列
次のMesh-ID予測
次の緯度経度予測
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列（埋め込み層含む）
次のMesh-ID予測
ベースラインモデル提案モデル
提案モデルの詳細
2021/6/112021©Saga Riken-AIP TIA10
予測対象 : - 最終Mesh-ID- 最終緯度(Lat)- 最終経度(Long)
損失関数（最適化対象） : 
Lmesh: 交差エントロピー損失
L{Lat,Long} : 二乗平均誤差α, β: 定数（1:1）
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列（埋め込み層含む）
緯度経度系列
次のMesh-ID予測
次の緯度経度予測
階層的クラスタリング
– クラスタ決定法：ウォード法
– 距離指標：コサイン距離
– クラスタ距離閾値 ：1.2
データセット（提供：Agoop Corp）– 対象地域： 東京都
– メッシュ幅： 100m
– 総メッシュ数（面積より算出）： 219,396（うち81,897が対象期間に含まれる）
– 対象期間： 7-10月, 2020年
– BiLSTM学習対象ユーザ数： 8,768,203
– クラスタリング対象ユーザ数： 24
2021/6/112021©Saga Riken-AIP TIA11/10
実験結果・考察 (1)
2021/6/112021©Saga Riken-AIP TIA12
提案モデル(Mesh-ID + 緯度経度)
緯度損失(MSE)
提案モデル(Mesh-ID + 緯度経度)
Mesh-ID交差エントロピー損失
ベースラインモデル(Mesh-IDのみ)
Mesh-ID交差エントロピー損失
- Top-1 Accuracy- 予測対象クラス数81,897
実験結果・考察 (2)
2021/6/112021©Saga Riken-AIP TIA13
従来手法提案手法
緯度経度情報をモデルの入力に加えることで位置情報を考慮した分散表現が獲得でき、クラスタリング結果も妥当なものになった
Bi-LSTMの入力としてMesh-IDと位置情報(緯度経度)を与えることで正確に位置情報を考慮した分散表現を生成し、クラスタリング結果の妥当性を示した
クラスタリング結果の解釈手法の検討
入力データのフィルタリング形式の検討
2021/6/112021©Saga Riken-AIP TIA14/10
2021/6/112021©Saga Riken-AIP TIA15 / Z 
デモシステム
2021/6/112021©Saga Riken-AIP TIA16
解析対象データ（提供：Agoop Corp）– 場所: 東京都
– 期間: 7-10/2020
– 位置精度: < 100m
– 最小系列長: 30
– Subcategory : departure/arrival
• 仕様の関係からiOS端末のみ対象
2021/6/112021©Saga Riken-AIP TIA17/10
機械学習モデル : Bi-LSTM
クラスタリング : 凝集型階層的クラスタリング
2021/6/112021©Saga Riken-AIP TIA18
コーフェン相関係数
2021/6/112021©Saga Riken-AIP TIA19
コサイン類似度
2021/6/112021©Saga Riken-AIP TIA20
2021/6/112021©Saga Riken-AIP TIA21
2021/6/112021©Saga Riken-AIP TIA22
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列（埋め込み層含む）
緯度経度系列
次のMesh-ID予測
次の緯度経度予測
Bi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列（埋め込み層含む）
緯度経度系列
次のMesh-ID予測
次の緯度経度予測
2021/6/112021©Saga Riken-AIP TIA23
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列（埋め込み層含む）
緯度経度系列
次のMesh-ID予測
次の緯度経度予測
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列（埋め込み層含む）
次のMesh-ID予測
次の緯度経度予測
2021/6/112021©Saga Riken-AIP TIA24
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Bi-LSTMBi-LSTMBi-LSTMBi-LSTM
Mesh-ID系列
緯度系列経度系列