アルゴリズムによって近似解を求めることができる。アルゴリズムを紹介する。論文のレビューを行う。Data)に対してガウス仮定回帰を適用する方法を、[1]~[3]を中心に紹介します。概要:ランダムフォレスト(RF)は,treeを弱学習器として用いるアンサンブル学習の手法の一つである。一般化ランダムフォレスト(GRF)は,[1]で提案された重みの計算にRFを用いる手法で,従来のRFで対象としていた条件付き平均の推定のみならず,条件付分位点をはじめ,興味のある様々なパラメータ関数の推定を理論的にまとめて扱うことのできる方法である。本発表では,まずi.i.d.データに対するGRFの漸近分布の導出過程について説明する。GRFの定義に沿う形でNadaraya-Watson(NW)型の推定量を定め,GRFの重み関数とNW型の重み関数とが近似可能である事,NW型の重みを用いた重み付き平均がNW推定量の漸近的性質[2],[3]を変わらず持つ事等を確認し,GRFによる推定量の漸近分布を導出する。続いて,時系列データに対するGRFの漸近理論という最終的な目標に向けての,現時点で考えている道筋を紹介する。α-mixingな定常過程に対して有効なWeighted-NW(WNW)推定量[4]を介することで,i.i.d.の場合と同様の流れで漸近分布を導出し得ることを述べる。概要:階層ベイズモデルとは、データを生成する確率分布を階層的に構築し、パラメータの推定や予測を行う統計モデルである。Jensen(2023)のベイジアンクラスタリングを用いた階層ベイズモデルについて紹介する。この研究では、フィラデルフィアを384の小地区に分割し、各小地区の犯罪密度の時間的推移を推定することを目的としている。犯罪密度のパラメータは、近隣間の空間的依存性を考慮してモデリングされる。パラメータ間の依存性を表現するために、2種類のパラメータそれぞれに対して小地区をクラスターに分割し、クラスターごとに独立な条件付き自己回帰(CAR)モデルを適用する。CARモデルは、空間的な相互作用を捉えるためのモデルである。事後分布の計算が非常に複雑で計算負荷が高いため、すべてのパーティクルを特定する代わりに、大きな事後分布を持つパーティクルを使用して犯罪密度を変分近似する方法を採用する。これにより、計算の効率を向上させつつ、モデルの複雑性を取り扱う。この階層ベイズモデルでは、各小地区の犯罪密度の時間的推移を、階層的な構造とクラスタリングによってモデル化する。それぞれの小地区における犯罪密度の推定には、時間的な依存性と空間的な依存性が考慮されている。最後にシミュレーションを行い、分割と犯罪密度の予測結果を紹介する。概要:カーネル法の基本的なアイディアは、データを元の空間から、特徴写像を用いて、高次元の特徴空間に写し、特徴空間上で解析をするというものです。元の空間上では非線形な構造を持っていたデータに対して、特徴空間上では線形な関係を見出せることが、カーネル法を用いる最大の利点です。本発表では、はじめに、カーネル法の理論について扱い、主に再生核ヒルベルト空間やカーネル関数の定義とその性質について取り上げます。次に、カーネル法における代表的な定理である「Reperesenter定理」を取り上げ、損失関数に正則化を加えて最適化する問題における解は、カーネル関数の有限次元の線形結合で表せることを示します。カーネル法は、サポートベクトルマシーン、平滑化スプライン、ガウス過程回帰など、様々なデータ解析手法の基礎となっています。最後に、カーネル法による統計手法の一例として、カーネル主成分分析についてご紹介します。概要:ランダムフォレストにおける特徴量重要度とは、モデルの解釈性の低さを回避する目的で導入される、ある特徴量がモデルの予測に与える影響の大きさを測る尺度のことである。特徴量重要度にはいくつか種類があり、それぞれ異なる基準をもとに構成される。criterionについて紹介する。criterionは決定木を構成する際に分割点を決定する基準である。次に、これを用いて特徴量重要度の一つであるMDIを定義する。ここでは別の特徴量重要度であるMDAとの比較も行う。続いて、加法モデルや乗法モデルを含む特定のモデルの下におけるMDIの漸近的性質について、Scornet(2021)の結果を引用する形で紹介する。概要:F1スコアを用いて、ペアデザインにおける2つの検査法の性能を比較する際の検定手法を紹介する。ペアデザインでは、同一の個体に対して2つの検査を行うため、検査結果間に相関が生じる可能性がある。本発表では、F1スコアの差の漸近分布に基づいてWald統計量を構築する方法を紹介する。シミュレーションにより、その手法が有意水準を正しく制御し、十分な検出力を持つことを確認する。概要:疫学や心理学の統計的データ解析では、研究対象が事象の生起回数(カウントデータ、計数データ)であることが多く、カウントデータの分布を表すモデルとしてポアソン回帰モデルや負の二項回帰モデルが通例である。現実のデータ解析ではゼロが多く含まれることが多く、そのような場合にはカウントデータの分布と過剰なゼロの分布に分けたモデルを適用し、過剰なゼロを考慮する必要がある。2011]に焦点を当て、モデルの構造および回帰モデル、EMアルゴリズムを用いた推定方法について紹介する。2012]について、AICを用いて比較する。(2017)で提案されたものであり、GPTをはじめ、現在の機械翻訳分野の多くのモデルの基礎となっているモデルである。(2014)で提案されたAttentionを基にモデルが構築されており、これにより、文脈の意味を機械に理解させながら学習することが可能になっている。従来のモデルで扱われていたRNNやCNNといった構造を使わないため計算時間の点で優れている。本発表ではAttentionを解説したのちにTransformerの内部にそれがどのように使われているかを説明する。(LDA)の確率的な定式化であり、クラス間の変動を表す潜在変数とクラス内の変動を表す潜在変数を導入することで、特徴抽出と認識を同時に行うことができる。PLDAではガウス分布に基づくノイズを仮定しているため、大きなノイズが入っている画像の影響を強く受けるという問題点がある。Hu(2022)ではガウス分布に基づくノイズの代わりにラプラス分布に基づくノイズを仮定したL1-PLDAモデルを提案している。L1-PLDAモデルでは、新たな潜在変数を導入し、ラプラス分布を無限個のガウス分布の重ね合わせで表現することで、変分EMアルゴリズムによるパラメータ推定を可能としている。本発表では、L1-PLDAモデルについて紹介し、特にラプラス分布の扱い方に焦点を当てて説明する。AbstractBayes推論において、真の事後分布を解析的に計算することは一般的に困難であるため、事後分布を近似する必要がある。Markov連鎖モンテカルロ法は、理論的に真の事後分布が得られるが、推論が遅いという欠点がある。変分推論は高速に近似分布が得られるが、近似事後分布の空間をアドホックに設定する必要があり、計算量と近似精度が設定に依存するという問題がある。Descent(SVGD)は、ノンパラメトリックな変分推論アルゴリズムであり、既存の変分推論アルゴリズムよりも汎用的である。本発表ではSVGDの導出を行う。MRCT)は、複数の国の患者を対象として世界規模で行われる治験のことである。複数の地域で同時に治験を行うことで、地域間での新薬の上市のラグを少なくし、またコスト削減に繋がることがメリットである。MRCTの結果が、特定の地域での有効性の検証に用いられるプロセスは、2つの段階に分けられる。第1段階では、全地域からなる集団の解析により、新薬の有効性が検証される。第2段階では、全地域での結果を特定の地域に適用可能かを検証する。trial(LCT)を行ない、特定地域での有効性を検証する。ethnicの情報を、重み付き検定統計量によって結合して解析を行う。(NGSF)を提案している。NGSFでは、LCTの段階で中間解析が行われ、新薬の有効性が示された解析時点で試験を終了する。これにより、被験者数の削減や試験期間の短縮に繋げることができる。本発表では、NGSFの被験者数設定について紹介する。概要:製造業における製品設計の工程において、目標性能を満たすか物理シミュレーションを行う工程が存在する。計算コストが作成したメッシュに依存して増加する点などの問題点が存在する。関連した研究も多数報告されている。課題がまだ残されており、その性質の解析が必要とされている。今後の研究方針について説明する。概要:ランダムフォレスト(RF)は,treeを弱学習器として用いるアンサンブル学習の手法の一つである。quantileをはじめ,興味のある様々なパラメータ関数の推定を行うことができる。本発表では,時系列データに対するGRFの漸近理論の構成という最終的な目標に向けての,現時点で考えている道筋を紹介する。IIDにおけるGRFの概要について述べ,Nadaraya-Watson(NW)推定量へとGRFを近似することにより,その枠組みでの漸近理論が利用できるようになることを確認する。NW推定量について構成法と漸近理論を紹介し,時系列に対するGRFの理論への応用が期待されることについて述べる。概要:階層ベイズモデルとは、データを生成する確率分布を階層的に構築し、パラメータの推定や予測を行う統計モデルである。Jensen(2023)のベイジアンクラスタリングを用いた階層ベイズモデルについて紹介する。この研究では、フィラデルフィアを384の小地区に分割し、各小地区の犯罪密度の時間的推移を推定することを目的としている。犯罪密度のパラメータは、近隣間の空間的依存性を考慮してモデリングされる。パラメータ間の依存性を表現するために、2種類のパラメータそれぞれに対して小地区をクラスターに分割し、クラスターごとに独立な条件付き自己回帰(CAR)モデルを適用する。CARモデルは、空間的な相互作用を捉えるためのモデルである。Ewens-Pitman)分布を用いる。T-EP分布は、中国料理店過程の確率分布をクラスター数を調節するために拡張した確率分布である。事後分布の計算が非常に複雑で計算負荷が高いため、すべてのパーティクルを特定する代わりに、大きな事後分布を持つパーティクルを使用して犯罪密度を変分近似する方法を採用する。これにより、計算の効率を向上させつつ、モデルの複雑性を取り扱う。この階層ベイズモデルでは、各小地区の犯罪密度の時間的推移を、階層的な構造とクラスタリングによってモデル化する。それぞれの小地区における犯罪密度の推定には、時間的な依存性と空間的な依存性が考慮されている。概要:医薬品や医療機器が市場で販売されるためには、臨床試験において安全性や有効性を示して厚生労働省に承認されることが必要である。臨床試験における新薬の有効性は統計的仮説検定により検証される。endpoint(疾患の改善度合いの評価の指標)が用いられ、それに対する確率変数を用い仮説検定が行われる。endpoint)を試験に用いることが必要な場合がある。endpointを設定して試験が行われる。ある薬剤を投与される患者数などの削減のためにサンプルサイズは少ない方が望ましい。testにより行うと、必要なサンプルサイズが多くなってしまうことが問題である。(2010)で提案されている。space:帰無仮説の母数空間の範囲を、現実的な範囲に狭くした空間)。Overfitting)という現象がみられるようになった。これはパラメータを増やし訓練誤差が0になるまで学習することで、汎化性能が良くなる、またノイズにも強くなる現象である。今回の発表では、線形回帰においての良性過適合がおきることを示す定理と、あるモデルに従うデータにおいて、隠れ一層ニューラルネットを勾配法で学習させたときに良性過適合が起きることを表す定理を紹介する。概要:臨床試験での治療効果の推定における共変量調整の必要性は広く議論されている。IIの方が良いモデルであることを示している。2群の場合ではその良さが発揮されにくいことがわかっている。IIというモデルが存在する。これらは、予後スコアを共変量として含むモデルである。予後スコアとは、ヒストリカルデータから導出される共変量のことであり、近年、ヒストリカルデータの活用が注目されている。II推定量のセミパラメトリック有効性を証明している。一般的な条件下でのモデルの比較はほとんど行われていない。IIの類似性を検証し、これらのモデルを比較する。概要:実世界の異常検知において事前に全ての異常のタイプを収集することの難しさや、ラベル付けのコストの観点から、教師なし学習や半教師あり学習が用いられることが主流である。Outliers)[1]は、半教師ありの問題設定で動作する異常検知手法であり、クラスタリングを基に異常スコアを計算し、与えられたラベルを基に異常スコアを更新する。(2018)の論文を基に、SSDOについて紹介したのち、修士論文で扱う電池データにSSDOを適応する際の展望を述べる。概要:ホタルは種およびオス・メスによって発光の特徴が異なる。愛知県東浦町でビデオ撮影したオスとメスの発光の観察データと、ホタルの発光と同じように光る人工的な電子ボタルを用いたオスの誘引成否の実験データに基づいて、ホタルの発光と交尾相手を探す際の「意思」決定について統計的推測を行い、ホタルが特徴的な光り方をする理由について考察する。本研究は、ホタル愛好家の高津英夫氏と生物学者の吉村仁氏/大場裕一氏との共同研究であり、観察データ、実験データはすべて高津氏が取得したものである。概要:製造業全般において、CADなどで作成した製品デザインに対し、目標性能を満たすかシミュレーションを行う工程が存在する。シミュレーションは微分方程式を数値計算によって解く方法が標準的だが、(3D)モデルのメッシュ化・境界条件の設定などに時間を要している。Kernel(NTK)を用いた学習理論によって説明する。Diffusionなどの画像生成AIの発展が著しい。learningの略称である。learningは事例xに対して二値のラベルyの確率p(y=1|x)を予測する問題であり、ラベルデータが正例(y=1)の一部のみに与えられている。ラベル付けされている事例をs=1とし、ラベル付けをされていない事例をs=0とし、g(x)=p(s=1|x)を学習し、補題を用いてg(x)からf(x)を得る。learningの重要な補題を中心に基本的な方法について説明し、今後の研究の展望についてお話しする。AI(XAI)とは、機械学習モデルによる予測の根拠を抽出する手法である。このXAIに対し、ゲーム理論の指標であるShapley値を応用する手法がSHAPである。SHAPには、予測結果と根拠の因果関係を正しく表すことが出来ていないという課題がある。al.[1]に基づき、SHAPの抱える課題を説明する。al.[2]に基づき、Shapley値の対称性公理を緩和することによって、既知の因果関係を導入する方法について紹介する。Processes)がある。行列式点過程では抽出するサンプルの出現確率を、要素そのものの出現頻度(quality)と要素同士の相違性(diversity)の2つの表現を内包させた行列の行列式で与える。今回の発表では、まず連続空間からサンプリングする場合のDPPの定義を与える。積分近似手法であるモンテカルロ積分への応用例を紹介する。概要:臨床試験において治療効果を推定する際、共変量調整を行うべきかどうかは長年の問題であった。(2008)によれば、共変量調整を行っても推定の精度が常に向上するとは限らないからである。(2022)では、共変量調整を行うANHECOVAモデルについて、有効性の向上や幅広い適用性について理論的な保証を与えた。(2022)を基に、単純無作為化の下でのANHECOVA推定量の性質について紹介する。概要:ランダムフォレスト(RF)とは,treeを弱学習器として用いるアンサンブル学習の手法の一つである。[1]に基づき,適切な仮定の下で構成したRFによる推定量が漸近的に正規分布に従うことを見る。trees(BART)モデルについて紹介する。概要:音声合成は、テキストを入力として対応する音声を生成する技術であり、深層学習の進展により大きな進歩を遂げてきました。本研究では、音声合成の代表的なモデルであるTacotron2の生成過程において得られる中間表現を観察し、その中間表現が音声情報をどのように表現しているのかを解明することを目的とします。中間表現は、テキストや音声の潜在的な状態やAttentionと呼ばれる変数からなります。概要:階層ベイズモデルとは、データを生成する確率分布を階層的に構築し、パラメータの推定や予測を行う統計モデルである。Jensen(2023)のベイジアンクラスタリングを用いた階層ベイズモデルについて紹介する。この研究では、フィラデルフィアを384の小地区に分割し、各小地区の犯罪密度の時間的推移を推定することを目的としている。犯罪密度のパラメータは、近隣間の空間的依存性を考慮してモデリングされる。パラメータ間の依存性を表現するために、2種類のパラメータそれぞれに対して小地区をクラスターに分割し、クラスターごとに独立な条件付き自己回帰(CAR)モデルを適用する。CARモデルは、空間的な相互作用を捉えるためのモデルである。Ewens-Pitman)分布を用いる。T-EP分布は、中国料理店過程の確率分布をクラスター数を調節するために拡張した確率分布である。この階層ベイズモデルでは、各小地区の犯罪密度の時間的推移を、階層的な構造とクラスタリングによってモデル化する。それぞれの小地区における犯罪密度の推定には、時間的な依存性と空間的な依存性を考慮している。概要:医薬品や医療機器が市場で販売されるためには、臨床試験において安全性や有効性を示して厚生労働省に承認されることが必要である。臨床試験における新薬の有効性は統計的仮説検定により検証される。endpoint(確率変数)が用いられる。endpointを必要とする。endpointを持つデザインによる試験が行われる。臨床試験における統計的検定では、試験の途中で中間解析を行い、新薬が有効であると判断して試験を終了するか、そのまま試験を継続するかを、その時点までに得られたデータによる検定によって決定する方法がある。このような試験デザインは群逐次デザインと呼ばれる。endpointを持つ臨床試験の群逐次デザインの概要を説明し、これが被験者数を削減し得ることを示す。learningというものがある。汎化誤差の上界に関する不等式を十分1に近い確率で求めたものである。その考えをBayes理論に反映させたものがPAC-Bayesである。PAC-Bayesでは事前分布から汎化誤差の良い上界を得る事後分布を与える。posteriorを導出する。forest(DR-GRF)について発表を行う。inferenceへの応用について説明し、シミュレーション結果などを通して、推定精度の向上などについて報告する。Valueを利用することで説明する手法について紹介します。Valueの性質とこれを応用したSHAPの性質について紹介し、シミュレーションによる他手法との比較検討について報告します。概要:新型コロナウイルスの新規感染者数の予測を行う数理モデルの一つにHawkes過程がある。概要:応答変数と説明変数の組み合わせに偏りのあるデータをスパースデータという。スパースデータをロジスティック回帰モデルで解析する際、パラメータを最尤法で推定すると、バイアスが生じる。(2022)では、バイアスを減らすためのいくつかの手法が比較・検討されている。(2022)で比較されている手法の中から、主にベイズ統計学を用いた推定法を紹介する。Processes)がある。行列式点過程では抽出するサンプルの出現確率を、要素そのものの重要度(quality)と要素同士の相違性(diversity)の2つの表現を内包させた行列の行列式で与える。行列式点過程は確率計算やサンプリングに関連するアルゴリズムの計算量が小さいという利点があり、機械学習分野で多くの応用が知られている。前半では行列式点過程に関する基礎的な説明を行い、後半では機械学習への応用として文章要約の例について紹介する。概要:セミパラメトリックモデルとは、興味のある有限次元のパラメータと、無限次元の局外パラメータによって特徴付けられる統計モデルである。セミパラメトリックモデルにおける「よい」推定量を構築するためには、パラメトリックモデルにおける推定量の幾何学、特に、影響関数の幾何学を理解することが重要である。(2006)で紹介されている漸近線形推定量や影響関数の幾何学的性質を紹介する。よって提案されたサポートベクターマシンを回帰に応用したものであり、ノイズの影響を受けにくく非線形の回帰を行うことができる点から現在でも幅広く利用されている機械学習の手法である。R.Hable(2012)は、i.i.d確率変数列に対してサポートベクター回帰を用いて得られる関数の推定量の漸近正規性について述べている。近年では、時系列データに対してサポートベクター回帰を応用する研究も進んでいる。al.(2002)やK.Yoshihara(1975)らを参考に報告する。概要:深層学習の1つに生成モデルと呼ばれるものがある。今回は生成モデルとして有名な変分オートエンコーダー(VAE)によってデータを学習した際に、幾何的な構造を十分に学習できていないことを指摘し、デーコーダーにおける分散パラメーターをうまく変更することで幾何的構造を学習できる可能性について示す。概要:感染症数理の分野で用いられるデータの一つとして発症日別の陽性者数データがある。このデータには既に発症しているが報告されていない未報告のデータが存在する。そのため直近のデータにおいては実際の陽性者が反映されていないため、実効再生産数の推定の際などには報告遅れの影響を考慮する必要がある。このような既に発生しているが、未報告のデータ分を予測するというプロセスは保険業界における支払準備金の予測においても用いられており、支払準備金の算出に使用される手法を用いることで感染症における未報告データ分の予測、並びに実効再生産数の推定を行なっている。今回の発表では支払準備金を予測する手法の一つであるチェーンラダー法を紹介し、実際に感染症データに適応した際の解析について述べる。この手法を用いて推定された実効再生産数と、Nishiura(2009)に基づく実効再生産数と比較し、バイアスの意味で改善が見られた。概要:ランダムフォレストなど、決定木を用いた予測においては、予測に用いる変数の重要度を求める手法が大きく2つ存在する。これらは平均誤差減少率(MDA)や平均不純度減少率(MDI)と呼ばれ、変数の削減やフォレスト予測の解釈などを行う際に用いられる。これらは経験的に用いられているもので正確で厳密な解釈があまりなされていない。本発表では、中でもMDAに注目して、ランダムフォレストの中でのMDAの妥当性についてIswaran,2007の論文に沿って確認していく。Kun(2022)で提案されている変数に連続であることを仮定すれば特定の分布を仮定する必要のない独立性検定である。Testについて紹介する。概要:生存時間と経時的なアウトカムの両方を含んだデータを扱う方法として、生存―経時同時モデルがある。(1997)によって提案され、経時的なアウトカムの変化を生存時間のサブモデルに取り入れることが可能である。解析対象のデータに対し、その母集団が異質な部分集団によって構成されていると想定される場合があるが、生存―経時同時モデルには母集団が同質であるという仮定が必要である。(2002)によって提案されている。潜在クラスモデルでは経時的なアウトカムと生存時間の条件付き独立を仮定しており、経時的なアウトカムと生存時間アウトカムの関連を把握することが難しい。生存―経時同時モデルへ拡張し、解決を試みる。本発表では生存―経時同時モデルに基づいた再起分割法を提案し、簡単なシミュレーションに基づいて性能を評価する。概要:ベイズ統計学の枠組みで損失関数を二乗損失としたとき、ベイズ推定量はロバストでないことが分かっていた。尤度関数にγ-ダイバージェンスをを用いることでロバストな解析ができることが示された。今回の発表ではこのダイバージェンスを用いた手法を紹介して実際に外れ値に強い解析ができていることを確認するとともに、現在私が取り組んでいる研究内容についても説明していく。Model(AIM)という。インデックス予測子とは、共変量をある閾値で二値化することにより得られる変数であり、医学研究におけるリスクの把握に有用である。(2011)によって提案されたAIMは、二値の応答に対してロジスティック回帰モデルに基づいてインデックス予測子を探索するが、モデルの誤特定に対して頑健でないという問題が懸念される。(2006)で提案されたrobit回帰モデルに基づくAIMを提案する。robit回帰モデルは、リンク関数をt分布とした二値の応答に対する回帰モデルである。本発表では、提案モデルの推定アルゴリズムについて紹介する。概要:時空間データである神奈川県の人口データに対し、2つの空間時系列モデルのSTARモデルとST.CARarモデルを用いて解析を行った。各モデルのパラメータを推定し、より当てはまりの良いモデルを評価して、未観測値の予測を行った。今回の発表では上記の2つのモデルの推定手法と比較の方法、実データの解析結果と考察について説明していく。effectの推定は、特徴空間を観測されている変数に基づいてaxis-alignedにpartitioningすることによって行う。観測される共変量の次元が大きくなるにつれ、有効性の低い変数によるsplittingや、探索する次元の大きさによる計算量の増加が起こる。(CF)のbase-learnerとしてCTを選択したときに顕著な問題になる。tree(DRCT)を提案する。Inferenceに関する基礎的な内容についても触れる予定である。概要これまで昭和基地のCO2濃度に日次変動はないと言われていた。植生などといった日次変動に影響を及ぼす要因がないと考えられていること等が挙げられる。一方で、日次変動に関して詳細な研究はなく、かつ南極大陸及び昭和基地周辺の特有の季節性を柔軟に推定することができれば、CO2濃度の日次変動を検出できる可能性があると考えられた。そこでテンソルプロダクト法をもとに、周期的3次スプライン平滑法を拡張した、2重周期スプライン平滑法を提案し、これを用いて連続的な周期的変動の推定をCO2濃度データで行った。その結果、夏には有意に日次変動があることを確認した。当日は冒頭に自己紹介として、製薬会社におけるデータサイエンティスト業務についても紹介する予定である。興味のある事象が発生するまでの時間を含んだデータを統計的に解析することは、医学的に非常に重要である。この分野を生存時間分析と呼び、医学分野以外でも機械の品質管理等に広く活用されている。本発表では、興味のある共変量が経時的に測定されている生存時間データを考える。modelを紹介する。発表の前半では、生存時間分析の基礎的な内容についても紹介する。UMAPは「非線形的な次元を削減する」多様体学習の1つである。UMAPは多様体学習の中でもデータの特徴抽出精度が高く、次元削減を行う際に使われることが多い。本発表ではこのUMAPの理論的側面と次元を削減するアルゴリズムに関して説明を行う。サポートベクター回帰は、サンプルから回帰モデルを推定する手法であり、Vapnikらによって1963年に提案されたサポートベクターマシンを回帰に応用したものである。Hable.R(2012)は、i.i.d確率変数に対してサポートベクター回帰を用いた際に得られる関数の漸近正規性について述べている。al.(2002)を参考にサンプルが独立同一分布に従う場合と時系列に従う場合についてそれぞれ述べる。発表の前半では、確率過程の基礎的な内容やHable.R(2012)の内容についても紹介をする。研究者がベイズの理論を用いる際、事前分布の選択が必要となってくる。事前分布を選ぶとき、研究者自らが持っている知識を分布に反映させることは難しい。Bayes)は無情報事前分布を含む事前知識を必要としない分布に焦点を当てた理論になる。本発表ではこれに該当する事前分布とその構成方法を紹介する。時系列モデルの考え方を時空間データに拡張した空間時系列モデルというものがある。このようなモデルをベイズ理論を用いて予測していく考え方が最近研究されつつある。本発表では空間(ポリゴン)データ、ベイズ階層ベイズモデル及びマルコフ連鎖モンテカルロ(MCMC)法の基礎について紹介する。(2020)で紹介されている手法を用いて実データでの解析結果についても紹介する。データを用いて、因果グラフという定性的な因果関係を表す図を推測する手法を因果探索という。分析者の事前知識や判断などを仮定として表現する。その仮定を満たす中で、データと矛盾しないモデルを推定することで、因果グラフを推測する。LiNGAMは、観測変数が、線形で、非ガウス分布に従い、非巡回有向的であると仮定することで、独立成分分析の結果を用いて因果グラフを一意に推測することができる。本発表では未観測共通原因がない場合のこのモデルの推定方法を紹介する。感染症数理の分野で用いられるデータの一つとして発症日別の陽性者数データがある。このデータには既に発症しているが報告されていない未報告のデータが存在する。そのため直近のデータにおいては実際の陽性者が反映されていないため、実効再生産数の推定の際などには報告遅れの影響を考慮する必要がある。このような既に発生しているが、未報告のデータ分を予測するというプロセスは保険業界における支払準備金の予測においても用いられており、支払準備金の算出に使用される手法を用いることで感染症における未報告データ分の予測ができないか現在研究を行なっている。今回の発表では支払準備金を予測する手法の一つであるチェーンラダー法を紹介し、実際に感染症データに適応した際の解析について述べる。決定木を用いた弱学習機を組み合わせることにより分類や回帰の推定精度を上げる手法をランダムフォレストという。この手法を用いてある種の類似性重みを求め、局所推定方程式を解くことで推定量を求める方法をさらに一般化ランダムフォレストという。本発表では、ランダムフォレストの概要と、一般化ランダムフォレストにおける重みを求める際の木の分割方法を紹介した後、因果推論への応用の方法について紹介する。私は2020年に数理科学科を卒業して、現在はテキサス大学オースティン校の修士課程(コンピュータ科学学部)で機械学習の研究を行っています。私が海外進学に至った経緯や、テキサス大学での学習・研究の様子を紹介します。次に、現在の私の研究を紹介します。機械学習の応用分野を研究しているため数学的な内容ではありませんが、数理科学科での学びがどのように生かされているかという点に注目して説明します。partitioningを組み合わせる手法について発表を行います。このような解析は、処置の効果が年齢層によって異なったり、性別や疾病歴で疾病の発症確率を表すモデルが異なる場合に、これらをデータから見つける上で解析者の手助けになることが想定されます。partitioningによる分割を具体例を交えて紹介します。partitioningについて現在取り組んでいる課題ついても説明する予定です。Foretsのアルゴリズムについて紹介を行います。次に、木の概念である最小深度を用いた変数選択法について紹介します。al,(2011)の内容を紹介する形を取っています。始めに、時系列モデルの代表的なモデルであるARIMAモデルの紹介を行います。次にそれを空間時系列に拡張したSTARMAモデルと重み付き行列について紹介します。STARMAモデルの自己回帰パラメータと移動平均パラメータを最尤法により推定する方法を紹介します。Davis,(2009)とWei,(2019)の内容を紹介する形を取っています。多様体学習の概要と従来の研究法の説明をします。その後データ数が十分に大きいときに重み付けされていないk近傍グラフの最短パスの収束性に関しての説明を行います。因果関係を調べる際、処置と結果の両方に影響を及ぼす共変量の存在により推定にバイアスが生じる。このバイアスを取り除くため平均処置効果を求める手法はデータに欠測のない完全データに対する研究は盛んになされてきた。共変量に欠測がある場合の研究はまだ十分とは言えない。al,(2020)の内容に沿う形で紹介する。昨年から現在まで、新型コロナウイルスが各国各地で猛威を振るっていた。近頃のワクチン接種の広まりにより感染症が収束に向かっているように見えるが、この感染の拡大、収束を表す指標として再生算数というものがある。これは一人の感染者が二次感染を引き起こす期待数であり、その数値指標の大小により感染が収束へ向かっているか、また広がっているかを知る事ができる。再生産数の中でも実効再生産数というものは時点ごとに推定する事が可能で、なおかつワクチン接種などの施策による効果も加味された値として広くメディアなどでも扱われている。さまざまなモデルに基づいての推定が可能な指標であるが、今回は感染期間を固定したモデル、感染してからの期間を考慮したモデルによる数理的側面からの推定手法について紹介する。ベイズロジスティック回帰は典型的な回帰分析とは違い、回帰係数に事前分布を設定して推定値を得ます。推定値には事後分布のモードや事後平均などがあり、その計算にはEMアルゴリズムやMCMCを用いる。事前分布の選択に関しては様々なものが提案されてきた。al.(2018)を紹介する形をとる。疾病に対するリスクについて、予測指標を用いた階級化を行う場合がある。データから適応的に予測指標を構築する手順が提案されている。Answering)は自然言語処理のタスクの1つであり、昨今盛り上がりを見せている。それとともにdatasetも爆発的に増加している。al.(2021)のsurveyをベースとし、QAdatasetの体系的整理と分類の仕方を紹介するとともに、datasetを整理・分類する意義をお伝えする。医薬品の臨床開発は4つの逐次的な相(第I相-第IV相)から成り立つ。第I相試験では最大耐用量を特定すること、つまり安全性や耐用性を確認することが目的である。第II相試験では第I相の結果を受け安全性に加え、有効性などの検証を行うのが目的である。近年、開発過程の迅速化などの観点から第I、II相の間隙を除去した第I/II相臨床試験が注目されている。(2020)ではベイズ最適化を用いた用量選択アルゴリズムを提案している。私はそのアルゴリズムにおける効用関数(ベイズ最適化での獲得関数)の設計について、多目的最適化の枠組みからのアプローチを検討している。本発表の前半では臨床試験における概要とベイズ最適化を用いた用量選択アルゴリズムを紹介する。後半では多目的最適化の枠組みを説明し、その観点から効用関数についてシミュレーションを交えて議論する。(2007)が提案した、最適戦略の計算が難しい不完全情報ゲームを解くことができる手法である。主な研究対象としてポーカーが挙げられるが、最近の研究ではサイバーセキュリティ[2]やアメリカンフットボール[3]に応用された事例もある。これらの研究は一回のゲームを解析対象としており、同一のゲームを何度も行う繰り返しゲームには対応していないが、得られた戦略を繰り返し利用することで長期的な最適戦略とみなしている。そこで本発表ではCFRを用いて繰り返しゲームに対する正しい最適戦略を導出する手法を提案する。関数の近似や繰り返しゲームの性質を利用することで計算量を抑える工夫についても紹介する。臨床試験における無作為化比較試験では、治験薬の効果は既存薬やプラセボとの差異を比較することによって評価される。この試験において、評価すべきアウトカムが観察されないことがある。これをアウトカムが欠測しているという。本発表では、アウトカムが欠測している場合のリスク差の推定に注目する。多重代入法を用いたリスク差の推定結果を比較した。アウトカム欠測症例を活用したリスク差推定法を提案した。この手法は、教師あり学習に基づいてアウトカムの予測モデルを構築し、欠測値を予測値によって補完する手法である。手法に基づき、半教師あり学習による予測モデルの構築を提案する。手法との性能を比較する。frameworkをもとにした因果効果の推定では、交絡変数による影響を取り除くために傾向スコアなどをデータからパラメトリックモデルを用いて推定した上で、推定量を計算するというアプローチが主流の1つであった。近年では、機械学習のアプローチを融合した因果推論の手法が発展し、様々な展開を見せている。forestから得られた結果に対して統計的推論が可能であることを示した画期的なものであった。本発表では、特にこの結果の基礎となるPartitioningに着目し、特徴空間を分割することでHTEを推定する方法について議論を行う。企業におけるデータサイエンスは多岐に渡る。一般的な統計学に加えて、数理モデルを活用したシミュレーション、また機械学習や深層学習を用いたビッグデータ解析など幅広い。企業で求められるデータサイエンスは広く浅くがベースになるが、既存の技術を組み合わせたり、視点を変えて応用利用したり、柔軟に技術を適用する必要がある。適用した事例と、近年様々な開発が進んでいるウェアラブル端末で収集した生体情報データ(例:睡眠時間、心拍数)の欠測パターンからの行動リズムに関する考察をした事例を紹介する。+αとして、現在興味を持っている「バラツキ及びバイアスの大きいデータ」に対する導入検討として実施したSITARモデルについて紹介し、生体情報データに適用した結果も共有する。2021年3月19日(金)に言語処理学会第27回年次大会(NLP2021)内のワークショップとして「AI王~クイズAI日本一決定戦」が開かれた。システム研究に関して略史と最新技術の解説を行う。質問応答システムは1960年代からクローズドメインにおいて実現され始め、現在ではオープンドメインでの精度向上に向けた研究が盛んに行われている。古典的な手法として論理検索モデル、ベクトル空間モデル、確率的検索モデルなどが存在しているが、近年のオープンドメイン質問応答ではRetriever-Readerアプロ―チと呼ばれるものが主流となっており、そのアプローチの概要説明とそこで使われる指標であるTF-IDFやBM25を紹介する。Retriever)を中心に最新手法をいくつか紹介する。本発表にはオリジナルな要素は含まれず、サーベイ発表の形態をとる。データの一部が観測できていないデータを欠測データという。欠測を無視して解析を行うと、大きなバイアスが生じる可能性があるという問題があるため、欠測データへの適切な対処が必要不可欠である。欠測データへの対処法の1つとして、データを補完する多重代入法がある。多重代入法では、一般に欠測のある変数を含めた全ての変数の同時分布のモデルを仮定するが、そのモデル仮定は難しい場合が多い。同時分布の仮定を行わず1変量の条件付き分布から逐次的に欠測値を発生させる方法もあるが、その条件付き分布が真の同時分布と互換性がなければ推定結果にバイアスが生じてしまう。(GAIN)を紹介する。本発表では、前半に欠測データの諸概念について説明する。(2018)で提案されているGAINの仕組みや理論的結果、アルゴリズムについて説明する。数年前、将棋や囲碁において強力なAIが開発され話題になった。これらのゲームは完全情報ゲームというクラスに属しており、強化学習によるAIが高い性能を発揮している。一方でポーカーをはじめとする不完全情報ゲームにおいては強化学習によるAIは理論的にも実験的にも性能が低くなることが知られている。pokerと呼ばれるゲームに対するシミュレーションを行った結果を紹介する。臨床試験は、厳正に規定された条件の下で試験薬または臨床的処置を検討するためのヒトを対象とした研究である。臨床試験における薬の用量選択では、毒性(副作用)と有効性について考える必要がある。一般的に、薬の用量が増えるに従い毒性の発現確率は単調に増加する。有効性は用量増加に伴って、必ずしも増加することはなく、頭打ちや減少傾向を示すことがある。既存のパラメトリックな手法では、非単調性を仮定することができない。そこで近年ではノンパラメトリックな試験デザインを用いて最適な用量を選択する手法が注目されている。本発表では前半にベイズ最適化の概要を説明する。(2020)で提案されているベイズ最適化の用量選択アルゴリズムとシミュレーション結果の紹介をする。2018)を紹介する。consistentな推定量を構成する手法である。modelや、一般化モーメント法などが含まれる。parameterの推定値をplug-inした方程式から得られるθの推定量はroot-Nよりも遅い収束レートを持つことになる。推定する際に正則化を用いた場合は、θはバイアスを持った推定量になる。Orthogonalityを満たすようなスコアを用いてパラメータθを推定することで回避できることを示し、DMLの具体的な推定法について紹介する。数年前、将棋AIを中心に非常に強いAIが開発されて話題になった。将棋は確定完全情報ゲームというクラスに属するため解析が比較的容易であることが知られており、現在はあまり研究が行われていない。一方で不完全情報ゲームに対するAIについては近年研究が盛んにおこなわれている。そこで現在の不完全ゲームのAIの研究について紹介し、最も注目を浴びている強化学習の概要について説明を行う。ある処置の因果効果を調べるために、しばしばRCT(ランダム化比較試験)が行われる。この際に被検者全員が処置の割付けに従って行動をすれば比較的容易に因果効果を推論することが可能である。現実問題として処置の割付けに従わないような個体も存在する。このようなノンコンプライアンスが存在する状況において、ノンコンプライアンスを無視して解析を行うとバイアスが生じることが知られている。approachの2つを紹介する。長年、統計学者ひいては哲学者たちの考察対象とされてきた因果律。Pearlを中心に据えながら歴史的観点から少し見ていく。Pearlによる因果推論の一部分を紹介するとともに、私の研究の展望を述べる。データの一部が観測できていないデータを欠測データという。欠測を無視して解析を行うと、大きなバイアスが生じる可能性があるという問題があるため、欠測データへの適切な対処が必要不可欠である。