複雑なデータでも、推論の精度が非常に高いことで、活用が進みました。一方で、推論の根拠についてはわからず、ブラックボックスな方法でもありました。そのため、「変な判定をしていないか?」といったことのチェックができず、安易に活用できない方法になる一面がありました。説明可能性や解釈可能性とは、そのような不安を解消したり、起こっている現象について考察するための方法として、研究が進んでいます。AI:説明可能なAI)」と呼ばれています。して、有効な変数だけでモデルを構築する考え方が昔からあります。データの領域を分けながら、変数を順番に選ぶというアルゴリズムになっています。説明可能性の高いAIとして、これらの方法を採用するのは、ひとつのアプローチになります。重回帰分析では、標準偏回帰係数が変数の重要度を評価するための指標になります。決定木では、木を成長させる時に使っている指標が、変数の重要度を評価するための指標になります。重回帰分析や決定木のような指標が整備されていません。説明可能性が低い方法で、説明可能性の指標としては、PFI、PD、ICE、SHAP等が考案されています。可能なAIのようにも見えます。ある意味でこの考え方は、合っているものの、多くの場合は、合っていないです。因果推論に使える場合AIの判定で「異常」となった場合に、どこがどのように異常なのかが示されると、その後の展開が楽になります。これは、XAIが因果推論で役に立つ場合です。いったものが表しているものは、あくまでデータです。ありますが、モデルの上では何か説明できても、現実がどうなのかは、別の場合があります。方法として、現実がどうなのかを考えるためのヒントとしては、XAIは有望なアプローチです。20214つの手法を中心にして、Pythonの実装例と一緒に解説しています。この本で「特徴量、インスタンス」という機械学習の用語なのですが、以下では「変数、サンプル」という統計用語で書いています。Importance):注目する変数について、その変数の値をランダムに入れ替える。入れ替える前のデータでモデルを作り、入れ替えた後のデータを入力して、精度の変化を見る。予測精度の変化が大きいほど、重要な変数として計算される。PFI):PFIは、変数をひとつずつ操作するが、GPFIでは、変数のグループにランダム化をする。Dependence):変数の重要度を評価する方法。使い方は、標準偏回帰係数と似ていて、ある変数が変化した時に、予測値がプラスマイナスのどちらの方向に変化するのかがわかる。PFIとの違いは、個々のサンプルについて、値を増減させるプロセスが入る点。その平均がアウトプットになる。exPlanations):個々のサンプルの予測値について、すべての変数の組合せから、それぞれの変数の重要度を評価する方法。この計算をすべてのサンプルに対して実行してから、平均値を取ったり、散布図で集計すると、モデル全体に対して各変数の重要度を評価する方法として使うこともできる。この本の方法は、因果推論に単純に使えるものではないことについて、少し触れています。2021XAIを平易に図解で解説しています。LIMEとSHAPの説明が多めです。局所説明は、AIが出した結論の妥当性の検証や、AIの学習が適切だったのかの検証に使える。大局説明は、精度の変化の評価や、敵対性攻撃の評価に使える。2020様々なことが書かれている事典のような本です。説明可能なAIについては、3か所で説明がありました。入力値と出力値の関係性が理解できないことがブラックボックス性。その逆がホワイトボックス性。ブラックボックス性が高いのが、ディープラーニングやサポートベクターマシン。ホワイトボックス性が高いのが、ロジスティック回帰分析や回帰分析。ブラックボックス性が高いと予測精度が高く、ホワイトボックス性が高いと予測精度が低くなる。例外がCART(決定木の一種)で、ホワイトボックス性が高く、予測精度も高い。決定木は、ホワイトボックス性が高いが、予測精度が低い手法として説明されている。ホワイトボックス性と、予測精度の高さを両立している手法の例は、FAB/HMEs。2019物性値をYとして、物質の構造を表す多変量をXとした時の、分析方法の本になっています。一種が紹介されています。開発者側の視点で説明しています。AutoML(自動機械学習)。