AI勉強記まったりAI勉強記AI(人工知能)について、特にゆかりがあるわけでもない社会人が、まったりとAIについて勉強していく勉強日記です。2022-02-15【G検定】モデルの解釈性の問題とその対応G検定どうも、カタミチです。6章の最後の節にやってきました。今回は、モデルの解釈性の問題とその対応、というタイトルですね。様々なテクニックやモデルの工夫により予測精度が大きく向上したディープラーニングですが、実社会への活用を考えた際、「なぜ予測が当たっているのか」という疑問に説明が付きづらいため、実運用を躊躇してしまうケースが多いようです。...まぁ、解釈できないくらい複雑だから精度がいいわけで...と考えると、なかなか難しい問題ですね。Grad-CAM可視化を目的とした手法にGrad-CAMがあります。これは、画像認識系のタスクを対象として、モデルの予測判断根拠を示すために「画像のどこを見ているか」を可視化します。どこを見ているか?をヒートマップで示すような仕掛けです。Grad-CAMという手法もあります。いうことで最後の節は随分とアッサリでしたね。解釈性についてはまだまだ発展途上ということなのか、あるいは、別に解釈できなくても良くね?ということで研究者のモチベーションが上がらないのか...。世の中全体の理解が進めば、解釈性の部分はそれほど言われなくなるかもしれないですね。我々は、よく分からないロジックで押し寄せる「レコメンド」を許容して、今日もAmazonでポチってるわけですし...。これで6章「ディープラーニングの手法」が終わりました。細かいアルゴリズムが語られていなかったので、とりあえずどんな手法があるのか?を抑えておけばいい感じですかね。次は第7章「ディープラーニングの社会実装に向けて」に突入です!ではまた。20:00関連記事2022-05-07【ひとり読書会】PyTorch&深層学習プログラミング(第16回)どうも、カタミチです。PyT...2022-03-13【ひとり読書会】ディープラーニングの数学(第3回)どうも、カタミチです。ディープラーニ...2022-03-11【ひとり読書会】ディープラーニングの数学(第1回)どうも、カタミチです。今日は、ゼロから作るDeepLearning...2022-02-26【G検定】問題集やってみました。その2どうも、カタミチです。【G検定】問題集買いました。»プロフィール書いてる人:カタミチ現在、AI(人工知能)についてまったり勉強中の社会人。2022年1月に勉強をはじめて、とりあえず2022年3月の「G検定」を受験。ミチ引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。