admin2022/04/25Tweetシェアディープラーニングという単語が世間一般に知られるようになったのは、2016年に登場した「AlphaGo(アルファ碁)」という囲碁AIがプロ棋士を破ってからではないでしょうか。DeepMindによって開発されたコンピュータ囲碁プログラム。プロの囲碁棋士を相手にした対戦で勝利を収め、大きな話題となった。実はAlphaGoはディープラーニングと強化学習を組み合わせた「深層強化学習」という技術を使われています。強化学習は機械学習手法の一つです。AI自身が与えられた環境下で試行を繰り返し、報酬が最大となるように学習する強化学習は静的なデータセットに依存せず、動的な環境で動作し、収集した経験から学習します。具体的な手法は、プログラム自体が与えられた環境(=現在の状態)を観測し、連続した一連の行動の結果、価値が最大化する(=報酬が最も多く得られる)行動を自ら学習し、選択していくだけでなく、行動についての評価も自ら更新していきます。強化学習アルゴリズムには2つの主要なカテゴリがあります。2つのカテゴリの重要な違いは、エージェントがその環境のモデルを完全に理解または学習できるかどうかです。モデルベース(Model-Based)は環境に関する高度な知識を持っており、事前に計画を検討することができますが、モデルが現実の世界と矛盾している場合、実際の使用シナリオではうまく機能しないという欠点があります。モデルフリー学習(Model-Free)は、前者ほど効率的ではないモデル学習を放棄しますが、この方法は実装が簡単で、実際のシナリオで良好な状態に調整するのは簡単です。したがって、モデルフリーの学習方法はより一般的であり、より広く開発され、テストされています。強化学習は囲碁に限らずさまざまな分野に応用できます、例えば自動運転、ロボット、ゲーム。多くの分野(仮想シーンと実シーン)での強化学習の大規模な実装を楽しみにしています。