Normalizationとは各層のアクティベーションの文を適度な広がりを持つように調整する手法です。特徴として大きく以下の3点があります。1学習を早く進行させ...2022.11.16DeepLearningディープラーニングDeepLearning【ゼロつく学習記録】重みの初期値ニューラルネットワークでは重みの初期値の設定はとても大切です。重みの初期値によっては学習がうまく進行しなかったり、学習が進行する速度が遅くなることもあります。この記事ではニューラルネットワークで重みの初期値としてよく用いら...2022.11.16DeepLearningディープラーニングDeepLearning【ゼロつく学習記録】最適化アルゴリズムを理解するディープラーニングの目的は損失関数の値をできるだけ小さくするパラメータを見つけることです。propagation)とは関数の偏微分を効率的に計算する方法のことです。数値微分は実装は簡単だが、計算に膨大な時間がかかるという問題がありそれを解決したのが誤差逆伝播法になります。\frac{df}{dx_1})\)のようにベクトル化したものを勾配と呼ぶ。損失関数はニューラルネットワークの性能の悪さを示す指標である。ニューラルネットワークでは最適なパラメータを求めるために使用する。ニューラルネットワークの1つのニューロンにおいて入力信号の総和を出力信号に変換する関数のことを活性化関数と呼ぶ。活性化関数は非線形関数である必要がある。その理由は一次...2022.11.05DeepLearningディープラーニングDeepLearning【PyTorch】LeNet5を実装してみるディープラーニングの歴史を振り返るシリーズの第二弾です。前回は元祖1989年に発表されたLeNetを勉強したので、今回は1998年に発表されたLeNet5(を実装してみました。LeNet5は発表当時のLeNetとは...2022.07.03DeepLearningDeepLearning【PyTorch】元祖CNNのLeNetを実装してみたディープラーニングの勉強がてらに歴史を振り返ろうと思ったので、今回はCNNの元祖となるLeNetの論文(を読んてみました。理解する最近のコメント表示できるコメントはありません。理解する最近のコメント表示できるコメントはありません。アーカイブ2022年11月2022年7月カテゴリーDeepLearningデータサイエンスディープラーニングタイトルとURLをコピーしました。