本章のまとめはじめにMATLAB,Python,Scilab,Julia比較するシリーズの第4章。第4章は分類問題関連の話がメインとなる。基本的には以下の流れとなる。ちなみに、問答方式じゃない方も記事もある。問答方式に合わせて内容を強化していく予定。【入門】MATLAB,Python,Scilab,Julia使い方比較【数値計算プログラム】MATLAB,Python,Scilab,Juliaを比較。込み、最小二乗法を元に比較しています。それぞれツールの特性が理解できれば使い分けも移行も難しくは無いでしょう。似ている部分も多いので私の場合はそれを利用するして実験の幅を広げています。MATLAB,Python,Scilab,Julia比較するシリーズ。いっても基本はベクトル行列ベースの演算に留め、各環境独自の機能はあまり使わない方針。第2章【バックナンバー】MATLAB,Python,Scilab,Julia比較するシリーズの第2章。状態空間モデル、そのモデルをPID制御。第2章は回帰関連の話がメインとなる。MATLAB,Python,Scilab,Julia比較するシリーズの第3章。第2章では回帰関連の話がメインだった。第3章は画像処理関連の話がメインとなる。基本的には以下の流れとなる。第5章【バックナンバー】MATLAB,Python,Scilab,Julia比較するシリーズの第4章。第4章では分類問題で最終的にはニューラルネットワークや最適化アルゴリズムの話だった。第5章はフーリエ解析学から高速フーリエの話がメインとなる。www.simulationroom999.com2024.11.01分類問題とは?本シリーズは分類問題を扱っていく予定。機械学習のカテゴリわけを簡単に説明。分類とクラスタリングは雰囲気似てるけど、違うという扱い。本シリーズは分類問題を扱っていく予定。分類とクラスタリングは雰囲気似てるけど、違うという扱い。www.simulationroom999.com2024.01.15分類問題について簡単に説明。分類手法について列挙。この中のパーセプトロンをベースに話を進める。分類問題について簡単に説明。分類手法について列挙。この中のパーセプトロンをベースに話を進める。www.simulationroom999.com2024.01.16形式ニューロン形式ニューロンを把握するためのロードマップを提示。ヘヴィサイド関数を説明。したものをYes/Noに変換できるとと思っておけばOK。形式ニューロンを把握するためのロードマップを提示。ヘヴィサイド関数を説明。したものをYes/Noに変換できるとと思っておけばOK。www.simulationroom999.com2024.01.18形式ニューロンの概念図を説明。見るニューロンの概念図と類似。形式ニューロンの数式を説明。重みと入力の内積の結果をヘヴィサイド関数に渡して0or1にしている。形式ニューロンの概念図を説明。見るニューロンの概念図と類似。形式ニューロンの数式を説明。重みと入力の内積の結果をヘヴィサイド関数に渡して0or1にしている。www.simulationroom999.com2024.01.19分類問題のHelloWorld総統はANDゲート。ANDゲートを形式ニューロンで実現するための構成を説明。2入力1出力の構成になる。分類問題のHelloWorld総統はANDゲート。ANDゲートを形式ニューロンで実現するための構成を説明。2入力1出力の構成になる。www.simulationroom999.com2024.01.20代表的な誤差関数について説明。MSE:分散と一緒であり、統計的に意味のある数値SSE:シンプルであり、利用しやすいRMSE:標準偏差的位置づけであり、人間から見て意味のある数値になりやすい。代表的な誤差関数について説明。MSE:分散と一緒であり、統計的に意味のある数値。SSE:シンプルであり、利用しやすい。RMSE:標準偏差的位置づけであり、人間から見て意味のある数値になりやすい。www.simulationroom999.com2024.01.21決定境界直線について説明。分類する上で仕分けを行う境界線。ANDゲートの場合の想定される決定境界直線を図解。境界線を境にtreu,falseに分かれる。この性質がヘヴィサイド関数と相性が良い。決定境界直線について説明。分類する上で仕分けを行う境界線。ANDゲートの場合の想定される決定境界直線を図解。境界線を境にtreu,falseに分かれる。この性質がヘヴィサイド関数と相性が良い。www.simulationroom999.com2024.01.22決定境界直線の必要性について。ヘヴィサイド関数の出力が0.5であることを仮定して数式を解けばOK。決定境界直線の必要性について。推論するだけだったら不要だが、学習済みモデルの性能を評価する際は必要。決定境界直線の特定方法を説明。ヘヴィサイド関数の出力が0.5であることを仮定して数式を解けばOK。www.simulationroom999.com2024.01.23総当たり法について解説・・・と思いきや、名前のまんま。プログラム化の前提だけ決めた。実際のプログラムのフローを記載。総当たり法について解説・・・と思いきや、名前のまんま。プログラム化の前提だけ決めた。実際のプログラムのフローを記載。www.simulationroom999.com2024.01.24MATLAB形式ニューロンをMATLABで実現。ANDの真理値表と同じ結果が得らえれた。決定境界線はギリギリな感じ。形式ニューロンをMATLABで実現。ANDの真理値表と同じ結果が得らえれた。決定境界線はギリギリな感じ。www.simulationroom999.com2024.01.26Python形式ニューロンをPython(NumPy)で実現。ANDの真理値表と同じ結果が得らえれた。決定境界線はギリギリな感じはMATLABのときと一緒。形式ニューロンをPython(NumPy)で実現。ANDの真理値表と同じ結果が得らえれた。決定境界線はギリギリな感じはMATLABのときと一緒。www.simulationroom999.com2024.01.27Scilab形式ニューロンをScilabで実現。ANDの真理値表と同じ結果が得らえれた。決定境界線はギリギリな感じはMATLABのときと一緒。形式ニューロンをScilabで実現。ANDの真理値表と同じ結果が得らえれた。決定境界線はギリギリな感じはMATLABのときと一緒。www.simulationroom999.com2024.01.28Julia形式ニューロンをJuliaで実現。ANDの真理値表と同じ結果が得らえれた。コードレベルでMATLABと近似。形式ニューロンをJuliaで実現。ANDの真理値表と同じ結果が得らえれた。コードレベルでMATLABと近似。形式ニューロンのプログラムでは決定境界直線がギリギリのラインに来ていた。上記を解消するため、どうあるべきか。この後に、なぜこうなったか、どうすればかいしょうできるかの話が続く予定。形式ニューロンのプログラムでは決定境界直線がギリギリのラインに来ていた。上記を解消するため、どうあるべきか。この後に、なぜこうなったか、どうすればかいしょうできるかの話が続く予定。www.simulationroom999.com2024.02.03決定境界直線がギリギリなる理由。ヘヴィサイド関数の性質に原因がある。ヘヴィサイド関数の性質は入力0を境に出力0,1が切り替わるのみで勾配が無い。これにより程度の表現ができず、境界直線も適正位置が探せない。決定境界直線がギリギリなる理由。ヘヴィサイド関数の性質に原因がある。ヘヴィサイド関数の性質は入力0を境に出力0,1が切り替わるのみで勾配が無い。これにより程度の表現ができず、境界直線も適正位置が探せない。www.simulationroom999.com2024.02.04決定境界直線をいい感じのところに持っていくにはヘヴィサイド関数を差し替える必要がある。ヘヴィサイド関数の原点近辺に傾斜を付けたカスタムヘヴィサイド関数(造語)が良さげ。決定境界直線をいい感じのところに持っていくにはヘヴィサイド関数を差し替える必要がある。ヘヴィサイド関数の原点近辺に傾斜を付けたカスタムヘヴィサイド関数(造語)が良さげ。www.simulationroom999.com2024.02.05MATLAB形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをMATLABで作成。狙い通りの位置に決定境界直線が移動。コードはヘヴィサイド関数をカスタムヘヴィサイド関数に変えただけ。形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをMATLABで作成。狙い通りの位置に決定境界直線が移動。コードはヘヴィサイド関数をカスタムヘヴィサイド関数に変えただけ。www.simulationroom999.com2024.02.07Python形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをPython(NumPy)で作成。MATLABと同じ結果に。毎度おなじみの表示上の誤差は出る。形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをPython(NumPy)で作成。MATLABと同じ結果に。毎度おなじみの表示上の誤差は出る。www.simulationroom999.com2024.02.08Scilab形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをScilabで作成。MATLABと同じコード。毎度おなじみのグラフ表示部分に差が出る。形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをScilabで作成。MATLABと同じコード。毎度おなじみのグラフ表示部分に差が出る。www.simulationroom999.com2024.02.09Julia形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをJuliaで作成。例に漏れずMATLABコードのコピペがベース。形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをJuliaで作成。例に漏れずMATLABコードのコピペがベース。一般的な安定化方法がある。シグモイド関数を使用する方法。ヘヴィサイド関数のように0,1を表現することを目的とした関数だが、シグモイド関数は全域で勾配がある。決定境界直線の一般的な安定化方法がある。シグモイド関数を使用する方法。ヘヴィサイド関数のように0,1を表現することを目的とした関数だが、シグモイド関数は全域で勾配がある。www.simulationroom999.com2024.02.15シグモイド関数の定義について説明。理屈はなく、そういうものが存在するって程度。カスタムヘヴィサイドとシグモイドの比較。総当たり法では効能の差は出ないが、誤差逆伝播法を使い始めるとシグモイドじゃないと都合が悪い。その22【シグモイドによる決定境界安定化2】シグモイド関数の定義について説明。理屈はなく、そういうものが存在するって程度。カスタムヘヴィサイドとシグモイドの比較。総当たり法では効能の差は出ないが、誤差逆伝播法を使い始めるとシグモイドじゃないと都合が悪い。www.simulationroom999.com2024.02.16MATLAB活性化関数をシグモイド関数にした形式ニューロンをMATLABで実現。結果はカスタムヘヴィサイドの時と一緒。活性化関数をシグモイド関数にした形式ニューロンをMATLABで実現。結果はカスタムヘヴィサイドの時と一緒。www.simulationroom999.com2024.02.18Python活性化関数をシグモイド関数にした形式ニューロンをPython(NumPy)で実現。結果はカスタムヘヴィサイドの時と一緒。活性化関数をシグモイド関数にした形式ニューロンをPython(NumPy)で実現。結果はカスタムヘヴィサイドの時と一緒。www.simulationroom999.com2024.02.19Scilab活性化関数をシグモイド関数にした形式ニューロンをScilabで実現。結果はカスタムヘヴィサイドの時と一緒。活性化関数をシグモイド関数にした形式ニューロンをScilabで実現。結果はカスタムヘヴィサイドの時と一緒。www.simulationroom999.com2024.02.20Julia活性化関数をシグモイド関数にした形式ニューロンをJuliaで実現。結果はカスタムヘヴィサイドの時と一緒。活性化関数をシグモイド関数にした形式ニューロンをJuliaで実現。結果はカスタムヘヴィサイドの時と一緒。総当たり法では非効率なので最適化アルゴリズムを使用する。最適化アルゴリズムを使用するには連鎖律が必要。入力の導関数を求める必要がある。総当たり法では非効率なので最適化アルゴリズムを使用する。最適化アルゴリズムを使用するには連鎖律が必要。入力の導関数を求める必要がある。www.simulationroom999.com2024.02.26連鎖律を把握するための知識を列挙。分解してそれぞれの導関数を求めてから代入で導出できる。連鎖律を把握するための知識を列挙。