<commit_before>
<!DOCTYPE html>
<html lang="ja">
    
<head>
    <!-- hexo-inject:begin --><!-- hexo-inject:end --><meta charset="UTF-8">
    <meta name="viewport" content="width=device-width, initial-scale=1">
    <meta name="generator" content="ポンダッドの日記">
    <title>ロジスティック回帰とシグモイド関数 - ポンダッドの日記</title>
    <meta name="author" content="ポンダッド">
    
        <meta name="keywords" content="bot,ai,iot,">
    
    
        <link rel="icon" href="https://pondad.github.io/assets/images/favicon.png">
    
    
        <link rel="alternate" type="application/atom+xml" title="RSS" href="/atom.xml">
    
    <meta name="description" content="さて、今回は分類（Classification）に関して学習したことをまとめてみます。">
<meta property="og:type" content="blog">
<meta property="og:title" content="ロジスティック回帰とシグモイド関数">
<meta property="og:url" content="https://pondad.github.io/machine-learning/2017/09/24/logistic-regression.html">
<meta property="og:site_name" content="ポンダッドの日記">
<meta property="og:description" content="さて、今回は分類（Classification）に関して学習したことをまとめてみます。">
<meta property="og:image" content="https://cldup.com/FeFsdzdcse.png">
<meta property="og:image" content="https://cldup.com/kc1eOVFKic.png">
<meta property="og:updated_time" content="2017-09-25T11:05:59.000Z">
<meta name="twitter:card" content="summary_large_image">
<meta name="twitter:title" content="ロジスティック回帰とシグモイド関数">
<meta name="twitter:description" content="さて、今回は分類（Classification）に関して学習したことをまとめてみます。">
<meta name="twitter:image" content="https://cldup.com/FeFsdzdcse.png">
<meta name="twitter:creator" content="@pon_dad">
<meta property="fb:app_id" content="1040778976039074">
    
    
        
    
    
        <meta property="og:image" content="https://pondad.github.io/assets/images/icon.png"/>
    
    
    
        <meta property="og:image" content="https://cldup.com/I4tvVxm9Ps.jpg"/>
        <meta class="swiftype" name="image" data-type="enum" content="https://cldup.com/I4tvVxm9Ps.jpg" />
    
    
    <!-- AMP
    
    -->
    <!--STYLES-->
    <link rel="stylesheet" href="/assets/css/font-awesome.css">
    <link rel="stylesheet" href="/assets/css/jquery.fancybox-thumbs.css">
    <link rel="stylesheet" href="/assets/css/jquery.fancybox.css">
    <link rel="stylesheet" href="/assets/css/style.css">
    <link rel="stylesheet" href="/assets/css/tranquilpeak.css">
    <!--STYLES END--><!-- hexo-inject:begin --><!-- hexo-inject:end -->
    
    

</head>

    <body>
        <!-- hexo-inject:begin --><!-- hexo-inject:end --><div id="blog">
            <!-- Define author's picture -->


    
        
            
        
    

<header id="header" data-behavior="4">
    <i id="btn-open-sidebar" class="fa fa-lg fa-bars"></i>
    <div class="header-title">
        <a class="header-title-link" href="/ ">ポンダッドの日記</a>
    </div>
    
        
            <a  class="header-right-picture "
                href="#about">
        
        
            <img class="header-picture" src="/assets/images/icon.png" alt="著者の絵"/>
        
        </a>
    
</header>

            <!-- Define author's picture -->



        
    

<nav id="sidebar" data-behavior="4">
    <div class="sidebar-container">
        
            <div class="sidebar-profile">
                <a href="/#about">
                    <img class="sidebar-profile-picture" src="/assets/images/icon.png" alt="著者の絵"/>
                </a>
                <h4 class="sidebar-profile-name">ポンダッド</h4>
                
                    <h5 class="sidebar-profile-bio"><p>人工知能はチーズバーガーの夢を見るか<br><a href="/and-more">and more</a></p>
</h5>
                
            </div>
        
        
            <ul class="sidebar-buttons">
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/ "
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-home"></i>
                        <span class="sidebar-button-desc">ホーム</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/all-categories"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-bookmark"></i>
                        <span class="sidebar-button-desc">カテゴリー</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/all-tags"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-tags"></i>
                        <span class="sidebar-button-desc">タグ</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/all-archives"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-archive"></i>
                        <span class="sidebar-button-desc">アーカイブ</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link open-algolia-search"
                             href="/search"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-search"></i>
                        <span class="sidebar-button-desc">検索</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="#about"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-question"></i>
                        <span class="sidebar-button-desc">プロフィール</span>
                    </a>
            </li>
            
        </ul>
        
            <ul class="sidebar-buttons">
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link " href="https://twitter.com/" target="_blank">
                    
                        <i class="sidebar-button-icon fa fa-lg fa-twitter"></i>
                        <span class="sidebar-button-desc">Twitter</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link " href="https://github.com/PonDad/" target="_blank">
                    
                        <i class="sidebar-button-icon fa fa-lg fa-github"></i>
                        <span class="sidebar-button-desc">GitHub</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link " href="http://qiita.com/PonDad/" target="_blank">
                    
                        <i class="sidebar-button-icon fa fa-lg fa-code"></i>
                        <span class="sidebar-button-desc">Qiita</span>
                    </a>
            </li>
            
        </ul>
        
            <ul class="sidebar-buttons">
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/atom.xml"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-rss"></i>
                        <span class="sidebar-button-desc">RSS</span>
                    </a>
            </li>
            
        </ul>
        
    </div>
</nav>

            
        <div class="post-header-cover
                    text-left
                    "
             style="background-image:url('https://cldup.com/I4tvVxm9Ps.jpg');"
             data-behavior="4">
            
                <div class="post-header main-content-wrap text-left">
    
        <h1 class="post-title" itemprop="headline">
            ロジスティック回帰とシグモイド関数
        </h1>
    
    <div class="post-meta">
    <time itemprop="datePublished" datetime="2017-09-24T11:00:00+09:00">
	
		    2017/09/24
    	
    </time>
    
        <span>カテゴリー:  </span>
        
    <a class="category-link" href="/categories/machine-learning/">machine-learning</a>


    
</div>

</div>
            
        </div>

            <div id="main" data-behavior="4"
                 class="hasCover
                        hasCoverMetaIn
                        ">
                
<article class="post" itemscope itemType="http://schema.org/BlogPosting">
    
    
    <div class="post-content markdown" itemprop="articleBody">
        <div class="main-content-wrap">
            <p>さて、今回は分類（Classification）に関して学習したことをまとめてみます。</p>
<a id="more"></a>
<h2 id="ロジスティック回帰-Logistic-Regression"><a href="#ロジスティック回帰-Logistic-Regression" class="headerlink" title="ロジスティック回帰 (Logistic Regression)"></a>ロジスティック回帰 (Logistic Regression)</h2><p>予測値 $y’$ を0.5以上を1とし、0.5未満を0とすることで分類を行います。線形回帰では目的関数の範囲が定まっておらず、分類することが出来ないため、ロジスティック回帰を使います。</p>
<h2 id="ロジスティック関数-Logistic-Function-あるいは、シグモイド関数-Sigmoid-Function"><a href="#ロジスティック関数-Logistic-Function-あるいは、シグモイド関数-Sigmoid-Function" class="headerlink" title="ロジスティック関数 (Logistic Function)あるいは、シグモイド関数 (Sigmoid Function)"></a>ロジスティック関数 (Logistic Function)あるいは、シグモイド関数 (Sigmoid Function)</h2><p>シグモイド関数（別名：ロジスティック関数） $g(z)$ は以下の様な関数です。</p>
<p>$$<br>g(z) = \dfrac{1}{1 + e^{-z}}<br>$$</p>
<p>ロジスティック回帰における仮説 $h_\theta (x)$ はシグモイド関数 $g(z)$ に予測変数 $x$ のパラメーター 　$z = \theta^T x$ を代入します。</p>
<p>$$<br>{<br>h_\theta (x)  = \frac{1}{1 + e^{-\theta^{\mathrm{T}} x}}<br>}<br>$$</p>
<p><img src="https://cldup.com/FeFsdzdcse.png" alt=""></p>
<p>画像引用:  <a href="https://www.coursera.org/learn/machine-learning" target="_blank" rel="external">Machine Learning - Coursera</a></p>
<p>$h_\theta(x)&gt;0.5$ なら $y=1$</p>
<p>$h_\theta(x)\leq 0.5$ なら $y=0$</p>
<p>この様に分類判定が行えます。</p>
<h2 id="ロジスティック回帰の目的関数と最急降下法"><a href="#ロジスティック回帰の目的関数と最急降下法" class="headerlink" title="ロジスティック回帰の目的関数と最急降下法"></a>ロジスティック回帰の目的関数と最急降下法</h2><p>ロジスティック回帰の目的関数を求める時、対数 $log$ を利用します。</p>
<p>$y=1$ なら ${J(\theta) = -log(h_\theta (x)) }$</p>
<p>$y=0$ なら ${J(\theta) = -log(1 - h_\theta (x))}$</p>
<p>これをまとめると目的関数は以下の様になります。</p>
<span>$${
J(\theta) = - \frac{1}{m} [ \sum_{i=1}^m y^{(i)} log(h_\theta (x^{(i)})) + (1 - y^{(i)}) log(1 - h_\theta (x^{(i)}))]
}$$</span><!-- Has MathJax -->
<p>目的関数を最急降下法に代入すると以下の様になります。</p>
<span>$${
   \theta_j : \theta_j - \alpha \sum_{i=1}^m (h_\theta (x^{(i)}) - y^{(i)}) x_j ^{(i)}
}$$</span><!-- Has MathJax -->
<p>基本式は単回帰・重回帰の時と同様です。</p>
<h2 id="ロジスティック回帰の多クラス分類"><a href="#ロジスティック回帰の多クラス分類" class="headerlink" title="ロジスティック回帰の多クラス分類"></a>ロジスティック回帰の多クラス分類</h2><p>応用変数 $y$  を複数設定する事で多クラス分類（Multiclass Classification）する事が出来ます。</p>
<p><img src="https://cldup.com/kc1eOVFKic.png" alt=""></p>
<p>画像引用:  <a href="https://www.coursera.org/learn/machine-learning" target="_blank" rel="external">Machine Learning - Coursera</a></p>
<p>One-vs-all という手法を使います。図をみるとわかり易いのですが、多クラスを仮の2クラスに分割して分類する手法です。</p>
<p>目的変数はどの様になるのでしょうか？</p>
<p>応用変数 $y_1$, $y_2$, $y_3$</p>
<p>に対し、目的変数は</p>
<p>$h<em>\theta ^{(1)} (x)$,<br>$h</em>\theta ^{(2)} (x)$,<br>$h_\theta ^{(3)} (x)$</p>
<p>の様にカテゴリーと同数のモデルが出来ます。</p>
<p>$$<br>{<br>h_\theta ^{(i)} (x) = P (y = i | x; \theta)<br>}<br>$$</p>
<p>それぞれのモデルは以上の様に表す事が出来ます。新たな $x$ が与えられた時、 $h_\theta ^{(i)} (x) $ が最大になるカテゴリーに分類されます。</p>
<p>では。</p>
<h2 id="参考にさせていただきました"><a href="#参考にさせていただきました" class="headerlink" title="参考にさせていただきました"></a>参考にさせていただきました</h2><p><a href="https://qiita.com/katsu1110/items/e4ef613559f02f183af5" target="_blank" rel="external">Coursera Machine Learning (3): ロジスティック回帰、正則化 - Qiita</a></p>
<commit_msg>hexo commit<commit_after>
<!DOCTYPE html>
<html lang="ja">
    
<head>
    <!-- hexo-inject:begin --><!-- hexo-inject:end --><meta charset="UTF-8">
    <meta name="viewport" content="width=device-width, initial-scale=1">
    <meta name="generator" content="ポンダッドの日記">
    <title>ロジスティック回帰とシグモイド関数 - ポンダッドの日記</title>
    <meta name="author" content="ポンダッド">
    
        <meta name="keywords" content="bot,ai,iot,">
    
    
        <link rel="icon" href="https://pondad.github.io/assets/images/favicon.png">
    
    
        <link rel="alternate" type="application/atom+xml" title="RSS" href="/atom.xml">
    
    <meta name="description" content="さて、今回は分類（Classification）に関して学習したことをまとめてみます。">
<meta property="og:type" content="blog">
<meta property="og:title" content="ロジスティック回帰とシグモイド関数">
<meta property="og:url" content="https://pondad.github.io/machine-learning/2017/09/24/logistic-regression.html">
<meta property="og:site_name" content="ポンダッドの日記">
<meta property="og:description" content="さて、今回は分類（Classification）に関して学習したことをまとめてみます。">
<meta property="og:image" content="https://cldup.com/FeFsdzdcse.png">
<meta property="og:image" content="https://cldup.com/kc1eOVFKic.png">
<meta property="og:updated_time" content="2017-09-25T11:07:36.000Z">
<meta name="twitter:card" content="summary_large_image">
<meta name="twitter:title" content="ロジスティック回帰とシグモイド関数">
<meta name="twitter:description" content="さて、今回は分類（Classification）に関して学習したことをまとめてみます。">
<meta name="twitter:image" content="https://cldup.com/FeFsdzdcse.png">
<meta name="twitter:creator" content="@pon_dad">
<meta property="fb:app_id" content="1040778976039074">
    
    
        
    
    
        <meta property="og:image" content="https://pondad.github.io/assets/images/icon.png"/>
    
    
    
        <meta property="og:image" content="https://cldup.com/I4tvVxm9Ps.jpg"/>
        <meta class="swiftype" name="image" data-type="enum" content="https://cldup.com/I4tvVxm9Ps.jpg" />
    
    
    <!-- AMP
    
    -->
    <!--STYLES-->
    <link rel="stylesheet" href="/assets/css/font-awesome.css">
    <link rel="stylesheet" href="/assets/css/jquery.fancybox-thumbs.css">
    <link rel="stylesheet" href="/assets/css/jquery.fancybox.css">
    <link rel="stylesheet" href="/assets/css/style.css">
    <link rel="stylesheet" href="/assets/css/tranquilpeak.css">
    <!--STYLES END--><!-- hexo-inject:begin --><!-- hexo-inject:end -->
    
    

</head>

    <body>
        <!-- hexo-inject:begin --><!-- hexo-inject:end --><div id="blog">
            <!-- Define author's picture -->


    
        
            
        
    

<header id="header" data-behavior="4">
    <i id="btn-open-sidebar" class="fa fa-lg fa-bars"></i>
    <div class="header-title">
        <a class="header-title-link" href="/ ">ポンダッドの日記</a>
    </div>
    
        
            <a  class="header-right-picture "
                href="#about">
        
        
            <img class="header-picture" src="/assets/images/icon.png" alt="著者の絵"/>
        
        </a>
    
</header>

            <!-- Define author's picture -->



        
    

<nav id="sidebar" data-behavior="4">
    <div class="sidebar-container">
        
            <div class="sidebar-profile">
                <a href="/#about">
                    <img class="sidebar-profile-picture" src="/assets/images/icon.png" alt="著者の絵"/>
                </a>
                <h4 class="sidebar-profile-name">ポンダッド</h4>
                
                    <h5 class="sidebar-profile-bio"><p>人工知能はチーズバーガーの夢を見るか<br><a href="/and-more">and more</a></p>
</h5>
                
            </div>
        
        
            <ul class="sidebar-buttons">
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/ "
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-home"></i>
                        <span class="sidebar-button-desc">ホーム</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/all-categories"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-bookmark"></i>
                        <span class="sidebar-button-desc">カテゴリー</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/all-tags"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-tags"></i>
                        <span class="sidebar-button-desc">タグ</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/all-archives"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-archive"></i>
                        <span class="sidebar-button-desc">アーカイブ</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link open-algolia-search"
                             href="/search"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-search"></i>
                        <span class="sidebar-button-desc">検索</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="#about"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-question"></i>
                        <span class="sidebar-button-desc">プロフィール</span>
                    </a>
            </li>
            
        </ul>
        
            <ul class="sidebar-buttons">
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link " href="https://twitter.com/" target="_blank">
                    
                        <i class="sidebar-button-icon fa fa-lg fa-twitter"></i>
                        <span class="sidebar-button-desc">Twitter</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link " href="https://github.com/PonDad/" target="_blank">
                    
                        <i class="sidebar-button-icon fa fa-lg fa-github"></i>
                        <span class="sidebar-button-desc">GitHub</span>
                    </a>
            </li>
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link " href="http://qiita.com/PonDad/" target="_blank">
                    
                        <i class="sidebar-button-icon fa fa-lg fa-code"></i>
                        <span class="sidebar-button-desc">Qiita</span>
                    </a>
            </li>
            
        </ul>
        
            <ul class="sidebar-buttons">
            
                <li class="sidebar-button">
                    
                        <a  class="sidebar-button-link "
                             href="/atom.xml"
                            
                        >
                    
                        <i class="sidebar-button-icon fa fa-lg fa-rss"></i>
                        <span class="sidebar-button-desc">RSS</span>
                    </a>
            </li>
            
        </ul>
        
    </div>
</nav>

            
        <div class="post-header-cover
                    text-left
                    "
             style="background-image:url('https://cldup.com/I4tvVxm9Ps.jpg');"
             data-behavior="4">
            
                <div class="post-header main-content-wrap text-left">
    
        <h1 class="post-title" itemprop="headline">
            ロジスティック回帰とシグモイド関数
        </h1>
    
    <div class="post-meta">
    <time itemprop="datePublished" datetime="2017-09-24T11:00:00+09:00">
	
		    2017/09/24
    	
    </time>
    
        <span>カテゴリー:  </span>
        
    <a class="category-link" href="/categories/machine-learning/">machine-learning</a>


    
</div>

</div>
            
        </div>

            <div id="main" data-behavior="4"
                 class="hasCover
                        hasCoverMetaIn
                        ">
                
<article class="post" itemscope itemType="http://schema.org/BlogPosting">
    
    
    <div class="post-content markdown" itemprop="articleBody">
        <div class="main-content-wrap">
            <p>さて、今回は分類（Classification）に関して学習したことをまとめてみます。</p>
<a id="more"></a>
<h2 id="ロジスティック回帰-Logistic-Regression"><a href="#ロジスティック回帰-Logistic-Regression" class="headerlink" title="ロジスティック回帰 (Logistic Regression)"></a>ロジスティック回帰 (Logistic Regression)</h2><p>予測値 $y’$ を0.5以上を1とし、0.5未満を0とすることで分類を行います。線形回帰では目的関数の範囲が定まっておらず、分類することが出来ないため、ロジスティック回帰を使います。</p>
<h2 id="ロジスティック関数-Logistic-Function-あるいは、シグモイド関数-Sigmoid-Function"><a href="#ロジスティック関数-Logistic-Function-あるいは、シグモイド関数-Sigmoid-Function" class="headerlink" title="ロジスティック関数 (Logistic Function)あるいは、シグモイド関数 (Sigmoid Function)"></a>ロジスティック関数 (Logistic Function)あるいは、シグモイド関数 (Sigmoid Function)</h2><p>シグモイド関数（別名：ロジスティック関数） $g(z)$ は以下の様な関数です。</p>
<p>$$<br>g(z) = \dfrac{1}{1 + e^{-z}}<br>$$</p>
<p>ロジスティック回帰における仮説 $h_\theta (x)$ はシグモイド関数 $g(z)$ に予測変数 $x$ のパラメーター 　$z = \theta^T x$ を代入します。</p>
<p>$$<br>{<br>h_\theta (x)  = \frac{1}{1 + e^{-\theta^{\mathrm{T}} x}}<br>}<br>$$</p>
<p><img src="https://cldup.com/FeFsdzdcse.png" alt=""></p>
<p>画像引用:  <a href="https://www.coursera.org/learn/machine-learning" target="_blank" rel="external">Machine Learning - Coursera</a></p>
<p>$h_\theta(x)&gt;0.5$ なら $y=1$</p>
<p>$h_\theta(x)\leq 0.5$ なら $y=0$</p>
<p>この様に分類判定が行えます。</p>
<h2 id="ロジスティック回帰の目的関数と最急降下法"><a href="#ロジスティック回帰の目的関数と最急降下法" class="headerlink" title="ロジスティック回帰の目的関数と最急降下法"></a>ロジスティック回帰の目的関数と最急降下法</h2><p>ロジスティック回帰の目的関数を求める時、対数 $log$ を利用します。</p>
<p>$y=1$ なら ${J(\theta) = -log(h_\theta (x)) }$</p>
<p>$y=0$ なら ${J(\theta) = -log(1 - h_\theta (x))}$</p>
<p>これをまとめると目的関数は以下の様になります。</p>
<span>$${
J(\theta) = - \frac{1}{m} [ \sum_{i=1}^m y^{(i)} log(h_\theta (x^{(i)})) + (1 - y^{(i)}) log(1 - h_\theta (x^{(i)}))]
}$$</span><!-- Has MathJax -->
<p>目的関数を最急降下法に代入すると以下の様になります。</p>
<span>$${
   \theta_j : \theta_j - \alpha \sum_{i=1}^m (h_\theta (x^{(i)}) - y^{(i)}) x_j ^{(i)}
}$$</span><!-- Has MathJax -->
<p>基本式は単回帰・重回帰の時と同様です。</p>
<h2 id="ロジスティック回帰の多クラス分類"><a href="#ロジスティック回帰の多クラス分類" class="headerlink" title="ロジスティック回帰の多クラス分類"></a>ロジスティック回帰の多クラス分類</h2><p>応用変数 $y$  を複数設定する事で多クラス分類（Multiclass Classification）する事が出来ます。</p>
<p><img src="https://cldup.com/kc1eOVFKic.png" alt=""></p>
<p>画像引用:  <a href="https://www.coursera.org/learn/machine-learning" target="_blank" rel="external">Machine Learning - Coursera</a></p>
<p>One-vs-all という手法を使います。図をみるとわかり易いのですが、多クラスを仮の2クラスに分割して分類する手法です。</p>
<p>目的変数はどの様になるのでしょうか？</p>
<p>応用変数 $y_1$, $y_2$, $y_3$</p>
<p>に対し、目的変数は</p>
<p> $h<em>\theta ^{(1)} (x)$ ,<br> $h</em>\theta ^{(2)} (x)$ ,<br> $h_\theta ^{(3)} (x)$ </p>
<p>の様にカテゴリーと同数のモデルが出来ます。</p>
<p>$$<br>{<br>h_\theta ^{(i)} (x) = P (y = i | x; \theta)<br>}<br>$$</p>
<p>それぞれのモデルは以上の様に表す事が出来ます。新たな $x$ が与えられた時、 $h_\theta ^{(i)} (x) $ が最大になるカテゴリーに分類されます。</p>
<p>では。</p>
<h2 id="参考にさせていただきました"><a href="#参考にさせていただきました" class="headerlink" title="参考にさせていただきました"></a>参考にさせていただきました</h2><p><a href="https://qiita.com/katsu1110/items/e4ef613559f02f183af5" target="_blank" rel="external">Coursera Machine Learning (3): ロジスティック回帰、正則化 - Qiita</a></p>

{'fraction_non_alphanumeric': 0.1730174238723335, 'fraction_numerical': 0.011887314769581502, 'mean_word_length': 1.6730141458106638, 'pattern_counts': {'":': 0, '<': 587, '<?xml version=': 0, '>': 587, 'https://': 32, 'lorem ipsum': 0, 'www.': 4, 'xml': 6}, 'pii_count': 0, 'substrings_counts': 0, 'word_list_counts': {'cursed_substrings.json': 0, 'profanity_word_list.json': 0, 'sexual_word_list.json': 0, 'zh_pornsignals.json': 0}}
{'dir': 'git-commits-cleaned', 'id': '3627087', 'n_tokens_mistral': 9547, 'n_tokens_neox': 9005, 'n_words': 1101}