یکی از روش‌های است که از استفاده می‌کند. در رگرسیون مؤلفه اصلی، به جای اینکه به‌طور مستقیم با در ارتباط باشد، این ارتباط به‌طور غیر مستقیم از طریق متغیرهای مستقل انجام می‌گیرد. معمولاً فقط یک زیر مجموعه از این مؤلفه‌های اصلی با بالاترین برای رگرسیون مورد استفاده قرار می‌گیرد. یکی از مشکلات اصلی در زمانی رخ می‌دهد که ماتریس متغیرهای مستقل‌های نباشد به این معنی که بعضی از متغیرهای مستقل به هم داشته باشند. رگرسیون مؤلفه اصلی با حذف مولفه‌های اصلی با پایین از فضای متغیرهای مستقل، این مشکل را حل می‌کند. 
 داده و متغیر مستقل داریم که می‌خواهیم از طریق آنها متغیر وابسته را پیش‌بینی کنیم. این متغیرها را در ماتریس‌های و به شکل پایین ذخیره می‌کنیم:
 هدف از بدست آوردن پارامتر است به شکلی که در اینجا یک است که خطای مدل را نشان می‌دهد. توزیع این خطا را معمولاً در نظر می‌گیرند با میانگین صفر و واریانس ثابت برای تمامی ابعاد یعنی و . از طریق روش می‌توان یعنی مربع میزان خطاها را کمینه کرد و به پارامتر بهینه رسید. این پارامتر با برابر است. یکی از مشکلات اصلی این روش عدم است. برای حل این مشکل رگرسیون مؤلفه اصلی، ابتدا مولفه‌های اصلی را پیدا می‌کند و بعد داده را در راستای تعدادی از این مولفه‌های اصلی با بالاترین منعکس می‌شوند. ابتدا از طریق ماتریس به سه قسمت تقسیم می‌شود . در اینجا یک از و و ماتریسهایی از چپ و راست هستند. مقدارهای منفرد با ترتیب نزولی در ماتریس قطری قرار دارند به این معنی که . بعد از از طریق محاسبه می‌شود. در اینجا ماتریس ماتریس است؛ این مقادیر با ترتیب نزولی در قرار دارند، به این معنی که ، و ماتریس یا همان مولفه‌های اصلی است. رگرسیون مؤلفه اصلی ابتدا را در راستای منعکس می‌کند و سپس رگرسیون خطی را در این فضای جدید اعمال می‌کند. اگر ماتریس بردار ویژه باشد، انعکاس بر روی برابر است با . رگرسیون مؤلفه اصلی، از به عنوان متغیرهای جدید مستقل استفاده می‌کند و رگرسیون خطی را بر آن اعمال می‌کند. طبق روش ، پارامتر بهینه برای این داده جدید برابر است با . حال برای داده جدید ، مدل رگرسیون ابتدا داده را با به فضای جدید منتقل می‌کند، سپس با مقدار متغیر وابسته را پیش‌بینی می‌کند. اگر آنگاه پیش‌بینی مدل خواهد بود و با استفاده از دیگر احتیاجی به انعکاس داده به یک فضای جدید نیست.
{"title": "رگرسیون مؤلفه‌های اصلی", "link": "https://fa.wikipedia.org//w/index.php?title=%D8%B1%DA%AF%D8%B1%D8%B3%DB%8C%D9%88%D9%86_%D9%85%D8%A4%D9%84%D9%81%D9%87%E2%80%8C%D9%87%D8%A7%DB%8C_%D8%A7%D8%B5%D9%84%DB%8C&oldid=33942364", "language": "fa"}