(انگلیسی: ( )) یکی از روش‌های است. در این روش، راه حل بر روی تعدادی مؤلفه که از هستند و به صورت متناوب و با هدف بیشینه کردن ِ و ایجاد شده‌اند، اعمال می‌شود. 
 فرض می‌کنیم داده داریم که هر کدام از یک متغیر وابسته و متغیر مستقل تشکیل شده‌است؛ به کمک متغیرهای مستقل متغیر وابسته را پیش‌بینی می‌کنیم. مقادیر متغیرهای مستقل (به همراه یک بردار ثابت ) و مقادیر متغیر وابسته را به ترتیب در ماتریس‌های و به شکل پایین نمایش می‌دهیم؛ در اینجا یک ماتریس از مقادیر امین متغیر مستقل است:
 هدف از رگرسیون خطی بدست آوردن پارامتر است به شکلی که در اینجا یک است که خطای مدل را نشان می‌دهد. این خطا از با میانگین صفر و واریانس ثابت برای تمامی ابعاد پیروی می‌کند به این معنی که و . از طریق روش حداقل مربعات می‌توان یعنی مربع میزان خطاها را کمینه کرد و به پارامتر بهینه رسید. این پارامتر با برابراست. یکی از مشکلات اصلی این روش عدم وارونپذیری است. برای حل این مشکل، حداقل مربعات جزئی، متناوباً مولفه‌هایی متعامد ( در پایین) که ترکیبی خطی از متغیرهای مستقل هستند تولید می‌کند و در نهایت راه حل حداقل مربعات را بر روی این مولفه‌ها اعمال می‌کند. ضرایب متغیرهای مستقل در مولفه‌ها با ضرب نقطه‌ایِ متغیرهای وابسته و مستقل برابر است. متغیرهای مستقل در ابتدای کار استاندارد شده‌اند یعنی میانگین صفر و واریانس یک دارند. در پایان هر مرحله متغیرهای مستقل نسبت به مولفه آن مرحله متعامد می‌شوند. این کار باعث می‌شود که در پایان تمام مولفه‌ها نسبت به هم متعامد باشند. الگوریتم تولید مولفه‌ها برای به شکل پایین است ( از محاسبه می‌شود):
 
 
 از آنجا که یا همان مقدار پیش‌بینی شده، ترکیبی خطی از ‌ها است و خود ‌ها هم ترکیبی خطی از متغیرهای مستقل هستند، در نهایت مدل رگرسیون ترکیبی خطی از متغیرهای مستقل خواهد بود.
{"title": "کمترین مربعات جزئی", "link": "https://fa.wikipedia.org//w/index.php?title=%DA%A9%D9%85%D8%AA%D8%B1%DB%8C%D9%86_%D9%85%D8%B1%D8%A8%D8%B9%D8%A7%D8%AA_%D8%AC%D8%B2%D8%A6%DB%8C&oldid=33942365", "language": "fa"}