Linear predictor function
পরিসংখ্যান এবং মেশিন লার্নিং-এ, একটি রৈখিক ভবিষ্যদ্বাণীকারী ফাংশন হল সহগ এবং ব্যাখ্যামূলক চলকের (স্বাধীন চলক) একটি সেটের একটি রৈখিক ফাংশন (রৈখিক সংমিশ্রণ), যার মান একটি নির্ভরশীল চলকের ফলাফলের পূর্বাভাস দিতে ব্যবহৃত হয়। এই ধরনের ফাংশন সাধারণত রৈখিক রিগ্রেশন-এ আসে, যেখানে সহগগুলিকে রিগ্রেশন সহগ বলা হয়। যাইহোক, এগুলি বিভিন্ন ধরনের রৈখিক শ্রেণিবিন্যাসেও ঘটে (যেমন। লজিস্টিক রিগ্রেশন, পারসেপ্ট্রন, সাপোর্ট ভেক্টর মেশিন, এবং রৈখিক বৈষম্যমূলক বিশ্লেষণ), পাশাপাশি অন্যান্য বিভিন্ন মডেলে, যেমন প্রধান উপাদান বিশ্লেষণ এবং ফ্যাক্টর বিশ্লেষণ। এই মডেলগুলির অনেকগুলিতে, সহগগুলিকে "ওজন" হিসাবে উল্লেখ করা হয়। সংজ্ঞা ডেটা পয়েন্ট i (p ব্যাখ্যামূলক চলক নিয়ে গঠিত)-এর জন্য একটি রৈখিক ভবিষ্যদ্বাণীকারী ফাংশনের মৌলিক রূপ, i = 1,., n-এর জন্য, যেখানে, k = 1,., p-এর জন্য, ডেটা পয়েন্ট i-এর জন্য k-তম ব্যাখ্যামূলক চলকের মান, এবং সহগগুলি (প্রতিগমন সহগ, ওজন ইত্যাদি)। ফলাফলের উপর একটি নির্দিষ্ট ব্যাখ্যামূলক চলকের আপেক্ষিক প্রভাব নির্দেশ করে। পূর্বাভাস ফাংশনটিকে আরও সংক্ষিপ্ত আকারে লেখা সাধারণঃ সহগ β0, β1,., βp-কে p + 1 আকারের একক ভেক্টর β-তে শ্রেণীবদ্ধ করা হয়। প্রতিটি তথ্য বিন্দু i-এর জন্য, একটি অতিরিক্ত ব্যাখ্যামূলক ছদ্ম-পরিবর্তনশীল xi0 যোগ করা হয়, যার একটি নির্দিষ্ট মান 1, যা বাধা সহগ β0-এর সাথে সম্পর্কিত। ফলস্বরূপ ব্যাখ্যামূলক চলক xi0 (= 1), xi1,., xip তারপর p + 1 আকারের একক ভেক্টর xi-তে গোষ্ঠীভুক্ত করা হয়। ভেক্টর নোটেশন এটি রৈখিক ভবিষ্যদ্বাণীকারী ফাংশনকে নিম্নরূপ লেখা সম্ভব করেঃ দুটি ভেক্টরের মধ্যে একটি বিন্দু পণ্যের জন্য নোটেশন ব্যবহার করে। ম্যাট্রিক্স নোটেশন ম্যাট্রিক্স নোটেশন ব্যবহার করে একটি সমতুল্য ফর্ম নিম্নরূপঃ যেখানে এবং একটি (পি + 1)-দ্বারা-1 কলাম ভেক্টর হিসাবে ধরে নেওয়া হয়, এটি ম্যাট্রিক্স ট্রান্সপোজ (তাই একটি 1-দ্বারা-(পি + 1) সারি ভেক্টর), এবং 1-দ্বারা-(পি + 1) সারি ভেক্টর এবং (পি + 1)-দ্বারা-1 কলাম ভেক্টরের মধ্যে ম্যাট্রিক্স গুণন নির্দেশ করে, যা 1-দ্বারা-1 ম্যাট্রিক্স তৈরি করে যা একটি স্কেলার হিসাবে নেওয়া হয়। রৈখিক প্রত্যাবর্তন একটি রৈখিক ভবিষ্যদ্বাণীকারী ফাংশনের ব্যবহারের উদাহরণ হল রৈখিক প্রত্যাবর্তন, যেখানে প্রতিটি তথ্য বিন্দু একটি অবিচ্ছিন্ন ফলাফলের সাথে যুক্ত, এবং যেখানে একটি বিশৃঙ্খলা শব্দ বা ত্রুটি পরিবর্তনশীল-একটি অবলোকন করা এলোমেলো পরিবর্তনশীল যা শব্দ যোগ করে নির্ভরশীল পরিবর্তনশীল এবং ভবিষ্যদ্বাণীকারী ফাংশনের মধ্যে রৈখিক সম্পর্ক। স্ট্যাকিং কিছু মডেলে (বিশেষত স্ট্যান্ডার্ড লিনিয়ার রিগ্রেশন), প্রতিটি ডেটা পয়েন্টের সমীকরণগুলি i = 1,., n একসাথে স্ট্যাক করা হয় এবং ভেক্টর আকারে লেখা হয় যেখানে ম্যাট্রিক্স X ডিজাইন ম্যাট্রিক্স হিসাবে পরিচিত এবং স্বাধীন ভেরিয়েবল সম্পর্কে সমস্ত পরিচিত তথ্যকে এনকোড করে। ভেরিয়েবলগুলি হল র্যান্ডম ভেরিয়েবল, যা স্ট্যান্ডার্ড লিনিয়ার রিগ্রেশন-এ একটি স্ট্যান্ডার্ড নরমাল ডিস্ট্রিবিউশন অনুসারে বিতরণ করা হয়; তারা ফলাফলের উপর কোনও অজানা কারণের প্রভাব প্রকাশ করে। এটি সহজ ম্যাট্রিক্স অপারেশন ব্যবহার করে ন্যূনতম বর্গ পদ্ধতির মাধ্যমে সর্বোত্তম সহগ খুঁজে পাওয়া সম্ভব করে তোলে। বিশেষত, ন্যূনতম বর্গ দ্বারা আনুমানিক সর্বোত্তম সহগগুলি নিম্নরূপ লেখা যেতে পারেঃ ম্যাট্রিক্সটি এক্স-এর মুর-পেনরোজ সিউডোইনভার্স হিসাবে পরিচিত। এই সূত্রে ম্যাট্রিক্স ইনভার্স ব্যবহারের জন্য প্রয়োজন যে এক্স পূর্ণ র্যাঙ্কের, অর্থাৎ। বিভিন্ন ব্যাখ্যামূলক চলকের মধ্যে নিখুঁত বহুমাত্রিকতা নেই (অর্থাৎ। কোনও ব্যাখ্যামূলক পরিবর্তনশীলকে অন্যদের থেকে নিখুঁতভাবে ভবিষ্যদ্বাণী করা যায় না)। এই ধরনের ক্ষেত্রে, সিউডোইনভার্স গণনা করতে সিঙ্গুলার ভ্যালু ডিকম্পোসিশন ব্যবহার করা যেতে পারে। ব্যাখ্যামূলক চলকগুলি যদিও ভবিষ্যদ্বাণী করা ফলাফলগুলি (নির্ভরশীল চলকগুলি) এলোমেলো চলক হিসাবে ধরে নেওয়া হয়, ব্যাখ্যামূলক চলকগুলি সাধারণত এলোমেলো বলে ধরে নেওয়া হয় না। পরিবর্তে, এগুলি স্থির মান এবং যে কোনও র্যান্ডম ভেরিয়েবল (যেমন। ফলাফল) তাদের উপর শর্তাধীন বলে মনে করা হয়। ফলস্বরূপ, তথ্য বিশ্লেষক একটি প্রদত্ত ব্যাখ্যামূলক চলকের একাধিক অনুলিপি তৈরি সহ ব্যাখ্যামূলক চলকগুলিকে নির্বিচারে উপায়ে রূপান্তর করতে স্বাধীন, প্রতিটি একটি ভিন্ন ফাংশন ব্যবহার করে রূপান্তরিত হয়। অন্যান্য সাধারণ কৌশলগুলি হল দুটি (বা কখনও কখনও আরও বেশি) বিদ্যমান ব্যাখ্যামূলক চলকের পণ্য গ্রহণ করে মিথস্ক্রিয়া চলকের আকারে নতুন ব্যাখ্যামূলক চলক তৈরি করা। যখন একটি ডেটা পয়েন্টের মান (গুলি) রূপান্তর করতে অরৈখিক ফাংশনের একটি নির্দিষ্ট সেট ব্যবহার করা হয়, তখন এই ফাংশনগুলি বেসিস ফাংশন হিসাবে পরিচিত হয়। একটি উদাহরণ হল পলিনোমিয়াল রিগ্রেশন, যা একটি রৈখিক ভবিষ্যদ্বাণীকারী ফাংশন ব্যবহার করে ডেটা পয়েন্টের দুটি সেটের মধ্যে একটি নির্বিচারে ডিগ্রি পলিনোমিয়াল সম্পর্ক (একটি প্রদত্ত ক্রম পর্যন্ত) মাপসই করে। একটি একক বাস্তব-মূল্যবান ব্যাখ্যামূলক পরিবর্তনশীল এবং একটি সম্পর্কিত বাস্তব-মূল্যবান নির্ভরশীল পরিবর্তনশীল), বিদ্যমান ব্যাখ্যামূলক পরিবর্তনশীলের বিভিন্ন শক্তির সাথে সম্পর্কিত একাধিক ব্যাখ্যামূলক পরিবর্তনশীল যোগ করে। গাণিতিকভাবে, ফর্মটি দেখতে এই রকমঃ এই ক্ষেত্রে, প্রতিটি ডেটা পয়েন্ট i-এর জন্য, ব্যাখ্যামূলক ভেরিয়েবলের একটি সেট নিম্নরূপ তৈরি করা হয়ঃ এবং তারপরে স্ট্যান্ডার্ড লিনিয়ার রিগ্রেশন চালানো হয়। এই উদাহরণে ভিত্তি ফাংশনগুলি হবে এই উদাহরণটি দেখায় যে একটি রৈখিক ভবিষ্যদ্বাণীকারী ফাংশন আসলে প্রথম প্রদর্শিত হওয়ার চেয়ে অনেক বেশি শক্তিশালী হতে পারেঃ এটি শুধুমাত্র প্রকৃতপক্ষে সহগগুলিতে রৈখিক হতে হবে। ব্যাখ্যামূলক চলকগুলির সমস্ত ধরণের অ-রৈখিক ফাংশন মডেল দ্বারা ফিট করা যেতে পারে। ভিত্তি ফাংশনগুলির ইনপুটগুলি অভিন্ন বা একক-মাত্রিক হওয়ার কোনও বিশেষ প্রয়োজন নেই (বা সেই ক্ষেত্রে তাদের আউটপুটগুলি, যদিও এই ক্ষেত্রে, একটি কে-মাত্রিক আউটপুট মানকে কে পৃথক স্কেলার-আউটপুট ভিত্তি ফাংশন হিসাবে বিবেচনা করা যেতে পারে)। এর একটি উদাহরণ হল রেডিয়াল বেসিস ফাংশন (আরবিএফ), যা দূরত্বের কিছু রূপান্তরিত সংস্করণকে কিছু নির্দিষ্ট বিন্দুতে গণনা করেঃ একটি উদাহরণ হল গাউসিয়ান আরবিএফ, যার স্বাভাবিক বণ্টনের মতো একই কার্যকরী রূপ রয়েছেঃ যা সি থেকে দূরত্ব বাড়ার সাথে সাথে দ্রুত হ্রাস পায়। আরবিএফ-এর একটি সম্ভাব্য ব্যবহার হল প্রতিটি পর্যবেক্ষিত ডেটা পয়েন্টের জন্য একটি তৈরি করা। এর মানে হল যে একটি নতুন তথ্য বিন্দুতে প্রয়োগ করা একটি আরবিএফ-এর ফলাফল 0-এর কাছাকাছি হবে যদি না নতুন বিন্দুটি সেই বিন্দুর কাছাকাছি না হয় যার চারপাশে আরবিএফ প্রয়োগ করা হয়েছিল। অর্থাৎ, রেডিয়াল বেসিস ফাংশনের প্রয়োগ নিকটতম বিন্দুটি বেছে নেবে এবং এর রিগ্রেশন সহগ প্রাধান্য পাবে। ফলাফলটি হবে নিকটতম প্রতিবেশী ইন্টারপোলেশনের একটি রূপ, যেখানে ভবিষ্যদ্বাণীগুলি কেবল নিকটতম পর্যবেক্ষিত ডেটা পয়েন্টের ভবিষ্যদ্বাণী ব্যবহার করে করা হয়, সম্ভবত কাছাকাছি একাধিক ডেটা পয়েন্টের মধ্যে ইন্টারপোলেট করা হয় যখন তারা সমস্ত একই দূরত্ব দূরে থাকে। ভবিষ্যদ্বাণী করার জন্য এই ধরনের নিকটতম প্রতিবেশী পদ্ধতি প্রায়শই স্ট্যান্ডার্ড লিনিয়ার রিগ্রেশনে ব্যবহৃত ভবিষ্যদ্বাণীর ধরণের সম্পূর্ণ বিপরীত হিসাবে বিবেচিত হয়ঃ কিন্তু প্রকৃতপক্ষে, একটি লিনিয়ার প্রেডিক্টর ফাংশনে ব্যাখ্যামূলক চলকগুলিতে যে রূপান্তরগুলি প্রয়োগ করা যেতে পারে তা এত শক্তিশালী যে এমনকি নিকটতম প্রতিবেশী পদ্ধতিটিও এক ধরনের লিনিয়ার রিগ্রেশন হিসাবে প্রয়োগ করা যেতে পারে। এমনকি সহগগুলিতে অ-রৈখিক বলে মনে হয় এমন কিছু ফাংশনকে সহগগুলিকে নতুন সহগগুলিতে রূপান্তরিত করে ফিট করা সম্ভব যা রৈখিক বলে মনে হয়। উদাহরণস্বরূপ, সহগের জন্য ফর্মের একটি ফাংশনকে রৈখিক বিকল্পগুলি প্রয়োগ করে উপযুক্ত রৈখিক ফাংশনে রূপান্তরিত করা যেতে পারে। রৈখিক প্রতিগমন এবং অনুরূপ কৌশল প্রয়োগ করা যেতে পারে এবং প্রায়শই সর্বোত্তম সহগ খুঁজে পাবে, তবে তাদের ত্রুটি অনুমান এবং এই ধরনের ভুল হবে। ব্যাখ্যামূলক চলকগুলি যে কোনও ধরনের হতে পারেঃ বাস্তব-মূল্যবান, বাইনারি, শ্রেণীবদ্ধ ইত্যাদি। প্রধান পার্থক্য হল অবিচ্ছিন্ন চলকের মধ্যে (যেমন। আয়, বয়স, রক্তচাপ ইত্যাদি) এবং বিচ্ছিন্ন পরিবর্তনশীল (যেমন। লিঙ্গ, জাতি, রাজনৈতিক দল ইত্যাদি)। পৃথক চলকগুলি সাধারণত ডামি চলক (বা সূচক চলক) ব্যবহার করে কোড করা হয়, অর্থাৎ। পৃথক চলকের প্রতিটি সম্ভাব্য মানের জন্য 0 বা 1 মান গ্রহণকারী পৃথক ব্যাখ্যামূলক চলক তৈরি করা হয়, যার মধ্যে 1 মানে "চলকের প্রদত্ত মান রয়েছে" এবং 0 মানে "চলকের প্রদত্ত মান নেই"। উদাহরণস্বরূপ, "এ, বি, এবি, ও" সম্ভাব্য মান সহ রক্তের ধরণের একটি চার-মুখী বিচ্ছিন্ন পরিবর্তনশীলকে পৃথক দ্বিমুখী ডামি ভেরিয়েবলে রূপান্তরিত করা হবে, "হল-এ, হল-বি, হল-এবি, হল-ও", যেখানে তাদের মধ্যে কেবল একটির মান 1 এবং বাকি সমস্তটির মান 0। এটি বিচ্ছিন্ন চলকের প্রতিটি সম্ভাব্য মানের জন্য পৃথক রিগ্রেশন সহগগুলির সাথে মিলিত হওয়ার অনুমতি দেয়। লক্ষ্য করুন যে, কে বিভাগের জন্য, সমস্ত কে ডামি ভেরিয়েবল একে অপরের থেকে স্বাধীন নয়। উদাহরণস্বরূপ, উপরের রক্তের ধরণের উদাহরণে, চারটি ডামি ভেরিয়েবলের মধ্যে মাত্র তিনটি স্বাধীন, এই অর্থে যে একবার তিনটি ভেরিয়েবলের মান জানা গেলে, চতুর্থটি স্বয়ংক্রিয়ভাবে নির্ধারিত হয়। সুতরাং, চারটি সম্ভাবনার মধ্যে তিনটি শুধুমাত্র ডামি ভেরিয়েবল হিসাবে এনকোড করা সত্যিই প্রয়োজন, এবং প্রকৃতপক্ষে যদি চারটি সম্ভাবনাই এনকোড করা হয়, সামগ্রিক মডেলটি অ-সনাক্তযোগ্য হয়ে ওঠে। এটি বেশ কয়েকটি পদ্ধতির জন্য সমস্যা সৃষ্টি করে, যেমন রৈখিক প্রতিগমনে ব্যবহৃত সহজ বদ্ধ-ফর্ম সমাধান। সমাধানটি হ 'ল ডামি ভেরিয়েবলগুলির মধ্যে একটি বাদ দিয়ে এবং/অথবা নিয়মিতকরণের সীমাবদ্ধতা প্রবর্তন করে (যা সর্বোত্তম সহগগুলি খুঁজে বের করার জন্য আরও শক্তিশালী, সাধারণত পুনরাবৃত্তিমূলক পদ্ধতির প্রয়োজন হয়)। আরও দেখুন লিনিয়ার মডেল লিনিয়ার রিগ্রেশন রেফারেন্স রিগ্রেশন বিশ্লেষণ মেশিন লার্নিং