ন্যূনতম বর্গ পদ্ধতি

ন্যূনতম বর্গ পদ্ধতি: অনুমানের একটি গাণিতিক পদ্ধতি

পেন্ডাহুলুয়ান

ন্যূনতম বর্গ পদ্ধতি হলো একটি পরিসংখ্যানিক কৌশল যা একটি রিগ্রেশন মডেলের প্যারামিটারসমূহ অনুমান করতে ব্যবহৃত হয়। এই পদ্ধতিতে প্রকৃত মান এবং মডেল দ্বারা পূর্বাভাসিত মানের মধ্যেকার বর্গাকার ত্রুটির যোগফলকে সর্বনিম্ন করা হয়। এই পদ্ধতিটি অত্যন্ত জনপ্রিয় এবং অর্থনীতি, প্রকৌশল, জীববিজ্ঞান এবং সমাজবিজ্ঞানের মতো বিভিন্ন ক্ষেত্রে প্রায়শই ব্যবহৃত হয়। ন্যূনতম বর্গের ধারণাটি সর্বপ্রথম ঊনবিংশ শতাব্দীর শুরুতে আদ্রিয়েন-মারি লেজেন্দ্র প্রস্তাব করেন এবং পরবর্তীতে কার্ল ফ্রেডরিখ গাউস এটিকে আরও উন্নত করেন।

মৌলিক ধারণা

সাধারণভাবে, লিস্ট স্কোয়ার্স পদ্ধতির লক্ষ্য হলো রেসিডুয়াল বা প্রেডিকশন এররের বর্গের যোগফলকে সর্বনিম্ন করার মাধ্যমে একটি ডেটা সেটের জন্য সর্বোত্তম-উপযুক্ত রিগ্রেশন রেখা খুঁজে বের করা। রেসিডুয়াল হলো পর্যবেক্ষণকৃত মান এবং পূর্বাভাসিত মানের মধ্যকার পার্থক্য।

যদি আমাদের কাছে \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)\) জোড়া পর্যবেক্ষণের একটি ডেটা সেট থাকে, তাহলে আমাদের লক্ষ্য হলো \(y = mx + b\) রেখাটি খুঁজে বের করা যা বর্গাকার ত্রুটির যোগফল sum\( \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \)-কে সর্বনিম্ন করে।

এই পদ্ধতিটি সরল রৈখিক রিগ্রেশন এবং বহুরৈখিক রিগ্রেশন উভয় ক্ষেত্রেই প্রয়োগ করা যায়। সরল রৈখিক রিগ্রেশনে আমাদের কেবল একটি স্বাধীন চলক (x) থাকে, অপরদিকে বহুরৈখিক রিগ্রেশনে একাধিক স্বাধীন চলক জড়িত থাকে।

সরল রৈখিক রিগ্রেশন

চলুন সরল রৈখিক রিগ্রেশন দিয়ে শুরু করা যাক। ধরা যাক, আমাদের কাছে \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)) ডেটা সেটটি আছে। আমরা যে সরল রৈখিক রিগ্রেশন মডেলটি ফিট করতে চাই তা হলো:

\[ y = mx + b + \epsilon \]

যেখানে \( m \) হলো ঢাল, \( b \) হলো ছেদক, এবং \( \epsilon \) হলো দৈব ত্রুটি।

ন্যূনতম বর্গ পদ্ধতি ব্যবহার করে, আমরা বর্গ ত্রুটি ফাংশনটি ন্যূনতম করার মাধ্যমে পরামিতি \( m \) এবং \( b \) এর আনুমানিক মান খুঁজে পেতে পারি:

\[ S(m, b) = \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \]

\( S(m, b) ) কে সর্বনিম্ন করতে, আমরা \( m \) এবং \( b \) এর সাপেক্ষে \( S \) এর আংশিক অন্তরজ নির্ণয় করি, এবং তারপর \( m \) এবং \( b \) এর জন্য এই সমীকরণটি সমাধান করি:

\[ \begin{aligned}
\frac{\partial S}{\partial m} &= -2 \sum_{i=1}^{n} x_i (y_i – (mx_i + b)) = 0 \\
\frac{\partial S}{\partial b} &= -2 \sum_{i=1}^{n} (y_i – (mx_i + b)) = 0
\end{aligned} \]

সরলীকরণের পর, আমরা নিম্নলিখিত দুটি স্বাভাবিক সমীকরণ পাই:

\[ \begin{aligned}
n\bar{y} &= m \sum_{i=1}^{n} x_i + nb \\
\sum_{i=1}^{n}x_i y_i &= m \sum_{i=1}^{n}x_i^2 + b \sum_{i=1}^{n}x_i
\end{aligned} \]

উপরের সমীকরণ জোটটি সমাধান করে, আমরা \( m \) এবং \( b \) এর সেই মানগুলি খুঁজে পেতে পারি যা বর্গ ত্রুটিকে সর্বনিম্ন করে।

একাধিক রৈখিক রিগ্রেশন

মাল্টিপল লিনিয়ার রিগ্রেশনে, আমরা এমন একটি পরিস্থিতির সম্মুখীন হই যেখানে একাধিক স্বাধীন চলক থাকে। ধরা যাক, আমাদের কাছে \((x_{i1}, x_{i2}, …, x_{ik}, y_i)\) এই টাপল আকারে ডেটা আছে। আমরা যে রিগ্রেশন মডেলটি ব্যবহার করি তা হলো:

\[ y = b_0 + b_1 x_1 + b_2 x_2 + … + b_k x_k + \epsilon \]

এই সমীকরণটিকে ম্যাট্রিক্স আকারে লেখা যায়:

\[ \mathbf{y} = \mathbf{X} \mathbf{b} + \mathbf{\epsilon} \]

কোথায়:
– \( \mathbf{y} \) হলো পর্যবেক্ষণকৃত y মানগুলোর একটি কলাম ভেক্টর।
– \( \mathbf{X} \) হলো পর্যবেক্ষণকৃত x মানগুলোর একটি ম্যাট্রিক্স (যার মধ্যে ইন্টারসেপ্টের জন্য প্রথম কলামটি অন্তর্ভুক্ত)।
– \( \mathbf{b} \) হলো প্যারামিটারগুলোর একটি কলাম ভেক্টর (যার মধ্যে \( b_0 \) অন্তর্ভুক্ত)।

ন্যূনতম বর্গ পদ্ধতির লক্ষ্য হলো নিম্নলিখিত দ্বিঘাত ত্রুটি ফাংশনটিকে সর্বনিম্ন করা:

\[ S(\mathbf{b}) = (\mathbf{y} - \mathbf{Xb})^T (\mathbf{y} - \mathbf{Xb}) \]

এই ফাংশনটিকে ন্যূনতম করতে, আমরা \( \mathbf{b} \) এর সাপেক্ষে S-এর আংশিক অন্তরজ নিই এবং একে শূন্যের সমান ধরি। এর ফলে মাল্টিপল লিনিয়ার রিগ্রেশনের জন্য স্বাভাবিক সমীকরণটি পাওয়া যায়:

\[ \mathbf{X}^T \mathbf{Xb} = \mathbf{X}^T \mathbf{y} \]

উপরের সমীকরণ জোটটি সমাধান করে, আমরা পরামিতি \( \mathbf{b} \) এর একটি আনুমানিক মান পেতে পারি:

\[ \mathbf{b} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y} \]

সুবিধা এবং সীমাবদ্ধতা

ন্যূনতম বর্গ পদ্ধতির অনেক সুবিধা রয়েছে। এটি ব্যবহারের জন্য একটি অত্যন্ত কার্যকর ও সহজ পদ্ধতি। যদি \( \mathbf{X}^T \mathbf{X} \) বিপরীতযোগ্য হয়, তবে এটি একটি অনন্য সমাধান প্রদান করে, যা এটিকে অনেক ব্যবহারিক প্রয়োগের জন্য নির্ভরযোগ্য করে তোলে।

তবে, ন্যূনতম বর্গ পদ্ধতিরও সীমাবদ্ধতা রয়েছে। এটি বহিঃস্থ মানের প্রতি খুব সংবেদনশীল, কারণ বর্গীকৃত ত্রুটি ছোট পার্থক্যের চেয়ে বড় পার্থক্যকে বেশি গুরুত্ব দেয়। অধিকন্তু, ভালো ফলাফলের জন্য এই চিরায়ত অনুমানটি অবশ্যই পূরণ করতে হবে যে, ত্রুটিগুলোর একটি স্বাভাবিক বন্টন রয়েছে যার গড় শূন্য এবং ভেদাঙ্ক ধ্রুবক।

ব্যবহারিক প্রয়োগ

ডেটা ট্রেন্ড বিশ্লেষণ, পূর্বাভাস এবং মেশিন লার্নিং-এ ভবিষ্যদ্বাণীমূলক মডেল তৈরির জন্য লিস্ট স্কোয়ার্স পদ্ধতি প্রায়শই ব্যবহৃত হয়। আর্থিক শিল্পে, স্টকের দাম বা বাজারের পারফরম্যান্সের পূর্বাভাস দিতে লিস্ট স্কোয়ার্স পদ্ধতি ব্যবহার করা হয়। চিকিৎসাবিজ্ঞানে, ওষুধের মাত্রা এবং রোগীর প্রতিক্রিয়ার মধ্যে সম্পর্ক মডেল করতে এটি ব্যবহৃত হয়। সমাজবিজ্ঞানে, এটি শিক্ষা এবং আয়ের মতো চলকগুলোর মধ্যে সম্পর্ক বুঝতে সাহায্য করে।

উপসংহার

ন্যূনতম বর্গ পদ্ধতি পরিসংখ্যান এবং ডেটা বিশ্লেষণের অন্যতম মৌলিক কৌশল। ধারণাগতভাবে সহজ হলেও, এই পদ্ধতিটি বিভিন্ন চলকের মধ্যকার সম্পর্ক মডেলিং এবং বোঝার ক্ষেত্রে উল্লেখযোগ্য ক্ষমতা রাখে। বিভিন্ন ক্ষেত্রে এর ব্যাপক প্রয়োগ থাকায়, পেশাদার এবং গবেষক উভয়ের জন্যই এই পদ্ধতি সম্পর্কে একটি দৃঢ় ধারণা থাকা অমূল্য। ভবিষ্যতে, বিগ ডেটা যুগে ডেটার পরিমাণ বৃদ্ধির সাথে সাথে, ন্যূনতম বর্গের মতো চিরায়ত পদ্ধতিগুলোর অভিযোজন এবং প্রয়োগ আরও বেশি প্রাসঙ্গিক হয়ে উঠবে।