အနည်းဆုံးစတုရန်းနည်းလမ်း

အနည်းဆုံးစတုရန်းနည်းလမ်း- ခန့်မှန်းချက်အတွက် သင်္ချာဆိုင်ရာချဉ်းကပ်မှု

Pendahuluan

အနည်းဆုံးစတုရန်းနည်းလမ်းသည် အမှန်တကယ်တန်ဖိုးများနှင့် မော်ဒယ်မှခန့်မှန်းထားသောတန်ဖိုးများအကြား နှစ်ထပ်အမှားအယွင်းများ၏ပေါင်းလဒ်ကို အနည်းဆုံးဖြစ်အောင်ပြုလုပ်ခြင်းဖြင့် ဆုတ်ယုတ်မော်ဒယ်တွင် ကန့်သတ်ချက်များကိုခန့်မှန်းရန်အသုံးပြုသော စာရင်းအင်းနည်းပညာတစ်ခုဖြစ်သည်။ ဤနည်းလမ်းသည် အလွန်ရေပန်းစားပြီး စီးပွားရေး၊ အင်ဂျင်နီယာ၊ ဇီဝဗေဒနှင့် လူမှုရေးသိပ္ပံကဲ့သို့သော နယ်ပယ်အမျိုးမျိုးတွင် မကြာခဏအသုံးပြုလေ့ရှိသည်။ အနည်းဆုံးစတုရန်းသဘောတရားကို ၁၉ ရာစုအစောပိုင်းတွင် Adrien-Marie Legendre မှ ပထမဆုံးအဆိုပြုခဲ့ပြီး နောက်ပိုင်းတွင် Carl Friedrich Gauss မှ ထပ်မံတီထွင်ခဲ့သည်။

အခြေခံနားလည်မှု

ယေဘုယျအားဖြင့် least squares နည်းလမ်းသည် residuals များ၏ squares ပေါင်းလဒ် သို့မဟုတ် ခန့်မှန်းချက်အမှားများကို အနည်းဆုံးဖြစ်အောင်ပြုလုပ်ခြင်းဖြင့် data set တစ်ခုအတွက် အကောင်းဆုံးကိုက်ညီသော regression မျဉ်းကိုရှာဖွေရန် ရည်ရွယ်သည်။ residual ဆိုသည်မှာ တွေ့ရှိထားသောတန်ဖိုးနှင့် ခန့်မှန်းထားသောတန်ဖိုးအကြား ကွာခြားချက်ဖြစ်သည်။

ကျွန်ုပ်တို့တွင် လေ့လာတွေ့ရှိချက်အတွဲများ \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)\) ပါဝင်သော ဒေတာအစုံတစ်ခုရှိပါက ကျွန်ုပ်တို့၏ ရည်မှန်းချက်မှာ sum\( \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \) ၏ နှစ်ထပ်အမှားအယွင်းများ ပေါင်းလဒ်ကို အနည်းဆုံးဖြစ်စေသည့် \(y = mx + b\) မျဉ်းကို ရှာဖွေရန်ဖြစ်သည်။

ဤနည်းလမ်းကို ရိုးရှင်းသော linear regression နှင့် multiple linear regression နှစ်မျိုးလုံးတွင် အသုံးပြုနိုင်ပါသည်။ ရိုးရှင်းသော linear regression တွင်၊ ကျွန်ုပ်တို့တွင် independent variable (x) တစ်ခုတည်းသာရှိပြီး၊ multiple linear regression တွင် independent variable တစ်ခုထက်ပို၍ပါဝင်သည်။

ရိုးရှင်းသော Linear Regression

ရိုးရှင်းတဲ့ linear regression ကနေ စလိုက်ရအောင်။ ကျွန်တော်တို့မှာ \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)) data set တစ်ခု ရှိတယ်လို့ ယူဆကြည့်ပါ။ ကျွန်တော်တို့ fit လုပ်ချင်တဲ့ ရိုးရှင်းတဲ့ linear regression model ကတော့ -

\[ y = mx + b + epsilon \]

ဤတွင် \( m \) သည် slope ဖြစ်ပြီး၊ \( b \) သည် intercept ဖြစ်ပြီး၊ \( \epsilon \) သည် random error ဖြစ်သည်။

အနည်းဆုံးစတုရန်းနည်းလမ်းကို အသုံးပြု၍၊ squared error function ကို အနည်းဆုံးဖြစ်အောင်ပြုလုပ်ခြင်းဖြင့် parameters \(m\) နှင့် \(b\) ၏ ခန့်မှန်းချက်များကို ရှာဖွေနိုင်ပါသည်။

\[ S(m, b) = \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \]

\( S(m, b) \) ကို အနည်းဆုံးဖြစ်အောင်ပြုလုပ်ရန်၊ \( m \) နှင့် \( b \) နှင့် ပတ်သက်၍ \( S \) ၏ တစ်စိတ်တစ်ပိုင်း derivatives များကို ရှာဖွေပြီးနောက် \( m \) နှင့် \( b \) အတွက် ဤညီမျှခြင်းကို ဖြေရှင်းပါ။

\[ \begin{aligned}
\frac{\partial S}{\partial m} &= -2 \sum_{i=1}^{n} x_i (y_i – (mx_i + b)) = 0 \\
\frac{\partial S}{\partial b} &= -2 \sum_{i=1}^{n} (y_i – (mx_i + b)) = 0
\end{aligned} \]

ရိုးရှင်းအောင်လုပ်ပြီးနောက်၊ အောက်ပါပုံမှန်ညီမျှခြင်းနှစ်ခုကိုရရှိသည်-

\[ \begin{aligned}
n\bar{y} &= m\sum_{i=1}^{n} x_i + nb \\
\sum_{i=1}^{n}x_i y_i &= m \sum_{i=1}^{n}x_i^2 + b \sum_{i=1}^{n}x_i
\end{aligned} \]

အထက်ပါ ညီမျှခြင်းစနစ်ကို ဖြေရှင်းခြင်းဖြင့်၊ နှစ်ထပ်ကိန်းအမှားကို အနည်းဆုံးဖြစ်စေသော \(m\) နှင့် \(b\) တန်ဖိုးများကို ရှာတွေ့နိုင်ပါသည်။

မျိုးစုံ Linear Regression

multiple linear regression မှာ၊ ကျွန်ုပ်တို့မှာ independent variable တစ်ခုထက်ပိုပြီးရှိတဲ့ အခြေအနေကို ရင်ဆိုင်ရပါတယ်။ tuple \((x_{i1}, x_{i2}, …, x_{ik}, y_i)\) ပုံစံနဲ့ data ရှိတယ်လို့ ယူဆပါ။ ကျွန်ုပ်တို့အသုံးပြုတဲ့ regression model က အောက်ပါအတိုင်း ဖြစ်ပါတယ်။

\[ y = b_0 + b_1 x_1 + b_2 x_2 + … + b_k x_k + \epsilon \]

ဤညီမျှခြင်းကို မက်ထရစ်ပုံစံဖြင့် အောက်ပါအတိုင်းရေးသားနိုင်သည်။

\[ \mathbf{y} = \mathbf{X} \mathbf{b} + \mathbf{\epsilon} \]

ဘယ်နေရာ:
– \( \mathbf{y} \) သည် လေ့လာတွေ့ရှိထားသော y တန်ဖိုးများ၏ ကော်လံ vector တစ်ခုဖြစ်သည်။
– \( \mathbf{X} \) သည် လေ့လာတွေ့ရှိထားသော x တန်ဖိုးများ (intercept အတွက် column 1 အပါအဝင်) ၏ matrix တစ်ခုဖြစ်သည်။
– \( \mathbf{b} \) သည် ကန့်သတ်ချက်များ (\( b_0 \) အပါအဝင်) ၏ ကော်လံ ဗက်တာတစ်ခုဖြစ်သည်။

least squares နည်းလမ်း၏ ရည်ရွယ်ချက်မှာ အောက်ပါ quadratic error function ကို အနည်းဆုံးဖြစ်အောင်ပြုလုပ်ရန်ဖြစ်သည်-

\[ S(\mathbf{b}) = (\mathbf{y} – \mathbf{Xb})^T (\mathbf{y} – \mathbf{Xb}) \]

ဤ function ကို minimize လုပ်ရန်အတွက်၊ ကျွန်ုပ်တို့သည် \( \mathbf{b} \) နှင့် စပ်လျဉ်း၍ S ၏ partial derivative ကိုယူ၍ သုညသို့သတ်မှတ်ပါသည်။ ၎င်းသည် multiple linear regression အတွက် normal equation ကိုရရှိစေသည်-

\[ \mathbf{X}^T \mathbf{Xb} = \mathbf{X}^T \mathbf{y} \]

အထက်ပါ ညီမျှခြင်းစနစ်ကို ဖြေရှင်းခြင်းဖြင့်၊ \( \mathbf{b} \) ၏ ခန့်မှန်းချက်ကို ရရှိနိုင်ပါသည်။

\[ \mathbf{b} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y} \]

Keuntungan နှင့် Keterbatasan

အနည်းဆုံးစတုရန်းနည်းလမ်းတွင် အားသာချက်များစွာရှိသည်။ ၎င်းသည် အသုံးပြုရ အလွန်ထိရောက်ပြီး ရိုးရှင်းသောနည်းလမ်းတစ်ခုဖြစ်သည်။ \( \mathbf{X}^T \mathbf{X} \) သည် ပြောင်းပြန်လှန်နိုင်ပါက ထူးခြားသောဖြေရှင်းချက်ကို ပေးစွမ်းပြီး လက်တွေ့အသုံးချမှုများစွာအတွက် ယုံကြည်စိတ်ချရသည်။

သို့သော်၊ least squares နည်းလမ်းတွင်လည်း ကန့်သတ်ချက်များရှိသည်။ squared error သည် သေးငယ်သော ကွာခြားချက်များထက် ကြီးမားသော ကွာခြားချက်များကို ပိုမိုအလေးပေးသောကြောင့် ၎င်းသည် outliers များအပေါ် အလွန်ထိခိုက်လွယ်သည်။ ထို့အပြင်၊ အမှားအယွင်းများသည် သုညပျမ်းမျှနှင့် မပြောင်းလဲနိုင်သော variance ရှိသော normal distribution ရှိသည်ဟူသော ဂန္ထဝင်ယူဆချက်ကို ကောင်းမွန်သောရလဒ်များအတွက် ပြည့်မီရမည်။

လက်တွေ့အသုံးချမှုများ

အနည်းဆုံးစတုရန်းနည်းလမ်းကို ဒေတာလမ်းကြောင်းခွဲခြမ်းစိတ်ဖြာခြင်း၊ ခန့်မှန်းခြင်းနှင့် စက်သင်ယူမှုတို့တွင် ခန့်မှန်းချက်ပုံစံများတည်ဆောက်ရာတွင် မကြာခဏအသုံးပြုလေ့ရှိသည်။ ဘဏ္ဍာရေးလုပ်ငန်းတွင် အနည်းဆုံးစတုရန်းနည်းလမ်းကို ရှယ်ယာဈေးနှုန်းများ သို့မဟုတ် ဈေးကွက်စွမ်းဆောင်ရည်ကို ခန့်မှန်းရန်အသုံးပြုသည်။ ဆေးပညာတွင် ဆေးဝါးပမာဏနှင့် လူနာတုံ့ပြန်မှုကြား ဆက်နွယ်မှုကို ပုံစံပြုရန်အသုံးပြုသည်။ လူမှုရေးသိပ္ပံတွင် ပညာရေးနှင့် ဝင်ငွေကဲ့သို့သော ကိန်းရှင်များကြား ဆက်နွယ်မှုကို နားလည်ရန် ကူညီပေးသည်။

နိဂုံး

အနည်းဆုံးစတုရန်းနည်းလမ်းသည် စာရင်းအင်းနှင့်ဒေတာခွဲခြမ်းစိတ်ဖြာမှုတွင် အခြေခံနည်းစနစ်များထဲမှ တစ်ခုဖြစ်သည်။ သဘောတရားအားဖြင့် ရိုးရှင်းသော်လည်း ဤနည်းလမ်းသည် variable များအကြား ဆက်နွယ်မှုများကို မော်ဒယ်လ်လုပ်ခြင်းနှင့် နားလည်ခြင်းတွင် သိသာထင်ရှားသော စွမ်းအားကို ပေးစွမ်းသည်။ ကျယ်ပြန့်သောနယ်ပယ်များတွင် ကျယ်ပြန့်စွာအသုံးချမှုများဖြင့် ဤနည်းလမ်းကို ခိုင်မာစွာနားလည်ခြင်းသည် ပညာရှင်များနှင့် သုတေသီများအတွက် အဖိုးမဖြတ်နိုင်ပါ။ ကြီးမားသောဒေတာခေတ်တွင် ကြုံတွေ့ရသောဒေတာပမာဏ တိုးပွားလာသည်နှင့်အမျှ အနည်းဆုံးစတုရန်းကဲ့သို့သော ဂန္ထဝင်နည်းလမ်းများကို လိုက်လျောညီထွေဖြစ်အောင်ပြုလုပ်ခြင်းနှင့် အသုံးချခြင်းသည် ပိုမိုသက်ဆိုင်လာမည်ဖြစ်သည်။