ວິທີການກຳລັງສອງໜ້ອຍທີ່ສຸດ: ການວິເຄາະທີ່ສົມບູນແບບ
ວິທີການກຳລັງສອງນ້ອຍສຸດ (Least Squares) ແມ່ນໜຶ່ງໃນເຕັກນິກພື້ນຖານທີ່ສຸດໃນການວິເຄາະການຖົດຖອຍທາງສະຖິຕິ, ເຊິ່ງມີບົດບາດສຳຄັນໃນການວິເຄາະຂໍ້ມູນໃຫ້ເໝາະສົມ, ການສ້າງແບບຈຳລອງ, ແລະ ການວິເຄາະການຄາດຄະເນ. ມັນເປັນວິທີການທາງຄະນິດສາດທີ່ຫຼຸດຜ່ອນຜົນບວກຂອງກຳລັງສອງຂອງຄວາມແຕກຕ່າງລະຫວ່າງຄ່າທີ່ສັງເກດ ແລະ ຄ່າທີ່ຄາດຄະເນ. ໂດຍການເຮັດເຊັ່ນນັ້ນ, ມັນຈະໃຫ້ເສັ້ນ ຫຼື ເສັ້ນໂຄ້ງທີ່ເໝາະສົມທີ່ສຸດກັບຊຸດຂໍ້ມູນຈຸດທີ່ກຳນົດໃຫ້. ໃນບົດຄວາມນີ້, ພວກເຮົາຈະຄົ້ນຫາພື້ນຖານ, ການນຳໃຊ້, ການອະນຸພັນ, ແລະ ຂໍ້ຈຳກັດຂອງວິທີການກຳລັງສອງນ້ອຍສຸດ.
ພື້ນຫລັງປະຫວັດສາດ
ວິທີການຄິດໄລ່ກຳລັງສອງນ້ອຍທີ່ສຸດໄດ້ຖືກນຳສະເໜີຄັ້ງທຳອິດໂດຍ Carl Friedrich Gauss ໃນປີ 1795 ຕອນອາຍຸ 18 ປີ, ເຖິງແມ່ນວ່າມັນບໍ່ໄດ້ຖືກເຜີຍແຜ່ຈົນກ່ວາປີ 1809. Adrien-Marie Legendre, ນັກຄະນິດສາດທີ່ມີຊື່ສຽງອີກຄົນໜຶ່ງ, ໄດ້ພັດທະນາ ແລະ ເຜີຍແຜ່ວິທີການທີ່ຄ້າຍຄືກັນຢ່າງເປັນອິດສະຫຼະໃນປີ 1805. ເຖິງວ່າຈະມີສິ່ງນີ້, ສັນຍະລັກ ແລະ ການຂະຫຍາຍວິທີການຂອງ Gauss ໄດ້ວາງພື້ນຖານສຳລັບການນຳໃຊ້ທີ່ທັນສະໄໝ.
ມູນນິທິຄະນິດສາດ
ໃນຮູບແບບທີ່ງ່າຍທີ່ສຸດ, ວິທີການກຳລັງສອງນ້ອຍທີ່ສຸດແມ່ນໃຊ້ເພື່ອປັບຮູບແບບເສັ້ນຊື່ໃຫ້ພໍດີກັບຊຸດຈຸດຂໍ້ມູນ. ເມື່ອໃຫ້ຊຸດຈຸດຂໍ້ມູນ `n` \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)\), ເປົ້າໝາຍແມ່ນເພື່ອຊອກຫາເສັ້ນ \(y = mx + c\) ທີ່ຫຼຸດຜົນບວກຂອງກຳລັງສອງຂອງໄລຍະທາງຕັ້ງ (ສ່ວນທີ່ເຫຼືອ) ລະຫວ່າງຄ່າທີ່ສັງເກດໄດ້ \(y_i\) ແລະຄ່າທີ່ຄາດຄະເນໂດຍເສັ້ນ \(\hat{y}_i\).
ໃນທາງຄະນິດສາດ, ຈຸດປະສົງນີ້ສາມາດສະແດງໄດ້ດັ່ງນີ້:
\[ S = \sum_{i=1}^{n} (y_i – \hat{y}_i)^2 = \sum_{i=1}^{n} (y_i – (mx_i + c))^2 \]
ສົມຜົນນີ້ສະແດງເຖິງຜົນບວກຂອງກຳລັງສອງຂອງສ່ວນທີ່ເຫຼືອ, \(S\), ແລະເປົ້າໝາຍຂອງພວກເຮົາແມ່ນເພື່ອຊອກຫາຄ່າຂອງ \(m\) (ຄວາມຊັນ) ແລະ \(c\) (ຈຸດຕັດ) ທີ່ຫຼຸດຜ່ອນ \(S\).
ອະນຸພັນ
ເພື່ອຊອກຫາຄ່າຂອງ \(m\) ແລະ \(c\) ທີ່ຫຼຸດຜົນບວກຂອງກຳລັງສອງ \(S\), ເຮົາເອົາອະນຸພັນບາງສ່ວນຂອງ \(S\) ທຽບກັບ \(m\) ແລະ \(c\) ແລະຕັ້ງຄ່າໃຫ້ເປັນສູນ.
1. ອະນຸພັນບາງສ່ວນທຽບກັບ \(m\):
\[ \frac{\ສ່ວນ S ໄປຫາສ່ວນ m} = \sum_{i=1}^{n} 2(y_i – (mx_i + c))(-x_i) = 0 \]
2. ອະນຸພັນບາງສ່ວນທຽບກັບ \(c\):
\[ \frac{\partial S}{\partial c} = \sum_{i=1}^{n} 2(y_i – (mx_i + c))(-1) = 0 \]
ການແກ້ໄຂສົມຜົນພ້ອມໆກັນເຫຼົ່ານີ້ເຮັດໃຫ້ໄດ້ສົມຜົນປົກກະຕິ:
\[ m = \frac{n(\sum x_i y_i) – (\sum x_i)(\sum y_i)}{n (\sum x_i^2) – (\sum x_i)^2} \]
\[ c = \frac{(\ຜົນລວມ y_i)(\ຜົນລວມ x_i^2) – (\ຜົນລວມ x_i)(\ຜົນລວມ x_i y_i)}{n(\ຜົນລວມ x_i^2) – (\ຜົນລວມ x_i)^2} \]
ສົມຜົນເຫຼົ່ານີ້ໃຫ້ຄ່າຂອງ \(m\) ແລະ \(c\) ທີ່ຫຼຸດຜ່ອນຜົນບວກຂອງເສດເຫຼືອກຳລັງສອງ.
ຄໍາຮ້ອງສະຫມັກ
ວິທີການຄິດໄລ່ຂະໜາດນ້ອຍທີ່ສຸດມີການນຳໃຊ້ຢ່າງກວ້າງຂວາງໃນຫຼາຍຂົງເຂດຄື:
1. ເສດຖະສາດ ແລະ ການເງິນ: ໃຊ້ເພື່ອສ້າງແບບຈຳລອງ ແລະ ຄາດຄະເນຕົວຊີ້ວັດທາງເສດຖະກິດ ເຊັ່ນ: GDP, ອັດຕາເງິນເຟີ້ ແລະ ລາຄາຫຸ້ນ.
2. ວິສະວະກຳ: ນຳໃຊ້ໃນການປະມວນຜົນສັນຍານ, ລະບົບຄວບຄຸມ ແລະ ການທົດສອບຄວາມໜ້າເຊື່ອຖືເພື່ອໃຫ້ຮູບແບບເໝາະສົມກັບຂໍ້ມູນຕົວຈິງ.
3. ການແພດ: ຊ່ວຍໃນການຈັດເສັ້ນໂຄ້ງການຈະເລີນເຕີບໂຕ, ເສັ້ນໂຄ້ງການຕອບສະໜອງຕໍ່ປະລິມານຢາ, ແລະຂະບວນການທາງຊີວະວິທະຍາອື່ນໆໃຫ້ເໝາະສົມກັບຂໍ້ມູນການທົດລອງ.
4. ການຮຽນຮູ້ຂອງເຄື່ອງຈັກ: ຮູບແບບການຖົດຖອຍເສັ້ນຊື່, ເຊິ່ງມັກໃຊ້ວິທີການ Least Squares ສຳລັບການປະມານຄ່າພາລາມິເຕີ, ແມ່ນພື້ນຖານໃນເຕັກນິກການຮຽນຮູ້ທີ່ມີການຊີ້ນຳ.
5. ດາລາສາດ: ໃນອະດີດ Gauss ໄດ້ໃຊ້ມັນເພື່ອຄິດໄລ່ວົງໂຄຈອນຂອງວັດຖຸທາງດາລາສາດ.
ການປ່ຽນແປງແລະການຂະຫຍາຍ
1. ນ້ຳໜັກກຳລັງສອງໜ້ອຍທີ່ສຸດ: ໃນກໍລະນີທີ່ການສັງເກດມີຄວາມແปรປ່ວນທີ່ແຕກຕ່າງກັນ, ນ້ຳໜັກກຳລັງສອງໜ້ອຍທີ່ສຸດຈະກຳນົດນ້ຳໜັກໃຫ້ກັບແຕ່ລະຈຸດຂໍ້ມູນ, ໂດຍຫຼຸດຜົນບວກທີ່ມີນ້ຳໜັກຂອງກຳລັງສອງໃຫ້ໜ້ອຍທີ່ສຸດ.
2. ກຳລັງສອງນ້ອຍສຸດທີ່ບໍ່ເປັນເສັ້ນຊື່: ຂະຫຍາຍວິທີການໃຫ້ເໝາະສົມກັບຮູບແບບທີ່ບໍ່ເປັນເສັ້ນຊື່, ເຊິ່ງມັກຈະຜ່ານເຕັກນິກການເຮັດຊ້ຳໆເຊັ່ນ: ອັລກໍຣິທຶມ Gauss-Newton ຫຼື Levenberg-Marquardt.
3. ການຈັດລຽງກຳລັງສອງໜ້ອຍທີ່ສຸດແບບປົກກະຕິ (Ridge Regression): ເພີ່ມຄ່າປັບໄໝໃສ່ຜົນບວກຂອງກຳລັງສອງເພື່ອປ້ອງກັນການ overfitting, ເປັນປະໂຫຍດໂດຍສະເພາະເມື່ອຈັດການກັບ multicollinearity.
4. ຄວາມຜິດພາດທົ່ວໄປທີ່ມີຄ່າໜ້ອຍທີ່ສຸດ: ອະທິບາຍເຖິງການສັງເກດການທີ່ກ່ຽວຂ້ອງກັນ, ຂະຫຍາຍວິທີການຄວາມຜິດພາດໜ້ອຍທີ່ສຸດເພື່ອຈັດການກັບຄວາມຜິດພາດແບບອັດຕະໂນມັດທີ່ກ່ຽວຂ້ອງກັນ ແລະ ຄວາມຜິດພາດແບບເຮເຕີໂຣເຊດາສຕິກ.
ເຄື່ອງມືປະສົມປະສານ
ເຄື່ອງມືຊອບແວ ແລະ ສະພາບແວດລ້ອມການຂຽນໂປຣແກຣມຕ່າງໆສະເໜີຟັງຊັນໃນຕົວສຳລັບການປະຕິບັດການຖົດຖອຍກຳລັງສອງໜ້ອຍທີ່ສຸດ:
1. Python: ຫ້ອງສະໝຸດຕ່າງໆເຊັ່ນ NumPy ແລະ SciPy ໃຫ້ຟັງຊັນ `numpy.linalg.lstsq` ແລະ `scipy.optimize.curve_fit` ສຳລັບການປັບຄ່າກຳລັງສອງນ້ອຍທີ່ສຸດແບບເສັ້ນຊື່ ແລະ ບໍ່ເປັນເສັ້ນຊື່ຕາມລຳດັບ.
2. R: ຟັງຊັນຕ່າງໆເຊັ່ນ `lm()` ສຳລັບຮູບແບບເສັ້ນຊື່ ແລະ `nls()` ສຳລັບຮູບແບບທີ່ບໍ່ເປັນເສັ້ນຊື່ ໃນສະພາບແວດລ້ອມສະຖິຕິທີ່ສົມບູນແບບຂອງ R.
3. MATLAB: ຟັງຊັນ `lsqcurvefit` ໃນ MATLAB ແມ່ນໃຊ້ສຳລັບການຈັບຄູ່ທີ່ບໍ່ເປັນເສັ້ນຊື່, ໂດຍມີການຮອງຮັບໃນຕົວສຳລັບການດຳເນີນງານພຶດຊະຄະນິດເສັ້ນຊື່.
ຂໍ້ຈໍາກັດ
ເຖິງວ່າຈະມີການນຳໃຊ້ຢ່າງກວ້າງຂວາງ, ວິທີການ Least Squares ຍັງມີຂໍ້ຈຳກັດຄື:
1. ຄວາມອ່ອນໄຫວຕໍ່ກັບຄ່າຜິດປົກກະຕິ: ຄ່າກຳລັງສອງທີ່ນ້ອຍທີ່ສຸດແມ່ນມີຄວາມອ່ອນໄຫວສູງຕໍ່ກັບຄ່າຜິດປົກກະຕິ, ຍ້ອນວ່າຄ່າກຳລັງສອງຈະຂະຫຍາຍຜົນກະທົບຂອງຄ່າຄົງທີ່ຂະໜາດໃຫຍ່.
2. ສົມມຸດຕິຖານຂອງຄວາມເປັນເສັ້ນຊື່: ສົມມຸດຕິຖານຄວາມສຳພັນເສັ້ນຊື່ລະຫວ່າງຕົວແປ, ເຊິ່ງອາດຈະບໍ່ເປັນຄວາມຈິງສຳລັບຊຸດຂໍ້ມູນທີ່ສັບສົນ.
3. ບັນຫາຫຼາຍເສັ້ນຊື່: ໃນການວິເຄາະການຖົດຖອຍເສັ້ນຊື່ຫຼາຍເສັ້ນ, ຫຼາຍເສັ້ນຊື່ລະຫວ່າງຕົວແປຄາດຄະເນສາມາດບິດເບືອນການຄາດຄະເນຂອງສຳປະສິດ.
4. ຄວາມສະໝໍ່າສະເໝີຂອງຄວາມແປປ່ວນ (ຄວາມສະໝໍ່າສະເໝີ): ສົມມຸດວ່າຄວາມແປປ່ວນຂອງເງື່ອນໄຂຄວາມຜິດພາດແມ່ນຄົງທີ່ໃນທົ່ວການສັງເກດການ, ເຊິ່ງອາດຈະບໍ່ແມ່ນກໍລະນີສະເໝີໄປ.
ສະຫຼຸບ
ວິທີການ Least Squares, ເຖິງວ່າຈະມີອາຍຸຫຼາຍປີ, ແຕ່ຍັງຄົງເປັນພື້ນຖານໃນການວິເຄາະຂໍ້ມູນທາງສະຖິຕິ ແລະ ການສ້າງແບບຈຳລອງ. ຄວາມລຽບງ່າຍ, ປະສິດທິພາບ, ແລະ ຄວາມສາມາດໃນການປັບຕົວເຂົ້າກັບຮູບແບບຕ່າງໆ, ຕັ້ງແຕ່ການຖົດຖອຍເສັ້ນຊື່ພື້ນຖານ ຈົນເຖິງຮູບແບບທີ່ບໍ່ແມ່ນເສັ້ນຊື່ທີ່ສັບສົນ ແລະ ຮູບແບບທົ່ວໄປ, ເຮັດໃຫ້ມັນມີຄຸນຄ່າຫຼາຍ. ການເຂົ້າໃຈພື້ນຖານທາງຄະນິດສາດ, ການນຳໃຊ້, ແລະ ຂໍ້ຈຳກັດຂອງມັນແມ່ນສິ່ງຈຳເປັນສຳລັບທຸກຄົນທີ່ກ່ຽວຂ້ອງກັບການວິເຄາະຂໍ້ມູນ, ຮັບປະກັນວ່າວິທີການດັ່ງກ່າວຖືກນຳໃຊ້ຢ່າງເໝາະສົມເພື່ອໃຫ້ໄດ້ຄວາມເຂົ້າໃຈທີ່ມີຄວາມໝາຍ. ບໍ່ວ່າຈະຢູ່ໃນວົງວິຊາການ ຫຼື ອຸດສາຫະກຳ, ວິທີການ Least Squares ຍັງຄົງເປັນເຄື່ອງມືທີ່ເຂັ້ມແຂງສຳລັບການເຂົ້າໃຈຄວາມສຳພັນພາຍໃນຂໍ້ມູນ ແລະ ການຄາດຄະເນທີ່ມີຂໍ້ມູນ.
