ວິທີການກຳລັງສອງໜ້ອຍທີ່ສຸດ

ວິທີການກຳລັງສອງໜ້ອຍທີ່ສຸດ: ການແນະນຳ ແລະ ການນຳໃຊ້ໃນການວິເຄາະຂໍ້ມູນ

Pendahuluan

ວິທີການກຳລັງສອງນ້ອຍສຸດ (Least Squares) ແມ່ນໜຶ່ງໃນເຕັກນິກພື້ນຖານ ແລະ ນຳໃຊ້ຢ່າງກວ້າງຂວາງທີ່ສຸດໃນການວິເຄາະຂໍ້ມູນ, ໂດຍສະເພາະໃນດ້ານສະຖິຕິ ແລະ ຄະນິດສາດປະຍຸກ. ວິທີການນີ້ມີຈຸດປະສົງເພື່ອປະເມີນຕົວກຳນົດທີ່ຫຼຸດຜ່ອນຜົນບວກຂອງກຳລັງສອງຂອງຄວາມແຕກຕ່າງທີ່ສັງເກດເຫັນຈາກຮູບແບບທີ່ສະເໜີ. ໃນບົດຄວາມນີ້, ພວກເຮົາຈະຄົ້ນຫາແນວຄວາມຄິດພື້ນຖານຂອງວິທີການກຳລັງສອງນ້ອຍສຸດ, ການນຳໃຊ້ໃນຂົງເຂດຕ່າງໆ, ແລະ ຂັ້ນຕອນການປະຕິບັດຕົວຈິງສຳລັບການຈັດຕັ້ງປະຕິບັດມັນ.

ແນວຄວາມຄິດພື້ນຖານຂອງວິທີການກຳລັງສອງນ້ອຍທີ່ສຸດ

ວິທີການ Least Squares ສາມາດອະທິບາຍໄດ້ງ່າຍໆຜ່ານການວິເຄາະ regression ເສັ້ນຊື່. ສົມມຸດວ່າພວກເຮົາມີຂໍ້ມູນໃນຮູບແບບຂອງຄູ່ \((x_i, y_i)\) ເຊິ່ງ \( i = 1, 2, …, n \). ຮູບແບບເສັ້ນຊື່ທີ່ພວກເຮົາຕ້ອງການສ້າງສາມາດສະແດງໄດ້ດັ່ງນີ້:
\[ y = \beta_0 + \beta_1 x + \epsilon \]
ບ່ອນທີ່ \( \beta_0 \) ແລະ \( \beta_1 \) ແມ່ນພາລາມິເຕີທີ່ພວກເຮົາຕ້ອງການປະເມີນ, ໃນຂະນະທີ່ \( \epsilon \) ແມ່ນຄວາມຜິດພາດ ຫຼື ສ່ວນທີ່ເຫຼືອທີ່ຄາດວ່າຈະມີຄ່າສະເລ່ຍເປັນສູນ.

ເປົ້າໝາຍຂອງວິທີການກຳລັງສອງນ້ອຍທີ່ສຸດແມ່ນເພື່ອຫຼຸດຜ່ອນຟັງຊັນຈຸດປະສົງຕໍ່ໄປນີ້:
\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – \beta_0 – \beta_1 x_i)^2 \]

ການຊອກຫາພາລາມິເຕີທີ່ດີທີ່ສຸດ: ວິທີການທາງຄະນິດສາດ

ເພື່ອຊອກຫາຄ່າພາລາມິເຕີທີ່ຫຼຸດຜ່ອນຟັງຊັນຈຸດປະສົງ \(S\), ພວກເຮົາຈຳເປັນຕ້ອງຄິດໄລ່ອະນຸພັນບາງສ່ວນຂອງ \(S\) ທຽບກັບ \(\beta_0\) ແລະ \(\beta_1\), ແລະຫຼັງຈາກນັ້ນແກ້ໄຂສົມຜົນຕໍ່ໄປນີ້:

\[ \frac{\partial S}{\partial \beta_0} = -2 \sum_{i=1}^n (y_i – \beta_0 – \beta_1 x_i) = 0 \]
\[ \frac{\ສ່ວນ S ໄປຫາສ່ວນ \beta_1} = -2 \sum_{i=1}^n x_i (y_i – \beta_0 – \beta_1 x_i) = 0 \]

ໂດຍການແກ້ໄຂລະບົບສົມຜົນເສັ້ນຊື່ນີ້, ພວກເຮົາສາມາດຊອກຫາຕົວປະເມີນ \(\hat{\beta_0}\) ແລະ \(\hat{\beta_1}):
\[ \hat{\beta_1} = \frac{n \sum_{i=1}^n x_i y_i – \sum_{i=1}^n x_i \sum_{i=1}^n y_i}{n \sum_{i=1}^n x_i^2 – (\sum_{i=1}^n x_i)^2} \]
\[ \hat{\beta_0} = \bar{y} – \hat{\beta_1} \bar{x} \]

ບ່ອນທີ່ \(\bar{y}\) ແລະ \(\bar{x}\) ແມ່ນຄ່າສະເລ່ຍຂອງ \(y\) ແລະ \(x\) ຕາມລຳດັບ.

ການນຳໃຊ້ວິທີການກຳລັງສອງໜ້ອຍທີ່ສຸດ

1. ເສດຖະສາດ ແລະ ການເງິນ

ວິທີການກຳລັງສອງໜ້ອຍທີ່ສຸດແມ່ນຖືກນໍາໃຊ້ຢ່າງກວ້າງຂວາງໃນເສດຖະມິຕິເພື່ອສ້າງແບບຈໍາລອງຄວາມສໍາພັນລະຫວ່າງຕົວແປທາງເສດຖະກິດ. ຕົວຢ່າງ, ນັກວິເຄາະທາງເສດຖະກິດອາດຈະຕ້ອງການສ້າງແບບຈໍາລອງຜົນກະທົບຂອງອັດຕາການວ່າງງານຕໍ່ອັດຕາເງິນເຟີ້. ໂດຍການນໍາໃຊ້ວິທີການກຳລັງສອງໜ້ອຍທີ່ສຸດ, ນັກວິເຄາະສາມາດພັດທະນາແບບຈໍາລອງການຖົດຖອຍທີ່ກ່ຽວຂ້ອງກັບສອງຕົວແປ ແລະ ເຮັດການອະນຸມານທາງສະຖິຕິກ່ຽວກັບຄວາມເຂັ້ມແຂງ ແລະ ລັກສະນະຂອງຄວາມສໍາພັນ.

2. ວິທະຍາສາດສັງຄົມ

ໃນສັງຄົມສາດ, ວິທີການຂອງຄ່າກຳລັງສອງໜ້ອຍທີ່ສຸດມັກຖືກນຳໃຊ້ໃນການສຳຫຼວດ ແລະ ການຄົ້ນຄວ້າທາງຈິດວິທະຍາເພື່ອສຶກສາຄວາມສຳພັນລະຫວ່າງພຶດຕິກຳຂອງມະນຸດ ແລະ ຕົວແປອື່ນໆ. ຕົວຢ່າງຄລາສສິກແມ່ນການຖົດຖອຍເສັ້ນຊື່ແບບງ່າຍໆທີ່ກ່ຽວຂ້ອງກັບລະດັບຄວາມສຸກຂອງບຸກຄົນກັບລາຍໄດ້ປະຈຳປີຂອງເຂົາເຈົ້າ.

3. ວິສະວະກຳ

ໃນວິສະວະກຳ, ວິທີການກຳລັງສອງນ້ອຍທີ່ສຸດສາມາດໃຊ້ສຳລັບການວັດແທກເຄື່ອງມື ແລະ ການປະມວນຜົນສັນຍານ. ຕົວຢ່າງ, ໃນການປະມວນຜົນຮູບພາບດິຈິຕອນ, ວິທີການນີ້ຖືກນໍາໃຊ້ເພື່ອຫຼຸດຜ່ອນສຽງລົບກວນໃນຮູບພາບໂດຍການຕິດຕັ້ງແບບຈໍາລອງໂດຍອີງໃສ່ຂໍ້ມູນທີ່ສັງເກດເຫັນ.

4. ອຸຕຸນິຍົມວິທະຍາ ແລະ ດິນຟ້າອາກາດ

ນັກອຸຕຸນິຍົມວິທະຍາໃຊ້ວິທີການນີ້ເພື່ອວິເຄາະຂໍ້ມູນທີ່ກ່ຽວຂ້ອງກັບອຸນຫະພູມ, ປະລິມານນ້ຳຝົນ, ຫຼືຕົວແປສະພາບອາກາດອື່ນໆ. ດ້ວຍຕົວແບບການຖົດຖອຍ, ພວກເຂົາສາມາດຄາດຄະເນຮູບແບບສະພາບອາກາດໂດຍອີງໃສ່ຂໍ້ມູນປະຫວັດສາດ, ຊ່ວຍສ້າງການຄາດຄະເນທີ່ຖືກຕ້ອງຫຼາຍຂຶ້ນ.

ການປະຕິບັດຕົວຈິງດ້ວຍ Python

ເພື່ອໃຊ້ວິທີການ least squares ໃນການປະຕິບັດຕົວຈິງ, ໂດຍສະເພາະແມ່ນການ regression ເສັ້ນຊື່ແບບງ່າຍໆ, ພວກເຮົາສາມາດໃຊ້ພາສາການຂຽນໂປຣແກຣມ Python ໂດຍການຊ່ວຍເຫຼືອຂອງຫ້ອງສະໝຸດ `numpy` ແລະ `matplotlib`. ນີ້ແມ່ນຕົວຢ່າງລະຫັດທີ່ສະແດງໃຫ້ເຫັນຂະບວນການນີ້:

“` python
ນໍາເຂົ້າຕົວເລກເປັນ np
ນໍາເຂົ້າ matplotlib.pyplot ເປັນ plt

ຂໍ້ມູນຕົວຢ່າງ
x = np.array([1, 2, 3, 4, 5])
y = np.array([2, 3, 5, 7, 11])

ຄ່າສະເລ່ຍຂອງ x ແລະ y
x ສະເລ່ຍ = np. ສະເລ່ຍ(x)
mean_y = np.mean(y)

ຄິດໄລ່ພາລາມິເຕີ
ຕົວເສດ = np.sum((x – mean_x) (y – mean_y))
ຕົວສ່ວນ = np.sum((x – mean_x) 2)
b1 = ຕົວເສດ / ຕົວສ່ວນ
b0 = ສະເລ່ຍ y – b1 ສະເລ່ຍ x

ການຄາດຄະເນ y
y_pred = b0 + b1 x

ຜົນໄດ້ຮັບຂອງແຜນວາດ
plt.scatter(x, y, color='blue', label='ຂໍ້ມູນການສັງເກດການ')
plt.plot(x, y_pred, color='red', label='ເສັ້ນຖົດຖອຍ')
plt.xlabel('x')
plt.ylabel('y')
plt.legend()
plt.show ()

ພິມ (f”ສຳປະສິດການຖົດຖອຍ: b0 = {b0}, b1 = {b1}”)
“ `

ສະຫຼຸບ

ວິທີການຂອງກຳລັງສອງໜ້ອຍທີ່ສຸດແມ່ນພື້ນຖານທີ່ມີປະສິດທິພາບ ແລະ ຈຳເປັນໃນການວິເຄາະສະຖິຕິ ແລະ ຂໍ້ມູນ. ຄວາມສາມາດໃນການຫຼຸດຜ່ອນຄວາມຜິດພາດ ແລະ ເພີ່ມປະສິດທິພາບຄວາມເໝາະສົມຂອງຮູບແບບເຮັດໃຫ້ມັນມີປະໂຫຍດຫຼາຍໃນຫຼາຍຂົງເຂດ, ຕັ້ງແຕ່ເສດຖະສາດຈົນເຖິງວິສະວະກຳ ແລະ ວິທະຍາສາດສັງຄົມ. ໃນຂະນະທີ່ແນວຄວາມຄິດພື້ນຖານແມ່ນງ່າຍດາຍ, ວິທີການນີ້ສາມາດຂະຫຍາຍໄປສູ່ຮູບແບບທີ່ສັບສົນຫຼາຍຂຶ້ນເຊັ່ນ: ການຖົດຖອຍແບບບໍ່ເປັນເສັ້ນ, ຮູບແບບຜົນກະທົບປະສົມ, ແລະ ການຮຽນຮູ້ຂອງເຄື່ອງຈັກ. ດ້ວຍຄວາມເຂົ້າໃຈທີ່ດີກ່ຽວກັບວິທີການຂອງກຳລັງສອງໜ້ອຍທີ່ສຸດ ແລະ ການປະຕິບັດທີ່ພຽງພໍ, ພວກເຮົາສາມາດປັບປຸງຄວາມຖືກຕ້ອງຂອງການວິເຄາະຂໍ້ມູນຂອງພວກເຮົາ ແລະ ຕັດສິນໃຈໄດ້ຢ່າງມີຂໍ້ມູນຫຼາຍຂຶ້ນ.

ຫວັງວ່າບົດຄວາມນີ້ຈະໃຫ້ພາບລວມທີ່ຊັດເຈນ ແລະ ຄົບຖ້ວນກ່ຽວກັບວິທີການກຳລັງສອງນ້ອຍທີ່ສຸດ ແລະ ການນຳໃຊ້ຂອງມັນ.