Oddiy chiziqli regressiya tahlili
Oddiy chiziqli regressiya - bu ikkita miqdoriy o'zgaruvchi o'rtasidagi munosabatni tahlil qilish uchun ishlatiladigan statistik usul. Biz bashorat qilishga harakat qilayotgan o'zgaruvchi bog'liq yoki javob o'zgaruvchisi, bashorat qilish uchun ishlatiladigan o'zgaruvchi esa mustaqil yoki bashorat qiluvchi o'zgaruvchi deb ataladi. Oddiy chiziqli regressiyada biz ushbu ikki o'zgaruvchi o'rtasidagi munosabatni tavsiflovchi eng yaxshi to'g'ri chiziqni topishga harakat qilamiz.
Oddiy chiziqli regressiyaning asosiy tushunchalari
Oddiy chiziqli regressiya bog'liq o'zgaruvchi \(Y\) va mustaqil o'zgaruvchi \(X\) o'rtasida chiziqli bog'liqlik bor degan taxminga asoslanadi. Oddiy chiziqli regressiya modelining umumiy shakli quyidagicha:
\[ Y = \beta_0 + \beta_1 X + \epsilon \]
Qayerda:
– \( Y \) bog'liq o'zgaruvchidir.
– \( X \) mustaqil o'zgaruvchidir.
– \( \beta_0 \) kesishma nuqta bo'lib, u \(X = 0 \) bo'lganda \(Y\) ning qiymatidir.
– \( \beta_1 \) - bu qiyalik yoki gradient bo'lib, u \(X\) dagi har bir birlik o'zgarishi uchun \(Y\) dagi o'rtacha o'zgarishdir.
– \( \epsilon \) - bu \(X\) bilan tushuntirib bo'lmaydigan \(Y\) dagi o'zgaruvchanlikni ifodalovchi xato yoki qoldiq atama.
Oddiy chiziqli regressiyaning maqsadi \(\beta_0\) va \(\beta_1\) parametrlarini baholashdir, shunda model \(X\) qiymati bilan bog'liq \(Y\) qiymatini bashorat qilish uchun ishlatilishi mumkin.
Eng kichik kvadratlar usuli
Oddiy chiziqli regressiya modelini o'rnatish uchun eng ko'p qo'llaniladigan usullardan biri bu Eng Kichik Kvadratlar usuli. Bu usul haqiqiy kuzatuvlar va model tomonidan bashorat qilingan qiymatlar orasidagi vertikal og'ishlarning kvadratlari yig'indisini minimallashtirishga qaratilgan. Aytaylik, bizda \(i = 1, 2, …, n\ uchun \((x_i, y_i)\) juftliklaridan iborat n ta kuzatuv mavjud. Minimallashtiriladigan funksiya quyidagicha:
\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – (\beta_0 + \beta_1 x_i))^2 \]
Bu funksiyani minimallashtiradigan \(\beta_0\) va \(\beta_1\) ni topish uchun har bir parametrga nisbatan \(S(\beta_0, \beta_1)\) ning qisman hosilalarini olamiz va bu hosilalarni nolga tenglashtiramiz. Matematik hisoblashni quyidagicha soddalashtirish mumkin:
\[ \beta_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]
\[ \beta_0 = \bar{y} - \beta_1 \bar{x} \]
Qayerda:
– \(\bar{x}\) \(X\) ning o'rtacha qiymatidir
– \(\bar{y}\) \(Y\) ning o'rtacha qiymatidir
\(\beta_0\) va \(\beta_1\) parametrlarini olgandan so'ng, \(X\) ning har bir qiymati uchun \(Y\) qiymatini bashorat qilish uchun oddiy chiziqli regressiya modelidan foydalanish mumkin.
Oddiy chiziqli regressiyadagi taxminlar
Ishonchli va to'g'ri natijalar uchun oddiy chiziqli regressiya bir nechta narsalarni nazarda tutadi:
1. Chiziqlilik: Bog'liq o'zgaruvchi va mustaqil o'zgaruvchi o'rtasidagi bog'liqlik chiziqli bo'lishi kerak.
2. Mustaqillik: Kuzatuvlar bir-biridan mustaqil bo'lishi kerak.
3. Gomoskedastiklik: Qoldiq o'zgaruvchanlik mustaqil o'zgaruvchining qiymatlari diapazonida doimiy bo'lishi kerak.
4. Qoldiq Normallik: Qoldiqlar (xatolar) normal taqsimotga amal qilishi kerak.
Agar bu taxminlar bajarilmasa, oddiy chiziqli regressiya modelining natijalari ishonchsiz bo'ladi va aniq bashorat qila olmasligi mumkin.
Regressiya modelini baholash
Oddiy chiziqli regressiya modeli qanchalik yaxshi bashorat qilganini baholashning bir usuli - bu Determinatsiya koeffitsientidan (\(R^2\)) foydalanishdir. Determinatsiya koeffitsienti mustaqil o'zgaruvchilarning o'zgaruvchanligi bilan izohlanishi mumkin bo'lgan bog'liq o'zgaruvchining o'zgaruvchanlik ulushini ko'rsatadi.
\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
Qayerda:
– \(\hat{y}_i\) \(Y\) ning taxmin qilingan qiymati.
– \(y_i\) \(Y\) ning haqiqiy qiymati.
– \(\bar{y}\) - \(Y\) qiymatlarining o'rtacha qiymati.
\(R^2\) qiymati 0 dan 1 gacha o'zgaradi. \(R^2\) qiymati 1 ga yaqin bo'lsa, model bog'liq o'zgaruvchining o'zgaruvchanligining ko'p qismini tushuntira olishini ko'rsatadi.
Dasturlash tilida amalga oshirish
Oddiy chiziqli regressiyani amalga oshirish uchun biz turli xil statistik dasturlar yoki dasturlash tillaridan foydalanishimiz mumkin. Quyida Pythonda `scikit-learn` kutubxonasidan foydalangan holda amalga oshirishga misol keltirilgan:
"`piton
numpy ni np sifatida import qilish
matplotlib.pyplotni plt sifatida import qilish
sklearn.linear_model dan LinearRegression import qilish
sklearn.metrics dan mean_squared_error, r2_score import qilish
ma'lumotlar
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
model
model = LinearRegression()
model.fit(X, y)
Bashorat
y_pred = model.predict(X)
Koeffitsient
beta_0 = model.intercept_
beta_1 = model.coef_[0]
chop etish(f'Kesish: {beta_0}')
print(f'Slope: {beta_1}')
print(f'O'rtacha kvadrat xato: {mean_squared_error(y, y_pred)}')
print(f'Determinatsiya koeffitsienti (R^2): {r2_ball(y, y_pred)}')
Ma'lumotlar grafigi va regressiya chizig'i
plt.scatter(X, y, color='ko'k')
plt.plot(X, y_pred, color='red')
plt.xlabel('X')
plt.ylabel('Y')
plt.show()
""
Yuqoridagi misolda biz avval kerakli kutubxonalarni import qilamiz, \(X\) va \(Y\) ma'lumotlarini aniqlaymiz va keyin modelni ma'lumotlarga moslashtirish uchun `scikit-learn` dan `LinearRegression` obyektidan foydalanamiz. Model moslashtirilgandan so'ng, biz bashorat qilamiz va koeffitsientlarni, shuningdek, o'rtacha kvadratik xato va determinatsiya koeffitsientini hisoblaymiz. Va nihoyat, biz ma'lumotlar va regressiya chizig'ini chizamiz.
Xulosa
Oddiy chiziqli regressiya ikkita miqdoriy o'zgaruvchi o'rtasidagi munosabatni tushuntirish uchun ishlatiladigan kuchli statistik tahlil vositasidir. Chiziqlilik, mustaqillik, gomoskedastiklik va normallik haqidagi ba'zi asosiy taxminlar bilan biz mustaqil o'zgaruvchilar qiymatlari asosida bog'liq o'zgaruvchining qiymatini bashorat qilishimiz mumkin. Eng kichik kvadratlar usuli regressiya chizig'ini moslashtirish va optimal parametrlarni aniqlashning samarali usulini taqdim etadi. Determinatsiya koeffitsienti (R2) orqali modelni baholash bizning modelimiz qanchalik yaxshi ishlashi haqida tushuncha beradi.
Oddiy chiziqli regressiya faqat ikkita o'zgaruvchini boshqarish imkoniyati va bajarilishi kerak bo'lgan taxminlar kabi cheklovlarga ega bo'lsa-da, bu usul statistika va ma'lumotlarni tahlil qilishda muhim asos bo'lib qolmoqda va ko'pincha murakkabroq usullarga o'tishdan oldin o'zgaruvchilar o'rtasidagi munosabatni tushunishda birinchi qadam sifatida ishlatiladi.
