Sadə Xətti Reqressiya Təhlili
Sadə xətti reqressiya iki kəmiyyət dəyişəni arasındakı əlaqəni təhlil etmək üçün istifadə edilən statistik bir texnikadır. Proqnozlaşdırmağa çalışdığımız dəyişən asılı və ya cavab dəyişəni, proqnoz vermək üçün istifadə edilən dəyişən isə müstəqil və ya proqnozlaşdırıcı dəyişən adlanır. Sadə xətti reqressiyada bu iki dəyişən arasındakı əlaqəni təsvir edən ən yaxşı düz xətti tapmağa çalışırıq.
Sadə Xətti Reqressiyanın Əsas Konsepsiyaları
Sadə xətti reqressiya asılı dəyişən (Y) ilə müstəqil dəyişən (X) arasında xətti əlaqənin olduğu fərziyyəsinə əsaslanır . Sadə xətti reqressiya modelinin ümumi forması belədir:
\[ Y = \beta_0 + \beta_1 X + \epsilon \]
Harada:
– \( Y \) asılı dəyişəndir.
– \( X \) müstəqil dəyişəndir.
– \( \beta_0 \) kəsişmə nöqtəsidir və \(X = 0\) olduqda \(Y\)-nin dəyəridir.
– \( \beta_1 \), \(X\)-də hər vahid dəyişikliyi üçün \(Y\)-də orta dəyişiklik olan yamac və ya qradiyentdir.
– \( \epsilon \), \(X\) ilə izah edilə bilməyən \(Y\)-dəki dəyişkənliyi təmsil edən xəta və ya qalıq termindir.
Sadə xətti reqressiyanın məqsədi, modelin, \(X\) dəyəri ilə əlaqəli \(Y\) dəyərini proqnozlaşdırmaq üçün istifadə edilə bilməsi üçün \(\beta_0\) və \(\beta_1\) parametrlərini qiymətləndirməkdir.
Ən Kiçik Kvadratlar Metodu
Sadə xətti reqressiya modelinin qurulması üçün ən çox istifadə edilən metodlardan biri Ən Kiçik Kvadratlar metodudur. Bu metod faktiki müşahidələrlə model tərəfindən proqnozlaşdırılan dəyərlər arasındakı şaquli sapmaların kvadratlarının cəmini minimuma endirməyi hədəfləyir . Tutaq ki, \(i = 1, 2, …, n\ üçün \((x_i, y_i)\) cütlərindən ibarət n müşahidəmiz var. Minimuma endiriləcək funksiya belədir:
\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – (\beta_0 + \beta_1 x_i))^2 \]
Bu funksiyanı minimuma endirən \(\beta_0\) və \(\beta_1\) tapmaq üçün hər bir parametrə görə \(S(\beta_0, \beta_1)\)-nin qismən törəmələrini götürürük və bu törəmələri sıfıra bərabərləşdiririk. Riyazi hesablama aşağıdakı kimi sadələşdirilə bilər:
\[ \beta_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]
\[ \beta_0 = \bar{y} – \beta_1 \bar{x} \]
Harada:
– \(\bar{x}\) \(X\)-in ortalamasıdır
– \(\bar{y}\) \(Y\)-in ortalamasıdır
\(\beta_0\) və \(\beta_1\) parametrlərini əldə etdikdən sonra, \(X\)-in hər bir dəyəri üçün \(Y\) dəyərini proqnozlaşdırmaq üçün sadə xətti reqressiya modeli istifadə edilə bilər.
Sadə Xətti Reqressiyada Fərziyyələr
Etibarlı və etibarlı nəticələr üçün sadə xətti reqressiya bir neçə şeyi fərz edir:
1. Xəttilik: Asılı dəyişən ilə müstəqil dəyişən arasındakı əlaqə xətti olmalıdır.
2. Müstəqillik: Müşahidələr bir-birindən asılı olmamalıdır.
3. Homoskedastiklik: Qalıq dəyişkənlik müstəqil dəyişənin dəyərlər diapazonu boyunca sabit olmalıdır.
4. Qalıq Normallıq: Qalıqlar (səhvlər) normal paylanmaya əməl etməlidir.
Bu fərziyyələr yerinə yetirilmədikdə, sadə xətti reqressiya modelinin nəticələri etibarsız olacaq və dəqiq proqnozlar verə bilməyəcək.
Reqressiya Modelinin Qiymətləndirilməsi
Sadə xətti reqressiya modelinin nə dərəcədə yaxşı proqnozlaşdırdığını qiymətləndirməyin bir yolu Determinasiya Əmsalından (\(R^2\)) istifadə etməkdir. Determinasiya əmsalı asılı dəyişəndəki dəyişkənliyin müstəqil dəyişənlərdəki dəyişkənliklə izah edilə bilən nisbətini göstərir.
\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
Harada:
– \(\hat{y}_i\) \(Y\)-nin proqnozlaşdırılan dəyəridir.
– \(y_i\) \(Y\)-nin faktiki dəyəridir.
– \(\bar{y}\) \(Y\) dəyərlərinin ortalamasıdır.
\(R^2\) dəyəri 0-dan 1-ə qədər dəyişir. \(R^2\) dəyəri 1-ə yaxın olduqda, modelin asılı dəyişəndəki dəyişkənliyin əksəriyyətini izah edə biləcəyi görünür.
Proqramlaşdırma Dilində Tətbiq
Sadə xətti reqressiyanı tətbiq etmək üçün müxtəlif statistik proqram təminatından və ya proqramlaşdırma dillərindən istifadə edə bilərik. Aşağıda Pythonda `scikit-learn` kitabxanasından istifadə edərək nümunə tətbiqi verilmişdir:
“`piton
np şəklində idxal
matplotlib.pyplot faylını plt olaraq idxal edin
sklearn.linear_model-dən LinearRegression-u import edin
sklearn.metrics-dən mean_squared_error, r2_score fayllarını import edin
Tarix
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
model
model = Xətti Reqressiya()
model.fit(X, y)
Proqnoz
y_pred = model.predict(X)
Əmsal
beta_0 = model.intercept_
beta_1 = model.coef_[0]
çap(f'Kəsişmə: {beta_0}')
print(f'Maylı: {beta_1}')
print(f'Orta kvadrat xəta: {mean_squared_error(y, y_pred)}')
print(f'Determinasiya əmsalı (R^2): {r2_score(y, y_pred)}')
Məlumat qrafiki və reqressiya xətti
plt.scatter(X, y, color='mavi')
plt.plot(X, y_pred, color='red')
plt.xlabel('X')
plt.ylabel('Y')
plt.show()
""
Yuxarıdakı nümunədə əvvəlcə lazımi kitabxanaları idxal edirik, \(X\) və \(Y\) məlumatlarını təyin edirik və sonra modeli məlumatlara uyğunlaşdırmaq üçün `scikit-learn`-dən `LinearRegression` obyektindən istifadə edirik. Model uyğunlaşdırıldıqdan sonra proqnozlar veririk və əmsalları, eləcə də orta kvadrat xətanı və təyinetmə əmsalını hesablayırıq. Nəhayət, məlumatları və reqressiya xəttini çəkirik.
Nəticə
Sadə xətti reqressiya iki kəmiyyət dəyişəni arasındakı əlaqəni izah etmək üçün istifadə edilən güclü statistik analiz vasitəsidir. Xəttilik, müstəqillik, homoskedastiklik və normallıq haqqında bəzi əsas fərziyyələrlə, asılı dəyişənin dəyərini müstəqil dəyişənlərin dəyərlərinə əsasən proqnozlaşdıra bilərik. Ən Kiçik Kvadratlar metodu reqressiya xəttini uyğunlaşdırmaq və optimal parametrləri müəyyən etmək üçün effektiv bir yol təqdim edir. Determinasiya əmsalı (R2) vasitəsilə modelin qiymətləndirilməsi modelimizin nə qədər yaxşı işlədiyinə dair məlumat verir.
Sadə xətti reqressiya yalnız iki dəyişəni idarə edə bilmək və yerinə yetirilməli olan fərziyyələr kimi məhdudiyyətlərə malik olsa da, bu texnika statistika və məlumatların təhlilində mühüm təməl olaraq qalır və daha mürəkkəb metodlara keçməzdən əvvəl dəyişənlər arasındakı əlaqəni anlamaqda ilk addım kimi istifadə olunur.