Ən Kiçik Kvadratlar Metodu: Hərtərəfli Təhlil
Ən Kiçik Kvadratlar Metodu statistik reqressiya analizində ən fundamental üsullardan biridir və məlumatların uyğunlaşdırılmasında, modelləşdirilməsində və proqnozlaşdırma təhlilində mühüm rol oynayır. Bu, müşahidə edilən və proqnozlaşdırılan dəyərlər arasındakı fərqlərin kvadratlarının cəmini minimuma endirən riyazi bir yanaşmadır. Bunu etməklə, verilən məlumat nöqtələri dəstinə ən uyğun xətt və ya əyri təmin edir. Bu məqalədə Ən Kiçik Kvadratlar Metodu-nun əsaslarını, tətbiqlərini, törəmələrini və məhdudiyyətlərini araşdıracağıq.
Tarixi
Ən Kiçik Kvadratlar Metodu ilk dəfə 1795-ci ildə 18 yaşında Karl Fridrix Qauss tərəfindən təqdim edilmişdir, baxmayaraq ki, 1809-cu ilə qədər nəşr olunmamışdır. Digər görkəmli riyaziyyatçı Adrien-Mari Lejendre, 1805-ci ildə müstəqil olaraq oxşar bir metod hazırlamış və nəşr etmişdir. Buna baxmayaraq, Qausun notasiyası və metodun genişləndirilməsi müasir istifadənin əsasını qoymuşdur.
Riyaziyyat fondu
Ən sadə formasında, Ən Kiçik Kvadratlar Metodu xətti modeli məlumat nöqtələri dəstinə uyğunlaşdırmaq üçün istifadə olunur. `n` məlumat nöqtələri dəsti \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)\) verildikdə, məqsəd müşahidə edilən \(y_i\) dəyərləri ilə \(\hat{y}_i\) xətti ilə proqnozlaşdırılan dəyərlər arasındakı şaquli məsafələrin (qalıqların) kvadratlarının cəmini minimuma endirən \(y = mx + c\) bir xətt tapmaqdır.
Riyazi olaraq, bu məqsəd aşağıdakı kimi təmsil oluna bilər:
\[ S = \sum_{i=1}^{n} (y_i – \hat{y}_i)^2 = \sum_{i=1}^{n} (y_i – (mx_i + c))^2 \]
Bu tənlik qalıqların kvadratlarının cəmini, \(S\) təmsil edir və məqsədimiz \(m\) (maillik) və \(c\) (kəsişmə nöqtəsi) dəyərlərini \(S\) minimuma endirən tapmaqdır.
Derivasiya
\(m\) və \(c\)-nin kvadratlarının cəmini minimuma endirən qiymətlərini tapmaq üçün \(S\)-nin \(m\) və \(c\)-yə görə qismən törəmələrini götürüb sıfıra bərabərləşdiririk.
1. \(m\)-ə görə qismən törəmə:
\[ \frac{\partial S}{\partial m} = \sum_{i=1}^{n} 2(y_i – (mx_i + c))(-x_i) = 0 \]
2. \(c\) ilə bağlı qismən törəmə:
\[ \frac{\partial S}{\partial c} = \sum_{i=1}^{n} 2(y_i – (mx_i + c))(-1) = 0 \]
Bu eyni vaxtda verilən tənliklərin həlli normal tənliklərlə nəticələnir:
\[ m = \frac{n(\sum x_i y_i) – (\sum x_i)(\sum y_i)}{n (\sum x_i^2) – (\sum x_i)^2} \]
\[ c = \frac{(\sum y_i)(\sum x_i^2) – (\sum x_i)(\sum x_i y_i)}{n(\sum x_i^2) – (\sum x_i)^2} \]
Bu tənliklər bizə kvadrat qalıqların cəmini minimuma endirən \(m\) və \(c\) dəyərlərini verir.
Applications
Ən Kiçik Kvadratlar Metodu müxtəlif sahələrdə geniş tətbiqlərə malikdir:
1. İqtisadiyyat və Maliyyə: ÜDM, inflyasiya dərəcələri və səhm qiymətləri kimi iqtisadi göstəriciləri modelləşdirmək və proqnozlaşdırmaq üçün istifadə olunur.
2. Mühəndislik: Modelləri empirik məlumatlara uyğunlaşdırmaq üçün siqnal emalı, idarəetmə sistemləri və etibarlılıq testlərində tətbiq olunur.
3. Tibb: Böyümə əyrilərinin, doza-cavab əyrilərinin və digər bioloji proseslərin eksperimental məlumatlara uyğunlaşdırılmasına kömək edir.
4. Maşın Öyrənməsi: Parametr qiymətləndirməsi üçün tez-tez Ən Kiçik Kvadratlar Metodu istifadə edən xətti reqressiya modelləri nəzarətli öyrənmə texnikalarının əsasını təşkil edir.
5. Astronomiya: Tarixən Qauss tərəfindən səma cisimlərinin orbitlərini hesablamaq üçün istifadə edilmişdir.
Variasiyalar və Genişləndirmələr
1. Ən Kiçik Çəkili Kvadratlar: Müşahidələrin fərqli variasiyalara malik olduğu hallarda, Ən Kiçik Çəkili Kvadratlar hər bir məlumat nöqtəsinə çəki təyin edir və kvadratların çəkili cəmini minimuma endirir.
2. Qeyri-xətti Ən Kiçik Kvadratlar: Metod, tez-tez Gauss-Newton və ya Levenberg-Marquardt alqoritmləri kimi təkrarlanan üsullar vasitəsilə qeyri-xətti modellərə uyğunlaşdırmaq üçün genişləndirilir.
3. Nizamlanmış Ən Kiçik Kvadratlar (Silsilə Reqressiyası): Həddindən artıq uyğunlaşmanın qarşısını almaq üçün kvadratların cəminə cərimə termini əlavə edir, bu, xüsusilə multikollinearlıqla işləyərkən faydalıdır.
4. Ümumiləşdirilmiş Ən Kiçik Kvadratlar: Korrelyasiyalı müşahidələri izah edir, ən kiçik kvadratlar metodunu avtokorrelyasiyalı və heteroskedastik səhvləri idarə etmək üçün genişləndirir.
Hesablama Alətləri
Ən kiçik kvadratlar reqressiyasını yerinə yetirmək üçün müxtəlif proqram təminatı alətləri və proqramlaşdırma mühitləri daxili funksiyalar təklif edir:
1. Python: NumPy və SciPy kimi kitabxanalar xətti və qeyri-xətti ən kiçik kvadratlar uyğunluğu üçün müvafiq olaraq `numpy.linalg.lstsq` və `scipy.optimize.curve_fit` funksiyalarını təmin edir.
2. R: R-nin hərtərəfli statistik mühitində xətti modellər üçün `lm()` və qeyri-xətti modellər üçün `nls()` kimi funksiyalar.
3. MATLAB: MATLAB-dakı `lsqcurvefit` funksiyası xətti cəbr əməliyyatları üçün daxili dəstəyi ilə qeyri-xətti uyğunlaşdırma üçün istifadə olunur.
Məhdudiyyətlər
Geniş tətbiq olunmasına baxmayaraq, Ən Kiçik Kvadratlar Metodunun məhdudiyyətləri var:
1. Kənar qiymətlərə qarşı həssaslıq: Ən Kiçik Kvadratlar kənar qiymətlərə qarşı yüksək həssaslığa malikdir, çünki kvadrat termin böyük qalıqların təsirini gücləndirir.
2. Xəttilik fərziyyəsi: Dəyişənlər arasında xətti əlaqəni fərz edir və bu, mürəkkəb məlumat dəstləri üçün doğru olmaya bilər.
3. Çoxkollinearlıq Məsələləri: Çoxlu xətti reqressiyada, proqnozlaşdırıcı dəyişənlər arasındakı çoxkollinearlıq əmsalların qiymətləndirilməsini təhrif edə bilər.
4. Variasiyanın Homojenliyi (Homoskedastiklik): Xəta terminlərinin variasiyasının müşahidələr arasında sabit olduğunu fərz edir ki, bu da həmişə belə olmaya bilər.
Nəticə
Ən Kiçik Kvadratlar Metodu, yaşına baxmayaraq, statistik məlumatların təhlili və modelləşdirilməsində təməl daşı olaraq qalır. Sadəliyi, effektivliyi və əsas xətti reqressiyadan mürəkkəb qeyri-xətti və ümumiləşdirilmiş modellərə qədər müxtəlif formalara uyğunlaşması onu əvəzsiz edir. Riyazi əsaslarını, tətbiqlərini və məhdudiyyətlərini anlamaq, məlumatların təhlili ilə məşğul olan hər kəs üçün vacibdir və metodun mənalı anlayışlar əldə etmək üçün müvafiq şəkildə tətbiq olunmasını təmin edir. İstər akademik sahədə, istərsə də sənayedə olsun, Ən Kiçik Kvadratlar Metodu məlumatlar daxilindəki əlaqələri anlamaq və məlumatlı proqnozlar vermək üçün güclü bir vasitə olaraq qalır.
