მარტივი წრფივი რეგრესიული ანალიზი

მარტივი ხაზოვანი რეგრესიული ანალიზი

მარტივი წრფივი რეგრესია არის სტატისტიკური ტექნიკა, რომელიც გამოიყენება ორ რაოდენობრივ ცვლადს შორის ურთიერთობის გასაანალიზებლად. ცვლადს, რომლის პროგნოზირებასაც ვცდილობთ, ეწოდება დამოკიდებული ან საპასუხო ცვლადი, ხოლო ცვლადს, რომელიც გამოიყენება პროგნოზირებისთვის, ეწოდება დამოუკიდებელი ან პროგნოზირების ცვლადი. მარტივი წრფივი რეგრესიის დროს ჩვენ ვცდილობთ ვიპოვოთ საუკეთესო სწორი ხაზი, რომელიც აღწერს ამ ორ ცვლადს შორის ურთიერთობას.

მარტივი წრფივი რეგრესიის ძირითადი კონცეფციები

მარტივი წრფივი რეგრესია ეფუძნება იმ ვარაუდს, რომ დამოკიდებულ ცვლად \(Y\)-სა და დამოუკიდებელ ცვლად \(X\)-ს შორის არსებობს წრფივი კავშირი. მარტივი წრფივი რეგრესიის მოდელის ზოგადი ფორმაა:

\[ Y = \beta_0 + \beta_1 X + \epsilon \]

სად:
– \( Y \) არის დამოკიდებული ცვლადი.
– \( X \) არის დამოუკიდებელი ცვლადი.
– \( β_0 ) არის გადაკვეთის წერტილი, რომელიც არის \(Y )-ის მნიშვნელობა, როდესაც \(X = 0 ).
– \( β_1 \) არის დახრილობა ან გრადიენტი, რომელიც წარმოადგენს \(Y\)-ის საშუალო ცვლილებას \(X\)-ის თითოეული ერთეული ცვლილებისთვის.
– \( \epsilon \) არის შეცდომა ან ნარჩენი ტერმინი, რომელიც წარმოადგენს \(Y\)-ის ცვალებადობას, რომლის ახსნა \(X\)-ით შეუძლებელია.

მარტივი წრფივი რეგრესიის მიზანია პარამეტრების \(\beta_0\) და \(\beta_1\) შეფასება ისე, რომ მოდელის გამოყენება შესაძლებელი იყოს \(Y\)-ის მნიშვნელობის პროგნოზირებისთვის, რომელიც დაკავშირებულია \(X\)-ის მნიშვნელობასთან.

უმცირესი კვადრატების მეთოდი

მარტივი წრფივი რეგრესიული მოდელის მორგების ერთ-ერთი ყველაზე ხშირად გამოყენებული მეთოდია უმცირესი კვადრატების მეთოდი. ამ მეთოდის მიზანია ვერტიკალური გადახრების კვადრატების ჯამის მინიმიზაცია რეალურ დაკვირვებებსა და მოდელის მიერ პროგნოზირებულ მნიშვნელობებს შორის. დავუშვათ, რომ გვაქვს n დაკვირვება, რომელიც შედგება \(x_i, y_i)\) წყვილებისგან \(i = 1, 2, …, n\-სთვის. მინიმიზებული ფუნქციაა:

\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – (\beta_0 + \beta_1 x_i))^2 \]

ამ ფუნქციის მინიმიზაციისთვის \(\beta_0\) და \(\beta_1\) მნიშვნელობების საპოვნელად, ჩვენ ვიღებთ \(\beta_0, \beta_1)\)-ის ნაწილობრივ წარმოებულებს თითოეული პარამეტრის მიმართ და ვადგენთ ამ წარმოებულებს ნულის ტოლფასად. მათემატიკური გამოთვლა შეიძლება გამარტივდეს შემდეგნაირად:

\[ β_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]

\[ \beta_0 = \bar{y} – \beta_1 \bar{x} \]

სად:
– \(\bar{x}\) არის \(X\)-ის საშუალო
– \(\bar{y}\) არის \(Y\)-ის საშუალო

პარამეტრების \(\beta_0\) და \(\beta_1\) მიღების შემდეგ, \(X\)-ის თითოეული მნიშვნელობისთვის \(Y\)-ის მნიშვნელობის პროგნოზირებისთვის შეიძლება გამოყენებულ იქნას მარტივი წრფივი რეგრესიის მოდელი.

დაშვებები მარტივი წრფივი რეგრესიის დროს

ვალიდური და სანდო შედეგების მისაღებად, მარტივი წრფივი რეგრესია რამდენიმე რამეს გულისხმობს:
1. ხაზოვნება: დამოკიდებულ და დამოუკიდებელ ცვლადებს შორის დამოკიდებულება ხაზოვანი უნდა იყოს.
2. დამოუკიდებლობა: დაკვირვებები ერთმანეთისგან დამოუკიდებელი უნდა იყოს.
3. ჰომოსკედასტურობა: ნარჩენი ცვალებადობა მუდმივი უნდა იყოს დამოუკიდებელი ცვლადის მნიშვნელობების მთელ დიაპაზონში.
4. ნარჩენი ნორმალობა: ნარჩენებმა (შეცდომებმა) უნდა მიჰყვეს ნორმალური განაწილება.

თუ ეს ვარაუდები არ დაკმაყოფილდება, მარტივი წრფივი რეგრესიის მოდელის შედეგები არასანდო იქნება და შესაძლოა ზუსტი პროგნოზების გაკეთება შეუძლებელი იყოს.

რეგრესიული მოდელის შეფასება

ერთ-ერთი გზა იმის შესაფასებლად, თუ რამდენად კარგად პროგნოზირებს მარტივი წრფივი რეგრესიის მოდელი, არის დეტერმინაციის კოეფიციენტის (\(R^2\)) გამოყენება. დეტერმინაციის კოეფიციენტი გვიჩვენებს დამოკიდებული ცვლადის ცვალებადობის იმ პროპორციას, რომლის ახსნაც შესაძლებელია დამოუკიდებელი ცვლადების ცვალებადობით.

\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]

სად:
– \(\hat{y}_i\) არის \(Y\)-ის პროგნოზირებული მნიშვნელობა.
– \(y_i\) არის \(Y\)-ის ფაქტობრივი მნიშვნელობა.
– \(\bar{y}\) არის \(Y\)-ის მნიშვნელობების საშუალო.

\(R^2\) მნიშვნელობა 0-დან 1-მდე მერყეობს. 1-თან ახლოს მდებარე \(R^2\) მნიშვნელობა მიუთითებს, რომ მოდელს შეუძლია ახსნას დამოკიდებული ცვლადის ცვალებადობის უმეტესი ნაწილი.

იმპლემენტაცია პროგრამირების ენაზე

მარტივი წრფივი რეგრესიის განსახორციელებლად, შეგვიძლია გამოვიყენოთ სხვადასხვა სტატისტიკური პროგრამული უზრუნველყოფა ან პროგრამირების ენა. ქვემოთ მოცემულია Python-ში იმპლემენტაციის მაგალითი `scikit-learn` ბიბლიოთეკის გამოყენებით:

„პითონი
იმპორტი numpy როგორც np
იმპორტი matplotlib.pyplot როგორც plt
sklearn.linear_model იმპორტიდან ხაზოვანი რეგრესია
sklearn.metrics-ის იმპორტიდან mean_squared_error, r2_score

თარიღი
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)

მოდელი
მოდელი = ხაზოვანი რეგრესია()
model.fit(X, y)

პროგნოზირება
y_pred = model.predict(X)

კოეფიციენტი
ბეტა_0 = model.intercept_
ბეტა_1 = model.coef_[0]

print(f'Intercept: {beta_0}')
print(f'დახრილობა: {beta_1}')
print(f'საშუალო კვადრატული შეცდომა: {mean_squared_error(y, y_pred)}')
print(f'დეტერმინაციის კოეფიციენტი (R^2): {r2_score(y, y_pred)}')

მონაცემთა დიაგრამა და რეგრესიული ხაზი
plt.scatter(X, y, ფერი='ლურჯი')
plt.plot(X, y_pred, ფერი='წითელი')
plt.xlabel('X')
plt.ylabel('Y')
plt.show ()
""

ზემოთ მოცემულ მაგალითში, ჩვენ ჯერ ვახორციელებთ საჭირო ბიბლიოთეკების იმპორტს, განვსაზღვრავთ მონაცემებს \(X\) და \(Y\) და შემდეგ ვიყენებთ `LinearRegression` ობიექტს `scikit-learn`-დან, რათა მოდელი მონაცემებს მოვარგოთ. მოდელის მორგების შემდეგ, ჩვენ ვაკეთებთ პროგნოზებს და ვიანგარიშებთ კოეფიციენტებს, ასევე საშუალო კვადრატულ შეცდომას და განსაზღვრის კოეფიციენტს. და ბოლოს, ჩვენ ვახდენთ მონაცემებისა და რეგრესიის წრფის გრაფიკზე აგებას.

დასკვნა

მარტივი წრფივი რეგრესია არის სტატისტიკური ანალიზის ძლიერი ინსტრუმენტი, რომელიც გამოიყენება ორ რაოდენობრივ ცვლადს შორის ურთიერთობის ასახსნელად. წრფივობის, დამოუკიდებლობის, ჰომოსკედასტიურობისა და ნორმალურობის შესახებ რამდენიმე ძირითადი დაშვების საფუძველზე, ჩვენ შეგვიძლია ვიწინასწარმეტყველოთ დამოკიდებული ცვლადის მნიშვნელობა დამოუკიდებელი ცვლადების მნიშვნელობების საფუძველზე. უმცირესი კვადრატების მეთოდი უზრუნველყოფს ეფექტურ გზას რეგრესიული ხაზის მოსარგებად და ოპტიმალური პარამეტრების დასადგენად. მოდელის შეფასება დეტერმინაციის კოეფიციენტის (R2) მეშვეობით იძლევა წარმოდგენას იმის შესახებ, თუ რამდენად კარგად მუშაობს ჩვენი მოდელი.

მიუხედავად იმისა, რომ მარტივ წრფივ რეგრესიას აქვს შეზღუდვები, როგორიცაა მხოლოდ ორი ცვლადის დამუშავების შესაძლებლობა და იმ ვარაუდების დაკმაყოფილება, რომლებიც უნდა დაკმაყოფილდეს, ეს ტექნიკა სტატისტიკასა და მონაცემთა ანალიზში მნიშვნელოვან საფუძვლად რჩება და ხშირად გამოიყენება, როგორც პირველი ნაბიჯი ცვლადებს შორის ურთიერთობის გასაგებად, სანამ უფრო რთულ მეთოდებზე გადავალთ.