تحليل الانحدار الخطي البسيط
الانحدار الخطي البسيط هو أسلوب إحصائي يُستخدم لتحليل العلاقة بين متغيرين كميين. يُسمى المتغير الذي نحاول التنبؤ به بالمتغير التابع أو متغير الاستجابة، بينما يُسمى المتغير المستخدم في التنبؤ بالمتغير المستقل أو متغير التنبؤ. في الانحدار الخطي البسيط، نسعى لإيجاد أفضل خط مستقيم يصف العلاقة بين هذين المتغيرين.
المفاهيم الأساسية للانحدار الخطي البسيط
يعتمد الانحدار الخطي البسيط على افتراض وجود علاقة خطية بين المتغير التابع (Y) والمتغير المستقل (X). والصيغة العامة لنموذج الانحدار الخطي البسيط هي:
\[ Y = \beta_0 + \beta_1 X + \epsilon \]
دي مانا:
- (Y) هو المتغير التابع.
- يمثل \( X \) المتغير المستقل.
- \( \beta_0 \) هو التقاطع، وهو قيمة \(Y\) عندما \(X = 0\).
- \( \beta_1 \) هو الميل أو الانحدار، وهو متوسط التغير في \(Y\) لكل وحدة تغير في \(X\).
- \( \epsilon \) هو الحد الخطأ أو المتبقي الذي يمثل التباين في \(Y\) الذي لا يمكن تفسيره بواسطة \(X\).
الهدف من الانحدار الخطي البسيط هو تقدير المعلمات \(\beta_0\) و \(\beta_1\) بحيث يمكن استخدام النموذج للتنبؤ بقيمة \(Y\) المرتبطة بقيمة \(X\).
طريقة المربعات الصغرى
إحدى أكثر الطرق شيوعًا لتركيب نموذج انحدار خطي بسيط هي طريقة المربعات الصغرى. تهدف هذه الطريقة إلى تقليل مجموع مربعات الانحرافات الرأسية بين المشاهدات الفعلية والقيم المتوقعة من النموذج. لنفترض أن لدينا n مشاهدة تتكون من أزواج (x_i, y_i) حيث i = 1, 2, …, n. الدالة المراد تقليلها هي:
\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – (\beta_0 + \beta_1 x_i))^2 \]
لإيجاد قيمتي \(\beta_0\) و\(\beta_1\) اللتين تُقلّلان هذه الدالة، نحسب المشتقات الجزئية لـ \(S(\beta_0, \beta_1)\) بالنسبة لكل مُعامل، ونُساوي هذه المشتقات بالصفر. ويمكن تبسيط الحساب الرياضي كما يلي:
\[ \beta_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]
\[ \beta_0 = \bar{y} – \beta_1 \bar{x} \]
دي مانا:
- يمثل \(\bar{x}\) متوسط \(X\)
- يمثل \(\bar{y}\) متوسط \(Y\)
بعد الحصول على المعلمات \(\beta_0\) و \(\beta_1\)، يمكن استخدام نموذج الانحدار الخطي البسيط للتنبؤ بقيمة \(Y\) لكل قيمة من قيم \(X\).
الافتراضات في الانحدار الخطي البسيط
للحصول على نتائج صحيحة وموثوقة، يفترض الانحدار الخطي البسيط عدة أمور:
1. الخطية: يجب أن تكون العلاقة بين المتغير التابع والمتغير المستقل خطية.
2. الاستقلالية: يجب أن تكون الملاحظات مستقلة عن بعضها البعض.
3. تجانس التباين: يجب أن يكون التباين المتبقي ثابتًا في جميع نطاقات قيم المتغير المستقل.
4. التوزيع الطبيعي للبواقي: يجب أن تتبع البواقي (الأخطاء) التوزيع الطبيعي.
إذا لم يتم استيفاء هذه الافتراضات، فإن نتائج نموذج الانحدار الخطي البسيط ستكون غير موثوقة وقد لا تكون قادرة على تقديم تنبؤات دقيقة.
تقييم نموذج الانحدار
إحدى طرق تقييم مدى دقة تنبؤ نموذج الانحدار الخطي البسيط هي استخدام معامل التحديد (R²). يُظهر معامل التحديد نسبة التباين في المتغير التابع التي يمكن تفسيرها بالتباين في المتغيرات المستقلة.
\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
دي مانا:
– \(\hat{y}_i\) هي القيمة المتوقعة لـ \(Y\).
- \(y_i\) هي القيمة الفعلية لـ \(Y\).
- \(\bar{y}\) هو متوسط قيم \(Y\).
تتراوح قيمة \(R^2\) من 0 إلى 1. وتشير قيمة \(R^2\) القريبة من 1 إلى أن النموذج يمكنه تفسير معظم التباين في المتغير التابع.
التنفيذ بلغة البرمجة
لتطبيق الانحدار الخطي البسيط، يمكننا استخدام برامج إحصائية أو لغات برمجة متنوعة. فيما يلي مثال على تطبيق ذلك بلغة بايثون باستخدام مكتبة `scikit-learn`:
"الثعبان
استيراد numpy كـ np
استيراد matplotlib.pyplot كـ PLT
من sklearn.linear_model استيراد LinearRegression
من sklearn.metrics import mean_squared_error، r2_score
البيانات
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
الموديل
النموذج = LinearRegression ()
model.fit (X، y)
تنبؤ
y_pred = model.predict (X)
المعامل
beta_0 = model.intercept_
beta_1 = model.coef_[0]
print(f'Intercept: {beta_0}')
print(f'الميل: {beta_1}')
print(f'متوسط مربع الخطأ: {mean_squared_error(y, y_pred)}')
print(f'معامل التحديد (R^2): {r2_score(y, y_pred)}')
رسم بياني للبيانات وخط الانحدار
plt.scatter(X, y, color='blue')
plt.plot(X, y_pred, color='red')
plt.xlabel('X')
plt.ylabel('Y')
plt.show ()
"`
في المثال أعلاه، نستورد أولًا المكتبات اللازمة، ونُعرّف البيانات (X) و(Y)، ثم نستخدم كائن `LinearRegression` من مكتبة `scikit-learn` لتدريب نموذج على البيانات. بعد تدريب النموذج، نُجري التنبؤات ونحسب المعاملات، بالإضافة إلى متوسط مربع الخطأ ومعامل التحديد. أخيرًا، نرسم البيانات وخط الانحدار.
استنتاج
يُعدّ الانحدار الخطي البسيط أداة تحليل إحصائي فعّالة تُستخدم لشرح العلاقة بين متغيرين كميين. وبافتراضات أساسية حول الخطية والاستقلالية وتجانس التباين والتوزيع الطبيعي، يُمكننا التنبؤ بقيمة المتغير التابع بناءً على قيم المتغيرات المستقلة. تُوفّر طريقة المربعات الصغرى وسيلة فعّالة لرسم خط الانحدار وتحديد المعاملات المثلى. ويُتيح تقييم النموذج من خلال معامل التحديد (R²) فهمًا أفضل لأداء النموذج.
على الرغم من أن الانحدار الخطي البسيط له قيود، مثل قدرته على التعامل مع متغيرين فقط والافتراضات التي يجب الوفاء بها، إلا أن هذه التقنية لا تزال أساسًا مهمًا في الإحصاء وتحليل البيانات، وغالبًا ما تستخدم كخطوة أولى في فهم العلاقة بين المتغيرات قبل الانتقال إلى أساليب أكثر تعقيدًا.
