Жөнөкөй сызыктуу регрессиялык анализ
Жөнөкөй сызыктуу регрессия - бул эки сандык өзгөрмөнүн ортосундагы байланышты талдоо үчүн колдонулган статистикалык ыкма. Биз алдын ала айтууга аракет кылып жаткан өзгөрмө көз каранды же жооп өзгөрмөсү деп аталат, ал эми алдын ала айтуу үчүн колдонулган өзгөрмө көз карандысыз же божомолдоочу өзгөрмө деп аталат. Жөнөкөй сызыктуу регрессияда биз бул эки өзгөрмөнүн ортосундагы байланышты сүрөттөгөн эң жакшы түз сызыкты табууга аракет кылабыз.
Жөнөкөй сызыктуу регрессиянын негизги түшүнүктөрү
Жөнөкөй сызыктуу регрессия көз каранды өзгөрмө (Y) менен көз карандысыз өзгөрмөнүн (X) ортосунда сызыктуу байланыш бар деген божомолго негизделген . Жөнөкөй сызыктуу регрессия моделинин жалпы формасы:
\[ Y = \beta_0 + \beta_1 X + \epsilon \]
Кайда:
– \( Y \) көз каранды өзгөрмө.
– \( X \) көз карандысыз өзгөрмө.
– \( \beta_0 \) – бул кесилиш чекит, ал \(X = 0\) болгондо \(Y\) маанисин билдирет.
– \( \beta_1 \) – бул эңкейиш же градиент, ал \(X\)деги ар бир бирдик өзгөрүү үчүн \(Y\)деги орточо өзгөрүүнү билдирет.
– \( \epsilon \) – бул \(X\) менен түшүндүрүүгө мүмкүн болбогон \(Y\) өзгөрмөлүүлүгүн көрсөткөн ката же калдык мүчө.
Жөнөкөй сызыктуу регрессиянын максаты - моделди (X) мааниси менен байланышкан (Y) маанисин алдын ала айтуу үчүн колдонууга боло тургандай кылып, \(\beta_0\) жана \(\beta_1\) параметрлерин баалоо.
Эң кичине квадраттар ыкмасы
Жөнөкөй сызыктуу регрессиялык моделди орнотуу үчүн эң көп колдонулган ыкмалардын бири - Эң кичине квадраттар ыкмасы. Бул ыкма чыныгы байкоолор менен модел тарабынан алдын ала айтылган маанилердин ортосундагы вертикалдык четтөөлөрдүн квадраттарынын суммасын минималдаштырууга багытталган . Мисалы, \(i = 1, 2, …, n\ үчүн \((x_i, y_i)\) жуптарынан турган n байкоо бар дейли. Минимизациялануучу функция төмөнкүдөй:
\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – (\beta_0 + \beta_1 x_i))^2 \]
Бул функцияны минималдаштырган \(\beta_0\) жана \(\beta_1\) табуу үчүн, ар бир параметр боюнча \(S(\beta_0, \beta_1)\) функциясынын жарым-жартылай туундуларын алып, бул туундуларды нөлгө коёбуз. Математикалык эсептөөнү төмөнкүдөй жөнөкөйлөштүрүүгө болот:
\[ \beta_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]
\[ \beta_0 = \bar{y} - \beta_1 \bar{x} \]
Кайда:
– \(\bar{x}\) - бул \(X\)тин орточо мааниси.
– \(\bar{y}\) - бул \(Y\)тин орточо мааниси.
\(\beta_0\) жана \(\beta_1\) параметрлерин алгандан кийин, \(X\) ар бир мааниси үчүн \(Y\) маанисин алдын ала айтуу үчүн жөнөкөй сызыктуу регрессиялык моделди колдонсо болот.
Жөнөкөй сызыктуу регрессиядагы божомолдор
Жарактуу жана ишенимдүү натыйжалар үчүн жөнөкөй сызыктуу регрессия бир нече нерсени болжолдойт:
1. Сызыктуулук: Көз каранды өзгөрмө менен көз карандысыз өзгөрмөнүн ортосундагы байланыш сызыктуу болушу керек.
2. Көз карандысыздык: Байкоолор бири-биринен көз карандысыз болушу керек.
3. Гомоскедастикалык: Калдык өзгөрмөлүүлүк көз карандысыз өзгөрмөнүн маанилеринин диапазонунда туруктуу болушу керек.
4. Калдык нормалдуулук: Калдыктар (ката) нормалдуу бөлүштүрүүнү ээрчиши керек.
Эгерде бул божомолдор аткарылбаса, жөнөкөй сызыктуу регрессиялык моделдин жыйынтыктары ишенимсиз болуп, так божомолдорду бере албай калышы мүмкүн.
Регрессиялык моделди баалоо
Жөнөкөй сызыктуу регрессиялык моделдин канчалык деңгээлде жакшы алдын ала айтканын баалоо үчүн бир ыкма - аныктоо коэффициентин (\(R^2\) колдонуу. Аныктоо коэффициенти көз карандысыз өзгөрмөлөрдүн өзгөрмөлүүлүгү менен түшүндүрүлүшү мүмкүн болгон көз каранды өзгөрмөдөгү өзгөрмөлүүлүктүн үлүшүн көрсөтөт.
\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
Кайда:
– \(\hat{y}_i\) – бул \(Y\)нин болжолдонгон мааниси.
– \(y_i\) – бул \(Y\)нин чыныгы мааниси.
– \(\bar{y}\) – бул \(Y\) маанилеринин орточо мааниси.
\(R^2\) мааниси 0дөн 1ге чейин өзгөрөт. \(R^2\) мааниси 1ге жакын болсо, ал модель көз каранды өзгөрмөнүн өзгөрмөлүүлүгүнүн көпчүлүгүн түшүндүрө аларын көрсөтөт.
Программалоо тилинде ишке ашыруу
Жөнөкөй сызыктуу регрессияны ишке ашыруу үчүн биз ар кандай статистикалык программаларды же программалоо тилдерин колдоно алабыз. Төмөндө Pythonдо `scikit-learn` китепканасын колдонуу менен ишке ашыруунун мисалы келтирилген:
"`python
np катары импорттоо
matplotlib.pyplot файлын plt катары импорттоо
sklearn.linear_modelден LinearRegression импорттоо
sklearn.metrics'тен mean_squared_error, r2_score импорттоо
маалыматтар
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
модель
модель = Сызыктуу регрессия ()
model.fit (X, y)
Болжолдоо
y_pred = model.predict (X)
Коэффициент
beta_0 = model.tocution_
beta_1 = model.coef_[0]
басып чыгаруу(f'Тоскоолдук: {beta_0}')
басып чыгаруу(f'Жеңилдик: {бета_1}')
print(f'Орточо квадраттык ката: {mean_squared_error(y, y_pred)}')
print(f'Детерминация коэффициенти (R^2): {r2_score(y, y_pred)}')
Маалыматтардын графиги жана регрессия сызыгы
plt.scatter(X, y, color='blue')
plt.plot(X, y_pred, color='кызыл') функциясын колдонот.
plt.xlabel('X')
plt.ylabel('Y')
plt.show ()
""
Жогорудагы мисалда, биз алгач керектүү китепканаларды импорттойбуз, \(X\) жана \(Y\) маалыматтарын аныктайбыз, андан кийин моделди маалыматтарга тууралоо үчүн `scikit-learn`ден `LinearRegression` объектисин колдонобуз. Модель тууралангандан кийин, биз божомолдорду жасайбыз жана коэффициенттерди, ошондой эле орточо квадраттык катаны жана аныктоо коэффициентин эсептейбиз. Акырында, биз маалыматтарды жана регрессия сызыгын чийебиз.
Корутунду
Жөнөкөй сызыктуу регрессия - бул эки сандык өзгөрмөнүн ортосундагы байланышты түшүндүрүү үчүн колдонулган күчтүү статистикалык анализ куралы. Сызыктуулук, көз карандысыздык, гомоскедастика жана нормалдуулук жөнүндөгү кээ бир негизги божомолдор менен, биз көз карандысыз өзгөрмөлөрдүн маанилерине негизделген көз каранды өзгөрмөнүн маанисин алдын ала айта алабыз. Эң кичине квадраттар ыкмасы регрессия сызыгын тууралоонун жана оптималдуу параметрлерди аныктоонун натыйжалуу жолун камсыз кылат. Моделди аныктоо коэффициенти (R2) аркылуу баалоо биздин моделдин канчалык жакшы иштээрин түшүнүүгө мүмкүндүк берет.
Жөнөкөй сызыктуу регрессиянын чектөөлөрү бар, мисалы, эки гана өзгөрмөнү жана аткарылышы керек болгон божомолдорду иштетүү мүмкүнчүлүгү, бирок бул ыкма статистикада жана маалыматтарды талдоодо маанилүү негиз бойдон калууда жана көбүнчө татаалыраак ыкмаларга өтүүдөн мурун өзгөрмөлөрдүн ортосундагы байланышты түшүнүүдөгү биринчи кадам катары колдонулат.
