Энгийн шугаман регрессийн шинжилгээ
Энгийн шугаман регресс гэдэг нь хоёр тоон хувьсагчийн хоорондын хамаарлыг шинжлэхэд ашигладаг статистикийн арга юм. Бидний таамаглахыг оролдож буй хувьсагчийг хамааралтай буюу хариу үйлдэл үзүүлэх хувьсагч гэж нэрлэдэг бол таамаглал дэвшүүлэхэд ашигласан хувьсагчийг бие даасан буюу урьдчилан таамаглагч хувьсагч гэж нэрлэдэг. Энгийн шугаман регрессийн үед бид эдгээр хоёр хувьсагчийн хоорондын хамаарлыг дүрсэлсэн хамгийн сайн шулуун шугамыг олохыг хичээдэг.
Энгийн шугаман регрессийн үндсэн ойлголтууд
Энгийн шугаман регресс нь хамааралтай хувьсагч \(Y\) ба бие даасан хувьсагч \(X\)-ийн хооронд шугаман хамаарал байдаг гэсэн таамаглал дээр суурилдаг. Энгийн шугаман регрессийн загварын ерөнхий хэлбэр нь:
\[ Y = \beta_0 + \beta_1 X + \epsilon \]
Хаана:
– \( Y \) нь хамааралтай хувьсагч юм.
– \( X \) нь хамааралгүй хувьсагч юм.
– \( \beta_0 \) нь огтлолцол бөгөөд энэ нь \(X = 0\) байх үеийн \(Y\)-ийн утга юм.
– \( \beta_1 \) нь налуу буюу градиент бөгөөд энэ нь \(X\) дэх нэгжийн өөрчлөлт бүрийн \(Y\) дэх дундаж өөрчлөлт юм.
– \( \epsilon \) нь \(X\)-ээр тайлбарлах боломжгүй \(Y\) дэх хувьсах чанарыг илэрхийлсэн алдаа эсвэл үлдэгдэл нэр томьёо юм.
Энгийн шугаман регрессийн зорилго нь \(\beta_0\) болон \(\beta_1\) параметрүүдийг тооцоолох явдал бөгөөд ингэснээр загварыг \(X\)-ийн утгатай холбоотой \(Y\)-ийн утгыг урьдчилан таамаглахад ашиглаж болно.
Хамгийн бага квадратын арга
Энгийн шугаман регрессийн загварыг тохируулах хамгийн түгээмэл хэрэглэгддэг аргуудын нэг бол Хамгийн Бага Квадратуудын арга юм. Энэ арга нь бодит ажиглалт болон загвараар таамагласан утгуудын хоорондох босоо хазайлтын квадратуудын нийлбэрийг багасгах зорилготой. \(i = 1, 2, …, n\) хосоос бүрдсэн n ажиглалттай гэж үзье. Хамгийн багадуулах функц нь:
\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – (\beta_0 + \beta_1 x_i))^2 \]
Энэ функцийг минимумчилдаг \(\beta_0\) болон \(\beta_1\)-г олохын тулд бид параметр бүрийн хувьд \(S(\beta_0, \beta_1)\)-ийн хэсэгчилсэн уламжлалыг авч, эдгээр уламжлалыг тэг болгож тохируулна. Математикийн тооцооллыг дараах байдлаар хялбарчилж болно:
\[ \beta_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]
\[ \beta_0 = \bar{y} – \beta_1 \bar{x} \]
Хаана:
– \(\bar{x}\) нь \(X\)-ийн дундаж юм
– \(\bar{y}\) нь \(Y\)-ийн дундаж юм
\(\beta_0\) болон \(\beta_1\) параметрүүдийг олж авсны дараа \(X\)-ийн утга бүрийн хувьд \(Y\)-ийн утгыг урьдчилан таамаглахын тулд энгийн шугаман регрессийн загварыг ашиглаж болно.
Энгийн шугаман регрессийн таамаглалууд
Хүчин төгөлдөр, найдвартай үр дүнгийн хувьд энгийн шугаман регресс нь хэд хэдэн зүйлийг авч үздэг:
1. Шугаман байдал: Хамааралтай хувьсагч ба хамааралгүй хувьсагчийн хоорондын хамаарал нь шугаман байх ёстой.
2. Бие даасан байдал: Ажиглалтууд бие биенээсээ хараат бус байх ёстой.
3. Гомоскедастик чанар: Үлдэгдэл хувьсах чанар нь бие даасан хувьсагчийн утгын хүрээнд тогтмол байх ёстой.
4. Үлдэгдэл хэвийн байдал: Үлдэгдэл (алдаа) нь хэвийн тархалтыг дагаж мөрдөх ёстой.
Хэрэв эдгээр таамаглалууд хангагдаагүй бол энгийн шугаман регрессийн загварын үр дүн найдваргүй бөгөөд үнэн зөв таамаглал дэвшүүлэх боломжгүй байж магадгүй юм.
Регрессийн загварын үнэлгээ
Энгийн шугаман регрессийн загвар хэр сайн таамаглаж байгааг үнэлэх нэг арга бол Тодорхойлолтын Коэффициентийг (\(R^2\)) ашиглах явдал юм. Тодорхойлолтын коэффициент нь хамааралгүй хувьсагчдын хувьсах чанараар тайлбарлаж болох хамааралтай хувьсагчийн хувьсах чанарын харьцааг харуулдаг.
\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
Хаана:
– \(\hat{y}_i\) нь \(Y\)-ийн таамагласан утга юм.
– \(y_i\) нь \(Y\)-ийн бодит утга юм.
– \(\bar{y}\) нь \(Y\)-ийн утгуудын дундаж юм.
\(R^2\) утга нь 0-ээс 1 хүртэл хэлбэлздэг. \(R^2\) утга 1-тэй ойролцоо байвал загвар нь хамааралтай хувьсагчийн ихэнх хувьсах чанарыг тайлбарлаж чадна гэдгийг харуулж байна.
Програмчлалын хэл дээрх хэрэгжилт
Энгийн шугаман регрессийг хэрэгжүүлэхийн тулд бид янз бүрийн статистикийн програм хангамж эсвэл програмчлалын хэлийг ашиглаж болно. Доор `scikit-learn` санг ашиглан Python хэл дээр хэрэгжүүлэлтийн жишээг харуулав:
"` питон
np гэж numpy импортлох
matplotlib.pyplot-г plt хэлбэрээр импортлох
sklearn.linear_model-аас LinearRegression импортлох
sklearn.metrics-аас mean_squared_error, r2_score импортлох
Өгөгдөл
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
загвар
загвар = Шугаман регресс ()
загвар.тохирох(X, y)
Урьдчилан таамаглах
y_pred = загвар.predict(X)
Коэффициент
beta_0 = загвар.intercept_
beta_1 = загвар.coef_[0]
хэвлэх(f'Ойлголт: {beta_0}')
хэвлэх(f'Налуу: {бета_1}')
print(f'Дундаж квадрат алдаа: {mean_squared_error(y, y_pred)}')
print(f'Тодорхойлолтын коэффициент (R^2): {r2_score(y, y_pred)}')
Өгөгдлийн график ба регрессийн шугам
plt.scatter(X, y, color='blue')
plt.plot(X, y_pred, color='red')
plt.xlabel('X')
plt.ylabel('Y')
plt.show()
""
Дээрх жишээнд бид эхлээд шаардлагатай сангуудыг импортлож, \(X\) болон \(Y\) өгөгдлийг тодорхойлж, дараа нь загварыг өгөгдөлд тохируулахын тулд `scikit-learn`-с `LinearRegression` объектыг ашиглана. Загварыг тохируулсны дараа бид таамаглал дэвшүүлж, коэффициентууд, мөн дундаж квадрат алдаа болон тодорхойлох коэффициентийг тооцоолно. Эцэст нь бид өгөгдөл болон регрессийн шугамыг зурна.
Дүгнэлт
Энгийн шугаман регресс нь хоёр тоон хувьсагчийн хоорондын хамаарлыг тайлбарлахад ашигладаг хүчирхэг статистик шинжилгээний хэрэгсэл юм. Шугаман чанар, бие даасан байдал, гомоскедастик чанар, хэвийн байдлын талаарх зарим үндсэн таамаглалаар бид бие даасан хувьсагчдын утгууд дээр үндэслэн хамааралтай хувьсагчийн утгыг урьдчилан таамаглаж чадна. Хамгийн бага квадратын арга нь регрессийн шугамыг тохируулах, оновчтой параметрүүдийг тодорхойлох үр дүнтэй аргыг олгодог. Тодорхойлолтын коэффициент (R2)-ээр дамжуулан загварын үнэлгээ нь бидний загвар хэр сайн ажиллаж байгааг ойлгох боломжийг олгодог.
Энгийн шугаман регресс нь зөвхөн хоёр хувьсагчийг зохицуулах чадвартай байх, мөн хангасан байх ёстой таамаглалууд гэх мэт хязгаарлалттай байдаг ч энэ техник нь статистик болон өгөгдлийн шинжилгээнд чухал үндэс суурь хэвээр байгаа бөгөөд илүү төвөгтэй аргууд руу шилжихээсээ өмнө хувьсагчдын хоорондын хамаарлыг ойлгох эхний алхам болгон ашигладаг.
