Պարզ գծային ռեգրեսիայի վերլուծություն

Պարզ գծային ռեգրեսիոն վերլուծություն

Պարզ գծային ռեգրեսիան վիճակագրական մեթոդ է, որն օգտագործվում է երկու քանակական փոփոխականների միջև եղած կապը վերլուծելու համար: Այն փոփոխականը, որը մենք փորձում ենք կանխատեսել, կոչվում է կախյալ կամ արձագանքող փոփոխական, մինչդեռ կանխատեսումը կատարելու համար օգտագործվող փոփոխականը կոչվում է անկախ կամ կանխատեսող փոփոխական: Պարզ գծային ռեգրեսիայի դեպքում մենք փորձում ենք գտնել այս երկու փոփոխականների միջև եղած կապը նկարագրող լավագույն ուղիղ գիծը:

Պարզ գծային ռեգրեսիայի հիմնական հասկացությունները

Պարզ գծային ռեգրեսիան հիմնված է այն ենթադրության վրա, որ կախյալ փոփոխական \(Y\)-ի և անկախ փոփոխական \(X\)-ի միջև գոյություն ունի գծային կապ։ Պարզ գծային ռեգրեսիայի մոդելի ընդհանուր տեսքը հետևյալն է.

\[ Y = β_0 + β_1 X + էպսիլոն \]

Որտեղ՝
– \( Y \)-ն կախյալ փոփոխական է։
– \(X \)-ն անկախ փոփոխական է։
– \( β_0 \)-ն հատման կետն է, որը \(Y\)-ի արժեքն է, երբ \(X = 0\)-ը։
– \( β_1 \)-ն թեքությունն է կամ գրադիենտը, որը \(Y\)-ի միջին փոփոխությունն է \(X\)-ի յուրաքանչյուր միավորային փոփոխության համար։
– \( \epsilon \)-ը սխալի կամ մնացորդային անդամ է, որը ներկայացնում է \(Y\)-ի փոփոխականությունը, որը չի կարող բացատրվել \(X\)-ով։

Պարզ գծային ռեգրեսիայի նպատակն է գնահատել \(\beta_0\) և \(\beta_1\) պարամետրերը, որպեսզի մոդելը կարողանա օգտագործվել \(Y\)-ի արժեքը կանխատեսելու համար, որը կապված է \(X\)-ի արժեքի հետ։

Նվազագույն քառակուսիների մեթոդ

Պարզ գծային ռեգրեսիայի մոդելի տեղադրման ամենատարածված մեթոդներից մեկը նվազագույն քառակուսիների մեթոդն է: Այս մեթոդի նպատակն է նվազագույնի հասցնել ուղղահայաց շեղումների քառակուսիների գումարը իրական դիտարկումների և մոդելի կողմից կանխատեսված արժեքների միջև: Ենթադրենք, որ մենք ունենք n դիտարկում, որոնք բաղկացած են \(x_i, y_i)\) զույգերից \(i = 1, 2, …, n\-ի համար: Նվազագույնի հասցվող ֆունկցիան հետևյալն է.

\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – (\beta_0 + \beta_1 x_i))^2 \]

Այս ֆունկցիան նվազագույնի հասցնող \(\beta_0\) և \(\beta_1\) ֆունկցիաները գտնելու համար մենք վերցնում ենք \(S(\beta_0, \beta_1)\)-ի մասնակի ածանցյալները յուրաքանչյուր պարամետրի նկատմամբ և այդ ածանցյալները դնում ենք զրոյի։ Մաթեմատիկական հաշվարկը կարելի է պարզեցնել հետևյալ կերպ.

\[ β_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]

\[ \beta_0 = \bar{y} – \beta_1 \bar{x} \]

Որտեղ՝
– \(\bar{x}\)-ը \(X\)-ի միջինն է։
– \(\bar{y}\)-ը \(Y\)-ի միջինն է։

\(\beta_0\) և \(\beta_1\) պարամետրերը ստանալուց հետո, պարզ գծային ռեգրեսիայի մոդելը կարող է օգտագործվել \(X\)-ի յուրաքանչյուր արժեքի համար \(Y\)-ի արժեքը կանխատեսելու համար։

Ենթադրություններ պարզ գծային ռեգրեսիայում

Հուսալի և վավեր արդյունքների համար պարզ գծային ռեգրեսիան ենթադրում է մի քանի բան.
1. Գծայինություն. կախյալ և անկախ փոփոխականների միջև կապը պետք է լինի գծային։
2. Անկախություն. Դիտարկումները պետք է լինեն միմյանցից անկախ։
3. Հոմոսկեդաստիկություն. մնացորդային փոփոխականությունը պետք է հաստատուն լինի անկախ փոփոխականի արժեքների ողջ միջակայքում։
4. Մնացորդային նորմալություն. Մնացորդները (սխալները) պետք է հետևեն նորմալ բաշխմանը։

Եթե ​​այս ենթադրությունները չեն բավարարվում, պարզ գծային ռեգրեսիայի մոդելի արդյունքները կլինեն անվստահելի և կարող են չկարողանալ ճշգրիտ կանխատեսումներ անել։

Ռեգրեսիոն մոդելի գնահատում

Պարզ գծային ռեգրեսիայի մոդելի կողմից կանխատեսումների լավության գնահատման միջոցներից մեկը որոշման գործակցի (\(R^2\)) օգտագործումն է: Որոշման գործակիցը ցույց է տալիս կախյալ փոփոխականի փոփոխականության այն համամասնությունը, որը կարելի է բացատրել անկախ փոփոխականների փոփոխականությամբ:

R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]

Որտեղ՝
– \(\hat{y}_i\)-ն \(Y\)-ի կանխատեսված արժեքն է։
– \(y_i\)-ն \(Y\)-ի իրական արժեքն է։
– \(\bar{y}\)-ը \(Y\)-ի արժեքների միջինն է։

\(R^2\) արժեքը տատանվում է 0-ից 1 միջակայքում: \(R^2\) արժեքը, որը մոտ է 1-ին, ցույց է տալիս, որ մոդելը կարող է բացատրել կախյալ փոփոխականի փոփոխականության մեծ մասը:

Իրականացում ծրագրավորման լեզվով

Պարզ գծային ռեգրեսիա իրականացնելու համար մենք կարող ենք օգտագործել տարբեր վիճակագրական ծրագրեր կամ ծրագրավորման լեզուներ: Ստորև բերված է Python-ում իրականացման օրինակ՝ օգտագործելով `scikit-learn` գրադարանը.

«Պիթոն
ներմուծել numpy որպես np
ներմուծել matplotlib.pyplot որպես plt
sklearn.linear_model-ից ներմուծում LinearRegression
sklearn.metrics ներմուծման mean_squared_error, r2_score-ից

Ամսաթիվ
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)

մոդել
մոդել = Գծային ռեգրեսիա ()
model.fit (X, y)

Կանխատեսում
y_pred = model.predict (X)

Գործակից
բետա_0 = model.intercept_
բետա_1 = model.coef_[0]

տպել(f'Intercept: {beta_0}')
տպել(f'Թեքություն: {beta_1}')
տպել(f'Միջին քառակուսային սխալ՝ {mean_squared_error(y, y_pred)}')
print(f'Որոշման գործակից (R^2): {r2_score(y, y_pred)}')

Տվյալների գրաֆիկ և ռեգրեսիայի գիծ
plt.scatter(X, y, գույն='կապույտ')
plt.plot(X, y_pred, գույն='կարմիր')
plt.xlabel('X')
plt.ylabel('Y')
plt.show ()
««

Վերոնշյալ օրինակում մենք նախ ներմուծում ենք անհրաժեշտ գրադարանները, սահմանում ենք \(X\) և \(Y\) տվյալները, ապա օգտագործում ենք `LinearRegression` օբյեկտը `scikit-learn`-ից՝ մոդելը տվյալներին համապատասխանեցնելու համար: Մոդելը համապատասխանեցնելուց հետո մենք կանխատեսումներ ենք անում և հաշվարկում գործակիցները, ինչպես նաև միջին քառակուսային սխալը և որոշման գործակիցը: Վերջապես, մենք գծագրում ենք տվյալները և ռեգրեսիայի գիծը:

Եզրակացություն

Պարզ գծային ռեգրեսիան հզոր վիճակագրական վերլուծության գործիք է, որն օգտագործվում է երկու քանակական փոփոխականների միջև եղած կապը բացատրելու համար: Գծայնության, անկախության, հոմոսկեդաստիկության և նորմալության վերաբերյալ որոշ հիմնական ենթադրությունների միջոցով մենք կարող ենք կանխատեսել կախյալ փոփոխականի արժեքը՝ հիմնվելով անկախ փոփոխականների արժեքների վրա: Նվազագույն քառակուսիների մեթոդը արդյունավետ միջոց է ռեգրեսիայի գիծը տեղավորելու և օպտիմալ պարամետրերը որոշելու համար: Մոդելի գնահատումը որոշման գործակցի (R2) միջոցով հնարավորություն է տալիս պատկերացում կազմել այն մասին, թե որքան լավ է մեր մոդելը գործում:

Չնայած պարզ գծային ռեգրեսիան ունի սահմանափակումներ, ինչպիսիք են միայն երկու փոփոխականի և այն ենթադրությունների մշակման հնարավորությունը, որոնք պետք է բավարարվեն, այս տեխնիկան մնում է վիճակագրության և տվյալների վերլուծության կարևոր հիմք և հաճախ օգտագործվում է որպես առաջին քայլ՝ փոփոխականների միջև փոխհարաբերությունները հասկանալու համար՝ նախքան ավելի բարդ մեթոդներին անցնելը։