ቀላል መስመራዊ የሪግሬሽን ትንተና
ቀላል መስመራዊ ሪግሬሽን በሁለት መጠናዊ ተለዋዋጮች መካከል ያለውን ግንኙነት ለመተንተን የሚያገለግል የስታቲስቲክስ ዘዴ ነው። ለመተንበይ የምንሞክረው ተለዋዋጭ ጥገኛ ወይም የምላሽ ተለዋዋጭ ይባላል፣ ትንበያውን ለማድረግ የሚያገለግለው ተለዋዋጭ ደግሞ ገለልተኛ ወይም ገምጋሚ ተለዋዋጭ ይባላል። በቀላል መስመራዊ ሪግሬሽን፣ በእነዚህ ሁለት ተለዋዋጮች መካከል ያለውን ግንኙነት የሚገልጽ ምርጡን ቀጥተኛ መስመር ለማግኘት እንሞክራለን።
የቀላል መስመራዊ ቅነሳ መሰረታዊ ፅንሰ ሀሳቦች
ቀላል መስመራዊ ሪግሬሽን የተመሰረተው በጥገኛ ተለዋዋጭ \(Y\) እና በገለልተኛ ተለዋዋጭ \(X\) መካከል መስመራዊ ግንኙነት እንዳለ በመገመት ነው። ቀላል መስመራዊ ሪግሬሽን ሞዴል አጠቃላይ ቅርፅ፡
\[ Y = \beta_0 + \beta_1 X + \epsilon \]
የት፡
– \( Y \) ጥገኛ ተለዋዋጭ ነው።
– \( X \) ነፃ ተለዋዋጭ ነው።
– \( \beta_0 \) መቆራረጥ ሲሆን፣ ይህም የ \(Y\) እሴት ሲሆን \(X = 0\) ነው።
– \( \beta_1 \) ተዳፋት ወይም ቅልመት ሲሆን፣ ይህም በ\(X\) ውስጥ ለእያንዳንዱ የዩኒት ለውጥ በ\(Y\) ውስጥ ያለው አማካይ ለውጥ ነው።
– \( \epsilon \) በ \(X\) ውስጥ ያለውን ተለዋዋጭነት የሚወክል የስህተት ወይም የተረፈ ቃል ነው።
የቀላል መስመራዊ ተዛምዶ ግብ መለኪያዎችን \(\beta_0\) እና \(\beta_1\) መገመት ሲሆን ይህም ሞዴሉ ከ \(X\) እሴት ጋር የተያያዘውን \(Y\) እሴት ለመተንበይ ጥቅም ላይ እንዲውል ነው።
ትንሹ ካሬ ዘዴ
ቀላል መስመራዊ የሪግሬሽን ሞዴልን ለመገጣጠም በብዛት ከሚጠቀሙባቸው ዘዴዎች አንዱ የሊስት ካሬዎች ዘዴ ነው። ይህ ዘዴ በእውነተኛ ምልከታዎች እና በሞዴሉ የተተነበዩ እሴቶች መካከል ያሉትን የቋሚ ልዩነቶች ካሬዎች ድምር ለመቀነስ ያለመ ነው። ለ \(i = 1, 2, …, n\ ጥንድ \((x_i, y_i)\) የያዙ n ምልከታዎች አሉን እንበል። መቀነስ ያለበት ተግባር፡
\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – (\beta_0 + \beta_1 x_i))^2 \]
ይህንን ተግባር የሚቀንሱትን \(\beta_0\) እና \(\beta_1\) ለማግኘት፣ ከእያንዳንዱ መለኪያ አንጻር የ \(S(\beta_0፣ \beta_1)\) ከፊል ተዋጽኦዎችን ወስደን እነዚህን ተዋጽኦዎች ወደ ዜሮ እናስቀምጣቸዋለን። የሂሳብ ስሌቱ እንደሚከተለው ቀለል ሊደረግ ይችላል፡
\[ \beta_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]
\[ \ beta_0 = \bar{y} - \ቤታ_1 \ባር{x} \]
የት፡
– \(\bar{x}\) የ \(X\) አማካይ ነው
– \(\bar{y}\) የ \(Y\) አማካይ ነው
መለኪያዎችን \(\beta_0\) እና \(\beta_1\) ካገኙ በኋላ፣ ለእያንዳንዱ የ \(X\) እሴት የ \(Y\) እሴት ለመተንበይ ቀላል መስመራዊ የሪግሬሽን ሞዴል ጥቅም ላይ ሊውል ይችላል።
በቀላል መስመራዊ ሪግሬሽን ውስጥ ያሉ ግምቶች
ትክክለኛ እና አስተማማኝ ውጤቶችን ለማግኘት፣ ቀላል መስመራዊ ሪግሬሽን በርካታ ነገሮችን ግምት ውስጥ ያስገባል፡
1. መስመራዊነት፡- በጥገኛ ተለዋዋጭ እና በገለልተኛ ተለዋዋጭ መካከል ያለው ግንኙነት መስመራዊ መሆን አለበት።
2. ነፃነት፡- ምልከታዎች እርስ በእርሳቸው ነጻ መሆን አለባቸው።
3. ግብረ ሰዶማዊነት፡- የቀረው ተለዋዋጭነት በገለልተኛ ተለዋዋጭ እሴቶች ክልል ውስጥ ቋሚ መሆን አለበት።
4. የተረፈ መደበኛነት፡- የተረፈ (ስህተቶች) መደበኛ ስርጭትን መከተል አለባቸው።
እነዚህ ግምቶች ካልተሟሉ፣ የቀላል መስመራዊ ሪግሬሽን ሞዴል ውጤቶች አስተማማኝ ያልሆኑ እና ትክክለኛ ትንበያዎችን ማድረግ ላይችሉ ይችላሉ።
የተሃድሶ ሞዴል ግምገማ
አንድ ቀላል መስመራዊ የሪግሬሽን ሞዴል ምን ያህል እንደተነበየ ለመገምገም አንዱ መንገድ የውሳኔ ኮፊሸንት (\(R^2\)) መጠቀም ነው። የውሳኔ ኮፊሸንት በገለልተኛ ተለዋዋጮች ውስጥ ባለው ተለዋዋጭነት ሊብራራ የሚችለውን በጥገኛ ተለዋዋጭ ውስጥ ያለውን የተለዋዋጭነት መጠን ያሳያል።
\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
የት፡
– \(\hat{y}_i\) የ \(Y\) የተተነበየ እሴት ነው።
– \(y_i\) የ \(Y\) ትክክለኛ እሴት ነው።
– \(\bar{y}\) የ \(Y\) እሴቶች አማካይ ነው።
የ\(R^2\) እሴት ከ0 እስከ 1 ይደርሳል። ወደ 1 የሚጠጋ የ\(R^2\) እሴት ሞዴሉ በጥገኛ ተለዋዋጭ ውስጥ ያለውን አብዛኛውን ተለዋዋጭነት ሊያብራራ እንደሚችል ያሳያል።
በፕሮግራሚንግ ቋንቋ ውስጥ ተግባራዊነት
ቀላል መስመራዊ ሪግሬሽንን ለመተግበር፣ የተለያዩ የስታቲስቲክስ ሶፍትዌሮችን ወይም የፕሮግራም አወጣጥ ቋንቋዎችን መጠቀም እንችላለን። ከዚህ በታች የ'scikit-learn' ቤተ-መጽሐፍትን በመጠቀም በፓይዘን ውስጥ የመተግበር ምሳሌ እነሆ፡
“ፓይዘን
nump ን እንደ np ያስመጡ
matplotlib.pyplot እንደ plt ያስመጡ
ከ sklearn.linear_model ማስመጣት LinearRegression
ከ sklearn.metrics import mean_squared_error, r2_score
መረጃ
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
ሞዴል
ሞዴል = መስመራዊ ሪግሬሽን()
ሞዴል.ፊት(X፣ y)
ትንበያ
y_pred = ሞዴል.predict(X)
ኮፊሸንት
beta_0 = model.intercept_
beta_1 = model.coef_[0]
ህትመት(f'Intercept: {beta_0}')
ህትመት(f'Slope: {beta_1}')
print(f'አማካኝ ካሬ ስህተት፡ {mean_squared_error(y, y_pred)}')
ህትመት(f'የውሳኔ ኮፊሸንት (R^2): {r2_ነጥብ(y, y_pred)}')
የውሂብ ንድፍ እና የሪግሬሽን መስመር
plt.scatter(X፣ y፣ ቀለም='ሰማያዊ')
plt.plot(X, y_pred, color='red')
plt.xlabel('X')
plt.ylabel('Y')
plt.show()
“
ከላይ ባለው ምሳሌ፣ በመጀመሪያ አስፈላጊዎቹን ቤተ-መጻሕፍት እናስመጣለን፣ ዳታውን \(X\) እና \(Y\) እንገልፃለን፣ ከዚያም ሞዴልን ከውሂቡ ጋር ለማስማማት ከ`scikit-learn` የመጣውን `LinearRegression` ነገር እንጠቀማለን። ሞዴሉ አንዴ ከተገጠመ በኋላ ትንበያዎችን እናደርጋለን እና ኮፊሸንቶችን እንዲሁም አማካይ ካሬ ስህተት እና የውሳኔ ኮፊሸንት እናሰላለን። በመጨረሻም፣ ዳታውን እና የሪግሬሽን መስመሩን እናስሳለን።
ከሲምፑላን
ቀላል መስመራዊ ሪግሬሽን በሁለት የቁጥር ተለዋዋጮች መካከል ያለውን ግንኙነት ለማብራራት የሚያገለግል ኃይለኛ የስታቲስቲክስ ትንተና መሳሪያ ነው። ስለ መስመራዊነት፣ ነፃነት፣ ሆሞሴዳስቲክነት እና መደበኛነት አንዳንድ መሰረታዊ ግምቶችን በመጠቀም፣ የጥገኛ ተለዋዋጭን ዋጋ በገለልተኛ ተለዋዋጮች እሴቶች ላይ በመመስረት መተንበይ እንችላለን። የሊስት ካሬዎች ዘዴ የሪግሬሽን መስመርን ለማስማማት እና ምርጥ መለኪያዎችን ለመወሰን ውጤታማ መንገድ ይሰጣል። የሞዴል ግምገማ በውሳኔ ኮፊሸንት (R2) በኩል ሞዴላችን ምን ያህል በጥሩ ሁኔታ እንደሚሰራ ግንዛቤ ይሰጣል።
ምንም እንኳን ቀላል መስመራዊ ሪግሬሽን (ቀላል መስመራዊ ሪግሬሽን) ሁለት ተለዋዋጮችን ብቻ ማስተናገድ እና መሟላት ያለባቸውን ግምቶች ማስተናገድ መቻል ያሉ ገደቦች ቢኖሩትም፣ ይህ ዘዴ በስታቲስቲክስ እና በመረጃ ትንተና ውስጥ አስፈላጊ መሠረት ሆኖ ይቆያል፣ እና ወደ ውስብስብ ዘዴዎች ከመሄዳችን በፊት በተለዋዋጮች መካከል ያለውን ግንኙነት ለመረዳት እንደ የመጀመሪያ እርምጃ ጥቅም ላይ ይውላል።