Regresi Linear dalam Statistik
Regresi linear merupakan salah satu teknik statistik yang paling asas dan digunakan secara meluas dalam analisis data. Ia membantu kita memahami dan memodelkan hubungan antara pembolehubah bebas (atau peramal) dan bersandar (atau tindak balas). Regresi linear popular dalam pelbagai bidang, termasuk ekonomi, biologi, kejuruteraan, sains sosial dan banyak lagi, kerana kesederhanaan dan kebolehtafsirannya.
Pengenalan kepada Regresi Linear
Regresi linear bertujuan untuk mencari hubungan linear antara dua atau lebih pembolehubah. Dalam bentuk paling ringkasnya—regresi linear mudah—kita memodelkan hubungan antara satu pembolehubah bebas dan satu pembolehubah bersandar sebagai garis lurus. Persamaan matematik asas untuk regresi linear mudah dinyatakan sebagai:
\[ Y = \beta_0 + \beta_1X + \epsilon \]
Di mana:
– \$ Y \$$ ialah pembolehubah bersandar atau tindak balas.
– \$ X \$$ ialah pembolehubah bebas atau peramal.
– \$ \beta_0 \$$ ialah pintasan (titik di mana garis regresi bersilang dengan paksi-Y).
– \$ \beta_1 \$$ ialah cerun (kecondongan garis regresi).
– \$ \epsilon \$$ ialah ralat (baki) yang menggambarkan sisihan data daripada garis padanan terbaik.
Dalam regresi linear berganda, kami melanjutkan konsep ini untuk mengendalikan lebih daripada satu pembolehubah bebas, seperti berikut:
\[ Y = \beta_0 + \beta_1X_1 + \beta_2X_2 + … + \beta_nX_n + \epsilon \]
Di sini, \$ X_1, X_2, …, X_n \$$ ialah pembolehubah bebas, dan \$ \beta_1, \beta_2, …, \beta_n \$$ ialah pekali regresi yang mengukur kesan setiap pembolehubah bebas terhadap pembolehubah bersandar.
Anggaran Parameter
Anggaran parameter dalam regresi linear biasanya dilakukan menggunakan Kuasa Dua Terkecil Biasa (OLS). Kaedah ini meminimumkan jumlah kuasa dua perbezaan antara nilai ramalan dan nilai sebenar. Secara matematik, kaedah OLS mencari pekali \$ \beta \$$ yang meminimumkan fungsi berikut:
\[ \sum_{i=1}^{n} (Y_i – (\beta_0 + \beta_1X_{i1} + \beta_2X_{i2} + … + \beta_nX_{in}))^2 \]
Proses peminimumkan ini menghasilkan pekali yang paling sesuai dengan data yang ada, memberikan garis regresi yang meminimumkan jumlah ralat kuasa dua.
Andaian Regresi Linear
Untuk penggunaan yang betul dan kebolehpercayaan keputusan, regresi linear mempunyai beberapa andaian yang mesti dipenuhi:
1. Lineariti: Hubungan antara pembolehubah bebas dan bersandar adalah linear.
2. Kebebasan: Sisa (ralat) adalah bebas antara satu sama lain.
3. Homoskedastisitas: Varians baki adalah malar untuk semua nilai pembolehubah bebas.
4. Normaliti: Sisa mengikuti taburan normal.
Jika andaian ini dilanggar, keputusan regresi boleh menjadi tidak sah dan mengelirukan. Oleh itu, adalah penting untuk mengesahkan andaian ini melalui diagnostik regresi sebelum membuat kesimpulan.
Penggunaan dan Aplikasi
Regresi linear digunakan secara meluas kerana kesederhanaan dan fleksibilitinya. Berikut adalah beberapa contoh aplikasi dalam pelbagai bidang:
1. Ekonomi: Menghubungkan harga barang dengan faktor-faktor seperti kos pengeluaran, permintaan pasaran dan lain-lain.
2. Kewangan: Memodelkan pulangan saham berdasarkan risiko atau faktor ekonomi.
3. Biologi: Mengkaji hubungan antara dos ubat tertentu dan tahap keberkesanannya.
4. Sosial: Menganalisis hubungan antara pendidikan dan pendapatan.
Di samping itu, regresi linear sering digunakan dalam ramalan atau ramalan data. Dengan menganalisis trend dalam data sejarah, regresi linear boleh digunakan untuk meramalkan nilai masa hadapan.
Penilaian Model
Penilaian model regresi linear dilakukan untuk memastikan model tersebut mencukupi dan menjelaskan data dengan secukupnya. Beberapa metrik sering digunakan dalam penilaian model ini, termasuk:
– R-kuadrat (R^2): Mengukur perkadaran jumlah kebolehubahan dalam pembolehubah bersandar yang dijelaskan oleh model regresi. Nilai R^2 adalah antara 0 dan 1, dengan nilai yang lebih tinggi menunjukkan model yang lebih baik.
– R-kuasa dua terlaras: Membetulkan R-kuasa dua berdasarkan bilangan pembolehubah bebas yang digunakan, statistik-F sering digunakan untuk menentukan kepentingan keseluruhan model.
– Purata Ralat Kuasa Dua (MSE): Purata perbezaan kuasa dua antara nilai sebenar dan nilai yang diramalkan.
Diagnostik dan Pengesahan
Sebelum model regresi digunakan untuk ramalan atau membuat keputusan selanjutnya, adalah penting untuk melakukan diagnostik regresi. Beberapa teknik diagnostik biasa termasuk:
1. Plot baki: Nilaikan kelinearan dan homoskedastisitas.
2. Plot QQ: Nilaikan kenormalan baki.
3. Ujian Durbin-Watson: Menguji autokorelasi baki.
4. Faktor Inflasi Varians (VIF): Mengenal pasti multikolineariti antara pembolehubah bebas.
Penggunaan diagnostik ini membantu mengenal pasti potensi masalah dan membolehkan pengguna membuat pelarasan atau transformasi data yang diperlukan.
Masalah dan Had
Walaupun regresi linear merupakan alat yang berkuasa, ia juga mempunyai batasan. Beberapa isu biasa termasuk:
– Multikolineariti: Berlaku apabila pembolehubah bebas berkorelasi tinggi antara satu sama lain. Ini boleh menyebabkan anggaran pekali yang tidak stabil dan tafsiran yang mengelirukan.
– Outlier: Nilai data ekstrem boleh memesongkan keputusan regresi.
– Ketaklinearan: Jika hubungan antara pembolehubah adalah tak linear, regresi linear mungkin kurang sesuai. Model tak linear mungkin lebih sesuai dalam beberapa kes.
– Heteroskedastisitas: Perubahan kebolehubahan baki boleh menyebabkan anggaran pekali yang tidak cekap.
Kesimpulannya
Regresi linear merupakan teknik statistik yang penting dalam analisis data. Dengan menggunakan regresi linear, kita boleh memahami dan memodelkan hubungan antara satu atau lebih pembolehubah bebas dan pembolehubah bersandar. Walaupun regresi linear merupakan alat yang mudah dan senang ditafsirkan, adalah penting untuk sentiasa menyemak andaian asas dan melakukan diagnostik regresi untuk memastikan keputusan yang sah. Walaupun terdapat beberapa batasan, dengan pendekatan dan pelarasan yang betul, regresi linear kekal sebagai kaedah yang sangat berguna dalam banyak aplikasi praktikal merentasi pelbagai bidang.
