Rumus Regresi Logistik<\/p>\n
Regresi logistik adalah salah satu metode paling populer dalam statistika dan data science untuk memodelkan hubungan antara sejumlah variabel independen (prediktor) dengan variabel dependen yang bersifat kategorik, terutama biner (misalnya: ya\/tidak, sukses\/gagal, sakit\/sehat). Berbeda dari regresi linear yang menghasilkan keluaran berupa nilai kontinu, regresi logistik dirancang untuk memperkirakan probabilitas suatu kejadian, sehingga hasil akhirnya berada pada rentang 0 hingga 1. Dalam artikel ini, kita akan membahas rumus regresi logistik, makna setiap komponennya, serta bagaimana cara menafsirkannya.<\/p>\n
Mengapa Regresi Logistik Dibutuhkan?<\/p>\n
Jika kita menggunakan regresi linear untuk memprediksi probabilitas, model bisa menghasilkan nilai di bawah 0 atau di atas 1, yang jelas tidak masuk akal untuk probabilitas. Regresi logistik mengatasi masalah ini dengan memakai fungsi non-linear yang memetakan hasil perhitungan (yang dapat bernilai apa saja) menjadi nilai probabilitas antara 0 dan 1. Fungsi yang paling umum digunakan adalah fungsi logistik atau sigmoid.<\/p>\n
Misalnya, kita ingin memprediksi apakah seorang pelanggan akan berhenti berlangganan (churn) berdasarkan usia, lama berlangganan, dan frekuensi penggunaan. Hasil yang ingin diprediksi hanya dua kemungkinan: churn (1) atau tidak churn (0). Regresi logistik sangat cocok untuk kasus seperti ini.<\/p>\n
Rumus Dasar Regresi Logistik<\/p>\n
Inti dari regresi logistik adalah memodelkan probabilitas \\( p \\) bahwa \\( Y = 1 \\) (kejadian terjadi), diberikan nilai variabel prediktor \\( X \\).<\/p>\n
Model regresi logistik biasanya dituliskan dalam dua bentuk penting:<\/p>\n
1) Bentuk Probabilitas (Sigmoid)<\/p>\n
\\[
\np = P(Y=1 \\mid X) = \\frac{1}{1 + e^{-z}}
\n\\]<\/p>\n
dengan<\/p>\n
\\[
\nz = \\beta_0 + \\beta_1 X_1 + \\beta_2 X_2 + \\cdots + \\beta_k X_k
\n\\]<\/p>\n
Keterangan:
\n– \\( p \\) adalah probabilitas kejadian (misalnya: churn = 1).
\n– \\( e \\) adalah bilangan Euler (sekitar 2,71828).
\n– \\( z \\) adalah kombinasi linear dari prediktor.
\n– \\( \\beta_0 \\) adalah intercept (konstanta).
\n– \\( \\beta_1, \\beta_2, \\ldots, \\beta_k \\) adalah koefisien regresi.
\n– \\( X_1, X_2, \\ldots, X_k \\) adalah variabel independen.<\/p>\n
Fungsi sigmoid memastikan bahwa berapa pun nilai \\( z \\), nilai \\( p \\) tetap berada di antara 0 dan 1.<\/p>\n
2) Bentuk Logit (Log Odds)<\/p>\n
Bentuk lain yang sangat penting adalah bentuk logit, yaitu logaritma dari odds:<\/p>\n
\\[
\n\\text{logit}(p) = \\ln\\left(\\frac{p}{1-p}\\right) = \\beta_0 + \\beta_1 X_1 + \\beta_2 X_2 + \\cdots + \\beta_k X_k
\n\\]<\/p>\n
Keterangan:
\n– \\( \\frac{p}{1-p} \\) disebut odds (peluang relatif).
\n– \\( \\ln \\) adalah logaritma natural.<\/p>\n
Bentuk logit menjelaskan bahwa regresi logistik sebenarnya memodelkan log odds sebagai fungsi linear dari prediktor. Ini membuat interpretasi koefisien menjadi lebih jelas, terutama dalam konteks odds ratio.<\/p>\n
Memahami Odds dan Odds Ratio<\/p>\n
Agar rumus regresi logistik benar-benar dipahami, kita perlu membedakan antara probabilitas dan odds.<\/p>\n
– Probabilitas \\( p \\): peluang kejadian terjadi (0 sampai 1).
\n– Odds : perbandingan peluang terjadi terhadap tidak terjadi:<\/p>\n
\\[
\n\\text{odds} = \\frac{p}{1-p}
\n\\]<\/p>\n
Contoh: jika \\( p = 0{,}8 \\), maka:<\/p>\n
\\[
\n\\text{odds} = \\frac{0{,}8}{0{,}2} = 4
\n\\]<\/p>\n
Artinya, kejadian tersebut 4 kali lebih mungkin terjadi daripada tidak terjadi.<\/p>\n
Dalam regresi logistik, koefisien \\( \\beta \\) sering ditafsirkan melalui odds ratio :<\/p>\n
\\[
\n\\text{OR} = e^{\\beta}
\n\\]<\/p>\n
– Jika \\( \\beta > 0 \\), maka \\( e^{\\beta} > 1 \\): prediktor meningkatkan odds kejadian.
\n– Jika \\( \\beta < 0 \\), maka \\( e^{\\beta} < 1 \\): prediktor menurunkan odds kejadian.\n- Jika \\( \\beta = 0 \\), maka \\( e^{\\beta} = 1 \\): tidak ada pengaruh terhadap odds.\n\nMisalnya, jika \\( \\beta_1 = 0{,}7 \\), maka:\n\n\\[\ne^{0{,}7} \\approx 2{,}01\n\\]\n\nArtinya, setiap kenaikan 1 satuan \\( X_1 \\) akan mengalikan odds kejadian sekitar 2,01 kali (dengan asumsi variabel lain tetap).\n\n Contoh Model Regresi Logistik Sederhana\n\nMisalkan kita hanya punya satu variabel prediktor \\( X \\), misalnya jumlah jam belajar per minggu, untuk memprediksi kelulusan ujian (lulus = 1, tidak lulus = 0). Modelnya:\n\n\\[\n\\text{logit}(p) = \\beta_0 + \\beta_1 X\n\\]\n\nJika hasil estimasi:\n- \\( \\beta_0 = -4 \\)\n- \\( \\beta_1 = 0{,}8 \\)\n\nMaka:\n\n\\[\nz = -4 + 0{,}8X\n\\]\n\\[\np = \\frac{1}{1 + e^{-(-4 + 0{,}8X)}} = \\frac{1}{1 + e^{4 - 0{,}8X}}\n\\]\n\nJika \\( X = 6 \\) jam belajar:\n\n\\[\nz = -4 + 0{,}8(6) = 0{,}8\n\\]\n\\[\np = \\frac{1}{1 + e^{-0{,}8}} \\approx 0{,}69\n\\]\n\nInterpretasi: dengan 6 jam belajar per minggu, probabilitas lulus sekitar 69%.\n\n Estimasi Koefisien: Mengapa Bukan Metode Kuadrat Terkecil?\n\nPada regresi linear, koefisien sering dihitung dengan metode kuadrat terkecil (least squares). Namun pada regresi logistik, hubungan antara prediktor dan probabilitas bersifat non-linear, sehingga pendekatan kuadrat terkecil tidak ideal. Regresi logistik umumnya menggunakan Maximum Likelihood Estimation (MLE) untuk mencari nilai koefisien \\( \\beta \\) yang memaksimalkan kemungkinan data yang diamati.\n\nSecara ringkas, likelihood untuk pengamatan biner \\( y_i \\in \\{0,1\\} \\) dan prediksi \\( p_i \\) adalah:\n\n\\[\nL(\\beta) = \\prod_{i=1}^{n} p_i^{y_i}(1-p_i)^{(1-y_i)}\n\\]\n\nKemudian sering diubah menjadi log-likelihood agar lebih mudah dihitung:\n\n\\[\n\\ell(\\beta) = \\sum_{i=1}^{n} \\left[ y_i \\ln(p_i) + (1-y_i)\\ln(1-p_i) \\right]\n\\]\n\nNilai \\( \\beta \\) dipilih untuk memaksimalkan \\( \\ell(\\beta) \\). Metode numerik seperti Newton-Raphson atau gradient descent sering digunakan oleh perangkat lunak statistik.\n\n Kelebihan dan Keterbatasan Regresi Logistik\n\n Kelebihan\n1. Hasil berupa probabilitas sehingga mudah diterjemahkan menjadi keputusan.\n2. Interpretasi koefisien jelas melalui odds ratio.\n3. Cocok untuk masalah klasifikasi biner dan dapat diperluas ke multinomial\/ordinal.\n\n Keterbatasan\n1. Mengasumsikan hubungan linear antara prediktor dan log odds , bukan langsung ke probabilitas.\n2. Bisa bermasalah jika ada multikolinearitas atau data sangat tidak seimbang (imbalance).\n3. Untuk pola hubungan yang sangat kompleks, metode non-linear lain (misalnya random forest atau neural network) bisa lebih unggul.\n\n Penutup\n\nRumus regresi logistik pada dasarnya memadukan kombinasi linear dari variabel prediktor dengan fungsi sigmoid untuk menghasilkan probabilitas. Bentuk yang paling umum adalah:\n\n\\[\np = \\frac{1}{1 + e^{-(\\beta_0 + \\beta_1 X_1 + \\cdots + \\beta_k X_k)}}\n\\]\n\natau dalam bentuk logit:\n\n\\[\n\\ln\\left(\\frac{p}{1-p}\\right) = \\beta_0 + \\beta_1 X_1 + \\cdots + \\beta_k X_k\n\\]\n\nDengan memahami kedua bentuk rumus ini, kita dapat membangun model prediksi untuk berbagai masalah klasifikasi biner sekaligus menafsirkan pengaruh variabel melalui odds ratio \\( e^{\\beta} \\). Regresi logistik tetap menjadi fondasi penting dalam analisis data karena sederhana, kuat, dan interpretatif\u2014serta sering menjadi langkah awal sebelum mencoba model yang lebih kompleks.\n\nJika Anda ingin, saya bisa menambahkan contoh perhitungan dengan data kecil (tabel), atau contoh implementasi regresi logistik di Python\/R beserta interpretasi outputnya.\n<\/p>\n","protected":false},"excerpt":{"rendered":"
Rumus Regresi Logistik Regresi logistik adalah salah satu metode paling populer dalam statistika dan data science untuk memodelkan hubungan antara sejumlah variabel independen (prediktor) dengan variabel dependen yang bersifat kategorik, terutama biner (misalnya: ya\/tidak, sukses\/gagal, sakit\/sehat). Berbeda dari regresi linear yang menghasilkan keluaran berupa nilai kontinu, regresi logistik dirancang untuk memperkirakan probabilitas suatu kejadian, sehingga … Read more<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[1],"tags":[],"class_list":["post-486","post","type-post","status-publish","format-standard","hentry","category-statistika"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/gurumuda.net\/statistika\/wp-json\/wp\/v2\/posts\/486","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gurumuda.net\/statistika\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/gurumuda.net\/statistika\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/gurumuda.net\/statistika\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gurumuda.net\/statistika\/wp-json\/wp\/v2\/comments?post=486"}],"version-history":[{"count":0,"href":"https:\/\/gurumuda.net\/statistika\/wp-json\/wp\/v2\/posts\/486\/revisions"}],"wp:attachment":[{"href":"https:\/\/gurumuda.net\/statistika\/wp-json\/wp\/v2\/media?parent=486"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/gurumuda.net\/statistika\/wp-json\/wp\/v2\/categories?post=486"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/gurumuda.net\/statistika\/wp-json\/wp\/v2\/tags?post=486"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}