شماريات ۾ ڪراس ويليڊيشن جو طريقو

شماريات ۾ ڪراس تصديق جو طريقو

شماريات ۽ ڊيٽا سائنس ۾، سڀ کان وڏي چئلينجن مان هڪ اهو يقيني بڻائڻ آهي ته هڪ ماڊل نه رڳو ان ڊيٽا تي سٺو ڪم ڪري ٿو جنهن تي ان کي تربيت ڏني وئي هئي، پر نئين، اڳ ۾ نه ڏٺل ڊيٽا تي پڻ سٺو ڪم ڪري ٿو. هن مسئلي کي اڪثر ڪري جنرلائيزيشن چيو ويندو آهي. هي اهو هنڌ آهي جتي ڪراس-تصديق اچي ٿي: هڪ ماڊل تشخيص جو طريقو جيڪو ماڊل جي ڪارڪردگي کي هڪ ڊيٽا سيٽ استعمال ڪندي هڪ واحد تشخيص کان وڌيڪ منصفانه ۽ مسلسل طور تي ماپڻ لاءِ ٺهيل آهي.

ڪراس ويليڊيشن جي ضرورت ڇو آهي؟

جڏهن اسان هڪ اڳڪٿي ڪندڙ ماڊل ٺاهيندا آهيون - مثال طور، گهر جي قيمتن جي اڳڪٿي ڪرڻ لاءِ هڪ ريگريشن ماڊل يا اسپام کي ڳولڻ لاءِ هڪ درجه بندي ماڊل - اسان عام طور تي ڊيٽا کي ٻن حصن ۾ ورهايو ٿا: هڪ تربيتي سيٽ ۽ هڪ ٽيسٽ سيٽ. ماڊل کي تربيتي ڊيٽا تي تربيت ڏني ويندي آهي ۽ پوءِ ٽيسٽ ڊيٽا تي جائزو ورتو ويندو آهي. هي طريقو سادو آهي، پر ان ۾ هڪ خرابي آهي: تشخيص جا نتيجا ان تي تمام گهڻو منحصر ٿي سگهن ٿا ته ڊيٽا ڪيئن ورهايل آهي. جيڪڏهن ٽيسٽ ڊيٽا "آسان" ٿئي ٿي، ته ڪارڪردگي وڌيڪ نظر اچي ٿي؛ جيڪڏهن ٽيسٽ ڊيٽا "سخت" هجي، ته ڪارڪردگي گهٽ نظر اچي ٿي.

ڪراس-ويليڊيشن مختلف ڊيٽا سيٽن تي ڪيترائي تربيتي ۽ جانچ جا عمل انجام ڏيڻ ۽ پوءِ نتيجن جي اوسط ڪندي هڪ واحد ڊيٽا سيٽ تي ڀروسو گھٽائي ٿي. ان جي نتيجي ۾ ڪارڪردگي جا تخمينو نڪرندا آهن جيڪي حقيقي دنيا جي حالتن جي وڌيڪ نمائندگي ڪن ٿا.

ڪراس ويليڊيشن جا بنيادي تصور

ڪراس-ويليڊيشن جو جوهر ڊيٽا کي ڪيترن ئي حصن (فولڊز) ۾ ورهائڻ آهي. هر ورهاڱي تي، ماڊل کي تربيت ڏيڻ لاءِ ڪجهه فولڊ استعمال ڪيا ويندا آهن، ۽ ماڊل کي جانچڻ لاءِ هڪ فولڊ استعمال ڪيو ويندو آهي. هي عمل بار بار ڪيو ويندو آهي جيستائين هر فولڊ کي ٽيسٽ ڊيٽا طور استعمال نه ڪيو وڃي. هر ورهاڱي مان تشخيصي اسڪور کي پوءِ گڏ ڪيو ويندو آهي (عام طور تي اوسط سان ۽ ڪڏهن ڪڏهن معياري انحراف سان پڻ) ماڊل جي ڪارڪردگي جو جائزو مهيا ڪرڻ لاءِ.

مثال طور، k-fold ڪراس ويليڊيشن ۾ k=5 سان، ڊيٽا کي 5 فولڊز ۾ ورهايو ويو آهي. پهرين ورجائي: ٽيسٽ طور 1 کي فولڊ ڪريو، ٽريننگ طور 2-5 کي فولڊ ڪريو. ٻيو ورجائي: ٽيسٽ طور 2 کي فولڊ ڪريو، ۽ انهي طرح 5 کي فولڊ ڪرڻ تائين.

ڪراس تصديق جا عام قسم

1. هولڊ آئوٽ ويليڊيشن (ٽرين-ٽيسٽ اسپلٽ)
جڏهن ته ٽيڪنيڪل طور تي "بار بار" ڪراس-ويليڊيشن نه آهي، هولڊ آئوٽ طريقو اڪثر ڪري هڪ بنيادي تصديق وارو قدم سمجهيو ويندو آهي. ڊيٽا هڪ ڀيرو ورهايو ويندو آهي، مثال طور، 80٪ ٽريننگ ۽ 20٪ ٽيسٽنگ. فائدو اهو آهي ته اهو تيز ۽ سادو آهي، پر نقصان نتيجن ۾ اعلي فرق آهي ڇاڪاڻ ته اهو هڪ واحد ورهاست تي ڀاڙي ٿو.

هي طريقو عام طور تي استعمال ڪيو ويندو آهي جڏهن ڊيٽا تمام وڏو هوندو آهي، تنهنڪري هڪ ڊويزن به ڪافي نمائندگي ڪري ٿي.

2. ڪي-فولڊ ڪراس تصديق
هي ڪراس-ويليڊيشن جو سڀ کان مشهور روپ آهي. k پيرا ميٽر اڪثر ڪري 5 يا 10 جي طور تي چونڊيو ويندو آهي ڇاڪاڻ ته اهو ڪمپيوٽيشنل لاڳت ۽ تخميني معيار کي متوازن ڪرڻ لاءِ سمجهيو ويندو آهي.

زيادتي:
- ڊيٽا کي وڌيڪ ڪارآمد طريقي سان استعمال ڪرڻ (هر ڊيٽا ٽرين ۽ ٽيسٽ جو حصو بڻجي ويندو آهي).
- ڪارڪردگي جا اندازا هولڊ آئوٽ کان وڌيڪ مستحڪم آهن.

گهٽتائي:
- وڌيڪ وقت وٺندو آهي ڇاڪاڻ ته اهو ماڊل k ڀيرا تربيت ڏيندو آهي.
- جيڪڏهن ڊيٽا تمام وڏو آهي يا ماڊل تمام پيچيده آهي، ته پوءِ حسابي خرچ وڌيڪ ٿي سگهن ٿا.

3. اسٽريٽيفائيڊ ڪي-فولڊ ڪراس ويليڊيشن
درجه بندي جي مسئلن لاءِ، خاص طور تي جيڪڏهن ڪلاس غير متوازن آهن (مثال طور، 90٪ منفي، 10٪ مثبت)، باقاعده ڪي-فولڊ اسڪيو ڪلاس ورڇ سان فولڊ پيدا ڪري سگهي ٿو. اسٽريٽيفائيڊ ڪي-فولڊ يقيني بڻائي ٿو ته هر فولڊ ۾ ڪلاسن جو تناسب تقريبن اصل ڊيٽا ۾ ڪلاسن جي تناسب جي برابر آهي.

هي خاص طور تي بيماري جي سڃاڻپ جي ماڊلز، فراڊ، يا ٻين ڪيسن جي تشخيص ۾ اهم آهي جتي اقليتي طبقو ننڍو آهي.

4. ليو-ون-آئوٽ ڪراس ويليڊيشن (LOOCV)
LOOCV ۾، فولڊ جو تعداد ڊيٽا جي مقدار جي برابر آهي (k = n). ان جو مطلب آهي ته هر ورهاڱي ۾، صرف هڪ مشاهدو ٽيسٽ ڊيٽا بڻجي ويندو آهي، جڏهن ته باقي تربيتي ڊيٽا بڻجي ويندو آهي.

زيادتي:
- تقريبن سڀ ڊيٽا هر ورهاڱي تي تربيت لاءِ استعمال ڪيو ويندو آهي، تنهنڪري اندازي جو تعصب ننڍو ٿي سگهي ٿو.

گهٽتائي:
- وڏي ڊيٽاسيٽ لاءِ حسابي طور تي تمام مهانگو.
- ڪجهه قسمن جي مسئلن ۾ اندازي جي فرق وڌيڪ ٿي سگهي ٿو ڇاڪاڻ ته ٽيسٽ سيٽ هر ورهاڱي ۾ صرف هڪ نقطو آهي.

LOOCV اڪثر استعمال ڪيو ويندو آهي جڏهن تمام گهٽ ڊيٽا هوندو آهي، مثال طور هڪ ننڍڙي نموني سائيز سان تحقيق.

5. بار بار ڪي-فولڊ ڪراس تصديق
هي طريقو مختلف (بي ترتيب) فولڊ اسائنمنٽس سان ڪي-فولڊ کي ڪيترائي ڀيرا ورجائي ٿو. مقصد هڪ فولڊ اسائنمنٽس تي انحصار کي گهٽائڻ ۽ وڌيڪ مستحڪم تخمينو پيدا ڪرڻ آهي.

مثال طور، "10 ڀيرا 3 ڀيرا ورجائڻ" جو مطلب آهي 10 ڀيرا 3 ڀيرا ڊوڙڻ (ڪل 30 تربيت ۽ تشخيص).

6. ٽائيم سيريز ڪراس ويليڊيشن
ٽائيم سيريز ڊيٽا لاءِ، روايتي ڪراس-تصديق مناسب ناهي ڇاڪاڻ ته اهو تربيتي عمل ۾ "مستقبل کي ليڪ" ڪري سگهي ٿو. ٽائيم سيريز ۾، عارضي ترتيب کي محفوظ رکڻ گهرجي. تنهن ڪري، طريقا جهڙوڪ:
- رولنگ/سلائيڊنگ ونڊو: شروعاتي دور ۾ ٽرين ڪريو پوءِ ايندڙ دور ۾ ٽيسٽ ڪريو، پوءِ ونڊو شفٽ ٿيندي.
- ونڊو وڌائڻ: تربيتي ڊيٽا وقت سان گڏ وڌندو آهي، پوءِ ايندڙ عرصي ۾ جانچيو ويندو آهي.

هي طريقو مهيني جي سيلز جي اڳڪٿي، اسٽاڪ جي قيمتن، يا حقيقي وقت سينسرز لاءِ لاڳاپيل آهي.

ڪراس ويليڊيشن ۾ تشخيصي ميٽرڪس

ڪراس ويليڊيشن صرف هڪ تشخيصي فريم ورڪ آهي؛ استعمال ٿيل ميٽرڪس مسئلي جي قسم تي منحصر آهن:
- رجعت: MSE، RMSE، MAE، R-اسڪوائر.
- درجه بندي: درستگي، درستگي، ياد ڪرڻ، F1-اسڪور، ROC-AUC.
- غير متوازن درجه بندي: ROC-AUC، PR-AUC (پريزيئن-ريڪال)، متوازن درستگي.

ڪراس-تصديق جا نتيجا عام طور تي ميٽرڪ اوسط ۽ معياري انحراف جي طور تي رپورٽ ڪيا ويندا آهن (مثال طور، درستگي 0,89 ± 0,03). معياري انحراف ماڊل جي استحڪام کي سمجهڻ ۾ مدد ڪري ٿو.

ماڊل جي چونڊ ۽ پيرا ميٽر ٽيوننگ لاءِ ڪراس ويليڊيشن

ڪراس ويليڊيشن جي مکيه استعمالن مان هڪ ماڊل چونڊ ۽ هائپر پيراميٽر ٽيوننگ آهي. مثال طور:
- k-NN ۾ k چونڊڻ.
- فيصلي جي وڻ ۾ وڌ ۾ وڌ کوٽائي چونڊيو.
- رِج/لاسو ريگريشن ۾ ريگيولرائيزيشن پيرا ميٽرز جو تعين ڪريو.
- SVM ۾ C ۽ گاما جو تعين ڪريو.

سٺي عمل ۾، ٽيوننگ جو عمل تربيتي ڊيٽا تي ڪراس-ويليڊيشن استعمال ڪندي ڪيو ويندو آهي، جڏهن ته آخري ٽيسٽ ڊيٽا کي آخري تشخيص لاءِ الڳ رکيو ويندو آهي. اهو ماڊل کي تشخيصي ڊيٽا سان وڌيڪ فٽ ڪرڻ جي ڪري "وڌيڪ اميد" کي روڪيندو آهي.

هڪ وڌيڪ سخت طريقو نيسٽڊ ڪراس-ويلائيڊيشن سڏيو ويندو آهي، جيڪو ڪراس-ويلائيڊيشن اندر ڪراس-ويلائيڊيشن آهي: ٻاهرين لوپ تشخيص لاءِ آهي، اندروني لوپ ٽيوننگ لاءِ آهي. هي تحقيق ۾ مشهور آهي ڇاڪاڻ ته اهو وڌيڪ غير جانبدار ڪارڪردگي جو اندازو مهيا ڪري ٿو.

ڪراس ويليڊيشن جا فائدا ۽ حدون

مکيه فائدا:
1. سنگل ڊويزن جي ڀيٽ ۾ وڌيڪ مستحڪم ڪارڪردگي جو اندازو مهيا ڪري ٿو.
2. ڊيٽا کي موثر طريقي سان استعمال ڪريو، خاص طور تي جڏهن ڊيٽا سيٽ ننڍو هجي.
3. وڌيڪ عام ماڊل چونڊڻ ۾ مدد ڪري ٿو ۽ اوور فٽنگ جو خطرو گھٽائي ٿو.

حدون:
1. تربيت ڪيترائي ڀيرا ورجائڻ سان گڏ ڪمپيوٽيشنل خرچ وڌي ويندا آهن.
2. جيڪڏهن پري پروسيسنگ صحيح طريقي سان نه ڪئي وئي ته ڊيٽا ليڪ اڃا به ٿي سگهي ٿي.
3. گروپ ٿيل ڊيٽا لاءِ (مثال طور، مريض ڊيٽا جنهن ۾ ڪيترائي رڪارڊ آهن)، هڪ خاص طريقو گهربل آهي، جهڙوڪ گروپ ڪي-فولڊ، ته جيئن هڪ فرد هڪ ئي وقت ٽرين ۽ ٽيسٽ ۾ ظاهر نه ٿئي.

ڪراس ويليڊيشن استعمال ڪرڻ جا سٺا طريقا

جائزي جي صحيح هجڻ لاءِ، ڪيترن ئي اهم اصولن تي عمل ڪرڻ گهرجي:
- هر فولڊ اندر پري پروسيسنگ (نارملائيزيشن، امپوٽيشن، فيچر سليڪشن) ڪريو، پوري ڊيٽا لاءِ هڪ ڀيرو نه. ٻي صورت ۾، ٽيسٽ فولڊ مان معلومات ٽرين فولڊ ۾ ليڪ ٿي سگهي ٿي.
- غير متوازن طبقن سان درجه بندي لاءِ اسٽريٽيفائيڊ ڪ-فولڊ استعمال ڪريو.
- ٽائيم سيريز ڊيٽا لاءِ هڪ خاص اسڪيم استعمال ڪريو ته جيئن آرڊر جي ڀڃڪڙي نه ٿئي.
- جيڪڏهن توهان جو مقصد ماڊل جي آخري ڪارڪردگي جو جائزو وٺڻ آهي ته آخري ٽيسٽ سيٽ کي الڳ ڪريو.

پينوٽ اپ

ڪراس-ويليڊيشن لاڳو ٿيل شماريات ۽ مشين لرننگ ۾ هڪ بنيادي اوزار آهي جيڪو ماڊل جي ڪارڪردگي کي وڌيڪ منصفانه ۽ مضبوطيءَ سان جائزو وٺڻ لاءِ آهي. بار بار ڊيٽا شيئرنگ کي استعمال ڪندي، ڪراس-ويليڊيشن ٽرين-ٽيسٽ اسپلٽ چونڊ جي ڪري پيدا ٿيندڙ تعصب کي گهٽائڻ ۾ مدد ڪري ٿي، اوور فٽنگ کي ڳولي ٿي، ۽ ماڊل چونڊ ۽ هائپر پيراميٽر ٽيوننگ کي سپورٽ ڪري ٿي. جڏهن ته ڪمپيوٽيشنل قيمت وڌيڪ آهي، فائدا اڪثر ان جي قابل آهن، خاص طور تي جڏهن ڊيٽا سيٽ ننڍو هجي يا جڏهن ماڊل جي نتيجن تي ٻڌل فيصلا اهم نتيجا ڏين ٿا. صحيح قسم جي ڪراس-ويليڊيشن کي چونڊڻ ۽ بهترين طريقن کي لاڳو ڪرڻ سان، اسان وڌيڪ قابل اعتماد ماڊل ٺاهي سگهون ٿا جيڪي حقيقي دنيا جي ڊيٽا تي استعمال ٿيڻ لاءِ تيار آهن.