Ọ̀nà ìfìdíkalẹ̀ àgbélébùú nínú àwọn statistiki

Ọ̀nà Ìfìdíwọ̀n Àgbélébùú nínú Àwọn Àkójọ Ìṣirò

Nínú àwọn statistiki àti ìmọ̀ ìjìnlẹ̀ data, ọ̀kan lára ​​àwọn ìpèníjà tó tóbi jùlọ ni rírí dájú pé àwòṣe kan kìí ṣe pé ó ń ṣiṣẹ́ dáadáa lórí data tí wọ́n kọ́ ọ nìkan, ṣùgbọ́n ó tún ń ṣiṣẹ́ dáadáa lórí data tuntun tí a kò rí tẹ́lẹ̀. Ìṣòro yìí ni wọ́n sábà máa ń pè ní ìṣọ̀kan. Ibí ni ìfọwọ́sowọ́pọ̀-àgbékalẹ̀ ti wọlé: ọ̀nà ìṣàyẹ̀wò àwòṣe tí a ṣe láti wọn iṣẹ́ àwòṣe náà lọ́nà tó tọ́ àti ní ìbámu ju ìṣàyẹ̀wò kan lọ nípa lílo àkójọ data kan ṣoṣo.

Kí ló dé tí a fi nílò ìfọwọ́sowọ́pọ̀ àgbélébùú?

Nígbà tí a bá kọ́ àwòṣe àsọtẹ́lẹ̀—fún àpẹẹrẹ, àwòṣe ìpadàsẹ́yìn láti sọ àsọtẹ́lẹ̀ iye owó ilé tàbí àwòṣe ìpínsísọ láti ṣàwárí àwúrúju—a sábà máa ń pín dátà náà sí apá méjì: àwòṣe ìdánilẹ́kọ̀ọ́ àti àwòṣe ìdánwò. A kọ́ àwòṣe náà lórí dátà ìdánilẹ́kọ̀ọ́, lẹ́yìn náà a ṣe àyẹ̀wò rẹ̀ lórí dátà ìdánwò náà. Ọ̀nà yìí rọrùn, ṣùgbọ́n ó ní àléébù kan: àwọn àbájáde ìdánwò lè sinmi lórí bí a ṣe pín dátà náà. Tí dátà ìdánwò bá “rọrùn,” iṣẹ́ náà yóò ga; bí dátà ìdánwò bá “le koko,” iṣẹ́ náà yóò dàbí pé kò tó.

Ìfìdíwọ̀n-àgbékalẹ̀ dín ìgbẹ́kẹ̀lé lórí àkójọ dátà kan kù nípa ṣíṣe ọ̀pọ̀lọpọ̀ ìdánilẹ́kọ̀ọ́ àti ìdánwò lórí onírúurú àkójọ dátà àti lẹ́yìn náà ní àròpín àwọn àbájáde. Èyí ń yọrí sí àwọn ìṣirò ìṣe tí ó jẹ́ àfihàn àwọn ipò gidi.

Àwọn Ìpìlẹ̀ Ìjẹ́rìí Àgbélébùú

Kókó ìfọwọ́sowọ́pọ̀ ni pípín dátà sí ọ̀pọ̀lọpọ̀ apá (ìdìpọ̀). Ní ​​ìgbà ìdìpọ̀ kọ̀ọ̀kan, a máa ń lo àwọn ìdìpọ̀ kan láti kọ́ àwòṣe náà, a sì máa ń lo ìdìpọ̀ kan láti dán àwòṣe náà wò. A máa ń tún ìlànà yìí ṣe títí a ó fi lo ìdìpọ̀ kọ̀ọ̀kan gẹ́gẹ́ bí dátà ìdánwò. Lẹ́yìn náà, a máa ń so àwọn àmì ìṣàyẹ̀wò láti inú ìdìpọ̀ kọ̀ọ̀kan pọ̀ (nígbà gbogbo pẹ̀lú ìwọ̀n àròpín àti nígbà míìrán pẹ̀lú ìyàtọ̀ ààtò) láti pèsè àkópọ̀ iṣẹ́ àwòṣe náà.

Fún àpẹẹrẹ, nínú ìfọwọ́sowọ́pọ̀ k-fold cross verse pẹ̀lú k=5, a pín dátà sí ìfọ́pọ̀ márùn-ún. Ìfọ́pọ̀ àkọ́kọ́: ìfọ́pọ̀ 1 gẹ́gẹ́ bí ìdánwò, ìfọ́pọ̀ 2–5 gẹ́gẹ́ bí ìdánilẹ́kọ̀ọ́. Ìfọ́pọ̀ kejì: ìfọ́pọ̀ 2 gẹ́gẹ́ bí ìdánwò, àti bẹ́ẹ̀ bẹ́ẹ̀ lọ títí dé ìfọ́pọ̀ 5.

KỌRỌ  Fọ́múlá ìpín ọgọ́rùn-ún nínú àwọn statistiki

Àwọn Irú Ìfọwọ́sowọ́pọ̀ Àgbélébùú Tó Wọ́pọ̀

1. Ìfọwọ́sowọ́pọ̀ Holdout (Pínpín Ìdánwò-Tẹ́nwò)
Bó tilẹ̀ jẹ́ pé kìí ṣe pé a máa ń fi “àtúnṣe” ìfàṣẹsí àgbékalẹ̀ kọ́ọ̀pọ́, ọ̀nà ìdádúró ni a sábà máa ń kà sí ìgbésẹ̀ ìfàṣẹsí ìpìlẹ̀. A máa ń pín ìwífún náà lẹ́ẹ̀kan, fún àpẹẹrẹ, ìdánilẹ́kọ̀ọ́ 80% àti ìdánwò 20%. Àǹfààní rẹ̀ ni pé ó yára àti rọrùn, ṣùgbọ́n àléébù ni ìyàtọ̀ gíga nínú àwọn àbájáde nítorí pé ó gbára lé ìpín kan ṣoṣo.

A maa n lo ọna yii nigba ti data ba tobi pupo, tobẹẹ ti ipin kan paapaa fi to lati ṣe aṣoju.

2. Ìfọwọ́sowọ́pọ̀ Àgbélébùú K-Fold
Èyí ni ọ̀nà ìfọwọ́sowọ́pọ̀ tó gbajúmọ̀ jùlọ. A sábà máa ń yan ìpínrọ̀ k gẹ́gẹ́ bí 5 tàbí 10 nítorí pé a gbà pé ó ń ṣe àtúnṣe iye owó ìṣirò àti dídára ìṣirò.

Pupọ:
– Lilo data daradara diẹ sii (data kọọkan di apakan ti ikẹkọ ati idanwo).
– Awọn iṣiro iṣẹ ṣiṣe jẹ iduroṣinṣin diẹ sii ju idaduro lọ.

Aini:
– Ó gba àkókò púpọ̀ nítorí pé ó ń kọ́ àwọn àkókò k model.
– Tí dátà náà bá tóbi púpọ̀ tàbí tí àwòṣe náà bá díjú gan-an, iye owó ìṣirò náà lè ga.

3. Ìfọwọ́sowọ́pọ̀ Àgbélébùú K-Fold
Fún àwọn ìṣòro ìpínsísọ̀rí, pàápàá jùlọ tí àwọn kíláàsì náà kò bá ní ìwọ́ntúnwọ́nsí (fún àpẹẹrẹ, 90% odi, 10% rere), k-fold déédéé lè mú àwọn ìdìpọ̀ jáde pẹ̀lú ìpínsísọ̀rí tí ó yípadà. k-fold tí a fi ìṣọ̀kan ṣe rí i dájú pé ìpínsísọ̀rí kọ̀ọ̀kan jẹ́ nǹkan kan náà gẹ́gẹ́ bí ìpínsísọ̀rí nínú dátà àkọ́kọ́.

Èyí ṣe pàtàkì ní pàtàkì nígbà tí a bá ń ṣe àyẹ̀wò àwọn àpẹẹrẹ ìwádìí àrùn, jìbìtì, tàbí àwọn ọ̀ràn mìíràn níbi tí àwọn ènìyàn tí kò tó nǹkan bá kéré sí.

4. Ìfọwọ́sowọ́pọ̀ Àgbélébùú Lílọ-Lọ́kan-Out (LOOCV)
Nínú LOOCV, iye àwọn ìdìpọ̀ dọ́gba pẹ̀lú iye data (k = n). Èyí túmọ̀ sí wípé nínú àtúnṣe kọ̀ọ̀kan, àkíyèsí kan ṣoṣo ló di data ìdánwò, nígbàtí ìyókù di data ìdánwò.

Pupọ:
– Ó fẹ́rẹ̀ẹ́ jẹ́ pé gbogbo ìwífún ni a ń lò fún ìdánilẹ́kọ̀ọ́ ní ìgbà kọ̀ọ̀kan, nítorí náà, àìṣedéédéé ìṣirò lè kéré.

Aini:
– O gbowo pupọ fun iṣiro fun awọn data nla.
– Ìyàtọ̀ ìṣirò lè ga ní àwọn oríṣi ìṣòro kan nítorí pé àkójọ ìdánwò náà jẹ́ ojú ìwé kan ṣoṣo fún àtúnṣe kọ̀ọ̀kan.

A maa n lo LOOCV nigba ti data ko ba to, fun apere iwadi pelu iwọn ayẹwo kekere.

KỌRỌ  Fọ́múlá àmì Z nínú àwọn statistiki

5. Ìfọwọ́sowọ́pọ̀ Àgbélébùú K-Fold Tí A Túnṣe
Ọ̀nà yìí máa ń tún k-fold ṣe ní ọ̀pọ̀ ìgbà pẹ̀lú àwọn iṣẹ́ ìfọ́pọ̀ onípele (láìròtẹ́lẹ̀). Ète rẹ̀ ni láti dín ìgbẹ́kẹ̀lé lórí iṣẹ́ ìfọ́pọ̀ onípele kan kù kí ó sì mú àwọn ìṣirò tó dúró ṣinṣin wá.

Fún àpẹẹrẹ, “Ìgbà mẹ́wàá tí a tún ṣe ní ìgbà mẹ́ta” túmọ̀ sí ṣíṣẹ́ ní ìgbà mẹ́wàá nígbà mẹ́ta (àpapọ̀ ìdánilẹ́kọ̀ọ́ àti àyẹ̀wò ọgbọ̀n).

6. Ìfọwọ́sowọ́pọ̀ Àgbélébùú Àkókò
Fún ìwádìí àkókò, ìfọwọ́sowọ́pọ̀ àgbékalẹ̀ kò yẹ nítorí pé ó lè “fi ọjọ́ iwájú hàn” sínú ìlànà ìdánilẹ́kọ̀ọ́ náà. Nínú àkókò àkókò, a gbọ́dọ̀ pa ìlànà àkókò mọ́. Nítorí náà, àwọn ọ̀nà bíi:
– Fèrèsé yíyí/yíyípo: ṣe ìdánwò ní àkókò ìbẹ̀rẹ̀ lẹ́yìn náà dán an wò ní àkókò tó tẹ̀lé, lẹ́yìn náà fèrèsé yí padà.
– Fífẹ̀ síi: dátà ìdánilẹ́kọ̀ọ́ máa ń pọ̀ sí i nígbà gbogbo, lẹ́yìn náà ni a dán an wò ní àkókò tó ń bọ̀.

Ọ̀nà yìí ṣe pàtàkì fún àsọtẹ́lẹ̀ títà oṣooṣù, iye owó ọjà, tàbí àwọn sensọ̀ àkókò gidi.

Àwọn Ìwọ̀n Ìṣirò Nínú Ìfọwọ́sowọ́pọ̀ Àgbélébùú

Ìfìdíkalẹ̀ àgbékalẹ̀ jẹ́ ètò ìṣàyẹ̀wò lásán; àwọn ìwọ̀n tí a lò sinmi lórí irú ìṣòro náà:
– Ìfàsẹ́yìn: MSE, RMSE, MAE, R-squared.
– Ìpínsísọ̀rí: ìṣedéédé, ìṣedéédé, ìrántí, F1-score, ROC-AUC.
– Ìsọ̀rí tí kò ní ìwọ́ntúnwọ̀nsì: ROC-AUC, PR-AUC (ìrántí pípéye), ìwọ́ntúnwọ̀nsì.

Àwọn àbájáde ìfìdíkalẹ̀-àgbékalẹ̀ ni a sábà máa ń ròyìn gẹ́gẹ́ bí ìwọ̀n metric àti ìyàtọ̀ boṣewa (fún àpẹẹrẹ, ìpéye 0,89 ± 0,03). Ìyàtọ̀ boṣewa ń ran lọ́wọ́ láti lóye ìdúróṣinṣin ti àwòṣe náà.

Ìfọwọ́sowọ́pọ̀ Àgbélébùú fún Yíyan Àwòṣe àti Ṣíṣe Àtúnṣe Parameter

Ọ̀kan lára ​​àwọn lílo pàtàkì fún ìfọwọ́sowọ́pọ̀ àgbékalẹ̀ ni yíyan àwòṣe àti ṣíṣe àtúnṣe hyperparameter. Fún àpẹẹrẹ:
– Yíyan k nínú k-NN.
– Yan ijinle ti o ga julọ ninu igi ipinnu.
– Pinnu awọn pàrámítà ìṣètò ní ìfàsẹ́yìn ridge/lasso.
– Pinnu C ati gamma ninu SVM.

Ní ìṣe tó dára, a máa ń ṣe àtúnṣe lórí ìwádìí ìdánilẹ́kọ̀ọ́ nípa lílo ìfọwọ́sowọ́pọ̀-àgbékalẹ̀, nígbà tí a máa ń pa ìwádìí ìkẹyìn mọ́ fún ìṣàyẹ̀wò ìkẹyìn. Èyí ń dènà "ìrètí-púpọ̀ jù" nítorí pé àwòṣe náà ti pọ̀ jù sí ìwádìí ìdánilẹ́kọ̀ọ́ náà.

Ọ̀nà tó le koko jù ni a ń pè ní ìdánilójú àgbékalẹ̀ onípele, èyí tí í ṣe ìdánilójú àgbékalẹ̀ láàárín ìdánilójú àgbékalẹ̀: ìlọ́po òde wà fún ìṣàyẹ̀wò, ìlọ́po inú sì wà fún ṣíṣe àtúnṣe. Èyí gbajúmọ̀ nínú ìwádìí nítorí pé ó ń fúnni ní àwọn ìṣirò iṣẹ́ tí kò ní ẹ̀tanú.

KỌRỌ  Idanwo onigun mẹrin Chi fun ominira

Àwọn Àǹfààní àti Àìlópin ti Ìfọwọ́sowọ́pọ̀ Àgbélébùú

Awọn anfani akọkọ:
1. Ó ń pèsè àwọn ìṣirò iṣẹ́ tó dúró ṣinṣin ju ìpín kan lọ.
2. Lo data daradara, paapaa nigbati data naa ba kere.
3. Ó ń ran lọ́wọ́ láti yan àwòṣe tó gbòòrò jù, ó sì ń dín ewu fífi aṣọ pọ̀ jù kù.

Awọn idiwọn:
1. Iye owo iṣirò maa n pọ si bi a ṣe n tun ikẹkọ ṣe ni ọpọlọpọ igba.
2. Àwọn ìjáde dátà lè máa ṣẹlẹ̀ tí a kò bá ṣe iṣẹ́ àgbékalẹ̀ tẹ́lẹ̀ dáadáa.
3. Fún àwọn dátà tí a kó jọ (fún àpẹẹrẹ, dátà aláìsàn tí ó ní ọ̀pọ̀lọpọ̀ àkọsílẹ̀), a nílò ọ̀nà pàtàkì kan, bíi k-fold ẹgbẹ́, kí ẹnìkan má baà fara hàn nínú ọkọ̀ ojú irin náà kí ó sì ṣe àyẹ̀wò ní àkókò kan náà.

Àwọn Ìlànà Tó Dára Jù Nínú Lílo Ìfọwọ́sowọ́pọ̀ Àgbélébùú

Kí ìṣàyẹ̀wò náà tó lè wúlò, a gbọ́dọ̀ tẹ̀lé àwọn ìlànà pàtàkì kan:
– Ṣe iṣẹ́-ṣíṣe ṣáájú (ìṣàtúnṣe, ìṣírò, yíyan àwọn ẹ̀yà ara) láàrín ìṣẹ́po kọ̀ọ̀kan, kìí ṣe lẹ́ẹ̀kan fún gbogbo ìṣẹ́po náà. Bí bẹ́ẹ̀ kọ́, ìwífún láti inú ìṣẹ́po ìdánwò lè yọ́ sínú ìṣẹ́po ọkọ̀ ojú irin.
– Lo ìsọ̀rí k-fold fún ìpínsọ́tọ̀ pẹ̀lú àwọn kilasi tí kò ní ìwọ́ntúnwọ́nsí.
– Lo eto pataki kan fun data jara akoko ki aṣẹ naa ma ba ṣẹ.
– Yàtò ìdánwò ìkẹyìn sí apá kan tí góńgó rẹ bá jẹ́ láti ṣe àyẹ̀wò iṣẹ́ àgbékalẹ̀ ìkẹyìn kí o tó fi ránṣẹ́.

Penutup

Ìfàṣẹsí Àgbélébùú jẹ́ irinṣẹ́ pàtàkì nínú àwọn statistiki tí a lò àti ẹ̀kọ́ ẹ̀rọ fún ṣíṣe àyẹ̀wò iṣẹ́ àwòṣe lọ́nà tí ó tọ́ àti lọ́nà tí ó lágbára. Nípa lílo pínpín dátà leralera, ìfàṣẹsí àgbélébùú ń ran lọ́wọ́ láti dín ẹ̀tanú tí yíyàn ìpínyà ọkọ̀ ojú irin ń fà kù, ó ń ṣàwárí ìfitónilétí tí ó pọ̀ jù, ó sì ń ṣe àtìlẹ́yìn fún yíyan àwòṣe àti ṣíṣe àtúnṣe hyperparameter. Bó tilẹ̀ jẹ́ pé iye owó ìṣirò náà ga jù, àwọn àǹfààní sábà máa ń tọ́ sí i, pàápàá jùlọ nígbà tí data bá kéré tàbí nígbà tí àwọn ìpinnu tí a gbé karí àwọn àbájáde àwòṣe bá ní àwọn àbájáde pàtàkì. Nípa yíyan irú ìfàṣẹsí àgbélébùú tí ó tọ́ àti lílo àwọn ìṣe tí ó dára jùlọ, a lè kọ́ àwọn àwòṣe tí ó ṣeé gbẹ́kẹ̀lé tí ó ti ṣetán láti lò lórí dátà gidi.

Fi ọ̀rọ̀ sílẹ̀