Усули тасдиқи салибӣ дар омор
Дар омор ва илми додаҳо, яке аз мушкилоти бузургтарин ин аст, ки модел на танҳо бо маълумоте, ки дар он омӯзонида шудааст, балки бо маълумотҳои нав ва қаблан нодидашуда низ хуб кор кунад. Ин мушкилот аксар вақт ҳамчун умумӣ номида мешавад. Дар ин ҷо тасдиқи салибӣ ба миён меояд: усули арзёбии модел, ки барои чен кардани самаранокии модел нисбат ба як арзёбии ягона бо истифода аз маҷмӯи ягонаи додаҳо тарҳрезӣ шудааст.
Чаро тасдиқи салибӣ лозим аст?
Вақте ки мо модели пешгӯикунандаро месозем - масалан, модели регрессия барои пешгӯии нархи манзил ё модели таснифот барои ошкор кардани спам - мо одатан маълумотро ба ду қисм тақсим мекунем: маҷмӯи омӯзишӣ ва маҷмӯи санҷишӣ. Модел дар асоси маълумоти омӯзишӣ омӯзонида мешавад ва сипас дар асоси маълумоти санҷишӣ арзёбӣ карда мешавад. Ин равиш оддӣ аст, аммо як камбудӣ дорад: натиҷаҳои арзёбӣ метавонанд аз тарзи тақсим кардани маълумот вобастагии зиёд дошта бошанд. Агар маълумоти санҷишӣ "осон" бошад, самаранокӣ баланд ба назар мерасад; агар маълумоти санҷишӣ "душвор" бошад, самаранокӣ паст ба назар мерасад.
Тасдиқи байниҳамдигарӣ бо роҳи анҷом додани равандҳои сершумори омӯзиш ва санҷиш дар маҷмӯаҳои гуногуни маълумот ва сипас ҳисоб кардани миёнаи натиҷаҳо, такя ба як маҷмӯи додаҳоро коҳиш медиҳад. Ин ба арзёбиҳои самаранокӣ оварда мерасонад, ки бештар аз шароити воқеии ҷаҳонӣ намояндагӣ мекунанд.
Мафҳумҳои асосии тасдиқи салибӣ
Моҳияти санҷиши салибӣ тақсим кардани маълумот ба якчанд қисмҳо (пӯшишҳо) мебошад. Дар ҳар як такрор, баъзе пӯшидаҳо барои омӯзонидани модел ва як пӯшида барои санҷиши модел истифода мешаванд. Ин раванд то он даме, ки ҳар як пӯшида ҳамчун маълумоти санҷишӣ истифода шавад, такрор мешавад. Сипас холҳои арзёбӣ аз ҳар як такрор якҷоя карда мешаванд (одатан бо миёна ва баъзан инчунин инҳирофи стандартӣ), то шарҳи мухтасари кори моделро пешниҳод кунанд.
Масалан, дар санҷиши салибии k-қад бо k=5, маълумот ба 5 қисм тақсим мешавад. Итератсияи аввал: қат кардани 1 ҳамчун санҷиш, қат кардани 2 то 5 ҳамчун омӯзиш. Итератсияи дуюм: қат кардани 2 ҳамчун санҷиш ва ғайра то қат кардани 5.
Намудҳои маъмулии тасдиқи салибӣ
1. Тасдиқи нигоҳдории вақт (Тақсимоти омӯзиш-озмоиш)
Гарчанде ки аз ҷиҳати техникӣ усули тасдиқи байниҳамдигарии "такрорӣ" нест, усули нигоҳдорӣ аксар вақт як қадами асосии тасдиқкунӣ ҳисобида мешавад. Маълумот як маротиба тақсим карда мешавад, масалан, 80% омӯзиш ва 20% санҷиш. Бартарӣ дар он аст, ки он зуд ва содда аст, аммо нуқсонаш тафовути баланди натиҷаҳост, зеро он ба як тақсимот такя мекунад.
Ин усул одатан вақте истифода мешавад, ки маълумот хеле калон бошад, то ҳатто як бахш ба қадри кофӣ намояндагӣ кунад.
2. Тасдиқи салибии K-Fold
Ин шакли маъмултарини тасдиқи салибӣ мебошад. Параметри k аксар вақт ҳамчун 5 ё 10 интихоб карда мешавад, зеро он барои мувозинати арзиши ҳисоббарорӣ ва сифати баҳодиҳӣ ҳисобида мешавад.
Зиёд:
– Истифодаи самараноктари маълумот (ҳар як маълумот қисми омӯзиш ва санҷиш мегардад).
– Баҳодиҳии самаранокӣ нисбат ба нигоҳдорӣ устувортар аст.
Камбудӣ:
– Вақти бештар мегирад, зеро он моделро k маротиба омӯзонда медиҳад.
– Агар маълумот хеле калон бошад ё модел хеле мураккаб бошад, хароҷоти ҳисоббарорӣ метавонад баланд бошад.
3. Тасдиқи салибии қабатбандии K-қабат
Барои масъалаҳои таснифот, хусусан агар синфҳо номутавозин бошанд (масалан, 90% манфӣ, 10% мусбат), қаткунии муқаррарии k метавонад қатҳоро бо тақсимоти каҷшудаи синфҳо ба вуҷуд орад. Қатъи k-и табақабандӣ кафолат медиҳад, ки таносуби синфҳо дар ҳар як қат тақрибан бо таносуби синфҳо дар маълумоти аслӣ якхела аст.
Ин махсусан дар арзёбии моделҳои ошкоркунии бемориҳо, қаллобӣ ё дигар ҳолатҳое, ки дар онҳо табақаи ақаллиятҳо каманд, муҳим аст.
4. Тасдиқи салибӣ бо як хол (LOOCV)
Дар LOOCV, шумораи қатҳо ба миқдори маълумот баробар аст (k = n). Ин маънои онро дорад, ки дар ҳар як такрор танҳо як мушоҳида ба маълумоти санҷишӣ табдил меёбад, дар ҳоле ки боқимонда ба маълумоти омӯзишӣ табдил меёбад.
Зиёд:
– Қариб ҳамаи маълумотҳо барои омӯзиш дар ҳар як такрор истифода мешаванд, аз ин рӯ, таассуби баҳодиҳӣ метавонад ночиз бошад.
Камбудӣ:
- Барои маҷмӯи додаҳои калон хеле гарон аст.
– Дар баъзе намудҳои масъалаҳо дисперсияи баҳодиҳӣ метавонад баланд бошад, зеро маҷмӯи санҷиш барои як такрор танҳо як холро ташкил медиҳад.
LOOCV аксар вақт вақте истифода мешавад, ки маълумот хеле кам бошад, масалан, тадқиқот бо андозаи ками намуна.
5. Тасдиқи такрории салибии K-Fold
Ин усул қаткунии k-ро бо таъиноти гуногуни қаткунӣ (тасодуфӣ) чанд маротиба такрор мекунад. Ҳадаф кам кардани вобастагӣ аз таъиноти якқабатӣ ва ба даст овардани арзёбиҳои устувортар аст.
Масалан, "10 маротиба такрор ба такрор" маънои давидан ба 10 маротиба 3 маротиба (дар маҷмӯъ 30 омӯзиш ва арзёбӣ)-ро дорад.
6. Тасдиқи салибии силсилаи вақт
Барои маълумоти силсилаи вақтӣ, санҷиши анъанавии салибӣ мувофиқ нест, зеро он метавонад "ояндаро ба раванди омӯзиш ворид кунад". Дар силсилаи вақтӣ, тартиби вақтӣ бояд нигоҳ дошта шавад. Аз ин рӯ, равишҳо ба монанди:
– Тирезаи ғелонда/лағжиш: дар давраи аввал машқ кунед ва сипас дар давраи оянда санҷиш гузаронед, сипас тиреза иваз мешавад.
– Васеъшавии равзана: маълумоти омӯзишӣ бо мурури замон афзоиш меёбад ва сипас дар давраи оянда санҷида мешавад.
Ин усул барои пешгӯии фурӯши моҳона, нархи саҳмияҳо ё сенсорҳои вақти воқеӣ муҳим аст.
Метрҳои арзёбӣ дар тасдиқи салибӣ
Тасдиқи салиб танҳо як чаҳорчӯбаи арзёбӣ аст; метрикаҳои истифодашуда аз намуди мушкилот вобастаанд:
– Регрессия: MSE, RMSE, MAE, R-квадрат.
– Таснифот: дақиқӣ, дақиқӣ, ба ёд овардан, холҳои F1, ROC-AUC.
– Таснифоти номутавозин: ROC-AUC, PR-AUC (дақиқӣ-бозхонд), дақиқии мутавозин.
Натиҷаҳои салиб-санҷиш одатан ҳамчун миёнаи метрикӣ ва инҳирофи стандартӣ (масалан, дақиқӣ 0,89 ± 0,03) гузориш дода мешаванд. Инҳирофи стандартӣ барои фаҳмидани устувории модел кӯмак мекунад.
Тасдиқи салибӣ барои интихоби модел ва танзими параметрҳо
Яке аз истифодаҳои асосии тасдиқи салиб интихоби модел ва танзими гиперпараметр мебошад. Масалан:
– Интихоби k дар k-NN.
– Чуқурии максималиро дар дарахти қабули қарор интихоб кунед.
– Параметрҳои танзимкуниро дар регрессияи ridge/lasso муайян кунед.
– C ва гаммаро дар SVM муайян кунед.
Дар амалияи хуб, раванди танзимкунӣ бо истифода аз санҷиши салибӣ дар маълумоти омӯзишӣ анҷом дода мешавад, дар ҳоле ки маълумоти ниҳоии санҷиш барои арзёбии ниҳоӣ алоҳида нигоҳ дошта мешавад. Ин аз "оптимизми аз ҳад зиёд" аз сабаби аз ҳад зиёд мутобиқ кардани модел ба маълумоти арзёбӣ пешгирӣ мекунад.
Як равиши қатъӣтар тасдиқи салибии дохилӣ номида мешавад, ки тасдиқи салибӣ дар дохили тасдиқи салибӣ мебошад: ҳалқаи берунӣ барои арзёбӣ ва ҳалқаи дохилӣ барои танзим аст. Ин дар таҳқиқот маъмул аст, зеро он арзёбиҳои беғаразонаи самаранокиро пешниҳод мекунад.
Афзалиятҳо ва маҳдудиятҳои тасдиқи салибӣ
Афзалиятҳои асосӣ:
1. Нисбат ба як тақсимот арзёбиҳои устувортари фаъолиятро таъмин мекунад.
2. Маълумотро самаранок истифода баред, хусусан вақте ки маҷмӯи додаҳо хурд аст.
3. Барои интихоби модели умумӣ кӯмак мекунад ва хатари аз ҳад зиёд мувофиқат карданро кам мекунад.
Маҳдудиятҳо:
1. Хароҷоти ҳисоббарорӣ бо такрори чандин маротиба афзоиш меёбад.
2. Агар коркарди пешакӣ дуруст анҷом дода нашавад, ихроҷи маълумот метавонад ба амал ояд.
3. Барои маълумоти гурӯҳбандишуда (масалан, маълумоти беморон, ки дорои якчанд сабтҳо мебошанд), усули махсус, ба монанди гурӯҳбандии k-fold, лозим аст, то ки як нафар дар қатора пайдо нашавад ва ҳамзамон санҷиш гузаронад.
Амалияҳои хуб дар истифодаи тасдиқи салибӣ
Барои он ки арзёбӣ дуруст бошад, якчанд принсипҳои муҳим бояд риоя карда шаванд:
– Коркарди пешакӣ (нормакунонӣ, импутатсия, интихоби хусусиятҳо)-ро дар дохили ҳар як пӯшиш, на як маротиба барои тамоми маълумот, иҷро кунед. Дар акси ҳол, маълумот аз пӯшиши санҷишӣ метавонад ба пӯшиши қатора ворид шавад.
– Барои таснифот бо синфҳои номутавозин аз қабати k-и табақабандӣ истифода баред.
– Барои маълумоти силсилаи вақтӣ схемаи махсусро истифода баред, то тартиб вайрон нашавад.
– Агар ҳадафи шумо арзёбии кори ниҳоии модел пеш аз ҷойгиркунӣ бошад, маҷмӯи ниҳоии санҷишро як сӯ гузоред.
Penutup
Тасдиқи салибӣ як воситаи асосӣ дар омори амалӣ ва омӯзиши мошинӣ барои арзёбии одилона ва боэътимодтари иҷрои модел мебошад. Бо истифода аз мубодилаи такрории маълумот, тасдиқи салибӣ ба коҳиш додани таассуб дар натиҷаи интихоби тақсимшудаи озмоиши омӯзишӣ мусоидат мекунад, мувофиқати аз ҳад зиёдро муайян мекунад ва интихоби модел ва танзими гиперпараметрро дастгирӣ мекунад. Гарчанде ки арзиши ҳисоббарорӣ баландтар аст, манфиатҳо аксар вақт ба он меарзанд, хусусан вақте ки маҷмӯи додаҳо хурд аст ё вақте ки қарорҳо дар асоси натиҷаҳои модел оқибатҳои назаррас доранд. Бо интихоби намуди дурусти тасдиқи салибӣ ва татбиқи беҳтарин таҷрибаҳо, мо метавонем моделҳои боэътимодтареро созем, ки барои истифода дар маълумоти воқеӣ омодаанд.
