Статистикийн Jackknife арга
Хутганы арга нь статистикт, ялангуяа тооцооллын тодорхойгүй байдлыг хэмжихэд чухал дахин түүвэрлэлтийн арга юм. Хутганы аргыг ихэвчлэн тооцооллын хэвийлт ба дисперсийг тооцоолох, мөн стандарт алдаа гэх мэт нарийвчлалын хэмжүүрийг бий болгоход ашигладаг. Энэ арга нь харьцангуй энгийн, хэт хатуу тархалтын таамаглал шаарддаггүй бөгөөд сонгодог статистикаас орчин үеийн өгөгдлийн шинжилгээ хүртэлх өргөн хүрээний асуудалд хэрэглэж болно.
Үндэслэл ба үндсэн санаанууд
Хутгыг Морис Кенуил танилцуулж, хожим нь Жон Туки алдаршуулсан. "Хутга" гэдэг нэрийг олон талын халаасны хутганаас санаа авсан бөгөөд учир нь энэ арга нь уян хатан бөгөөд янз бүрийн нөхцөлд ашиглаж болно. Үндсэн санаа нь ийм юм: хэрэв бидэнд n хэмжээтэй түүвэр байгаа бол бид нэг ажиглалтыг хасаж хэд хэдэн "хуурамч дээж" үүсгэж, дараа нь түүвэр тус бүрийн тооцооллыг дахин тооцоолно. Нэг ажиглалтыг хасахад тооцоолол хэрхэн өөрчлөгдөж байгааг ажигласнаар бид өгөгдлийн хэлбэлзлээс хамааран тооцооллын тогтвортой байдлын талаар ойлголттой болно.
Жишээлбэл, бидэнд \(x_1, x_2, \dots, x_n\) өгөгдөл байгаа бөгөөд \(\hat{\theta}=t(x_1,\dots,x_n)\) тооцооллыг ашиглан \(\theta\) параметрийг тооцоолохыг хүсэж байна гэж бодъё. Хутганы хувьд бид \(n-1\) хэмжээтэй n дэд дээжийг үүсгэдэг, тухайлбал \(x_i\-г устгадаг \(i\)дахь дэд дээжийг үүсгэдэг. Дараа нь бид дараахийг тооцоолно:
\[
\hat{\theta}_{(i)} = t(x_1,\dots,x_{i-1},x_{i+1},\dots,x_n)
\]
\(\hat{\theta}_{(i)}\) утгыг нэгийг хасах тооцоолол гэж нэрлэдэг.
Хутга аргын алхамууд
Журмын хувьд хутганы хутгыг дараах алхмуудаар тайлбарлаж болно.
1. Бүрэн өгөгдөл дээр тооцоологчийг тооцоол
Бүх түүврийн хувьд \(\hat{\theta}\)-г тооцоол.
2. Нэгийг нь орхигдуулсан n дэд дээж үүсгэх
\(i = 1,2,\dots,n\) бүрийн хувьд \(x_i\) ажиглалтыг арилгаад \(\hat{\theta}_{(i)}\) тооцооллыг тооцоол.
3. Хутганы тооцооллын дундажийг тооцоол
Дунджаар нэг удаа орхигдсон:
\[
\bar{\theta}_{(\cdot)} = \frac{1}{n}\sum_{i=1}^n \hat{\theta}_{(i)}
\]
4. Дисперсийг (эсвэл стандарт алдааг) тооцоолох
Хутганы дисперсийг ихэвчлэн дараах томъёогоор тооцоолно.
\[
\widehat{\mathrm{Var}}_{J}(\hat{\theta}) = \frac{n-1}{n}\sum_{i=1}^n \left(\hat{\theta}_{(i)} – \bar{\theta}_{(\cdot)}\right)^2
\]
Стандарт алдаа нь дисперсийн квадрат язгуур юм.
5. Хазайлтын тооцоолол ба хазайлтын залруулга (заавал биш)
Jackknife нь мөн дараах байдлаар алдааг тооцоолж болно:
\[
\widehat{\mathrm{Хязгаарлалт}}_{J}(\hat{\theta}) = (n-1)\left(\bar{\theta}_{(\cdot)} – \hat{\theta}\баруун)
\]
Алдаа засах ажлыг дараах аргаар хийж болно.
\[
\hat{\theta}_{J} = \hat{\theta} – \widehat{\mathrm{Bias}}_{J}(\hat{\theta})
\]
Тайлбар: Хэрэв нэгийг орхих дундаж нь бүрэн тооцооллоос системтэйгээр ялгаатай бол засаж болох алдааны шинж тэмдэг байна.
Зөн совингийн жишээ: жишээний дундаж
Хутгыг зөн совингоор нь ойлгохын тулд дундаж тооцооллын жишээг авч үзье.
\[
\hat{\mu} = \frac{1}{n}\sum_{i=1}^n x_i
\]
Хэрэв бид нэг ажиглалтыг хасвал \(x_i\) дундаж нь дараах болно:
\[
\hat{\mu}_{(i)} = \frac{1}{n-1}\sum_{j\ne i} x_j
\]
Дундаж утгын хувьд хутга нь тийм ч том "гэнэтийн бэлэг" биш, учир нь дундаж нь тогтвортой бөгөөд хазайлт нь бага байдаг (олон нөхцөлд). Гэсэн хэдий ч медиан, тодорхой регрессийн коэффициент, корреляци эсвэл шугаман бус статистик гэх мэт илүү нарийн төвөгтэй тооцооллын хувьд ганц өгөгдлийн цэгийг хассанаас үүссэн өөрчлөлт нь тооцооллын мэдрэмжийг илчилж, түүний стандарт алдааны ашигтай тооцооллыг гаргаж чаддаг.
Хуурамч үнэ цэнэ: хутганы чухал ойлголт
Зарим хэлэлцүүлэгт jackknife нь ажиглалт бүрийн хувьд псевдо утгыг танилцуулдаг:
\[
\theta_i^{ } = n\hat{\theta} – (n-1)\hat{\theta}_{(i)}
\]
Тэгвэл хутганы тооцооллыг псевдо утгуудын дундаж хэлбэрээр бичиж болно:
\[
\hat{\theta}_{J} = \frac{1}{n}\sum_{i=1}^n \theta_i^{ }
\]
Псевдо-үнэлгээний арга нь ажиглалт бүр эцсийн тооцоонд хэрхэн "хувь нэмэр оруулж" байгааг тайлбарлахад тусалдаг бөгөөд алдааны шинжилгээг хөнгөвчилдөг.
Хутга болон гутстрапын хоорондын хамаарал
Jackknife-ийг ихэвчлэн bootstrap-тай харьцуулдаг, учир нь хоёулаа дахин түүвэрлэх аргууд юм. Гэсэн хэдий ч чухал ялгаанууд байдаг:
– Jackknife нь нэг өгөгдлийг хасах (нэгийг нь хасах) замаар дэд түүвэрлэлтийг ашигладаг. Давталтын тоо нь тодорхойлогддог: яг n.
– Bootstrapping нь ихэвчлэн олон удаа (жишээ нь 1000 эсвэл 10.000 удаа) орлуулалттай дахин дээжийг үүсгэдэг бөгөөд ингэснээр тооцоологчийн эмпирик тархалтын тооцооллыг өгдөг.
Ерөнхийдөө bootstrap нь илүү уян хатан бөгөөд нарийн төвөгтэй асуудлуудад илүү нарийвчлалтай байдаг ч хутга нь илүү энгийн бөгөөд тооцооллын хувьд хямд байдаг. Том өгөгдлийн багц дээр хутга нь стандарт алдааг олж авах хурдан хувилбар байж болно, ялангуяа тооцооллыг тооцоолох нь үнэтэй боловч n удаа боломжтой хэвээр байх үед.
Хутганы аргын давуу талууд
Хутганы зарим давуу талууд нь дараахь зүйлийг агуулдаг.
1. Хэрэгжүүлэхэд хялбар бөгөөд энгийн
Нэгийг орхих гэсэн ойлголт нь ойлгомжтой бөгөөд дисперсийн томъёо нь энгийн юм.
2. Цөөн тооны тархалтын таамаглалууд
Хутга нь үргэлж хэвийн байдал эсвэл тодорхой тархалтын хэлбэрийг шаарддаггүй.
3. Тодорхой тооцоололд үр дүнтэй
Энэ нь зөвхөн n удаа тооцооллын тооцоолол шаарддаг тул jackknife нь ихэвчлэн мянга мянган давталт шаарддаг bootstrapping-ээс хөнгөн байдаг.
4. Хэвийлтийг тооцоолоход хэрэгтэй
Ялангуяа аналитик аргаар тооцоолоход тийм ч хялбар биш шугаман бус тооцоологчдод.
Хязгаарлалтууд болон анхаарах зүйлс
Хэдийгээр хүчирхэг боловч хутга нь хязгаарлалттай:
1. Маш жигд бус тооцооллын хувьд нарийвчлал багатай
Жишээлбэл, зарим нөхцөлд медиан эсвэл квантилууд, эсвэл хэт туйлын утгаас хамааралтай статистикийн хувьд хутга нь заримдаа дисперсийн нарийвчлал багатай тооцооллыг өгдөг.
2. Хамааралтай өгөгдөлд үргэлж тохиромжтой байдаггүй
Цаг хугацааны цуваа эсвэл орон зайн өгөгдөлд ажиглалт нь бие даасан биш юм. Нэг цэгийг арилгах нь хамаарлын бүтцийг эвдэж болзошгүй. Ийм тохиолдолд блок хутга (нэг удаад нэг блок өгөгдлийн устгах) гэх мэт хувилбаруудыг ашигладаг.
3. Өндөр нөлөөллийн ажиглалтад мэдрэмтгий
Хэрэв гадуурх утга эсвэл "хөшүүрэгтэй" өгөгдөл байгаа бол нэгийг нь хассан тооцоолол эрс өөрчлөгдөж болно. Энэ нь үргэлж сул тал биш - үнэндээ энэ нь чухал дохио байж болох ч үүнээс үүдэлтэй хэлбэлзэл нь их байж болох бөгөөд болгоомжтой тайлбар шаарддаг.
4. Маш том n үед өргөтгөх боломжтой байдал
Хэдийгээр bootstrapping-ээс хямд боловч jackknife нь n тооцооллын үнэлгээг шаарддаг хэвээр байна. Хэрэв n нь сая саяар тоологдох бөгөөд тооцооллын төхөөрөмжүүд үнэтэй бол энэ нь асуудалтай байж болно.
Хувилбарууд: delete-d jackknife болон block jackknife
Нэгийг нь орхигдуулахаас гадна дараахь хувилбарууд байдаг:
– Delete-d jackknife: давталт бүрт d ажиглалтыг устгана (зөвхөн 1-ийн оронд). Энэ нь тодорхой нөхцөл байдалд, ялангуяа жигд бус тооцооллын хувьд нарийвчлалыг сайжруулж чадна.
– Блок хутга: автокорреляцитай өгөгдөлд (жишээ нь өдөр тутмын, долоо хоног тутмын эсвэл орон зайн өгөгдөл) тохиромжтой хэд хэдэн зэргэлдээ ажиглалт агуулсан блокийг арилгана.
d эсвэл блокийн хэмжээг сонгох нь өгөгдлийн бүтэц болон дүгнэлтийн зорилгоос хамаарна.
Хутганы практик хэрэглээ
Хутга нь янз бүрийн салбарт ашиглагддаг:
– Биостатистик ба тархвар судлал: аналитик томъёо гаргахад хэцүү үед эрсдэлийн хэмжүүр эсвэл загварын параметрүүдийн стандарт алдааг тооцоолох.
– Эконометрик: параметрийн тогтвортой байдлын үнэлгээ, ялангуяа хязгаарлагдмал түүвэрт.
– Компьютерийн шинжлэх ухаан ба машин сургалт: нэгийг орхих гэсэн ойлголт нь хөндлөн баталгаажуулалттай нягт холбоотой боловч зорилго нь өөр өөр байдаг (таамаглалын баталгаажуулалт ба параметрийн нарийвчлалын тооцоолол).
– Экологи ба судалгаа: олон янз байдал эсвэл тодорхой индексүүдийн тооцоолол ба нарийн төвөгтэй статистикийн тодорхойгүй байдал.
Хаах
Хутганы арга нь өнөө үед хамааралтай хэвээр байгаа сонгодог дахин түүвэрлэлтийн арга юм. Нэг ажиглалтыг орхигдуулж, тооцоологчийг дахин тооцоолох энгийн санааг ашигласнаар хутга нь нарийн төвөгтэй математикийн тооцоололгүйгээр дисперс, стандарт алдаа, хэвийсэн утгыг тооцоолж чадна. Гэсэн хэдий ч үүнийг ашиглахад тооцоологчийн мөн чанар, түүврийн хэмжээ, өгөгдлийн хамаарлын бүтцийг харгалзан үзэх шаардлагатай. Практикт хутга нь ихэвчлэн хурдан бөгөөд ил тод сонголт эсвэл bootstrapping гэх мэт илүү бат бөх дахин түүвэрлэлтийн аргуудыг ашиглах нэмэлт хэрэгсэл болдог.
Хэрэв та хүсвэл би жижиг тоон тооцооллын жишээ нэмж болно (жишээлбэл, корреляци эсвэл регрессийн хувьд) эсвэл хэрэглээг тодруулахын тулд R/Python дээр хутганы хэрэгжилтийг оруулж болно.
