Klasterlash

Klaster tahlilining natijasi nuqtalarni uchta klasterdan qaysi biriga mansubligiga qarab turli ranglarda belgilash orqali ko‘rsatilgan.

Klaster tahlili (ingl. cluster analysis) — obyektlar tanlanmasi haqidagi ma’lumotlarni to‘plash va keyinchalik obyektlarni nisbatan bir jinsli guruhlarga tartiblashdan iborat ko‘p o‘lchovli statistik protsedura. Klasterlash statistik qayta ishlash sohasi bilan birga nazoratsiz o‘qitish masalalarining keng turkumiga ham kiradi.

Ko‘pchilik tadqiqotchilar (masalan, qarang) «klaster tahlili» atamasi (ingl. cluster — shingil, to‘plam, bog‘lam) ilk bor psixolog R. Trion[ingl.] tomonidan taklif qilingan, degan fikrga moyil. Keyinchalik hozirda «klaster tahlili» atamasining sinonimlari sifatida qaraladigan bir qator atamalar paydo bo‘ldi: avtomatik tasniflash, botriologiya.

Klaster tahlilining qo‘llanish doirasi juda keng: undan arxeologiya, tibbiyot, psixologiya, kimyo, biologiya, davlat boshqaruvi, filologiya, antropologiya, marketing, sotsiologiya, geologiya va boshqa fanlarda foydalaniladi. Biroq uning keng qo‘llanishi bir-biriga mos kelmaydigan ko‘plab atamalar, usullar va yondashuvlarning paydo bo‘lishiga olib kelgan. Bu esa klaster tahlilidan bir ma’noda foydalanish va uning natijalarini izchil talqin qilishni qiyinlashtiradi.

Vazifalar va shartlar

Klaster tahlili quyidagi asosiy vazifalarni bajaradi:

  • Tipologiya yoki tasnifni ishlab chiqish.
  • Obyektlarni guruhlashning foydali konseptual sxemalarini o‘rganish.
  • Ma’lumotlarni tadqiq qilish asosida gipotezalar yaratish.
  • Biror usul bilan ajratilgan turlar (guruhlar) mavjud ma’lumotlarda haqiqatan ham borligini aniqlash uchun gipotezalarni tekshirish yoki tadqiqot o‘tkazish.

Tadqiqot predmetidan qat’i nazar, klaster tahlilini qo‘llash quyidagi bosqichlarni o‘z ichiga oladi:

  • Klasterlash uchun tanlanmani ajratish. Faqat miqdoriy ma’lumotlarni klasterlash maqsadga muvofiq deb qaraladi.
  • Tanlanmadagi obyektlar baholanadigan o‘zgaruvchilar to‘plamini, ya’ni belgilar fazosini aniqlash.
  • Obyektlar o‘rtasidagi o‘xshashlik (yoki farq) o‘lchovining qiymatlarini hisoblash.
  • O‘xshash obyektlar guruhlarini hosil qilish uchun klaster tahlili usulini qo‘llash.
  • Klasterlash natijalarining ishonchliligini tekshirish.

Ma’lumotlarga qo‘yiladigan ikkita asosiy talab — bir jinslilik va to‘liqlik haqida fikrlarni uchratish mumkin. Bir jinslilik klasterlanayotgan barcha obyektlarning tabiati bir xil bo‘lishini va ular o‘xshash tavsiflar majmui bilan ifodalanishini talab qiladi. Agar klaster tahlilidan oldin omilli tahlil o‘tkazilgan bo‘lsa, tanlanma «tuzatish»ga muhtoj bo‘lmaydi — yuqoridagi talablar omilli modellashtirish jarayonining o‘zida avtomatik bajariladi (yana bir afzalligi — tanlanma uchun salbiy oqibatlarsiz z-standartlashtirish; agar u bevosita klaster tahlili uchun bajarilsa, guruhlar orasidagi farqning aniqligi kamayishi mumkin). Aks holda tanlanmani tuzatish kerak.

Klasterlash vazifalarining tipologiyasi

Kirish ma’lumotlarining turlari

  • Obyektlarning belgilar orqali tavsifi. Har bir obyekt o‘z xususiyatlari to‘plami bilan ifodalanadi; bu xususiyatlar belgilar deb ataladi. Belgilar sonli yoki sonli bo‘lmagan bo‘lishi mumkin.
  • Masofalar matritsasi obyektlar o‘rtasidagi masofalarni ifodalaydi. Har bir obyekt qolgan barcha obyektlargacha bo‘lgan masofalar orqali tavsiflanadi; bu obyektlar metrik fazoga mansub.
  • O‘xshashlik matritsasi obyektlar o‘rtasidagi o‘xshashlikni ifodalaydi. Bunda obyektning tanlanmadagi boshqa obyektlarga metrik fazodagi o‘xshashlik darajasi hisobga olinadi. Bu yerda o‘xshashlik obyektlar o‘rtasidagi masofani (farqni) 1 gacha to‘ldiradi.

Hozirgi fanda kirish ma’lumotlarini qayta ishlashning bir qancha algoritmlari qo‘llaniladi. Obyektlarni ularning belgilariga ko‘ra taqqoslashga asoslangan tahlil (biologiya fanlarida eng ko‘p tarqalgan) Q-rejim tahlili ( ingl. Q-mode analysis), obyektlar asosida belgilarni taqqoslash esa R-rejim tahlili deb ataladi. Gibrid tahlil rejimlarini (masalan, RQ-rejimni) qo‘llashga urinishlar mavjud, biroq bu metodologiya hali yetarli darajada ishlab chiqilmagan.[manba 1236 kundan beri ko‘rsatilmagan]

Klasterlashning maqsadlari

  • Ma’lumotlarni tushunish — klaster tuzilmasini aniqlash orqali. Tanlanmani o‘xshash obyektlar guruhlariga ajratish ma’lumotlarni keyinchalik qayta ishlash va qaror qabul qilishni yengillashtiradi: har bir klasterga alohida tahlil usuli qo‘llanadi («bo‘lib tashla va hukmronlik qil»).
  • Ma’lumotlarni siqish. Agar boshlang‘ich tanlanma haddan tashqari katta bo‘lsa, har bir klasterdan bittadan eng tipik vakilni qoldirib, uni qisqartirish mumkin.
  • Yangilikni aniqlash (ingl. novelty detection). Hech bir klasterga kiritib bo‘lmaydigan noodatiy obyektlar aniqlanadi.

Birinchi holatda klasterlar sonini imkon qadar kamaytirishga harakat qilinadi. Ikkinchi holatda har bir klaster ichidagi obyektlarning yuqori darajada o‘xshashligini ta’minlash muhimroq, klasterlar soni esa istalgancha bo‘lishi mumkin. Uchinchi holatda hech bir klasterga mos kelmaydigan alohida obyektlar katta qiziqish uyg‘otadi.

Ushbu holatlarning barchasida iyerarxik klasterlash qo‘llanishi mumkin. Bunda yirik klasterlar kichikroq klasterlarga, ular esa o‘z navbatida yanada kichik guruhlarga bo‘linadi va hokazo. Bunday vazifalar taksonomiya vazifalari deb ataladi. Taksonomiya natijasida daraxtsimon iyerarxik tuzilma hosil bo‘ladi. Bunda har bir obyekt odatda yirikdan kichikka qarab o‘zi mansub bo‘lgan barcha klasterlar ro‘yxati bilan tavsiflanadi.

Klasterlash usullari

Klasterlash usullarining umumqabul qilingan tasnifi mavjud emas. Biroq yondashuvlarning bir necha guruhini ajratish mumkin (ayrim usullar bir vaqtning o‘zida bir necha guruhga kirishi mumkin; shu sababli bu guruhlashni klasterlash usullarining haqiqiy tasnifiga yaqinlashtirilgan ko‘rinish deb qarash tavsiya etiladi):

  1. Ehtimollik yondashuvi. Ko‘rib chiqilayotgan har bir obyekt k ta sinfdan biriga mansub deb faraz qilinadi. Ayrim mualliflar (masalan, A. I. Orlov) bu guruhni umuman klasterlashga kiritmaydi va uni «diskriminatsiya», ya’ni obyektlarni avvaldan ma’lum guruhlardan (o‘qitish tanlanmalaridan) biriga kiritishni tanlash deb qarama-qarshi qo‘yadi.
  2. Sun’iy intellekt tizimlariga asoslangan yondashuvlar: bu guruh shartli hisoblanadi, chunki usullar juda ko‘p va ular metodologik jihatdan bir-biridan sezilarli farq qiladi.
  3. Mantiqiy yondashuv. Dendrogramma qarorlar daraxti yordamida tuziladi.
  4. Graf nazariyasiga asoslangan yondashuv.
  5. Iyerarxik yondashuv. Ichma-ich joylashgan guruhlar (turli darajadagi klasterlar) mavjudligi faraz qilinadi. Algoritmlar o‘z navbatida aglomerativ (birlashtiruvchi) va diviziv (ajratuvchi) turlarga bo‘linadi. Belgilar soniga ko‘ra ba’zan monotetik va politetik tasniflash usullari ajratiladi.
  6. Boshqa usullar. Yuqoridagi guruhlarga kirmagan usullar.

4- va 5-yondashuvlar ba’zan tuzilmaviy yoki geometrik yondashuv nomi ostida birlashtiriladi; ularda yaqinlik tushunchasi aniqroq shakllantirilgan. Sanab o‘tilgan usullar o‘rtasida sezilarli farqlar bo‘lsa-da, ularning barchasi dastlabki «kompaktlik gipotezasi»ga tayanadi: obyektlar fazosidagi bir-biriga yaqin barcha obyektlar bitta klasterga, bir-biridan farqli obyektlar esa turli klasterlarga kirishi kerak.

Klasterlash masalasining formal qo‘yilishi

Faraz qilaylik, X — obyektlar to‘plami, Y — klaster raqamlari (nomlari, belgilari) to‘plami. Obyektlar orasidagi masofa funksiyasi berilgan: ρ(x,x′). Obyektlarning chekli o‘quv tanlanmasi mavjud: Xm={x1,…,xm}⊂X. Tanlanmani klasterlar deb ataladigan o‘zaro kesishmaydigan qism to‘plamlarga ajratish talab etiladi. Bunda har bir klaster ρ metrikaga ko‘ra yaqin obyektlardan iborat bo‘lishi, turli klasterlardagi obyektlar esa sezilarli farq qilishi kerak. Shunda har bir obyektga xi∈Xm klaster raqami biriktiriladi: yi.

Klasterlash algoritmi — bu shunday funksiya-ki, a:X→Y har qanday obyektga x∈X tegishli klaster raqamini mos qo‘yadi: y∈Y. Y to‘plami ayrim hollarda oldindan ma’lum bo‘ladi, ammo ko‘pincha u yoki bu sifat mezoni bo‘yicha klasterlarning optimal sonini aniqlash vazifasi qo‘yiladi.

Klasterlash (nazoratsiz o‘qitish) tasniflashdan (nazoratli o‘qitish) shu bilan farqlanadiki, dastlabki obyektlarning belgilari yi avvaldan berilmaydi, hatto klaster yorliqlarining to‘plami ham noma’lum bo‘lishi mumkin: Y.

Klasterlash masalasining yechimi prinsipial jihatdan bir ma’noli emas. Ayrim mualliflarning fikricha, buning bir necha sababi bor:

  • klasterlash sifatining yagona eng yaxshi mezoni mavjud emas. Bir qator evristik mezonlar, shuningdek, aniq ifodalangan mezonga ega bo‘lmasa-da, tuzilishi tufayli yetarlicha oqilona klasterlashni amalga oshiradigan algoritmlar ma’lum. Ularning barchasi turli natijalar berishi mumkin. Shu sababli klasterlash sifatini aniqlash uchun klasterlarga ajratishning mazmunli ekanini baholay oladigan tegishli soha mutaxassisi zarur.
  • klasterlar soni odatda oldindan ma’lum bo‘lmaydi va muayyan subyektiv mezon asosida belgilanadi. Bu fikr faqat diskriminatsiya usullariga tegishli, chunki klasterlash usullarida klasterlarni ajratish yaqinlik o‘lchovlariga tayanuvchi formallashtirilgan yondashuv asosida amalga oshiriladi.
  • klasterlash natijasi tanlangan metrikaga kuchli bog‘liq. Metrikani tanlash odatda subyektiv bo‘lib, mutaxassis tomonidan belgilanadi. Shunga qaramay, turli masalalar uchun yaqinlik o‘lchovlarini tanlashga doir tavsiyalar mavjud.

Qo‘llanilishi

Biologiyada

Biologiyada klasterlash turli yo‘nalishlarda keng qo‘llaniladi. Masalan, bioinformatikada uning yordamida ba’zan yuzlab yoki hatto minglab elementlardan iborat o‘zaro ta’sirlashuvchi genlarning murakkab tarmoqlari tahlil qilinadi. Klaster tahlili quyi tarmoqlar, tor joylar, markaziy tugunlar va o‘rganilayotgan tizimning boshqa yashirin xususiyatlarini aniqlashga imkon beradi. Natijada har bir genning o‘rganilayotgan fenotip shakllanishiga qo‘shgan hissasini bilish mumkin.

Ekologiyada u organizmlar, jamoalar va boshqalarning fazoviy jihatdan bir jinsli guruhlarini ajratishda keng qo‘llaniladi. Klaster tahlili usullari jamoalarning vaqt davomida o‘zgarishini o‘rganishda kamroq qo‘llanadi. Jamoalar tuzilmasining turli jinsliligi klaster tahlilining noan’anaviy usullaridan foydalanishga olib keladi (masalan, Chekanovskiy usuli).

Tarixan biologiyada yaqinlik o‘lchovi sifatida ko‘proq o‘xshashlik o‘lchovlari, farq (masofa) o‘lchovlari esa kamroq ishlatiladi.

Sotsiologiyada

Sotsiologik tadqiqotlar natijalarini tahlil qilishda iyerarxik aglomerativ usullar oilasidan, xususan, klasterlar ichidagi dispersiyani minimallashtiradigan Uord usulidan foydalanish tavsiya etiladi. Natijada taxminan bir xil hajmdagi klasterlar hosil bo‘ladi. Uord usuli sotsiologik ma’lumotlarni tahlil qilish uchun ayniqsa qulay. Farq o‘lchovi sifatida kvadratga ko‘tarilgan Evklid masofasidan foydalanish ma’qul, chunki u klasterlar orasidagi tafovutni yaqqolroq ko‘rsatadi. Iyerarxik klaster tahlilining asosiy natijasi dendrogramma yoki «osilgan muz bo‘laklariga o‘xshash diagramma»dir. Uni talqin qilishda tadqiqotchilar omilli tahlil natijalarini talqin qilishdagi muammoga o‘xshash holatga duch keladi — klasterlarni ajratishning bir ma’noli mezonlari yo‘q. Asosiy yondashuv sifatida ikkita usul tavsiya etiladi: dendrogrammani vizual tahlil qilish va turli usullarda bajarilgan klasterlash natijalarini taqqoslash.

Dendrogrammani vizual tahlil qilish tanlanma elementlari o‘xshashligining optimal darajasida daraxtni «kesish»ni nazarda tutadi. «Uzum novdasi»ni (M. S. Oldenderfer va R. K. Bleshfeld terminologiyasida) Rescaled Distance Cluster Combine shkalasidagi 5 belgisi bo‘yicha «kesish» maqsadga muvofiq; bunda o‘xshashlik 80 % darajaga yetadi. Agar shu belgi bo‘yicha klasterlarni ajratish qiyin bo‘lsa (bu darajada bir nechta kichik klaster yagona katta klasterga birlashsa), boshqa belgini tanlash mumkin. Ushbu metodika Oldenderfer va Bleshfeld tomonidan taklif etilgan.

Keyin qabul qilingan klasterlash yechimining barqarorligi masalasi paydo bo‘ladi. Aslida klasterlash barqarorligini tekshirish uning ishonchliligini tekshirish demakdir. Bu borada empirik qoida mavjud: klasterlash usullari o‘zgartirilganda ham barqaror tipologiya saqlanib qoladi. Iyerarxik klaster tahlili natijalarini k-o‘rtachalar usuliga asoslangan iterativ klaster tahlili bilan tekshirish mumkin. Agar taqqoslanayotgan respondentlar guruhlari tasnifida mos kelishlar ulushi 70 % dan (ya’ni 2/3 dan) ortiq bo‘lsa, klasterlash yechimi qabul qilinadi.

Boshqa turdagi tahlildan foydalanmasdan yechimning mosligini tekshirib bo‘lmaydi. Hech bo‘lmaganda nazariy jihatdan bu muammo hal etilmagan. Oldenderfer va Bleshfeldning «Klaster tahlili» nomli klassik asarida barqarorlikni tekshirishning yana beshta usuli batafsil ko‘rib chiqilib, yakunda rad etilgan:

  1. kofenetik korrelyatsiya — tavsiya etilmaydi va qo‘llanishi cheklangan;
  2. ahamiyatlilik testlari (dispersiya tahlili) — har doim ahamiyatli natija beradi;
  3. takroriy (tasodifiy) tanlanmalar usuli — biroq u yechimning asoslanganligini isbotlamaydi;
  4. tashqi belgilar uchun ahamiyatlilik testlari — faqat takroriy o‘lchashlarda qo‘llashga yaroqli;
  5. Monte-Karlo usullari juda murakkab va faqat tajribali matematiklar uchun qulay[manba 5178 kundan beri ko‘rsatilmagan].

Informatikada

Havolalar

Rus tilida

  • www.MachineLearning.ru — mashinali o‘qitish va ma’lumotlarni intellektual tahlil qilishga bag‘ishlangan professional viki-resurs

Ingliz tilida