Axborot nazariyasi nima

Axborot nazariyasi — amaliy matematika, radiotexnika (jumladan, signallarga ishlov berish nazariyasi) va informatika sohalarining axborot miqdori va xususiyatlarini o‘lchash, shuningdek, ma’lumot uzatish tizimlari uchun chegaraviy nisbatlarni belgilash bilan shug‘ullanuvchi bo‘limidir. Boshqa har qanday matematik nazariya singari, bu nazariya real fizik obyektlar bilan emas, balki matematik modellar bilan ishlaydi (real obyektlar deganda axborot manbalari va aloqa kanallari tushuniladi). Unda, asosan, ehtimollar nazariyasi va matematik statistikaning matematik apparatidan foydalanadi.

Axborot nazariyasining asosiy bo‘limlari — manbani kodlash (siqib kodlash) va kanal bo‘yicha (xalaqitlarga chidamli) kodlashdir. Axborot nazariyasi axborot entropiyasi, kommunikatsiya tizimlari, kriptografiya va boshqa turdosh fanlar bilan chambarchas bog‘liq.

Bu soha matematika, statistika, informatika, fizika, neyrobiologiya, axborot muhandisligi hamda elektrotexnika fanlari tutashgan nuqtada joylashgan. Nazariya boshqa sohalarda ham qo‘llaniladi, jumladan, statistik xulosa chiqarish, tabiiy tilga ishlov berish, kriptografiya, neyrobiologiya, insonning ko‘rish qobiliyati, evolyutsiya va molekulyar kodlarning vazifasini o‘rganish (bioinformatika), statistik modelni tanlash, issiqlik fizikasi, kvant hisoblash, tilshunoslik, plagiatni aniqlash, obrazlarni tanib olish va anomaliyalarni aniqlash shular jumlasidandir. Axborot nazariyasining muhim yo‘nalishlari orasida ma’lumotlarni siqish, kanal bo‘yicha kodlash, algoritmik murakkablik nazariyasi, algoritmik axborot nazariyasi, axborot nazariyasiga asoslangan xavfsizlik, Greyning relyatsion tahlili hamda axborotni o‘lchash mavjud.

Kirish

Axborot nazariyasining paydo bo‘lishi Klod Shennonning «Aloqaning matematik nazariyasi» asarining 1948-yilda e’lon qilinishi bilan bog‘liq. Shennon nuqtayi nazariga ko‘ra, axborot nazariyasi aloqa matematik nazariyasining bir bo‘limidir. Axborot nazariyasi axborot uzatish tizimlari imkoniyatlarining asosiy chegaralarini belgilaydi, ularni loyihalash va amalda joriy etishning boshlang‘ich tamoyillarini belgilab beradi. Axborot nazariyasi o‘rganadigan masalalar doirasi axborotni uzatish yoki saqlashga mo‘ljallangan odatiy tizimning strukturaviy sxemasi orqali tasvirlanadi.

Aloqa tizimining sxemasi

Sxemadagi manba — koinotda mavjud bo‘lgan hamda makon va vaqt bo‘ylab uzatilishi kerak bo‘lgan xabarlarni hosil qiluvchi har qanday obyektdir. Dastlabki fizik tabiatidan qat’i nazar, uzatiladigan barcha xabarlar, odatda, elektr signallari shakliga keltiriladi; aynan shu signallar manbaning chiqish signallari sifatida qaraladi. Manba kodlagichi axborotni imkon qadar ixcham shaklda ifodalaydi. Kanal kodlagichi axborotni aloqa kanali orqali uzatish paytidagi xalaqitlardan yoki uni saqlash vaqtida yuz berishi mumkin bo‘lgan buzilishlardan himoyalash uchun qayta ishlaydi. Modulyator kanal kodlagichi shakllantirgan xabarlarni aloqa kanalining fizik tabiatiga yoki axborot saqlagich muhitiga mos signallarga aylantiradi. Axborot tarqaladigan muhit (aloqa kanali) axborot uzatish jarayoniga tasodifiy shovqin kiritadi; u xabarni buzib, uni o‘qish va tushunishni qiyinlashtiradi. Qabul qiluvchi tomonda joylashgan bloklar teskari amallarni bajarib, oluvchiga axborotni idrok etish uchun qulay shaklda taqdim etadi.

Tarix

Axborot nazariyasining tug‘ilishi ko‘pincha 1948-yilning iyul–oktabr oylarida Klod Shennon tomonidan Amerikaning «Bell System» telefon kompaniyasi jurnalida «Aloqaning matematik nazariyasi» nomli asar nashr etilishi bilan bog‘lanadi. Biroq axborot nazariyasini shakllantirish va rivojlantirishga boshqa ko‘plab atoqli olimlar ham hissa qo‘shganini ta’kidlash lozim. Shennon o‘z maqolasining boshida shunday yozgan: «Ushbu nazariyaning ayrim asosiy qoidalari Naykvist va Hartlining muhim ishlarida mavjud. Hozirgi nazariya esa bir qator yangi omillarni, xususan, kanaldagi shovqinning ta’sirini hisobga olish orqali kengaytirildi».

Shennon asosan Hartlining ilmiy ishlari yo‘nalishini rivojlantirib, «axborot» tushunchasidan foydalangan, ammo bu atamaga alohida izoh bermagan. U faqat xabarlar muayyan «ma’no»ga ega bo‘lishi, ya’ni o‘zining fizik yoki mavhum mohiyatiga ega tizimga (kibernetik tizimga) tegishli bo‘lishi mumkinligini qayd etgan. Shennon nazariyasi dastlab aniq ifodalangan matematik masala sifatida ko‘rilgan va shovqin mavjud bo‘lgan aloqa kanalining o‘tkazish qobiliyatini aniqlash imkonini bergan.

Ma’lumotlarni kodlash

Kodlash — aloqa kanalining kirish qismidagi xabarni chiqish qismidagi kodlangan xabarga aylantirish jarayoni bo‘lib, bunda xabarning axborot qiymati o‘zgarmasligi lozim. Axborot nazariyasida quyidagi bo‘limlarni ajratish mumkin:

1. Diskret manbalarni kodlash («yo‘qotishsiz» ma’lumot kodlash modeli).

2. Shovqinli kanal orqali ma’lumotlarni xatosiz uzatishni ta’minlovchi kodlash.

Agar kod alifbosidagi belgilar (odatda, 0 va 1)ning har qanday ketma-ketligini alohida kod so‘zlariga ajratish mumkin bo‘lsa, bunday kod bir qiymatli dekodlanadigan kod deyiladi. Agar hech bir kod so‘zi boshqa kod so‘zining boshlanishi bo‘lmasa, kod prefiksli kod deb ataladi va u bir qiymatli dekodlanadi. Demak, prefikslilik bir qiymatli dekodlanishning yetarli, lekin zarur bo‘lmagan shartidir. Prefikslilik talabi kod so‘zlari uzunliklari to‘plamini cheklaydi hamda haddan tashqari qisqa kod so‘zlarini tanlashga yo‘l qo‘ymaydi. Hajmi M bo‘lgan va kod so‘zlari uzunliklari l1,...,lM ga teng prefiksli kod mavjud bo‘lishining zarur va yetarli sharti Kraft tengsizligining bajarilishidir:

∑i=1M2−li⩽1

Shuningdek, Shennon–Fano kodini — prefiksli, o‘zgaruvchan uzunlikdagi kodlash algoritmini ko‘rib chiqish lozim. Bu kodlash usuli xabar alifbosidagi belgilar chastotalarining notekis taqsimlanishidan kelib chiqadigan ortiqchalikdan foydalanadi: tez-tez uchraydigan belgilar kodlari qisqa ikkilik ketma-ketliklar bilan, kam uchraydigan belgilar kodlari esa uzunroq ikkilik ketma-ketliklar bilan almashtiriladi. X=M to‘plamidan harflarni pM ehtimollar bilan tanlaydigan manbani olaylik. Harflar ehtimoli kamayib borish tartibida joylashtirilgan deb hisoblaymiz (p1⩾p2⩾pM). Tartib raqami M bo‘lgan xabar uchun Shennon kod so‘zi sonning ikkilik yozuvidagi verguldan keyingi dastlabki l=−log⁡pm ta razryaddan tashkil topgan ikkilik ketma-ketlikdir; bunda son qM:

qM=∑i=1M−1pi

3. Ko‘p foydalanuvchili tizimlar uchun ma’lumotlarni kodlash umumiy resursdan, masalan, aloqa kanalidan foydalanadigan abonentlarning eng maqbul o‘zaro ishlashini tavsiflaydi.

Adabiyotlar

Havolalar