Кіріспе
Ақпарат теориясында қолданылатын негізгі шу моделі
Адитивті ақ Гаусс шуы (ААГШ) – табиғатта кездесетін көптеген кездейсоқ процестердің әсерін имитациялауға арналған ақпарат теориясындағы негізгі шу моделі. Модификаторлар нақты сипаттамаларды көрсетеді: Адитивті, себебі ол ақпараттық жүйеге тән кез келген шуға қосылады. Ақ, өйткені ол ақпараттық жүйе үшін жиілік диапазонында біртекті қуат спектрлік тығыздығына ие. Бұл ақ түске ұқсас, оны көру спектріндегі барлық жиіліктерде біркелкі сәулелену арқылы іске асыруға болады. Гаусс, себебі ол уақыт доменінде орташа уақыт доменінің мәні нөлге тең болатын қалыпты үлестірілімге ие (Гаусс процесі). Кең жолақты шу көптеген табиғи шу көздерінен туындайды, мысалы, өткізгіштердегі атомдардың жылулық дірілдері (термиялық шу немесе Джонсон-Найквист шуы), ату шуы, Жер және басқа да жылы денелерден келетін қара дене сәулеленуі, сондай-ақ Күн сияқты әсем денелерден келетін шу. Ықтималдық теориясының орталық шектеу теоремасы көрсеткендей, көптеген кездейсоқ процестердің қосындысы Гаусс немесе қалыпты деп аталатын үлестірілімге ұмтылады. ААГШ көбінесе канал моделі ретінде қолданылады, онда байланысқа кедергі келтіретін жалғыз фактор – кең жолақты немесе ақ шудың тұрақты спектрлік тығыздығымен (бір герцке шаққандағы ватттармен өлшенетін) және амплитуданың Гаусс үлестірілімімен сызықтық қосылуы болып табылады. Модельде әлсіреу, жиілік селективтілігі, кедергі, сызықтық емес сипаттар немесе дисперсия ескерілмейді. Дегенмен, ол жүйенің негізгі мінез-құлқын түсінуге көмектесетін қарапайым және шешілетін математикалық модельдерді ұсынады, бұл басқа құбылыстарды қарастыру алдында пайдалы. ААГШ каналы көптеген спутниктік және терең ғарыш байланыс желілері үшін жақсы модель болып табылады. Ол көптеген құрлықтағы байланыс үшін жақсы модель емес, себебі көп жолды таралу, жер бедерінің кедергісі, кедергілер және т.б. бар. Алайда, құрлықтағы жолды модельдеу үшін ААГШ көбінесе зерттеліп отырған каналдың фондық шуын, сондай-ақ қазіргі заманғы радио жүйелерінің құрлықтағы жұмысында кездесетін көп жолды таралуды, жер бедерінің кедергісін, кедергілерді, жердің кедергісін және өзін-өзі кедергілерді имитациялау үшін қолданылады.
Additive because it is added to any noise that might be intrinsic to the information system. White refers to the idea that it has uniform power spectral density across the frequency band for the information system. It is an analogy to the color white which may be realized by uniform emissions at all frequencies in the visible spectrum. Gaussian because it has a normal distribution in the time domain with an average time domain value of zero (Gaussian process). Wideband noise comes from many natural noise sources, such as the thermal vibrations of atoms in conductors (referred to as thermal noise or Johnson–Nyquist noise), shot noise, black body radiation from the earth and other warm objects, and from celestial sources such as the Sun. The central limit theorem of probability theory indicates that the summation of many random processes will tend to have distribution called Gaussian or Normal. AWGN is often used as a channel model in which the only impairment to communication is a linear addition of wideband or white noise with a constant spectral density (expressed as watts per hertz of bandwidth) and a Gaussian distribution of amplitude. The model does not account for fading, frequency selectivity, interference, nonlinearity or dispersion. However, it produces simple and tractable mathematical models which are useful for gaining insight into the underlying behavior of a system before these other phenomena are considered. The AWGN channel is a good model for many satellite and deep space communication links. It is not a good model for most terrestrial links because of multipath, terrain blocking, interference, etc. However, for terrestrial path modeling, AWGN is commonly used to simulate background noise of the channel under study, in addition to multipath, terrain blocking, interference, ground clutter and self interference that modern radio systems encounter in terrestrial operation.
Каналды өткізу қабілеті және шарларды қаптау
Егер біз арна арқылы хабарларды жіберіп отырсақ, онда индексінен бастап , мүмкін болатын хабарлардың саны. Егер біз хабарламаларды битпен кодтасақ, онда жылдамдық былай анықталады:
Жылдамдыққа қол жетімді деп айтылады, егер кодтар тізбегі болса, онда қателіктердің ең жоғары ықтималдығы шексізге жақындаған сайын нөлге жақындайды. Сыйымдылық – бұл ең жоғары қол жетімді жылдамдық. AWGN арнасы арқылы жіберілген ұзындығы бар код сөзді қарастырайық. Қабылданған кезде код сөздің векторлық дисперсиясы қазір , ал оның орташасы жіберілген код сөз. Вектор жіберілген код сөздің айналасындағы радиустағы сферада болуы ықтимал. Егер біз әрбір алынған хабарды осы сфераның ортасындағы код сөзге сәйкестендіріп, декодтасақ, онда қате тек алынған вектор осы сферадан тыс жерде болған кезде ғана пайда болады, бұл өте сирек. Әрбір код сөз векторының өзіне декодталатын алынған код сөз векторларының байланысқан сферасы бар және әрбір осындай сфера код сөзге бірегей сәйкестендірілуі тиіс. Сондықтан бұл сфералар қиылыспауы керек, сондықтан біз сфераларды жинақтау мәселесіне тап болдық. Біз біттік код сөз векторына қанша код сөзді сыйдыра аламыз? Алынған векторлардың ең жоғары энергиясы бар, сондықтан олар радиустағы сфераны алып отыруы керек. Әрбір код сөз сферасының радиусы бар. n өлшемді сфераның көлемі тікелей пропорционалды , сондықтан берілу қуаты P бар сфераға сыйдырылатын бірегей декодталатын сфералардың ең көп саны:
Осы аргумент бойынша, R жылдамдығы артық болмауы керек .
Жетілу мүмкіндігі
Осы бөлімде біз соңғы бөлімде көрсетілген мөлшерлеме бойынша жоғарғы шектің қол жетімділігін көрсетеміз. Кодтаушы мен декодерге белгілі кодтау кітабы n ұзындығындағы код сөздерін таңдау арқылы құрастырылады, яғни тәуелсіз, бірдей таралымды (i.i.d.) дисперсиясы σ² және орташасы нөлге тең Гаусс таралымынан. Үлкен n үшін кодтау кітабының эмпирикалық дисперсиясы оның таралу дисперсиясына өте жақын болады, осылайша қуат шектеуін ықтималдық тұрғысынан бұзудан сақтануға болады. Алынған хабарламалар кодтау кітабындағы бірегей түрде ортақ типті хабарламаға дейін декодталады. Егер мұндай хабарлама болмаса немесе қуат шектеуі бұзылса, декодтау қатесі туындайды. Хабарламаның код сөзін деп белгілейміз, ал – бұрынғыдай алынған вектор. Келесі үш оқиғаны анықтаймыз:
Event :the power of the received message is larger than Event : the transmitted and received codewords are not jointly typical. Event : is in , the typical set where , which is to say that the incorrect codeword is jointly typical with the received vector. An error therefore occurs if , or any of the occur. By the law of large numbers, goes to zero as n approaches infinity, and by the joint Asymptotic Equipartition Property the same applies to Therefore, for a sufficiently large , both and are each less than Since and are independent for , we have that and are also independent. Therefore, by the joint AEP, This allows us to calculate , the probability of error as follows:
Therefore, as n approaches infinity, goes to zero and Therefore, there is a code of rate R arbitrarily close to the capacity derived earlier.
Оқиға 1: Алынған хабарламаның қуаты мәнінен артық.
Оқиға 2: Жіберілген және алынған код сөздері бірлесіп типтік емес.
Оқиға 3: – типтік жиынтықтағы (typical set) , яғни алынған вектормен бірлесіп типтік қате код сөзі.
Event :the power of the received message is larger than Event : the transmitted and received codewords are not jointly typical. Event : is in , the typical set where , which is to say that the incorrect codeword is jointly typical with the received vector. An error therefore occurs if , or any of the occur. By the law of large numbers, goes to zero as n approaches infinity, and by the joint Asymptotic Equipartition Property the same applies to Therefore, for a sufficiently large , both and are each less than Since and are independent for , we have that and are also independent. Therefore, by the joint AEP, This allows us to calculate , the probability of error as follows:
Therefore, as n approaches infinity, goes to zero and Therefore, there is a code of rate R arbitrarily close to the capacity derived earlier.
Демек, қате немесе немесе кез келген оқиғасы орын алса туындайды. Үлкен сандар заңы бойынша n шексізге жақындағанда нөлге жақындайды, ал бірлескен асимптотикалық тең үлестіру қасиеті бойынша солай болады. Сондықтан, жеткілікті үлкен болғанда, екеуі де мәннен кіші болады. және бір-бірінен тәуелсіз болғандықтан, және де тәуелсіз болады. Сондықтан, бірлескен AEP арқылы қателік ықтималдығын келесідей есептеуге болады:
Event :the power of the received message is larger than Event : the transmitted and received codewords are not jointly typical. Event : is in , the typical set where , which is to say that the incorrect codeword is jointly typical with the received vector. An error therefore occurs if , or any of the occur. By the law of large numbers, goes to zero as n approaches infinity, and by the joint Asymptotic Equipartition Property the same applies to Therefore, for a sufficiently large , both and are each less than Since and are independent for , we have that and are also independent. Therefore, by the joint AEP, This allows us to calculate , the probability of error as follows:
Therefore, as n approaches infinity, goes to zero and Therefore, there is a code of rate R arbitrarily close to the capacity derived earlier.
Сондықтан, n шексізге жақындағанда нөлге жақындайды және сондықтан, бұрын алынған сыйымдылыққа кез келген жақындықпен жуықтайтын R жылдамдығында код бар.
Event :the power of the received message is larger than Event : the transmitted and received codewords are not jointly typical. Event : is in , the typical set where , which is to say that the incorrect codeword is jointly typical with the received vector. An error therefore occurs if , or any of the occur. By the law of large numbers, goes to zero as n approaches infinity, and by the joint Asymptotic Equipartition Property the same applies to Therefore, for a sufficiently large , both and are each less than Since and are independent for , we have that and are also independent. Therefore, by the joint AEP, This allows us to calculate , the probability of error as follows:
Therefore, as n approaches infinity, goes to zero and Therefore, there is a code of rate R arbitrarily close to the capacity derived earlier.
Уақыт аймағындағы әсерлері
Ілеспе деректер байланысында, кездейсоқ джиттердің (RJ) салдарынан туындайтын уақыт қатесін модельдеу үшін AWGN математикалық моделі қолданылады. Оң жақтағы графикте AWGN-мен байланысты уақыт қатесінің мысалы көрсетілген. Δt айнымалысы нөлдік өту нүктесіндегі белгісіздікті көрсетеді. AWGN амплитудасы артқан сайын, сигнал-шу қатынасы төмендейді. Бұл Δt белгісіздігінің ұлғаюына алып келеді.