Asimptotinis informacijos kiekio vienam simboliui vienodumas nepriklausomiems vienodai pasiskirsčiusiems simboliams
Baigtinės abėcėlės nepriklausomiems vienodai pasiskirsčiusiems X₁,…,Xₙ dydis −n⁻¹log₂p(X₁,…,Xₙ) konverguoja pagal tikimybę į H(X₁).
Esminės žinios
Baigtinės abėcėlės nepriklausomiems vienodai pasiskirsčiusiems X₁,…,Xₙ dydis −n⁻¹log₂p(X₁,…,Xₙ) konverguoja pagal tikimybę į H(X₁). Su didele tikimybe seka priklauso tipinei aibei, kurią tikimybių masteliu sudaro maždaug 2ⁿᴴ galimybių; tai leidžia taikyti blokinį glaudinimą beveik be nuostolių.
Sąlygos ir taikymo ribos
- Teiginys yra asimptotinis, su pasirinkta tipiškumo tolerancija.
- Tipinė aibė apima sekas, kurių bendra tikimybė didelė, o ne kiekvieną galimą seką.
Šaltiniai · 1
Šaltiniai
Šaltiniai išlaiko savo taikymo ribas. Vien nuoroda nepatvirtina kiekvieno teiginio patikrinimo.
Pagrindimas ir peržiūra
Paskaita 3: tipinės aibės apibrėžimas, asimptotinio informacijos kiekio vienam simboliui vienodumo (AEP) teorema ir argumentas apie aibės galią bei glaudinimą.
2026-10-10 · Nepriklausoma DI redakcinė peržiūra: perskaityti visi glaustai suformuluoti teiginiai (241), hipotezės, pateiktos lygtys ir susitarimai bei visos kilmės semantinės sąsajos (596); peržiūrėta visa autoriaus sudaryta 241 įrašo tikslių šaltinių patikros matrica ir deklaruoti apribojimai. Siekiant aprėpti visą įrašų rinkinį, perskaityti 105 ankstesni faktiškai paveldėti matematikos ir informacijos įrašai. Toliau išvardyti tikslingai ir nepriklausomai peržiūrėti pirminių šaltinių skyriai; tuo NETEIGIAMA, kad kiekvieno cituojamo šaltinio visas tekstas ar kiekvienas įrodymas buvo nepriklausomai perskaitytas iš naujo. Tai DI atlikta informacinio turinio peržiūra, o ne žmogaus eksperto patvirtinimas atitinkamoje mokslo srityje, išsamus vadovėlio atkūrimas ar eksperimentinis pakartojimas. Peržiūros įrašas: mathematics-information-independent-content-review.1.
Įrašo informacija
Nuolatinė nuoroda į šį įrašą ↗- Įrašo identifikatorius
- info-iid-typicality
- Versija
- university-core.1
- Struktūruotas žinyno įrašas
- Universitetinių pagrindų plėtra