Variacinis vertinimas ir duomenų tikimybės logaritmo apatinė riba
Tyrimų kontekstas
research method · established · Patikros data 2026-10-10
Variacinis vertinimas aproksimuoja posteriorinį skirstinį, iš nurodytos šeimos parinkdamas q, kuris minimizuoja KL(q||posterior).
Esminės žinios
Variacinis vertinimas aproksimuoja posteriorinį skirstinį, iš nurodytos šeimos parinkdamas q, kuris minimizuoja KL(q||posterior). Duomenų tikimybės logaritmo apatinė riba lygi jungtinės tikimybės logaritmo matematiniam vidurkiui, atėmus log q matematinį vidurkį; duomenų tikimybės logaritmas, atėmus šią ribą, yra ta KL divergencija. Vidutinio lauko šeima atmeta priklausomybę ir gali per menkai įvertinti neapibrėžtumą; koordinačių kilimo metodas gali pasiekti skirtingus lokalius optimumus. Aproksimuoto posteriorinio skirstinio optimizavimas nėra įrodymas, kad tikimybinis modelis teisingas.
Vertės ir lygtys
ELBO(q)=E_q log p(x,z)−E_q log q(z); log p(x)=ELBO(q)+KL(q||p(z|x))
- x
- Stebėti duomenys
- z
- Latentiniai kintamieji
- q
- Aproksimuoto posteriorinio skirstinio kandidatas
Sąlygos ir taikymo ribos
- Posteriorinio skirstinio normalizavimo konstanta egzistuoja, o q turi tinkamą atramą; atvirkštinė KL divergencija gali suteikti begalinę baudą masei už posteriorinio skirstinio atramos ribų.
- Nurodykite aproksimacijų šeimą, optimizavimo konvergavimą, priorą ir posteriorinio prognozavimo validavimą.
Šaltiniai · 1
Šaltiniai
Šaltiniai išlaiko savo taikymo ribas. Vien nuoroda nepatvirtina kiekvieno teiginio patikrinimo.
Pagrindimas ir peržiūra
Autorius patikrino šį anglišką teiginį, pateiktą lygtį, jei ji yra, ir nurodytas prielaidas pagal šias šaltinių vietas: §§2–4: KL/ELBO, vidutinio lauko aproksimacija, koordinačių kilimo metodas ir MCMC palyginimai. Patikra apsiriboja užrašytais teiginiais; neteigiama, kad visiškai atkurtas įrodymas, pakartotinai atlikta programinė įrodymo patikra ar aprėpta visa literatūra.
2026-10-10 · Autoriaus atlikta šaltinio teksto, teiginio, lygties ir taikymo srities patikra; grafo sąsajų aprėptis nurodyta atskirai. Prieš užbaigiant šaką būtina atskira nepriklausoma turinio, šaltinių ir inventoriaus peržiūra.
Įrašo informacija
Nuolatinė nuoroda į šį įrašą ↗- Įrašo identifikatorius
- research-info-variational-inference
- Versija
- research.1
- Struktūruotas žinyno įrašas
- Podiplominis ir tyrimų žinynas