Institute of Information Theory and Automation

You are here

AS seminář: Minimalizácia súčtu stredných hodnot Kullback-Leibler divergencií

Date: 
2013-10-07 11:00
Room: 
Majme s pravdepodobnostných vektorov s konečným počtom zložiek n (zložky pravdepodobnostného vektoru sa sčítajú do 1). Uvažujme ďalej Kullback-Leibler (KL) divergenciu každého daného pravdepodobnostného vektoru od neznámeho pravdepodobnostného vektoru h (s počtom zložiek n). Aby sme obmedzili vplyv neznámeho pravdepodobnostného vektoru h, uvažujme tiež strednú hodnotu z každej KL divergencie vzhľadom k hustote Dirichletovho rozdelenia. Táto hustota závisí na s neznámych parametroch \lambda_1,..,\lambda_s. Cieľom je minimalizovať súčet uvažovaných stredných hodnôt voči týmto neznámym parametrom. Aby sme našli s-ticu, v ktorej zvolená funkcia nadobúda svoje minimum, vyššie uvedené stredné hodnoty špeciálne zvolených KL divergencií prepíšeme pomocou digamma funkcií. Ekvivalentne teda preformulujeme pôvodnú úlohu na minimalizáciu súčtu digamma funkcií, ktorých argument závisí na \lambda_1,...\lambda_s. Zvyšok semináru bude venovaný diskusii o existencii a jednoznačnosti bodu minima zvolenej funkcie.
vkralova: 2013-10-04 10:43