Tato práce se zabývá návrhem systematického kombinování diskrétních pravděpodobnostních distribucí založeném na teorii rozhodování a teorii informace, konkrétně na křížové entropii (známé taká jako Kullbackova-Leiblerova (KL) divergence). Optimální kombinací je pravděpodobnostní funkce minimalizující podmíněnou střední hodnotu KL-divergence. Hustota pravděpodobnosti, která se váže k této střední hodnotě, rovněž minimalizuje KL-divergenci za podmínek vztažených k řešenému problému. Ačkoliv je kombinace odvozena pro pravděpodobnostní typ informace na společném nosiči, můžeme ji po transformaci a/anebo rozšíření použít i pro míchání jiných typů informace. Práce také zahrnuje diskuzi o navrhovaném kombinování a sekvenčním zpracování dat, opakujících se datech, ovlivnění výsledků preferencemi mezi zdroji informace a aplikaci na reálná data.