Cílem práce je prostudovat transformace náhodných veličin při kompresi dat z pohledu náhodnosti a nezávislosti jednotlivých “bitů” výsledné komprimované zprávy. Student by měl popsat tuto náhodnost a míru nezávislosti pomocí entropie a vzájemná informace. Z hlediska kompresních algoritmů se student zaměří na Huffmanovo a Ziv-Lempelovo kódování.