Codici di Huffman. Codici prefissi. Sia dato un file di 120 caratteri con frequenze:

Transcript

1 Codii di Huffmn Codii di Huffmn I odii di Huffmn vengono mpimente usti nell ompressione dei dti (pkzip, jpeg, mp3). Normlmente permettono un risprmio ompreso tr il 2% ed il 9% seondo il tipo di file. Sull se delle frequenze on ui ogni rttere ppre nel file, l lgoritmo di Huffmn trov un odie ottimo ossi un modo ottimle di ssoire d ogni rttere un sequenz di it dett prol odie. Si dto un file di 2 rtteri on frequenze: rttere d e f frequenz Usndo un odie lunghezz fiss oorrono 3 it per rppresentre 6 rtteri. Ad esempio rttere d e f od. fisso Per odifire il file oorrono 2 3 = 36 it. 2 Possimo fre meglio on un odie lunghezz vriile he ssegni odii più orti i rtteri più frequenti. Ad esempio on il odie rttere d e f frequenz od. vr. Bstno = 26 it. Codii prefissi Codii prefissi Un odie prefisso è un odie in ui nessun prol odie è prefisso (prte inizile) di un ltr. Ogni odie lunghezz fiss è ovvimente prefisso. M nhe il odie lunghezz vriile he imo ppen visto è un odie prefisso. Codifi e deodifi sono prtiolrmente semplii on i odii prefissi. 3 4 Con il odie prefisso rttere d e f od. vr. L odifi dell string è. L deodifi è pure semplie. Siome nessun prol odie è prefisso di un ltr, l prim prol odie del file odifito risult univomente determint. Per l deodifi st quindi:. individure l prim prol odie del file odifito, 2. trdurl nel rttere originle e ggiungere tle rttere l file deodifito, 3. rimuovere l prol odie dl file odifito, 4. ripetere l operzione per i suessivi rtteri. 5 6

2 Ad esempio on il odie rttere d e f od. vr. l suddivisione in prole odie dell string di it è ui orrisponde l string e. Per filitre l suddivisione del file odifito in prole odie è omodo rppresentre il odie on un lero inrio. 7 Es. odie lunghezz fiss Ad esempio il odie lunghezz fiss rttere d e f frequenz od. fisso h l seguente rppresentzione d lero :57 :3 :2 d:24 e:9 f:5 8 Es. odie lunghezz fiss In reltà, ome lero inrio, l rppresentzione è :57 :3 :2 d:24 e:9 f:5 Noi trsureremo le foglie e himeremo foglie i nodi interni senz figli. 9 Es. odie lunghezz vriile Il odie lunghezz vriile rttere d e f frequenz od. vr. h rppresentzione Import he si trtti di un odie prefisso? 2 :57 63 :2 :3 4 d:24 ) prim form L lunghezz in it del file odifito on il odie rppresentto d un lero è: B ( ) = f d ( ) C C è l lfeto; f è l frequenz del rttere e d () è l profondità dell fogli he rppresent il rttere nell lero. Not: ssumimo he l lfeto C onteng lmeno due rtteri. In so ontrrio st un numero per ) seond form L lunghezz in it del file odifito è nhe: ) = rppresentre il file: l su lunghezz. 2 f [ x] x nodo interno 2 :57 63 :2 :3 4 d:24 in ui l sommtori è estes lle frequenze f [x] di tutti i nodi interni x dell lero. 2

3 Simulzione lgoritmo di Huffmn Costruzione dell lero di Huffmn: rttere d e f frequenz d:24 :57 :2 :3 d:24 :57 :2 :3 :2 :3 4 d:24 4 d:24 :2 :3 :57 :57 3 :2 :3 4 d:24 :57 4 :57 :2 :3 4 d:24 :57 63 :2 :3 4 d:24 :57 63 :2 :3 4 d:24 2 : :2 :3 4 d: Algoritmo di Huffmn Implementzione dell lgoritmo goloso di Huffmn. Huffmn(, f, n) φ > od on priorità for i to n do Push(, nodo(f i, i )) for j n downto 2 do x ExtrtMin(), y ExtrtMin() Push(, nodo(x,y)) return ExtrtMin() è un od on priorità, nodo(f, ) è il ostruttore di un nodo fogli e nodo(x, y) è il ostruttore di un nodo Complessità lgoritmo di Huffmn Assumendo he l od veng relizzt on un hep, le operzioni Insert ed ExtrtMin rihiedono tempo O(log n). Pertnto l intero lgoritmo rihiede tempo O(n log n) (dove n è il numero di rtteri dell lfeto). interno

4 Perhé goloso? L lgoritmo è goloso perhé d ogni psso ostruise il nodo interno vente frequenz minim possiile. Riordimo inftti he ) = x nodo interno f [ x] Simo siuri he in questo modo ottenimo sempre un odie ottimo? 9 Elementi dell strtegi golos Elementi dell strtegi golos Ci sono due ingredienti omuni molti prolemi risolviili on l strtegi golos: Proprietà dell selt golos: L selt ottim lolmente (golos) non pregiudi l possiilità di rrivre d un soluzione glolmente ottim. Sottostruttur ottim: Ogni soluzione ottim non elementre si ompone di soluzioni ottime di sottoprolemi. 2 Osservzione: Se è ottimo llor è ompleto. Ogni nodo interno di h due figli (ltrimenti togliendo il nodo si otterree un odie migliore). :2 :57 : d:24 f: e:9 2 :57 63 :2 :3 4 d:24 2 Lemm selt golos Lemm (proprietà dell selt golos) Sino e due rtteri di C venti frequenze f ed f minime. Esiste un odie prefisso ottimo in ui le prole odie di e hnno l stess lunghezz e differisono soltnto per l ultimo it (e quindi, nell lero del odie, le foglie ssoite d e sono figlie dello stesso nodo interno, ioè sorelle). Attenzione: Il Lemm non die he iò è vero per ogni odie prefisso ottimo e tnto meno he se iò è vero il odie è ottimo!!!! Die solo he iò è vero per lmeno un odie ottimo. 22 Si ottimo. uindi in esistono due foglie profondità mssim he sono sorelle. Sino e d i rtteri orrispondenti tli foglie. Mostrimo he smindo e d on e il odie rimne ottimo. Possimo supporre f f d e f f. e sono due rtteri on frequenz minim in ssoluto e quindi f f ed f f d. 23 Si ' l lero he si ottiene d smindo le fogli ssoit l rttere on quell ssoit l rttere (e rilolndo le frequenze dei nodi interni). f f ed f f d. d d 24 4

5 Allor: ) = e e C = f d( ) + f d( ) f d = f d( ) + f d( ) f d( ) f d( ) = [ f f d( e) f d '( e) f ][ d( ) d( )] ( ) f d ( ) Siome è ottimo ) e quindi nhe ' è ottimo. e e C ' ' Allo stesso modo, smindo le foglie dei rtteri d e, si ottiene un lero ottimo '' in Lemm struttur ottim Lemm (proprietà dell sottostruttur ottim) Si C un lfeto e sino ed i rtteri on frequenz minim. Si C'= C \{,} {} l lfeto ottenuto sostituendo {, } un unio rttere nuovo (on frequenz f = f +f ). Si ' l lero di un odie prefisso ottimo per C'. Allor l lero ottenuto d ' sostituendo l fogli orrispondente on un nodo interno, vente ome figli le foglie ed rppresent un odie prefisso ottimo per l lfeto C. ui e sono ssoiti due foglie sorelle. 26 ) + f d ( ) + f d ( ) f d ( ) + f + f ' ' + ( f + f )( d ( ) + ) ( f + f ) d ( ) Supponimo, per ssurdo, he esist un lero S per C tle he S) < ). Per il lemm preedente possimo ssumere he le foglie orrispondenti d e sino sorelle, figlie di un nodo z. ' Considerimo l lero S' per C' ottenuto d S fendo diventre z un fogli, orrispondente l rttere, (on frequenz f = f +f ). Allor, ome in preedenz: S') S) ( f < ) ( f + f ) + f ) uesto ontrddie l ottimlità di '. Assurdo z z x y S S z x z y 29 eorem orrettezz lg. Huffmen eorem L lgoritmo di Huffmn produe un odie prefisso ottimo. Huffmn(, f, n) φ > od on priorità for i to n do Push(, nodo(f i, i )) for j n downto 2 do x ExtrtMin(), y ExtrtMin() Insert(,nodo(x,y)) return ExtrtMin() Si dimostr per induzione sul numero di rtteri dell lfeto (lunghezz dell od) usndo i due lemmi preedenti. 3 5

6 Eserizio 5 Eserizio 5. Compressione Universle? Dimostrre non esiste un shem di ompressione in grdo di ridurre l lunghezz di ogni file di rtteri di 8 it (i srà sempre un file he l ui odifi non e più ort del file originle). (Suggerimento: onfrontre il numero dei file on il numero dei file odifiti.) Eserizio 5 Supponimo per ssurdo he un tle shem esist. Ci sono 2 8 file diversi di un solo rttere (8 it). Le sequenze di it di lunghezz minore di 8 sono Ognuno dei file di un rttere orrisponde qulun di queste sequenze. Dunque, per il prinipio dei uhi di olomi, i sono due file diversi on odifi identi. ASSURDO!!!! 3 32 Eserizio 6 Eserizio 6. Si C = {,..., n } un insieme di rtteri e sino f,...,f n le loro frequenze in un file. Mostrre ome si poss rppresentre ogni odie prefisso ottimo per C on un sequenz di 2n - +n log n its. Suggerimento: usre 2n - it per rppresentre l struttur dell lero del odie ed n log n its per elenre i rtteri nell ordine in ui ompiono nelle foglie (usndo il odie del file non ompresso). 33 :57 Es. odie lunghezz vriile 2 63 :2 :3 4 d:24 Prti dll rdie e riorsivmente: - se è un nodo int. metti - sendi sul figlio sx; - sendi sul figlio dx. - se è un fogli metti 34 Es. odie lunghezz vriile Cre l rdie e riorsiv. : - se inontri uno - re il figlio sx e sendi su tle figlio; - re il figlio dx e sendi su tle figlio - se inontri un, stop. d f e 35 6