WARNING:
JavaScript is turned OFF. None of the links on this concept map will
work until it is reactivated.
If you need help turning JavaScript On, click here.
This Concept Map, created with IHMC CmapTools, has information related to: Informationsteori, Informationsteori behandler information med Entropi, Krafts ulighed <math xmlns="http://www.w3.org/1998/Math/MathML"> <mrow> <munderover> <sum/> <mtext> 1 </mtext> <mtext> n </mtext> </munderover> <mmultiscripts> <mtext> 2 </mtext> <none/> <mrow> <mtext> - </mtext> <mmultiscripts> <mtext> λ </mtext> <mtext> i </mtext> <none/> </mmultiscripts> </mrow> </mmultiscripts> <mtext> ≤1 </mtext> </mrow> </math>, Huffmanns metode <math xmlns="http://www.w3.org/1998/Math/MathML"> <mrow> <mtext> med p= </mtext> <mmultiscripts> <mtext> p </mtext> <mtext> n-1 </mtext> <none/> </mmultiscripts> <mtext> + </mtext> <mmultiscripts> <mtext> p </mtext> <mtext> n </mtext> <none/> </mmultiscripts> </mrow> </math> <math xmlns="http://www.w3.org/1998/Math/MathML"> <mrow> <mmultiscripts> <mtext> H </mtext> <mtext> 0 </mtext> <none/> </mmultiscripts> <mfenced open="(" close=")"> <mmultiscripts> <mtext> p </mtext> <mtext> 1 </mtext> <none/> </mmultiscripts> <mtext> ,..., </mtext> <mmultiscripts> <mtext> p </mtext> <mtext> n-2 </mtext> <none/> </mmultiscripts> <mtext> , </mtext> <mmultiscripts> <mtext> p </mtext> <mtext> n-1 </mtext> <none/> </mmultiscripts> <mtext> , </mtext> <mmultiscripts> <mtext> p </mtext> <mtext> n </mtext> <none/> </mmultiscripts> </mfenced> <mtext> = </mtext> <mmultiscripts> <mtext> H </mtext> <mtext> 0 </mtext> <none/> </mmultiscripts> <mfenced open="(" close=")"> <mmultiscripts> <mtext> p </mtext> <mtext> 1 </mtext> <none/> </mmultiscripts> <mtext> ,..., </mtext> <mmultiscripts> <mtext> p </mtext> <mtext> n-2 </mtext> <none/> </mmultiscripts> <mtext> ,p </mtext> </mfenced> <mtext> +p </mtext> </mrow> </math>, Informationsteoriens 1. hovedsætning hvis bevis bruger Krafts ulighed, Entropi giver også betinget entropi, betinget entropi bruges til ????, Ord er elementer i mængden af endelige følger af binære tal, kodetræ kan være fuldstændig sammenklappeligt, Entropi opdeles i Reel entropi, sandsynligheds- fordeling givet ved <math xmlns="http://www.w3.org/1998/Math/MathML"> <mrow> <munderover> <mtext> p </mtext> <none/> <mtext> → </mtext> </munderover> <mtext> = </mtext> <mfenced open="(" close=")"> <mmultiscripts> <mtext> p </mtext> <mtext> 1 </mtext> <none/> </mmultiscripts> <mtext> ,..., </mtext> <mmultiscripts> <mtext> p </mtext> <mtext> n </mtext> <none/> </mmultiscripts> </mfenced> </mrow> </math>, ligefordeling ifølge <math xmlns="http://www.w3.org/1998/Math/MathML"> <mrow> <mtext> H </mtext> <mfenced open="(" close=")"> <mmultiscripts> <mtext> p </mtext> <mtext> 1 </mtext> <none/> </mmultiscripts> <mtext> ,..., </mtext> <mmultiscripts> <mtext> p </mtext> <mtext> n </mtext> <none/> </mmultiscripts> </mfenced> <mtext> ≤H </mtext> <mfenced open="(" close=")"> <mfrac> <mtext> 1 </mtext> <mtext> n </mtext> </mfrac> <mtext> ,..., </mtext> <mfrac> <mtext> 1 </mtext> <mtext> n </mtext> </mfrac> </mfenced> </mrow> </math>, Ideel entropi defineres ved At gentage forsøget k→∞ gange, kode Hændelser i A tildeles Ord, kodetræ har gafler, fuldstændig sammenklappeligt hvis alle gafler kan sammenklappes, prefix-egenskaben ord må ikke være prefix for andre ord, gafler kan udfoldes, Reel entropi betegnes <math xmlns="http://www.w3.org/1998/Math/MathML"> <mrow> <mmultiscripts> <mtext> H </mtext> <mtext> 0 </mtext> <none/> </mmultiscripts> <mfenced open="(" close=")"> <mmultiscripts> <mtext> F </mtext> <none/> <mtext> n </mtext> </mmultiscripts> </mfenced> <mtext> ,n∈ℵ </mtext> </mrow> </math>, Reel entropi kan bestemmes med Huffmanns metode, Huffmanns metode optimerer kode