Теорија информације — разлика између измена

м
: <math>I=-p_1log_2p_1-p_2log_2p_2</math>.
 
Уопште, када имамо низ <math>n=2,3,4,...</math> исхода, истих или различитих вероватноћа <math>p_1,p_2,...,p_n</math>, тада нам резултат случајног догађаја доноси информацију ''I'' која је средња вредност, тј. математичко очекивање, позитивних вредности логаритама вероватноћа. ДаклеПрема томе,
 
: <math>I=-p_1log_2p_1-p_2log_2p_2-...-p_nlog_2p_n</math>.
 
То је Шенонова дефиниција информације. Откриће да се информација може мерити, колико једноставно, толико је било невероватно за математичаре. Била је веома изненађујућа чињеница да можемо (математички прецизно) рећи "има толико и толико бита информације у датој новинској вести", баш као када кажемо "овај бурек је тежак 300 грама". Математичари су били у шоку и неверици, али техника није чекала. У другој половини 20. века је наступила револуција информатике. За то време је математичка теорија информације полако, полако напредовала.
То је Шенонова дефиниција информације.
 
[[Категорија:Математика]]
1.479

измена