Теорија информације — разлика између измена

Садржај обрисан Садржај додат
Ред 48:
=== Шенонова дефиниција ===
 
Хартлијева информација, формула, служи само у случају мерења једнако вероватних исхода. Бар тако се чини на први поглед. Међутим, шта да радимо ако је случај сложенији. Када имамо различито вероватне исходе и хоћемо да меримо информацију за сваки од случајева. Показаћемо да се полазећи од Хартлијеве може доћи до дефиниције информације и за сложеније случајеве, користећи већ познати појам математичке средње вредности. То је открио [[Клод Шенон]] у знаменитом раду "Математичка теорија комуникације", који је написао заједно са В. Вивером 1949. године.
 
Ако имамо шест куглица, по две у бојама: црвеној, плавој и белој. Рецимо да бирамо једну од шест, једнако вероватних, али тражен је један од одговора: