Хорошее вступление к теории информации, пожалуйста? [закрытый]

Я знаю, о Википедия и теория информации, выводы и алгоритмы обучения (уместно ли это как учебник?). Ищется учебник, начинающийся с энтропии Шеннона и проходящий через условную энтропию и взаимную информацию... Есть идеи? Если вы следуете такому курсу в своем университете, какой учебник используется?

спасибо.

7
information-theory

1 ответов

Я использовал следующий учебник во время учебы в CS at EPFL. ИМО, это хорошо написано, с хорошими объяснениями и охватывает более чем достаточно для введения в домен.

элементы теории информации

элементы теории информации http://ecx.images-amazon.com/images/I/51HVK59X77L.jpg

EDIT:для дальнейшего чтения, вот некоторые другие чтения, которые мой профессор рекомендовал. Я не читайте их (позор мне), поэтому я не могу сказать, хороши они или нет.

  1. Р. Г. Галлагер, теория информации и надежная связь, М., 1968.
  2. Д. Маккей, Теория Информации, Алгоритмы Вывода И Обучения, Cambridge University Press, 2008. (вы уже упоминали об этом)
  3. И. Csiszar и Ж. корнер теория информации: теоремы кодирования для дискретных систем без памяти, Akademiai Kiado, 1997.
  4. C. E. Шеннон, математическая теория коммуникации
1