Теория информации

Теория информации [infor­ma­tion theory], или математическая теория связи — раздел кибернетики, исследующий про­цессы хранения, преобразования и передачи информации; это основная часть кибернетики, поэтому последнюю тоже иногда называют «теорией информации».

Границы Т.и. пока нечетко определены. Одни авторы относят к ней чисто прикладные проблемы кодирования и декодирования информации, определения пропускной способности каналов информации и т.п., другие — расширяют понятие Т.и. так, что в нее оказываются включенными даже вся математическая статистика и, более того, вся лингвистика, поскольку она является наукой, изучающей основной способ передачи информации в человеческом обществе — язык.

При любых трактовках Т.и. изучает информационные процессы как вероятностные, широко используя методы ма­тематической статистики. Сре­ди фундаментальных понятий этой теории — понятия энтропии, количества информации, информационного шума (см. Помехи). Подробнее см. в статье Информация.