Теории всего на свете

Информация – преодоление неопределенности

Почти все, чем мы с удовольствием пользуемся в наш цифровой век, базируется на этой идее, хотя мало кто знает о том, кто ее автор или что лежит в основе соответствующей простой и элегантной теории информации. Многим ли известно, что информационная эпоха – творение не Билла Гейтса или Стива Джобса, а Клода Шеннона, и что она, по сути, началась еще в 1948 году? Шеннон, скромный человек, разносторонний мыслитель, сторонился публичных выступлений и интервью. Этот блестящий математик, генетик и криптоаналитик, сформулировал основы концепции, которой суждено было вырасти в информационную теорию. Он сделал это вскоре после окончания Второй мировой войны, когда стало очевидно, что ее сражения уже не сводятся к пулям и пушкам.

Если Первая мировая оказалась первой механизированной войной, то Вторую мировую можно считать первым силовым конфликтом, завязанным на коммуникационные технологии. В отличие от предыдущих боевых противостояний армейские части здесь массово применяли радиосвязь. Быстрая координация между удаленными друг от друга подразделениями принесла войну во все части света. Стала активно развиваться криптография, поскольку требовалось сохранять передаваемые депеши в тайне от противника. Кроме того, в боевых операциях впервые был задействован радар – устройство, позволявшее обнаруживать летательные аппараты и следить за их перемещениями: так удалось расширить возможности слежения за воздушной техникой, ведь сфера действия традиционного – визуального – наблюдения ограничивалась линией горизонта.

Клод Шеннон работал над проблемой прицельного уничтожения самолетов и разрабатывал системы контроля огня, которые могли бы напрямую взаимодействовать с радаром. Как определить текущее и будущее положение вражеского самолета, чтобы вовремя направить артиллерийский огонь в нужную точку и сбить неприятельскую воздушную машину? Появление радара ознаменовало собой настоящую революцию в противовоздушной обороне, однако поступавший с радара сигнал был загрязнен «шумом»: получаемая информация позволяла приблизительно определить местонахождение объекта, но была недостаточно точной, чтобы ею удалось сразу же воспользоваться. После войны это заставило Шеннона и многих других специалистов задуматься о природе фильтрации и распространения информации, будь то радарные сигналы, голос (передаваемый по телефону) или видеоматериалы (транслируемые по телевидению). Шум оказался врагом связи, так что любые способы хранения и передачи информации, снижавшие уровень шума, весьма интересовали нанимателей Шеннона – компанию Bell Laboratories, научно-исследовательское подразделение знаменитого американского телефонного монополиста середины XX века.

Шеннон рассматривал коммуникационную сферу как наиболее математизированную из прикладных наук. Он решил сосредоточить все свои интеллектуальные усилия на проблеме информационного шума. Поизучав тонкости работы аналогового компьютера – дифференциального анализатора Ванневара Буша – в первые годы своей работы в Массачусетском технологическом институте и защитив весьма математизированную диссертацию на тему «Алгебра в теоретической генетике», Шеннон оказался особенно хорошо экипирован для понимания основ теории о том, как следует обращаться с информацией, используя знания из самых разных дисциплин. К 1948 году он сформулировал свой главный тезис, простой и сильный: «Информация – преодоление неопределенности».

Если уж мы можем передать что-нибудь, это «что-нибудь» снижает неопределенность: такова фундаментальная природа информации. Звучит самоочевидно, однако это важнейшее умозаключение, если вспомнить, что люди говорят на огромном количестве различных языков и какое-то сочетание звуков может оказаться полным смысла для одного человека и совершенно непонятным для другого. До того как Шеннон сформулировал свою теорию, никто не знал, как правильно компенсировать «психологические факторы» подобного рода. Основываясь на работах своих коллег Ральфа Хартли и Гарри Найквиста, Шеннон показал, что метод кодирования и используемые символы – ключевые элементы при решении, будут ли две коммуницирующие стороны обладать общим пониманием преодолеваемой неопределенности.

Шеннон задался вопросом: «Как проще всего преодолеть неопределенность?» Для него решением стало подбрасывание воображаемой монетки: «орел» или «решка», «да» или «нет», событие с всего двумя возможными исходами. Он пришел к выводу, что информацию любого типа можно закодировать как серию ответов «да» и «нет». В наши дни такие ответы мы называем битами цифровой информации – единицами и нулями. Ими представлено все, от текста электронного письма до цифровых фотографий, музыки на CD, видео высокого разрешения. То, что совершенно любую информацию можно представить и закодировать отдельными битами не приблизительно, а идеально точно, без шумов и ошибок, явилось поистине революционной идеей. Она поразила даже его коллег и других ученых, отчаянно пытавшихся создать простую и универсальную теорию информации.

Компакт-диск, первый рассчитанный на обычного потребителя и повсеместно распространенный носитель информации, закодированной цифровым способом, открыл наследие Шеннона широким массам населения в 1982 году. Такой диск позволяет идеально воспроизводить звук благодаря тому, что каждая секунда музыкальных аудиоволн делится на 44 100 фрагментов (семплов), а затем количественно записывается высота каждого фрагмента (проводится так называемая квантизация). Увеличение количества семплов для каждой секунды исходного звукового материала и более точная квантизация повышают качество записываемого звука. Превращение этого цифрового потока обратно в слышимый нами аналоговый звук с использованием современной электронной техники позволяет достигать стабильно высокого качества воспроизведения. Подобные же цифровые методы стали использоваться для записи статичных изображений и видео, так что сегодня мы наслаждаемся миром, где есть mp3-файлы, DVD-диски, HD-телевидение и видео высокой четкости. Всё это можно хранить, передавать и копировать без потери качества.

Шеннон стал профессором Массачусетского технологического института, и в течение многих лет его студенты сделали большое количество революционных открытий, во многом определивших лицо информационной эпохи: здесь и модемы, и компьютерная графика, и сжатие данных, и искусственный интеллект, и беспроводная цифровая связь. Информационная теория преобразила почти все стороны нашей повседневной жизни, от работы до отдыха, насытив их «цифрой». Красиво, изящно, невероятно эффективно!