can3p (can3p) wrote,
can3p
can3p

Из прочитанного. Выпуск 24, теория информации

Всего один отзыв в этот раз, просто большим получился.

1) The information, James Gleick

4 / 5

Монументальный труд, книга по охвату напоминает истории про карты, велосипеды (тогда еще отзывы не писал) или долг. Автор начинает рассказ с истории появления телеграфа и самого кодирования сообщения. Тут был для меня первый сюрприз, когда оказалось, что первый телеграф был отнюдь не электрическим, но довольно скоро его смел электрический. Как и с велосипедом, азбука Морзе и привычный вид телеграфного аппарата не были данностью, а результатом поисков людей по обе стороны атлантики. Чуть появившись, телеграф сразу начал менять мир, представления о скорости распространения информации и расстояниях. Интересно описан момент, как влияла стоимость сообщений на язык передачи, когда сразу же появились различные книги с сокращениями, методы кодирования, которые позволяли сжать текст и уменьшить стоимость.

Попутно кодам идет рассказ про то, как в 19м веке люди старались нащупать понятие информации или парограммы, что упиралось в недостатки технологии, когда Чарльз Бэббидж старался собрать свою машину исключительно с помощью механических решений. Если честно, на этом моменте я едва не бросил, настолько было утомительно читать бесконечные фрагменты переписки, цитаты и поток сознания автора на тему.

Но все это нужно было, чтобы подвести к послевоенным годам после второй мировой, когда разные люди волею судеб собрались в США и пришли вместе к теории информации, как она есть. Если перечислять имена, то это будет круче любых людей икс - Клод Шэннон, фон Нейман, Гедель, Тюринг, Эйнштейн и еще куча народу, которые работали над атомной бомбой и прочими оборонными заказами и попутно раздумывали о разных мелочах и потом перевернули весь мир. Из интересного здесь стоит отметить, что если мне казалось, что большинство из них было немцами, то по заметкам автора выходило, что очень весомая часть оказалась из Венгрии.

Все закрутилось, когда Шэннон опубликовал свою статью по теории информации, которая сейчас уже преобрела статус культурного памятника, как и основопологающая статья Тюринга. После нее стало возможным работать с информацией, как с сущностью, делать ее анализ и сторить на ее основе другие теории.

Дальше я буду врать, потому что было слишком много всего, но очень интересно. В следующих главах автор показывает, как теорию информации начали применять всюду. Сначала термодинамика, а конкретно второе начало термодинамики - в замкнутой системе энтропия не убывает. Но почему? Из чего это следует? Ну и что такое энтропия? Идет подробный разбор, появляется Шредингер с его демоном, про историю которого я не знал, и поясняется, как ученые последовательно приходили к нужными определениям от возможных и невозможных состояний до маловероятных и наиболее вероятных.

Собственно, первая сюжетная линия в книге (если можно так сказать) - это появление теории информации и последствия, а вторая - это постепенное обоснование и принятие того факта, что в природе и науке есть вещи, которые априори точно неизвестны или не доказуемы. Начинается все с теории неполноты Геделя, которая тоже разбирается в книге, продолжается Геделем и заканчивается квантовой механикой ближе к концу.

После того, как теория информации утвердилась в математике, все большие умы ринулись ее применять. Сначала описывается прорыв в психологии, которая на тот момент застряла в бихевиоризме, и где теория информации позволила начать описывать процессы запоминания и обработки информации человеком, а потом делается резкий прыжок к созданию молекулярной биологии, когда все те же математики сначала предположили наличие генов, потом их нашли, а потом все гурьбой начали наботать над их расшифровкой. Почему у животных одного вида рождается потомство того же вида? Как передается эта информация? Как она кодируется? Все эти вопросы штурмовали по порядку и последовательно находили ДНК, РНК и алгоритмы их строения. Как организм воспроизводит сам себя? Читая все это я с тоской подумал про свои вялые мысли по поводу самовоспроизводящихся роботов. Все уже придумано за нас или, скорее про нас.

После разбора этой темы идет следующих крутой поворот в сторону эволюции. Кто, собственно эволюционирует? Организмы? Их части? Постепенно автор подводит к тому, что соревнуются наборы генов. И не то, чтобы они это делают осознанно, эгоистично или что-угодно в этом же смысле (эгоистичный ген здесь вспоминается и разбирается). От соревнования генов автор плавно переходит к соревнованию информации, которую они несут, а потом плавно делает переход, что информация сама отдельно по себе ведет себя абсолютно также, как и соревнующиеся организмы, здесь уже речь идет про мемы. Не раз вспоминается Маршалл Маклюен, со своими идеями о медия, все никак до него не доберусь.

А, забыл, есть еще крутая глава про случайные числа и их анализ. Что такое случайно число? Как его определить? Автор постепенно приходит к определению, что случайное число - это не просто число с корректным распределением цифр, но еще и число, в котором нет никакой возможности угадать следующий символ. Если описывать число с помощью алгоритма, то понастоящему случайное число можно описать только алгоритмом, в котором оно полностью записано, т.к. такое число никак не поддается компрессии. Формально оно несет в себе максимум информации. Но несет ли эта информация какой-то смысл? Об этом теория информации не заботится, зато появляется определение логической глубины, которая отражает этот факт.

Есть еще пара глав, посвященная квантовым законам, квантовой телепортации и их отношению к информации. Здесь я совсем сдулся, но из важного в квантовой телепортации разбирается парадокс о том, что скорость перемещения превышает скорость света. Пародокс разрешается тем, что скорость перемещения информации о факте перемещения скорость света не превышает.

Далее рассказывается история создания квантовых компьютеров и их потенциальное применение. Главное отличие, подчеркиваемое в книге - это то, что из-за того, что кубиты представлют собой суперпозицию вероятностных состояний, квантовые компьютеры позволяют делать за разумное время некоторые операции, такие как факторизация больших чисел, которые невозможно осуществить даже за не разумное время на обычных архитектурах за счет параллелизации процесса.

Последние главы книги все более научно популярные, идет разговор про википедию, ноосферу и все прочее, читать уже не так интересно, в конце прямо тоскливо.

Если взять из книги середину про двадцатый век, то получится лучшая книга на свете, настолько все интересно написано, и настолько хорошо автор разбирает разные понятия. Если честно признаться, я нигде еще такого понятного определения информации и разбора соответствующих теорий и определений. Картину временами портит словоохотливость автора, который с радостью пускается в пространные рассуждения о предмете и делает это с таким энтузиазмом, что книгу хочется бросить.

Еще из интересного стоит отметить роль больших корпораций типа IBM или AT&T, которые держали многих из ученых на балансе и давали им работать над чем угодно без всяких претензий, планов и отчетов. Результатом стало то, что наша современная реальность стала возможна. Если такое где-то сейчас? Может быть где-то в том же IBM, не знаю.

Tags: из прочитанного
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 2 comments