can3p (can3p) wrote,
can3p
can3p

Categories:

Из прочитанного. Выпуск 47

1) Dictator's Handbook, Bruce Bueno de Mesquita, Alastair Smith

1 / 5

Эта книжка - типичный пример целого легиона подобных, я когда-то уже жаловался. Обычно стоит насторожиться сразу, как только вместо описания книги идет серия цитат из нью йорк тайм, гардиан и прочих пузатых и важных газет, а также пузатых и важных людей.

Еще больше стоит насторожиться, если авторы с первой страницы начинают рассказывать о том, как они здорово все придумали, вместо того, чтобы начать рассказывать о предмете.

Ну а если на пятой странице введения авторы рассказывают ГЛАВНУЮ ИДЕЮ и сразу же приводят пример, то можно сказать уже вполне определенно, что дальше нового ничего не будет.

Более того, часто и инсайта большого нет. В этой книге, например, авторы поставили себе целью доказать, что политики преследуют личные цели при захвате власти, а потом всеми силами держатся за нее. Спасибо, мы не знали!

А еще, предлагают универсальную схему описания любого политического режима. Надо разделить все население на три слоя - те, кто могут голосовать на выборах, те, чье слово действительно влияет на выборы, и те, без чьей поддержки любой режим рухнет. Это пирамида, как сами, понимаете, и в зависимости от ее формы можно получить диктатуру или демократию. Дальше я не читал, но предположу что еще страниц двести авторы будут натягивать эту пирамиду на разные реальные примеры, чтобы доказать, что она есть.

Ах да! Если сразу же во введении после гипотезы вам приводят пример, то можете точно ожидать, что автор будет этот пример мусолить всю книгу, прямо как здесь.

2) Homo Deus, Yuval Noah Harari

5 / 5

Этот Харари - большое трололо. Я начал слушать книгу и порой плевался от возмущения, но потом оказалось, что это просто вступление.

Автор начал с утверждения, что тысячи лет вплоть до двадцатого века у людей было три проблемы - не умереть от голода, от болезней и от войн. Все три причины были вполне реальными угрозами. На протяжении всего времени плохой урожай мог стоить жизни четверти населения, болезни уничтожали порой половину населения стран и регионов, а в случае в Америкой или Гаваями, порой вымирало почти все население. Война была нормой, ее отсутствие - просто паузой, которая могла кончиться в любой момент.

В двадцатом веке впервые удалось накормить все население, по крайней мере так, что уже сложно встретить людей, которые не ели несколько дней, и от ожирения или кока-колы умирает больше людей, чем от недоедания. С болезнями тоже удалось справиться, и уже не происходит таких пандемий, как раньше. Новые вирусы удается локализовать и купировать, и их ущерб минимален. Детская смертность упала до единиц процетов. Войны тоже уменьшились в масштабах и стали не такими кровопролитными. Если раньше десятки процентов от всех погибших в мире приходились на войны, то теперь эта цифра стала значительно меньше. Т.е. можно утверждать, говорит Харари, что мы с этим справились, но что будет дальше?

Дальше он говорит, что люди будут бороться за бессмертие, счастье и обретение сверхчеловеческих возможностей.

Интересно, что он как и Россем тоже задается вопросом, зачем изучать историю. Его ответ такой - с помощью истории невозможно предсказать будущее, потому что каждый момент жизни уникальный. Но что история дает - так это контекст, информацию о том, как и почему мы пришли к ситуации, в которой находиммя, а это уже ценно. Многие предсказания не сбываются именно потому, что люди, зная их, принимают меры к тому, чтобы предсказания не сбылись. Зная исторический контекст, можно направлять события в направлении, которое сделает ситуацию лучше, но как будет выглядеть будущее, сказать никто не сможет. Как пример автор приводит интернет 25 лет назад. Кто тогда мог сказать, что он станет тем, чем он стал сейчас? Кто бы мог подумать, что у нас будут смартфоны?

Следующие части книги более или менее интересны, для меня наибольшую ценность представляло не только мнение автора, с которым трудно спорить, а скорее спектр тем и вопросов, которые он поднимал, потому что когда книга вызывает в тебе бурное возмущение, несогласие, потом интерес, и так по кругу - это всегда очень и очень хорошо. Иногда я терялся в его рассуждениях, сложно было следить за доолгой мыслью во время езды на велосипеде, по-этому мог что-то упустить.

Автор начал с анемистических религий, а потом перешел к когнитивной революции, о которой он так много писал в предыдущей книге. Ее он рассматривает в контексте появления новых религий, в которых человек уже не рассматривается на равне с животными, а противопоставляется им. По его мнению это было неминуемо в контесте развития животноводства и всех тех ужасов которые происходят с домашним скотом (далее история про свиней, которым не дают даже двинуться, отрезают пятачки и т.д.).

Прежде всего - почему человек смог так сильно развиться по сравнению с другими животными? Харрари утверждает, что главная причина - это возможность незнакомых людей организовываться для достижения высших целей даже при том, что отдельные/множество людей гибнут или страдают. В этом смысле он предлагал рассматривать религии и современные корпорации как одно и то же явление. Он создают воображаемую реальность, которая существует только в головах людей и только, пока они в нее верят, но именно она позволила когда-то построить пирамиды, а сейчас получить тот мир, в котором мы живем.

Как противопоставление возникли представления о сознании, душе и воле, которые есть у человека, но которых нет ни у кого больше. Но, спрашивает автор, где же они? Как оказывается, никто ничего подобного в человеке не обнаружил, мало того, происходит обратный процесс, когда многие вещи, считвашиеся личностью человека, оказываются следствием вполне определенных химических или биологических процессов, что ставит под сомнение все три явления.

Наоборот, вполне доказано наличие эмоций у животных и тот факт, что эти животные страдают вполне определенно из-за действий человека.

С душой все понятно, никто не нашел. Но что же с индивидуальностью и свободой воли?

С ними сложно, т.к. очень часто то, о чем мы думаем как о свободном волеизявлении, таким не является. И мало того, зная то, как формируются поступки или мысли людей, можно этой волей управлять.

Автор приводит много аргументов, например:

  • Самый простой способ убедиться, что не вы формируете свои мысли. Остановитесь и понаблюдайте за своими мыслями. Откуда они появляются в вашей голове? Вот то-то
  • Альтернативный пример с мышами, которым вживляют электроды в мозг. Суть в том, что электроды подключены к пульту, и если там нажать кнопку "налево", и мышь действительно бежит налево, то происходит воздействие на ее центр удовольствия (или что-то вроде, не помню). В результате мышь начинает слушаться пульта вполне добровольно. Но можно ли это назвать свободой воли?
  • Еще один пример, который он привел уже касательно людей. Большая группа подопытных, им в произвольном порядке предлагают опустить руку в очень холодную воду на короткий промежуток времени, а потом опустить руку в такую же холодную воду на такой же промежуток времени, после которого вода чуть-чуть теплеет. Дальше у подопытных спрашивают, какой бы вариант они повторили бы лучше. Интерес в том, что подавляющее количество людей выбрало второй вариант, несмотря на то, что по факту там они держали руку в холодной воде значительно дольше. Как так?

Экспериментаторы объяснили это тем, что в каждом человеке есть два подсознания - одно, которое непосредственно переживает события, и второе, которое потом создает истории на его основе (что сильно перекликается с Мэнсоном, кстати). Чего Мэнсон не сказал, и что является самым важным моментом здесь - подсознание, сочиняющее истории, не воспринимает время! Оно просто берет самый плохой и самый поздний опыт отонсительно события и как-то их усредняет, на основе чего и создается воспоминание.

Почему это важно, и почему это плохо для свободы воли - потому что здесь ей легко манипулировать, что и делают политики везде и всюду. Достаточно под конец срока надавать подачек населению, и большинство уже не вспомнит, какой там ужас творился до этого, и спокойно переизберет. Вот тебе и свобода воли.

Знание о существовании разных подсознаний подкладывает мину еще и под понятие индивидуальности. Автор говорит об еще одном эксперименте, когда некоторым больным эпилепсией механически убирали возможность коммуникации между двумя половинами мозга. Что произошло потом - оказалось, что половины мозга думали по-разному и отвечали тоже, т.к. одна часть мозга была ответственна за движения, а вторая за речевой центр. В результате случалось, что подоптный отвечал одним образом, а его рука в этот момент карябала совсем другой ответ (в книге описан более полный эксперимент, в котором менее очевидно, что подопытный мог просто подыгрывать, но источник я не проверял).

В результате получается, что индивидуальности человека, как чего-то неделимого нет, и в каждом индивидуме живет как минимум несколько, на которые можно влиять по-разному.

Автор тратит на это так много времени, потому что дальше он проходится по тому, почему либерализм победил в веке двадцатам, и почему это знание может подорвать его в веке двадцать первом - в его основе как раз лежит предположение об независимой индвивидуальности и свободе воле каждого человека. Если их нет, то нет и базиса для либерализма.

В заключительной части автор пробегается по опасностям в будущем на основе всех этих размышлений.

Одна из опасностей - это исчезновение многих видов работ для людей. Тут он не стесняется говорить и про ватсона, и про самоуправляемые машины, и про гугл, который знает людей лучше, чем кто бы то ни было, и сможет давать им рекоммендации лучше, чем врач или бюро путешествий.

Это первый момент, когда я с ним не согласился сильно. Да, часть профессиий отмирают, но те области, по которым он прошелся, потребуют еще много лет для достижения какого-то успеха. Сами машины всюду еще не ездят, с ватсоном оказалось не все так просто, мы все-равно выбираем направления для путешествий сами, и на нас влияют больше наши знакомые в соц сетях, чем рекомендация конкретного алгоритма.

Мало того, поболтавшись вокруг вопроса машинного обучения в этм году, я теперь вижу, что задача здесь еще сложнее. Каждый вопрос, который он предлагал рассмотреть решенным, на самом деле сложно формализовать. Что значит лучшая рекомендация для следующей поездки? Лучшая для кого? Лучше - это что? Критерии - это какие? Понятно, что сейчас можно собрать много информации, но пока еще нет простого способа точно определить, что ты не учитываешь, и что может быть критически важно в данной задаче.

Это условие не праздное - возьмите ту же ленту фейсбука, которую оптимизировали вроде для людей, но на самом деле для продажи большего количества рекламы, что привело к самым разным проблемам вроде информационных пузырей или радикализации и разделению мнений.

Но другой факт мне кажется очень важным и опасным: концентрация огромных массивов информации в одних руках означает как следствие и огромную концентрацию власти, что показал опять же фейсбук со всеми историями про влияние на выборы.

Именно владельцы алгоритмов представляют собой большую опасность.

Следующее интересное рассуждение - автоматизация и алгоритмы позволяют небольшому количеству людей жить значительно лучше других и от них не зависеть. Вопрос - продолжат ли они печься о других людях, если эта разнница еще более усилится?

Образование, медицина развивались бурными темпами не только потому, что люди боролись за свои права, а потому что от этого был вполне конкретный экономический эффект - такие люди лучше воевали и эффективнее работали. Но если предположить полную автоматизацию, такого количества образованных людей больше нужно не будет, что будет с этим трендом после этого?

Дальше он садится на своего конька про сверхлюдей будущего и рассматривает предыдущий вопрос еще и в этом контексте. Самые разные улучшения будут прежде всего доступны богатым людям, что сделает их еще эффективнее и еще богаче, а следовательно еще больше расширит пропасть между бедными и богатыми.

Все это теоретический вопросы, о которых стоит подумать, но меня не отпускает сомнение, что их сложно предугадать, т.к. именно рассмотрение многих вопросов полностью меняет предположительные исходы, как в квантовой физике.

Например, если схема влияния на человек понятна, то человек можно легко научиться воспринимать и избегать подобных влияний. Знаешь про два подсознания - учитывай это, знаешь про то, что в тебе определенные процессы запускаются химией - учитывай это.

Если мы знаем, что тотальная концентрация информации опасна, если мы знаем, что цели больших корпораций являются именно их целью, а не целью людей - мы это можем учесть и направить будущее туда, куда нужно именно нами.

Спасибо Харари. Я сначала поставил книжке 4, но, увидев, сколько я понаписал, понял, что такого количества мыслей и эмоций средняя книжка содержать не может.

P.S. Достаточно сильный эмоции вызвала последняя глава, почти готовился стереть отзыв. Харари для книги выбрал очень хитрый прием - он набрасывает доводов по поводу одной из тем, например, как хорош капитализм. И только ты уже внутренне готов ответить на его аргументы, как читаешь черным по белому - "с другой стороны, капитализм - отстой по той или этой причине". И так всю книгу. Наверное, ничего еще меня так не выводило из себя. В результате с этой книгой почти невозможно спорить по существу, в любым аргументам сразу в комплекте идут аргументы против, а над ними Харари весь в белом.

В паре мест он, конечно, промахнулся совсем. Например, в рассказе о том, как данные захавают этот мир, он постоянно упоминает интернет вещей, но ей богу то, что он имеет в виду - это не сотни датчиков и прочие микро и макро устройства, которые собирают информацию или автоматизируют что-то, а скорее мифические могучие алгоритмы.

С алгоритмами у меня тоже были смешанные чувства. Да, алгоритмы нас захавают, ага. Но это примерно так же, как утверждать, что современный поезд решит сожрать инженеров. Алгоритм - это инструмент для достижения цели, такой ка оптимизация, быстрый поиск, кластеризация и так далее. Он не умный, не тупой, он как гаечный ключ на двенадцать. Бывает алгоритм проще или сложнее, но что у него отсутствует, так это воля и целеполагание, их надо задавать, и чаще всего алгоритм это не определяет.

Возьмите к примеру A* - класический алгоритм для поиска оптимального пути. Все слова - поиск, путь - это термины, которые определяет не алгоритм, а программист для решения своей проблемы, которую можно втиснуть в рамки организма. И это важно, потому что точно задавать цели получается только для отдельных проблем, дальше все становится гораздо сложнее.

Поэтому говорить, что данные или алгоритмы нас поработят или поставят нас в ранг животных или на крайний случай биологических роботов - это довольно смело. Интересный момент, который он с другой стороны подмечает, что обмен информацией сейчас часто занимает все время. Начинаешь отвечать на сообщения в whatsapp утром, продолжаешь в телеграме днем, заканчиваешь электронной почтой вечером.

Еще один момент, который стоит обсудить. Во всех его размышлениях есть скрытое предположение, что в итоге человека получиться полностью декодировать и изучить все его биологические алгоритмы, тем самым доказав, что он - это просто биологическая машина, и ничего более. Возможно, но также возможно и то, что подобные изыскания уткнутся в фундаментальные оганичения. Например, что есть ограничение современных алгоритмов, которое в принципе не позволяет описать какие-то процессы (см первую зиму AI)). Может все упереться и в вычислительные возможности. В той же школе в курсе термодинамики нам рассказывали, что мы бы могли движение всех молекул газа описать с помощью гигантской системы уравнений на основе законов Ньютона, но для этого не хватит никаких вычислительных мощностей.

С другой стороны (прочитал Харари, сам стал Харари), сама линия на поиск алгоритмов в человеке мне кажется супер интересной и перспективной, особенно если ее соединить с поисками AGI (artificial general intelligence) с другой стороны. Что здесь интересного - если человека пытаются разчеловечить, доказать, что души нет, то с AI стараются наоборот перешагнуть рубеж, после которого можно будет сказать, что оно само себя осознает. А ведь можно где-то в центре и встретиться.

Tags: из прочитанного
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 2 comments