Критическое мышление

Почему нам кажется, что реальность работает каким-то определённым образом? Откуда берутся убеждения о том, как устроены явления окружающие нас? Должны ли мы одинаково доверять всем таким убеждениям?

Откуда берётся Карта?

Начнём с чистого листа. Буквально. Представьте, что у Вас нет никакой карты, только лист бумаги и чертёжные принадлежности. Как Вы можете её нарисовать?

Вариант 1: Вы можете пойти и посмотреть, что там на территории. Если увидите дерево, то можете нарисовать дерево. В данном случае связь между деревом на территории и деревом на карте максимально короткая. Дерево на карте существует, ПОТОМУ что Вы увидели его на территории. Конечно, на деле Вы могли немного промахнуться. Поставить его чуть левее того забора. Но связь короткая. Вы, по крайней мере, не перепутаете дерево с горой. Хотя всё ещё можете перепутать куст с собакой, особенно ночью.

У данного варианта есть минус. Территорию нужно обходить самостоятельно, а много Вы так не обойдёте.

Вариант 2: Скопировать ранее составленные карты других людей. Вариант очевидно хорош. Так Вы сможете быстро составить представление об огромной территории.

Но есть и минус. В этом варианте наше представление строится на картах, которые мы сами не составляли. Мы не знаем насколько ответственно подходили к составлению карт наши предшественники. К тому же их карта может быть простроена на базе других карт. Чем длиннее цепочка до территории, тем сильнее куст напоминает нам собаку.

Получается, что первый вариант - точный, но очень медленный. Второй неточный, зато очень быстрый. Вот если бы был способ как-то проверять карты других людей. А может он и есть?

Свидетельства за и против

Генерал сидел в штабе. Вокруг одни враги. В штаб зашёл его подчинённый майор разведки. Он принёс карту новой местности, на которой вчера с трудом закрепились. Но ведь кругом враги, что если они подменили карту у майора прямо перед входом? Или может майор сам уже враг? Ох уж эти шпионские игры. Но как проверить соответствует ли карта территории? В течение часа, ломая голову над этим вопросом (а ещё над вопросом, не живёт ли он в симуляции врагов), Генерал решил предпринять максимально нестандартный для себя ход. Он решил сравнить кусок карты, описывающий опушку вокруг штаба и собственно опушку вокруг штаба. Он вышел и посмотрел вокруг. Опушка соответствовала. Но Генерал не стал делать вывод обо всей карте сразу. Однако он отметил, что раз здесь карта совпала с территорией, он ОБЯЗАН чуть-чуть повысить своё доверие к ней.

Давайте назовём ситуацию, когда Вы обнаруживаете объект с карты на реальной территории свидетельством в пользу этой карты. Ведь прогноз карты сбылся, а это явно говорит за то, чтобы ей доверять.
Если же карта не предсказывает какой-то объект на территории, или предсказывает несуществующий объект назовём это свидетельством против данной карты.

Убеждения, как и карты, рождают прогнозы. Если прогноз сбывается, это свидетельство в пользу убеждения (подтверждающие), если прогноз не сбывается свидетельство против (опровергающие).

Доверяйте свидетелям тогда, когда не задеты их интересы, их пристрастия и предрассудки, а также жажда чудес. Когда же замешаны эти чувства, требуйте подтверждений тем больше, чем сильнее противоречат вероятности их утверждения Томас Генри Гексли.

Баланс свидетельств

А ещё Генерал решил, что он тем слабее повысит своё доверие к карте (и Майору), чем меньшую часть карты он проверил. То есть если карта описывает целый континент, а он осмотрел только одну опушку около штаба, то его уверенность в данной карте должна повыситься совсем незначительно. А если карта описывает совсем маленькую территорию (в два раза больше опушки, например), то это обязано сильно повысить его уверенность в ней. Если же он проверит три опушки, а совпадут две, значит стоит ожидать, что из следующих трёх опушек одна вновь будет неверная. Необходимо обновлять свою уверенность в карте с каждой новой опушкой.

Самый лучший вариант это когда наша уверенность строго возрастает, каждый раз, когда мы видим свидетельства в пользу карты. И столь же неуклонно падает, когда мы видим свидетельства против. Причём, чем сильнее промах, тем сильнее падает наша уверенность. А чем незначительнее совпадение, тем слабее она растёт. Ваша уверенность должна быть напрямую связана с балансом свидетельств. Всё как завещал Генерал.

Проверять уверенность в убеждениях, которые мы активно используем для прогнозов и транслируем другим вполне посильно. Мы неизбежно сталкиваемся с огромным потоком свидетельств, которые могут помочь в проверке. Но это работает, только если мы вообще будем их проверять. К счастью, для начала достаточно хотя бы иногда задумываться над тем, какие свидетельства обосновывают нашу уверенность в конкретном убеждении? Это быстро входит в привычку.

Безошибочный признак любви к истине, не принимать никакую гипотезу с большей уверенностью, чем позволяют доказательства, на которых она основана Джон Локк.

Доверие источникам

Источник (человек, сообщество, организация) предлагает Вам некие убеждения. В идеале доверие к этому источнику должно зависеть только от сбывшихся или несбывшихся прогнозов на основе предлагаемых им убеждений. То есть от свидетельств.

Иными словами, если Вы кому-то (или во что-то) сильно верите, Вы ОБЯЗАН иметь много свидетельств за (тут дело и в качестве и в количестве, как и завещал Генерал). То есть причиной доверия к источнику, служит то, что он даёт Вам точные убеждения. А точность этих убеждений определяется балансом свидетельств.

Таким образом авторитет и репутация это производные от точных прогнозов. Никак не наоборот. Как только авторитет ошибается, мы неизменно снижаем доверие ему. Но у него есть запас. А вот авторитет, который постоянно ошибается это оксюморон.

Абсолютно слепая вера

Как только мы отвязываем нашу уверенность от свидетельств мы слепнем. Если мы придём к Генералу и скажем ему, что карта верна вне зависимости от того, что он видит на опушке, он сочтёт нас за шпиона. Но предположим, мы всё же верим, что карта описывает территорию на 100% точно. Что мы должны делать, если своими глазами увидим свидетельство против? Игнорировать территорию не лучшая идея. Если абсолютная карта говорит что впереди мост, а Вы не видите моста, то помните: реальность не спросит Вас, во что Вы верите.

Есть ещё одна причина не верить в карты, которые говорят о своей абсолютной точности. Она связана с вопросом о том, почему приходится считать баланс свидетельств, а не просто отсеивать любые карты давшие хотя бы однажды неточный прогноз. Но об этом в ближайших статьях.

Псс. А ещё у меня естьканал в телеграмме.

В статье про свидетельства мы разобрались, почему Карта соответствует Территории (и уточнили, что это соответствие никогда не полное в другой статье). Это происходит, потому что мы подгоняем свою Карту под Территорию. Но вот интересный вопрос: может ли Карта влиять на Территорию? Кажется, нет. И вот почему.

Односторонняя связь

Что произойдёт с Территорией, если Вы дорисуете на её Карте гору? С Территорией от этого не произойдёт ничего. Какие бы изменения Вы не вносили в карту, или даже во все карты, на территории от этого не произойдёт никаких изменений. Карта основана на территории. Не наоборот!

Референдум о законах

В науке самые важные места занимают те, кто смог опровергнуть постулаты чьих то убеждений. Особенно основополагающих Терри Пратчетт.

Именно из-за односторонней связи степень нашей уверенности в убеждениях обязана строго соответствовать балансу достоверных свидетельств. Реальность не подстраивается под наши ожидания. Как раз наоборот: единственный способ привести наши ожидания в соответствие с тем, что будет это изменить их.

Этот закон никак не может изменить не сила нашей уверенности в убеждениях, ни количество людей, которые так же уверены в этом убеждении. Если два инженера простят друг другу общие ошибки, то обе собранные ими ракеты все равно не полетят! Даже если все инженеры мира соберутся и договорятся считать незначительным некоторое нарушение в сборке ракет и Илон Маск напишет об этом в своём Твиттере, эти ракеты с ошибками все равно не полетят.

Так происходит потому, что реальность не интересуется нашими убеждениями о том, как она должна работать. У неё просто нет такого механизма. Не происходит ничего напоминающего выборы, когда реальность опрашивает, а работает ли сегодня, по мнению людей гравитация? До открытия гравитации, люди падали преимущественно вниз, как и сегодня. И это происходило вне зависимости от их убеждений.

Учёные не решают, какими будут законы природы. Они их просто угадывают. А затем проверяют свои прогнозы, сопоставляя их с реальностью. Кажется, нет никаких оснований полагать, что в обычной жизни эти принципы работают как-то иначе.

План завтрашней территории

Прочитав текст выше Генерал решил, что это дезинформация. Ведь пока противник рисует карты наступления, мы меняем ландшафты. Причём в ручную. Мы что, не можем завтра накопать гору и привести территорию в соответствие с картой, на которой нарисовали гору сегодня? Прикинув количество солдат, минимально необходимого для осуществления данного плана, Генерал всё же решил дочитать текст.

Отвечая на вопрос Генерала, можем ли мы накопать гору завтра: можем. Но это не изменит несоответствие нашей сегодняшней карты и сегодняшней территории. Мы сегодня имеем неточную карту (ведь там, где на территории равнина, на карте гора). Можем назвать её планом завтрашней территории. Тогда завтра мы можем затратить конкретное усилие на подгонку сегодняшней территории под план завтрашней. Есть одна загвоздка Для этого нам всё равно сегодня нужна точная карта сегодняшней территории. Карта с нарисованной горой будет планом, только если у Вас есть точная карта без горы. Если Вы с этим не согласны, то Вы вскоре обнаружите себя накапывающим гору посреди океана.

Грани будущего

Произведение оптимизма на знания - величина постоянная Лев Ландау.

Мы, наши убеждения и наше поведение это часть реальности. Наше поведение, конечно же, зависит от наших убеждений. При этом наше текущее поведение активно влияет только на будущую реальность. Причём влияние это строго подчиняется определённым законам, которые вообще никак не зависят от наших убеждений.

Вы можете переместить шарик, взяв его рукой из коробки и переложив в корзину. Вы не можете переместить шарик, подумав: ага, теперь он в корзине. Хотеть и верить недостаточно (несмотря на сильное желание и искреннюю веру создателей псевдонаучного фильма Секрет). Это происходит потому, что в реальности шарик все равно в коробке. И чтобы он оказался в корзине, его НЕОБХОДИМО переместить. То есть совершить действия отличные от изменения Ваших убеждений. Таков закон, верите Вы в него или нет.

Псс. А ещё у меня естьканал в телеграмме.

Точные убеждения - это знание о том как работает реальность вокруг нас. Причём знание не абстрактное, а дающее вполне конкретные прогнозы. Собственно точными убеждения становятся только в случае, если их прогнозы имеют тенденцию сбываться. Их приобретение связано с рядом значительных издержек, но кажется они всё же стоят того.

Вернёмся к аналогии введённой ранее: Реальность это территория, а наши убеждения о ней это карта. Это статья о том, почему для путешественника точные карты ВСЕГДА более ценны (в своём масштабе).

Ценность точных карт

У путешественника есть три весомых причины любить и ценить точные карты.

Во-первых: они позволяют ставить любые цели, которые существуют на территории. Представьте, мы снаряжаем экспедицию (или просто тратим весь свой отпуск на путь) до красивейшего архитектурного сооружения. А после узнаём, что оно есть только на нашей неточной карте. И более того, на территории оно не просто где-то не там, - его вообще не существует. Вы и сами можете припомнить такие ситуации. Весьма досадно. Но это закономерная расплата за неточные карты.

Во-вторых: они позволяют выбирать оптимальный маршрут. Если мы имеем достаточное количество информации о территории, мы можем сравнить различные пути достижения целей и выбрать наиболее подходящий. Обратите внимание, чем больше у нас достоверной информации, тем более очевиден выбор маршрута с любыми критериями. Даже если нашим выбором будет сложный маршрут это всё же будет выбор. Куда обиднее попасть на сложный маршрут интуитивно, и героически его, преодолев, обнаружить короткий маршрут, по которому все уже давно прошли.

В-третьих: они делают территорию предсказуемее. Возможно, у нас ещё нет цели, и мы не строим никакой маршрут. Тем не менее, даже на прогулке хорошо бы снизить количество сюрпризов. Ведь они могут быть как приятными, так и фатальными. Но без точной карты, невозможно выбрать только приятные (иногда это невозможно и с точной картой из-за особенностей территории, но у Вас будет ВБОР!). Есть вполне резонное замечание: предсказуемый сюрприз - уже не сюрприз. Но, к сожалению, мы не имеем опции иметь неожиданные приятные сюрпризы, но знать обо всех опасностях. Мы либо знаем, что за поворотом, либо нет.

Предсказуемость важна, даже если мы собираемся просто стоять на месте. Ведь территория непрерывно меняется. А если преуспеть в отрицании ценности точных карт, можно не заметить приближающийся ледник, пока он вежливо не попросит нас подвинуться.

Оттенки серого

Если Вы уже готовы возразить, что карты нельзя просто так взять и поделить на точные и неточные, скорее всего это первая статья из цикла с которой Вы познакомились. В таком случае сообщаю: не беспокойтесь я уже возмутился против себя за Вас. Даже дважды.

Да, карты нельзя поделить на точные и неточные. Но это не запрещает нам сравнивать их точность. То есть, взяв две карты приблизительного одного масштаба изображающих одну и ту же территорию, мы можем выбрать ту, что точнее по имеющимся свидетельствам. Затем мы можем обновлять данное сравнение с каждым поступающим свидетельством.

Если мы стараемся придерживаться данного принципа, мы увеличиваем вероятность получения всех преимуществ из прошлого пункта. Увеличиваем вероятность, а не гарантируем. Ведь отлично путешествовать можно даже без карты. Вопрос лишь в вероятности успеха такого предприятия. Про эти вероятности мы ещё поговорим в заключительной статье цикла.

Бесценные карты

И как обычно с вопросом курицы и яйца, ответ - Да Дэниэл Деннет.

Ранее, я предложил общий принцип сравнения карт. Коротко напомню суть.

Карта это прогноз (образ) того, что мы ожидаем увидеть на территории. Представьте себе двух путешественников, у одного из которых на карте есть гора, а у другого там же поле. Максимум один из них (а возможно ни один, но никак не двое) имеет точную карту. К счастью, эти карты возможно сравнить. Если выйдя на территорию, мы получаем свидетельство в виде горы, то вопрос решён, как и если мы получаем обратное свидетельство. Конечно, практическая реализация данного принципа упирается в известные камни. Но сравнение карт всё же принципиально возможно.

Однако не всё на карте относится к прогнозам наших ожиданий. Что если мы поменяем название горы? На одной карте гора называется Арта, а на другой Берта. Они предлагают один и тот же образ. Можем ли мы проверить, каково реальное название? И где на территории нам его искать?

Представьте себе двух путешественников, у одного из которых гора обозначена как треугольник, а у другого как стрелка вверх. Несмотря на то, что у них один и тот же образ территории, у них как будто есть повод для разногласий. И эти разногласия не разрешить, поднявшись на вершину горы.

Есть ещё более сложная ситуация. У одного из путешественников, есть карта с изображением принципиально недостижимой территории. Такая ситуация называется претензия на неопровержимость. Второй путешественник не может утверждать, что данная карта неточна. Ведь свидетельства можно получить только на достижимой территории. А если недостижимая территория никак не влияет на достижимую, то её карта действительно неопровержима.

У карт недостижимых территорий, условных обозначений и названий гор есть нечто общее. В плане взаимодействия с территорией и всех преимуществ точных карт - они бесценны. Буквально. Их ценность в любом из данных аспектов равна нулю. Ведь если бы они как то влияли на достижимую территорию, по которой мы ходим, мы могли бы получить свидетельства их точности (и присвоили бы им ценность).

Плавающие убеждения

Я никогда не отдам жизнь за свои убеждения. Ведь я могу ошибаться Бертран Рассел

Давайте отвлечёмся от нашей аналогии и вернёмся к убеждениям. Что если убеждение даёт один и тот же прогноз, как в случае своей верности, так и наоборот? Здесь нам поможет Блок. Который поэт. Представьте себе мир, в котором Блок поэт серебряного века. Вам кажется, что мы живём как раз в таком мире? Давайте попробуем представить мир, в котором Блок не поэт серебряного века. Что мы должны увидеть в таком мире? Возможно, Вы сразу подумали о том, что мы будем как то по-другому сдавать экзамены по литературе. Но я говорю не о мире, где мы НЕ НАЗВАЕМ Блока поэтом серебряного века. Я говорю о мире, где Блок в реальности не поэт серебряного века. Я веду к тому, что два этих мира отличаться не будут. Потому что нет никакой реальной штуки, которая существовала или существует в мире, и называется серебряный век русской поэзии. Мы не можем обнаружить его присутствие или его отсутствие. Мы можем договориться называть что угодно этим словосочетанием, прямо как с названием горы на территории. Но утверждение Блок - поэт серебряного века совершенно ничего не говорит о том, как должен выглядеть мир, где оно не верно. Такие убеждения называются плавающими, за отсутствие якоря ведущего к реальности.

Проблема заключается в том, что плавающие убеждения выглядят точь-в-точь как нормальные убеждения о реальности. Они как будто бы должны иметь ценность в зависимости от точности.

Рецепт поимки плавающего убеждения:

• представить мир в котором данное убеждение верно

• представить мир в котором данное убеждение неверно

• если миры совпадают, плавающее убеждение попалось

• если миры отличаются, мы знаем как понять в каком мы живём

Но зачем их вообще ловить? Напомню, что склизкая штука весом 1,3 кг у нас в черепе отбиралась эволюцией именно на точность прогнозов. Дисковое пространство и оперативная память там имеют серьёзные ограничения. И если этого не достаточно, чтобы начать избавляться от плавающих убеждений, то подумайте вот о чём. Подобные убеждения имеют поразительную способность рождать принципиально неразрешимые споры. Такие споры частенько перерастают в серьёзные конфликты или даже войны. Понаблюдайте за ближайшим спором, который произойдёт при Вас. Будут ли у путешественников разные прогнозы, или они будут спорить о стрелке и треугольнике?

Причины рациональности

Уточнитезначение слов, и вы избавитечеловечествоот половинызаблуждений Рене Декарт

Чтобы дать определение рациональности в пространстве вещей, я начну с аналогии. Данную аналогию я ввёл чуть выше по циклу. Так что, если что-то выглядит странно, возможно так и должно быть.

До этого мы говорили о картах и о территориях. Теперь мы наконец поговорим о путешественниках. А ещё о двух главных свойствах любого из них: любопытстве и прагматизме.

Любопытство путешественника проявляется в желании иметь как можно больше информации о территории. Эта информация хранится в виде карт. При этом под любопытством понимается интерес именно к ТОЧНМ картам (а не к любым).

Прагматизм путешественника проявляется в желании ДОСТИГАТЬ вполне конкретные точки маршрута. Именно в желании достигать, а не в желании идти к ним. Здесь акцент на конце пути, а не на самом пути.

Давайте посмотрим, какими бывают путешественники по отношению к этим качествам.

• Есть любопытство, а прагматизма нет. Эти путешественники собирают максимальное количество карт. Их жизнь посвящена постоянной оптимизации и составлению суперточной карты. Кажется, как будто они знают всё о каждом кусочке территории. Но есть одно но. Они никогда не выходили из своей палатки. Они могли бы стать великими путешественниками, но отказались от этого в пользу изучения деталей территории.

• Нет любопытства, но есть прагматизм. Эти путешественники точно знают свою цель. Любые отклонения от маршрута для них - пустая трата времени. Они никогда не изучают что-либо кроме карты до своей цели. Зато на этом узком участке, они достигают поистине впечатляющей детализации и точности. Каждая кочка важна для них, если через них можно попасть к цели. Если дать такому путешественнику стопку точных карт других территорий, скорее всего он растопит ими костёр. Ведь это сэкономит время на поиск растопки, и позволит чуть быстрее достигнуть своей цели. К сожалению, таким путешественникам крайне трудно менять цели. Ведь придумать новую точку сложно, когда ВСЕ знания только об одном участке территории. Да и с чего бы им захотелось менять цель? Ведь у них отсутствует информация о том, что ещё существует на территории. Кстати, маршрут, который они постоянно шлифуют и уточняют не всегда оказывается оптимальным. Ведь если необходимо подняться по горнолыжному склону, иногда лучше будет идти назад, к подъёмнику. А о нём нужно ещё как то узнать.

• Нет ни любопытства, ни прагматизма. Эти путешественники отрицают ценность точных карт. Да и к какой-то конкретной точке маршрута они не стремятся. Больше всего их деятельность напоминает прогулку. Сегодня захотелось пойти туда, завтра сюда. Мир таких путешественников полон удивления. Каждый день, что-то новое полная непредсказуемость. Увидели красивую опушку, остановились, полюбовались. Попали под лавину, расстроились. Они не управляют своим путешествием. Часть из них получает неплохую экскурсию, часть выживание на грани. Но не те, ни другие не выбирают свой маршрут.

• Есть и любопытство и прагматизм. Эти путешественники понимают ценность точных карт, и постоянно обновляют информацию о территории. Более детальную о ближайших окрестностях, и хотя бы поверхностную обо всём остальном мире. Эти путешественники ставят себе цели. Но их информация о том, куда и как они могут попасть, постоянно возрастает. Это открывает широкие возможности к оптимизации маршрутов или даже выборе новых целей. Расплатой за любопытство становится то, что иногда они собирают карты совсем уж далёких от них территорий. Что ж, зато им есть, что обсудить с другими путешественниками.

То есть любопытство неизбежно требует хорошего навыка утончения карт. А прагматизм требует навыков передвижения по территории и оптимизации маршрутов. Путешественников, которые обладают такими навыками в разумном балансе, и стремятся к их улучшению, я и называю рациональными. Причём одни могли приобрести эти навыки по своему желанию, а другие получить в следствии сложившихся обстоятельств. Нет смысла их разделять, ведь в голове у них очень похожая прошивка.

Как это работает?

Существует немалое число людей, которые потратили достаточное количество адекватности на то, чтобы понять, как выработать такие навыки. Я назову только некоторых (возможно, вы захотите дополнить этот список):

Пьер-Симон Лаплас, Эдвин Джейнс, Даниэль Каннеман, Даниэл Деннет, Элиезер Юдковский, Скотт Александер

Что же полезного этим людям удалось выяснить о картографии?

Карты предсказывают картинку, которую мы должны увидеть на территории. При этом карты влияют только на прогноз картинки, но никак не на территорию. Каждый раз, когда прогнозы карт сбываются, мы называем это свидетельством За карту. Каждый раз, когда прогноз не сбывается, мы называем это свидетельством Против карты. Теория вероятностей говорит нам о том, как баланс свидетельств За и Против должен влиять на нашу уверенность в картах. Теория принятия решений говорит нам о том, как на основе имеющихся карт выбирать маршруты близкие к оптимальным.

И всё? Так нужно взять эти формулы и захватить мир прямо сегодня! Ну или хотя бы начать строить точные карты и принимать оптимальные решения. Эта идея с разгона влетает в две вещи:

• Сложность вычислений непригодную для практической реализации (или для краткости Хаос).

• Не самую удачную архитектуру нашего основного инструмента вычислений, который систематически выдаёт одни и те же ошибки. Эволюция проектировала наш мозг под совершенно иные задачи (но об этом в другой раз).

Значит это так не работает? Это работает почти так. И в ньюансах, которые составляют это почти, и кроется вся работа. Методы рационального мышления позволяют рассеивать часть Хаоса у нас в голове вопреки несовершенству нашего мозга.Что в сущности уже весьма неплохо.

Именно о таких методах, и их практическом применении я планирую писать сюда. Но сначала нужно развеять немного Хаоса вокруг самой рациональности.

Джентельменский набор стереотипов о рациональности.

Рациональность это про идеальный интеллект и отрицание интуиции

Как раз наоборот. Для анализа и вычислений не всегда есть время. И в таких случаях решение принимается быстро и в особом порядке. Это можно назвать интуицией. Даниэль Каннеман, Амос Тверски и ещё ряд исследователей подробно изучили этот особый порядок. И если вы хотите лучше принимать решения в мире, где большинство решений принимаются быстро, вам придётся оптимизировать этот процесс. Я вернусь к этому в отдельном цикле статей (примерно в таком стиле).

Рациональность это про эгоизм и получить всё здесь и сейчас

Рациональное мышление не подразумевает эгоизм и недальновидность. Скорее напротив. Рациональный путешественник более склонен к взаимовыгодной кооперации. Ведь многие маршруты оптимальнее преодолевать вместе. А стремление построить точные карты всегда ведёт к честному обмену информацией. И в обоих случаях репутация это стратегический ресурс. Желание кинуть или хапнуть не возникает потому, что оно не выгодно стратегически.

Рациональность это про обладание истиной

Нет, это не про хитрый способ доказать, что мы всегда правы. Это про хитрый способ понять когда мы неправы, несмотря на то, что изнутри кажется, что мы всегда правы. Поэтому рациональность, это скорее про призыв обменяться свидетельствами и сделать выводы по общим правилам. И призыв ни в коем случае не подкреплённый силой.

Рациональным можно стать

Нет такого набора действий, которые сделают вас пожизненно рациональным. Нет такой кнопки, которая переключает вас в режим идеального Байесовского агента до конца времени. Рациональным нельзя стать, но можно быть. То есть рациональность это про постоянное стремление к улучшению.

Рациональность это про отсутствие эмоций

Рациональное мышление не подразумевает отсутствие эмоций. Именно горящие глаза являются двигателем. Если цель не вызывает радости, а карта не вызывает интереса - то мотивации не будет. Так что наслаждение красотами территории для такого путешественника может быть даже более ярким. Однако рациональность против эмоций, порождённых неточными картами. Против страха несуществующих монстров, против радости от несуществующих сокровищ.

Рациональность это про критику других людей

Рациональность это про критику себя и своих убеждений. Рациональность начинается (и продолжается) с признания того факта, что лично мои убеждения неидеальны. Лично мои прогнозы сбываются реже, чем хотелось бы. Рациональность это не про то, что в интернете кто-то неправ. А про то, что в интернете не прав я.

Рациональность это про высмеивание штук вроде гомеопатии, астрологии и плоской земли

Рациональность это инструмент, чтобы отличать точные карты от ещё более точных. А совместное высмеивание неточных карт хоть и укрепляет командный дух, но не тренирует необходимые навыки. И прежде чем объявить какую то карту неточной, очень полезно бывает преодолеть кое-какую ограду. Я бы даже сказал забор, который назвали в честь одного дядьки (подробнее про это в отдельной статье).

Рациональность - это про риторику и умение донести свою позицию

Это важные инструменты. Но они работают симметрично для любой позиции. Снять крутой фильм, который все объяснит? Возможно для любого убеждения. Привести ряд фактов, которые кажутся убедительными? Тем легче, чем сложнее тема. Написать книгу? Ох, о чём только не пишут книги... Получается все можно использовать одинаково, вне зависимости от точности убеждений? Нет не всё! Но об этом в отдельной статье.

Рациональность - это о шагании по головам. Ведь любая победа - за чужой счёт

Эй, мы же не в монополию играем. В реальной жизни намного чаще встречаются игры с ненулевой суммой (выбор в какие игры играть, тоже часть стратегии). Не обязательно отнимать у других, чтобы получить это самому. К тому же подумайте о репутации такого путешественника. Мы кажется установили, что это ВАЖНО! Но доля правды здесь все же есть. Рационалист - это тот, кто использует выигрышную стратегию. А вовсе не тот, кто называет свою стратегию рациональной, но почему-то систематически проигрывает.

Рациональность - это про борьбу за правду

Любой новообращенный всегда фанатик, и многие чувствуют свой долг в том, чтобы стать войнами правды. В большинстве случаев это быстро проходит. А долину плохой рациональности (остальные случаи) предлагаю обсудить в другой раз.

P.s.

Очень рассчитываю на ваши дружеские пинки. Нет, я серьёзно. Надеюсь на вашу обратную связь, которая позволит мне обновлять баланс свидетельств чуть быстрее.

Если тема заинтересовала, думаю, вам интересно было бы ознакомиться с тем, что успели написать о рациональности вот эти ребята (или что успели перевести на русский вот эти).

Главный принцип - не дурачить самого себя. А себя как раз легче всего одурачить Ричард Фейнман.

В статье про рациональность, я оговорился, что рациональность начинается с критики своих убеждений. Расскажу о том, как я обнаружил, что необоснованно верю в неточные убеждения. И как это поставило меня в крайне неловкую ситуацию.

Делитель

В студенческие годы я активно участвовал в различных молодежных форумах. На одном из таких мероприятий я поучаствовал в тренинге по типологии личностей. Я не буду называть конкретную типологию, для целей статьи это значение не имеет. Механизмы подобных систем очень похожи, так что можете смело подставить любую знакомую вам (про Штирлица, козерогов или оральный вектор).

Эта типология обещала научить лучше понимать других людей, и при этом бонусом разобраться в себе. Она открыла глаза на то, что люди думают по разному и ценят разные вещи в жизни. Я быстро вник, определил свои тип, и начал раздавать типы всем своим знакомым. Попутно я прочитал книгу автора типологии, после чего стал распространять идею среди всех до кого вообще мог дотянуться. Так как общественная деятельность в студенческие годы кипела, дотянуться я успел много до кого.

В моём круге общения почти не осталось людей, которые не вникли в тему. Это породило особый жаргон, который внешне выглядел как что-то сектантское, но мы то знали, идея базируется на науке (так заверял автор технологии). Что самое забавное, этот таинственный жаргон скорее привлекал людей, чем отталкивал.

Люди задавали вопросы, высказывали скепсис и получали очень убедительно выглядящие ответы. Спасибо курсу дебатных технологий (по формату Карла Поппера). На тот момент я обладал весьма неплохими навыками убеждения. Я ведь упоминал, что риторика это обоюдоострое оружие для любой позиции?

Изнутри все выглядело так, как будто технология работает. Сомнений не возникало, все стандартные возражения были отработаны мною лично и пропущены через себя. Данное убеждение стало частью меня и моей жизни. Что могло пойти не так?

Состав

Не стану вдаваться в детали, но в какой то момент в мою голову влетел локомотив с большими красными буквами Критическое мышление. Признаюсь, я далеко не сразу сопоставил содержимое вагонов этого поезда и своей головы. Но на каком-то из вагонов для меня стало очевидно, что с типологиями вообще и с нашей в частности что-то не так. Вагоны далее идут примерно в том же порядке, в котором они проезжались по моей неадекватности конкретно в этой теме.

Вагон 1. Эффект Форера (он же - Эффект Барнума).

Психолог Бертрам Форер в далёком 1948 году попросил своих студентов заполнить тест, и пообещал составить точный психологический портрет каждого. 34 из 39 студентов высоко оценили точность описания. Вот только описание было одно на всех и взято было из газетного гороскопа. Свойство нашего мозга считать убедительными расплывчатые описания нашей личности назвали Эффектом Форера. Усиливает данный эффект два основных фактора: если описание подготовлено индивидуально для нас (после опроса или тестирования) и если описание составляет квалифицированный специалист, то есть авторитет.

Вагон 2. Апофения.

Наш мозг заточен на поиск закономерностей. И это круто, ведь позволяет нам устанавливать причинно-следственные связи. Но есть и побочный эффект, мы вычленяем закономерности даже тогда, когда их нет. Что ещё хуже, корреляции встречаются неизбежно, и тем чаще, чем больше параметров мы анализируем (есть даже сайт с забавными корреляциями). А именно корреляции наш мозг принимает за закономерности и превращает их в предрассудки. Здесь могла бы спасти статистика, но наша интуиция отказывается с ней работать. К тому же и в самой статистике есть сложности с обработкой подобных кейсов. Именно из-за этих сложностей рождаются аргументы вроде эффекта Марса.

Вагон 3. Нормальное распределение

Возьмём экстраверсию и интроверсию. Если оценить 100 случайных людей по шкале от 1 до 10 (где 1 = абсолютный экстраверт, а 10 = абсолютный интроверт), то получим мы... примерно вот такую штуку. Большинство людей будет сосредоточено вокруг средних значений, а абсолютно крайние значения будут самыми редкими. Это действительно для подавляющего числа характеристик которые прогнозируют типологии личности. Люди по любым случайно выбранным критериям будут скорее около средних значений, чем около крайних.

Вагон 4. Искажение подтверждения

Наш мозг устроен таким образом, что мы по умолчанию стремимся увеличить уверенность в уже имеющихся наблюдениях. Такое явление называется рационализацией или мотивированным мышлением (мы к ним ещё неоднократно вернёмся). Яркой демонстрацией этой склонности является эксперимент задача 2-4-8 Питера Уосона. Попытки опровергнуть то, во что мы верим - деятельность неестественная. Более того, хорошое владение формальной логикой, но ее выборочное применение, зачастую приводит к мотивированному скептицизму. Это как раз моя ситуация. После курса по дебатам, я легко находил ошибки в любых аргументах против моих убеждений. Проблема в том, что я даже не пытался искать такие ошибки в самих убеждениях. Зато я неплохо умел искать источники подтверждающие мои убеждения и упаковывать их в убедительно звучащие аргументы. Таким образом я систематически наращивал свою уверенность в убеждениях в отрыве от баланса свидетельств.

Вагон 5. Зависимость от трактовки.

Этот эффект отлично продемонстрирован в художественной книге Апофения Александра Панчина. Там астрологов привлекают в качестве экспертов в суде, но кодекс корпоративной этики запрещает им давать прогноз, если другой астролог уже сделал своё предсказание. Так и я, прежде чем определять тип всегда интересовался, а не определил ли человек сам себя, или не определял ли его кто-то из общих знакомых. Ведь решать задачу гораздо легче, когда знаешь к какому ответу тебе нужно подогнать решение. А вот если ответ не давать, то результаты уже будут отражать силу методики. Например, Джон Макгрю и Ричард Макфол решили проверить шестерых лучших астрологов штата Индиана (США). Они предложили астрологам установить соответствие между анкетами и гороскопами 23 человек. Значимыми были бы хотя бы 4 правильных совпадения для одного астролога. Но число правильных ответов ни разу не превысило 3 (а в среднем составило вообще = 1). При этом астрологов попросили оценить уверенность в правильности каждого сопоставления. Средний уровень уверенности составил 75%.

Вагон 6. Плавающие убеждения.

Коротко напомню суть: если модель способна описать любой исход это значит, что она не даёт никакого прогноза. В таком случае польза от неё почти нулевая, а вред вполне себе ощутим. А вы ведь помните как работают типологии, если их прогноз не удаётся?
Ты целеустремленный человек
Что есть, то есть
И для тебя очень важная работа, ты готов проводить там все свободное время
Ну вообще-то не совсем так
А, точно, иногда у представителей твоего типа есть такая особенность. Это делает тебя ещё более крутым...

P.s.

Перечитав черновик статьи, решил кое-что прояснить. Может возникнуть ощущение, что я знал, что данная типология не работает и намерено вводил людей в заблуждение, используя инструменты убеждения. Однако это не так. Изнутри это ощущалось именно как рабочий инструмент с понятным и прозрачным механизмом. После всех этих вагонов мне пришлось отказаться от использования данной методики. А ещё рассказать людям, многих из которых я лично вербовал и склонял к использованию данной методики, о своих наблюдениях. И конечно же, в этот раз многие из них были куда более критичны по отношению к моим аргументам.

Псс.А ещё у меня естьканал в телеграмме.

Многие критики, особенно наиболее ярые и философски подкованные, склонны, читая мою книгу, ограничиваться ее названием Ричард Докинз

Вы путешественник, встречающий посреди поля забор. Если вы не знаете для каких целей этот забор установлен, худшее решение - это снести его. Причём это решение плохо именно потому, что вы не знаете функционального предназначения забора. Возможно он охраняет вас от чего-то очень опасного. Возможно он используется не так, как вы предполагаете. Так или иначе ваше незнание о задачах, которые выполняет данная ограда вовсе не является поводом сносить её.

Этот факт подметил английский писатель Гилберт Честертон цитатой: Никогда не ломайте забор, не узнав, зачем его поставили. Он таким образом хотел предостеречь от необдуманных реформ. Но как данный принцип может быть применён вне политики, в повседневности?

Не спешите сносить

Наши убеждения чем то похожи на заборы, о которых писал Честертон. Когда мы сталкиваемся с новым убеждением, которое кажется нам нелепым, у нас встаёт тот же выбор. Мы можем немедленно начать демонтаж. То есть промаркировать данное убеждением как глупое, а всех его носителей как людей недалёкого ума.

Но принцип Забор/ограда Честертона предлагает нам разобраться с какой целью и на каких основаниях существует убеждение, прежде чем бороться с ним.

Для этого нам понадобится пятьдесят грамм любознательности и тонну непредвзятости (зачем столько непредвзятости опишу в будущей статье про стилменинг и идеологический тест Тьюринга). Возможно мы выясним, что желание сносить забор было обосновано только нашим незнанием. Тогда мы сможем отказаться от необдуманных поступков.

Если же свидетельства покажут, что снос забора вполне обоснован, работа всё равно была проделана не зря. Теперь столкнувшись с защитниками забора (носителями убеждения), нам есть что обсудить. Диалог больше не нужно начинать с оскорблений и попыток ткнуть собеседнику пальцем в глаз. Мы можем обменяться с ним свидетельствами, а это в разы продуктивнее!

Конечно мы можем не договориться, особенно если хотя бы один участник дискуссии не разделяет ценность точных убеждений. Но это явно выглядит перспективнее, чем начинать разговор с сомнений в адекватности собеседника. А если нам повезёт, и собеседник будет настроен так же, мы можем прийти к наиболее оптимальному решению (не с точки зрения удовлетворить пожелания всех сторон, а с точки зрения точной карты).

Не спешите сносить не сносить вообще

Естественный ход развития космических наук приводит к тому, что накапливаются новые данные, и во всеоружии новых фактов мы разгоняем войско устаревших идей Карл Саган

Для демонстрации давайте обсудим изобретение новой физики. Ну вы знаете, человек решает, что все физики ошибаются, а он изобрёл что-то принципиально новое. Чушь? Если знания человека в предметной области ограничены школьным курсом, скорее всего так и есть.

Но если он вник во все тонкости современной ему физики, возможно так и есть. Вся современная наука построена на людях, которые сдвигают границы нашего понимания. Кто-то действительно строит новую физику. Разница лишь в том, что дилетант не может быть уверен в ложности того, чего не понимает. У него нет права сносить забор.

Таким образом, заниматься сносом конечно нужно. Ведь любое улучшение, это снесённый забор. Однако не каждый снесённый забор - это улучшение. Для развития города нужно регулярно демонтировать ненужные заборы (или хотя бы модернизировать). Но для этого просто необходимо отличать нужные от ненужных, иначе можно снести весь город (или не сносить вообще ничего от страха перед изменениями). Так что ограда Честертона - это не гимн против реформ и революций. Это призыв понять, с чем мы имеем дело, прежде чем начать действовать.

Равнодушие неопределённости.

Все вышесказанное относиться к случаю, когда забор вам действительно мешает. Демонтаж забора (борьба с убеждениями) дело затратное, оно стоит вполне ощутимых ресурсов. Поэтому важно помнить про вариант пройти мимо. Нет, серьёзно, если убеждение показалось вам глупым, возможно так оно и есть. Человечество накопило несчётное количество заблуждений. Благодаря ускорению обмена информацией мы получаем доступ к тоннам чуши ежедневно. И я вовсе не призываю вникать во всё это. Если забор можно спокойно обойти, то стоит ли вообще с ним связываться? Но маркировка его каким либо определённым образом - это действие. Либо честно идите мимо, либо вникайте - здесь нет царского пути. В ином случае неизбежно вырабатывается не самая продуктивная привычка маркировать чушью любое непонятное убеждение.

Важные оговорки

Этот принцип относится только к новым, непонятным идеям. Поэтому он не может использоваться для защиты. Ведь нам уже должны быть известны все обоснования того, в чём мы уверены. Так что стоит воздержаться от использования ограды Честертона в качестве универсальной защиты своих необоснованных убеждений.

Если забор нужен и работает, но можно сделать лучше - нужно делать. Уродливые заборы не украшают город, а точные убеждения должны без сожалений заменяться ещё более точными.

На оценку ценности забора никак не должны влиять потраченные на него ресурсы. Если это старый забор, который стоил кучу денег и он бесполезен, его нужно сносить. Если мы потратили кучу времени на то, чтобы изучить какую-нибудь нерабочую модель, это не должно становиться аргументом за полезность данной модели (впрочем эту идею я планирую развить в статье про невозвратные потери).

Псс.А ещё у меня естьканал в телеграмме.

В связи со скорым стартом онлайн-курса "Team Lead" приглашаем всех желающих записаться на открытый демо-урок Первые шаги тимлида на новом месте. На вебинаре участники вместе с экспертом обсудят:
С чего начать работу новоиспеченному лиду?
На какие процессы стоит обращать внимание?
В каких местах кроются quick wins для быстрого роста?

А сейчас предлагаем к прочтению традиционный перевод интересного материала.

Стремление к простоте предназначено исключительно для выработки нашего одобрения, а не нашего понимания

Нет ничего, что люди ненавидят больше, чем незнание своего места в этом мире. Мы постоянно смотрим на мир вокруг нас, отчаянно нуждаясь в определении нашей значимости для него. Но определить эту значимость непросто. Подобно урагану, в сложной системе нет единой первопричины. Чем усерднее вы ищите не там, где нужно, тем труднее будет ее найти.

Одна из причин этого наше стремление найти всему простое объяснение. Как общество, мы превозносим простоту. Мы требуем ее от нашего правительства, коллег, друзей и даже семьи.

Простота дает нам когнитивный якорь. Мнимая ясность, которую он обеспечивает, дает нам уверенность в том, что мы можем выжить в этом сложном мире. Во многих отношениях это не так уж плохо. Я уверен, что системы электрики и водопровода обеспечат мне чай утром. Я уверен, что чистка зубов предотвратит кариес, не вникая в то, что его основная причина разрушение эмали. В этих случаях вам не нужно понимать всю сложность; вам просто нужны инструменты, чтобы справиться с ней. Здесь допустимо простое объяснение, потому что побуждение является причинно-следственной связью.

С другой стороны, простое объяснение, такое как утверждение, что коронавирус был изготовлен в лаборатории, также обеспечивает когнитивный якорь. Если что-то так легко понять, как это может быть неправдой? Особенно, когда альтернатива требует оценки сложных взаимодействий между биологическим, психологическим, социальным и неизвестным.

Сопротивление таким простым объяснениям сложной проблемы требует от нас гораздо большего. Это заставляет нас остановиться, взглянуть шире на ситуацию, прикинуть уровень сложности и осознать пределы нашего понимания это пугает. Принятие чего-то сложного это акт смирения в признании неизвестного.

Всё должно быть сделано просто насколько возможно, но ничуть не проще. Это высказывание Эйнштейна неправильно цитируют, упуская из вида последнюю часть, но ничуть не проще, или как он сказал самом деле: адекватное представление базовой единицы опыта (the adequate representation of a single datum of experience). Я думаю, что Эйнштейн пытается сказать, что цель не простота, а понимание.

Работа по упрощению это упражнение по обеспечению доступности информации. Тем, кто получает эту информацию, следует помочь в принятии осознанных решений. Чрезмерное упрощение, вероятно, служит интересам только того, кто им занимается. Так люди превращают простоту в оружие.

Предположим, вы хотите сообщить о повестке дня и ограничить дискуссии, например, на тему политики или стратегии компании. Вероятно, в ваших интересах обойти все субъекты, которые не соответствуют вашим целям. Это двойной удар по нашей свободе мыслей. Сведение идеи к пустым словам обманчиво соблазнительно в своей простоте понимания и целенаправленно ограничивает параметры дискуссии.

Хомский (Chomsky) и Герман (Herman), вероятно, наиболее известны тем, что описали, как подобные методы работают в пропаганде. Они утверждают, что, ограничивая параметры дискуссии, мы фактически вырабатываем одобрение общественности. Что, на мой взгляд, работает как для общества, так и для организаций.

Например, можно упростить сложный набор идей в крылатую фразу, с которой трудно не согласиться, например Сделаем Америку снова великой (Make America great again), Надежда (Hope), Перемены (Change), Мир (Peace) и т. д. Это заставляет нас ощущать глубину дискуссии где-то на уровне детского бассейна; когда на самом деле ее глубина подобна океану. Поддерживаете ли вы наши войска? это не тот же вопрос что Поддерживаете ли вы политику, связанную с войной, в которой они сражаются?. Хомский говорит, что вы должны НАЧАТЬ, сказав: Ну, я НЕ не поддерживаю войска, но к тому времени вы уже проиграли.

Это замкнутый круг. Поскольку барьер для предполагаемого понимания снижается за счет удаления противоречивой информации, это укрепляет уверенность в наших новообретенных знаниях. Удовольствие от понимания концепции убеждает нас в обоснованности упрощенного объяснения. Мы отняли у людей работу по выработке информированного мнения; что только еще больше поляризует рационализацию в обществе.

Простота идеальное средство радикализации монистической мысли.

Так что плохого в такой жизни? Если человек счастлив, чувствует себя сильным и понимает свою значимость в обществе, чего еще можно желать? Проблема заключается в несоответствии между очевидным пониманием и тем, что собственно нужно понять. Когда мы решаем, что что-то нужно изменить, и пытаемся применить причинно-следственное мышление к сложной проблеме у нас ничего не получится. Наша халатность открывается нам только тогда, когда что-то идет не по плану.

Теперь вам не нужно полностью понимать сложную систему, чтобы изменить ее. Вы начинаете с осознания того, что ее отдельные компоненты производят более ощутимый эффект, чем сумма ее частей. Это требует того смирения, о котором я говорил ранее. Это сдвиг мышления в осознании границ наших собственных знаний. Например, когда вы изучаете точки зрения тех, с кем вы не согласны. Это требует от нас работы над формированием своего мнения, включая признание того, что мы чего-то не знаем. Уделите хотя бы 5 минут в день на прочтение одной новости, и я гарантирую, что результаты вас удивят.

Это не означает, что теперь мы должны стремиться все усложнять, чтобы доказать действительность. Подобно простоте, сложность можно превратить в оружие, но на этот раз для того, чтобы отпугнуть людей от взаимодействия. Возникает ироническая ситуация. В отчаянии, чтобы восстановить контроль над проблемой, нам приходится еще больше заниматься этими потенциально вводящими в заблуждение упрощенными объяснениями.

Не знаете, как работает финансово-промышленно-государственный комплекс? Что ж, на самом деле это просто, это иллюминаты работают над промыванием мозгов и контролем над волей масс. Надеюсь, вы уловили здесь иронию. В качестве свежего примера взгляните на надвигающийся крах движения QAnon в Соединенных Штатах.

Наша цель заключается в том, чтобы позволить людям использовать сложность для облегчения понимания. Быть в положении, когда люди доверяют вашей трактовке, это привилегия. Начните с рассмотрения потребностей человека, а также риска и обратимости решений, которые могут быть приняты на основе понимания этих потребностей. Чем менее это обратимо, тем больше времени вы должны потратить на их изучение.

Наши принципы должны основываться на обеспечении автономии народов. Я призываю вас создать платформу, на которой люди могут отдаться смирению и найти пространство для разработки различных онтологий. Анти-простота ради простоты.

Признайте наш требования с должным смирением, и, поскольку мы вовлечены в общую тьму, и немногие из нас низвергаются в нее имея более великую цель (по крайней мере, с точки зрения всей истории человечества), мы должны практиковать понимание и милосердие. Исайя Берлин

Если вам интересно узнать больше о сложности, о том, как ее разбить на части и как с ней работать, я думаю, вам будут интересны следующие ресурсы:

Cynefin framework отправная точка для работы со сложностью

A Leader's Framework для принятия решений

Можете ли вы упростить сложность?

На Media ч. 1 - Согласие на производство (подкаст)

Узнать подробнее о курсе "Team Lead".

Смотреть вебинар Первые шаги тимлида на новом месте.