Прыгаю с парашютом, езжу на мотоцикле, руковожу www.it-agency.ru.

«Гарри Поттер и методы рационального мышления» Элиезера Юдковского

4 апреля 2013, 5:02

Если Дж. К. Роулинг спросит вас об этом фанфике — вы ничего не знаете.

Пожалуй, это лучшая художественная книга, которую я когда-либо читал. После «Фейнмана», конечно.

Об ответственности физиков

Такой взгляд на вещи несколько отличался от того, с которым вырос Гарри. Он никогда не задумывался о том, что ядерным физикам следовало бы создать тайное общество, сохранив секрет ядерного оружия от тех, кто недостаточно умён, чтобы быть ядерным физиком. Эта мысль была по меньшей мере занимательной. Они бы использовали секретные пароли? Носили бы маски?

(Впрочем, вполне возможно, что физики скрывают целую кучу потенциально разрушительных открытий, и секрет ядерного оружия — единственный просочившийся на свободу. В любом случае мир для него выглядел бы одинаково.)

О фундаментальной ошибке атрибуции

— Ну… — Гарри задумался, как бы объяснить попонятнее. — Представьте, вы пришли на работу и увидели, как ваш коллега пинает стол. Вы думаете: «Какой же у него скверный характер». В это время ваш коллега думает о том, как по дороге на работу его кто-то толкнул, а потом накричал на него. «Любой на моём месте тоже бы разозлился», — думает он. Мы не можем залезть людям в головы и узнать, почему они ведут себя тем или иным образом, вместо этого мы склонны объяснять поведение людей особенностями их характеров, своё же собственное поведение мы чаще объясняем наоборот — внешними обстоятельствами. Таким образом, фундаментальная ошибка атрибуции — это склонность человека объяснять поступки и поведение других людей их личностными особенностями, а не внешними факторами и ситуацией.

Существовал ряд изящных экспериментов, подтверждающих данное явление, но Гарри не хотелось углубляться в детали.

Об ошибке планирования:

…Учёные-маглы выяснили, что люди всегда настроены излишне оптимистично: они говорят, что какой-то процесс займет два дня, а на самом деле уходит десять, или говорят — два месяца, а уходит больше тридцати пяти лет. Или, например, проводился опрос учащихся, к какому сроку они уверены на 50%, 75% и 99%, что завершат домашнюю работу. И лишь 13%, 19% и 45% из них завершают её к указанному времени. Учёные обнаружили причину. Испытуемых попросили описать идеальный и типичный варианты развития событий. И полученные описания были практически одинаковы. Если вы попросите человека спланировать что-то на будущее, то он обычно, представляя себе наиболее вероятный ход событий, забывает про возможность ошибок или неожиданностей. Большинство испытуемых не закончили работу к сроку, в котором были уверены на 99%, так что фактические результаты оказались хуже даже наихудшего сценария. Такой феномен называется ошибкой планирования, и лучший способ её избежать — учитывать, сколько времени занимало выполнение какой-либо работы в прошлом. То есть смотреть на процесс со стороны. Если же вы взялись за что-то впервые и существует возможность неудачи, вы должны быть очень-очень-очень пессимистично настроены. Настолько пессимистично, чтобы результаты точно превзошли ожидания.

Об умении признавать свои ошибки

Настоящая наука не похожа на магию. Ты не можешь заняться ею и остаться прежним, как это происходит, когда ты узнаёшь слова к новому заклинанию. За силу нужно платить. Платить цену столь высокую, что большинство людей отказываются это делать.

Драко кивнул, как будто он наконец услышал что-то, что мог понять:
— И какова же плата?
— Умение признавать свои ошибки.
— Эм-м, — сказал Драко после драматической паузы, длившейся некоторое время, — ты можешь пояснить?
— Пытаясь выяснить, как что-то работает на таком глубинном уровне, ты будешь приходить к неверным выводам в девяносто девяти случаях из ста. Так что тебе придётся научиться признавать, что ты ошибался снова, и снова, и снова. Звучит не страшно, но это так тяжело, что большинство людей не в силах по-настоящему заниматься наукой. Не доверять самому себе, всегда пересматривать своё отношение к очевидным вещам…

О положительной предвзятости

…То, что с тобой сейчас происходило, называется «положительной предвзятостью», — сказал мальчик. — У тебя в голове было правило, и ты раздумывала над тройками, которые подойдут под это правило. Ты не попыталась найти тройку, ответом на которую будет «нет». Ты вообще не получила ни единого «нет», так что правилом легко могло быть даже «любые три числа». Обычно люди предпочитают проводить эксперименты, которые подтвердят их гипотезы, а не те, которые их опровергнут. У тебя — почти такая же ошибка. Необходимо учиться смотреть на отрицательные стороны вещей, пристально вглядываясь в темноту. При проведении этого эксперимента только двадцать процентов взрослых доходят до правильного ответа. Большинство же изобретает фантастически сложные гипотезы и абсолютно уверены в правильности своего варианта. Особенно после многочисленных экспериментов, подтвердивших их ожидания.

О слепом методе

С современной точки зрения ошибка Блондло очевидна. Ему не следовало сообщать ассистенту, что он делает. Перед тем как просить ассистента описать яркость экрана, Блондло должен был убедиться, что тот не знает, когда и каких результатов ожидает учёный. На этом вся история и закончилась бы.

Сейчас такой способ называется «слепым методом», и современные учёные считают его чем-то совершенно естественным. Если вы проводите психологический эксперимент, чтобы узнать, будут ли люди сердиться больше, если их бить по голове красным молотком, а не зелёным, то вы не должны сами смотреть на испытуемых и решать, насколько они сердиты. Вам нужно сфотографировать их после удара и отослать фотографии экспертной группе, которая оценит по десятибалльной шкале, насколько сердитым выглядит каждый человек, причём эксперты не должны знать, молотком какого цвета ударили каждого конкретного человека. Более того, нет никакого смысла сообщать оценивающим, в чём суть эксперимента. И уж конечно нельзя сообщать испытуемым, что они, по вашему мнению, должны сердиться больше, если их ударят красным молотком. Вы просто предлагаете им 20 фунтов, заманиваете в комнату, где проводится эксперимент, бьёте молотком, случайно выбирая его цвет, и фотографируете. Кстати, удар молотком с фотографированием следует поручить ассистентам, которые не знают о гипотезе, чтобы у них не было стремления в каком-то случае бить сильнее или выбирать лучший момент для фотографирования.

Об истинном назначении человеческого мозга

Но мозг человека в четыре раза больше мозга шимпанзе. Мозг поглощает пятую часть энергии человека. Люди настолько умнее других видов, что сравнивать их просто абсурдно. Чтобы добиться такого, недостаточно несколько раз чуть-чуть усложнить обстановку. В этом случае предки людей и стали бы лишь слегка умнее. Чтобы вырастить столь чрезмерно огромный мозг-переросток, нужен какой-то неудержимый эволюционный процесс, постоянно требующий всё новых и новых способностей.

И сейчас у учёных есть достаточно неплохое предположение, что это был за неудержимый эволюционный процесс.

Когда-то Гарри прочёл широко известную книгу под названием «Политика у шимпанзе». В книге описывалось, как взрослый шимпанзе по имени Луит боролся за власть со стареющим вожаком, Ероеном, с помощью молодого шимпанзе по имени Никки. Никки не встревал в стычки между Луитом и Ероеном, но мешал другим сторонникам Ероена прийти тому на помощь, отвлекая их в нужное время. А когда Луит победил и стал новым вожаком, Никки занял почётное место подле него.

…но ненадолго. Очень скоро Никки объединился с побеждённым Ероеном, сверг Луита и стал новым новым вожаком.

После этого начинаешь понимать, что к улучшению мыслительных способностей привели длящиеся миллионы лет попытки гоминидов перехитрить друг друга — безудержная эволюционная гонка вооружений.

Ведь человек (на месте Луита) сразу бы смекнул, что к чему.

Об эффекте дефицита

Ты знаешь об исследованиях этого явления, — заметила некая часть его разума, — это просто обычный эффект дефицита. Например, в одном округе запретили чистящие средства, содержащие фосфаты, и люди, которые до того никогда не задумывались, какое чистящее средство лучше, начали специально ездить в соседние районы, чтобы покупать чистящие средства с фосфатами в огромных количествах. Опросы показали: они начали считать, что фосфатосодержащие чистящие средства мягче, эффективней и даже легче смываются… Если двухлетнему ребёнку предложить выбор между игрушкой, лежащей перед ним, и игрушкой, находящейся за ограждением, он проигнорирует игрушку перед ним и будет стремиться к труднодоступной… Продавцы знают, что можно продать больше, заявив, что количество товара ограничено… То, что ты чувствуешь сейчас, описано в книге «Психология влияния» Роберта Чалдини: трава всегда зеленее там, куда тебе нельзя.

О проблемах вселенной

Гарри до сих пор не мог переварить мысль, что можно ткнуть пальцем в кусок реальности и обозвать его ненаучным. Папа, похоже, полагал, что если его интуиция и вселенная противоречат друг другу, то это проблемы вселенной.

Книга совершенно бесплатно доступна на русском языке во всех возможных форматах: http://hpmor.ru/

Ваш комментарий
адрес не будет опубликован

ХТМЛ не работает

Ctrl + Enter
Популярное