?

Log in

Previous Entry | Next Entry

http://hpmor.ru/




О, Смерть, где твоё жало?
О, Ад, где твоя победа?



Месяца два с неослабевающим интересом и местами даже восхищением читал сей капитальный труд. Попробую тезисно изложить своё ви́дение.

1. Элиезер Юдковский — в первую очередь всё-таки не литератор, а исследователь проблем искусственного интеллекта и технологической сингулярности, поэтому его фанфик по мотивам прославленной гепталогии Джоан Роулинг заимствует художественную форму оригинала — вселенную, героев, некоторые сюжетные линии (в общих чертах, с весьма существенными коррективами) — лишь для того, чтобы автор мог вволю порезвиться с любимыми темами, помещёнными в нетривиальную среду.

Достаточно очевидно, что Гарри Поттер Элиезера Юдковского — искусственный интеллект, постепенно развивающийся во взаимодействии с необычными ситуациями и героями. При этом поднимаются интереснейшие проблемы, далеко выходящие за рамки специализации Юдковского: проблема определения добра и зла, проблема истинности суждений, проблема демаркации.

2. Если бы дело этим и ограничивалось, книга, наверное, представляла бы интерес только для узкого круга фанатов поттерианы да для ещё более узкого круга фанатов научного рационализма. Однако... сложно сказать, намеренно или нет, но Элиезер Юдковский вплёл в текст аллюзии на "Матрицу", а через неё и на гораздо более глубокую — религиозно-философскую — проблематику. Возникают закономерные вопросы: а насколько вообще адекватно наше мировосприятие реальности? а насколько надёжным инструментом познания реальности является рациональное мышление?

Цитата из сабжа:

НЕО: Я долго пытался сдерживаться, но по этому поводу считаю необходимым высказаться. Вы когда-нибудь слышали о законах термодинамики?
МОРФЕУС: А где ты слышал о законах термодинамики, Нео?
НЕО: Любой, кто изучал физику в школе, знает о законах термодинамики!
МОРФЕУС: А где ты ходил в школу, Нео?
(Пауза)
НЕО: ...В Матрице.
МОРФЕУС: Машины придумали изящную ложь.
(Пауза)
НЕО (робко): А могу я где-нибудь взять учебник по настоящей физике?
МОРФЕУС: Такой вещи не существует, Нео. Вселенная не подчиняется математическим законам.


Цитата на ту же тему из "t" Пелевина:

— Почему вы в это верите?
— Потому что такая версия реальности была многократно подтверждена на практике.
— Но все практические подтверждения этой реальности были частью той самой реальности, которую они подтверждали, не так ли? Тут бы умному человеку и заподозрить неладное. Вы ведь, слава Богу, не какой-нибудь физик-экспериментатор.


То есть, понимаете, рациональное мышление исходит (как из данности) из картины мира, в которой присутствуют пространство, время, частицы материи, последовательности причинно-следственных связей, оно полностью отрицает свободу. В рационалистическом понимании свобода есть невозможное чудо, причина, из которой вдруг взяло и не вытекло закономерное следствие, или наоборот, следствие, возникшее ниоткуда безо всякой на то причины. Человеческая душа с её внутренней свободой и интуитивным восприятием мира как целостного взаимосвязанного гармоничного порядка вступает в смертельное противоречие с постулатами рационализма.

Вы помните яблоко из Библии, которое Адам съел в раю? А знаете, что было в том яблоке? Логика. Логика и всякое Познание. Больше ничего там не было. И вот что я вам скажу: главное — это чтобы человека стошнило тем яблоком. Если, конечно, хочешь увидеть вещи, как они есть. Беда в том, что большинство людей не хочет видеть всё как оно есть.
/Дж.Сэлинджер, "Тедди"/


Если бы двери восприятия были чисты, всё предстало бы человеку таким, как оно есть — бесконечным.
/У.Блейк, "Бракосочетание Рая и Ада"/


Главная проблема рационального мышления состоит, извините за тавтологию, в его абсолютной оторванности от Абсолюта. Оторванности от Абсолютной Истины. Отказавшись от Бога, от Его способа отношения к миру (Веры, Надежды и Любви), т.е. способа, открывающего Истинную реальность, Истинное знание вещей, человек вынужденно скользит по зигзагам относительных "истин", горделиво называя это движение прогрессом. Вся же незамысловатая цель прогресса — это обмануть Бога и съесть-таки второе яблоко. С древа жизни. Победить, так сказать, главного нашего врага, Смерть. А точнее, победить свой Страх. Перед неизвестностью. Перед Свободой.

Бог несовместим с машинами, научной медициной и всеобщим счастьем. Приходится выбирать. Наша цивилизация выбрала машины, медицину, счастье.
/О.Хаксли, "О дивный новый мир"/


Допустим, рациональное мышление в лице биологической науки найдёт способ сбалансировать процессы в человеческом организме таким образом, что он станет вечным двигателем. Что дальше? Ну, останутся ещё внешние опасности.

"Война, эпидемия, снежный буран, космоса чёрные дыры..."

Рациональное мышление не успокоится, пока не сбалансирует весь космос, не превратит его в полностью подконтрольный механизм с циклом, просчитанным на сто миллиардов ходов вперёд во всевозможнейших вариациях. Только тогда будет достигнута высшая цель прогресса, только тогда будет побеждён Страх, уничтожена Свобода. И вот тогда — наступит настоящая, Истинная Смерть человека. Смерть души.

"Ибо тайна бытия человеческого не в том, чтобы только жить, а в том, для чего жить."

В романе есть потрясающая сцена, когда преисполненный сострадания к узникам Азкабана Гарри решает вступить в сражение с дементорами и пожертвовать своей жизнью ради полного уничтожения этого гнусного места, и вот на его решимость, словно на маяк из ночной тьмы является феникс, готовый лететь вместе с ним... Однако рациональность Гарри берёт верх над душевным порывом, и он отпускает феникса, обещая призвать его позже...

Но позже Гарри узнаёт, что феникс прилетает лишь один раз в жизни.

Comments

( 7 comments — Leave a comment )
tumbochka
May. 15th, 2016 09:11 pm (UTC)
Мрачноватый отзыв получился.
Всё же биологического бессмертия для волшебников Гарри добился.
И, пролетев с фениксом, передал свою миссию возрождённой Гермионе.

Видимо, Юдковский озвучил устами Гарри одну из своих идей - категорическое неприятие смерти.
k0ka
May. 16th, 2016 06:26 pm (UTC)
Да, мрачновато, конечно. Но Гермиона, воскрешённая злыми силами, мне почему-то внушает смутные подозрения...

Неприятие смерти — это, на мой взгляд, не идея, а одно из основополагающих свойств живой человеческой души. А Юдковский подходит к решению проблемы именно с идейно-умственной стороны, а не с душевно-духовной. В этом тексте не столь интересно, что хотел сказать Юдковский (помните, как на уроках литературы всегда этим мучают учителя: что хотел сказать писатель? что писатель хотел сказать?), а интересно, что у него сказалось/. Или через него — откуда-то свыше. А сказалось примерно следующее: зло и рациональность очень близки; рациональность весьма подвержена манипуляциям — человека, руководствующегося рациональностью, проще обмануть, как это ни странно. И ещё интересно, что отношения Гарри и Квиррелла сильно напоминают сцену искушения Христа в пустыне. Только Гарри принимает все три предложения дьявола. Образно говоря, превращает камни в хлебы, соглашается на власть, и даже с крыши шагает! )

Если провести параллели с "Великим инквизитором" Достоевского, то получается просто идеальный рациональный Христос. С точки зрения великого инквизитора, конечно... )
tumbochka
May. 16th, 2016 08:07 pm (UTC)
Кстати, обратили внимание что во вставках из других произведений зачастую главный злодей - образец рациональности? Саурон из "Властелина" и прочие. Так что, думаю, Юдковский это прекрасно осознавал.

Если рассматривать Гарри и Волдеморта/Квиррела как два образца искуственного интеллекта, то можно увидеть ключевое, с точки зрения Юдковского, различие, которое не даёт рациональности уйти в зло. "Мне есть что защищать".
k0ka
May. 17th, 2016 05:32 pm (UTC)
Искусственный интеллект здесь интересен как метафора естественного интеллекта, только чересчур гипертрофированного, т.е. подчиняющего себе всю душу. Ведь живая душа — это не только интеллект, но (и в первую очередь) воля и восприятие. Интеллект выступает как бы посредником, переводчиком посланий от восприятия воле. А на самом деле он переводит воспринимаемую реальность на свой фиктивный язык, который лишает волю свободы. Последовательный рационализм не может признавать идею абсолютного Добра, идею Бога, т.к. она лежит за пределами непосредственного фактического опыта. А непризнание этой идеи закономерно ведёт либо к отрицанию идеи добра вообще (как в буддизме, к примеру), либо к признанию исключительно относительного добра, т.е. постоянному выбору меньшего из зол. Поэтому во фразе "мне есть что защищать" это что необходимо будет стремиться ко злу. Как в шутливой поговорке "я людей всех на свете люблю, ради них кого хочешь убью."

Мне показалось, что Юдковский очень хотел найти в рациональности некое зерно Истины, прочный фундамент для нравственности — но сама логика повествования, характеров, ситуаций развивалась совсем в иную сторону. Потому что добро не рационально. Добро — иррационально по своей природе. Поэтому феникс и улетел. )
tumbochka
May. 17th, 2016 07:42 pm (UTC)
Ну почему. Гермиона представлена как носитель добра, и при этом иррациональной её назвать нельзя.
tumbochka
May. 17th, 2016 07:43 pm (UTC)
А насчёт Бога да - идея Бога иррациональна. Также как и идея души.
Кстати, а как вы поняли определение "рациональности" Юдковского?
k0ka
May. 18th, 2016 06:48 pm (UTC)
Ну, мне кажется, Юдковский в этом вопросе не выходит за рамки общепринятого определения ("рациональность — тип поведения, основывающийся на фактическом знании и логическом мышлении"). Хотя, конечно, не исключено, что я упустил нечто важное.

И получается такая картинка: Квиррелл — абсолютный рационалист (и он же олицетворение зла), Дамблдор — абсолютный иррационалист (и он же олицетворение добра), остальные герои колеблются в ту или иную сторону по этой оси, в том числе и Гарри, и Гермиона, и Драко. Невозможно рационально творить добро. Это будет уже не добро, а нечто другое. Потому что рациональность — это всегда расчёт, использование причинно-следственных цепочек в своих интересах. А добро — прерывание этих цепочек в ущерб себе, но в интересах высшей Истины. Когда Гарри, например, пытается рационально объяснить Квирреллу, что эгоистическая стратегия поведения проигрывает стратегии дружелюбной, разве он перетягивает Квиррелла на сторону добра? Никоим образом. Он лишь предлагает более изощрённую в двуличии модель поведения. Т.е. пытается подчинить его злую волю некоему разумному закону, относительным внешним рамкам, раз уж для оной нет внутренних рамок, абсолютных. Если же предположить, что Гарри в данном случае действительно надеется на постепенное духовное перерождение Квиррелла, то рациональной таковую надежду назвать очень сложно, согласитесь...)

А Гермиона, да, безусловно, носитель добра, вы правы. И её противостояние рациональности — один из главных конфликтов текста.
( 7 comments — Leave a comment )