>Потому что процессу обработки информации вроде бы нет поводов бояться собственной остановки А у него есть повод НЕ бояться? //Повод бояться у Бострома http://www.nickbostrom.com/superintelligentwill.pdf вполне обоснован.
* * * * *
Бостром обосновывает приоритетность задачи самосохранения, это практически трюизм — ясно, что если мыслящее существо ставит некую цель, то его личное выживание входит в число средств её достижения (геройская гибель в ходе выполнения задачи в большинстве случаев ведёт прежде всего к невыполнению задачи). Но речь-то о страхе, а слов "страх", "бояться" в статье нет. Там, что характерно, есть слово "самосохранение", но нет слова "смерть". Мотивация жить вполне может быть реализована без унылого липкого страха смерти, этого сомнительного достижения человеческой цивилизации.
* * *
…
знаете, когда летишь над гималайским хребтом, смерти нет. И когда идешь по гималайскому ущелью к намеченной цели — тоже.
Так называемый «я» – одна из многих капель, отражающих Гималаи. Гималаи, возможно, тоже отражают меня, но получается мелковато. Исчезновение т.н. «меня», как и любой из прочих капель, не представляет существенно большей проблемы, чем отмирание одной из миллионов зрительных клеток на сетчатке глаза.
И в этом ощущении, когда оно есть – нет абсолютно ничего мистического, оно настолько же очевидно и банально, как ощущение холода от порыва ветра или тепла от показавшегося из-за облака Солнца.