Но появление ИИ - лишь первый шаг. Следующим этапом в подобных сценариях значится создание СИ - сверхинтеллекта. Если ИИ будет обладать способностью совершенствования, если у него будут отсутствовать те барьеры, которые сдерживают человеческий разум (эмоции, аффекты, "издержки" символизации как способа деятельности человеческого сознания, что "гарантирует" низкую скорость мышления) - отчего бы, в самом деле, не преодолеть "родительскую" планку? И вот этот момент в подобных сценариях обозначается как Сингулярность: внезапный, практически вертикальный прорыв, точка в пространстве и времени, за которой - темнота. Темнота постольку, поскольку разум, вышедший за границы нашего понимания, едва ли останется в рамках нашего контроля - не больше, чем мы подчиняемся указам "всяких там мышей и кроликов" (помните? вот она - бессильная досада Алисы в Стране чудес!). И, стало быть, мы просто выпадем из нового интеллектуального режима - потеряем свою нишу "творцов истории", вокруг которых вообще вся Вселенная вертится (есть такой Антропный Принцип).

Это утверждают пессимисты, и вовсе не торопятся обрывать свои мрачные пророчества на этой и без того уже траурной ноте. Прогнозный Горизонт не останавливает их пытливый взгляд, и они спешат выдвинуть ряд "постсингулярных" сценариев, которые можно назвать следующим образом: обезумевшие боги, заевшая пластинка, комнатные собачки и т.п. Это сценарии "мягкой" постсингулярности, где предполагается, что СИ не знаменует собой физического уничтожения человека. Напротив, он постарается окружить его максимальной заботой. Смерть? Обойдем эту проблему: пусть человеческое сознание продолжает жить в разных носителях (дефлеш), если не получится реанимировать одно и то же тело. А если носитель будет электронным (инфоморф)? Кибер-сеть, например? Ну, что ж, этот вариант бессмертия ничем не хуже любого другого: в США уже есть один такой компьютерный "Маугли" [2]. Зато какие возможности! Рушатся барьеры непонимания, кусочки "эго" могут копироваться и в прямом смысле непосредственно меняться на множество других таких информационных блоков в гипертексте (трансклюзия) - хотя что при этом останется от личности, совсем непонятно. Болезни, старость, надоевший пол? СИ решит эти вопросы если не в два счета, то в три-четыре наверняка. И за Прогнозным Горизонтом, таким образом, забрезжила долгожданная свобода: свобода практически ОТ всего.

Пессимистам все это кажется ужасным. Бессмертие... Сто лет, триста, тысяча - что же произойдет с человеческим сознанием? Рассчитано ли оно на такие сроки? А целеполагание - то, которое помимо разума делает человека человеком? Почти как у Лермонтова: "Желанья... Что проку бесцельно и вечно желать?"... У одного известного фантаста есть фигура абсолютно рехнувшегося существа - рехнувшегося потому, что оно стало вечным. Да и потом: представьте себе, что вам предстоит выискивать себе новые проблемы (в смысле - забавы) многие тысячи лет. Справитесь? Не соскучитесь?... В общем, в сценариях пессимистов под удар в этих тепличных условиях ставится все: человечность, воля, ценности, разум, возможность быть хозяином своей жизни, наконец, сама личность. Будут ли существа эпохи постсингулярной эпохи хоть сколько-нибудь людьми? Останется ли у них воля к жизни, будут ли они чувствовать ее смысл? [3] Наконец, зачем (очень вежливо говоря) им такая жизнь ("Вы хотели свободы? Ешьте ее, о волки!")?!... В общем, если СИ будет выполнять задачу достижения человечеством счастья и всяческого благоденствия, он выполнит ее так, что человеку вряд ли это понравится.

Все это утверждают пессимисты. Но прежде чем обратиться к тому, что говорят на другом полюсе мироотношения, попробуем очень коротко - в двух-трех фразах - сформулировать, что нам сулит будущее в этих сценариях. Чтобы сделать это максимально сжатым образом, придется обратиться к философской терминологии как самому емкому понятийному аппарату. Итак, главная угроза, которую следует ожидать в будущем - это воцарение абсолютного внешнего детерминизма, превращение человека из субъекта деятельности в объект действий онтологически чуждых единиц, при всем том, что это может быть даже забавно (какое-то время, конечно, пока не надоест), если не слишком держаться за свое "я".

Сторонникам противоположного лагеря эти рассуждения очень напоминают идеи милленаризма - христианского течения, представители которого ожидали тысячелетнего царствия Христа, когда жизнь человечества будет находиться во власти этого благого правителя, исчезнут болезни и смерть, голод и вообще все несчастья, терзавшие человека с тех пор, как он нарушил запрет в Эдемском саду, выбрав на свою голову самостоятельность. А будущая "свобода", которую живописуют пессимисты, в действительности нисколько не похожа на свободу действий первого бунтаря - это свобода "от", а не свобода "для" [4], и она, следовательно, ни к чему не ведет.

Такого рода предопределенность оптимистам совершенно не нравится. Вся мощь их критики направлена на опровержение этого самого технологического детерминизма. И в своих доводах они гораздо более высоко оценивают потенциал человека, чем их оппоненты. Прежде всего утверждается, что, появись на арене человеческой истории СИ, никакого ее внезапного, вертикального изменения не последует. Ведь для того, чтобы "взять бразды правления в свои руки", претенденту необходимо вписаться в систему. Один единственный шаг - получение контроля над финансовыми потоками мира - потребует взаимодействия с огромным количеством людей, организаций и т.п. Очевидно, что подобное не сможет произойти мгновенно, свалившись человечеству как снег на голову. Короче говоря, чтобы выигрывать у некоторой системы, нужно играть по ее правилам. Люди тысячи лет создавали свой собственный мир - и создавали его для себя, таких, какие они есть, не имея в виду, что нужно предусматривать какие-то особенные удобства для захвата этого мира теми, кто людьми не является. Существует еще один блок возражений, который связан с более глубокой постановкой того же вопроса. Коротко говоря, они сводятся к тому, что ИИ и даже СИ будут не в состоянии самостоятельно ставить себе цели. Для этого вовсе недостаточно обладать совершенной логикой, основанной на чистом утилитаризме. Ошибка в том, что мы понимаем человеческое сознание как "продолжение" сознания животного, его усовершенствование - и, следовательно, предполагаем, что СИ представляет собой бесконечно продолженное сознание человека. Там есть все, что и у человека (исключая, конечно, то, что мешает интеллектуальным процедурам), но гораздо качественнее. Отвлечемся немного, чтобы возразить на это с достаточными основаниями.