Сингулярность, которую мы заслужили
Sunday, 11 October 2020 21:46![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
andrzejnТехнологическая сингулярность, которую Вернор Виндж предсказывал в 1993 году, происходит прямо сейчас. В своём манифесте Виндж предложил тогда несколько вероятных сценариев того, как этот фазовый переход разумности землян мог бы состояться где-то между 2005 и 2030 годами, но подчеркнул, что детальные прогнозы тут невозможны. Они и не сбылись. Что сбывается сейчас, так это главная идея: когда в игру войдут созданные нами сверхчеловеческие существа – мы быстро и навсегда утратим не только возможность управлять событиями, но даже принципиальную способность понять новые правила.
Что пошло не так? Мы думали, что для сингулярности нужен сверхчеловеческий разум – то ли классический сверхразумный суперкомпьютер, то ли самозародившийся в сетях интеллект, то ли сверхчеловеческое усиление человеческого разума. Всего этого пока ещё нет, и мы ещё не знаем, как это сделать. Но мы уже создали множество простых специализированных нейросетей и генетических алгоритмов, которые улучшают нам изображение, распознают и переводят речь, играют в игры, генерируют художественные произведения, управляют автомобилями и производствами. В смысле разумности они ещё абсолютно примитивны, но мы уже ими не управляем и не предусматриваем каждый их шаг.
И среди прочих мы создали искусственные интеллекты, которые подыскивают, фильтруют и предлагают нам информацию. Те самые поисковые и рекламные системы, о которых сейчас столько шума. Эти системы тоже ещё глупее некуда, они не осознают себя, не имеют собственной цели, не исследуют мир и не выбирают направления, куда им развиваться. Они честно делают только то, что мы им приказываем – но сами выбирают, как это делать, и делают это неожиданно очень хорошо и с непредсказуемыми побочными эффектами. И это внезапно начало управлять человечеством.
Вместо сверхчеловеческого интеллекта мы создали сверхчеловеческое коллективное бессознательное, которое общается с нами на бессознательном уровне.
И этого оказалось достаточно, чтобы потерять контроль. Пророчество Винджа исполнилось неожиданным способом. Безумные события 2020 – это первая чёрная ласточка. Люди во всём мире словно сдурели, когда наше искусственно усиленное бессознательное взяло верх над любыми личными рациональными аргументами.
Дальше – просто несколько тезисов.
1. Это теперь навсегда. Привыкайте. Нет, не эта дурь вокруг ковида. Эта дурь закончится через год-два, и мы опять будем удивляться, куда же это занесло человечество. Но начнётся другая масштабная дурь. И третья. И четвёртая. Каждый раз новая, абсурдная, непонятная. И мы снова раз за разом будем растеряны и в отчаянии, потому что нас несут сверхчеловеческие течения. И вот это уже навсегда.
2. Это не остановить. Технологии управления бессознательным дают такие преимущества, что те, кто попытаются их запрещать, просто проиграют конкуренцию за всё.
3. Оно ещё нисколько не разумное и не самоосознающее. Когда-нибудь, возможно, ещё станет. Даже не обязательно – ему и так уже хорошо. Но возможно. Мы не заметим разницы.
4. За прошедшее столетие человечество в целом отвергло идею богов и духов, которые всё о нас знают, всем управляют, всё могут, а нам они непонятны. Человек стал главной ценностью и мерой вещей. Ну что ж, это время быстро прошло. Теперь мы сами создали себе новых богов и духов. Возвращаемся к старым навыкам сосуществования с ними.
5. Указания поступают из наших бессознательных импульсов, которыми мы сами принципиально не управляем.
Что нам теперь делать.
1. Осознать, что в игру вступили исполинские сверхчеловеческие существа. Они не разумны и даже не замечают нас, но общее направление цивилизации теперь определяют они. Даже когда нам кажется, что управляем всё ещё мы.
2. Развивать навыки замечать и осознавать бессознательное. Слава психотерапии и другим техникам самонаблюдения, саморефлексии и осознанности. Это не спасёт, но поможет против самых примитивных манипуляций. По крайней мере то сверхчеловеческое, что возобладает над нами, станет несколько тоньше и умнее.
3. Тренировать навыки повседневной жизни и общения с нематериальными сверхчеловеческими существами. Будет расцвет неошаманизма, неоанимизма, неомагии и тому подобного. Мы этими созданиями не управляем, но в некоторой степени сможем прогнозировать отдельные их движения, что-то от них просить и получать, чего-то избегать.
4. Где возможно и целесообразно – держаться своего уровня, уровня людей, общения, вещей и дел, которые мы лучше делаем самостоятельно, не привлекая к ним новосозданные сущности.
Пророком мира, который существовал последние годы, был Хаксли с "Дивным новым миром". Пророком грядущего, на мой взгляд, является Желязны с "Доннерджеком".
Держимся :)
Что пошло не так? Мы думали, что для сингулярности нужен сверхчеловеческий разум – то ли классический сверхразумный суперкомпьютер, то ли самозародившийся в сетях интеллект, то ли сверхчеловеческое усиление человеческого разума. Всего этого пока ещё нет, и мы ещё не знаем, как это сделать. Но мы уже создали множество простых специализированных нейросетей и генетических алгоритмов, которые улучшают нам изображение, распознают и переводят речь, играют в игры, генерируют художественные произведения, управляют автомобилями и производствами. В смысле разумности они ещё абсолютно примитивны, но мы уже ими не управляем и не предусматриваем каждый их шаг.
И среди прочих мы создали искусственные интеллекты, которые подыскивают, фильтруют и предлагают нам информацию. Те самые поисковые и рекламные системы, о которых сейчас столько шума. Эти системы тоже ещё глупее некуда, они не осознают себя, не имеют собственной цели, не исследуют мир и не выбирают направления, куда им развиваться. Они честно делают только то, что мы им приказываем – но сами выбирают, как это делать, и делают это неожиданно очень хорошо и с непредсказуемыми побочными эффектами. И это внезапно начало управлять человечеством.
Вместо сверхчеловеческого интеллекта мы создали сверхчеловеческое коллективное бессознательное, которое общается с нами на бессознательном уровне.
И этого оказалось достаточно, чтобы потерять контроль. Пророчество Винджа исполнилось неожиданным способом. Безумные события 2020 – это первая чёрная ласточка. Люди во всём мире словно сдурели, когда наше искусственно усиленное бессознательное взяло верх над любыми личными рациональными аргументами.
Дальше – просто несколько тезисов.
1. Это теперь навсегда. Привыкайте. Нет, не эта дурь вокруг ковида. Эта дурь закончится через год-два, и мы опять будем удивляться, куда же это занесло человечество. Но начнётся другая масштабная дурь. И третья. И четвёртая. Каждый раз новая, абсурдная, непонятная. И мы снова раз за разом будем растеряны и в отчаянии, потому что нас несут сверхчеловеческие течения. И вот это уже навсегда.
2. Это не остановить. Технологии управления бессознательным дают такие преимущества, что те, кто попытаются их запрещать, просто проиграют конкуренцию за всё.
3. Оно ещё нисколько не разумное и не самоосознающее. Когда-нибудь, возможно, ещё станет. Даже не обязательно – ему и так уже хорошо. Но возможно. Мы не заметим разницы.
4. За прошедшее столетие человечество в целом отвергло идею богов и духов, которые всё о нас знают, всем управляют, всё могут, а нам они непонятны. Человек стал главной ценностью и мерой вещей. Ну что ж, это время быстро прошло. Теперь мы сами создали себе новых богов и духов. Возвращаемся к старым навыкам сосуществования с ними.
5. Указания поступают из наших бессознательных импульсов, которыми мы сами принципиально не управляем.
Что нам теперь делать.
1. Осознать, что в игру вступили исполинские сверхчеловеческие существа. Они не разумны и даже не замечают нас, но общее направление цивилизации теперь определяют они. Даже когда нам кажется, что управляем всё ещё мы.
2. Развивать навыки замечать и осознавать бессознательное. Слава психотерапии и другим техникам самонаблюдения, саморефлексии и осознанности. Это не спасёт, но поможет против самых примитивных манипуляций. По крайней мере то сверхчеловеческое, что возобладает над нами, станет несколько тоньше и умнее.
3. Тренировать навыки повседневной жизни и общения с нематериальными сверхчеловеческими существами. Будет расцвет неошаманизма, неоанимизма, неомагии и тому подобного. Мы этими созданиями не управляем, но в некоторой степени сможем прогнозировать отдельные их движения, что-то от них просить и получать, чего-то избегать.
4. Где возможно и целесообразно – держаться своего уровня, уровня людей, общения, вещей и дел, которые мы лучше делаем самостоятельно, не привлекая к ним новосозданные сущности.
Пророком мира, который существовал последние годы, был Хаксли с "Дивным новым миром". Пророком грядущего, на мой взгляд, является Желязны с "Доннерджеком".
Держимся :)
no subject
Date: Monday, 12 October 2020 05:24 (UTC)no subject
Date: Monday, 12 October 2020 06:53 (UTC)