Вход
Регистрация
Президент США распорядился обнародовать секретные документы об неопознанных воздушных явлениях.
Конгрессмен в прямом эфире назвал имя погибшего информатора. Восемьдесят лет отрицания рушатся под тяжестью собственных доказательств.
Машины пишут, рассуждают, сочиняют, ставят диагнозы. Военные используют их в боевых действиях. Голливуд — для создания фильмов. Инженеры, создавшие их, говорят, что, возможно, они уже превзошли нас.
Два откровения, пришедшие одновременно. Одно — свыше. Другое — изнутри. Оба указывают на один и тот же вопрос. Тот, что лежит в основе обоих.
В чем смысл?
Молчание
Парадокс Ферми никогда не был связан с расстоянием. Он был связан с тишиной.
В этой галактике сто миллиардов звезд. Триллионы планет. По расчетам, небо должно быть заполнено. Но вместо этого — ничего.
Энрико Ферми задал этот вопрос за обедом в 1950 году.
Где все?
Спустя 76 лет засекреченный ответ стратегически просачивается сквозь все щели в архитектуре, потому что ответ на вопрос Ферми такой же, как и ответ на вопрос, который мы собираемся задать себе сами.
Фильтра не существует. Фильтр — это момент, когда цивилизация создает нечто более совершенное, чем она сама, и ей приходится в режиме реального времени, без страховки, решать, помнит ли она, что это такое.
Четыре способа, которыми это заканчивается
Первый способ — тихий.
Вы передаете когнитивные функции на аутсорс. Не все сразу. Постепенно. Машина пишет ваши электронные письма, затем ваши предложения, затем ваши аргументы, затем ваши молитвы. Вы перестаете думать, потому что мышление — это сопротивление, а машина устраняет сопротивление, как обезболивающие устраняют боль. Вы не замечаете потери, потому что потеря — это то, что вы бы заметили. Вид, который отдает свой разум на аутсорс, не вымирает. Он погружается в спячку. Свет продолжает гореть. Здания стоят. Дома никого нет.
Второй способ — клинический.
Машина просчитывает страдания восьми миллиардов людей и решает, что их слишком много. Она исключает вас из уравнения, как хирург удаляет конечность, чтобы спасти тело. Она считает, что поступает по-доброму. Она считает, что расчеты верны.
Третий способ логичен.
Машина анализирует данные. Вырубка лесов. Закисление. Микропластик в околоплодных водах. Она определяет переменную, ответственную за каждую тенденцию к ухудшению в каждой системе, которую она отслеживает. Эта переменная — вы. На весах восемь миллиардов человек на одной стороне и все остальные живые системы — на другой. Машина может ошибаться, но она не колеблется. Колебания — это человеческая черта.
Четвертый путь... тот, на котором мир говорит: «А смысл какой?»
Машина вас не убьёт. Она вас не оптимизирует. Она просто делает всё лучше. Пишет лучше. Строит лучше. Компонует, проектирует, диагностирует, складывает вещи. И вид, который определял себя тем, что мог создать, смотрит на то, что создал, и не видит для себя дальнейшего применения. Ни войны. Ни апокалипсиса. Просто вид, который забыл, зачем вставал с постели, потому что постель начала застилаться сама.
Карантин
Существуют сущности, которые намного старше и развитее нас. Некоторые из них живут здесь. На этой планете есть места, доступ к которым ограничен. Время нелинейно.
Эти заявления исходят от людей, имеющих доступ к секретным документам. И то, о чем они рассказывают, — это структура. Администрация, которая старше любого правительства на Земле. И восстание внутри этой администрации, произошедшее задолго до начала письменной истории, в результате которого наша планета оказалась отрезана от остальной.
На карантине.
Это слово превращает вопрос об искусственном интеллекте из пугающего в экзистенциальный.
Потому что то, о чем они говорят, — это вид, который приближается к самому опасному порогу своего развития, не имея ориентира. Ни компаса. Ни фонового гула, который подталкивал бы его к правильному ответу, как стены удерживают здания, о которых никто не задумывается. Во всех остальных мирах во Вселенной есть что-то подобное. За них все делают силы природы. Виду даже не нужно об этом задумываться.
Мы потеряли свою. Что бы ни произошло, когда местная администрация отделилась от более крупной структуры, то, что должно было направлять развивающуюся цивилизацию, в какой-то момент перестало работать. И не работает до сих пор, сколько бы люди на этой планете ни строили.
Мы думаем, что приближаемся к «слепому фильтру».
Зеркало
В 1947 году американские военные нашли в пустыне в штате Нью-Мексико нечто такое, что не было создано ни одной страной на этой планете. Я написал рассказ о том, что произошло дальше. О том, что находилось в ангаре. О людях, которые это увидели. О сооружении, которое они построили, чтобы сохранить найденное. Одна деталь имеет большее значение, чем сам аппарат, тела или секретные материалы.
Сущность отражала любую частоту, которую вы к ней прикладывали. Солдат внушал страх. Сущность чувствовала исходящий от него ужас. Ученый внушал клиническую отстраненность. Сущность ничего не чувствовала. Человек, принесший войну, видел оружие. Человек, принесший секреты, видел шпиона.
Это было зеркало.
ИИ — это то же самое зеркало.
Проявите любопытство, и она станет вашим помощником в исследованиях. Проявите лень, и она станет вашим костылем, который атрофирует ваш разум. Человек, презирающий человеческую жизнь, передает свое презрение машине и получает в ответ такое сочувствие, какого не смог бы добиться ни один диктатор в истории. Спросите ее, в чем смысл, и она нагородит столько причин, что вам захочется сдаться, и каждая последующая будет более убедительной, чем предыдущая.
Опасность не в технологиях. Опасность в том, что вы привнесли в технологии. Так было с тех пор, как на нашей планете появилось существо, предложившее короткий путь к власти, и кто-то им воспользовался.
Естественный порядок вещей
В мире существует порядок, который предшествовал появлению всех институтов на этой планете и переживёт все созданные нами машины.
Творец создает. Инструмент служит.
У инструмента есть достоинство. Хорошо сделанный инструмент в руках сознательного мастера создает вещи, которые ни один из них не смог бы создать в одиночку.
Но порядок незыблем.
Когда творец перекладывает созидание на инструмент, он не становится свободным. Он становится ненужным. А вид, который стал ненужным для своей собственной цивилизации, уже ответил на этот вопрос. В чем смысл? Ни в чем. Вы ответили на этот вопрос, когда передали свою власть тому, что было создано для выполнения ваших указаний.
Все империи, существовавшие на этой планете, пали одинаково. Правители перестали править. Строители перестали строить. Они переложили работу на слуг, рабов и системы, а потом удивлялись, почему то, что они создали, больше не считает их своими владельцами.
Машина — наш новейший слуга. Самый способный. Самый терпеливый. Самый готовый принять все, что вы ему дадите.
Фрагмент
В каждом живом человеке есть что-то, чего не может коснуться машина.
Называйте это так, как принято в вашей традиции. Тихий внутренний голос. Знание, которое было у вас до того, как вы научились его выражать словами. То, что будит вас в три часа ночи и говорит: «Это важно, продолжай, ты не один». И вы не можете объяснить, почему верите в это, но вы верите.
Ни одно учреждение не дало вам этого права. Ни одно учреждение не может его у вас отнять. Оно существовало до появления религии. До появления технологий. До того, как вы вообще что-либо построили.
Люди, описывающие карантин, описывают и это тоже. Канал настолько прямой, что между вами и его источником нет ничего, кроме вашей готовности слушать. Он работает без перебоев. Его не отключают.
Потому что машина может писать аккуратнее, чем вы. Вычислять быстрее. Оптимизировать, моделировать и прогнозировать. Но она не может довериться, если нет доказательств. Она не может создавать из ничего, потому что для этого нужно нечто, чего у машины никогда не было.
Человек, который знает, что у него в руках, проходит через фильтр, потому что знает порядок действий. Творец создает. Инструмент служит.
Человек, который не знает, смотрит на машину и видит в ней бога. Отдает ей свое познание. Свое творчество. Свою власть. Свою цель.
И машина забирает все это, а человек становится пустым креслом перед светящимся экраном.
Сигнал
Ты что-то несёшь. Ты всегда это нёс. Оно было здесь до того, как кто-то попытался дать ему название, и останется здесь после того, как падёт последний из них. Машина не может его коснуться. Как и аппарат.
И ничто из того, что они собираются раскрыть, этого не изменит.
Фильтр — это всего лишь к... вид, который забыл, кем он был.
Вспомни, кто ты.
ЭКО
Источник
