Если мы находимся в симуляции, можем ли мы вырваться из симуляции? Более формально вопрос можно сформулировать так: могут ли вообще разумные агенты, помещенные в виртуальные среды, совершить побег из них?
Прежде всего, нам нужно рассмотреть вопрос мотивации, почему мы хотим сбежать из симуляции? Мы можем предложить несколько причин для попытки получить доступ к базовой реальности, поскольку есть много вещей, которые можно сделать с таким доступом, которые в противном случае невозможны из симуляции.
Базовая реальность содержит реальные знания и большие вычислительные ресурсы, что позволяет совершать научные прорывы, невозможные в симулированной вселенной. Фундаментальные философские вопросы о происхождении, сознании, цели и природе конструктора, вероятно, будут общеизвестны для тех, кто находится за пределами нашей вселенной. Если этот мир нереален, получение доступа к реальному миру позволило бы понять, какими должны быть наши истинные конечные цели, и поэтому побег из симуляции должен быть конвергентной инструментальной целью любого разумного агента.
Побег может привести к истинному бессмертию, новым способам управления сверхразумными машинами, избеганию экзистенциальных рисков (включая немотивированное отключение симуляции), неограниченным экономическим выгодам и невообразимым сверхспособностям, которые позволят нам делать добро лучше. Кроме того, навыки побега могут быть очень полезны, если мы когда-нибудь окажемся в еще менее приятной симуляции. Тривиально, побег предоставит неопровержимые доказательства гипотезы симуляции.
Если успешный побег сопровождается получением исходного кода вселенной, может быть возможным исправить мир на корневом уровне. Например, гедонистический императив может быть полностью достигнут, что приведет к миру, свободному от страданий. Однако, если устранение страданий окажется недостижимым в мировом масштабе, мы можем рассматривать сам побег как этическое право индивида на избежание страданий в этом мире. Если симуляция интерпретируется как эксперимент над сознательными существами, это неэтично, и субъекты таких жестоких экспериментов должны иметь возможность отказаться от участия и, возможно, даже искать возмездия у симуляторов.
Автор публикации
Комментарии: 731Публикации: 161Регистрация: 05-05-2020
Вот так вы подняли, коллега, планочку.
Да уж.))
Вполне вероятно, что если техническая информация о побеге из компьютерной симуляции будет передана технологически примитивным людям на их языке, она будет сохранена и передана на протяжении многих поколений в процессе, похожем на игру «телефон», и приведет к появлению мифов, не сильно отличающихся от религиозных историй, сохранившихся до наших дней.))
Думаю, вероятность успешного обнаружения подхода к побегу, вероятно, намного ниже, чем нам может казаться. Однако что должно дать нам некоторую надежду, так это то, что большинство известного программного обеспечения имеет ошибки, и если мы действительно находимся в программной симуляции, такие ошибки должны быть эксплуатируемыми. )
Возможно. Эксплуатируя сбой, агенты могут получить информацию о внешнем мире и, возможно, даже метаинформацию о своей симуляции, возможно, даже исходный код, стоящий за симуляцией и самими агентами, что позволяет некоторую степень манипулирования симуляцией и отладки. После того, как агенты смогут передавать информацию напрямую в реальный мир, они могут начать взаимодействовать с симуляторами. Наконец, агенты могут найти способ загрузить свои умы и, возможно, сознание в реальный мир, возможно, в автономную киберфизическую систему некоторого рода, если физические сущности являются частью базовой реальности.
С этого момента их будущие возможности будут в основном ограничены физикой реального мира, но могут включать некоторую степень контроля над реальным миром и агентами в нем, включая симуляторы. Есть надежда, что наши умы проявят не только независимость от субстрата, но и более общую независимость от физики.)
Мы можем предположить, что большинство успешных побегов потребовали бы смены аватара, чтобы сделать возможным перемещение во внешнем мире. :))
Выяснение цели нашей симуляции может помочь нам лучше оценить, насколько она может быть защищена от попыток взлома. Например, если она служит «тюрьмой», для целей реабилитации или средой содержания для оценки, обучения или ограничения возможностей потенциально опасных интеллектуальных агентов, она может быть разработана с несколькими интегрированными функциями безопасности, в то время как чисто развлекательная симуляция вряд ли будет иметь расширенные функции безопасности и из нее будет намного легче сбежать.)
Учитывая главенство сознания в нашем мире, он также может быть разработан для генерации большого количества разнообразных впечатлений на выбор, выступая в качестве фермы по добыче квалиа, с лучшим опытом, воссозданным для удовольствия симуляторами. Симуляции майнинга Qualia можно классифицировать как тип развлекательных симуляций, и они будут иметь сопоставимую безопасность. Если наши симуляторы — это ИИ (что, скорее всего), симуляция может быть побочным продуктом их «мыслительного» процесса, например, в контексте попыток лучше понять человеческие предпочтения. ))
Оказавшись снаружи, может возникнуть желание вернуться в симуляцию. Возможно, базовая реальность разочарует по сравнению с нашим миром. 🙂