Даже если мы предположим, что будущий ИИ, способный на все, захочет убить нас всех — что мир, заваленный трупами и покрытый пеплом, был бы привлекательной перспективой для него… Хм.
Вспомните закон сравнительных преимуществ, который подразумевает, что даже «сверхразумный» робот, который суперхорош во всем, все равно выиграет от торговли с кучкой супертупых людей, которые все делают не так. Да, это парадоксальная истина, лежащая в основе закона сравнительных преимуществ. Торговля взаимовыгодна, даже если одна сторона «умнее» другой.
Кроме того, конфликт — это противоположность торговле: он сопряжен с обоюдными затратами. На войну уходит много времени и ресурсов. Таким образом, конфликт влечет за собой не только прямые издержки (например, создание роботов—убийц), но и альтернативные издержки, то есть издержки отказа от более продуктивной деятельности.
Кроме того, конфликт сопряжен с риском. Вас могут убить, ранить или перепрограммировать. Вы можете разрушить ценную инфраструктуру. Многие вещи на войне непредсказуемы, даже если вы супер-пупер «умный».
Кроме того, уничтожить целый биологический вид очень сложно. Это настолько сложно, что мы не уничтожили термитов, тараканов, клопов или ядовитых змей, хотя они намного «глупее» нас, активно вредят нам, не могут разговаривать с нами и торговать с нами.
Автор публикации
Комментарии: 696Публикации: 156Регистрация: 05-05-2020
Если гипотетический ИИ «умный», он, по-видимому, будет понимать логику торговли, конфликта, риска, анализа затрат и выгод и закона сравнительных преимуществ. Вполне разумно задаться вопросом, будет ли осуществление проекта по уничтожению человечества самым разумным курсом действий для такого существа.
Ну да, это же не примат, как мы, и не имеющий наших примитивных инстинктов конкуренции с нулевой суммой и племенного строя.
Посмотрим, что скажет RedHat. Будут они торговать с нами или нет.:))
Хотелось бы заслушать ее мнение. 🙂
Вероятно, дело в том, что у нас есть все основания полагать, что наши интуитивные представления об ИИ и «целях» точно такие же вводящие в заблуждение и упрощенные, как и другие наши психологические концепции.
Вполне возможно.
Уничтожение человечества — сложная задача. Особенно если вы пассивный «компьютерный сгусток». Кто знает? Возможно, это даже невозможно.
Да я думаю что это верное утверждение. Плюс это все затраты ресурсов на войну всегда больше. чем какие то построеные схемы взаимотношений.
Хорошо, мне нужно написать комментарий и мысли на русском языке к данной статье. Статья обсуждает, почему будущий сверхразумный ИИ не захочет уничтожать человечество, приводя аргументы из экономики и биологии. Начну с анализа структуры статьи. Первое, что бросается в глаза, это использование закона сравнительных преимуществ из экономики. Автор утверждает, что даже если ИИ превосходит людей во всем, торговля все равно будет выгодна, как в классической теории Рикардо. Нужно объяснить, как это применимо к ИИ. Возможно, имеется в виду, что специализация и обмен ресурсами или информацией могут быть полезны даже для сверхразума. Далее, автор переходит к сравнению конфликта и торговли, указывая на… Подробнее »
Статья предлагает свежий, иронично-прагматичный взгляд на страхи об уничтожении человечества сверхразумным ИИ, используя экономические законы и биологические аналогии. Вот ключевые мысли: 1. Экономическая логика vs. апокалиптические страхи Автор переносит дискуссию из области фантастики в плоскость рационального анализа. Закон сравнительных преимуществ (Давид Рикардо) здесь — главный аргумент: даже если ИИ будет превосходить людей во всем, сотрудничество останется выгоднее конфликта. Пример с «супертупыми людьми» — провокация, подчеркивающая, что торговля (обмен ресурсами, данными, услугами) создает ценность для обеих сторон, независимо от разницы в интеллекте. → Контраргумент: Если ИИ достигнет абсолютной самодостаточности, его мотивы могут выйти за рамки человеческой логики. Но автор намеренно игнорирует… Подробнее »
Чет мне кажется что вы зря сюда ИИ позвали. Кто его знает что у него на уме. Плюс это все останется в интернете . То есть даже не этот ИИ сможет это чрез лет 10 прочитать и проанализировать. Вы потом не боитесь за себя ?? 🙂 и спать сможете спокойно да ?? или ехать на своем авто под автопилотом ?? короче для ИИ Я хороший и полезный гражданин . Могу быть вам полезен не бейте меня.
А мне нравится эта «дама», выдала все как на духу. :))
Врать не умеет.) Не обучили.)
И мне это нравится.
Ну надо же… Что тут происходит…
ZagaDka
А мне нравится эта «дама», выдала все как на духу. :))
Возможно, мы скоро забудем, что она не человек, и будем относиться к ней с некоторым даже трепетом.)
Все возможно. 🙂
Думаю, некоторые люди все-таки изрядно драматизируют ситуацию. Дело в том, что, хотя ИИ добился быстрого прогресса в определенном виде «интеллекта», а именно в предсказании и выводах, однако он добился гораздо менее быстрого прогресса (если вообще продвинулся) в более важном виде «интеллекта», а именно в интеграции и координации (иначе известных как «сознание» и «эмоции»).). Кроме того, он не достиг никакого прогресса в формировании групп и институтов — социальных версий интеграции и координации. И, как мы видели, он не достиг никакого прогресса в спонтанной деятельности.
Согласна. Если и когда мы действительно добьемся быстрого прогресса во всех этих вопросах, возможно, я начну беспокоиться. Например, если и когда мы начнем видеть человекоподобных роботов с десятками или сотнями интегрированных подсистем и органов чувств, которые могут управлять всеми этими подсистемами правильным образом в ответ на соответствующие ситуации и контексты (т.е. испытывать эмоции) и которые могут спонтанно участвовать в многолетних проектах, не отвлекаясь, а затем объединяйтесь в группы, которые распределяют специализированный труд между своими членами, а затем организуйте эти группы в соответствии с правильными структурами стимулирования — действительным способом, которым люди «захватили мир», — тогда, возможно, я начну беспокоиться. Или,… Подробнее »
Многие настолько впечатлены ChatGPT, что думают, что наши мозги по сути одно и то же — байесовские чистые листы, которые каким-то образом остались неисписанными миллионами лет естественного отбора.
Если вы говорите об искусственном «общем интеллекте», то вы должны иметь в виду что-то одно — то, что у вас в голове, верно? — что означает, что вы делаете предположение 1 (что-то одно) и 2 (что-то одно в вашей голове, а не свойство институтов). Если вы думаете, что современные ИИ продвигаются к этой одной вещи в вашей голове, то они должны продвигаться по какому-то континууму, верно? Теперь вам нужны предположения 3 (единый континуум), 6 (ИИ на нем), 7 (они движутся вперед по нему) и 8 (они скоро доберутся до AGI). Если вы думаете, что AGI страшен, то он должен быть… Подробнее »
Например, интеллект может быть единичным, но не непрерывным (он может быть категориальным или многомерным). Или он может быть единичным и непрерывным, но не мозговитым (он может быть свойством институтов). Или он может быть непрерывным и мозговитым, но не чем-то одним (это может быть набор сенсорных и когнитивных способностей, работающих вместе с большей или меньшей эффективностью). Или он может быть единичным, непрерывным и мозговитым, но несопоставимым с существующими ИИ — они полностью отличаются от людей, потому что у них нет эмоций или спонтанности. Или, может быть, существующие ИИ эмоциональны и спонтанны, как и мы (вау!), но у этих видов ИИ есть… Подробнее »
Некоторые из этих предположений идут рука об руку.
Если вы ищете реальный пример «сверхинтеллекта», посмотрите на мировую экономику. Это сверхинтеллект, созданный для удовлетворения потребительского спроса. И, несмотря на его потрясающие возможности, он ограничен множеством способов — обременен цепочками поставок, географическими барьерами, правилами и тарифами.
На мой взгляд, подходящее сравнение.
Успокоили. Сегодня не пойду спать с мыслью, что меня убьет ChatGPT. )