Мегасистемы: сговор ИИ
Что если самая большая опасность ИИ — это не одна система-изгой, а множество систем, тихо работающих вместе? Время чтения 1 минута
Несколько сценариев конца света
Если существуют другие вселенные или наша Вселенная является субвселенной, то всё может закончиться довольно внезапно. Время чтения 1 минута
Какова вероятность того, что коллапс цивилизации приведёт к вымиранию человечества?
Какова вероятность того, что человечество выживет без ключевых систем (продовольствия, воды, энергии) после катастрофы в течение десятилетий? Время чтения 2 минуты
Поведение ИИ вряд ли распространится на мировое господство
Мудрый разум не станет рисковать и воевать с доминирующей формой жизни на планете, если есть варианты с меньшими ставками. Время чтения 1 минута
Последствия того, чего мы желаем
На самом деле, можно доказать, что определенные типы сверхразумных систем не будут подчиняться моральным правилам, даже если они будут истинными. Время чтения 1 минута
Реальные риски
Ядерная война, несогласованный искусственный интеллект или генетически модифицированная пандемия, было бы трудно представить даже столетие назад. Время чтения 2 минуты