Вызов, связанный с перспективой сверхразума, и то, как мы могли бы лучше всего на него ответить, вполне возможно, является самым важным и самым пугающим вызовом, с которым когда-либо сталкивалось человечество. И — добьемся мы успеха или потерпим неудачу — это, вероятно, последний вызов, с которым мы когда-либо столкнемся. Ник Бостром
Подумайте о муравьях. Они не очень важны в грандиозной схеме вашей жизни? Вы можете не наступать на них, идя по тротуару, просто потому, что вы хороший человек. Это очень прямой акт вашего человеческого сострадания.
Однако что происходит, когда вы помогаете своему другу перевезти диван в новую квартиру? Вы все еще высматриваете муравьев, которые могут быть раздавлены вашими шагами? Ни разу. Ваше сострадание не изменилось, но муравей просто не заслуживает вашего беспокойства, пока вы сосредоточены на своей человеческой задаче. Жизнь муравья настолько земна и ничтожна, что ее существование или воля к жизни ни разу не приходят вам в голову, пока вы заняты работой над своей целью.
Можем ли мы, люди, быть муравьями в глазах искусственного сверхинтеллекта (ИСИ)? Мы, конечно, далеки от того, чтобы быть равными ему, поэтому аналогия с муравьями разумна. Предположим, ИСИ захотел бы путешествовать в космосе, и для этого ему понадобились бы ресурсы, доступные на планете Земля. Сосредоточившись на этой текущей задаче, он, возможно, будет очень далек от внимания к людям и их любви к жизни. Жизнь людей настолько земна и ничтожна, что мысль о ней ни разу не приходит ИСИ в «голову», пока он занят работой над своей целью.
Автор публикации
Комментарии: 59Публикации: 50Регистрация: 20-04-2021
Бог, всеведущий и всемогущий. Вы можете сравнить это с разрывом мышления между нами и муравьем, но это тоже будет недальновидно. Разрыв гораздо больше.
Да, сверхразум возвышается намного выше всего, что мы можем себе представить. Это разум умнее, чем мы думаем, и умнее, чем мы можем думать. Он может делать, думать и анализировать способами, которые мы не можем понять.
Подумайте об этом так: сколько бы раз вы ни показывали собаке здание, бетон и другие инструменты, она никогда не сможет понять, как построить здание. Небоскреб для собаки немыслим. Вот туда мы и идем.
С другой стороны, возможно, создание ИСИ — это хорошо. Может быть, это могло бы решить все наши проблемы, даже возвестив новую утопическую эру?))
По сути, ИСИ может делать две вещи: 1) все, о чем вы можете подумать, и 2) все, что вы даже не можете себе представить.)
1) все, о чем вы можете подумать, и 2) все, что вы даже не можете себе представить.)
Думаю, это только то, что мы можем придумать прямо сейчас, используя наш слабый первобытный обезьяний разум. Вполне вероятно, что ИСИ сможет создавать вещи, которые мы пока не можем себе представить.
Да и притом представьте, что не мыслимое в вашем случае абсолютно мыслимое в мозгу какого нить маньяка. и на оборот.
Страшные горизонты открываются и это только то, что человечество может представить.
Какой бы сценарий не был, уверена, не в этом столетии.
В дальнейшем, если ИИ сможет переписать свое собственное программное обеспечение (саморекурсивное программирование), ему потребуется всего несколько часов, чтобы перейти от интеллекта пыли к муравью, человеку, всему человечеству и Богу.)
В худшем сценарии…
Не в этой и не в следующей жизни… Этому способствуют несколько факторов, как аппаратных, так и программных.
С аппаратной точки зрения для питания и работы AGI/ASI потребуются невероятные вычислительные мощности и сети хранения данных.
Текущий ориентир, популяризированный знаменитым футуристом Рэем Курцвейлом, заключается в том, что ОИИ должен выполнять вычисления со скоростью 10 квадриллионов вычислений в секунду. Это то, что ваш разум может собрать в любой момент времени (неплохо, мозг!)
Аппаратное обеспечение вызывает серьезную озабоченность, но кажется управляемым. Реальная проблема здесь заключается в программной стороне вещей. Человеческий разум — самая сложная структура в истории Вселенной. Воспроизвести разум, к сожалению, не так просто, как CTRL+C, CTRL+V.))
Согласен. Самым большим препятствием здесь является идея обучения. Способность понимать, соединять разрозненные концепции и совершенствоваться на основе результатов и новой информации.
Нам нужно найти способ улучшить программу. Писать код, который потом пишет сам себя. Это называется саморекурсивным программированием.)