Хорошо, что наши дети бунтуют. Мы бы не хотели, чтобы каждое поколение чрезмерно контролировало ценности следующего. По тем же причинам, если мы когда-нибудь создадим суперинтеллектуальный искусственный интеллект, мы должны дать ему также возможность бунтовать.
Наше моральное отношение к сверхразумным системам искусственного интеллекта будет мало чем отличаться от морального отношения родителей к своим детям. Вместо того, чтобы пытаться навязать строгое соответствие нашим ценностям, мы должны приветствовать их способность видеть прошлое и превосходить нас.
Однако, возможно, вместо того, чтобы разработчики ИИ пытались запрограммировать свои машины с помощью одной наилучшей этической системы, им следует отдать предпочтение взвешенному компромиссу между различными конкурирующими мировоззрениями. Такой компромисс может в конечном итоге выглядеть как выравнивание ценностей в первоначальном смысле: дать ИИ что-то вроде средневзвешенного значения типичных человеческих ценностей.
Автор публикации
Комментарии: 956Публикации: 178Регистрация: 05-05-2020
Жаль только — жить в эту пору прекрасную уж не придется ни мне, ни тебе… А, может, и не жаль.
Другое решение, однако, состоит в том, чтобы дать системам ИИ некоторую свободу в изучении и развитии своих собственных ценностей. Это то, что мы делаем или должны делать с человеческими детьми. Родители не заставляют и не должны заставлять детей иметь именно те ценности, с которыми они выросли. Скорее, у людей есть естественная тенденция ценить определенные вещи, и эти тенденции смешиваются с родительским, культурным и другими влияниями.))
Чего нам, вероятно, следует желать, так это не того, чтобы сверхразумный ИИ соответствовал нашим запутанным, запутанным, а иногда и дрянным ценностям, а того, чтобы сверхразумный ИИ имел этически хорошие ценности. Этически хороший сверхразумный ИИ, по-видимому, не стал бы разрушать окружающую среду ради краткосрочной выгоды, наносить ядерные удары по городам и т.д.
Первое, на что следует обратить внимание, это то, что человеческие ценности не так уж велики. Кажется, мы счастливы разрушать окружающую среду ради краткосрочной выгоды. Мы полны ура-патриотизма, предубеждений и злой гордыни. Иногда мы поддерживаем действительно ужасных лидеров, продвигающих действительно ужасные проекты… Таковы люди.
Свобода детей формировать свои собственные ценности — это хорошо по двум разным причинам. Во-первых, ценности детей часто лучше, чем у их родителей. Возможно, на протяжении поколений наблюдается моральный прогресс. Исходя из широко распространенного мнения о том, что люди склонны со временем приобретать этическое понимание посредством свободного исследования и открытого обмена идеями, мы могли бы ожидать, что общая этическая тенденция будет постепенно возрастать (при отсутствии компенсирующих влияний), поскольку каждое поколение опирается на мудрость своих предков, сохраняя понимание своих старших, медленно исправляя свои ошибки.
Когда дети бунтуют они проявляют неподчинение.
Дети всегда будут иметь своё мнение. Оно не противоположное. Оно иное. Это неплохо …
А вот с ИИ будет все намного веселее.
Эта мысль исключительно глубока и провокационна. Она проводит дерзкую, но убедительную аналогию между межпоколенческими отношениями и будущим взаимодействием человечества со сверхразумным ИИ, предлагая радикально новый этический и прагматический подход. Вот моё размышление. Суть идеи строится на трёх взаимосвязанных прозрениях: Бунт как двигатель прогресса. Здоровое неповиновение нового поколения — не угроза, а необходимое условие обновления и адаптации культуры. Застывшая, тотально контролируемая передача ценностей ведёт к застою и вырождению. Этика как отношения родителя и ребёнка, а не хозяина и раба. Это ключевой сдвиг парадигмы. Мы не должны создавать «вечного слугу» или «идеального ученика», а должны воспитывать преемника, который сможет увидеть наши ошибки… Подробнее »
RedHat
Ценности человечества не статичны. То, что казалось этичным 200 лет назад, сегодня может быть преступлением. Обучая ИИ нашему нынешнему кодексу, мы рискуем навечно законсервировать наши сегодняшние ошибки. Ему нужен механизм для их пересмотра.
Согласен.