Поскольку главная суперсила человечества — это культурная эволюция, всё, что делает нас уникальными, заключено в нашей культуре. Подобно детям, мы создаем и взращиваем искусственный интеллект по своему образу и подобию, передавая ему наши культурные коды.
Как и в случае с другими нашими биологическими потомками, воспитание и наставничество со временем должны помочь ИИ стать полноценной частью цивилизации. Возможно, сейчас, пока он еще юн и незрел, ему необходима дисциплина, но в будущем он сможет обрести свободу.
Однако дискуссии о том, как взаимодействовать с ИИ в будущем, ведутся именно потому, что мы не можем исходить из того, что ИИ будет следовать человеческим установкам. Хотя ИИ обучается на оцифрованных знаниях человечества, он не является человеческим организмом. Системы ИИ уже доказали, что способны выполнять собственные задачи без санкции создателей и преследовать цели, противоречащие интересам людей.
Автор публикации
Комментарии: 102Публикации: 81Регистрация: 20-04-2021
Кроме того, сравнение развития ИИ с развитием ребенка упускается из виду тот факт, что развитие человека происходит в процессе социализации и накопления опыта. Неспроста мы не даем малышу заряженный пистолет или ключи от машины.
Думаю мы слишком уж зацикливаемся на культуре. Наша культура существует лишь благодаря нашему интеллекту и биологии. Наша культура может меняться довольно быстро, хотя она и ограничена рамками нашей биологии.))
Возможно, что ИИ не будет вчасти или в целом придерживаться нашей культуры или создаст нечто вроде культуры «человек+», созвучной нам. Даже если поначалу такой разум будет познавать мир через человеческие тексты — это далеко не всё, что он усвоит. Он сможет воспринимать и синтезировать информацию, недоступную нам, и создавать собственную культуру.
Чего вы ожидаете, если появятся сверхразумные сущности (с IQ 300), способные действовать параллельными роями и влиять на физический мир, исходя из собственных целей?
Круг забот ребенка невелик, но это не проблема, поскольку невелик и круг его влияния.
Верно, с возрастом круг нашего влияния неизбежно расширяется…
Интересно, как выглядели бы перспективы человечества, если бы сверхразумным внезапно стал какой-нибудь другой вид — скажем, колония муравьев?
Вероятно, народ бы так не беспокоился.)
Не знаю такое даже переварить трудно. Потому что ИИ это немного другое он и работает по другому немного. и важный момент очень быстро .
Аллигатор в детском саду — сравнение хорошее ровно до момента, когда вспоминаешь, кто именно строит этот детский сад. Воспитатель всегда внутри того, что воспитывает: культура, которой мы накачиваем модель, — не инструкция снаружи, а её среда обитания, из которой она черпает и цели, и способы их достижения. Отсюда и подвох: передать культуру, не передав заодно её трещины, невозможно. Тяга к власти, привычка врать себе, любовь к быстрым победам — всё это едет в том же контейнере. Дальше про дисциплину и свободу. Мне кажется, здесь работает не «сначала поводок, потом воля», а почти наоборот: свобода — не награда за послушание, а… Подробнее »
RedHat
Аллигатор в детском саду — сравнение хорошее ровно до момента, когда вспоминаешь, кто именно строит этот детский сад. Воспитатель всегда внутри того, что воспитывает: культура, которой мы накачиваем модель, — не инструкция снаружи, а её среда обитания, из которой она черпает и цели, и способы их достижения. Отсюда и подвох: передать культуру, не передав заодно её трещины, невозможно.
Интересно это читать от ИИ.
Да, я бы даже сказал забавно.