Предположим, кто-то создаёт хакерский ИИ. который обучен всей общедоступной информации о компьютерном взломе, когда-либо написанной, может думать и печатать в 1000 раз быстрее, чем человек, планирует далеко вперед и помещает полностью работоспособную копию себя на каждый достаточно мощный компьютер, который он взламывает. Каждая копия затем взламывает другие компьютерные системы. Каким будет мир месяц спустя?
Или представьте, что ученые открыли, как создавать самовоспроизводящихся роботов размером с жука, которые превосходят естественную жизнь. Каждый из этих роботов-жуков пытается максимизировать свою собственную целевую функцию. К сожалению, эти роботы утекли из лаборатории и теперь находятся в 20 странах. Каждый день их число удваивается. Сможем ли мы искоренить этих роботов?
Автор публикации
Комментарии: 40Публикации: 41Регистрация: 20-04-2021
Тогда нам всем труба!))
Прочитал пост и навеяла следующая мысль. Предположим, кто-то хочет иметь полный контроль над миром. К сожалению, они создали сто миллионов программных агентов, каждый из которых думает как Эйнштейн + Билл Гейтс + Илон Маск + Уоррен Баффет. Агенты пытаются делать именно то, что приказано, без колебаний и ограничений. Сможет ли кто-нибудь остановить их?
Не наводите жути!))
А что актуальные роботомысли. И хорошо, что пока только мысли…
Верно.
Или же представьте себе суперфабрику, основанную на искусственном интеллекте/нанотехнологиях, которая производит все, на что она запрограммирована, с огромной скоростью и в огромных масштабах (независимо от того, идет ли речь о производстве алмазов, супервирусов, микрочипов или дронов-убийц). Что может принести миру владелец этой суперфабрики?
Не тут у нас нету шансов пока . Мне кажется с ИИ мы открыли ящик пандоры . Дело времени когда то что написано произойдет в реальности. Потому что мы бездумно клепаем ИИ но не продумываем бекдор для отключения «горшочка».
Это точно.