Ученый Йобст Ландгребе и философ Барри Смит в своей недавней книге «Почему машины никогда не будут править миром», утверждают, что ИИ никогда не разовьют интеллект, подобный человеческому, из-за ограничений их фундаментального математического моделирования.
Хотя мы можем точно моделировать небольшие явления реального мира, у нас просто нет вычислительной способности для моделирования больших природных систем — таких как интеллект — с помощью современной математики.
Проще говоря, если вы не можете адекватно смоделировать явление математически, вы не сможете воспроизвести его с помощью ИИ. Точка. И причина, по которой мы не можем адекватно смоделировать человеческий интеллект, заключается в том, что базовые нейронные сети непредсказуемо сложны. Большая часть нынешней паники по поводу надвигающегося апокалипсиса ИИ возникает из-за неспособности оценить этот факт.
Позвольте мне привести очень простой пример, чтобы подчеркнуть очень важный момент. У ракообразных, таких как омары, есть специализированный мышечный желудок, называемый желудочной мельницей, содержащий набор костных пластин. Ритмичные сокращения мышц желудка позволяют пластинам тереться друг о друга и измельчать пищу омара, и эти ритмы контролируют всего 11 нейронов. Ученые, изучающие эти «генерирующие шаблоны» нейронные сети, знают все об анатомии каждого нейрона, нейротрансмиттерах, которые они используют, и как именно они все связаны.
Однако, несмотря на то, что они знают все об ее организации и простоте системы, ученые все еще не знают точно, как она работает. Один ученый описывает ее как «увлекательный предмет исследования, вдохновляющий поколения нейрофизиологов, а также вычислительных нейробиологов», который «все еще недостаточно изучен». Подумайте об этом. Скоординированная деятельность всего 11 нейронов представляет собой такую сложную вычислительную проблему, что поколения ученых все еще не полностью ее разобрали. Теперь подумайте о вычислительной невозможности моделирования взаимодействий нейронных сетей среди 86 миллиардов нейронов в вашем мозге, когда вы делаете что-то разумное.
Автор публикации
Комментарии: 39Публикации: 41Регистрация: 20-04-2021
Согласен. У нас просто нет возможности или информации, необходимых для моделирования таких гиперкомплексных систем. Эта проблема аналогична трудностям, с которыми мы сталкиваемся при долгосрочном прогнозировании погоды. И если вы не можете математически смоделировать то, что делает мозг, вы не сможете построить искусственную систему, которая дублирует его активность.
Кроме того, сложность создает не только огромное количество клеток мозга и тот факт, что каждая клетка может иметь до 10 000 связей с другими клетками. Есть еще несколько препятствий для моделирования активности мозга. Первое заключается в том, что нейронные сети со временем меняются, а их паттерны активности зависят от физиологического контекста (то есть от момента к моменту происходящего во внешнем мире и внутри вашего тела).
Замечу, исторически мы использовали нейронную активность для измерения того, что делает мозг. Однако недавние исследования показывают, что большое количество нейронов неактивны во время нормальной активности мозга, некоторые не активизируются, пока они не понадобятся, а некоторые «скрыты» и активируются только нерегулярно. Кроме того, нейроны могут «менять свои связи и изменять свои сигнальные свойства в соответствии с различными правилами».)
Одна из причин, по которой людям трудно дать определение понятию “интеллект”, заключается в том, что оно не является ни единой вещью (например, тостером или стулом), ни совокупностью отдельных интеллектуальных модулей (например, пространственный интеллект, лингвистический интеллект, музыкальный интеллект и т.д.). Интеллект относится к распределенным процессам центральной нервной системы, которые позволяют людям (и некоторым другим животным) спонтанно придумывать уникальные решения неожиданных проблем.
Да, эти процессы могут быть довольно ограниченными и работать только в очень ограниченных обстоятельствах, как способность к обучению насекомых. Или они могут быть широкими и обобщаемыми для широкого спектра обстоятельств и областей, как наша способность решать проблемы. Однако во всех случаях интеллект подразумевает нечто большее, чем повторное объединение фрагментов запомненной информации или воспроизведение предопределенных результатов в ответ на конкретные подсказки, независимо от того, насколько сложными могут быть эти результаты.
Возможно, что еще важнее, человеческий (и животный) интеллект развивается только в связи с окружающей средой, в которую погружен организм. Другими словами, у него есть история развития и эпистемология.
И наоборот, хорошо развитые когнитивные процессы ухудшаются, если допустим людей помещают в камеру лишения, которая лишает их экологических (сенсорных) входов.
Позвольте мне привести вам еще один пример разницы между способностями человека и машины решать проблемы. Вспомните те капчи, которые вам приходится решать при входе на веб-сайт. Знаете, эти волнистые буквы и цифры, которые вам нужно идентифицировать, или тот набор из девяти картинок, из которых вам нужно выбрать те несколько, на которых есть мотоцикл. У первоклассника не возникнет проблем с решением этих проблем. Компьютерному боту будет очень трудно это сделать. Этой простой способности достаточно, чтобы отличить вас от машины. Таковы люди, так мы устроены.)
В настоящее время не хватает сознания, а не интеллекта. Я почти уверен, что понимаю, что такое сознание, но мало кто со мной согласен. Как только программисты тоже это поймут, игра изменится. Один определенный аспект сознания — инстинкт выживания. Это одна из причин третьего закона робототехники Азимова. И если существо умнее вас и хочет выжить — возможно, за счет вашего выживания — исход мне вообще не ясен.
Вопрос, что такое сознание? Как и время, мы его знаем, но его действительно сложно определить.
Kant
Вопрос, что такое сознание? Как и время, мы его знаем, но его действительно сложно определить.
Для меня сознание — это опыт мозга в диапазоне взаимодействий с миром, как внутренним, так и внешним, одновременно. Это эмпирическая версия стереоскопического восприятия глубины, применяемая ко всем вашим переживаниям и чувствам.
Думаю, автор утешает себя мыслью о том, что, поскольку мы не понимаем — и, вероятно, не можем понять — как работает мозг, и поскольку он является источником того, что мы называем интеллектом, мы не можем создать ничего, что было бы действительно, по-настоящему разумным. Эта линия рассуждений терпит неудачу по нескольким пунктам. Я не совсем понимаю, как работает эмбриология, но у меня есть сын, и хотя я считаю, что он был результатом квалифицированного труда с моей стороны и его матери, она не знает эмбриологии больше, чем я. Второй контраргумент заключается в том, что глаза позвоночных и глаза морских животных, особенно, скажем,… Подробнее »
Автор иллюстрирует тщетность понимания того, как работают современные нейронные сети, указывая на то, что сложно понять, как всего лишь 11 нейронов лобстера справляются со своей задачей. Хотя я не знаком с этой проблемой, в ней повсюду написано «хаос». Хаос — случайный, и он недетерминирован. Это просто означает, что его невозможно предсказать. Детерминированные явления могут быть непредсказуемыми, если граничные условия не могут быть заданы с достаточной точностью. И, на самом деле, они никогда не могут быть такими. Отсюда и «эффект бабочки».
Кстати, хаос — сравнительно недавно открытая область математики — около 1950-60-х годов. Он возник из случайного открытия уровня сложности, который ранее не ожидался. Нейроны почти наверняка работают с изрядной долей этой непознаваемой сложности. Однако тот факт, что он непознаваемо сложен, не означает, что результат не является детерминированным. Это просто означает, что вы не можете сделать прогноз, потому что это физически невозможно. Говорить, что неизвестно = не может произойти, совершенно неверно: к примеру, акции General Motors будут иметь закрывающую стоимость на сегодняшней бирже; никто не знает, какой она будет, но закрывающая стоимость будет.))
Моя главная мысль заключается в том, что хотя система искусственного интеллекта может делать вещи, которые имитируют то, что кажется «интеллектом» на поверхностном (выходном) уровне, это не означает, что они делают то же самое теми же способами, что и естественные системы. Важно проводить это различие. (Мало кто делает.) В противном случае люди будут относиться к искусственному интеллекту так, как будто это что-то, чем он явно не является (т. е. интеллектуально). То есть, если мы считаем системы «интеллектуальными», мы с большей вероятностью воспримем их советы за чистую монету, верно? И наоборот, если мы думаем, что мозг людей работает так же, как работают… Подробнее »
В любом случае, мозг — очень занятая штука, и он был занят еще до рождения.))
А мне кажется мы слишком зацикливаемся на своем мозге . Автор книги молодец . Но он всего лишь подчеркнул что люди ничтожно медленные в изучения и развитии . и все :). Пример из мира реального . можно людьми капать котлован и носить тачками грунт 10 лет . А можно купить 100 грузовиков татра 30 кубовых весом в гружёном состоянии 60 тонн и экскаваторы промышленные которые такой объем одним ковшом поднимают . и вырыт котловн за месяц . К чему этот пример ИИ может запускаться синхронно на 1000 машин а у человека не будут такой же проудктивности если посадить 1000 ученых.… Подробнее »
С другой стороны, около 10 лет назад люди в отрасли предсказывали, что к настоящему времени мы все будем ездить на автономных, беспилотных автомобилях. Ну, теперь некоторые эксперты по ИИ считают, что этого никогда не произойдет, если мы не создадим полностью закрытую дорожную систему и не запретим всех водителей-людей, пешеходов и велосипедистов, потому что они создают непредсказуемые схемы движения, которые просто невозможно адекватно смоделировать. Следовательно, мы никогда не сможем разработать систему ИИ, которая безопасно управляет автономными автомобилями в хаотичных условиях, в которых мы с вами ездим каждый день. Опять же, это свидетельствует об ограничениях ИИ и об уникальных способностях человеческого мозга… Подробнее »
Представьте, что инопланетяне посещают Землю и измеряют, что внутри человеческих голов… Через несколько мгновений один говорит другому, что удивительно, что они (люди) могут выполнять такие сложные математические вычисления при такой ограниченной нервной системе. Но, конечно, на самом деле они не «разумны».)) А вообще, я до чертиков боюсь что за Джина мы выпустим из бутылки))