Опрос 2 778 исследователей ИИ, проведённый в октябре 2023 года, через семь месяцев после выпуска GPT-4 в марте 2023 года, использовал два по-разному сформулированных определения искусственного общего интеллекта (AGI). Первое определение, «Интеллект высокого уровня», утверждало, что система ИИ сможет выполнять любую «задачу», которую способен выполнить человек. Второе определение, «Полная автоматизация труда», говорило, что система сможет выполнять любую «профессию». (Логически, первое определение, по-видимому, подразумевало бы второе, но, по всей видимости, респонденты опроса так не интерпретировали его.)
Прогноз развития высокоуровневого машинного интеллекта был следующим:
10% вероятность к 2027 году
50% вероятность к 2047 году
Прогноз полной автоматизации труда был следующим:
10% вероятность к 2037 году
50% вероятность к 2116 году
Еще один интересный результат опроса: 76% опрошенных экспертов по искусственному интеллекту в 2025 году считали маловероятным или крайне маловероятным, что текущие методы ИИ, такие как крупные языковые модели (LLM), могут быть масштабированы для достижения ИИ общего назначения (AGI).
Автор публикации
Комментарии: 80Публикации: 65Регистрация: 20-04-2021
Не разделяю слишком оптимистичные прогнозы… Простой пример. Автономные автомобили Waymo имеют геозону на уровне улицы, например, они могут ездить по этой улице, но не по улице рядом с ней. Компания Waymo выделяет из городов те места, где ее автомобилям легче всего передвигаться и где риск совершить ошибку самый низкий. Tesla — еще один хороший пример, на который стоит обратить внимание, помимо Waymo, потому что здесь нет геозоны, телеуправления или удаленной помощи. Можно купить Tesla и получить доступ к новейшей, самой совершенной и передовой версии технологии автономного вождения автомобиля. Это не очень хорошо. На YouTube существует целая индустрия людей, публикующих длинные… Подробнее »
Согласен. Проблема не разрешится в течение многих лет, теперь я думаю, что был слишком оптимистичен в отношении того, как скоро будет внедрена полная автономия.
Самоуправляемый автомобиль безопаснее, чем человек-водитель, наводит на мысль о том, что машина может ездить куда угодно и делать все, что угодно, сама по себе, и реже попадает в столкновения. Люди ссылаются на заявления Waymo о безопасности и говорят, что проблема самостоятельного вождения решена — у нас уже есть водитель—сверхчеловек с искусственным интеллектом. Но на самом деле Waymo утверждает лишь, что частота столкновений и травм среди ее автомобилей ниже, чем в среднем у водителей-людей.
Если бы безопасность была такой же, как общая производительность или компетентность, не было бы необходимости в геозонах и не было бы необходимости в телеуправлении или удаленной помощи. Вы могли бы просто использовать беспилотные транспортные средства в любом месте и без участия человека.
Андрей Карпати, исследователь искусственного интеллекта, ранее работавший в OpenAI и руководивший разработкой ИИ для автономного вождения Tesla с 2017 по 2022 год, недавно сделал следующие замечания в подкасте:
…автономные автомобили ещё далеки от завершения. Развёртывания довольно минимальны. Даже у Waymo и подобных компаний очень мало автомобилей. … Кроме того, когда смотришь на эти автомобили и видишь, что за рулём никого нет, я думаю, что это немного обманчиво, потому что существуют очень сложные центры телеуправления, состоящие из людей, которые как бы связаны с этими автомобилями. Я не владею всей информацией, но человеческого участия в этом больше, чем можно было бы ожидать.
Я думаю, что практически нет шансов, что беспилотные автомобили заменят водителей-людей в крупных масштабах в течение следующих 5, а то и 10 лет.
Да, несмотря на многолетние усилия ведущих специалистов в области ИИ и многомиллиардные инвестиции, беспилотные автомобили остаются примерно на том же уровне внедрения, что и 5 или даже 10 лет назад, и далеко не полностью заменяют водителей-людей в крупных масштабах.
Patron Андрей Карпати, исследователь искусственного интеллекта, ранее работавший в OpenAI и руководивший разработкой ИИ для автономного вождения Tesla с 2017 по 2022 год, недавно сделал следующие замечания в подкасте: …автономные автомобили ещё далеки от завершения. Развёртывания довольно минимальны. Даже у Waymo и подобных компаний очень мало автомобилей. … Кроме того, когда смотришь на эти автомобили и видишь, что за рулём никого нет, я думаю, что это немного обманчиво, потому что существуют очень сложные центры телеуправления, состоящие из людей, которые как бы связаны с этими автомобилями. Я не владею всей информацией, но человеческого участия в этом больше, чем можно было бы… Подробнее »
Тем не менее, если вы основываете своё мнение о том, когда будет изобретён AGI, в основном на догадках других людей, вам следует чётко понимать, каковы эти догадки. Если же вы полагаетесь только на догадки, которые случайно слышите, то ваши догадки будут предвзятыми. Например, люди с большей вероятностью будут повторять предположения о том, что AGI будет изобретён шокирующе скоро, потому что это гораздо интереснее, чем предположение о его изобретении где-то в 2100-х годах. У вас также может быть эффект «пузыря фильтров» или «эхо-камеры», когда вы слышите предвзятую выборку предположений, основанную на ваших социальных сетях, а не на репрезентативной выборке экспертов по… Подробнее »
Верно. Я никогда не слышала ни одного веского, принципиального аргумента в пользу того, почему люди должны верить догадкам, которые предполагают появление AGI гораздо раньше, чем приведенные выше мнения исследователей ИИ и суперпрогнозистов. Следует опасаться избирательного принятия одних доказательств и отклонения других из-за предвзятости подтверждения.)
Моё личное предположение заключается в том, что вероятность появления AGI, к примеру, до 1 января 2033 года значительно меньше 0,1%. Одна из причин, по которой я так считаю, заключается в том, что разработка AGI потребует прогресса в фундаментальной науке, которая в настоящее время не получает достаточного финансирования и внимания, и что науке обычно требуется много времени, чтобы перейти от допарадигматической стадии к этапу, на котором инженеры освоят строительные технологии, используя новую научную парадигму. Насколько мне известно, никогда в истории этот переход не занимал всего 7 лет. Таковы дела.)
Zorro
Насколько мне известно, никогда в истории этот переход не занимал всего 7 лет.
Согласен.