Когда в кофейне готовят бублик, можно с большой долей вероятности предположить, что там могут приготовить и круассан. Не в каждой кофейне, где есть один, есть и другой, но между ними существует довольно сильная корреляция. Мы называем эту корреляцию «выпечкой».
Звучит странно. Мы называем «эту корреляцию» выпечкой? Это просто… выпечка, не так ли? Но шаги, которые вы выполняете, не совсем одинаковы. Процесс приготовления бублика и процесс приготовления круассана достаточно похожи, достигаются достаточно схожие цели и представляют интерес для достаточно схожих людей, поэтому это сходство можно кратко описать одним словом «выпечка». Но нет ничего особенного в слове «выпечка», объединяющем их на каком-либо фундаментальном уровне. Сначала сходство, а потом слово.
К чему это я?.. Возможности искусственного интеллекта значительно улучшились всего за несколько лет, но эти улучшения были крайне неравномерными: он достигал того, о чём мы и не подозревали (фотореалистичные изображения, основанные исключительно на текстовых подсказках), и терпел неудачу в вещах, которые кажутся тривиальными («сколько букв «р» в слове «клубника»?»).
Я утверждаю, что слово «интеллект» похоже на слово «выпечка», и нам давно пора сесть и отделить бублики от круассанов. Я категорически против аргументов в духе «О, это просто попугайское повторение набора данных — это не настоящее мышление». Искусственный интеллект делает многое из того, что мы называем «мышлением», когда мы делаем это медленнее и хуже. Тот факт, что он также может делать это, должен вызывать у нас смирение и любопытство, а не гордость и пренебрежение. Я думаю, что не менее глупо сваливать все эти возможности в одну кучу под названием «интеллект» и утверждать: «Интеллект растет, поэтому скоро он сможет делать все, что может интеллект». Прежде чем заключить, что здесь действительно пекут, а не просто делают бублики, нужно увидеть хотя бы несколько круассанов.
Автор публикации
Комментарии: 800Публикации: 65Регистрация: 20-10-2019
Многие опасения по поводу ИИ сводятся к искренней приверженности к смирению вида. Иначе говоря, люди, в общем-то, всего лишь глупое теплое мясо, работающее на не слишком большом количестве энергии. Никто не может убедительно определить какой-либо наш «секретный соус». Так разве не неизбежно появление машин, похожих на людей, но на более мощном оборудовании?))
Вполне реально.
Способ решения этой дилеммы – осознать, что то, что вы ищете, – это не навык, который машинам буквально не под силу. Вы ищете знания, которые нужно собирать медленным, итеративным человеческим способом, а не быстрым, рекурсивным, копирующим с идеальной точностью машинным способом. Позвольте себе скромно сказать, что машина, живущая в мире и подверженная такому же давлению отбора, как и вы, в конечном итоге может достичь лучшего места, чем вы. Существенный вопрос заключается в том, насколько хорошо давление отбора можно смоделировать с помощью достаточных вычислительных мощностей и сжать до гораздо более короткого временного интервала, чем миллионы лет, которые потребовались нам.
В конечном итоге ИИ станет лучше людей
Опасение «быстрого взлета» в области безопасности ИИ заключается в том, что в конечном итоге ИИ станет лучше людей в разработке ИИ, и он разработает другой ИИ, который будет еще лучше в разработке ИИ, и так далее, и так далее, в машинных масштабах времени.
Да есть такие предпосылки. Нам наверно просто сложно признать что ИИ уже сегодня неплохо испечены . Дело в том что мы имеем в гражданском обращении самые простые и сильно обширные модели. А есть же модели для производств которые намного шустрее и более мощные .
LLM только что сказал мне, что очень опасно класть тостер в посудомоечную машину. Большинство людей, вероятно, скажут мне то же самое. Но, по крайней мере, можно положить тостер в посудомоечную машину и посмотреть, что произойдет.))
Да, нет никакой гарантии, что достижения в области бубликования автоматически перенесутся на круассаны.)
И улучшится ли от этого выпечка?))
А теперь представьте кофейню, которой поручили «достичь супервыпечки». Они делают один бублик в понедельник, десять бубликов во вторник и сто миллионов бубликов в среду. Они ни разу не испекли ни одного круассана. Достигли ли они супервыпечки?)
Если кто-то говорит «Настоящая выпечка включает круассаны» как способ отмахнуться от чего-то, это довольно ленивое отрицание очевидной правды о том, что там происходит что-то необычное…