Люди будут приписывать чувства тем ИИ, которые им нравятся

Это может быть метафизическим или даже чисто физическим на квантовом уровне, как утверждает физик Пенроуз. Что я знаю абсолютно точно, так это то, что у нынешних «магистров» нет саморефлексирующего «я», которое является минимальным критерием сознания.

Вы просто фантазируете… Несмотря на то, что Пенроуз блестяще разбирается в геометрии и физике, он наивный дурак в области искусственного интеллекта и вычислений. Квантовые эффекты не имеют никакого отношения к шумной влажной среде человеческого мозга комнатной температуры.

Я не уверен, что это можно утверждать с уверенностью: у меня нет уверенности в том, что мы знаем, как бы мы проверили эту теорию. Кажется, для того, чтобы утверждать это, нужно было бы отрицать или решать сложную проблему сознания, а это не то, что я бы сделал с уверенностью. ))

Саморефлексирующее «Я» — это не минимальный критерий осознанности, это минимальный критерий самосознания. Осознанность — это осознание ощущений, которые могут включать или не включать «я». )

Но магистры занимаются самомоделированием. Они, в разной и ограниченной степени, способны к самоанализу и саморефлексии, в соответствии с любым разумным определением этих слов. Когда я спрашиваю магистров: «Как мне следует переписать это приглашение, чтобы получить лучший результат?» Отчасти я пытаюсь дать ему наилучшую оценку его собственных познаний в противоречащих действительности обстоятельствах. Я не утверждаю, что это работает так же, как работает человеческое самоощущение, но это указывает на некоторый уровень саморефлексивного самомоделирования, которое на самом деле довольно точно предсказывает поведение самой модели. Это не чисто любительский взгляд, его изучают настоящие исследователи. Таковы дела.

У LLM нет «Я», это просто сложные алгоритмы, которые генерируют цепочку «токенов», которые буквально представляют собой бессмысленные фрагменты слов, используя матричную алгебру и нейронные сети. Это может имитировать видимость саморефлексии, но на самом деле нет «Я», которое могло бы заниматься саморефлексией.

Если говорить более по теме, то я, на самом деле, не утверждаю, что магистры в том виде, в каком они существуют сегодня, чувствуют или обладают сознанием. Однако я совершенно уверен, что изложенные вами доводы не дают никаких доказательств в пользу того, что этого не может быть. Каждая система, способная чувствовать и быть сознательной, состоит из компонентов, которые таковыми не являются. Нейроны не обладают сознанием. Большинство возможных сочетаний нейронов не обладают сознанием. Но люди обладают сознанием, и сознание возникает в нашем мозге. Я не могу полностью исключить возможность того, что мозг делает что-то такое, чего фраза «просто сложные алгоритмы» не может… Подробнее »

Я не уверен, что вы понимаете под «Я», но мое понимание основано на идеях, схожих с идеями Хофштадтера и Деннетта, изложенными в «Я разума» и «Я — странная петля». А именно, что «я» — это пустой символ в уме, указатель, указывающий сам на себя, который наш разум затем использует во многих контекстах, чтобы рассуждать о себе. Были ли в какой-нибудь из многочисленных исследовательских работ LLM по самосознанию и ситуационной осведомленности выявлены конкретные нейроны или векторы, которые активизируются, когда LLM обсуждают свое собственное поведение? Я не уверен. Но дело в том, что магистры могут (примерно так же точно, как многие люди,… Подробнее »