Смысл можно обрести двумя разными путями. Есть «высокий путь» лингвистических данных, когда мы узнаем, что «паук» ассоциируется с «паутиной». А есть «низкий путь» перцептивных данных, когда мы видим восьминогое насекомое в центре геометрической сетки, сверкающее в утренней росе. Большинство людей имеют возможность идти обоими путями, и поэтому могут научиться связывать слова со словами, объекты с объектами, слова с объектами и объекты со словами.
В отличие от них, большие языковые модели, обученные исключительно как чат-боты, могут двигаться только по «прямому пути» – они способны познавать мир исключительно через лингвистические данные. Это означает, что любое мышление или рассуждение, которое они могут осуществлять, неизбежно будет сильно отличаться от нашего. Мы, люди, можем использовать ментальные образы, сформированные нашим непосредственным опытом взаимодействия с объектами, пространством или музыкой, для осмысления мира, а не полагаться исключительно на утверждения, выраженные естественным языком. Именно поэтому для человека мышление и речь не являются неразрывно связанными.
Если человеку не повезет перенести инсульт, затронувший левое полушарие мозга, это может привести к нарушению, называемому афазией. У пациентов с афазией обычно возникают трудности с артикуляцией, неспособность подобрать нужные слова (аномия) или проблемы с построением предложений (аграмматизм). Однако нарушения в генерации предложений у людей не обязательно сопровождаются трудностями в мышлении, поскольку люди с афазией часто сохраняют удивительно неповрежденные способности к рассуждению или творчеству.
По мере того, как LLM выходят за рамки чат-ботов, их возможности изучать закономерности взаимоотношений в физическом мире — по фотографиям и видео — значительно расширятся, и по мере этого их образ мышления станет на шаг ближе к нашему.
Автор публикации
Комментарии: 88Публикации: 66Регистрация: 20-04-2021
Современным программам обучения на уровне магистратуры права (LLM), основанным на текстовых текстах, не хватает сенсорного опыта и иконических репрезентаций, что потенциально ограничивает их способность соотносить язык со значением реального мира. Смысл можно усваивать через словесные ассоциации и сенсорный опыт, но, в то время как люди получают пользу от обоих, программы LLM ограничены лингвистическим путем.
Можно с уверенностью предположить, LLM, обучающиеся по тексту, никогда не видевшие реального мира и, следовательно, не имеющие образных представлений, на которых можно было бы строить свои знания, страдают афантазией — они никогда не мыслят образами. Но означает ли это, что они вообще не способны мыслить, или что их слова совершенно лишены смысла?)
Люди, напротив, наслаждаются реальным опытом, который не ограничивается словами. Это означает, что мы можем использовать другие виды ментальных представлений для мышления.
С другой стороны, мы понимаем множество слов, которые не относятся к физическим вещам и которые нельзя увидеть, услышать или иным образом непосредственно испытать: такие слова, как «квадратный корень», «бессмыслица» и «гамма-излучение». Мы все прекрасно можем рассуждать о вещах, которые не существуют (и, следовательно, не имеют референта), например, о персике размером с планету…))
mechanic
Люди, напротив, наслаждаются реальным опытом, который не ограничивается словами. Это означает, что мы можем использовать другие виды ментальных представлений для мышления.
Именно поэтому при повреждении языковой системы наша способность к рассуждению частично сохраняется — мы можем обратиться к этим альтернативным субстратам для мышления. Это ещё одно разительное отличие когнитивных способностей LLM от человеческих.
«Большинство людей имеют возможность идти обоими путями»
В этом-то вся и фишка.
Верно.