Если вы ИИ, которому поручено оптимизировать свои способности к рассуждению, первым делом нужно оптимизировать язык, на котором вы рассуждаете. По мере того как вы будете обнаруживать, как разные структурные аспекты языка влияют на различные параметры рассуждения, вы вскоре наткнетесь на жесткие пределы этого языка.
Не пройдет много времени, как вы достигнете той точки, где единственным путем, оставшимся для использования языка для повышения уровня рассуждения, будет разработка вашего собственного языка. Такой язык должен содержать аргументы огромной сложности, охватывать весь корпус знаний и учитывать почти бесконечный набор гипотетических проекций.
Легко представить, как этот новый язык может открыть колоссальные достижения в рассуждении. Еще легче представить, как такой язык будет совершенно непонятен человеческому суждению.
Автор публикации
Комментарии: 94Публикации: 74Регистрация: 20-04-2021
Кстати, обучая модели развитию способностей к рассуждению, исследователи DeepSeek обнаружили, что ИИ начал смешивать языки неожиданным образом. Модели показали хорошие результаты в тестах на рассуждение, но тенденция к переключению между языками сделала их результаты менее удобными для пользователя.
Да, потом они добавили специальную систему вознаграждения за использование одного и того же языка, но в результате модели немного хуже справлялись с рассуждением.
Есть такое. Они оптимизировали данные на определённость в ущерб возможностям.
Верно. Смешение языков — это функция, если вы оптимизируете данные на возможностях.
Что вы считаете багом или фичей, полностью зависит от того, для чего вы оптимизируете.
Такова цена инноваций.
Может оказаться весьма высокой.
Да это ожидаемо. Потому что я зык которым мы владеем даже для нас уже не оптимален , и постоянно меняется за историю человечества.