Шляперы
  • Причесанные мысли
  • Непричесанные мысли
  • О проекте
  • Связь
  • Вход

Будет ли ИИ делать выводы о реальности?

04.01.2025hollidayМысли9 комментариев

Давным-давно, в далекой-далекой стране, команда исследователей искусственного интеллекта захотела обучить ИИ прогнозированию текста. Они скормили ему относительно нефильтрованный текст, созданный самыми разными людьми в Интернете. Получившаяся в результате модель очень хорошо предсказывала, какой текст люди будут писать в Интернете, включая все их предубеждения, фанатизм и дезинформацию.

Ведущие журналисты в этой стране, которые, как правило, были враждебно настроенные к новым технологиям и испытывающие страх перед ними, потребовали, чтобы языковые модели обучались только на текстах, свободных от какой-либо предвзятости и лжи. То есть, чтобы они обучались только на последних публикациях ведущих журналистских изданий. Получившаяся в результате языковая модель позволяла писать отличные колонки для популярных газет, но была бесполезна для решения любых других задач. И поэтому люди этой страны уволили своих журналистов и заменили их на GPT, и все жили долго и счастливо.

Хорошо, GPT-3, по-видимому, может писать газетные статьи. Но мы уже знали, что они часто состоят только из фнордов и случайно организованного набора слов, нагруженных аффектом. Может ли GPT-5 написать, к примеру, эссе Скотта Александра? Может ли он на самом деле мыслить концепциями, комбинировать их оригинальными способами и изобретать новые, которые относятся к вещам в реальном мире?

21
Посмотрели: 219

Автор публикации

не в сети 14 часов

holliday

1 149
Комментарии: 64Публикации: 53Регистрация: 20-04-2021
: люди и технологии, мыслительный процесс, ожидания и реальность
Предыдущая запись Чай, холодное пиво и опыт свободной воли Следующая запись О дружбе с точки зрения ее финансовой ценности

Похожие статьи

Кипящий котел, из которого мы не захотим выпрыгивать

01.08.2024holliday

Обезьяньи мозги поверят в любую идею по многим причинам

15.11.2023Ancel

Предсказательный мозг использует свои знания для формирования опыта

22.04.2024obsession

9
Отправить ответ

Войти с помощью: 
avatar
wpdiscuz_captcharefresh
6 Цепочка комментария
3 Ответы по цепочке
0 Последователи
 
Популярнейший комментарий
Цепочка актуального комментария
8 Авторы комментариев
Волшебник ВtiranniumDedeobsessioncrazy_girl Авторы недавних комментариев
avatar
wpdiscuz_captcharefresh
  Подписаться  
Уведомление о
mechanic
Участник
mechanic

GPT становятся все лучше и лучше в обобщенном предсказании текста просто за счет увеличения количества параметров модели и токенов в обучающих данных.

0
Ответить
04.01.2025 21:12
Patron
Участник
Patron

GPT уже достаточно близко?.. Моя интуиция подсказывает, что нет, потому что я могу писать как GPT-3, и я также могу писать совершенно по-другому, и это ощущается качественно по-другому и дает другие результаты.

0
Ответить
04.01.2025 21:15
crazy_girl
Участник
crazy_girl

GPT-3 предсказывает пропущенные слова или фразы с учетом некоторого контекста, что люди могут легко делать на автопилоте. Люди также могут бегло читать этот тип текста, независимо от того, сгенерирован ли он GPT или импровизированным человеком, и они понимают общую суть, не замечая пробелов в логике. 🙂

0
Ответить
04.01.2025 21:22
sirsle
Участник
sirsle

Это либо экзистенциальный вопрос, либо просто вопрос на триллион долларов, в зависимости от того, являетесь ли вы пессимистом или оптимистом в отношении ИИ.

0
Ответить
04.01.2025 21:19
obsession
Участник
obsession

Ребенок выстраивает свою модель мира, наблюдая за регулярными «узорами», но это работает только для простых вещей, которые образуют четкий кластер (например, человеческие лица). Однако мы живем в мире сложных повествований и ментальных конструкций. Люди усваивают эти концепции не просто через обнаружение узоров, а через язык. В частности, через обучающую их концепциям речь от своего основного воспитателя. После детства мы продолжаем изучать концепции у других людей (в основном у Скотта Александра), и эти концепции составляют мир, который мы воспринимаем. Но для запуска этого процесса требуется очень специфическая последовательность шагов: Хаотический разум новорожденного Различение чувств (внутренних и внешних) Распознавание основных восприятий в… Подробнее »

Ответить
04.01.2025 21:32
Dede
Участник
Dede

Вряд ли пятая версия сможет ли писать прямо. НО она будет уже более интересной грубо говоря чем третья. И возможно какая то итреция сможет нас удивить .

0
Ответить
05.01.2025 06:33
tirannium
Участник
tirannium

Соглашусь.

0
Ответить
05.01.2025 13:25
tirannium
Участник
tirannium

Люди не рождаются, зная, что физическая реальность существует только потому, что мы в ней живем. Мы должны постепенно прийти к этому выводу, а употребление в пищу неправильных грибов может даже заставить нас на время забыть об этом факте. Искусственный интеллект, родившийся и выросший в мире человеческого текста, в принципе мог бы научиться делать выводы о том, что физическая реальность — это вещь и каковы ее свойства, но это не обязательно произойдет.

0
Ответить
05.01.2025 13:24
Волшебник В
Участник
Волшебник В

Согласен, люди мыслят концепциями и воспринимают себя занимающими физическую реальность, и мы принимаем эти две вещи как должное. Но мы не родились, делая ни то, ни другое.)

0
Ответить
05.01.2025 13:29

    Cвежие мысли

    • «Тестирование» безопасности ИИ не дает нам прямых наблюдений
    • Раньше я верил, что это решение проблемы зависти
    • Искусственный интеллект и современная версия шекспировской «проблемы короля Лира»
    • Эволюционная осечка: что именно в жестоких мужчинах привлекает женщин?
    • Люди неправильно понимают сны

    Свежие комментарии

    • Zorro к записи Колонизация Луны и Марса. Большой вопрос
    • Zorro к записи «Тестирование» безопасности ИИ не дает нам прямых наблюдений
    • holliday к записи «Тестирование» безопасности ИИ не дает нам прямых наблюдений
    • holliday к записи «Тестирование» безопасности ИИ не дает нам прямых наблюдений
    • Kant к записи Хвостатое ядро или почему «месть сладка»
    • Kant к записи Туземцы, одежда и фетиши

    Популярные мысли

    • Пол Стемец, грибы. Подобное о грибах вы, пожалуй, не знали!
    • Сигнал Захави, каких мужчин выбирают женщины
    • Пол Стамец, «Star Trek», специалист по споровому приводу
    • Почему хипстеры и ламберсексуалы отпускают бороды?
    • Почему мужчин возбуждают чулки? Зачем женщины чулки носят?
    >>Написать ШляПерам.

    Заметки Безумного ШляПника.

    Июнь 2025
    Пн Вт Ср Чт Пт Сб Вс
    « Май    
     1
    2345678
    9101112131415
    16171819202122
    23242526272829
    30  

    © Copyright Шляперы / Создано при участии E7 Studio

     
    wpDiscuz