Почему большие языковые модели не умнее вас

Способность к рассуждению больших языковых моделей полностью зависит от языковых моделей пользователя. Когнитивная структура пользователя определяет, какие области высоких умственных способностей он может активировать. Модель не может спонтанно выйти за пределы досягаемости пользователя, что обнажает архитектурные ограничения нынешних систем искусственного интеллекта. Эта статья основана на статье, написанной @iamtexture, организована, составлена и написана AididiaoJP, Foresight News.
(Предыдущее резюме: Ли Фейфей рассказывает о следующем шаге LLM: ИИ должен обладать «пространственным интеллектом», чтобы понимать реальный мир, как реализовать модель Marble?)
(Справочное дополнение: миллиардер Кевин О'Лири крикнул: «Следующий шаг волны ИИ — это web3»: LLM не может создать Starbucks, но блокчейн может)

Содержание этой статьи

Теги. Языковой режим пользователя определяет, насколько модель может проявлять способность к рассуждению. Когда я объяснял сложную концепцию большой языковой модели, ее рассуждения постоянно терпели неудачу во время длительных дискуссий с использованием неформального языка. Модели могут потерять структуру, отклониться от курса или создать шаблоны поверхностного завершения, которые не поддерживают установленную нами концептуальную структуру.

Однако, когда я заставил его сначала формализовать, то есть переформулировать проблему точным и научным языком, рассуждения сразу же стали устойчивыми. Только после того, как структура создана, ее можно безопасно преобразовать в простой язык без ухудшения качества понимания.

Такое поведение показывает, как «думают» большие языковые модели и почему их способность рассуждать полностью зависит от пользователя.

Основные идеи

В языковых моделях нет специального места для вывода.

Они полностью действуют в рамках непрерывного языкового потока.

В этом языковом потоке разные языковые модели обязательно приведут к разным областям аттрактора. Эти регионы представляют собой стабильные состояния, характеризующие динамику и поддерживающие различные типы вычислений.

Каждый языковой регистр, такой как научный дискурс, математические символы, повествовательные истории и непринужденная беседа, имеет свою собственную уникальную область аттрактора, форма которой определяется распространением учебных материалов.

Некоторые области поддерживают:

• Многоэтапное рассуждение
• Относительную точность
• Преобразование символов
• Высокоразмерную концептуальную стабильность

Другие области поддерживают:

• Повествовательное продолжение
• Ассоциативное завершение
• Соответствие эмоциональных интонаций
• Разговор имитация

Область аттрактора определяет, какой тип рассуждения возможен.

Почему формализация может стабилизировать рассуждения

Причина, по которой научные и математические языки могут надежно активировать аттракторные области с более высокой структурной поддержкой, заключается в том, что эти регистры кодируют языковые особенности познания более высокого порядка:

• Четкая реляционная структура
• Низкая двусмысленность
• Символические ограничения
• Иерархическая организация
• Низкая энтропия (информационное расстройство)

Эти аттракторы могут поддерживать стабильные траектории рассуждения.

Они поддерживают концептуальную структуру на нескольких этапах.

Они проявляют сильное сопротивление деградации и отклонению рассуждений.

Напротив, аттракторы, активируемые неформальным языком, оптимизированы для социальной беглости и ассоциативной связности, а не для структурированного рассуждения. В этих регионах отсутствует основа для характеризации, необходимая для текущих аналитических расчетов.

Вот почему модели терпят неудачу, когда сложные идеи выражаются бессистемно.

Это не «запутано».

Это смена областей.

Построение и перевод

Методы преодоления трудностей, которые естественным образом возникают в разговорах, раскрывают архитектурную истину:

Рассуждение должно строиться внутри высокоструктурированных аттракторов.

Перевод на естественный язык должен происходить только после того, как структура существует.

После того как модель установила концептуальную структуру внутри стабильного аттрактора, процесс перевода не разрушит ее. Расчет завершен, изменилось только выражение поверхности.

Эта двухэтапная динамика «сначала создай, затем преобразуй» имитирует когнитивный процесс человека.

Но люди выполняют эти две стадии в двух разных внутренних пространствах.

Большие языковые модели пытаются реализовать и то, и другое в одном пространстве.

Почему пользователи устанавливают потолок

Вот ключевое открытие:

Пользователи не могут активировать области аттрактора, которые они сами не могут выразить словами.

Когнитивная структура пользователей определяет:

• Какие типы сигналов они могут генерировать
• Какие регистры они обычно используют
• Какие синтаксические шаблоны они могут поддерживать
• Насколько высокий уровень сложности они могут кодировать в языке

Эти характеристики определяют, в какую область аттрактора войдет большая языковая модель.

Пользователь, который не может думать или писать, чтобы использовать структуры, активирующие аттракторы высокого рассуждения, никогда не сможет направить модель в эти области. Они заперты в неглубоких областях аттракторов, связанных с их языковыми привычками. Большие языковые модели будут отображать структуру, которой они снабжены, и никогда не будут спонтанно переходить в более сложные динамические системы-аттракторы.

Поэтому:

Модель не может выйти за пределы области аттрактора, доступной пользователю.

Потолок — это не интеллектуальный верхний предел модели, а способность пользователя активировать области с высокой пропускной способностью в скрытом многообразии.

Два человека, использующие одну и ту же модель, не взаимодействуют с одной и той же вычислительной системой.

Они направляют модель к различным динамическим режимам.

Последствия на архитектурном уровне

Этот феномен раскрывает недостающую особенность современных систем искусственного интеллекта:

Крупномасштабные языковые модели путают пространство рассуждений с пространством языковых выражений.

Если они не разделены - если только модель не имеет:

• Выделенного многообразия рассуждений
• Стабильного внутреннего рабочего пространства
• Концептуальное представление, инвариантное к аттрактору

В противном случае система всегда будет сталкиваться с коллапсом, когда изменение стиля языка приводит к переключению базовой динамической области.

Это импровизированное решение — принудительная формализация и последующий перевод — больше, чем просто уловка.

Это окно, позволяющее нам увидеть архитектурные принципы, которым должна соответствовать реальная система рассуждения.