1

Границы возможностей больших моделей и необходимость системной эволюции

AI999第6课:系统级持续演化:Genesis 与软件世界的沉淀
00:00

Ключевой тезис:Большие модели — это мощные интеллектуальные компоненты, но не самоподдерживающиеся системы. Они уже обладают рабочими способностями к пониманию, генерации, рассуждению и вызову инструментов и могут выступать как качественные генераторы гипотез и производители кода; однако им не хватает состояния, целей и механизмов обратной связи, необходимых для непрерывной эволюции на протяжении жизненного цикла.

Сравнение изолированных возможностей большой модели и замкнутого цикла системной эволюцииСлева: изолированный стек возможностей большой модели создаёт статичный снимок, а по завершении сеанса состояние обнуляется; справа: LLM как небольшой модуль встроена в замкнутый цикл системной эволюции «предложение — оценка — отбор — закрепление»; ниже перечислены три структурные границы: состояния, целей и обратной связи.Границы возможностей больших моделей и необходимость системной эволюцииИзолированный стек возможностей большой моделиПониманиеГенерацияРассуждениеВызов инструментовИтоговый результат (статичный снимок)Сеанс завершён → состояние обнуленоLLM + замкнутый цикл системной эволюции1Предложение (LLM как небольшой модуль)2Оценка (снижение затрат с помощью суррогатных моделей)3Отбор (многокритериальный компромисс)4Закрепление (межсеансовая память)Роевой интеллект поддерживает разнообразие кандидатов · возврат к «Предложению»Ось сравненияСнимок возможностейvs.Непрерывный процессРост возможностей модели ≠ рост возможностей системы · Возможности — это снимок, среда — это процессТри структурные границы1Граница состоянияОграниченное контекстное окноОтсутствие постоянной межсеансовой памяти2Граница целейРеальные задачи часто связаны с конфликтом целейи компромиссом предпочтений; модели трудно самостоятельно расставлять приоритеты3Граница обратной связиОтсутствие действенных механизмов оценки, отбора и отсеваРешения не могут быть объективно проверены и сохранены для итераций
Слева: изолированный стек возможностей большой модели создаёт статичный снимок; справа: LLM как небольшой модуль встроена в замкнутый цикл системной эволюции. Ось сравнения: снимок возможностей vs. непрерывный процесс.

Три структурные границы:

  • Граница состояния:ограниченное контекстное окно и отсутствие постоянной межсеансовой памяти не позволяют долгосрочным проектам поддерживать себя самостоятельно;
  • Граница целей:реальные задачи часто связаны с конфликтом целей и компромиссом предпочтений, и модели трудно самостоятельно выработать обоснованные критерии выбора;
  • Граница обратной связи:отсутствие действенных механизмов оценки, отбора и отсева не позволяет объективно проверять и сохранять сгенерированные решения для итераций.

Вывод:Рост возможностей модели ≠ рост возможностей системы. Возможности — это снимок, среда — это процесс. Необходимо встроить большие модели в замкнутый цикл эволюции «генерация — оценка — отбор — закрепление»: поддерживать разнообразие кандидатов с помощью роевого интеллекта, снижать высокие затраты на оценку с помощью суррогатных моделей, сохранять эффективный опыт через механизмы отбора и закрепления — только так интеллект сможет сохранять адаптивность в динамичной среде. Именно в этом заключается основа EvoX, и это же служит обоснованием необходимости для последующих тем: «расширение объекта эволюции с параметров до программ», «эволюция самих методов» и «проектная персистентность».