Ключевой тезис:Большие модели — это мощные интеллектуальные компоненты, но не самоподдерживающиеся системы. Они уже обладают рабочими способностями к пониманию, генерации, рассуждению и вызову инструментов и могут выступать как качественные генераторы гипотез и производители кода; однако им не хватает состояния, целей и механизмов обратной связи, необходимых для непрерывной эволюции на протяжении жизненного цикла.
Три структурные границы:
- Граница состояния:ограниченное контекстное окно и отсутствие постоянной межсеансовой памяти не позволяют долгосрочным проектам поддерживать себя самостоятельно;
- Граница целей:реальные задачи часто связаны с конфликтом целей и компромиссом предпочтений, и модели трудно самостоятельно выработать обоснованные критерии выбора;
- Граница обратной связи:отсутствие действенных механизмов оценки, отбора и отсева не позволяет объективно проверять и сохранять сгенерированные решения для итераций.
Вывод:Рост возможностей модели ≠ рост возможностей системы. Возможности — это снимок, среда — это процесс. Необходимо встроить большие модели в замкнутый цикл эволюции «генерация — оценка — отбор — закрепление»: поддерживать разнообразие кандидатов с помощью роевого интеллекта, снижать высокие затраты на оценку с помощью суррогатных моделей, сохранять эффективный опыт через механизмы отбора и закрепления — только так интеллект сможет сохранять адаптивность в динамичной среде. Именно в этом заключается основа EvoX, и это же служит обоснованием необходимости для последующих тем: «расширение объекта эволюции с параметров до программ», «эволюция самих методов» и «проектная персистентность».
