1

Limites des capacités des grands modèles et nécessité d'une évolution au niveau système

AI999第6课:系统级持续演化:Genesis 与软件世界的沉淀
00:00

Jugement central :Les grands modèles sont de puissants composants intelligents, mais ils ne constituent pas des systèmes capables de s'auto-maintenir. Ils disposent déjà de capacités exploitables en matière de compréhension, de génération, de raisonnement et d'appel d'outils, et peuvent servir de proposeurs d'hypothèses et de producteurs de code de haute qualité ; il leur manque toutefois les mécanismes d'état, d'objectif et de rétroaction nécessaires pour évoluer en continu sur tout un cycle de vie.

Comparaison entre les capacités isolées d'un grand modèle et la boucle d'évolution au niveau systèmeÀ gauche : la pile de capacités isolées du grand modèle produit un instantané statique, et l'état est remis à zéro à la fin de la session ; à droite : le LLM, réduit à un petit module, est intégré dans la boucle d'évolution au niveau système « proposition — évaluation — sélection — sédimentation » ; en bas sont listées trois catégories de limites structurelles : état, objectif et rétroaction.Limites des capacités des grands modèles et nécessité d'une évolution au niveau systèmePile de capacités isolées du grand modèleCompréhensionGénérationRaisonnementAppel d'outilsProduit final (instantané statique)Fin de session → état remis à zéroLLM + boucle d'évolution au niveau système1Proposition (petit module LLM)2Évaluation (réduction des coûts par modèle substitut)3Sélection (arbitrage multi-objectifs)4Sédimentation (mémoire inter-sessions)L'intelligence collective maintient la diversité des candidats · retour à « Proposition »Axe de comparaisonInstantané de capacitésvs.Processus continuAmélioration des capacités du modèle ≠ amélioration des capacités du système · La capacité est un instantané, l'environnement est un processusTrois catégories de limites structurelles1Limite d'étatFenêtre de contexte limitéeAbsence de mémoire persistante inter-sessions2Limite d'objectifLes problèmes réels impliquent souvent des conflits multi-objectifset des arbitrages de préférences, que le modèle a du mal à trancher de manière autonome3Limite de rétroactionAbsence de mécanismes exécutables d'évaluation, de sélection et d'éliminationLes solutions ne peuvent être validées objectivement ni conservées par itération
À gauche : la pile de capacités isolées du grand modèle produit un instantané statique ; à droite : le LLM, en tant que petit module, est intégré dans la boucle d'évolution au niveau système. Axe de comparaison : instantané de capacités vs. processus continu.

Trois catégories de limites structurelles :

  • Limite d'état :Fenêtre de contexte limitée et absence de mémoire persistante inter-sessions : les projets de longue durée ne peuvent pas se maintenir seuls ;
  • Limite d'objectif :Les problèmes réels impliquent souvent des conflits multi-objectifs et des arbitrages de préférences ; le modèle a du mal à définir de manière autonome des critères de choix défendables ;
  • Limite de rétroaction :Absence de mécanismes exécutables d'évaluation, de sélection et d'élimination : les solutions générées ne peuvent être validées objectivement ni conservées par itération.

Conclusion :Amélioration des capacités du modèle ≠ amélioration des capacités du système. La capacité est un instantané, l'environnement est un processus. Il est indispensable d'intégrer les grands modèles dans une boucle d'évolution « génération — évaluation — sélection — sédimentation » : maintenir la diversité des candidats par l'intelligence collective, réduire les coûts d'évaluation élevés grâce aux modèles substituts, et préserver l'expérience utile par des mécanismes de sélection et de sédimentation, afin que l'intelligence reste adaptative dans un environnement dynamique. C'est précisément le fondement d'EvoX, qui fournit aussi l'argumentaire de nécessité pour la suite : « l'élargissement de l'objet d'évolution des paramètres aux programmes », « l'évolution des méthodes elles-mêmes » et « la persistance au niveau projet ».