1

Los límites de capacidad de los grandes modelos y la necesidad de una evolución a nivel de sistema

AI999第6课:系统级持续演化:Genesis 与软件世界的沉淀
00:00

Juicio central:Los grandes modelos son componentes inteligentes potentes, pero no sistemas capaces de mantenerse por sí mismos. Ya poseen capacidades útiles de comprensión, generación, razonamiento y uso de herramientas, y pueden actuar como proponentes de hipótesis y productores de código de alta calidad; sin embargo, carecen de los mecanismos de estado, objetivos y retroalimentación necesarios para evolucionar de forma continua a lo largo de su ciclo de vida.

Comparación entre las capacidades aisladas del gran modelo y el ciclo de evolución a nivel de sistemaIzquierda: la pila de capacidades aisladas del gran modelo produce una instantánea estática y, al terminar la sesión, el estado se reinicia a cero. Derecha: el LLM se integra como un pequeño módulo en el ciclo de evolución a nivel de sistema «proponer—evaluar—seleccionar—consolidar». Abajo se enumeran las tres fronteras estructurales: estado, objetivos y retroalimentación.Los límites de capacidad de los grandes modelos y la necesidad de una evolución a nivel de sistemaPila de capacidades aisladas del gran modeloComprensiónGeneraciónRazonamientoUso de herramientasProducto final (instantánea estática)Fin de la sesión → estado a ceroLLM + ciclo de evolución a nivel de sistema1Proponer (pequeño módulo LLM)2Evaluar (modelos sustitutos reducen costes)3Seleccionar (equilibrio multiobjetivo)4Consolidar (memoria entre sesiones)La inteligencia colectiva mantiene la diversidad de candidatos · volver a «Proponer»Eje de contrasteInstantánea de capacidadvs.Proceso continuoMejorar la capacidad del modelo ≠ mejorar la capacidad del sistema · La capacidad es una instantánea; el entorno, un procesoTres fronteras estructurales1Frontera de estadoVentana de contexto limitadaFalta de memoria persistente entre sesiones2Frontera de objetivosLos problemas reales suelen implicar conflictos multiobjetivoy equilibrio de preferencias; el modelo difícilmente puede decidir por sí mismo3Frontera de retroalimentaciónFalta de mecanismos ejecutables de evaluación, selección y descarteLas propuestas no pueden verificarse objetivamente ni conservarse mediante iteraciones
Izquierda: la pila de capacidades aisladas del gran modelo produce una instantánea estática. Derecha: el LLM se integra como un pequeño módulo en el ciclo de evolución a nivel de sistema. Eje de contraste: instantánea de capacidad vs. proceso continuo.

Tres fronteras estructurales:

  • Frontera de estado:Ventana de contexto limitada y falta de memoria persistente entre sesiones: los proyectos de largo plazo no pueden sostenerse por sí mismos.
  • Frontera de objetivos:Los problemas reales suelen implicar conflictos multiobjetivo y equilibrio de preferencias; el modelo difícilmente puede establecer por sí mismo criterios de decisión defendibles.
  • Frontera de retroalimentación:Faltan mecanismos ejecutables de evaluación, selección y descarte, por lo que las propuestas generadas no pueden verificarse objetivamente ni conservarse mediante iteraciones.

Conclusión:Mejorar la capacidad del modelo ≠ mejorar la capacidad del sistema. La capacidad es una instantánea; el entorno, un proceso. Es necesario integrar el gran modelo en el ciclo de evolución «generar—evaluar—seleccionar—consolidar»: mantener la diversidad de candidatos mediante la inteligencia colectiva, reducir los elevados costes de evaluación con modelos sustitutos y conservar la experiencia válida con mecanismos de selección y consolidación, para que la inteligencia mantenga su adaptabilidad en entornos dinámicos. Este es precisamente el fundamento de EvoX, y también aporta la justificación necesaria para los temas posteriores: «extender el objeto de evolución de los parámetros a los programas», «la evolución del propio método» y «la persistencia a nivel de proyecto».