8

Thách thức vượt vòng đời: Cạn kiệt ngữ cảnh và lưu trữ bền vững cấp dự án

AI999第6课:系统级持续演化:Genesis 与软件世界的沉淀
00:00

Mô hình lớn Agent dù có năng lực suy luận mạnh đến đâu, vẫn bị giới hạn bởi hai ranh giới: cửa sổ ngữ cảnh một lần C_tối đa có hạn, và sau khi phiên đóng, trạng thái cùng kinh nghiệm không thể tin cậy; trong khi vòng đời dự án kỹ thuật hay nghiên cứu thực tế T_dự án có thể kéo dài hàng tháng thậm chí hàng năm, do đó T_dự án ≫ C_tối đa. Mâu thuẫn cốt lõi không phải là năng lực suy luận một lần yếu kém, mà là kinh nghiệm không thể vượt qua vòng đời của Agent: nếu thiếu lưu trữ bền vững, mọi thất bại, cân nhắc đánh đổi, phương án ứng viên và kết luận nghiệm thu của mỗi lần thử nghiệm đều sẽ mất đi khi ngữ cảnh bị xóa trắng, khiến các Agent tiếp theo chỉ có thể khám phá lại từ đầu.

Thách thức vượt vòng đời: Cạn kiệt ngữ cảnh vs lưu trữ bền vững cấp dự ánVòng đời dự án Tdự án≫ 单次上下文窗口 Ctối đaNgữ cảnh Agent một lầnCửa sổ ngữ cảnh Ctối đaQuan sát gần đây · Suy luận cục bộPhiên đóng → Trạng thái xóa trắngKinh nghiệm mất theo mỗi lần thử nghiệmAgent tiếp theo khám phá lại từ đầuLưu trữ bền vững cấp dự ánGhi / Đọc / Kế thừaMã nguồnKiểm thửNhật ký thử nghiệmNhật ký quyết địnhChỉ số đánh giáKết luận nghiệm thuKinh nghiệm được ngoại hóa thành các tạo tác có thể kế thừaKhông bị xóa trắng khi phiên đóngThế giới phần mềm cấp dự ánTồn tại liên tục · Có thể tạo phiên bản · Có thể kế thừaMã nguồnKiểm thửNhật ký thử nghiệmNhật ký quyết địnhChỉ số đánh giáKết luận nghiệm thuTháng 1Tháng 6Tháng 12Tháng 24Vòng đời dự án kéo dài hàng tháng thậm chí hàng nămGhiĐọcLắng đọngKế thừaNhiều Agent có vòng đời ngắn lần lượt kết nối vào lưu trữ bền vững cấp dự án

Cạn kiệt ngữ cảnh: Ranh giới cứng của một phiên đơn lẻ

Cửa sổ ngữ cảnh của Agent là một tài nguyên có hạn. Nó có thể chứa mục tiêu nhiệm vụ hiện tại, quan sát cục bộ và suy luận gần đây, nhưng một khi phiên đóng, trạng thái, kết luận tạm thời và kinh nghiệm trong cửa sổ đó không còn khả dụng. Với các dự án dài hạn, không thể đặt bộ nhớ dự án trong ngữ cảnh một lần, vì khi phiên tiếp theo bắt đầu, ngữ cảnh đã bị xóa trắng hoặc chỉ còn lại một lượng rất nhỏ thông tin được đưa vào từ bên ngoài.

Lưu trữ bền vững cấp dự án: Ngoại hóa kinh nghiệm thành thế giới phần mềm

Hướng giải quyết là Lưu trữ bền vững cấp dự án: ngoại hóa các cấu hình thất bại, quá trình cân nhắc đánh đổi, phương án ứng viên và kết luận nghiệm thu trong mỗi lần thử nghiệm thành các tạo tác cấp dự án tồn tại liên tục, chẳng hạn như mã nguồn, kiểm thử, nhật ký thử nghiệm, nhật ký quyết định, chỉ số đánh giá và kết quả nghiệm thu. Nhờ đó, các Agent tiếp theo không cần bắt đầu từ con số không, mà có thể đọc kinh nghiệm từ kho dự án để xác định hướng nào đã được kiểm chứng, xung đột nào chưa được giải quyết, chỉ số nào đã đạt yêu cầu.

Mở rộng ranh giới đối tượng tiến hóa

Dưới góc nhìn tiến hóa phương pháp, đối tượng tiến hóa không còn chỉ là tham số số học hay lời giải ứng viên của một lần, mà được mở rộng thànhthế giới phần mềm tồn tại liên tục, có thể tạo phiên bản và có thể kế thừa. Mỗi tạo tác mới sinh ra trong một phiên đều thay đổi trạng thái của thế giới này, và phiên tiếp theo sẽ tiếp tục tiến hóa trên thế giới đã được cập nhật đó. Như vậy quá trình tối ưu chuyển từ nhiệm vụ một lần thànhtiến hóa liên tục cấp dự án.

Phối hợp đa Agent và phân rã đệ quy

Nhiều Agent có vòng đời hữu hạn có thể phối hợp làm việc: tầng thực thi cấp trên hiểu mục tiêu và phân rã nhiệm vụ, tầng thực thi cấp dưới hoàn thành triển khai cục bộ và kiểm thử, khi cần thiết tiếp tục phân rã đệ quy. Tính liên tục xuyên vòng đời được đảm bảo bởi lưu trữ bền vững cấp dự án: mỗi Agent trước khi đóng sẽ ghi trạng thái then chốt vào tạo tác dự án, Agent mới sau khi khởi động sẽ đọc bộ nhớ dự án trước, rồi mới quyết định hành động cục bộ tiếp theo.

Xung đột mục tiêu và phản hồi thưa thớt trong thực tế kỹ thuật

Các dự án dài hạn thường tồn tại xung đột mục tiêu, chẳng hạn khó đạt tối ưu đồng thời giữa hiệu năng, chi phí và độ bền vững; phản hồi cũng có thể thưa thớt, vì một lần thử nghiệm phải chờ hàng giờ thậm chí hàng ngày. Nếu không có lưu trữ bền vững cấp dự án, những xung đột và phản hồi thưa thớt này không thể được ghi nhận ổn định, khiến các Agent tiếp theo liên tục vấp phải cùng một sai lầm. Nhật ký quyết định và chỉ số đánh giá sau khi được lưu trữ bền vững chính là phương tiện then chốt chuyển phản hồi thưa thớt thành kinh nghiệm có thể kế thừa.

Thuật ngữ cốt lõi
Tiến hóa liên tục cấp dự án: chuyển quá trình sinh ứng viên, đánh giá ứng viên, ghi nhận cân nhắc đánh đổi và kết luận nghiệm thu từ ngữ cảnh Agent một lần sang các tạo tác lưu trữ bền vững cấp dự án, giúp dự án có thể lặp lại liên tục xuyên qua nhiều vòng đời Agent.