Độ phức tạp của thế giới thực và xung đột đa mục tiêu

Trong kỹ thuật hệ thống AI thực tế, hầu như chúng ta không bao giờ gặp bài toán chỉ có một mục tiêu. Nâng cao độ chính xác của mô hình thường làm tăng độ trễ suy luận và chi phí tính toán; tăng cường tính bền vững có thể đánh đổi hiệu năng đỉnh; giảm mức tiêu thụ năng lượng lại có thể hạn chế dung lượng mô hình. Các mục tiêu này ràng buộc lẫn nhau, không thể quy đổi hoàn toàn về cùng một thang đo, do đókhông tồn tại nghiệm tối ưu duy nhất, mà chỉ tồn tại một tậpcác nghiệm đánh đổi không bị chi phối— tức là tiệm cận biên Pareto.

Khái niệm cốt lõi

Ràng buộc đa mục tiêu: việc cải thiện một mục tiêu thường khiến mục tiêu khác suy giảm, các mục tiêu không thể quy đổi hoàn toàn về cùng một thang đo.
Ràng buộc phức tạp: ràng buộc cứng và ràng buộc mềm cùng tồn tại, cộng thêm tính bất định và môi trường động, cùng nhau thu hẹp miền khả thi, khiến giả định tối ưu tại một điểm trở nên vô hiệu.
Nghiệm tối ưu duy nhất thường không tồn tại: việc vô hướng hóa thành đơn mục tiêu hoặc tìm kiếm một điểm khó có thể biểu diễn không gian quyết định thực sự.
Đầu ra nên là một tập phương án: cần giữ lại các ứng viên đa dạng, cung cấp biên đánh đổi có thể so sánh và không gian lựa chọn theo sở thích.
Ưu thế của tính toán tiến hóa: thông qua khám phá song song bằng quần thể và duy trì tính đa dạng, đồng thời tiệm cận nhiều nghiệm đánh đổi, phù hợp với các mục tiêu xung đột và ràng buộc phức tạp.

Vì sao tính toán tiến hóa phù hợp

Tính toán tiến hóa không phụ thuộc vào gradient hay tính khả vi của hàm mục tiêu, mà tìm kiếm song song trong không gian mục tiêu thông qua quần thể. Mỗi cá thể trong quần thể đại diện cho một phương án ứng viên; các cơ chế như sắp xếp không bị chi phối và khoảng cách chen chúc vừa tiệm cận biên Pareto vừa duy trì tính đa dạng của nghiệm. Nhờ đó, người ra quyết định có thể chọn các phương án đánh đổi khác nhau trên biên theo sở thích tình huống ở giai đoạn cuối, thay vì khóa cứng một trọng số tiên nghiệm trước khi tối ưu.

Góc nhìn then chốt

Trong tối ưu đa mục tiêu, sở thích của người ra quyết định thường chỉ tham gia ở giai đoạn cuối. Tính toán tiến hóa trước tiên tiệm cận toàn bộ biên Pareto, giữ lại một tập nghiệm không bị chi phối đa dạng, rồi để người ra quyết định lựa chọn theo sở thích tình huống. Cách này vững chắc hơn so với việc đặt trọng số tiên nghiệm.

Sơ đồ biên Pareto trong tối ưu đa mục tiêu

Quan sát sơ đồ biên Pareto trong tối ưu đa mục tiêu ở hình, hãy nêu những điểm chính mà bạn quan sát được.

Câu hỏi 1

Về bài toán tối ưu đa mục tiêu trong thế giới thực, mô tả nào sau đây chính xác nhất?

Các mục tiêu thường ràng buộc lẫn nhau, không tồn tại nghiệm duy nhất khiến mọi mục tiêu đồng thời tối ưu.

Chỉ cần gán trọng số cho đa mục tiêu thành đơn mục tiêu là có thể thu được nghiệm tối ưu duy nhất trong không gian quyết định thực sự.

Luôn tồn tại một nghiệm tối ưu duy nhất giúp mọi mục tiêu đồng thời đạt tối ưu.

Bài toán đa mục tiêu chỉ liên quan đến hai mục tiêu, vượt quá hai mục tiêu thì không thể mô hình hóa.

Câu hỏi 2

Trong quan hệ chi phối Pareto, nghiệm A chi phối nghiệm B có nghĩa là gì?

A không kém hơn B ở mọi mục tiêu, và tốt hơn B một cách nghiêm ngặt ở ít nhất một mục tiêu.

A và B hoàn toàn giống nhau ở mọi mục tiêu.

A là nghiệm tối ưu duy nhất toàn cục.

A tốt hơn B ở ít nhất một mục tiêu, các mục tiêu còn lại có thể kém tùy ý.

Câu hỏi 3

Vì sao phương pháp vô hướng hóa thành đơn mục tiêu (như tổng có trọng số) khó mô tả không gian quyết định đa mục tiêu thực sự?

Phương pháp vô hướng hóa chỉ xử lý được hai mục tiêu.

Trọng số khó thiết lập hợp lý, và các trọng số khác nhau chỉ cho ra một số hữu hạn nghiệm trên biên, có thể bỏ sót phần biên không lồi.

Phương pháp vô hướng hóa chắc chắn tính toán chậm hơn thuật toán tiến hóa.

Phương pháp vô hướng hóa không thể xử lý bất kỳ ràng buộc nào.

Câu hỏi 4

Ưu thế chính của tính toán tiến hóa khi xử lý xung đột đa mục tiêu và ràng buộc phức tạp là gì?

Tìm kiếm song song bằng quần thể và duy trì tính đa dạng, có thể đồng thời tiệm cận nhiều nghiệm đánh đổi.

Yêu cầu thấp về tính khả vi của hàm mục tiêu, nhưng chỉ xử lý được bài toán không ràng buộc.

Bắt buộc phải dựa vào thông tin gradient mới có thể cập nhật quần thể.

Mỗi lần lặp chỉ sinh ra một nghiệm duy nhất, thuận tiện cho việc hội tụ nhanh.

Câu hỏi 5

Trong kỹ thuật hệ thống AI, nâng cao độ chính xác mô hình thường làm tăng độ trễ suy luận và chi phí tính toán. Trước xung đột này, cách làm hợp lý là gì?

Chỉ tối ưu độ chính xác, bỏ qua độ trễ và chi phí.

Tìm một tập nghiệm đánh đổi Pareto, rồi chọn phương án theo sở thích tình huống (như ưu tiên thời gian thực hoặc ưu tiên độ chính xác).

Từ bỏ mô hình hóa đa mục tiêu, chọn ngẫu nhiên một phương án.

Cộng đơn giản độ chính xác, độ trễ và chi phí thành một điểm số, chọn phương án có điểm cao nhất.

Nghiên cứu tình huống: Quyết định đánh đổi khi triển khai mô hình AI đa mục tiêu

Đọc tình huống sau và trả lời câu hỏi.

Một nhóm cần triển khai một mô hình ngôn ngữ lớn lên thiết bị biên. Họ muốn đồng thời tối ưu ba mục tiêu: tối đa hóa độ chính xác tác vụ, tối thiểu hóa độ trễ suy luận, tối thiểu hóa mức tiêu thụ năng lượng. Ba mục tiêu này xung đột với nhau: nâng cao độ chính xác thường cần mô hình lớn hơn hoặc nhiều tính toán hơn, từ đó làm tăng độ trễ và năng tiêu thụ; giảm độ trễ và năng tiêu thụ lại có thể hy sinh độ chính xác. Ngoài ra, bộ nhớ thiết bị có hạn (ràng buộc cứng), băng thông mạng dao động và có thể mất kết nối (môi trường động và tính bất định). Nhóm dự định dùng tính toán tiến hóa để tìm kiếm cấu hình triển khai (như tỷ lệ cắt tỉa mô hình, độ rộng bit lượng tử hóa, kích thước lô, chiến lược bộ nhớ đệm, v.v.).

Hãy xác định các mục tiêu, ràng buộc và nguồn bất định trong bài toán này, đồng thời giải thích vì sao nó không có nghiệm tối ưu duy nhất.

Trả lời:
Mục tiêu là tối đa hóa độ chính xác, tối thiểu hóa độ trễ và tối thiểu hóa năng tiêu thụ (ba mục tiêu); ràng buộc cứng gồm giới hạn bộ nhớ thiết bị, ràng buộc mềm có thể gồm ngân sách năng lượng và băng thông; nguồn bất định gồm băng thông mạng dao động, mất kết nối, thay đổi tải, v.v. Vì các mục tiêu xung đột và không thể quy đổi hoàn toàn về cùng một thang đo, cải thiện bất kỳ mục tiêu nào thường khiến các mục tiêu khác suy giảm, nên không tồn tại nghiệm duy nhất giúp mọi mục tiêu đồng thời tối ưu; chỉ có thể thu được một tập nghiệm đánh đổi Pareto.

Nhóm nên tận dụng tính toán tiến hóa như thế nào để tiệm cận biên Pareto và chọn phương án cuối cùng khi ra quyết định? Hãy trình bày gắn với tính đa dạng quần thể, quan hệ chi phối và thông tin điểm khớp gối/sở thích.

Trả lời:
Tính toán tiến hóa thông qua tìm kiếm song song bằng quần thể, đồng thời giữ lại nhiều nghiệm không bị chi phối trong không gian mục tiêu, sử dụng quan hệ chi phối và sắp xếp không bị chi phối (như sắp xếp không bị chi phối nhanh và khoảng cách chen chúc trong NSGA-II) để duy trì tính đa dạng, từng bước tiệm cận biên Pareto. Việc chọn phương án cuối cùng có thể kết hợp tư tưởng điểm khớp gối (điểm uốn) — gần điểm này, tiếp tục cải thiện một mục tiêu đòi hỏi trả giá lớn — cùng sở thích tình huống (như ưu tiên thời gian thực thì chọn khoảng độ trễ thấp, ưu tiên độ chính xác thì chọn khoảng độ chính xác cao) để ra quyết định. Đồng thời có thể xử lý ràng buộc cứng bằng quy tắc khả thi hoặc hàm phạt, và với môi trường động có thể đưa vào tiến hóa trực tuyến hoặc tối ưu bền vững.