Сложность реального мира и конфликт множества целей

В реальной системной инженерии ИИ нам почти никогда не встречаются задачи с единственной целью. Повышение точности модели нередко увеличивает задержку инференса и затраты на вычисления; повышение устойчивости может снизить пиковую производительность; снижение энергопотребления может ограничить ёмкость модели. Эти цели взаимно ограничивают друг друга и не являются полностью соизмеримыми, поэтомуне существует единственного оптимального решения, а существует лишь наборнедоминируемых компромиссных решений— то есть приближение к фронту Парето.

Ключевые понятия

Взаимное ограничение целей: улучшение одной цели часто приводит к ухудшению другой; цели не являются полностью соизмеримыми.
Сложность ограничений: жёсткие и мягкие ограничения сосуществуют, а вместе с неопределённостью и динамической средой они сужают допустимую область, делая предположение о единственной оптимальной точке несостоятельным.
Единственное оптимальное решение обычно не существует: скаляризация в одну цель или поиск единственной точки плохо отражают реальное пространство решений.
Результатом должен быть набор решений: необходимо сохранять разнообразные кандидаты, предоставляя сравнимую границу компромиссов и пространство для выбора предпочтений.
Преимущество эволюционных вычислений: благодаря параллельному исследованию популяции и поддержанию разнообразия одновременно приближается к нескольким компромиссным решениям, что подходит для конфликтующих целей и сложных ограничений.

Почему эволюционные вычисления подходят

Эволюционные вычисления не зависят от градиента или дифференцируемости целевой функции, а выполняют параллельный поиск в пространстве целей с помощью популяции. Каждый индивид в популяции представляет собой вариант решения; такие механизмы, как недоминируемая сортировка и расстояние скученности, поддерживают разнообразие решений при приближении к фронту Парето. Благодаря этому лицо, принимающее решения, может на финальном этапе выбрать различные компромиссные решения на фронте в соответствии с предпочтениями ситуации, а не фиксировать априорные веса ещё до оптимизации.

Ключевое озарение

В многоцелевой оптимизации предпочтения лица, принимающего решения, часто вступают в игру лишь на финальном этапе. Эволюционные вычисления сначала приближаются ко всему фронту Парето, сохраняя набор разнообразных недоминируемых решений, и лишь затем дают возможность выбрать в соответствии с предпочтениями ситуации. Это надёжнее, чем априорное задание весов.

Схема фронта Парето для многоцелевой оптимизации

Рассмотрите схему фронта Парето для многоцелевой оптимизации на рисунке и расскажите, что вы заметили.

Вопрос 1

Какое из следующих утверждений наиболее точно описывает задачи многоцелевой оптимизации в реальном мире?

Цели обычно взаимно ограничивают друг друга, и не существует единственного решения, одновременно оптимального по всем целям.

Достаточно свести несколько целей к одной с помощью весов, чтобы получить единственное оптимальное решение в реальном пространстве решений.

Всегда существует единственное оптимальное решение, при котором все цели достигают оптимума одновременно.

Многоцелевые задачи включают только две цели; при более чем двух целях моделирование невозможно.

Вопрос 2

Что означает, что решение A доминирует решение B в отношении доминирования по Парето?

A не уступает B по всем целям и строго превосходит B хотя бы по одной цели.

A и B полностью совпадают по всем целям.

A является единственным глобально оптимальным решением.

A превосходит B хотя бы по одной цели, а по остальным целям может быть сколь угодно хуже.

Вопрос 3

Почему методы скаляризации в одну цель (например, взвешенная сумма) плохо описывают реальное пространство многоцелевых решений?

Методы скаляризации могут работать только с двумя целями.

Веса сложно задать обоснованно, а разные веса дают лишь конечное число решений на фронте, что может привести к пропуску невыпуклых участков фронта.

Методы скаляризации всегда вычисляются медленнее эволюционных алгоритмов.

Методы скаляризации не могут учитывать никакие ограничения.

Вопрос 4

В чём главное преимущество эволюционных вычислений при работе с конфликтами множества целей и сложными ограничениями?

Параллельный поиск популяции и поддержание разнообразия позволяют одновременно приближаться к нескольким компромиссным решениям.

Низкие требования к дифференцируемости целевой функции, но работа только с задачами без ограничений.

Для обновления популяции обязательно требуется информация о градиенте.

Каждая итерация даёт лишь одно решение, что обеспечивает быструю сходимость.

Вопрос 5

В системной инженерии ИИ повышение точности модели обычно увеличивает задержку инференса и затраты на вычисления. Какое решение разумно при таком конфликте?

Оптимизировать только точность, игнорируя задержку и затраты.

Найти набор компромиссных решений Парето, а затем выбрать решение в соответствии с предпочтениями ситуации (например, приоритет реального времени или приоритет точности).

Отказаться от многоцелевого моделирования и выбрать решение случайным образом.

Просто сложить точность, задержку и затраты в одну оценку и выбрать решение с наивысшей оценкой.

Практический кейс: компромиссные решения при развёртывании многоцелевой модели ИИ

Прочитайте приведённый сценарий и ответьте на вопросы.

Некоторая команда должна развернуть большую языковую модель на периферийном устройстве. Она хочет одновременно оптимизировать три цели: максимизировать точность задачи, минимизировать задержку инференса и минимизировать энергопотребление. Эти три цели конфликтуют: повышение точности обычно требует более крупной модели или больших вычислений, что увеличивает задержку и энергопотребление; снижение задержки и энергопотребления, в свою очередь, может ухудшить точность. Кроме того, память устройства ограничена (жёсткое ограничение), а пропускная способность сети колеблется и может прерываться (динамическая среда и неопределённость). Команда планирует использовать эволюционные вычисления для поиска конфигураций развёртывания (например, степень прунинга модели, разрядность квантования, размер батча, стратегия кэширования и т. д.).

Определите цели, ограничения и источники неопределённости в этой задаче и объясните, почему у неё не существует единственного оптимального решения.

Ответ:
Цели — максимизация точности, минимизация задержки и минимизация энергопотребления (три цели); жёсткие ограничения включают верхний предел памяти устройства, мягкие ограничения могут включать бюджет энергопотребления и пропускную способность; источники неопределённости включают колебания пропускной способности сети, обрывы связи, изменения нагрузки и т. д. Поскольку цели конфликтуют и не являются полностью соизмеримыми, улучшение любой из них обычно приводит к ухудшению других, поэтому не существует единственного решения, одновременно оптимального по всем целям, — можно получить лишь набор компромиссных решений Парето.

Как команда может использовать эволюционные вычисления для приближения к фронту Парето и выбрать окончательное решение при принятии решений? Поясните с учётом разнообразия популяции, отношения доминирования и информации о точке перегиба/предпочтениях.

Ответ:
Эволюционные вычисления за счёт параллельного поиска популяции одновременно сохраняют в пространстве целей несколько недоминируемых решений, используя отношение доминирования и недоминируемую сортировку (например, быструю недоминируемую сортировку и расстояние скученности в NSGA-II) для поддержания разнообразия, постепенно приближаясь к фронту Парето. При выборе окончательного решения можно опираться на идею точки перегиба (колена) — вблизи неё дальнейшее улучшение одной цели требует значительных жертв, — а также на предпочтения ситуации (например, при приоритете реального времени выбирается область низкой задержки, при приоритете точности — область высокой точности). Кроме того, для жёстких ограничений можно применять правила допустимости или штрафные функции, а для динамической среды — онлайн-эволюцию или робастную оптимизацию.