Послідовне квадратичне програмування

Послідовне квадратичне програмування ( SQP ) - це ітеративний метод обмеженої нелінійної оптимізації. Методи SQP використовуються для математичних задач, для яких цільова функція та обмеження двічі безперервно диференціюються.

Методи SQP вирішують послідовність підпроблем оптимізації, кожна з яких оптимізує квадратичну модель об'єкта, що підлягає лінеаризації обмежень. Якщо проблема не обмежена, то метод зводиться до методу Ньютона для пошуку точки, де градієнт об'єкта зникає. Якщо проблема має лише обмеження рівності, то метод еквівалентний застосуванню методу Ньютона до умов оптимальності першого порядку або умов Каруша — Куна — Таккера.

Основи алгоритму

Розглянемо нелінійну задачу програмування даної форми:

$\begin{array}{cc}\min {\mathrm{\backslash limits}}_x& f(x)\\ \text{s.t.}& b(x)\ge 0\\ & c(x)=0.\end{array}$

Лагранжан для цієї проблеми є

$ℒ(x,\lambda ,\sigma )=f(x)-{\lambda }^T(b(x)-(y_i{)}^2)-{\sigma }^{T}c(x),$

де $\lambda$ і $\sigma$ є множниками Лагранжа. На ітерації $x_k$, основний алгоритм послідовного квадратичного програмування визначає відповідний напрямок пошуку $d_k$ як рішення підпрограми квадратичного програмування

$\begin{array}{cc}\min {\mathrm{\backslash limits}}_d& f(x_k)+\mathrm{\nabla }f(x_k{)}^{T}d+\frac{1}{2}{d}^T\underset{xx}{\overset{2}{\mathrm{\nabla }}}ℒ(x_k,{\lambda }_k,{\sigma }_k)d\\ \mathrm{s}\mathrm{.}\mathrm{t}\mathrm{.}& b(x_k)+\mathrm{\nabla }b(x_k{)}^{T}d\ge 0\\ & c(x_k)+\mathrm{\nabla }c(x_k{)}^{T}d=0.\end{array}$

Зауважимо, що функція $f(x_k)$ у рівнянні вище може бути залишена для проблеми мінімізації, оскільки вона є постійною.

Альтернативні підходи

• Послідовне лінійне програмування
• Послідовне лінійно-квадратичне програмування
• Доповнений метод Лагрангія

Впровадження

Методами SQP були реалізовані такі добре відомі числові середовища, як MATLAB і GNU Octave. Існують також численні бібліотеки програмного забезпечення, в тому числі з відкритим кодом

• SciPy (фактично стандарт для наукового Python) має розв'язувач scipy.optimize.minimize (метод = 'SLSQP').
• NLopt Шаблон:Webarchive (реалізація C / C ++, з численними інтерфейсами, включаючи Python, R, MATLAB / Octave), реалізований Dieter Kraft як частина пакету для оптимального управління та модифікований SG Johnson.
• LabVIEW
• KNITRO (C, C ++, C #, Java, Python, Fortran)
• NPSOL (Фортран)
• SNOPT (Фортран)
• NLPQL (Fortran)
• MATLAB

SuanShu Шаблон:Webarchive (Java)

Див. також

• Шаблон:Нп
• Метод Ньютона
• Секретний метод

Література

• Шаблон:Cite book
• Шаблон:Cite book

Посилання

• Послідовне квадратичне програмування в путівнику NEOS Шаблон:Webarchive