Heading: 
UDC: 
519.853.6

On Equivalence of the Method of Steepest Descent and the Method of Hypodifferential Descent in Some Constrained Optimization Problems

Abstract: 

The method of exact penalty functions is widely used for the study of constrained optimization problems. The approach based on exact penalization was successfully applied to the study of optimal control problems and various problems of the calculus of variations, computational geometry and mathematical diagnostics. It is worth mentioning that even if the constrained optimization problem under consideration is smooth, the equivalent unconstrained optimization problems constructed via exact penalization technique is
essentially nonsmooth. In this paper, we study infinite dimensional optimization problems with linear constraints with the use of the theory of exact penalty functions. We consider the method of steepest descent and the method of hypodifferential descent for this type of problems. We obtain some properties of these methods and study the cases when they coincide.

References
  1.  Еремин И. И. Метод «штрафов» в выпуклом программировании // Докл. АН СССР. 1967. Т. 143, № 4. С. 748–751.
  2.  Di Pillo G., Facchinei F. Exact penalty functions for nondifferentiable programming problems // Nonsmooth Optimization and Related Topics / eds. F. H. Clarke, V. F. Demyanov, F. Giannessi. N.Y. : Plenum, 1989. P. 89–107.
  3.  Demyanov V. F., Di Pillo G, Facchinei F. Exact penalization via Dini and Hadamard conditional derivatives // Optim. Methods Softw. 1998. Vol. 9, № 1–3. P. 19–36.
  4.  Демьянов В. Ф. Точные штрафные функции в задачах негладкой оптимизации // Вестн. С.-Петербург. ун-та. Сер. 1. 1994. Вып. 4 (№ 22). C. 21–27.
  5.  Демьянов В. Ф. Условия экстремума и вариационное исчисление. М. : Высш. шк., 2005. 335 c.
  6.  Demyanov V. F. Nonsmooth optimization // Lecture Notes in Math. / eds. G. Di Pillo, F. Schoen. 2010. Vol. 1989. P. 55–163. DOI: 10.1007/978-3-642-11339-0_2.
  7.  Demyanov V. F., Tamasyan G. Sh. Exact penalty functions in isoperimetric problems // Optimization. 2011. Vol. 60, iss. 1. P. 153–177. DOI: 10.1080/02331934.2010.534166.
  8.  Тамасян Г. Ш. Численные методы в задачах вариационного исчисления для функционалов, зависящих от производных высшего порядка // Проблемы матем. анализа. Новосибирск : Изд-во «Тамара Рожковская», 2012. Вып. 67. С. 113–132.
  9.  Dolgopolik M. V., Tamasyan G. Sh. Method of steepest descent for two-dimensional problems of calculus of variations // Constructive Nonsmooth Analysis and Related Topics. Springer Optimization and its Applications. 2014. Vol. 87. P. 101–113. DOI: 10.1007/978-1-4614-8615-2_7.
  10.  Demyanov V. F., Giannessi F., Karelin V. V. Optimal Control Problems via Exact Penalty Functions // J. Global Optim. 1998. Vol. 12, № 3. P. 215–223.
  11.  Тамасян Г. Ш., Чумаков А. А. Нахождение расстояния между эллипсоидами // Дискретн. анализ и исслед. операторов. 2014. Т. 21, № 3. С. 87–102.
  12.  Demyanov V. F. Mathematical diagnostics via nonsmooth analysis // Optim. Method. Softw. 2005. Vol. 20, № 2–3. P. 197–212. DOI: 10.1080/10556780512 331318236.
  13.  Демьянов В. Ф., Рубинов А. М. Основы негладкого анализа и квазидифференциальное исчисление. М. : Наука, 1990. 432 с.
  14.  Демьянов В. Ф., Васильев Л. В. Недифференцируемая оптимизация. М. : Наука, 1981. 384 с.
  15.  Иоффе А. Д. Метрическая регулярность и субдифференциальное исчисление // УМН. 2000. Т. 55, № 3(333). С. 103–162.
  16.  Демьянов В. Ф., Малоземов В. Н. Введение в минимакс. М. : Наука, 1972. 368 с. 540 Научный отдел М. В. Долгополик, Г. Ш. Тамасян. Об эквивалентности методов
  17.  Borwein J. M., Zhu Q. J. A survey on subdifferential calculus with applications // Nonlinear Analysis : Theory, Methods and Applications. 1999. Vol. 38, № 6. P. 687–773. DOI: 10.1016/S0362-546X(98)00142-4.
  18.  Демьянов В. Ф., Долгополик М. В. Кодифференцируемые функции в банаховых пространствах : методы и приложения к задачам вариационного ичисления // Вестн. С.-Петербург. ун-та. Сер. 10. Прикл. матем. Информ. Проц. упр. 2013. Вып. 3. С. 48–67.
  19.  Demyanov V. F. Conditions for an extremum in metric spaces // J. Global Optim. 2000. Vol. 17, № 1–4. P. 55–63. DOI: 10.1023/A:1026599021286.
  20.  Гантмахер Ф. Р. Теория матриц. М. : Наука, 1988. 552 c.
  21. Канторович Л. В., Акилов Г. П. Функциональный анализ. СПб. : Невский Диалект ; БХВ–Петербург, 2004. 816 с.
Full text: