Математические методы в экономике

(2.56)

= (Ax -b, u) + (Bx - d, v) + (b, u) + (d, v) - 'ip (R, x) = mo

JX

- b>; u) + (Bx -d, v) + (c, x)-

mo

< yj||(.Aja; —fr7)"^!!• • ||uj||y + opt L — ip (R, x) = 3=1

mo

= optL — у

(Rj — ||wj|| •) ||(ylj5,-r №) |_• < optL.

Отсюда следует opt P < opt L и, следовательно, opt L = opt P (при Hj > ||uj||j, j = 1,... ,mo). Так как Ф (R, x) = o p t P , то x e ArgP, следовательно, ArgL С ArgP.• Пусть ж € A r g P и 7?j > ||uj||!)!, j = I,... ,m0. Р1з (2.56) следует '

optP< o p t P - X ^ - H ^ I I J ) |(Л-5Г-&>•)•%
90

Глава 2. Линейное программирование

Ах < Ъ на подсистемы AjX < V>, j = 1,... , mo и выбо0 ра произвольных норм {|| • Ц}^ : ip\ (Д, х) = (R, (Ах — + + b) ), ip2{Ro, х) = Ro\\(Ax - Ь) || (здесь || • || — произвольная норма), ips (До, x) = RQ max lf(x), где Ц(х) — левые части У) системы неравенств Ах — Ь < 0, До > 0. Задача (2.55) не является, вообще говоря, линейной, но является задачей выпуклого программирования, для которых имеется хорошо развитая теория и разработан широкий круг методов их решения. Если же нормы {|( • ||}^° кусочно-линейны, S

s

например, типа 52 kil> niax|zi| для z G R , то (2.55) будет г=1

W

задачей кусочно-линейного выпуклого программирования и может быть преобразована к виду задачи ЛП. Пусть, например, ж тог а (/з (До, х) = До niax С( )> Д задача

U) J шах {(с, х) - Д о т а х if (х) \ х € (Л J

может быть переписана в форме max {(с, x)-Rot

\ lj{x)
j = l,...,m,

* > 0,

хв'М0}>

а это есть задача ЛП с переменным вектором [х, t]. Сделаем еще одно важное замечание. Функция ц> (Д, х) в описанном методе, вообще говоря, недифференцируема (за счет кусочной линейности вектор-функций (AjX — Ъ>)+ и недифференцируемости в общем случае норм || • ||), хотя для численных реализаций метода свойство дйфференцируемости играет большую роль (в методах градиентного типа). Однако этого можно избежать за счёт введения несколько измененной конструкции штрафных функций, обеспечивающих однако лишь асимптотическую эквивалентность исходной й редуцированной задач. Возьмем вначале частный случай штрафной функции (p(R, х), модифицирующей щ (Д, х) = (Д, (Ах - Ь)+) = т

'

m

), а именно:
2

(ж). Эта функция,

91

Раздел 2.9. Метод точных штрафных функций в ЛП в отличие от ip\ (R, х), является дифференцируемой (с градиm x a

ентом \/ip{R, x) = 2 J2Rjtf( ) j)-

Д

л я

нее эквивалентная ре-

дукция не имеет места, однако справедлива ' Теорема 2.15. Пусть в (2.54) то

Ф (R, х) = (с, х) -^2'Rj

||(А/я - b>)+||J.

(2.57)

Тогда для произвольного R > 0 справедлива оценка ™о

optL < opt(2.54) <

Л1»~.11*\2 j

j=i

Доказательство. Левое неравенство в (2.58), как и в теореме 2.14, очевидно. Для х е MQ, С учетом части выкладок (2.56), имеем: то 3=1

3=1

J

Следовательно, верно и правое неравенство в (2.58).

•

Следствие 2.3. В условиях теоремы, 2.15 ор£(2.54) —*• optL

при

max Rj - * + с о . О')

В этом смысле и говорят об асимптотической эквивалентности задач (2.53) и (2,54) при конструкции функции Ф (R, ж) в форме (2.57).

92

2.10.

Глава 2. Линейное программирование

Задачи линейного программирования с несколькими критериальными функциями

Допустимый вектор задачи линейного программирования, интерпретируемый как план или технический проект, может характеризоваться не одним критерием (показателем), а многими. В содержательном плане такая ситуация является даже более типичной. Ниже рассмотрим некоторые вопросы задач ЛП при наличии нескольких критериальных функций. Пусть этими функциями будут fj(x) = CjX, j = 1,... ,к, а системой ограничений Ах < Ъ, х > 0. Если даже по смыслу каждой из критериальных функций необходимо придать максимальное значение, то этим еще однозначно не определяется модель оптимизации, здесь требуются уточнения постановок. Остановимся на двух, являющихся классическими.

2.10.1.

Модель оптимизации по Парето

П о л о ж и м [ с\ х , . . . , с\х ]т = Стх = : F(x), з д е с ь С = [ сх,...

,Ck\

(CJ — векторы столбцы).

Вектор х G М = {х > 01 Ах < Ь) назовем максимальным по Парето (или тг-максимальным) по системе критериальных функций F(x), если выполняется импликация z e M =$> F{z) = F{x).

F{z) > F{x),

(2.59)

Смысл этого определения состоит в том, что от оптимальной по Парето точки х нельзя перейти к другой с улучшением значения одного из критериев без ухудшения хотя бы одного из остальных. Сформулируем одну из очевидных идентификаций оптимальной по Парето точки х: Точка х является 7Г-максимальной тогда и только тогда, когда вектор [5,0,... ,0] является оптимальным для -V-

к

Раздел 2.10. Задачи ЛП с неск. критериальными функциями задачи ЛП к max{J2yj

т

т

| Ах < Ь, С х > С х + у, х > О, у > 0}.

(2.60)

3=1

Отмеченной характеризацией тг-оптимальности мы ниже воспользуемся. Задачу паретовской оптимизации будем записывать в виде т

тах^{С ж | Ах< Ь, ж > 0}.

(2.61)

Ее смысл будет заключаться в теоретической или алгоритмической идентификации всего множества Arg(2.61) 7г-максимальных точек или его части, например, просто в отыскании конкретного элемента из Arg(2.61). В многокритериальной оптимизации применяется один общий прием, суть которого состоит в сведении к задаче с одним критерием f{h{x),... ,Л(ж)), который тем или иным образом конструируется из функций {fj(x)}i. Особое место занимает в

к

таком сведении линейная свертка /R(ж) := Y^Rjfj(x)>

Rj > Q,

У = 1,... , к. Запишем задачу

к max

j cjx = (Стх, R) | Ax < b,

x> 0},

(2.62)

здесь R = [Hi,... , Rfc]'r > 0. Переход к задаче (2.62) называется еще скаляризацивй задачи (2.61). Из определения тг-оптимальной точки следует Arg(2.62) С Arg(2.6.L).

(2.63)

На самом деле все точки из Arg(2.61) могут быть получены из задач (2.62) при разных наборах параметра R > 0. При фиксированном R задача (2.62) -•- это задача ЛП, двойственной к которой будет min {(/?, и) | Ати > CR,

и > 0}.

(2.62*)

93

94

Глава 2. Линейное программирование

Оптимальность х G М для (2.62) состоит в существовании вект тора п > 0: А п > CR такого, что {Ь, и) — (CR, х) (см. раздел 2.5.). Выпишем все соотношения, определяющие оптимальность х для (2.62): Ах < 6, х > 0,

т

А п > CR, п > 0,

(Ь, п) = (CR, х).

(2.64)

Соотношениями (2.64) мы воспользуемся при доказательстве основной теоремы. Теорема 2.16. 1. Если вектор х оптимален для (2.62), то х —-к-оптимален для (2.61), т.е. справедливо включение (2.63). 2. Если х — 7Г-оптимален для (2.61), то при некотором R > 0 : х е Arg (2.62). Доказательство. Очевидность включения (2.63) была уже отмечена. Докажем вторую часть теоремы. Суть состоит в подборе R > 0 такого, чтобы для х G Arg (2.61) срабатывали условия оптимальности (2.64). Запишем для задачи (2.60) двойственную:

min {(6, и) - (Стж, v) | АТи - Cv > 0, v > Е, и>0, v> 0}, (2.60*) где и — вектор двойственных переменных, отвечающий системе ограничений Ах < b, a v — системе ограничений Стх-у > Стх, Е = [ 1 , . . . , 1 ] т . Условие оптимальности вектора [хт,0,... ,0]

к для (2.60) запишется в форме: существуют п > 0, . v > 0 такие, что ATu-Cv>0, v>E{>0), 0 = (Ь, п) - {CTx, v),

к

(2.65)

здесь 0 в равенстве — нулевое значение оптимума в задаче (2.60). Положим v = R и перепишем соотношения (2.65): т

А п >CR,

п> 0,

(6, и) = {OR, ж),

R> 0.

Они совпадают с условием оптимальности (2.64) вектора х для задачи (2.62). Итак, мы подобрали R > 0 такое, что х G Arg(2.62), что и завершает доказательство теоремы. D

Раздел 2,10. Задачи ЛП с неск. критериальными функциями

95

Следствие 2.4. Справедливо соотношение Arg (2.61) = ( J Arg (2.62),

(2.66)

Я>0

Замечание 2.4. Приведенное доказательство теоремы интересно тем, что оно вскрывает конструктивизм в выборе параметра свертки R, обеспечивающего включение х G Arg (2.62). Этот параметр находим из линейной (относительной и R) системы Т

А и > CR,

T

(C x, R) = {Ь, и),

R> О,

(2.67)

но так как система однородна относительно" [п, R], то строгое неравенство R > 0 в (2.67) можно заменить, например, на R > .Б, т.е. Rj >1\ j = I , . . . ,k. В связи с этим будет полезной Теорема 2.17. Допустимый для задачи (2.61) вектор х будет,от-оптимальнымтогда и только, когда совместна относительно и и R система (2.67). Теорема 2.18. Задача (2.61) разрешима тогда и только тогда, когда разрешима каоюдая из линейных систем: Ах < Ъ, х > 0 и АТи> CR, ,и>0. Доказательство. Действительно, если (2.61) разрешима, то при некотором R > 0 разрещима (2.62), а потому и (2.62*), что и дает необходимость условий. Обратное порождает разрешимость задачи (2.62), а потому и задачи (2.61). • Теорема 2.19. Существует конечное число векторных параметров Л* > 0, обеспечивающих равенство (2.66), т.е. N

Arg (2.61) = I J Arg (2.62) | R=Rt.

(2.68)

96

Глава 2. Линейное программирование

Доказательство. Действительно, так как Arg (2.62) при фиксированном R > О является некоторой /г-гранью многогранника М = {х > О | Ах < Ъ] (теорема 1.13), а число к-граней у многогранника М конечно, то взяв по одному представителю Я* для каждой из возникающей &-грани, получим представление (2.68).

' 2.10.2.

D

Модель лексикографической (последовательной) о п т и м и з а ц и и

Другой тип формализации задачи с несколькими критериями состоит в упорядочении этих критериев ( по "предпочтительности", "важности") и организации последовательной оптимизации. Пусть р = (к,... , 1) — упорядочение индексов функций {cfx}i, соответствующее упорядочению самих функций, т.е. &[х — первый по предпочтительности критерий, затем с£^_±х и так далее до cjx. Строим последовательность задач: max {с£ж| Ах < Ь, х>0},

(2.69*,)

^^la;

(2.69^-0

G Arg(2.69fc)}, G Arg(2.692)}.

(2.69i)

Смысл последовательной оптимизаций по системе критериальных функций {cf х}\ при их упорядочении р Состоит в заключительной из выписанных задач, т.е. в (2.69i). Кратко сформулированную задачу будем записывать Т max.:р{С х | Ах<Ъ, ж>0},

(2-70)

полагая Arg (2.70) = Arg (2.69г). Как и в паретовском случае, задача (2.70) может быть сведена к скаляризованной задаче (2.62) далее в более сильном смысле, а именно: при подходяще подобранных Rj, j — 1,... ,к оптимальные множества задач (2.70) и (2.62) будут совпадать.

Раздел 2.10, Задачи ЛП с неск. критериальными функциями Рассмотрим вначале двухступенную задачу линейной оптимизации: max {стх \ Ах
x > 0}

(2.71)

cjfa: | х € Arg(2.71)}

., (2.72)

— исходная задача и

— заключительная. Последней поставим в соответствие скаляризованную задачу max{cQX + RcTx

| Ax < b, x > 0}.

(2.73)

Задачу (2.72) можно переписать в виде max {CQX I Ax < b, х > 0, стх > а},

(2.74)

где а:~ opt (2.71). Лемма 2.1. Пусть задача (2.72) разрешима (т.е. разрешима задача (2.74)). Если щ > 0 — двойственная оценка неравенства —сТх < —а в задаче (2.74) и R> щ, то Arg(2.62) = Arg(2.73).

(2.75)

Доказательство, По теореме 2.14 о методе точных штрафных функций задача (2.74), т.е. (2-72), эквивалентна (по, совпадению оптимальных множеств) задаче max {c$x-

Т

+

R (-с х + а)

| х е М),

(2.76)

т

где М := {х > 0 | Ах < Ь}. Так как с х < а, Уж е М, то срезку " + " в (2.76) можно снять. Следовательно, выбросив в (2.76) слагаемое - а и , приходим к эквивалентности задач (2,72) и (2.73). Лемма доказана. • Последовательным применением схемы доказательства леммы к ситуации задачи последовательного программирования (2.70) получается 4 Математические методы...

97

98

Глава 2. Линейное программирование

Теорема 2.20. Если задача (2.70) разрешима, то существует непустая область значений параметра R = [Ri,... , Д&] > 0, такая, что Arg(2.70) = Arg(2.62).

(2.77)

Доказательство. Как и в доказательстве леммы 2.1, подбирается число Rk > 0, обеспечивающее равенство Arg max {с1_гх + R^x}

= Arg (2.69A_i).

Затем берется Rk-i > 0, обеспечивающее Arg max {<$_2х + Rk-i{cl_xx

+ Rk c^x)} = Arg (2.69^-2),

и так далее. Наконец, назначением параметра &2 > 0 обеспечивается конечное соотношение Arg m a x {cfa; + Д 2 (cfa; + R 3 (cjx + ... + R k <$x)...)}

=

x€M

= Arg [(2.690 = (2-70)].

(2.78)

Если теперь в (2.78) положить Лх = 1, R% = Л2, Д3 = R2 R31 • • • > Rk — R2 • • • -R/fcj то получим требуемое соотношение (2.77). • Замечание 2.5. Из доказательства леммы 2.1 следует, что назначение штрафной константы R, которая по условиям леммы должна быть больше по — двойственной оценки неравенства Т с х > а. в задаче (2.74), может быть осуществлено независимо от реализации вектора Ь — правой части в системе ограничений задачи (2.71). Поясним это обстоятельство. Запишем задачу, двойственную к (2.74): min{(6, и) — ащ

\ Ати — щс>со,

и > 0, щ > 0},

(2.79)

здесь а — opt (2.71), [и, щ]т — переменный вектор. Пусть N — многогранник ее системы ограничений, N С E m +i- Так как эта

Раздел 2.10. Задачи ЛП с неск. критериальными функциями

99

система ограничений имеет ранг m + 1, то многогранник имеет вершины, являющиеся его ( т + 1)-гранями (теорема 1.1). Перечислим эти вершины Р\,... ,PS и их последние координаты 1 UQ, ... ,UQ. ПОЛОЖИМ йо = max и 0. ЕСЛИ ВЗЯТЬ R > щ, то требоw вание R > щ в лемме 2.1 заведомо выполнится независимо от b и а, т.е. независимо от того, на какой вершине многогранника N будет достигаться минимум в задаче (2.79). Отсюда следует, что и в теореме 2.20 назначение векторного параметра R G Бд; может осуществляться независимо от правой части системы ограничений в (2.70). В рамках этого параграфа отмеченное свойство особой роли не. играет, однако в дальнейшем будет существенно использовано. В связи с этим приведем вариант теоремы 2.20 в модифицированной формулировке. Теорема 2.21. Пусть задача (2.70) разрешима. Тогда существует непустая область конструктивно определяемых независимо от b параметров R С Eh, обеспечивающих равенство (2.77). В теореме 2.20 фигурирует требование разрешимости задачи (2.70). Условия ее разрешимости легко формулируются на основе условия разрешимости задачи ЛП в форме М Ф 0 h М* ф 0, где М и М* — допустимые множества прямой L и двойственной задачи. Пусть, например, L : max {(с, х) | Ах < 6}, тогда

L* : min{(6, и)\АТи = с, и > 0}, т.е. М - {х\Ах< 6}, М* = {и > 01 Ати = с}. Условие М* ф% можно переписать в форме

с e,cone{aj}f.

100

Глава 2. Линейное программирование

Модификацией этого условия и служит следующее условие разрешимости задачи (2.70): Ск

€ cone {of,... ,a^,

-ex,... , - e n } ,

-c,, J } , (2go)

G cone { - c 2 , . . . , -ск, где

J},

е; = [ 0 , . . . , 1, 0,... ,0] G Е п , и i

J = {af,... , a^,

—ei,... , —e^}, т.е. справедлива

Теорема 2.22. Задача (2.70) разрешима тогда и только тогда, когда М = {х > 0 | Ах < 6} Ф 0 и выполнены условия (2.80).

Список литературы к главам 1 и 2 [1]

АШМАНОВ

С.А. Линейное программирование.-М.: Наука, 1981.

-304 с. [2]

ГАСС

С. Линейное программирование. - М.: Физматгиз, 1961. -300 с.

[3]

ДАНЦИГ

[4]

ЕРЕМИН

[5]

КАНТОРОВИЧ Л.В. Математические методы организации и планирования производства. -Л.: Изд-во ЛГУ, 1939. -68 с.

[6]

КАРМАНОВ

[7]

ЛОПАТНИКОВ

[8]

МУХАЧЕВА

[9]

ЧЕРНИКОВ

Д. Линейное программирование, его обобщения и приложения. -М.: Прогресс, 1966. -600 с. И.И., АСТАФЬЕВ Н.Н. Введение в теорию линейного и выпуклого программирования. -М.: Наука, 1976. -192 с.

В.Г. Математическое программирование. -М.: Нау-' ка, 1980. -256 с. Л.И. Экономико-математический словарь. —М.: Изд-во "ABF", 1996. - 702 с. Э.А., РУБИНШТЕЙН Г.Ш. Математическое программирование. -М.: Наука, 1977. -320 с. С.Н. Линейные неравенства. -М.: Наука, 1968. -488 с.

Глава 3 Нелинейное программирование 3.1.

Постановка задачи и геометрическая интерпретация

Задачи линейного программирования, которые изучались в предыдущей главе, являются эффективным средством математического моделирования преимущественно экономических ситуаций. Наряду с линейными моделями в последнее время все чаще возникает необходимость формулировки и исследования нелинейных оптимизационных задач. Их значение резко возрастает по мере развития знаний об объекте, совершенствования алгоритмов решения нелинейных задач и повышения эффективности вычислительной базы, а также появления новых возможностей в области техники и технологии. Рассмотрим общую задачу математического программирования: ihin/o(a;), fi(x) < 0, г = 1, • • • , пц; fi(x) = 0, г = mi + 1, '... , m; х е XQ.

,g ^

Здесь х е R n ,' fi — определенные на R n непрерывные функции (г = 0,1, ... , т), XQ — заданное множество из R n относительно простой структуры.

102

Глава 3. Нелинейное программирование

Вектор ж е 4

удовлетворяющий всем ограничениям зада-

чи (3.1), называется допустимым решением (вектором, допустимой точкой). Совокупность всех допустимых решений образует допустимое множество X. Функция /о называется целевой функцией. Допустимый вектор ж* такой, что fo(x*) < /о(ж) для всех х G X, называется решением или оптимальным вектором, а число /* = /о (х*) — (оптимальным) значением задачи (3.1). Множество всех решений задачи (3.1) будем обозначать через X*. Если в (3.1) /о — линейная, а /,• — аффинные функции: /о(я) = (с, х), fi(x) = (<ц, x)-ati, где <ц € R n , a* G R1, i = 1, . . . , m; XQ — выпуклое полиэдральное множество, то (3.1) есть задача линейного программирования. При этом типичными для XQ служат представления: n 1) Хо = R ; 2) XQ = Щ. = {х е Rn : ж > 0}; Z) Хо = {х в Rn : х< х < х}, х, х е R n . В случае, когда перечисленные выше условия, характеризующие задачу ЛП, не выполняются, соотношения (3.1) определяют задачу нелинейного программирования (НЛП). Заметим, что в конкретной задаче НЛП не обязательно должны присутствовать все три вида ограничений: ограничения-неравенства fi(x) < 0 (г = 1, ... , mi), ограниченияравенства fi(x) = 0 (г = mi + 1, ... , т) и условие ж 6 Хо при Хо ф R". Более того, всю систему ограничений в (3.1) можно эквивалентным образом свести к одному равенству или одному неравенству. Это сведение осуществляется следующим образом. Во-первых, каждое неравенство /г (ж) < 0 равносильно равенству /*(ж) = 0. С другой стороны, любое равенство fi(x) = 0 можно представить как. систему двух неравенств: fi{x) < 0, —fi(x) < 0. Далее, система равенств fi(x) — 0, i = т

1, ... , т, сводится к одному равенству J2 ffix) г = 1

•

=

0. Анало-

;

гично, система неравенств fi(x) < 0,. * = 1, .... , m,, может ,2 быть сведена к одному неравенству ]>D /г- (ж) < 0 (или кнерат

г=1

Раздел 3.1. Постановка задачи и геометрическая интерпретация 103

венству д(х) < 0, где д{х) = max /*(ж)). Условие ж е Хо то1<г<ш

же, как правило, можно записать с помощью уравнений и неравенств. Например, требование, чтобы переменная Xj принимала значения либо 0 либо 1, можно записать в виде уравнения ж| — XJ = 0; условие .Хо = Щ. означает, что координаты вектора х — (xi, ... , xn) G XQ ДОЛЖНЫ удовлетворять системе неравенств — Xj < 0 (j = 1, ... , n). Таким образом, в принципе можно формулировать задачи НЛП только с одним ограничением: min{/о(ж) : F\(x) < 0} или тт{/о(ж) : F2{x) = 0}. Однако при этом строение функций F{ мо^сет стать очень сложным, специфика исходной задачи будет утеряна и появятся большие трудности, в частности, с выбором алгоритма численного решения задачи. Отметим наиболее часто встречающиеся классы задач НЛП. Важным является простейший случай задачи НЛП, когда ограничения в (3.1) отсутствуют совсем (X = R n ). Задача min {/о (ж): х е

Rn}

называется задачей безусловной минимизации. Пусть в задаче (3.1) отсутствуют ограничения-неравенства, XQ = R n , m < п, а функции fa, i = 0, 1, ... , m, имеют частные производные не ниже второго порядка. Такие задачи называются классическими задачами оптимизации. В частности, классической может быть и задача безусловной минимизации. Если допустимое множество X задачи (3.1) выпуклое полиэдральное, а целевая функция /о имеет вид /о(ж) = (с, х) + \ (Нх, х), где Я — симметрическая матрица порядка п х п, то такая задача называется задачей квадратичного программирования. Пусть снова множество X выпуклое полиэдральное, в то время как /о (ж) = тг—(—£•> г Д е a, b e Rn, a, /3 — скаляры. В (6, х)+р этом случае (3.1) — задача дробно-линейного программирования. Если в (3.1) '. Хо С Z, где Z — множество всех векторов из n R с целочисленными координатами, то (3.1) представляет со-

104

Глава 3. Нелинейное программирование

бой задачу целочисленного программирования. Наиболее часто встречаются задачи целочисленного линейного программирования, когда /о(х) = (с, ж), X = M(]XQ где М — выпуклое полиэдральное множество, XQ С Z, с Е R n . Если в задаче (3.1) все функции /Г, г = 0, 1, . . . , т, выпуклые на XQ, XQ — заданное выпуклое множество из Rra, то (3.1) — задача выпуклого программирования (ВП). Заметим, что задачи ЛП есть частный случай задач ВП. Задачи ВП часто встречаются в экономических исследованиях, в управлении и проек^ тировании. Предположение выпуклости является естественным при проведении численного эксперимента. Достаточно развит к настоящему времени и аппарат выпуклого анализа. Поэтому в теории и методах решения задач НЛП обсуждению выпуклых задач всегда уделяется первостепенное внимание. 7

п

п

3=1

3=1

Задача min{ £ hj(xj) : £ fij{xj) < 0, i = 1, . -. , т}называется задачей сепарабельного программирования. Здесь все функции foj, fij зависят лишь от одной переменной. Если в задаче (3.1) среди функций /j, г = 0, 1, ... , т, имеются такие, которые зависят от переменных, являющихся случайными величинами, то (3.1) будет задачей стохастического программирования. Как и в случае ЛП, простейшие задачи НЛП могут быть решены путем их графического анализа. Пример 3.1. Требуется найти {Х2- - 1 ) 2 }

при условиях Х\ + Х%-•2<

0, 0, > 0.

— Х\ -+- Х2 4•1 < Х\

Здесь п =: ГП -= 2, ж = (rci, жг), /оОж) •= х? + (^2-1)2, Л (я) = х\+х\- 2, /г (ж) = —я?1 •+ Х2 + 1 4 Хо = {х\х = (а R 2 , xi > 0}.

Раздел 3.1. Постановка задачи и геометрическая интерпретация 105 ,'-3-

Рис. 3.1: Графическое решение задачи нелинейного программирования

Решим данную задачу графически. Для этого изобразим на плоскости Ж1ОЖ2 (Рис. 3.1) допустимое множество X. Его граница состоит из части параболы х\ + х\ — 2 = 0 и отрезков прямых -х\ + xi + 1 = 0 и х\ = 0. Рассмотрим множество линий уровня Fc целевой функции: Fc = {х | /о(ж) = с}, с > 0. Каждая линия уровня Fc представляет из себя окружность радиуса sfc с центром в точке (0, 1). Решение задачи состоит в нахождении окружности Fc минимального радиуса, имеющей с X общие точки. Из рис. 3.1 видно, что искомой будет окружность Fc при с = \/2. Она касается множества X в точке х = (1, 0). Таким образом, решением задачи будет вектор £=•(!, 0), а оптимальное значение /* равно 2.

106

Глава 3. Нелинейное программирование

3.2.

Примеры моделей НЛП

3.2.1.

Нахождение нормального решения задачи Л П

Пусть некоторое производство функционирует согласно следующей модели ЛП (см. раздел 2.2.): max {(с, х) : Ax
x > 0}.

Обозначим через х ее оптимальный план. Предположим, что с определенного момента условия производства изменились и оно стало описываться моделью max{(ci, x) : Aix
x > 0}.

(3.2)

Пусть Х\ — множество решений, a f{ — оптимальное значение задачи (3.2). Исходя из соображений минимальных потерь при переходе от работы по плану х к работе по плану из множества Х\, получаем задачу т т { | | а ; - ж | | 2 : х G Х^}, или, что то же самое, mm{\\x-xf: AlX
(с1; х) > #,

х > 0}.

(3.3)

Задача (3.3) представляет собой проблему минимизации квадратичной функции при линейных ограничениях и относится к классу задач квадратичного программирования. Ее оптимальная точка называется нормальным решением задачи ЛП (3.2). 3.2.2.

Нелинейная задача размещения производства

Пусть имеется т мест строительства новых предприятий, производящих однородный продукт. Известны п пунктов потребления данного продукта. Заданы : bj — потребность в продукте j-ro пункта потребления;

107

Раздел 3.2. Примеры моделей НЛП

пг — проектная мощность производства в г-м месте строительства; Cj j — затраты на транспортировку единицы продукта из г-го места производства в j-u пункт потребления; 4>г{щ) — функция, характеризующая зависимость себестоимости продукта в г-м месте производства от объема Х{ данного производства (обычно это гиперболическая зависимость). Требуется определить объемы производства Xi и объемы X{j перевозок от г-то поставщика j'-му потребителю, удовлетворяющие условиям:

m /

j

(3-4) О < Xi < ai,

% = 1, . . . , m;

Xij > 0 (i = 1, ... , m; j = 1, ... , n). В задаче (3.4) требуется минимизировать нелинейную (вогнутую) целевую функцию на выпуклом полиэдральном множестве. Это пример многоэкстремальной задачи. 3.2.3.

Задача идентификации

При математическом моделировании исследуемого объекта обычно вначале определяют зависимость между входами х и выходами у модели с точностью до ряда неизвестных параметров с\, ... , Ь/с. Процесс определения параметров Cj в режиме нормального функционирования объекта называют идентификацией параметров модели. Пусть у G R 1 и известна функциональная зависимость у = /(ж, С), где х € R n , С — (ci, ... , с&). Произведем JV наблюдений за состоянием х и у, N > к. Получим информацию {жг, уг}, г = 1, :.. , N, где уг — реакция объекта на вход хг.

108

Глава 3. Нелинейное программирование

Подставим эти данные в уравнение модели. В результате возникает система iV уравнений с к неизвестными: 1

у = f{x\ ci, ... , ск), i = 1, • • • , N, которая, как правило, несовместна. Для ее решения применим метод наименьших квадратов, состоящий в нахождении N

mm {F(Q = £ № ' , О ~ V?}• ?

(3-5)

m

Если выход модели у G R , то получим т задач вида (3.5), каждая из которых будет задачей безусловной минимизации.

3.2.4.

Многошаговые процессы управления

Пусть задан многошаговый управляемый динамический процесс, описываемый разностным уравнением Хк+1 = Т(хк, щ)7 uk e Uk, к = 0, 1, ... , п - 1; Жо = С.

Здесь Щ — фиксированные множества из R r , Г — известная гомерная вектор-функция. Рассмотрим задачу минимизации полных потерь за п шагов процесса, выражаемых критерием кап-1

чества Jn = ]Г) q{xk, Uk). В такой форме, в частности, может к=0 быть записана задача оптимального управления с дискретным временем. Обозначаях = (жо, х%, ... , жп-1> щ, щ, ... , w n _i); fi(x) = xi+i~T(xi, щ), XQ = {х\хо = с, щ е Щ, % = 0, 1, ... , п - 1 } , получим задачу нахождения min Jn{x) при векторных ограничениях-равенствах fi(x) = 0, Г = 0, 1, . . . , п - 1 ;

(3.6)

109

Раздел 3.2. Примеры моделей НЛП и условии

х в Хо. Задача математического программирования (3.6) характери2 зуется большой размерностью, здесь п(п + г) неизвестных и п ограничений.

3.2.5.

Задача о рюкзаке

Имеется п предметов, известны : a,j — вес j'-ro предмета, Cj — его ценность. Требуется загрузить рюкзак, выдерживающий ао единиц веса, набором предметов с максимальной суммарной ценностью. Введем переменные

{

1, если j-й предмет подлежит загрузке; 0 в противном случае.

Тогда сформулированную выше задачу можно записать как:

max 22

c x

j j oi

c x

0 < Xj < 1, Xj — целые, j = 1, ... , n. Согласно терминологии раздела 3.1. данная задача в силу последнего условия тоже относится к классу постановок НЛП. Однако специфика теории и методов решения таких задач настолько велика, что они обычно составляют содержание отдельной дисциплины — целочисленного или, более широко, дискретного программирования. Подобные задачи в данной главе рассматриваться не будут.

ПО

3.3.

Глава 3. Нелинейное программирование

Необходимые сведения из выпуклого анализа

В теории и методах решения оптимизационных задач фундаментальную роль играют свойства выпуклых множеств и выпуклых функций.

3.3.1.

Выпуклые множества n

Определение 3.1. Множество S С R называется выпуклым, l 2 1 2 если для любых x , х G S точка ха = ах + (1 — а)х Е S при всех а € [0, 1]. Другими словами, множество S выпукло, если с любыми двумя своими точками оно содержит и отрезок, их соединяющий. Одноточечное и пустое множества также будем считать выпуклыми. Примерами выпуклых множеств, легко видеть, служат отрезок, гиперплоскость и порождаемые ею полупространства, шар. Так же легко проверяется справедливость следующего утверждения, Теорема 3.1. Пересечение произвольного числа выпуклых множеств выпукло. Как следствие этой теоремы выпуклыми будут аффинное множество Р = {ж | Ах = Ь} и множество решений конечной системы линейных неравенств М = {х | Ах < Ь] (здесь А — матрица размера т х п, b — m-мерный вектор). Определение 3.2. Точка х называется выпуклой комбинаЦиi

1

ей точек х ,

... ,

•

k

к

{

х , если х — .£] оцх % где щ г=1

1, . . . , fc; £ а ; = 1.

•

> 0, —

г =

Раздел 3.3. Необходимые сведения из выпуклого анализа

111

Определение 3.3. Совокупность всех выпуклых комбинаций точек множества М называется выпуклой оболочкой М и обозначается соМ. Теорема 3.2. Выпуклая оболочка М совпадает с пересечением всех выпуклых множеств, содержащих М. Доказательство. Проверим, что соМ — выпуклое множество. Возьмем произвольно х, у G соМ и Л G [0, 1]. По определению множества соМ I

m уЛ

х = J ] очх\ y = Y^ ^ ' г д е х г е М,

<У{ > О, %.= 1, ... , /; у к € М, I

(Зк > .0, к =

m

1, ... , т ; ^ а; = 1, J2 /3Л = 1. Тогда точка z = Хх + (1 — Х)у будет линейной комбинацией l+т точек ж 1 , ..., х1, у1, ... , ут с коэффициентами Aai, ... , Хщ, (1—А)/31( ... •, (1—А)/Зт, которые неотрицательны и в; сумме равны единице. Следовательно, z e соМ и поэтому соМ — выпуклое множество. Покажем теперь, что если. S D М и S -- выпуклое множество, то S D соМ. : 1 т Пусть х , ... , х в М. Тогда х1, ... , хт е S. Надо проверить, что S будет содержать выпуклую комбинацию точек ж1, ... , хт. Проверку будем проводить индукцией по числу точек. Для к = 2 искомое следует из определения выпуклости S. Пусть утверждение справедливо для к < т — 1. Покажем, что z = 2 оцх% G S для любых cxi > 0, 5D ttj = 1. При этом г=1

г=1

естественно считать, что 0 < ат < 1. По предположению инm-l

дукции у - Y~

Е агх% г=1 m

.

т—1

е

-S1! т а к

как

J2 т^ск: = !• н ° г=1

2 = (1 — a m ) y + amx и поэтому z £ S, S D соМ. , • Пусть S'i — выпуклые множества (г G /), каждое из которых содержит М. По доказанному выше f] Si D со М. Но с другой

112

Глава, 3. Нелинейное программирование

стороны, соМ — выпуклое множество и, очевидно, соМ D М. Следовательно с о М э f| 5,-. П 3.3.2.

Выпуклые функции

Определение 3.4. Функция /, определенная на выпуклом мноn жестве S С R , называется выпуклой на S, если l

2

2

1

f(ax + (1 - a)x ) < afix ) + (1 - а)/(а; ) 1

(3.7) 1

2

2

, х € S и а е [0, 1]. Если в (3.7) для ж ф х и а £ (0, 1) выполняется знак строгого неравенства, то функция / называется строго выпуклой на S. Функция / называется вогнутой (строго вогнутой) на S, если — / выпукла (строго выпукла) на S. Примерами выпуклых функций на всем пространстве R n служат f\(x) = \ {Ах, х) + (6, х) — квадратичная функция с симметрической неотрицательно определенной матрицей А, /2(2;) = ||ж||. Функция /з(ж) = ж" 1 выпукла на множестве {х 6 В}\х > 0} и вогнута на множестве {х € R1 : х < 0}, аффинная функция /4(ж) = (a, x) + a, a E R n , a 6 Л 1 , выпукла и вогнута на R n . Используя схему индукции, аналогичную той, которая была применена при доказательстве теоремы 3.2, можно показать, что определение 3.4 выпуклости функции / на S эквивалентно выполнению на множестве S неравенства Ивнсена

>/(*') г=1

(3.8)

Г = 1

для любого натурального т , любых хг

е S, ai > 0,

г =

1, ... , т , ]Г) «* = 1. г=1

Приведем ряд теорем, с помощью которых можно проверить выпуклость функций.

113

Раздел 3.3. Необходимые сведения из выпуклого анализа Теорема 3.3. Пусть Д, ... , fm — выпуклые функции на выпуклом множестве S, Ах, ... , Хт — неотрицательные числа. т

Тогда функция f = J2 Kfi выпукла на S. г=1

Доказательство. Так как для каждой функции fi выполняется неравенство (3.7), то при любых ж1, х2 G S и a € [0, 1] имеем f{axl

+ (1 - Ы)х2) = г=1

m

< J ] XilaMx') + (1 - а) Л (ж2) ] = «/(ж1) + (1 - a)f(x2), г=1

т.е. для / справедливо (3.7). ,

•

Из вышеприведенного доказательства следует, что если хотя бы одна из функций fi строго выпукла и А; > 0, то строго выпуклой будет и функция /. Теорема 3.4. Пусть ft (t G T) — произвольное семейство функций, выпуклых на выпуклом мнооюестве S. Тогда функция f = sup ft выпукла на S. Доказательство. 1

Для любых ж1, ж2 € S и a G [0, 1] имеем 2

l

/(аж + (1 - а)х ) = sup ft(ax

< sup [aft(xl)+(l-a)ft(x2)} T

2

+ (1 - а)х ) <

< asup / < (ж 1 )+(1-а) sup /4(ж2) = t<=T

teT

a В частности, выпуклой на S будет функция / =

max i=l, ..., m

если функции fi выпуклы на S.

114

Глава 3. Нелинейное программирование

Теорема 3.5. Пусть функция ц> выпукла и не убывает на от1 резке [а, Ь] С R , а функция д выпукла на выпуклом множеn стве S С R , причем д{х) G [а, Ь] для всех х G S, Тогда функция / = ipg выпукла на S. Доказательство. имеем l

f(ax

1

2

Д л я произвольных ж , ж € S и о е ( 0 , 1 ]

2

l

2

x

+ (1 - а)х ) = ip (g(ax + (1 - а)х )) < tp {otg{x ) + 2

l

2

+(l-a)
l

2

af(x )+^-»)f(x )

D С помощью ссылок на теоремы 3.3-3.5 можно проверить выпуклость, например, следующих функций: р /б(ж) = [д(х)] , если д — выпукла и неотрицательна на выпуклом множестве S, р> 1; т

h(x)

— Y1 ^г [fi~(x) F> е с л и

в с е

fi выпуклы на множестве S, \i >

Г=1

0,

р>1; т

/7 (ж) = — S т^-У' е с л и в с е fi выпуклы на S, /г (ж) < 0 для х б S и г = 1, ... , т ; /в(аз) = -In(—/(ж)), если / выпукла и отрицательна на S. С помощью выпуклых функций удобно задавать выпуклые множества. Теорема 3.6. Пусть функция f выпукла на выпуклом мнооюестве S С Rn. Тогда мпооюество Ыа ~ {ж € S : f(x) < <т} выпукло при любом а. Доказательство. Для произвольных ж1, ж2 € Mo- и а € [0, 1] в силу выпуклости / и S имеем Даж1 + (1 - а)х2) < af{xl) + (1 - a)f{x2)
a)cr = а, •

115

Раздел 3.3. Необходимые сведения из выпуклого анализа Множество Ма обычно называют множеством Лебега функции /. Определение 3.5. Пусть / — функция, определенная на мно71 жестве S С R . Множество 1

epi/ = {(ж, 0) : х Е S, d G R ,

0 > f{x)} С R

n+1

называется надграфиком (эпиграфом) функции /. Теорема 3.7. Для того, чтобы функция / была выпуклой на выпуклом множестве S, необходимо и достаточно, чтобы ее надграфик epi/ был выпуклым множеством. 1

2

Доказательство. Пусть функция / выпукла на S и у , у Е epi/, т.е. у1 = (ж1, tfj), У2 = ОД 02), я 1 , х2 е S, 0! > Да: 1 ), /(ж 2 ). Если а € [0, 1], то в силу (3.7) имеем + (1 - a)t? 2 > a / V ) + (1 - а)/(ж 2 ) > /(аж 1 -Ь (1 -

а)х2).

Из выпуклости S1 вытекает, что ах1 + (1 - а)ж 2 е 5. Тогда из последних двух неравенств и определения 3.5 следует, что (ах1 + (1 — а)х2, ад\ + (1 - a ) ^ ) € epi / и, следовательно, epi/ — выпуклое множество. Обратно, пусть epi/ — выпуклое множество в R n + 1 . Возьмем произвольно х1, ж2 е S. Точки (ж1, /(ж 1 )) и (ж2, /(ж 2 )) принадлежат epi/, и в силу выпуклости epi/ в этом множестве будет находится и точка (ах1 + (1 — а) ж2, а/ (ж *) + (1 - а) / (ж2)) для любого a G [0, 1]. Последнее равносильно тому, что выполняется неравенство (3.7) для любого 'а £ [0, 1], т.е. / — выпуклая функция на S. О Рассмотрим далее свойства непрерывности и дифференцируемости по направлению выпуклой функции.

116

Глава 3. Нелинейное программирование n

Теорема 3.8. Пусть S — выпуклое множество в R , f — выпуклая функция на S, х 6 S, I G Я", и х + al E S для достаточно малого а > 0. Тогда существует производная ^' функции f в точке х по направлению I:

df(x) _

f(x + al)-f(x) а-ю+

ol Если х € intS, то

a

> —оо для любых I.

^'

Доказательство. Пусть 0 < ai < а2- В силу выпуклости функции / имеем

f(x+ail) = f(-^\ Отсюда - /(ж) . fix + СК2О - /(^) g)

Таким образом, функция ip(a) = f&+a£ ^x) является неубывающей функцией а при а > 0. Тогда предел, определяющий искомую производную, существует и при этом Щ& = inf
< o
и вычтем из обеих его частей величину a\f{x + ail). Получим fjx + ail) - /(ж)

<

/(ж + agQ - /(ж•+ ощр -.

, (3.10)

Пусть теперь ж 6 mi 5. Тогда найдется число е 0 > 0, при котором x+el в S для любых I и £ таких, что || 11| = 1, 0 < е '< ео- Положим в неравенстве 3.10 ж = £—ео£, а г = е0> а 2 = где а > 0. Имеем

/(g + orf)-/(g) . /(S) - fix - eoO

117

Раздел 3.3. Необходимые сведения из выпуклого анализа Отсюда, переходя к пределу при «4-0, получим > [/(я) - fix-

ео1)]е^1.

• Теорема 3.9. Выпуклая функция непрерывна во всех внутренних точках своего множества определения. Доказательство. Пусть выпуклая функция / определена на множестве 5, Г 6 int S и е > 0. По определению внутренней точки найдется такое число 8 > 0, что х + nl € S для всех / = г Цх, ... , / п ), || 11| < #. Обозначим через е векторы единичного n базиса пространства R . По теореме 3.8 функция / имеет в точке г х конечные производные по направлениям е и, следовательно, она непрерывна в этой точке по каждой переменной. Поэтому можно считать 6 настолько малым, что |/(ж + n/jel) — /(ж)| < е для всех I (|| 11| < <5, г = 1, ... , п). Используя неравенство (3.8), получим

_ 1 А fix + l)- fix) = / ( - 2 J (ж + nke1)) - fix) < г

п

П

i=

(3.11)

\

для всех I, || 11| < 5. Отсюда, в частности, вытекает fix — I) — fix) < e. Далее из выпуклости / следует - о [/(ж + 0 + / ( ж - 0 ] > поэтому fix) - fix+ 1) < fix-I) - fix) < e. Учитывая (3.11), окончательно получаем |/(ж + 0 — /(ж)| < е для всех /, || /1| < 5.

•

Заметим, что хотя выпуклая функция непрерывна в любой внутренней точке ж G S и имеет в ж конечную производную

118

' Глава 3. Нелинейное программирование

по любому направлению, она не обязательно дифференцируема в этой точке. Например, выпуклая функция f(x) — |#|, х Е 1 S = R , не будет дифференцируемой в точке х = 0. В свою очередь, любая дифференцируемая на S функция (не обязательно выпуклая) имеет производную в ж по любому направлению I, причем

В самом деле, пусть функция / дифференцируема на S, т.е. справедливо представление 1(У + Л) - f(y) = (v/(y), h) + о (|| h ||)

(3.13)

для любых у G S и /i £ R" (здесь / определена в некоторой окрестности Y D S и y + h G Y). Определим функцию ip{a) = f(x + al), x, I £ Rn, и положим в (3.13) y = x + al, h = Aq-l (считая, что у, y + h £ S). Получим ip{a + Aa) -tp(a)

= Ло;(у/(ж + Ы)> 0 + °(| А а | ) .

Отсюда (3.14)


Если теперь в (3.14) взять х = х, a = 0, то получим формулу (3.12). Заметим, что если / — выпуклая на S функция, то ip — выпуклая функция аргумента а. В самом деле, пусть а ь а 2 6 R 1 , /3 G [0, 1], x + aiieS,

x + a2l G 5.

Тогда в силу выпуклости функции / имеем

{1-P) a2) = f(x + [Pat + (1 - р)а2] I) =

Раздел 3.3. Необходимые сведения из выпуклого анализа

119

Теорема 3.10. Пусть/ — дифференцируемаяна выпуклом множестве S функция. Для того чтобы / была выпукла на S, необходимо и достаточно, чтобы выполнялось условие / ( z ) , хх11 - х9) < f(xl)

- f{x2)

1 2 для любых ж1, ж2 G S.

(.3.15) l

Доказательство. Пусть / выпуклая на S функция. Представим неравенство (3.7) в виде

где си € [0, 1]. Отсюда с учетом (3.12) lim

/ ( ж 2 +

а

а

=

д{х1 — х2)

Обратно, пусть / —- дифференцируемая на выпуклом множестве S функция, удовлетворяющая неравенству (3.15) для 1 2 всех ж , ж 6 S. Возьмем произвольно ее € [0, 1] и положим а 1 2 х = ах + (1 — а)ж . В силу (3.15) имеем

Умножим первое из этих неравенств на а, а второе • - на 1 — а и сложим. Получим

О = (у/ (жа), axl + {l-a)x2-xa)

< о;/(

что равносильно неравенству (3.7).

П

Покажем, что выпуклые функции не могут иметь на выпуклых множествах различных локальных минимумов.

120

Глава 3. Нелинейное программирование

Теорема 3.11. Пусть f — выпуклая функция, определенная на выпуклом множестве X. Справедливы утверэюдения: 1) любая точка локального минимума функции f на X является и точной глобального минимума f на X; 2) множество X* = Arg min /(ж) выпукло; 3) если f строго выпукла на X, то множество X* либо пусто, либо состоит из одной точки. Доказательство. 1. Пусть ж* — точка локального минимума / на X. Другими словами, найдется окрестность Ое(х*) = {х : IIх - х*|| < е} точки х* такая, что /(ж*) < /(ж) для всех х € Х(~)ОЕ(х*). Предположим от противного, что х* не является точкой глобального минимума / на X. Тогда существует вектор а х G X, для которого /(ж) < f{x*). Рассмотрим точки х = (1 — а)х* + ах отрезка [ж*, ж], 0 < а < 1. Из выпуклости X следует [ж*, х] С X. Если зафиксировать а = а < ,, f _.., то ха G Ое{х*). С учетом выпуклости / на X имеем

/(ж*) < f(x&) = f(ax+(l-

a)x*) < af(x) +

+ (1 - а)/(ж*) < а/(ж*) + (1 - 6 0 / ( 0 = / ( О Полученное противоречие указывает, что /(ж*) < /(ж) для всех х £ X. 2. Пусть ж1, ж2 G X*, т.е. /(ж1) = /(ж 2 ) = /• = min /(ж). Положим ха = аж 1 + (1 -сс)ж2, а € [0, 1 ]. Тогда с учетом (3.7) и выпуклости X имеем

/* < f(xa) < af{xl) + (1 - a)f(x2) = /*. :

(3.16)

Следовательно, /(ж а ) = /* и 1 а £ Г для всех а, 0 < а < 1. 3. Предположим, что / — строго выпукла на X, множество X* состоит более чем из одной точки, ж1, ж2 € X*, ж1 ф ж2 и а е (0, 1). Тогда из неравенства (3.16) и определения строгой выпуклости функции / сразу следует противоречие /* < /*.

•

121

Раздел 3.3. Необходимые сведения из выпуклого анализа

Приведем пример необходимых и достаточных условий достижения выпуклой функцией минимума на выпуклом множестве. Теорема 3.12. Для того, чтобы выпуклая дифференцируемая на выпуклом множестве X функция f достигала своего минимума на X в точке ж*, необходимо и достаточно выполнения неравенства ( у / ( ж * ) , х-х*)>0

(3.17)

для всех х £ X. Если х* £ intX, то условие (3.17) эквивалентно равенству у / (ж*) = 0. Доказательство. Так как функция / дифференцируема на X, то справедливо представление (3.13). Полагая в нем у = х*, h = а(х — х*), 0 < а < 1, получим

0 < f{x* + а(х - х*)) - /(ж*) = а ( у / (х*), х-х*) + о (а). Отсюда

0<(v/(a*), яг-О +

—

се для 0 < а < 1, и при а 4- 0 имеем условие (3.17). n Если ж* € intX, то для любого Л. G R , || /г || = 1, найдется число ео > 0 такое, что х = х* + eoh e X. Положим в (3.17) последовательно х = х1 = х* + eoh, х = х2 = х* — eoh. Получим ±£о (v/o (ж?), Л) > 0, т.е. (у/о (ж*), /i) = 0. Из произвольности выбора h вытекает у/о (ж*) = 0. Достаточность теоремы следует из неравенства (3.15) при 1

2

ж = х е X и ж = ж*.

•

Заметим, что (3.17) — необходимое условие минимума произвольной дифференцируемой (не обязательно выпуклой) функции на выпуклом множестве.

122

Глава 3. Нелинейное программирование

3.3.3.

Сильно выпуклые функции

Выделим важный подкласс выпуклых функций. Определение 3.6. Функция /, определенная на выпуклом мноn жестве S С R , называется сильно выпуклой на S с константой рь > О, если x

2

f(ax + (1 - a)x ) < 1

2

l

2

< «/(ж ) + (1 - a) f{x ) - e*(l - a)y,\\x - ж || 1

2

(3.18)

2

для всех ж , ж е 5, a G [0, 1]. Примером сильно выпуклой функции может служить /(ж) = 2 n \\x\\ , х 6 R . Для нее условие (3.18) выполняется как равенство при \х = 1. Очевидно, что сильно выпуклая функция является строго выпуклой. Теорема 3.13. Пусть / — сильно выпуклая с константой д функция, определенная в некоторой окрестности выпуклого замкнутого мноэюества X. Тогда при любом а ее мноо/сество Лебега Ма- = {х б X : /(ж) < а} ограничено и существует единственная точка х* — arg min / (ж). 3 £С

Доказательство.г Пусть Ма ф 0, х° € Мд-, 0 е (ж°) — шар радиуса е > 0 с центром в ж0, Х о = .ХПФг^ 0 )- Функция / непрерывна на X (теорема 3.9), множество Х$ компактно,' поэтому существует 7 = min /(ж). Возьмем произвольную точку х € XQ

х е Ма \ XQ И ПОЛОЖИМ а = \\х - ж 0 !!" 1 ^ ж = ах + (1 — а)ж°. Очевидно, что 0 < а < 1, ||ж - ж°|| = е, т.е. ж 6 4 Поэтому, используя неравенство (3.18), имеем

7 < fix) < afix) + (1 - a) fix0) - а(1 - CL)\I | Ж - ж°||2 < (

2

- ж°|| = а - де (||ж - ж°|| - е).

123

Раздел 3.3. Необходимые сведения из выпуклого анализа

Отсюда заключаем, что для всех х е Ма выполняется \\х — ж°|| < К, где К = е + ^ = const. Так как Ма — компактное множество, / — строго выпуклая функция и min fix) = min f(x), то из теорем 3.9 и 3.1L х 6 х . ,. хема следует существование и единственность точки минимума / на Приведем критерии сильной выпуклости для гладких функций. Теорема 3.14. Пусть f — непрерывно дифференцируемая на выпуклом множестве S функция. Функция f сильно выпукла на S с константой \± тогда и только тогда, когда (V/ И

2

1

2

l

2

- V/ О* ), х - х ) > la \\x - x f

(3.19)

для всех ж1, ж2 G S. Доказательство. Пусть дифференцируемая на S функция удовлетворяет условию (3.18). Перепишем его следующим образом:

и перейдем к пределу при а 4- 0. С учетом формулы (3.12) имеем

Так как в (3.20) точки ж1 и ж2 равноправны, то наряду с (3.20) справедливо и неравенство 1

2

2

1

2

HI* - х \\ + (у/ (х ), х -х")

2


Складывая последнее неравенство с (3.20), получим (3.19). Обратно, пусть дифференцируемая на S функция удовлетворяет условию (3.19). Покажем, что она сильно выпуклая. Построим функцию ip(a) — f{x + al), ж, I € R n , « € R1. Применим для нее формулу Ньютона-Лейбница <р (а) — у? (0) =

124

Глава 3. Нелинейное программирование

a

/ ip'{t)dt. С учетом (3.14) получим о + tl),l)dt.

(3.21)

Пусть х1, х2 е S, 0 < a < 1. Используя соотношения (3.21) и (3.19), имеем afix1)

+ (1 - a)f(x2)

+ (1 - a)x2) = «[/(ж 1 ) - /(a;2)] -

- f(axl

l 2

l

2

2

-[f(x +a(x -x ))-f(x )}

(x2+t(xl-x2),

= af(Vf o

l

xl-x2)dt-

l 2

-a I (v/ (жЧ^-ж ), а; -^ )^ = a f (v/C^+^^-x2))oo

1

2

.

о (1 - a)t

l

•

-

,

.

.

> 2а/л П Теорема 3.15. Пусть f —дважды непрерывно дифференцируемая на выпуклом множестве S функция, причем intS <Ф 0. Функция f сильно выпукла па S с константой /j, тогда и только тогда, когда 2

{Щх%1)>21л\\Ц

(3.22)

для всех х G S, I G Rn, где Н(х) — матрица вторых производных (матрица Гессе, гессиан) функции f в точке х.

125

Раздел 3.3. Необходимые сведения из выпуклого анализа

Доказательство. По аналогии с (3.14) можно вывести формулу n второй производной для функции (р(а) = f(x + al), х, I е R , 1 а е R: (3.23)


Далее, используя формулу Лагранжа ip'{a) — tp'{0) = aip"('da), где 0 < •в < 1, получим

(Vf(x

+ l)-Vf(x),

О = V U ) -V(O) = (Н{х + Ы)1, I). (3.24)

Пусть / — сильно выпуклая на S с константой ц функция, х G intS, I 6 R n . Выберем число ео таким, чтобы ж + el € 3 для всех е, |е| < ео. Применяя соотношения (3.19) и (3.24), имеем 2е2!л\\ 11|2 < e ( v / (х + el) - у / (ж), 0 = е 2 (Я(да +tf.ei)/, О» где 0 < 1? < 1. Отсюда (Н(х)1, I) = lim (Я(ж + del) I, I) > 2/u|| /1| 2 . Если д; — граничная точка S, то существует последовательность точек хк € intS, таких, что lim xk = х. Заменяя в поk-too к

следнем неравенстве х на х и устремляя /г -¥ оо, в силу непрерывности Н(х) получим (3.22). Обратно, пусть / дважды непрерывно дифференцируемая на S функция, для которой выполняется условие (3.22). Имеем 2

1

2

1

= (Я(ж + Цх - х )){х 1

2

2

1

2

- х ), х ~х )>

х

2ф

2

2

- х \\

для любых ж , ж е S, где 0 < $ < 1. Тогда по теореме 3.14 / — сильно выпуклая на ff функция. •

126

3.3.4.

Глава 3. Нелинейное программирование

П р о е к ц и я т о ч к и на

множество 71

Определение 3.7. Пусть X С R , х° <= Ft". Точка х е удовлетворяющая условию

X,

\\х°-х\\= inf• \\х°-х\1 х€Х Q

называется проекцией точки x на множество X. Обозначим х = Рх(х°). Если х° G X, то, очевидно, справед0 ливо равенство Рх{х°) — ж . Сформулируем условия существования проекции точки на множество. Теорема 3.16. Пусть X — выпуклое замкнутое мноокество из Rn. Тогда: 1) для любой точки ж0 G Rn существует единственная проекция х = Рх(х°); 2) для того, чтобы имело место х = Рх{х°), необходимо и достаточно выполнения неравенства (х-х°,

х-х)>

0, Va; G X.

(3.25)

Доказательство. Рассмотрим функцию /(#) = ||ж — ж°|| 2 . Так как функция / сильно выпукла на R n , то по теореме 3.13 Она достигает на X минимума в единственной точке х, т.е. \\х — ж°|| 2 > \\х — х°\\2 для всех х е X. Отсюда х = Рх(х°). Второе утверждение теоремы есть следствие теоремы 3.12 — для этого достаточно в неравенстве (3.17) положить х* = х и

= 2(s-s°).

D

Укалсем ряд частных случаев, когда проекция точки на множество может быть выписана явно (справедливость соответствующих формул проверяется непосредственно при помощи неравенства (3.25)). 1. X — гиперплоскость: X = {х е Rn : (а, х) = а}, а е Rn, 1

а

а ф 0, a G R . Здесь Рх{х°) = х° + '~ ^f^

II « I I

2

a.

Раздел 3.3. Необходимые сведения из выпуклого анализа,

127

0

2. Такой же вид будет иметь проекция точки я на полупространство X = {х 6. R n :• {а, х) < а}, если ж0 0 X. 3. X - неотрицательный ортант пространства Rn: X = R" = {ж е R" : ж > 0}. В этом случае Рх(ж°) = ж 0+ = (ж?+, ... , х°п+). 4. X — п-мерный параллепипед : I = {i e R" : а < ж < b}, a = ( а ь ... , а п ), 6 = (&ь ... , Ъп). При этом РЛ'(ж0) = х — (х\, ... , хп), где 5i = aj, если ж° < а^; ж, ^= ^ ; если ж^1 > bi\ Xi = х%, если щ < xQt < b{. 5. X — аффинное множество: X — {х G Rn : Ах = b}, A — матрица размера т х п, т < п, ранг А равен т, b G R m . Здесь Рх(х°) = ж0 - ^ ( Л Л 7 ) - 1 (Лж° - Ь). 6. X — шар: X = {х £ R n : ||ж - a\\ < R]. Для шара Рх(х°) =

>°-а|Г 3.3.5.

Отделимость выпуклых множеств

В теории экстремальных задач важную роль играют теоремы отделимости. Определение 3.8. Пусть Si С R n , S 2 С R n , Si ф%, S2 ф 0. Гиперплоскость Л = {ж £ Rn : (а, ж) = а}, а £ R n , || а || = 1, а £ R1, разделяет (отделяет) множества Si и S2, если верны условия (о, ж) > а, Ух £ Si;

(о, ж) < а, Уж £ S2.

(3.26)

Если Si U S2 <£ Я, то такое разделение множеств Si и S2 называется собственным. Заметим также, что условие разделимости (3.26) можно записать иначе: sup (а, ж) < а < inf (о, ж), xes-2

(3.26')

aeSi

а также, если известна точка х £ Н: (а, ж - ж ) > 0 , Уж £ Si; (а, ж - х) < 0, Уж £ S 2 .

128

Глава 3. Нелинейное программирование

Теорема 3.17. Пусть 5 — непустое выпуклое замкнутое мноn 0 жество из R их g. S. Существуют вектор а € Rn, \\a\\ = I, и число а такие, что 0

(а, ж) < а < (а, ж ), Ух 6 5. Доказательство. По теореме 3.16 существует единственная точка х = Ps{x°), удовлетворяющая неравенству (3.25) для всех х € 5. С учетом (3.25) имеем 2

0

0

0

\\х - ж°|| = (я , ж - ж) - (ж, ж - ж) <

< {х°, х°-х)-

0

(х, х° - х) = (а', ж - х)

а' для всех х € S, где а' = х° — х. Полагая а = тг-гтг, получим

11° II (а, х°) > (а, х) + \\х° — х\\. Отсюда и вытекает заключение теоремы с а = sup (а, х). • Пусть х° — граничная точка множества S: х° & dS. Определение 3.9. Гиперплоскость Я = {х : (о, х — ж0) = 0} называется опорной к множеству S в точке ж0, если выполняется одно из двух неравенств (а, ж — ж0) < 0 или (а, х — ж0) > 0 для всех ж € S. Другими словами, Н — опорная гиперплоскость к 8 в точке ж0 G 55, если (а, ж0) = sup (а, ж) или (о, х°) = inf (а, х). Теорема 3.18. Пусть S — непустое выпуклое мносцсество из Rn и х° G 95. Тогда существует гиперплоскость, опорная к 5 в точке ж0. Доказательство. Так как ж0 € dS, то существует последовательность {ж^} точек, не лежащих в замыкании 5: Xk # с^> таких, что Xk -4 ж0 (fc -> оо). По теореме 3.17 для каждого ж* найдется вектор аА такой, что || ад. || = 1 и (о Л , жй) > (а&, х) для всех ж G clS. В силу ограниченности {а/.} можно выделить

Раздел 3.3. Необходимые сведения из выпуклого анализа

129

подпоследовательность {а^}, сходящуюся к вектору а, || а || = 1. Для каждого ki выполняется (а^, ж^) > (а^, ж), Уж G clS. Переходя в этом неравенстве к пределу при к{ —> оо, получим 0 (а, х — ж ) < 0 для всех х G S. П Из теорем 3.17 и 3.18 следует, что если S — непустое выпуклое множество и х° $ S, то найдется вектор а, || а || = 1, такой, 0 что (а, х — ж ) < 0 для всех х & S. Теорема 3.19. Пусть Si u S2 — непустые выпуклые множества, Si f] S2 = 0. Тогда существует гиперплоскость, разделяющая эти множества. Доказательство. Рассмотрим множество S = Si — S2 = {х : ж = Ж1—Ж2, xi G Si, X2 € Зг}. Непосредственно проверяется, что S выпуклое множество. Кроме того, очевидно, 0 £• S. Тогда из теорем 3.17 и 3.18 вытекает, что найдется ненулевой вектор а, для которого (а, х) > 0, V i e S. Отсюда (а, х{) > (а, жг) для всехжх G Si и жг € ^2, т.е. выполняется условие разделимости (3.26'). • 3.3.6.

Субградиент

выпуклой

функции

Выше уже отмечалось, что выпуклая функция не обязательно дифференцируема во всех точках R n . Однако для выпуклой функции можно ввести обобщение понятия градиента, которое успешно используется в теории выпуклых задач оптимизации и построении численных методов их решения. Определение 3.10. Пусть / — выпуклая функция, определенная на выпуклом множестве S. Вектор c G R " называется субградиентом функции / в точке ж G S, если /(ж) > /(ж) + (с, ж - ж), Уж G S.

(3.27)

Множество всех субградиентов функции / в точке ж называется субдифференциалом / в ж и обозначается через df (ж). 5 Математические методы...

130

'

Глава 3. Нелинейное программирование

Геометрический смысл субградиента состоит в следующем. Если обозначим через I линейную функцию 1{х) = /(ж) + (с, ж — ж), то из соотношения (3.27) вытекает, что /(ж) = 1(х) и /(ж) > 1{х) для всех х 6 S. Другими словами, график функции у —• f(x) в пространстве R n + 1 лежит не ниже графика линейной функции у = 1(х) и касается его в точке (ж, /(ж)). Кроме того, пусть у > /(ж), х е S, т.е. (ж, у) € epi/. Тогда из (3.27) следует, что (с, ж —ж) —у + /(ж) < О для всех х 6 S и у > /(ж). Таким образом, (с, 2 - £) < 0 для всех z = (ж, у) 6 epi/, где с = (с, —1) е R n + 1 , Г = (ж, /(ж)), или, иначе говоря, гиперплоскость Н = {z : (с, г — Г) = 0} является опорной к надграфику функции / в граничной точке (ж, /(ж)). Теорема 3.20. Пусть f — выпуклая функция на выпуклом мноoicecmee S. Тогда для любого х € intS субдифференциал df{x) есть непустое выпуклое, замкнутое ограниченное множество. Доказательство. Так как epi/ — выпуклое множество и точка z = (ж, /(ж)) граничная для epi/, то по теореме 3:18 существует гиперплоскость, опорная к epi/ в точке z, т.е. найдется вектор с = (со, 7) € R n+1 , с 7^ 0, такой, что (с, я - Г) < 0, Уг; € e p i / . Следовательно, (с 0 , ж - ж ) + т ( у - /(5)) < 0, У(ж, у) е epi/.

(3.28)

Легко заметить, что при этом 7 < 0, иначе бы (3.28) стало противоречивым для достаточно большого у.На самом деле 7 > 0. Действительно, предположим от противного, что 7 = 0. Так как' ж € intS, то существует а > 0 такое, что ж + асо G 5. Тогда 2 из (3.28) следует, что а|| с 0 || < 0, т.е. с 0 = 0. Итак, при 7, = 0 имеем с = (0, 0), что противоречит выбору с. Разделим (3.28) на |7|. Получим (с, ж - ж) + /(ж) - у < 0, У(ж, у) е epi /, где с = со I T I " т.е. с £

1

.

Отсюда при у = /(ее) имеем неравенство (3.27),

Раздел 3.3. Необходимые сведения из выпуклого анализа Проверим выпуклость множества <9/(ж). Пусть с\, oi 6 По определению субградиента имеем /(ж) - /(ж) > ( с ь х

-.Г),

УХ

131 df(x).

G S,

/(ж)-/(ж) > ( c 2 , ж - ж ) , Ух G S. Умножим первое неравенство на а, а второе — на 1 — а, где a G (0, 1). Складывая их, получим

f(x)-f(x)

> (асх '+ (1 - а)с2, х-х),

Ух G S,

т.е. ас\ + (1 - а)с2 € df(x). ' Замкнутость df(x) следует из определения 3.10 и непрерывности линейной функции (р (с) = (с, х — х). Докажем что 5/(ж) ограничено. Так как х G intS, то существует го > 0 такое, что So = Оео (х) С S. Обозначим / = max /(ж). Выберем с 6 df(x) и в (3.27) положим ж = ж + x£S

. Получим

l

г-е. || с || < ( / - f(x))eQ

для всех с G df(x).

О

Теорема 3.21. Пустр / — выпуклая дифференцируемая, на выпуклом множестве S функция и ж G mi S". Тогда

Доказательство. Так как / дифференцируема в ж, то справед-' ливо разложение /(ж) - /(ж) = ( у / (ж), ж - ж) + о (||ж - ж||). Сопоставляя (3.15) и ' (3.27), делаем вывод, что у/(ж) G д/(х), а также . • ( v / (ж), ж - ж) + о (||ж - ж|[) > (с, ж - ж), Уж G 5,

(3.29)

где с е 9/(ж). Поскольку ж G iniS 1 , то найдется число £о такое, что же = ж—е ( v / (^)~"с) € «S для всех е, 0 < е < ео. Подставим в (3.29) ж = же. Получим — е|| V / (^) ~ С 1| 2 >о(е). Отсюда при е -> 0 имеем || у / (ж) - с|| 2 < 0, т.е. c = S7f(x)•

132

Глава 3. Нелинейное программирование

Как замечание отметим простой вытекающий непосредственно из определения 3.10 факт: для того чтобы выпуклая функция / достигала минимума внутри своей области определения в точке х, необходимо и достаточно, чтобы 0 G df(x). Теорема 3.22. Пусть / — выпуклая функция, определенная в некоторой открытой окрестности выпуклого замкнутого ограниченного множества S. Тогда функция / удовлетворяет на S условию Липшица, т.е. существует такая константа L > 0, что

(з.зо)

\ № - № \ < Ц \ х - У \ \ \/х,yes.

Доказательство. По условию теоремы существует такое число £о > 0, что множество SQ = {х : х € R", ||ж — Ps{x)\\ < 6Q} лежит в области определения функции /. Пусть х & 5, с €. 9f(x), у = х + EQC 11| с ||. Из определения субградиента и непрерывности функции / на SQ (теорема 3.9) имеем £о|| с|| = (с, у — ж) < /(у) - f(x), откуда || с|| < 2К/е0 (Vc G df{x), x в S), где К = max/(ж). Следовательно, sup sup | | c | | < L = x

^so

S

9 ( )

2K/eQ. Так как с е df{x), то f{y) - /(ж) > (с, у - х) >

—L\\y — x\\ (Vcc, у € S). Поменяв местами х и у, получим также /(#) ~ 1{у) ^ —Ц\у — ж||. Отсюда и вытекает неравенство (3.30).

•

3.4.

Двойственность и устойчивость в выпуклом программировании

Выше уже говорилось о роли выпуклого программирования в классе нелинейных задач. Остановимся на некоторых узловых вопросах теории ВП. Рассмотрим задачу ВП в виде : тш{/ 0 (ж) : х € X},

(3.31)

133

Раздел 3.4. Двойственность и устойчивость в ВП

где X = {х : fi(x) < О, г = 1, . . . , m, x G -Х"о}, Хо — заданное n выпуклое множество из R , функции /Г(ж), % = 0, . . . , т, определены и выпуклы в некоторой окрестности Хо. Задаче (3.31) поставим в соответствие функцию Лагранжа

где х G Хо, Л = (Ai, . . . , A m ) G R + . Очевидно, что L(x, A) выпукла по ж и линейна по А. Определение 3.11. Пара векторов (ж*, А*) € Хо х R ^ называется седловой точкой функции L(x, А) в области Хо х R™, если L(x*, А) < L(x*, А*) < L(x, А*)

(Уж € Х о , A G Ъ%).

(3.32)

Компоненты А£, . . . , А^ вектора А* называются множителями Лагранжа. Теорема 3.23. Пусть (ж*, А*) — седловая точка функции Лагранжа L(x, А) в области Хо х i?!p. Тогда х* — решение задачи

Запишем левое неравенство из (3.32) в следу-

Доказательство. ющем виде т

т

/о(ж*) + £ A; /<(*') < /оОО + £ Л* ^ ж * ) ( V A ^ °)Отсюда т

"•) < О (VA > 0 ) .

(3.33)

г=1

З а ф и к с и р у е м один из индексов ограничений i = io G {1, . . . , т } и положим А Г ' = A*, i Ф ГО, AJ 0 = А*о + 1- Тогда из (3.33) имеем

134

Глава 3. Нелинейное программирование

x

fio( *) 5: 0. В силу произвольности выбора го и условий на Л| заключаем, что х* е X и А|/г-(ж*) < 0, i = 1, ... , rn. С другой стороны, полагая в (3.33) ЛГ = Л|, i ф г'о, Аг-0 = 0, делаем вывод, что A* fi{x*) > О, Г = 1, ... , т. Следовательно, A* fi{x*) = 0, ъ = 1, ... , т.

(3.34)

Пусть ж е X. Из правого неравенства в (3.32) и равенств (3.34) следует

fo(x*) = Цх*, А*) < Мх) + £ А? Л(х) < / 0 ( Ж ). г=1

Таким образом, точка ж* оптимальна в (3.31).

•

Как следует из доказательства, теорема 3.23 справедлива для произвольной (не обязательно выпуклой) задачи нелинейного программирования., Заметим, что если в задаче (3.31) функции fi(x), i = 0,1, ... , т, дифференцируемы в х* и XQ = R n , то соотношения (3.32) равносильны так называемым условиям Куна-Таккера: X

*Vfi(x*) = 0,

(3.35)

4=1

А*/Г(Ж*)

= 0 , i = l, ... , m,

(3.36)

ж* € X, А? > 0, i = 1, ... , m. В самом деле, для выпуклой по х функции L(x, А) соотношение (3.35) эквивалентно правому неравенству из (3.32). Как из левого неравенства в (3.32) вытекает (3.36), показано при доказательстве теоремы 3.23. Обратно, если выполнятся соотношения (3.36), то m

m

X^Mi(<) < 0 = Е г=1

Г = 1

Л

Ш**) (VA>0).

Раздел 3.4. Двойственность и устойчивость в ВП Добавляя к обеим частям последнего неравенства /о(ж*), получим Цх*,\)<Цх*,\*)-(У\>0). Из теоремы 3.23 следует, что при отсутствии решений у задачи (3.31) функция Лагранжа не имеет седловых точек. Однако и у разрешимых задач (3.31) не всегда существуют седловые точки функции Ь(ж, Л). Пример 3.2. Рассмотрим задачу min {х\ — Х2 : Х\ + х\ < О, х\ > 0, %i >-0}. Это задача ВП типа (3.31), где п — 2, m — 1, /о (ж) = х\ — 2) /i(#) = a?i + ж|, Хо = R+ = {ж = (жа, жг) : a;i > О, Ж2 > 0}. Очевидно, X = X* — {0}, /* = 0. Построим для данной задачи функцию Лагранжа L(ж, Л) = х\— Ж2+А(ж1-Ьж2), х = (жх, жг) > 0, Л > 0. Нетрудно проверить, что L(x, Л) не имеет седловых точек в области R^. xK\. В самом деле, по теореме 3.23 седловые точки (х*, Л*) функции L(x, Л) имеют вид (0, А*), где А* > 0. Если предположить А* > 0, то правое неравенство в (3.32) не выполняется для точек вида (0, жд)* 0 < Ж2 < -h. Если А* = 0, то данное неравенство нарушается для ж = (0, жг), жг > 0,. Ж

Итак, пример 3.2 показывает, что для существования седловой *очки функции Лагранжа помимо разрешимости задачи и свойств выпуклости, необходимы некоторые дополнительные предположения для задачи (3.31), которые получили название условия регулярности. В дальнейшем будем использовать условие регулярности Слейтера: существует вектор ж0 6 X такой, что /г(ж°) < 0, для всех г = 1, ... , п. Фундаментальную роль в теории ВП играет следующая теорема. Теорема 3.24 (Куна-Таккера). Пусть в задаче (3.31) X* ф 0 и выполнено условие Слейтера. Тогда для любого х* G X* существует вектор А* мнооюителей Лагранжа такой, что пара (ж*, А*) образует седловую точку функции Лагранжа L(x, А) в области XQ X R™.

135

136

Глава 3. Нелинейное программирование

Доказательство. Рассмотрим множества 5i = {u = («o,«i, ... , um) e R m + 1 : МО > /о(ж), Ul > /l(ff)> • • • > « m > /т(ж), Ж 6 Х 0 } , S i = {v = (vQ, vlt

...,vm)e

Rm+1: « о < Л «i-<0, ... ,

vm<0}.

Покажем вначале, что S\ и Si — выпуклые множества. В самом деле, пусть it 1 , u2 £ 5i- Тогда по определению Si существуют точки ж1, ж2 G Хо, для которых и1! > fi{xk), % — О, 1, ... , т ; & = 1, 2. Выберем произвольно а £ [0, 1] и положим иа = аи1 + (1 — а)и2, ха = ах1 + (1 — а)ж 2 . Так как функции /г(ж) выпуклы на Хо, ха G Хо, то имеем

fi(xa) < afi{xl) + (1 - a)fi{x2) < аи] + (1 - a)u? = uf для г = 0, 1, ... , т. Следовательно, иа € Si, что означает выпуклость множества S\. Аналогично доказывается и выпуклость s2.

•

Покажем, что S\ f]S2 = 0. Пусть п = (MO,MI, ... , пт) G Si. По определению Si найдётся точка х € XQ такая, что щ >' fi (х), г = 0, 1, . . . , т. Если при этом ж G X, то по > /о(^) > /* и, следовательно, « ^.йг- Если же ж 6 Хо \ X, то тогда /Г0 (Ж) > 0 для некоторого Г0 6 {1, — , гп}, щ0 > fio(x) > О, т.е.;и в этом случае п 0 52. Так как Si n S2 — выпуклые непересекающиеся множества из R m + 1 , то по теореме 3.19 существует гиперплоскость Н = {ж | (о, ж) — а = 0}, а ф 0, разделяющая эти множества. Нетрудно видеть, что Н будет разделять также Si vs. CIS2 = {v = («о, «i, ... , t; m ) G R m + 1 : v0 < /*, vi < 0, . . . , u m < 0}. По определению разделимости множеств -

a

(3.37)

137

Раздел 3.4. Двойственность и устойчивость в ВП Здесь Л|, «i, Vi — компоненты, соответственно, векторов a, u, v. Пусть ж* 6 X*. Тогда /0(ж*) = К h(x*) < 0, i = 1„ . . . , т. Поэтому у1 = (/*, 0, ... , 0) £ «Si. Очевидно, что у1 Е dБг1 1 Подставляя точку у Е S\ f]clS2 в .(3.37), имеем a = (а, у ) =

AS/*. l

2

Рассмотрим точки v = (/* — 1, 0, . . . , 0), v = (/*, 0, . . . , — 1, . . . , 0), где v\ = —1. Подставим эти точки, лежащие в d 5г, в левое неравенство (3.37). Получим

отсюда следует Х- > 0, Г = 0, 1, . . . , т . Пусть снова ж* G X*. Очевидно, что у2 = (/*, 0, . . . , /г(ж*), •.. , 0) G Sif]clS2. Поэтому из (3.37) имеем AQ/* +А*/г(ж*) < Ао/* < AS/* + Kfi(x*). Отсюда Л|Л(ж*) = 0 , г = 1, ..., т, т.е. справедливы равенства (3.36). Выберем точку х° € X, удовлетворяющую условию Слейтера. Имеем и0 = (/о(ж°), h(x°), . . . , / ш (а; 0 )) е Si. Из праm

вого неравенства (3.37) получим AQ/* < Ао/о(ж°) + ^ А*/г(ж°). г=1

Предположим Aj$ = 0. Taic как а Ф 0, то для некоторого г € {1, . . . , т } найдется А| > 0. Отсюда получаем противоречие О < Z) А|/г(ж°) < 0. Следовательно, AQ > 0 и, без ограничения общности, можно считать Ад = 1. Таким образом, с учетом (3.36) и допустимости х* имеем т

, А) = /0(ж*) + J2 Аг/г(ж*) < /о(**) = Цх*, А*) для всех А > 0. Тем самым выполнено левое неравенство (3.32). Возьмем произвольную точку ж 6 -Х"о- Тогда и = (/(ж), Л(ж), ••• > fm(x)) G <Si- Подставим эту точку в правое неравенство т

(3.37). Получим L(x*, А*) = /0(ж*) < /0(ж) + £ А|/Г(Ж) (VX e ), т.е. справедливо и правое неравенство (3.32).

D

138

Глава 3.'Нелинейное программирование

Отметим без доказательства, что-если допустимое множество X задачи (3.31) выпуклое полиэдральное, то теорема 3.24 имеет место и без выполнения условия Слейтера. • • • • ••' : Также следует заметить, что и в общем случае седловые точ-* ки функции L(x, А) могут существовать, в то время как условие регулярности при этом не выполняется. П р и м е р 3 . 3 . Изменим несколько задачу из примера 3,2 : ж1 + xi : х\ + х\ < 0,, Х\ > 0, х% > 0}. Это также задача ВП, в которой X — X* = {0}, /* = 0. Рчевидно, что любаа точка (0, А*) при А* > 0 является седловой для функции L(x, А) == х\ + х% + X(xi + afy) в области R^. x Rlj.. Введем в рассмотрение функции 1

ip(x) = sup L(x,'X), ' As в™

х Е Хо,

ф(Х)= inf L(x,X),

ХеВ%.

Покажем, что задача (3.31) эквивалентна задаче min {<р(х) : х 6 т

Возьмем х £ X. Тогда £• X{fi(x) < 0 для всех А = (Ai, ... i г=1

m

.

Am) > 0 и ^ Xifi(x) = 0 при А = 6. Если х е Хо \Х,

,

то

существует индекс г0 Е {1, ... , т } , для которого /ГО(ж) > 0. т

Тогда sup Yl Аг-/г(ж) = со. Таким образом, А>0 г=1

YK

\ со

, при ж 6

Следовательно, если X* ф 0, то т т { / о ( ж ) : ж Е X} = пип{<£>(ж) : ж 6

Раздел 3.4. Двойственность и устойчивость в ВП

139

Рассмотрим теперь задачу max{V>(A) : Л G R£}.'

(3.38)

Задача (3.38) называется двойственной (по Лаграноюу) или максиминной двойственной задачей к задаче. (3.3.1), функция ф{\) называется двойственной функцией, а переменные Ai, ... , Am — двойственными переменными. Для разрешимой, задачи (3.38) обозначим : Л* — ее множество решений! ф* — оптимальное значение. Теорема 3.25 (слабая теорема двойственности). Для задач (3.31) и (3.38) справедливы неравенства <Ф* < /* < У(ж) (Уж 6 Хо, A S Я%).

'(3.39)

Доказательство. Поскольку У-(А) = J n f

.

L(x, А) < £(ж, А) (Уж е Хо, А е R!?),

то Аея£ А 6 Я!|.

sup Х(ж, А) =
л е л^.*

Поэтому ^* < min
• Теорема 3.26 (сильная теорема двойственности). Для того чтобы задача (3.31) и двойственная к ней задача (3.38) были одновременно разрешимы и их оптимальные значения совпадали, необходимо и достаточно, чтобы функция Лаграноюа L(x, А) для задачи (3.31) имела непустое мнооюество X х Л седловых точек в области Хо х R™, при этом X х Л = X* х Л*.

140

Глава 3. Нелинейное программирование

Доказательство. Необходимость. Пусть

, л* ^0, Г = Ф*. Возьмем произвольно х* G X*,

(з.4о)

Л* G Л*. Имеем

ф* = ^(Л*) = inf. Цх, А*) < L(x*, А*) < < sup \€RT

Отсюда L(x\ A*) = inf L(x, A*) = sup Lips*, A) = /* = ф* или, другими словами, выполняются соотношения (3.32), а также X* х Л* С X х Л. Достаточность. Пусть (ж*, А*) € .ЛГхЛ, т.е. (ж*, А*) удовлетворяет (3.32). Из правого неравенства (3.32) имеем L(x*, A*) = inf L(x, A*) = ^(А*). Соответственно из левого неравенства хеХо

(3.32) следует L(x*, X*) = sup L(x*, A) = ip (ж*). Поэтому с учетом (3.39) Ь( Ж *, А*) = ф (А*) < V* < /* = V (ж*) = L(z*, A*), откуда Ф^Х*) = ф* = /* = (р (ж*), т.е. выполняются соотношения (3.40)и1хЛсГхА*. D Заметим, что соотношения (3.40) можно записать в виде равенства • min

sup L(x, A) = max

inf L(x, A).

Обратимся к проблеме устойчивости. Она появляется, когда вместо исходной задачи (3.31) решается задача, близкая к ней.

Раздел 3.4. Двойственность и устойчивость в ВП

141

При этом возникает вопрос о близости решений исходной и возмущенной задач. Понятие устойчивости можно ввести различными способами. Остановимся на случае приближенного задания ограничений задачи (3.31). А именно, наряду с (3.31) рассмотрим задачу min{fQ(x)

(3.41)

: х Е Хе},

где Хе = {х : fi(x) < ЕГ, % = 1, ... , m}f]X0, Е{ > О, % = 1, .... , т . Обозначим X* = Arg min fo(x), ж* 6 X*, f* — Х€Х

Определение 3.12. Задача (3.31) называется устойчивой по отношению к возмущению ограничений, если •/; -+ /*, р(х*е, -X*) = у т Г ||Ж* - у|| -4 О при e =

)

Лемма 3.1. Пусть д — выпуклая на Rn функция, S — выn пуклое замкнутое мноо/сество из R , множество QQ = {х : х х э( ) < £о> ^ S} непусто и ограничено. Тогда и мнооюество Q$ = {х : д(х) < £, х ё 5} непусто и ограничено для всех Доказательство. Предположим от противного, что множество Qt неограничено для £ = & > £о- Тогда существует такая послек к довательность {х }, что х € Qx — Qfti || a?& || —> оо (/г —> со). Пусть х° € Qo- Если Qi не ограничено, то существует вектор s e R n такой, что ж = ж0 + A s G Q\ для всех А > 0. k x x fc /! В самом деле, обозначим s = \\ h~ 0\\> 5 = ж°+А5 , А > 0. При достаточно большом к X < \\хк - ж°||, поэтому хк = (1 x

ж/г

p b i r ^ °+pblF

G д ъ Так как 5 |! = г т

считать, что lim sk = 5, &-юо

""

>

т о можно

|| s \\ == 1. Тогда lim £fc = ж0 + As, fc-^oo

откуда с учетом непрерывности # на Q\ получаем х° + Xs G Q\.

142

Глава 3. Нелинейное программирование n

Выберем на луче Л = {ж 6 R : х = х° + As, Л > 0} 1 1 точку х , для которой £о < д(х ) < £i (такая точка существует, Л поскольку Л целиком не лежит в Qo). Рассмотрим точку ж = 1 1 х° + j - (ж - х°), где Л G (0, 1). Из выпуклости д имеем д(х ) < х х 1 (1 - Л) д (х°) + Хд(х ), т.е. & > д{х ) > ^ \° 1 д(ХХ)) — д(х°) д( д(х) что при 0 < Л < —-— < 1 приводит к противоречию. п. Теорема 3.27. Пусть в задаче (3.31) мнооюество решений X* непусто и ограничено. Тогда задача (3.31) устойчива по отношению к возмущению ограничений. Доказательство. Множество X* представимо в виде X* — {х : fi(x) < 0, г = 1, ... , т; fo(x) < /*, х € XQ]. Если обозначить g(x) = max {Л (ж), ... , / та (ж), /о(ж)-/*}^ то X* можно записать как А"* = {ж : #(ж) < 0, ж € Хо}. По лемме 3.1 наряду с X * будет непустым и ограниченным множество Х е = {ж : #( е, х е XQ}, г д е е = max £;, е^ — из (3.41). 1<г<тп

Так как X* С Х е Р1Х е , то непусто и ограничено также и МНОжеСТВО Х е ПХг- Но ^ П ^ е = {я = /0(ж) < / * ' + поэтому min /0(ж) = min /0(ж) и X* ф$ (Ve > 0). Согласно теореме 3.16 и в силу выпуклости и замкнутости множества X* функция d(x) = р(х, X*) — inf^ ||ж - у|| определена всюду на R n . Покажем выпуклость d(x). Пусть х[, х'2 6 R n и а е [0,1]. Обозначим ж'а = ах[ + (1 - а)ж2, х\ = Так как Z * выпуклое множество, то ж* G X*. Имеем

р (х'а, X*) < \\х'а - ж* || = \\ф[ - я?) + (1 - а) (х'2-х*)\\ < По теореме 3.9 функция d непрерывна на R n . Пусть ео = (е?, •.. , е°) > 0 и 0 < £^ < ео- Тогда все точки ж*А лежат в компактном множестве XSo f) X£Q. Обозначим через

Раздел 3.5. Методы решения задачи безусловной минимизации 143 х предельную точку последовательности {х*£к} при е^ —> 0. Из непрерывности функций-fa(ж), г — 0, 1, . . . , m вытекает, что х е X*. Поэтому с учетом непрерывности функции d имеем ; р(ж*, X*) ^-0 п р и е ^ - 0 . . Функция f* монотонно не убывает с уменьшением е, — это следует из того, что XS2 Э Xei при 0 < ei < £г- Кроме того, она ограничена сверху величиной /*. Поэтому из непрерывности функции / и существования предельной точки х можно заключить, что /* -» /* при е ->• 0. •

3.5.

Чцсленные методы решения задачи безусловной минимизации

•В -этом разделе будут рассмотрены алгоритмы нахождения решения задачи тш{/(яг): ж е R n }.

(3.42)

Актуальность исследования задачи (3.42) вытекает из следующих соображений. Во-первых, такие задачи довольно распространены на практике. Во-вторых, как увидим в разделе 3.6, некоторые методы решения задач с ограничениями основаны на редукций общей задачи математического программирования к задаче типа (3.42): Наконец, ряд методов условной оптимизации включает в себя в качестве блоков решение задачи (3.42) (обычно при п = 1). В редких случаях с помощью аппарата классического анализа задачу (3.42) удается решить в явном виде. Например, путем исследования необходимого (а в случае выпуклости / и достаточного •— см. теорему 3.12) условия оптимальности у / ( ж ) — 0. Но, как правило, для решения (3.42) приходится строить приближенные итерационные алгоритмы вида Ai = 0, 1, . . . ,

(3.43)

144

Глава 3. Нелинейное программирование 0

n

где ж — заданная точка из R , к — номер итерации, {Ak} — последовательность точечно-множественных отображений, называемых алгоритмическими отображениями. Часто в (3.43) Ak = A (VA;) и при этом А есть просто вектор-функция. Говорят, что метод (3.43) сходится, если хк -¥ х* при к —>• оо, где х* = arg min f(x). В случае, когда множество решений X* задачи (3.42) состоит более чем из одной точки, под сходимостью метода может пониматься выполнение равенства lim р(хк, X*) = 0. Если f(xk) -> /* = inf /(ж), то метод (3.43) fc-»oo

сходится по функции, а последовательность {хк} называется минимизирующей. Сходящиеся методы можно классифицировать в зависимости от скорости сходимости. Говорят, что метод (3.43) сходится к х* линейно (с линейной скоростью, со скоростью геометрической прогрессии), если существуют величины д 6 (0, 1) и fc, что Ц^+1 _ ж *|| < q\\xk _ ж *|| д Л Я k > £# (з.44) Метод (3.43) сходится к х* сверхлинейно (со сверхлинейной скоростью), если \\xk+l-x*\\
Qk-^O

{*-*«>).

(3.45)

Метод (3.43) сходится к ж* с квадратичной скоростью, если существуют величины С > 0 и к, для которых ||^+1_ж*||<С||^_ж*||2

£>£_

' (3.46)

Алгоритмы могут различаться по тому, какая информация о минимизируемой функции используется в, алгоритмическом отображении. Различают алгоритмы нулевого порядка (прямого поиска) — в них задействована информация лишь о значениях функции /. Алгоритмы первого порядка {градиентные методы) используют значения первых производных. В методах второго порядка применяется информация о вторых производных. Остановимся кратко на отдельных классах итерационных методов для задачи (3.42).

Раздел 3.5. Методы решения задачи безусловной минимизации

3.5Лv

145

Градиентные методы

Градиентные методы применяются для минимизации дифференцируемых функций. Они относятся к обширной группе алгоритмов, объединенных названием "методы возможных направлений". В таких методах на каждом к-м шаге итерационk ного процесса вначале выбирается вектор h € R n , определяющий направление движения к решению задачи. Затем находится коэффициент О-к > 0, характеризующий длину шага вдоль выбранного направления. Таким образом, к-я итерация методов возможных направлений имеет вид а^

1

к

k

= х + akh ,

к = 0,1,....

(3.47)

Очевидно, что формула (3.47) является частным случаем общего определения алгоритма (3.43). Здесь Ак = A (Vfc), A = ВС, С: R n -4 R 2 n , В : R 2 n -> R n , С(х) = (ж; h), B{x; h) = x + ah, a > 0. В градиентных методах hk = — у f(xk). Смысл такого выбора состоит в следующем. Во-первых, вектор h = — у f(x) П Р И Vf(x) 74,0 определяет направление спуска, т.е. убывания функц и и / в то.чке х. Для такого направления у£' < 0 и, следовательно, f(x + ah) < f(x) для достаточно малых а > 0. Вектор h = — у /(ж), называемый антиградиентом функции / в точке х, является направлением спуска в силу равенства (3.12). Во-вторых, антиградиент является единственным направлением наискорейшего убывания функции / в точке ж. В самом деле, наряду с I = - м ^ Л н рассмотрим произвольный вектор I G Rn,

|| 1\\ = 1. В силу (3.12) имеем

т.е. Г— направление наискорейшего убывания / в точке ж. Предположим, что существует еще одно направление Z0, || £° || = 1,

146

Глава 3. Нелинейное программирование x

для которого ^ | | ^ = ^ 2 1 = - | | V f( )\\- Выберем на отрезке [1, 2°] точку V так, чтобы 0 < || V \\ < 1. Пусть {' = ^(1+1°). Тогда обозначив I' = тгЬтг, цолучим 1

И

, 1') = | i(V/(?),.i).+' (V/И,.!.")] =

x

т о

Так как (\/f( )i I') < 0) отсюда следует || ^' || > .1, что противоречит выбору V. Еще одно соображение в пользу движения вдоль антиграк диента состоит в следующем. В точке х дифференцируемая k функция / приближается линейной функцией ^(ж) = f(x ) + (v/(» f c ), ж — хк) с точностью до членов порядка о(||ж — хк\\). Поэтому есть смысл искать минимум аппроксимации Ik (ж) в "малой окрестности точки ж^, т.е. взять е^ > 0 и решить вспомогательную задачу mm{lk{x) : ||ж — a;fc|| < £^}. Ее решение _ хк _ ак ^ f(xk), где ajfc = £fc || у f(xh)И"1, естественно' xk+i принять за новое приближение к решению задачи (З.Ш). Рассмотрим ряд стандартных итерационных алгоритмов градиентного типа, которые различаются, в первую очередь/ выбором шагового коэффициента а^.' Метод наискорейшего спуска В этом методе длина шага выбирается из условия минимизации функции вдоль антигради;ента. Последовательность при-, ближений определяется правилом: 7f(),

k

аь = arg min f(xk - а V /(»*)). Покажем на примере данного метода, какой аппарат используется при обосновании сходимости итерационного процесса.

Раздел 3.5. Методы решения Задачи безусловной минимизации 147 n

Теорема 3.28. Пусть f — выпуклая дифференцируемая па R функция, х° G Rn, множество М = {х : f(x) < /(ж 0 )} ограn ничено, и для'градиентафункции f на R выполнено условие Липшица

\\v'f(*)-Vf(v)\\<4*-vl

(3.49)

к

Тогда последовательность {х }, построенная'!в соответствии с (3.48), является минимизирующей и удовлетворяет неравенству i

-k- ,

(3.50)

где D = max ||ж — у\\ — диаметр множества М. '

х,у€М

'

•

Если, кроме того, f сильно выпуклая на Rn функция с константой fj,, то метод (3.48) сходится со скоростью геометрической прогрессии: . • • .

f(xk+1)-r
где со = / ( я 0 ) - Л

(3.51)


Доказательство. Используя равенство (3.21) и условие (3.49), получим 1

' '•

) = J (V/ (ж + t{y - х)), у-х) dt = о 1

), y-x) + J (у/(аг + t (у - х)) - V/(y), о

y-x)dt>

> (Vf(y), y~x)-L\\y-xf J(l-t)dt=(vf(y), y-s)-§ 11У-^11;

148

Глава 3. Нелинейное программирование к

к

k

Подставим в это неравенство у — х , х = х — a v f(x ).

f(xk)-f(xk+l)

> f(xk)-f {xk-as7f{xk)) > a(l^)

что справедливо д л я всех а > 0 и

Имеем

||v/(^)l| 2 ,

к = 0, 1 . . . . О т с ю д а следует

f(xk) - f(xk+') > max а (1 - ^ ) || V f(xk)f

=.

= ^IIV/(^)H2Так как метод (3.48) монотонный: f(xk+1)

(3.52>

< f{xk) (\/k), то

= min f{x), лем откуда в силу свойств функиди / и множества М следует существование х* = arg т т { / ( ж ) : а; Е R"}. Далее с помощью неравенства (3.15) оценим ж е Я"-

О < f(xk) -f(x*)

< ( V / И , хк -х*) < D\\Vf(xk)\\.

(3.53)

Обозначив £fc = f(xk) — /*, из (3.52) и (3.53) получим & fc = 0 , l . . . .

(3.54)

При этом можно считать, что все &. > 0. Теперь покажем, что если числовая последовательность {£&} такова, что &. - ^ f c + 1 > С^|, £к > 0 для всех fc > fcp, где С = const, С > 0, то

В самом деле,

£fc+i

6

Раздел 3.5. Методы решения задачи безусловной минимизации

149

Просуммируем п таких неравенств от к = ко до к = ко + п:

Отсюда £fc < g^ifo) для к. > к0. Так как к > к0 + 1, то -^щ < bj& и поэтому & < **±±. Из соотношений (3.54) и (3.55) при С " 1 = 2LD 2 и Ло = 0 получаем оценку (3.50). Пусть теперь / — сильно выпуклая функция. Аналогично (3.53) имеем ,

/(**) - Г < (v/(^), «* - х*) < || у /(«*) 1111^ - я1|.

•

С другой стороны, применяя неравенство (3.19), заключаем, что

Поэтому 0 < £*; < ^ || V /( ж / : )1| 2 - Но тогда из оценки (3.52) следует ^ - & + 1 > f 6 , или ^ + 1 <„(1 - ^ ) & = д ^ , .А; = 0, 1,.... Первое неравенство в (3.51) доказано. Воспользуемся неравенством (3.18) из определения сильной выпуклости функции /. При a = \ имеем

-Iя

чем доказывается и вторая оценка (3.51). Для сильно выпуклой функции в силу неравенств (3.19) и (3.49) имеет место 2р\\х ~ У\\2 < (V/N

- Vf(y), x-v)<

т . е . 2/J, < L и , с л е д о в а т е л ь н о , 0 < g = l — ^ < 1 .

Ц\х -

yf, •

150

Глава 3. Нелинейное программирование

Градиентный метод с постоянным шагом Очевидный недостаток метода наискорейшего спуска состоит в необходимости решения на каждой итерации вспомогательной задачи одномерной минимизации для определения длины шага ад;. Для определенного класса функций данный недостаток в принципе может быть преодолен путем выбора постоянного шага : k+l

k

k

x =x -as7f{x ),

a>0.

(3.56)

Пусть / — дважды непрерывно дифференцируемая функция, для которой выполняется условие 2

m\\y\\ <(H(x)y,y)<M\\yf,

(3.57)

М > m > 0 для всех х, у е R n , H(x) — гессиан / в точке х. Положим в (3.56) 0 < a < JJ. Тогда метод (3.56) сходится к решению х* задачи (3.42) со скоростью геометрической прогрессии со знаменателем q = т а х { | 1 — ат\, |1 — с*М|}, причем минимальное значение q = q = ^+т достигается при а — Д

Градиентный метод с дроблением исходного шага

В данном методе хк+*±а*-ак

Vf(xk),

ak>0,

(3.58)

где в качестве а& выбирают решение неравенства f(xk - а у (хк)) - f(xk) < -ea || у / И | | 2 ,

(3.59)

при е = const, 0 < е < 1. Вначале на каждой итерации полагают а = 1 и проверяют выполнение соотношения (3.59). Если (3.59) имеет место, то ак = 1, если (3.59) не выполняется, то полагают а = | и снова подставляют а в (3.59). Окончательно щ = -7, где I = min{l: a = Tjt удовлетворяет (3.59)}. При выполнении для минимизируемой функции условия (3.57) данный метод также сходится с линейной скоростью.

Раздел 3.5. Методы решения задачи безусловной минимизации

151

Градиентный метод с априорным выбором д л и н ы шага Величину a.k в методе (3.58) можно выбирать до начала вычислений, например, полагая ак > 0, к = 0, 1, . . . , ; ак -> 0 (к -> оо), ^

ак = оо. (3.60)

Если / •— выпуклая дифференцируемая функция, множество решений X* задачи (3.42) непусто и ограничено, то градиентный метод (3.58) с выбором длины шага по правилу (3.60) сходится ,

,

.

•

•

о о

по функции : f(xk)

->• / * (А,-> со). Если, кроме того, J2 а1 fc=o оо, то lirn хк = х* е X*. к—>оо

3.5.2.

<

Методы Ньютона

Рассмотрим ряд алгоритмов второго порядка, которые являются наиболее эффективными с точки зрения скорости сходимости способами решения задачи (3.42). Если градиентные методы были основаны на идее аппроксимации в окрестности текущей точки хк минимизируемой функции линейной, то в методах Ныотйна применяется локальная квадратичная аппроксимация %(я) = f(xk) + ( V / И , х - хк) + \ {Н(хк) (х~хк), х -хк). При этом очередная итерационная точка отыскивается из условия xk+l = arg min qtix). Если решить уравнение У9*:(ж) '= 0) то при условии существования Н~1(хк) Ш

Х

=

к _ я - 1 (хк) • ^

х

получим f(xky

Это (классический) метод Ньютона. При определенных условиях на минимизируемую функцию и выбор начальной точки метод (3.61) сходится с квадратичной скоростью. В качестве таких условий можно взять следующие: функция / дважды дифференцируемая и сильно выпуклая с константой /х, гессиан Н(х) удовлетворяет условию Липшица с

152

Глава 3. Нелинейное программирование 0

константой L, начальная точка ж выбрана из условия

Особенностью метода является его локальная сходимость: начальное приближение должно быть достаточно близко к решению задачи. Отметим также, что для квадратичной функции /(ж) = \ (Ах, х) — (Ъ, х)+с, где А — положительно определенная матрица, метод (3.61) сходится за один шаг, поскольку в этом случае qo(x) = f(x), если х° — 0. . , Пусть для функции / выполнено условие (3.57). Тогда для 1 любого х существует матрица Н~ (ж), при этом

где т' = j ^ , М' = ~,т и М — из (3.57). Отсюда следует, что вектор sk = —H~l (xk) v f(xh) будет направлением спуска для функции / в точке -хк. Поэтому можно строить методы типа xk+l = xk + aksk,

-

(3.62)

где а*; выбирается по аналогии с градиентными алгоритмамдМетоды (3.62) называются методами Ньютона с регулировкой шага. При определенных условиях для них также характерна квадратичная скорость сходимости. Недостатком методов Ньютона (3-61), (3.62) является необходимость вычисления и обращения на каждом итерационном шаге матрицы вторых производных. Чтобы обойти эту трудность иногда вычисляют матрицу Н~1 (ж) лишь в точке ж0 или применяют процедуру обновления — например, меняют значение Я " 1 (ж) через п шагов. Такое упрощение ведет к понижению скорости сходимости метода вплоть до линейной. 3.5.3.

Квазиньютоновские методы

Методы данной группы основаны на применении аппроксимаций матрицы Н~г (ж*), которые используют лишь значения

Раздел 3.5. Методы решения задачи безусловной минимизации 153 градиентов функции / в ряде точек. Методы имеют структуру k+l

k

k

,x =x -akHkS7f{x ),

(3.63)

где матрица Нк пересчитывается на каждой итерации с тем, чтобы 1 к lim \\Нк-Н~ (х ) | | = 0 . к-+оо k xk &к xk+1 ж Обозначим s = —Нк V fi )> = Vf( ) ~ У/( *0Пусть / — квадратичная функция : f(x) = | (Ах, х) — (Ь, х), где А — положительно определенная матрица. О учетом (3:63) k к+1 к к к+Х к k имеем s = ^ - (х — х ), е = А(х - х ) = ahAs , т.е. 1 к k А~ е = (XkS . Последнее равенство служит основанием для .того, чтобы новое приближение матрицы Нк+\ в методе (3.63) находить из квазиньютоновского условия Hk+Xek

= aksk.

(3.64)

Обычно матрицу Hk+i, удовлетворяющую соотношению (3.64), строят рекуррентным способом : Нк+х = Нк + АНк, где HQ — произвольная положительно определенная матрица, при этом для квадратичного случая должно выполняться Нп = А~г. Выбор ДНк производится неоднозначно, что влечет появление целого семейства квазиньютоновских алгоритмов. В качестве примера назовем метод переменной метрики и метод Бройдена. В методе переменной метрики матрица Нк пересчитывается по правилу

„ Hk+1-Hk-

Hkek(ek)THk

sk(skf +O! *iF-^y

в методе Бройдена — тт

{<XkSk-Hkek)(aksk-Hkek)T

Если в (3.63) ak =i arg min f(xk + ask), то все квазиньютоновские методы минимизируют квадратичную функцию за п

154

Глава 3. Нелинейное программирование

шагов. Для произвольной же выпуклой функции сходимость методов сверхлинейная. К достоинствам квазиньютоновских методов следует отнести их относительно простую реализацию (на каждом шаге вычисляется лишь одно новое значение градиента, нет необходимости обращать матрицу), а также их высокую вычислительную эффективность (сверхлинейная скорость сходимости, сходимость при любой начальной точке).

3.5.4.

Методы сопряженных направлений

Пусть А — квадратная симметричная положительно опреде1 n ленная матрица. Векторы s , ... , s называются сопряжен1 ными относительно матрицы А, если {As" , si) ==' 0 для всех ъф%

h 3 = 1 , ••• , п.

•

••.-..

Пусть х1 6 Rra. Построим метод xk+1

=xk + aksk,

ak = arg min f(xk + ask).

(3.65)

Легко показать, что применение метода (3.65) к минимизации квадратичной функции /, определяемой матрицей Л, приводит к результату xn+l = х* — arg min /(ж), т.е. к сходимости за п шагов. Будем строить векторы sk в виде sk,= ~Нк-\/, f{xk) при заданной положительно определенной матрице Н\. Требование, чтобы векторы sk, к = 1, ... , п, были сопряжены относительно матрицы А, приводит к решению системы уравнений Нк& — a$i, 1 < j < к, где eJ — как и раньше, разность градиентов в соседних точках, a — некоторая константа. Сравнивая эту систему с (3.64), замечаем, что методы сопряженных направлений (3.65) могут принимать ту же форму, что и квазиньютоновские алгоритмы. Следствием идейных различий в построении этих двух групп методов будет то, что для методов сопряженных направлений не обязательно выполнение условия lim (|#fe - JHT~ (Ж^)|| = 0. Здесь в некоторых вариантах меX

тодов может, например, для квадратичной функции оказаться

Раздел 3.5. Методы решения задачи безусловной минимизации

155

# n + i = 0. Тем не менее, многие известные алгоритмы могут быть отнесены сразу к двум классам методов — квазиньютоновским и сопряженных направлений. В частности, таковыми являются упомянутые выше метод переменной метрики и метод Бройдена. Наиболее простыми и в то же время наиболее распространенными представителями данной группы выступают методы сопряженных градиентов. Опишем одну из версий этих методов! 0 Для произвольного х° £ Rn положим s° — —у/(ж ). Далее на к + 1 - й итерации имеем k+l

x

к

k

k

— х + a/cS , dk — arg min f(x

k

+ as ),

a>0

(3-66)

Если /(ж) = I (Ac, x) + (b, x) ••- квадратичная функция, то для любых номеров г ф j выполняется {S7f(xl)> V/(ffiJ')) = 0, (sl, Asi) ~ 0. Метод (3.66) минимизирует такую. функцию не более, чем за п шагов. Для гладких функций общего вида метод (3.66).может сходится со скоростью геометрической прогрессии. !, Так,;как шаг а^ на-практике вычисляется приближенно, то для избежания накопления ошибок округления.в алгоритме (3.66) (как, впрочем, и в других методах сопряженных направлений) проводят процедуру восстановления через каждые к > п (обычно к = п) шагов, полагая (5^ = 0 (в других методах = Hi), если к кратно п.

3.5.5.

Метод субградиентного спуска

Метод предназначен для минимизации выпуклых не обязательно дифференцируемых функций. Выпуклая функция во всех внутренних точках своей области определения имеет непустой субдифференциал (теорема 3.20), элементы которого — субградиенты — обладают многими свойствами, присущими градиен-

156

Глава 3. Нелинейное программирование

ту. Метод субградиентного спуска вырабатывает итерационную к последовательность {х } по правилу: kk+i =xk_

x

k^

akC

ак

> о, с*

k

G

8f(x ).

(3.67)

В отличие от градиентных процедур метод (3.67), вообще говоря, не является монотонным. Дело в том, что хотя вдоль субградиента функция / возрастает, вдоль антисубградиента она может не убывать. Причина сходимости метода (3.67) заключа2 ется в том, что монотонно убывает функция д(х) = \\х — х*\\ — к расстояние до точки минимума. В самом деле, пусть х $• X*. Из определений производной по направлению и субградиента следует

f^y

= (V0(A -ск) = 2(cfc, х* - хк) < 2[/* - f(xk)} < 0,

т.е. вектор — ск служит направлением убывания функции д из точки хк. Отмеченная выше особенность метода (3.67) сужает возможности выбора шагового коэффициента о^. Так, нельзя выбирать ак по аналогии с методами (3.48), (3.56) и (3.58)."Обычно используют априорный выбор длины шага. Пусть множество X* ограничено, последовательность аь образуется по правилу: 00

Тогда метод (3.67) либо через конечное число шагов останавливается в точке минимума функции / (т.е. Вк .= к : ск = 0), либо имеют место сходимости Ил* /(**) = Л *оо

Km р(хк, X*) = 0. fc>oo

Раздел 3.5. Методы решения задачи безусловной минимизации

3.5.6.

157

Методы прямого поиска

Методы данной группы используют на каждой итерации лишь информацию о значениях минимизируемой функции в некоторых точках. Разностные аналоги градиентного метода Наиболее прямолинейный подход к построению методов нулевого порядка состоит в использовании значений функции для конечно-разностной аппроксимации производных. Примером может служить метод : аг^ = х — aks, где ак — длина шага, ак > 0, s

= 2

—

У''

'—*-ej, ej — координатные орты.

Лк

г=1

Для достаточно малых Хк и при определенных условиях на гладкость функции / вектор sk достаточно хорошо приближает градиент S7f{xk). Метод покоординатного спуска В этом методе направление движения выбирается вдоль одной из координатных осей. При этом возможны различные стратегии выбора этих осей. к+х а). Выбор оси из условия наискорейшего убывания : х = k к k k df(x ) х + aks , s = -eik, гк = arg max^ - ^ — i , длина шага удовлетворяет неравенству f(xk

+ aksk)

< (1 - Afc) f(xk) "

+ Xk mm f(xk

+

ask),

6 < A < Xk < 1.

Если / -^ выпуклая функция, градиент которой удовлетворяет условию Липшица с постоянной L, diam {x : f(x)< /(ж 0 )} = D < об, то данный метод сходится по функции с оценкой

f(x ) f -

x

'к'

158

' Глава 3. Нелинейное программирование

Из этой оценки следует, что сходимость метода нокоордйнат^ного спуска в отличие от градиентных алгоритмов ухудшается пропорционально росту размерности пространства. б). Циклический покоординатный спуск. Здесь осуществляется поиск последовательно вдоль каждого координатного направления, начиная с первого: 1

2

1

ж = ж° + а о е1, x = x +aie2,

11

n

l

..., х = x ~

+ an_ien.

После первого цикла просмотра всех координат приступают ко второму:

x2n = x2n~l 4-

2

i

,

затем к третьему и т.д. Начальная точка х° произвольная, длина шага ak выбирается согласно (3.68) или из условия минимума вдоль оси. в). Метод случайного покоординатного спуска. В этом методе на каждой итераций номер координатной оси выбирается случайным образом. Метод вращающихся координат Как и в методе циклического покоординатного спуска работа данного метода разбивается на этапы, каждый из которых состоит из п итераций. Первый этап аналргичен первому циклу итераций циклического покоординатного спуска. На следующих этапах поиск ведется вдоль системы ортонормированных направлений, которая меняется от этапа к этапу,, постепенно выстраиваясь вдоль главных осей.., квадратичной , аппроксимации функции /. Так как.направляющие векторы этих осей.предста* вляют собой систему сопряженных направлений для й'(ж), то можно рассчитывать на хорошую сходимость данной процедуры.

159

Раздел 3.6. Методы нелинейного программирования 0

1

Пусть ж — произвольная начальная точка, ж —. точка, найденная после первого цикла метода циклического покоординатного спуска. Затем полагают в качестве направляющего вектора 1 1 0 новой первой оси s = ж — ж , а направления остальных осей выбираются с помощью одной из процедур ортогонолизации, например, метода Грама-Шмидта. Далее осуществляется спуск до 2 точки минимума по каждой новой оси и находится точка ж , по1 2 1 сле чего пересчитывается s = ж — ж и повторяется весь этап. Симплексный метод В этом методе итерационный процесс идет по вершинам некоторого многогранника (симплекса), который передвигается в пространстве от итерации к итерации, меняя при этом свои размеры. Вначале выбирается п + 1 точек ж0, ж1, ... , хп, образующих правильный начальный симплекс. Вычисляют значения f{x%) и находят ж = arg max /(ж г ). Затем строят новый симплекс, от0<г<п

личающийся от старого одной вершиной : ж заменяется на точку ж п + 1 , симметричную ж относительно центра тяжести остальных п вершин. Далее в зависимости от величины /(ж п + 1 ) либо работают с новым симплексом, либо возвращаются к исходному симплексу и уменьшают его размеры. Процесс продолжается до тех пор, пока точка минимума не будет локализована с помощью симплекса такого размера, который обеспечивает заданную точность.

3.6.

Методы нелинейногс программирования

Приведем краткий обзор основных классов методов для решения задачи НЛП тт{/о(ж) : /Дж) < 0, i = 1, ... , т } .

(3.69)

160

3.6.1.

Глава 3. Нелинейное программирование

Метод штрафных функций

Данный метод является универсальным средством численного анализа оптимизационных задач различной природы. Основная идея метода состоит в сведении исходной задачи (3.69) к последовательности задач минимизации некоторой вспомогательной функции Ф(х, г), зависящей от скалярного или векторного положительного параметра г, на некотором множестве XQ Э X. Обычно Ф(ж, г) = /0(ж) +<р{х, г), где ip(x, r) — выбранная определенным образом функция "штрафа" за нарушение ограничений, определяющих множество X, такая, что 1) tp(x, г) = 0, Ух в X, г = (п, . . . , гт) > 0 ; 2) (р(х, г) > 0 , VxgX, г > 0 ; 3) р{х, г2) > ip{x, г 1 ), Уж^-Х, г2>г1; 4) +оо при min п -4 оо, ' х & X. Часто XQ = Rn, в этом случае задача (3.69) заменяется последовательностью задач безусловной минимизации, для решения которых привлекаются алгоритмы из предыдущего раздела. Заметим, что в силу требований, предъявляемых к функции ср(ж, г), такой вариант метода называется методом внешнего штрафа (внешних штрафных функций). Рассмотрим две распространенные модификации метода штрафных функций. В первой из них применяется функт ция штрафа у = (р\(х, г) — £] nff(x) Зангвилла), во второй (р — ip2(x, г)

=

£

(функция Ереминаr

ifi

(x) (квадратич-

г=1

ная функция штрафа). Сформулируем утверждения о сходимости данных методов. Теорема 3.29. Пусть (3.69) — задача выпуклого программирования, функция Лаграно/са L(x, X) задачи (3.69) имеет в области Rnx.R™ седловуюточку (аз*, А*) ; Ф(ж, г) = fo{x)+(pi{x, r ) , = Ч •> К (* 1) •• • 1 тп),Гг и X* — координаты векторов г и X*

161

Раздел 3.6. Методы нелинейного программирования

соответственно. Тогда /* = Ф*; где /* и Ф* — оптимальные значения, соответственно, задачи (3.69) и задачи inf Ф(ж, г).

(3.70)

а:

.Бели Tj > Л|, г = 1, ... , т, то множества решений задач (3.69) и (3.70) совпадают. Доказательство. В силу предположений теоремы выполняются условия Куна-Таккера (3.35) - (3.36). Из этих условий и определения выпуклости функций fi(x), г = 0,1, ... , т, для произn вольного х Е R имеем

1=1

г=1

г=1

Отсюда m

Mas) > Г - Е A ?-tf» ( Уж S R ")г=1

С учетом этого неравенства получим m

Ф(Ж, г) = /„(я) + Мх, г) > Г + г=1

Поэтому согласно условиям теоремы Ф(я, г) > /*, Ф* = inf Ф(ж, г) > /*. С другой стороны, для любого г > 0 справедливо Ф(х*, г) /о(я*) = Г , откуда Ф* < /*. • Таким образом, /* = Ф* при г>\*. 6 Математические методы...

162

Глава 3. Нелинейное программирование

Пусть теперь гг- > Af, % = 1, ... , т. Так как Ф(ж*, г) = /о(я*) = /* = Ф*. то X* С X*, где X* и X? - множества решений задач (3.69) и (3.70) соответственно. Пусть х* е X*. т

Полагая в (3.72) х = х*, получим £ {п - Л|) ff (х*) < Ф* /* = 0. Поэтомуm /f (ж*) = 0 (г = 1, ... , т), т.е. ж* € X. Но /о(ж?) = Ф? - Е г*/^(ж*) = /*, следовательно, а$ е X* и Хг* С Z*. Таким~образом, X* = X*.

П

Теорема 3.30. Пусть для задачи (3.69) выполнены условия (3.35)-(3.36) и в задаче (3.70) Ф(ж, г) = /0(ж) + <^2 (ж, г). Для любого г = (гх, ... , r m ) > 0 справедливы оценки WI

/* - Е ^ г=1

Доказательство. Достаточно проверить левое неравенство в (3.73). Учитывая (3.71), для произвольного х € R n имеем

, г) = ш+чъ (х, г) > r-Y; л? ft (x)+Y, n jf г=1 I*

*=1

L

V

П2

I J

г=1 ГП

i=l

'

1=1

Поэтому

что и доказывает теорему.

•

Следствие 3.1. Пусть min г* -> оо. Тог(9а Ф* -> /*. i
Среди штрафных функций выделяют класс так называемых точных штрафных функций. Для таких функций характерно наличие порогового значения штрафного коэффициента г, начиная с которого имеет место совпадение оптимальных значений

163

Раздел 3.6. Методы нелинейного программирования

исходной задачи (3.69) и задачи со штрафом (3.70). По теореме 3.29 штрафная функция Ф(х, г) = fo(x) + r\ (х, г) будет точной с пороговым значением г = Л*. С вычислительной точки зрения точные штрафные функции обладают тем преимуществом, что позволяют в принципе свести решение исходной задачи (3.69) на условный экстремум к однократной безусловной минимизации соответствующей вспомогательной функции. С другой стороны, функция <р\ (х, г) является недифференцируемой, что резко ограничивает класс методов безусловной минимизации для решения задачи (3.70). Функция Ф(х, г) = fo(x) + (f2(x, r) обеспечивает выполнение равенства Ф* = /* лишь в пределе при min ri -» +оо. Однако 1<г<т

эта функция дифференцируемая, и для ее минимизации могут быть применены эффективные алгоритмы градиентного типа и сопряженных направлений.

3.6.2.

Метод барьерных функций

Аналогично методу штрафных функций данный метод преобразует исходную задачу с ограничениями в последовательность задач безусловной минимизации. Метод барьерных функций определен и работает только внутри допустимого множества задачи (3.69). Поэтому этот метод иногда именуют методом внутренних штрафных функций. Метод барьерных функций ставит в соответствие задаче (3.69) последовательность задач inf Q В(х, е),

(3.74)

где В(х, е) = /0(ж) + еЬ{х), е > 0, Х° = {ж : /;(ж) < 0, % = 1, ... , m}, b(x) — непрерывная неотрицательная на Х° функция, при этом lim b(x) = сю, если fi(x) -> 0 для некоторого г, 1 < i < m. Типичным представителем барьерной функции m

5(ж, е) является "обратная" функция В (ж, е) = /о(ж) — J2 J^ г=1

164

Глава 3. Нелинейное программирование

На первый взгляд, задача (3.74) — тоже задача с ограничениями. Однако, когда при фиксированном е решают задачу определения х(е) — arg min В(х, е), применяя один из монох£Х°

тонных методов безусловной минимизации из начальной точки ж° 6*Х°, то в силу свойств функции Ъ{х) все приближения для х(е) будут лежать в Х°. Заметим также, что в функции В(х, е) параметр е можно, как и в методе штрафных функций, считать вектором с положительными координатами. Пусть в задаче (3.69) функции fi(x) выпуклые дифференцируемые, i = 0, 1, ... , т, множество Х° непусто и ограничено, /о(ж) строго выпукла на Х°. Тогда задача (3.74) минимизации обратной барьерной функции разрешима в единственной точке х{е) € Х°, при этом lim B(x(e), е) = /*. s—>0

3.6.3.

Метод центров

Данный метод, как и два предыдущих, основан на идее сведения исходной задачи на условный экстремум к последовательности задач безусловной оптимизации специальной вспомогательной функции, зависящей от параметра. Пусть Х° & 0. Обозначим X(t) = {х : х € X, fo(x) < t}, X°(t) = {x: x e X°, fo{x) 0. Введем в рассмотрение функцию d(x, £), определенную на множестве X(t) и характеризующую уклонение точки х € X(t) от границы dX(t) этого множества. Функция d(x, t) обладает свойствами: а) ф , t) > 0, Уж G X°{t); б) d{x, t) = 0, Уж G dX(t); с) если хк -)• ж, tk\i при к -> оо, то lim d{xk, t^) = d(&, i). k-too

Решение ж(£) задачи т а х { ф , i) : ж е X{t)}

(3.75)

называется центром множества X(t) относительно функции "расстояния" й(ж, t).

165

Раздел 3.6. Методы нелинейного программирования 0

Пусть х° е X, t0 = /о(ж ). Метод центров вырабатывает k к последовательность {x , tk} по правилу : х — решение задаh чи (3.75) при t = tk-i, tk — fo{x ). к Если X°(tk-i) Ф 0, то х е X°{tk-x). Следовательно, аналогично методу барьерных функций вычисление центра множества X(tk~i) фактически ведет к задаче максимизации без ограничений. Примеры функции d(x, t):

1) d(x, t) = min{i - fo(x),

-fi(x),

i = 1, ... , m};

m

3.6.4.

М е т о д ы Лаграняса

Данный класс методов основан на применении функции Лагранжа или ее модификаций для решения задачи (3.69). Если построить алгоритм, который находит седловую точку функции Лагранжа, то согласно теореме 3.23 мы тем самым определим и решение исходной проблемы. Естественным образом возникает алгоритм нахождения седm

ловой точки функции L(x, X) = /о(а?)+]С ^Г/Г( Ж )> ^ = (^ь • • • i Хт) > 0, который комбинирует процедуры градиентного спуска по переменной х и подъема по Л : 1

x-akVxL(x,\); = [А* + ak VA £(**, ^)}+

х

k

+

= I " + <*kf(x )] >

.

,

{

}

где f(x) = (fi{x), ... , fm{x)). Метод (3.76) известен как градиентный метод Эрроу-Гурвица. Он сходится при весьма жестких требованиях к задаче (3.69). Причиной возникающих сложностей служит разный характер зависимости функции L(x, Л) от переменных ж и Л. Если в отдельных задачах функция L(x, Л) может быть и сильно выпуклой по ж, то по Л она всегда линейная. Для преодоления отмеченных трудностей применяют модифицированные функции Лагранжа. Эти функции имеют то же

166

Глава 3. Нелинейное программирование

множество седловых точек, что и L(x, А) (или достигают его в пределе при изменении некоторого параметра). С другой стороны, методы, использующие модифицированные функции Лагранжа, эффективно сходятся. Наиболее часто применяется следующая модифицированная функция Лагранжа 2

2

М(х, А, г) = /0(ж) + 1 ||(А + г/(ж))+|| - 1 ||А|| , г > 0. Если (3.69) — задача ВП, то М(х, А, г) выпуклая по ж и вогнутая по А функция, которая имеет одно и то же с L(x, А) множество седловых точек. По аналогии с (3.76) построим метод ,\k,r).

[д

'

Если /о(ж) в задаче (3.69) сильно выпуклая, функции fi(x), г = 0, 1, ... , т, дважды дифференцируемые, и все производные удовлетворяют условию Липшица, то при выполнении в (3.69) условий регулярности метод (3.77) для любых ж0, А0 и некотором а сходится при 0 < а < а к х* и А* со скоростью геометрической прогрессии, ((ж*, А*) — седловая точка функции L(x, A)). В случае ограничений-равенств функция М(ж, А, г) имеет вид : т

М(х, А, г) = /оО») + £ > № ) + \ Г=1

г=1

Другими словами, функция М(х, А, г) получается добавлением к функции Лагранжа L(x, А) функции квадратичного штрафа. Поэтому на метод модифицированной функции Лагранжа можно смотреть и как на метод "расширенной"штрафной функции. С помощью введения в квадратичную штрафную функцию дополнительного слагаемого (A, f{x)) пытаются избежать трудностей, которые возникают при численной реализации метода штрафов из-за неограниченного увеличения параметра г.

167

Раздел 3.6. Методы нелинейного программирования

Покажем, как изменяются оценки (3.73) сходимости метода квадратичного штрафа при применении модифицированной функции Лагранжа

М'(х, А, г) = fo(x) + (A, f(x)) + Г- ||/+(z)f.

Теорема 3.31. Пусть для задачи (3.69) выполнены условия (3.35)-(3.36). Тогда для любых 0 < А < А* и г > 0 выполняются соотношения

fr <Mlr
(3.78)

Из оценок (3.78) следует, что сходимость Мд г к /* будет иметь место не только при г -f со и фиксированном А > О, но и при ||А — А * ! ^ " 1 —> 0, что не обязательно предполагает выполнение условия г —> со. Отметим еще одну модификацию функции Лагранжа, которая является перспективной с теоретической и вычислительной точек зрения. Ее вид :

Ых, А) = /„(*) + (A, /(a)) + a\\xf-p\\\

||2, а = (се; 0) > 0.

Данная функция сильно выпуклая по ж и сильно вогнутая по А, для любого а > 0 обладает единственной седловой точкой (ха, Xff) в области R n x R!f?. Теорема 3.32. ПусШъ задача (3.69) разрешима и удовлетворяет условию Слейтера. Тогда для любого а > 0 справедливы оценпи

Г - / ^ 1 2 < Ы ^ , А") где х* — решение (3.69), А* ~ соответствующий этому решению мноо/сителъ Лаграноюа.

168 3.6.5.

Глава 3. Нелинейное программирование Метод возможных направлений

Пусть в задаче (3.69) все функции /;, где ъ = О, 1, ... , т, — выпуклы и дифференцируемы. Определение 3.13. Направление d ф 0 называется возможным в точке жо € X, если х = хо + ad £ X для всех а, О < а < скоИдея метода возможных направлений наглядна: среди всех возможных в точке хк & X направлений выбрать то, вдоль которого целевая функция /о убывает быстрее всего, и сделать шаг по этому направлению. Если X = В!1 и S7fo(xk) Ф 0, то мы получим один из градиентных методов безусловной минимизации. Понятие возможного направления в точке хк тесно связано с множеством Dk = {d : {\/fi{xk), d) < 0, г £ А(хк)}, где А{хк) = {i € 1, т : fi{xk) = 0}. А именно, нетрудно показать, что если dk — возможное направление в точке хк G X, то dk 6 Dk- Обратно, если dk € Dk и при этом (у/г(ж^)> dk) < 0 для нелинейных /j, г G А(ж/:), то dk — возможное в точке хк € X направление. Если в точке хк е X не существует возможного направления убывания целевой функции /о , то хк € X*. В самом деле, к в этом случае для любого возможного в точке х направления d выполняется : (v/o(£ fc ), d) > 0. Возьмем произвольно х' € X, х' ф хк. В силу выпуклости множества X точки х = хк + а(х' — £fc) G X для всех а, 0 < а < 1, т.е. направление d' = х' — хк возможное в точке хк. Тогда по теореме 3.10 /о(ж') — /o(zfc) > (V/o(afc), x'~xk) = (v/o(^*), d') > 0 и, следовательно, * Рассмотрим один из вариантов метода возможных направлеk ний. Для определения возможного направления d наискорейк шего убывания функции /о из точки х € X решается задача

169

Раздел 3.6. Методы нелинейного программирования линейного программирования: miner, к

*), d) < a, i e {0} U А(х ), IrfjI < 1, j = l, ... , п,

(3.79)

где d = (di, ... , dn). fc Пусть (<ТЙ, d ) — решение задачи (3.79). Очевидно, что сг& < к 0. Если cjfc = 0 то это означает, что в точке х не существует возможного направления убывания функции /о. Если сг^ < 0, то к+1 k k очередная точка х будет лежать на луче х = x +ad , а > 0. Для повышения вычислительной эффективности метода на практике вместо (3.79) решают следующую задачу : miner, {Vfi{xk), d)
i e {0} U А{хк, efc), j = 1, ... , n,

(3.80)

где ^4(жА, еА) = {i e 1, m : -ед. < /j(^fc) < 0}, Sk > 0. Задача (3.80) зависит от параметра £&, который вводится для расширения множества активных ограничений А{хк) с тем, чтобы быстрее выходить из "тесных"углов допустимого множества X. Пусть (&k, dk) — решение задачи (3.80). Если c?fc < — е ь то полагают dk = dk, если же е^ < о^ < 0, пересчитывают £к • S&+1 = ел/2 и снова решают задачу (3.80). При а^ = 0 надо решать задачу (3.79). Если сг^ = о^ — 0, то хк G X*, если Gk < 0, то переходят к задаче (3.80) при е&+1 = е^ /2. После нйхонсдения направления <2fc определяют величину шага oik > 0. Для этого вычисляют af1 = max {a > 0 : хк + adk X}, a-2 = min{a : a — arg min /o(a;fc + arffc)}, «fc = mm{o: ^ Окончательно, полагают xk+1

3.6.6.

= xk + ctkdk.

Метод проекции градиента

Данный метод, подобно предыдущему, переносит идею градиентных алгоритмов безусловной минимизации на случай за-

170

Глава 3. Нелинейное программирование

дач с ограничениями. В качестве очередной точки минимизирующей последовательности выбирается проекция на множество X точки, которая получается при градиентном спуске :

где CKcf > 0 выбирается по аналогии с п. 3.5.1. Если (3.69) — задача выпуклого программирования, функция /о дифференцируема, ее градиент удовлетворяет на X условию Липшица с константой L, множество MQ = {х : х G X, /о(ж) < /о(ж0)} ограничено, а^ выбрано из условия 0 < е\ < «* < ьЩ-2,- £2 > 0, то lim fo(xk) = /*, lim р{х\ X*) = 0, при этом справедлива оценка 0 < /0(3;^) -f*
C = const, С > 0, к = 1, 2,... .

Если, к тому же, функция /о сильно выпукла на X, то выбором коэффициента ск^ можно добиться и линейной скорости сходимости метода.

3.6.7.

Метод условного градиента

Рассматриваемый метод является, с одной стороны, одной из модификаций метода возможных направлений, а с другой, реализует идею линеаризации целевой функции /о. Пусть (3.69) — задача выпуклого программирования, /о — дифференцируемая на X функция, X — ограниченное множеk ство. Для выбора направления движения d на к-м шаге метода решается задача m i n { ( v / o H , i - хк) : х € X}.

(3.81)

Обозначим через хк решение, а через £& оптимальное значение задачи (3.81). Очевидно что ^ <• 0. Если £& = 0, то тогда (V/o(£fc),a; — хк) > 0 для всех х е X и, согласно теореме 3.12, rcfc — решение исходной задачи (3.69). Если же &. < 0, то полагае м ^ = хк-хк. Для любого a G [0, 1] имеем х - xk+adk б X.

171

Раздел 3.6. Методы нелинейного программирования В зависимости от выбора коэффициента а^ получаем различные варианты метода условного градиента. Наиболее распрок+1 к k k странен метод, когда х = х + akd > «fc = arg *шп -fo(x -f 0
ad ). Если у/о удовлетворяет на Х условию Липшица, то данный метод сходится по функции со скоростью порядка О (£). Применение метода условного градиента целесообразно, когда множество X имеет относительно простую структуру. Если X — выпуклое полиэдральное множество, то (3.81) является задачей ЛП. 3-6.8.

Метод линеаризации

Этот метод, помимо линеаризации целевой функции, на каждой итерации используют также линеаризацию и функций-ограничений. Опишем одну из модификаций метода, известную под названием "метод секущих плоскостей Келли". Пусть исходная задача имеет вид: min{(c, х) : д(х) < 0}.

(3.82)

Заметим,'что такая постановка не ограничивает общности рассмотрения. В самом деле, добавляя к ограничениям задачи (3.69) одно новое, мы можем привести ее к виду mmlcc/j+i : х € m

X,

/о(я) < ж п + 1 }. Далее, положив д{х) = £

4- 2

ff

(х) + [fo{x) -

4=1

^n+i]"1"2) приходим к задаче (3.82), правда, в пространстве R n + 1 . Пусть в задаче (3.82) функция д выпуклая, оптимальное множество X ограничено и, более того, известно множество Х$ — {х = (ж ь ... , х'п) ' |ж»| < о»> Г = 1, ... , п} такое, что Хо D X. В методе Келли строятся последовательность точек {хк} и последовательность вложенных многогранников ^о Э Х\ D ... Э Хк D ... D X, при этом хк = arg min (с, х). ^ хеХк к к Если точка х допустима в (3.82), то х G X. Если же хк не является допустимой точкой, то образуем множество Хь+\ ~ Хк П {х : д(хк) + (^д{хк), х — хк) < 0). Так как в силу неравенства (3.15) д{хк) + (V5(sfc), х-хк) < д{х) < 0 для х е X,

1

7

2

Г

л

а

в

а

3. Нелинейное программирование

то Xk+i D X и хк $. Xk+x- Таким образом, гиперплоскость Нк = {х : д(хк) + {V9{xk), х — хк) = 0} "отсекает"точку хк от многогранника Xk+i и, тем самым, от X. Если к —> со, то (с, я*) -» (с, ж).

Список литературы к главе 3 [1] БАЗАРА М., Ш Е Т Т И К. Нелинейное программирование. Теория и алгоритмы.- М.: Мир, 1982. —583с. [2] ВАСИЛЬЕВ Ф.П. Численные методы решения экстремальных задач.- М.: Наука, 1988. -552с. [3] Введение в нелинейное программирование / Эльстер К.- X., Рейнгардт Р., Шойбле М., Донат Г.- М.: Наука, 1985. -264с. [4] ЕРЕМИН И.И., АСТАФЬЕВ Н.Н. Введение в теорию линейного и выпуклого программирования.— М.: Наука, 1976. —192с. [5] ЗАНГВИЛЛ У.И. Нелинейное программирование. подход.- М.: Сов.радио, 1973. —312с.

Единый

[6] Линейное и нелинейное программирование / Ляшенко И.Н., Карагодова Е.А., Черникова Н.В., Шор Н.З. — Киев : Вища школа, 1975. -372с. [7] Поляк Б.Т. Введение в оптимизацию.- М.: Наука, 1983. -384с. [8] ПШЕНИЧНЫЙ Б.Н. Выпуклый анализ и экстремальные задачи.— М.: Наука, 1980. -320с. [9] СУХАРЕВ А.Г., Тимохов А.В., ФЕДОРОВ В.В. Курс методов оптимизации.— М.: Наука, 1986. —328с. < [10] ФИАККО А., МАК-КОРМИК Г. Нелинейное программирование. Методы последовательной безусловной минимизации.— М.: Мир, 1972. -240с.

Глава 4 Экономическая теория и математическая экономика 4.1.

Задачи экономической науки, требующие применения математики

Имеется ряд определений предмета теоретической экономики. Из них вытекает необходимость экономико-математических методов, причём требуется самая изощрённая современная математика, как теоретическая, так и прикладная. Фактически существует такая дисциплина, как математическая экономика, которая у ряда авторов представляет собой чисто математическую теорию с типичным для неё построением: формальные определения с соответствующими примерами реальных объектов, затем теоремы, их точные доказательства, интерпретация этих теорем. Такой способ построения экономической теории напоминает о некоторых реализациях такой дисциплины, как математическая физика, в виде чисто математической абстрактной теории. Всё это крайности, которые необходимы для интенсивного развития 1 математического аппарата, но они должны быть лишь частью теории, служащей некоторым содержательным, жизненно необходимым и в конечном счете неформализуемым задачам. Итак, приведём определение экономической теории, синтезированное из работ ряда авторов ( таких, как Э.Маленво, П.Самуэльсон, Г.Саймон, И.Экланд ):

174

Глава 4. Экономическая теория и математическая экономика

Экономическая теория — это наука, которая: Во-первых, изучает проблемы наилучшего использования ограниченных возможностей человеческой деятельности. Но так как люди редко действуют рационально и эффективно, то: Во-вторых, она изучает РЕАЛЬНОЕ поведение человека, который В ПРИНЦИПЕ умеет связывать экономические цели и средства их достижения. Дальше идёт конкретизация: В-третьих, она изучает, как ограниченные ресурсы используются для удовлетворения потребностей людей, живущих в o6 j ществе. И потому предмет её исследований — это основные экономические процессы, такие, как производство, распределение благ и их потребление. С другой стороны, экономическая теория изучает институциональные структуры и процессы, преследующие цель организации упорядоченного прохождения этих операций и процессов. В-четвёртых, экономическая теория описывает и изучает человеческий выбор, в том числе — обмен в условиях ограничений. Ограниченные ресурсы, которые здесь существенны — это материальные, трудовые, финансовые, технологические, информационные и другие. Информационная сторона экономических процессов становится все более важной, в связи с чем все большее значение приобретает экономическая информатика. В-пятых, теория изучает, как из индивидуальных способов поведения, рассматриваемых, как исходные, как заданные, выводятся закономерности на уровне общества; как индивидуальные решения синтезируются в коллективные. При этом следует сказать, что экономическая теория может быть как дескриптивной, так и нормативной. Дескриптивная — описательная — экономическая теория описывает поведение людей при выборе экономических действий (на основе оценок текущего состояния, его диагностики и прогнозирования его развития).

Раздел 4.1. Задачи экономической науки...

175

Нормативная теория даёт рекомендации по оптимальному экономическому поведению. Таким образом, в абстрактной форме основные задачи экономики суть математические задачи выбора и диагностики (сюда включаются и прогнозирование, и оценки ситуаций), усложнённые неформализованными элементами, противоречивыми, сингулярными моделями и т.д. .• Математика в экономической науке, в экономической информатике, применяется во всё больших масштабах. Сейчас очевидно, что она — необходимая часть экономической теории. Однако она недостаточна, так как и чисто экономическая содержательная составляющая становится всё более сложной, а неформализованная сторона описания экономических явлений всегда будет присутствовать. И существует не только рациональный выбор индивидуумами их решений, который есть предмет неоклассической экономической теории. Рациональное целесообразное поведение ограничено в своих возможностях — с точки зрения ресурсов, организационных возможностей, степени охвата разнообразных, разноплановых, в том числе и неформализованных, связей, с точки зрения возможности учёта традиций, психологии и так далее. Оно ограничено также потенциалом вычислительных средств для вычисления эффективного поведения и учёта поведения других субъектов. Это и требует дополнения неклассической теории (_ основанной на принципах целесообразного поведения ) другими средствами моделирования. Неоклассическая теория базируется на концепции выбора из множества альтернатив с использованием функции полезности. Но это нужно дополнить средствами решения таких проблем: 1) как обнаруживать и записывать эти альтернативы, их множество и способы выбора из них; 2) как описывать и идентифицировать функцию полезности или отношения предпочтения; 3) как связывать альтернативы, полезности, действия выбо-

176

Глава 4. Экономическая теория и математическая экономика

ра и реализации альтернатив (причём и чисто эмпирические реализации) ; 4) как учитывать реальную и нормативную рациональную эмпирику, 5) как учитывать ограничения на передачу информации (скорость, объёмы) и на вычислительную сложность. В отношении экономики можно сказать, что это динамическая система — множество, обладающее целостностью, в котором эволюционируют и элементы множества, и их свойства, и отношения между ними. Систему, в том числе алгебраическую, можно рассматривать и как инструмент принятия решений, и как модель, как способ восприятия реальных феноменов. Абстрактная система — это совокупность взаимосвязанных переменных (разной алгебраической природы), отражающих характеристики описываемого явления или объекта. Фактически это математическая модель. Опишем структуру системы. В систему входят: • совокупность взаимосвязанных элементов (объектов); • субъект исследования — исследователь; • формулировка задачи — отношения наблюдателя, исследователя, к совокупности элементов, соответствующий отбор элементов и их существенных свойств; • отношения между элементами; • описание наборов элементов, переменных, параметров и констант, а также связей (отношений) между ними. И теперь нужно обратиться к понятию структурализма в экономической теории. Дело в том, что экономические объекты и явления изучаются с двух различных позиций:

Раздел 4.1. Задачи экономической науки...

177

• с позиций обобщённой теории управления; • с точки зрения структур. Развитие математических моделей, методов их исследования и алгоритмов решения соответствующих задач до 80-х годов характеризовалось методологией структурализма, идущей от группы Н.Бурбаки. В гуманитарных науках также развивался структурализм, инициированный К.Леви-Строссом. Это весьма конструктивное и мощное направление, глубокое развитие общей идеи алгебры. Вместе с тем осознаётся (например, в рамках постструктурализма, но не только), что структурные рассмотрения нуждаются в конструктивном дополнении — средствах учета внеструктурного: многое существенное не фиксируется структурами, а стоит за ними. Итак, в чём суть структурализма? Оказывается, достаточно зафиксировать (системами аксиом или как-то иначе) структуры, отношения и зависимости между элементами изучаемого явления (не вникая в природу самих элементов) и затем манипулировать этими зависимостями, преобразуя их, к виду, который, позволяет провести идентификацию элементов, вначале представленных чисто символически. Это позволяет получать необходимые следствия из начальной системы соотношений, идентифицировать целые блоки моделей, в том числе неформализованные блоки, вначале представленные через символы и отношения между ними. В работах [1-3] эта техника — с привлечением моделей и методов распознавания образов и выведения следствий из данных и знаний — применена в синтезе и анализе неформализованных и противоречивых моделей эффективного выбора, диагностики и прогнозирования, обработки данных и знаний в экспертных системах. Итак, структуралистская идея заключается в аксиоматическом формальном задании отношений и связей между элементами системы, включая как идентифицированные, так и неизвестные элементы, первоначально заданные чисто символически. Кроме того, задаётся логика анализа следствий из имею-

178

Глава 4. Экономическая теория и математическая экономика,

щихся посылок и правил вывода. В результате многократного применения (иногда в бесконечном процессе) этих правил происходит частичная или полная идентификация искомых блоков модели. Постструктурализм связан с методологией поиска неструктурного, того, что стоит за внешней структурой и фактически определяет её. Эта методология ориентирована на анализ неформализованных отношений и скрытых факторов. Структурное исследование экономики — это: • логико-математическое описание реальных или абстрактных процессов и явлений ; • если же имеет место дополнение постструктуралистской методологией, то к этому добавляется подобное изучение во всей многоплановости и полноте экономических явлений, в их противоречивости и возможной неформализованности. Исторически математическая экономика началась с моделей простого и расширенного воспроизводства. В них отражались потоки денег и потоки товаров и продуктов. Это, например, модель Ф.Кенэ. Позднее эти модели подробно и более глубоко изучались в экономической кибернетике — здесь можно указать на работы О.Ланге. Рассмотрены схемы денежных и материальных потоков, обеспечивающих простое и расширенное воспроизводство, их идентификацию, модели математической статистики. Далее возникли концепции производственных функций, предельных и маргинальных значений, предельных полезностей и субъективных полезностей. Дальнейшее развитие — в рамках линейного и выпуклого программирования, выпуклого анализа. Далее: развитие тонких техник моделирования: имитационное моделирование, экспертные системы, нейронные сети. Понятие субъективной полезности ввёл в XVIII веке Ф.Галиани. Затем это понятие и понятие предельной полезности развивали с середины XIX века: в рамках австрийской школы — К.Менгер, В.Бём-Баверк, Ф.Визер.

Список литературы к разделу 4.1.

.

179

Эти же понятия, а также углублённое развитие модели экономического равновесия — в рамках математической школы: Л.Вальрас, У.Джевонс, Эджворт. И австрийская, и математическая школы связаны с маржиналистской концепцией. Точный вид маргинальные оценки получили в теории двойственности в математическом программировании.

Список литературы к разделу 4.1. [1] И . И . Е Р Ё М И Н , В Л . Д . М А З У Р О В . Нестационарные процессы математического программирования. — М. — "Наука", — 1979. [2] И . И . Е Р Ё М И Н , В Л . Д . М А З У Р О В , Н . Н . А С Т А Ф Ь Е В . Несобственные задачи линейного и выпуклого программиров ания. —• М. — "Наука", - 1983. [3] В Л . Д . М А З У Р О В . Метод комитетов в задачах оптимизации и классификации. — М. — "Наука", — 1990.

180

Глава 4. Экономическая теория и математическая экономика

4.2.

Модели математической экономики

Математическая экономика изучает свойства экономической динамики и равновесия с помощью математических моделей этих феноменов и точного исследования моделей. При этом получены условия положительного экономического роста и условия равновесия экономики при различных предположениях о природе производства и распределения продуктов, о механизме рынка и установления цен, ренты и других экономических величин. Классические модели математической экономики таковы: • модель оптимального использования ограниченных ресурсов в технологических способах. Это модель оптимального : выбора; • модель Леонтьева — модель межотраслевого баланса — как в статической, так и в динамической формах. Это модель прямых, косвенных и полных взаимосвязей подразделений экономики; • теоретико-игровые модели; • модель фон Неймана о росте капитала и натурального производства, об образовании ценностей товаров и о вычислении объективно обоснованной ренты; • модели технологических множеств и теоремы о магистралях как образцовых траекториях экономического развития; • модели равновесия: Вальраса, Эрроу, Дебре и других; • модели обмена, в том числе международного; • модели согласования предпочтений экономических субъектов; • модели прямого и расширенного воспроизводства национальной экономики.

Раздел 4.2. Модели математической экономики В настоящее время интенсивно развиваются модели финансовой и актуарной математики, которые включают в себя в качестве блоков математическую статистику и распознавание образов. . ,• . Модели исследования операций являются граничащими с математической экономикой моделями, они дополняют теоретические исследования и позволяют строить и исследовать более практические модели — такие, например, как модели управления запасами, модели календарного планирования и другие. 4.2.1.

Модель Леонтьева

Рассмотрим материальный статический баланс затрат и "чистого продукта" (который может идти как на потребление, так и на накопление или на развитие производства) в многоотраслевой экономике. Фактически речь может идти не об отраслях, но о некоторых подразделениях экономической системы. Однако для удобства изложения будем далее говорить только об отраслях. Предположим, что имеются п отраслей. Они в большей или меньшей степени связаны друг с другом по взаимному использованию производимых продуктов. Пусть каждая i-я отрасль производит свой г-й продукт, а разные отрасли производят разные продукты. Итак, есть взаимно-однозначное соответствие: г-я отрасль -н- г-й продукт. Пусть Х{ — валовый выпуск: Г-ГО продукта, причём

где, Ь{ — конечный или чистый продукт Г-Й отрасли, Vi — её совокупные производственные затраты. Далее, полагаем, что выполняется аксиома линейности: Щ = an • %г + • • • + Щп П1 Ь

где aij — неотрицательные коэффициенты прямых затрат. Иначе говоря, a{j — это затраты г-го продукта на производство единицы j-ro продукта.

181

182

Глава 4. Экономическая теория и математическая экономика т

T

Если х = [xi,... , хп] , Ъ = [h,... , bn] векторы — столбцы вала и чистого продукта соответственно, а А = [оу] — неотрицательная матрица прямых затрат, то модель Леонтьева — это баланс производства и расхода продуктов, выраженный в ма-, тричной форме: х = Ах + Ь, х — неотрицательный вектор.

Определение 4.1. Неотрицательная квадратная матрица А называется продуктивной, если существует строго положительный вектор Ъ и неотрицательный вектор х, для которых х — Ах + Ъ.

ПРИМЕРЫ: 1. нулевая матрица продуктивна (но в этом случае не выполняется аксиома отсутствия "рога^зобилия"); 2. неотрицательная матрица с достаточно малыми коэффициентами продуктивна; 3. любую неотрицательную матрицу можно сделать продуктивной, умножив её на достаточно малое положительное число. Приведём некоторые свойства неотрицательных продуктивных матриц. 1) Если матрица А продуктивна, то для любого неотрицательного вектора 6 существует неотрицательный вектор х , для которых х = Ах + Ь. 2) Если матрица А продуктивна, то уравнение х = Ах + Ь имеет единственное решение, причём х = Ъ + АЪ + ААЪ + ... = ( # -

А)-\

Раздел 4.2. Модели.математической экономики

183

1

где {Е — А)~ — неотрицательная, а Е - единичная матрицы. 3) Неотрицательная квадратная, матрица А продуктивна тогда и только тогда, когда матрица С, обратная к Е — А, существует и является неотрицательной. Заметим, "что матрица С, (а чаще — С — Е) называется матрицей полных затрат или матричным мультипликатором. При этом

С = Е + А + А2 + ... , к

где А — матрица косвенных затрат к-то порядка. Зависимость х = х(А,Ь), где х = Ах + Ь, в случае продуктивности матрицы А, обладает следующим свойством: векторфункция х(А, Ь) монотонна по А и Ъ. То есть справедливо условие: (Ai > A2, h > Ь2) ** х{Аг, h) > x(A2,62). Есть ещё одно свойство зависимости х(А, Ь), когда вектор b мы заменяем приращённым вектором b+5b : если b > О, 8Ь{ > О, 5bj = 0 при j ф г, то максимальное относительное приращение валового продукта достигается именно на г'-м продукте. Модели Леонтьева можно сопоставить двойственную модель: у = Ату + го, где у — неотрицательный вектор затрат на производство продуктов, го — вектор удельной заработной платы в отраслях. Очевидно, что исходная и двойственная модели Леонтьева продуктивны или нет одновременно, при этом для двойственной модели существует матрица, полных затрат — транспонированная к матрице в исходной модели. Рассмотрим свойства собственных чисел и собственных векторов продуктивной матрицы. Пусть А — квадратная матрица. Ненулевой вектор у называется собственным вектором матрицы А, а число I — соответствующим собственным значением, если Ау = 1у. Теорема 4.1. Если А — неотрицательная квадратная матрица, то существует её неотрицательный собственный вектор,

184

Глава 4. Экономическая теория и математическая экономик

которому отвечает неотрицательное собственное число. Если матрица А продуктивна, то это собственное число по модулю меньше единицы. Соответствующее характеристическое число (обратное к собственному) — наименьшее по модулю. Собственное число равно нулю в том и только том случае, когда А приводима (перенумерацией номеров отраслей) к верхнетреугольному виду с нулями по главной диагонали, т.е. граф Т{А) не имеет ни петель, ни контуров. Здесь вершины графа Г (А) — это отрасли, и дуга ведёт из отрасли г в отрасль j , когда продукт г в ненулевом количестве' тратится на производство продукта j .

4.2.2.

Описание процессов накопления капитала в системе взаимосвязанных отраслей

В середине 1930-х годов Джон фон Нейман разработал и обосновал модель накопления капитала в многоотраслевой экономике. На самом деле модель имеет более широкое, значение, в ней освещаются вопросы природы экономических ценностей в условиях положительных темпов экономического и технологического роста. Для описания этой модели введём обозначения и объявим исходные предпосылки. Пусть экономика состоит из п базисных процессов или технологий. В них производятся и расходуются т видов продуктов. Будем предполагать, что j-я технология (у фон Неймана это j-я отрасль) в единицу времени переводит вектор запасов продуктов

в вектор выпуска bj — [hj,---

>bmj].

185

Раздел 4.2. Модели математической экономики Предполагаем: Все коэффициенты (Hjihj неотрицательны; aij + •. • + amj > О (j = 1,... , n); 6ii'+... + 6 i n > 0

(»=l,...,m).

(4.1) (4.2) (4.3)

Условие (4.2) трактуется как аксиома отсутствия "рога изобилия". Условие (4.3) — условие продуктивности. Через Xj(t) обозначим интенсивность использования j-й технологии в период t, это неотрицательные безразмерные величины. Далее, пусть Pi - цена г-го продукта; Vi{t) - ценность г-го продукта: она равна цене плюс ренте за использование Г-ГО продукта в производстве в период t. Система технологий работает следующим образом. Неотрицательные цены pi — постоянны. Они не зависят от времени. Теперь предположим, что для периодов 0,1,... ,t мы уже определили работу технологий и соответствующие ценности. Это значит, что определены Xj(t), Vj(t). Тогда мы можем описать переход от t к t + 1 и результат работы экономики в период t 4-1. Запас г-го продукта в конце периода t может расходоваться в производстве в период t + 1. Этот запас равен (г = 1,.... ,m).

kit) = bnxi(t) + ... + binxn(t)

Стоимость выпуска j-Ш технологии при единичной интенсивности её работы равна су = bijpx + ...+

bmjPm

(i = 1,... , п).

Ограничения на интенсивности и ценности имеют вид: l) + ... + ainxn{t + l)
(* =. 1,... ,m); (4.4)

Xj(t + 1) неотрицательны (t + 1) 4-... + amjvm(t + 1)>CJ

(j = 1,... ,n); (4.5) (j ~ 1,... , n); (4.6)

Vi(t + 1) неотрицательны

(i — 1,... , m). (4.7)

186

Глава 4. Экономическая теория и математическая экономика

Добавленными стоимостями являются величины

Это рентные платежи владельцам продуктов. Если выражения 1),

h (t)vi {t + l) + ... + bm{t)vm(t + 1) представляют собой целевые функции двойственных друг другу задач линейного программирования (одна — с ограничениями (4.4), (4.5), другая — с условиями (4.6), (4.7)), то по теореме двойственности в линейном программировании справедливо равенство:

Так как аналогичный баланс выполняется для t, причём по определению h(t)pi + ... + bm(t)pm = cixi(t) + ... + cnxn{t),

(4.8)

то

= ci[xi(t + 1) - яя(*)] + ... + Cn[xn{t + 1) - xn(t)].

(4.9)

Последнее равенство представляет собой не что иное, как экономическое равновесие: заработанный национальный доход (выражение слева) равен произведённому национальному продукту (то-есть полной добавленной стоимости). Теперь рассмотрим условия динамического равновесия, определяемого темпом a > 0 технологического роста и темпом /5 > О экономического роста: v(t)

= Р-р,

x(t)

-

а •«(*•-!),

•

(4.10) (4.11)

187

Список литературы к разделу 4.2.

где v(t), р, х(Ь) - векторы-столбцы. Положим А = [dij], В — [b{j]. Здесь А •-- матрица затрат, В — матрица выпуска. Из (4.4) - (4.11) получаем: (В-аА)х р (В-/ЗА)

> 0 < 0

(4.12) (4.13)

т

= 0

(4.14)

т

= 0, р,х^О

(4.15) (4.16)

т

р {В-аА)х р {В-/ЗА)х р,х>0

Условия существований динамического равновесия содержатся в следующей теореме. Теорема 4.2 (фон Нейман, Кемени, Томпсон). Если выполнены предположения (4.1), (4.2), (4.3), то справедливы следующие утверждения: 1. Существует решение [р;ж;а;/3] системы (4.12 — 4.16). 2. рТВх > 0, причём для ограничений (4.12) и (4.13) выполняются соотношения дополняющей неоюёсткости. 3. (4.14), (4.15), (4.16) = * а = /? > 0.

Список литературы к разделу 4.2. [1]

Х.НИКАЙДО. Выпуклые структуры и математическая экономика. -М.: "Мир". -1973.

[2] И.Ицкович. Анализ линейных экономико-математических моделей. - Новосибирск: "Наука". - 1976.

188

Глава 4. Экономическая теория и математическая экономика

4.3.

Технологические множества

Самый общий на сей день способ описания процессов производства продуктов таков. Представим технологию парой

[ж; у], где х — вектор затрат продуктов, у — вектор выпуска продуктов в этой технологии. При этом х и у могут относиться к разным продуктам и иметь различные размерности. Такое описание оставляет в стороне вопрос о том, каким образом физически происходят траты продуктов и их производство. Просто регистрируется тот факт, что х переводится в у. Технологическое множество — совокупность всех фактически реализуемых технологий [х; у]. Это описание технологий называется моделью в терминах запасов. Приведём примеры. 1. В модели Леонтьева технологическое множество экономики: Т = {[Аж;х] : х — неотрицательный вектор}. 2. В модели фон Неймана: Т = {[Ах; Вх] : х — неотрицательный вектор}. Если х и у относятся к одним и тем же множествам продуктов и имеют одну и ту же размерность, то у — х вектор чистого продукта — технология в терминах потоков. Приведём типичные предположения о свойствах или строении технологических множеств. А\ : Т является конусом. Это значит, что для любого неотрицательного числа а множество Т D aT. А-2,: отсутствие "рога изобилия". В терминах запасов это означает, что если [ж, у] 6 Т и х = О, то и у — нулевой вектор. В терминах потоков: если вектор z G Т и является неотрицательным вектором, то z — нулевой вектор.

Раздел 4.3. Технологические множества

189

А$: необратимость. В терминах запасов: Если [ж; у] е Т и ж ф у, то [у; ж] ^ Т> В терминах потоков : Если 0 ф z е Т, то -z <£ Т. А±:Т — замкнутое множество. А$: аксиома свободного расходования. В терминах запасов: Если [ж, у] € Г, и > х, a v < у, то [u,v] G Т. В терминах потрков:

Если z е Т, и < z, то и е Т. Опишем теперь связь эффективности технологий с их прибыльностью. Определение 4.2. Пусть и я v — процессы в терминах потоков. Технология и более эффективна, чем и, если вектор и — v полуположителен, то-есть неотрицателен и отличен от нулевого. Процесс в терминах запасов [ж; у] более эффективен, чем процесс [щу], если процесс в терминах потоков [—ж; у] более эффективен, чем [—u;v]. Технология эффективна в Г, если в Т нет более эффективной технологии, Определение 4.3. Технология в терминах потоков ж € Г прибыльна по вектору цен р, если

Теорема 4.3. Пусть Т — технологическое множество в тер-' минах потоков. Тогда верны следующие утверо/сдепия: 1) Если р > 0 и технология ж прибыльна по вектору цен р, то х ~ эффективная в Т технология. 2) Если мноо/сество Т выпукло их— эффективная в Т технология, то, cyuificmeyem полуполооюительный вектор цен р, при котором х — прибыльная технология.

190

Глава 4. Экономическая теория и математическая экономик

Теорема 4.4. Пусть Т — технологическое множество в терминах потоков. Тогда: 1) Если Т — замкнутый выпуклый конус и технология х = 0 эффективна в Т, то существует вектор р > 0, при котором 0 = (р,0) >(р,х)

(Уже Г ) . '

2) Если Т — замкнутый многогранный выпуклый конус и х эффективен в Т, то существует вектор цен р > 0 такой , что 0 = (р,х)>(р,х)

(Уже Г).

Замечание 4.1. Теоремы 4.3, 4.4 переносятся на технологии в терминах запасов, если применить преобразование [ж; у]—>[-х\у]. Чтобы описать траектории в терминах технологических множеств, рассмотрим замкнутую экономику. В ней производятся и потребляются п видов продуктов. Экономика определяется технологическим множеством в терминах запасов. Предполагаем выполнение следующих аксиом: А\\Т — замкнутый выпуклый конус в множестве Щ. х Щ.. А?- если технология [0, у] е Т, то у = 0. Иначе говоря, нет "рога изобилия". Аз' Для любого неотрицательного вектора х существует у, при котором [ж; у] G Т. Это аксиома преобразуемости. А±: свободное расходование. Определение 4.4. Последовательность {ж(0),ж(1),... } называется допустимой по Т траекторией, если для любого t: [x(t);x(t+ 1)]6Г. Через X(x(0),N) обозначим множество {{x(t)}^Lo} всех допустимых траекторий длины N + 1 с началом в ж(0) > 0. Определим эффективность и прибыльность траекторий.

Раздел 4.3. Технологические множества

191

Определение 4.5. Пусть заданы траектории {x(t) : t = 0,... , N} и {y(t) : t = О,... ,N} E X(x(0), N). Траектория {х(Щ более эффективна, чем {y{t}}, если (x(N)-y(N)) — полуположительный вектор. Траектория эффективна, если в множестве X(x(0),N) нет более эффективной траектории. Для стартового множества S С Щ — положим:

X(S,N)=

U X(x(O),N). x(O)€S

Теорема 4.5 (о наследовании свойств множества S). Если вфф, то X(S,N) ф 0. Если S ограничено, то и X(S, N) ограничено. Если- S замкнуто, то и X(S,N) замкнуто. Если S выпукло, то и X(S,N) выпукло. Теорема 4.6. Если траектория {#(£)} эффективна в X(x(Q),N), то существует полуположителъный вектор цен р, что справедливо условие (р,х(Н))>(р,у(Ю) для любой траектории {y(t)} G X(x(0),N). Если р — полуполоо/сителъный вектор, то существует эффективная траектория, прибыльная по р. Рассмотрим далее понятие сбалансированного роста. Определение 4.6. Пусть (ж(£) : t = 0,1,...} — бесконечная допустимая траектория, элемент множества Х(ж(0),оо). Траектория {x(t)} называется траекторией сбалансированного роста с темпом г > 0, если

x(t + 1) = rx(t)

Vi > 0.

Бели при этом г > 1, то число (г- — 1) — норма ее роста.

192

Глава 4. Экономическая теория я математическая экономика

Пусть г — темп роста нетривиальной траектории {x(t)}, тогда ее общий член можно записать так: x{t) = г'ж, где х = ж(0) — полуположительный вектор. При этом г, х — решение задачи о собственных значениях [х, гх] € Т.

Теорема 4.7. Если выполняются аксиомы А\, А2, Аз, то существует траектория максимального сбалансированного роста. Для описания траекторий, близких к траектории максимального сбалансированного роста, важны следующие понятия. Неймановским лучом называется луч {hx :h>0},

где [ж; rx] G Т.

Неймановским вектором цен называется полуположительиый вектор р такой, что У[х;у] вТ:

(р,у-гх) < 0.

Рассмотрим магистрали. Если старт х лежит на неймановском луче, то можно всю бесконечную допустимую траекторию расположить на этом луче. Эта траектория по неймановским ценам р эффективнее других траекторий с тем же стартом. При некоторых предположениях доказано, что прибыльные траектории с другим стартом, если они достаточно длинны, сближаются с магистралью — неймановским лучом. В качестве иллюстрации приведём одну теорему. Пусть существует полуположительные вектор х, вектор цен р и темп роста I > 0 такие, что [ж; Щ € Т, (р, as) > 0,

193

Список литературы к разделу 4.3> причем

{[х,у]ЕТ) =* (р,у-1х)<0; ж не коллинеарен ж => (р,у — 1х) < 0.

(4

' '

Теорема 4.8 (Раднер). Если выполняются предположения А\, А% и (4.17), то Ve > 0 3r e (0,Z) такие, что (II (ж/ || ж ||) - ж | | > е, [ж; у], G Т ,=> (р, у - гж) < 0.

Список литературы к разделу 4.3. [1] Х.НИКАЙДО. Выпуклые структуры и математическая экономика. - М.: "Мир". - 1973. [2] М.МОРИШИМА. Равновесие, устойчивость, рост. - М.: "Наука". 1972.

'/ 2 7 Математические методы, накидка

194

Глава 4. Экономическая теория и математическая экономика

4.4.

Конкурентность по Вальрасу

Не чисто плановая экономика строится на взаимодействии достаточно автономных экономических субъектов, она существенно дезагрегирована. Каждый участник преследует свою цель, и возникает вопрос, как получается общественное равновесие. Основатель лозаннской школы Леон Вальрас разработал модель экономики, в которой действуют конечное число производителей и потребителей (они же — владельцы продуктов, вовлекаемых в производство, капитала, труда и других факторов производства). Факторы вовлекаются в производство менеджерами или производителями. Совокупные натуральные производственные выпуски продуктов поступают на распределение между потребителями в рамках их бюджета и согласно их предпочтениям. Увязка спроса и предложения, возникающих в результате деятельности субъектов, преследующих свои индивидуальные цели, происходит посредством цен через конкурентный рынок. Конкурентность означает, что участники экономического процесса не могут управлять ценами. Они могут только действовать в соответствии с ценами. Пусть имеются I потребителей, каждый из них имеет свое домашнее хозяйство. Далее, т производителей (управляющих производствами), п видов продуктов и фиксирован векторр € BJ\ рыночных цен на продукты. Потребитель с номером г обладает полем предпочтений и начальной собственностью — вектором продуктов. Поле предпочтений: [Х{, yi\, где Xi — множество векторов потребления продуктов, варианты, которые потребитель в принципе согласен рассматривать; y-i — бинарное отношение предпочтения; а% — пмерный вектор начальной собственности. Производитель с номером к имеет технологическое множество Yk в терминах потоков. Он выбирает прибыльную в ценах р технологию t/fc € Уь тогда сумма у — у\ + ... + ут является

Раздел 4.4. Конкурентность по Вальрасу

195

соответствующей совокупной технологией. Совокупное технологическое множество представляет собой векторную сумму технологических множеств производителей:

Совокупная начальная собственность определяется выражением a = a\ + . . . + сц. Так как У — технологическое множество в терминах потоков, то множество всех векторов совокупного предложения продуктов имеет вид:

{a} + Y. Вектор совокупного спроса равен

х == х\ + ... + xi. Здесь Х{ — наиболее предпочтителен для г-го потребителя в рамках его бюджетного ограничения. Определим теперь совместное распределение производства и потребления; это кортеж (можно понимать его как (I + m)мерный вектор) [Ж1,... ,Ж/,У1,... ,ут], удовлетворяющий условиям

Х\ + . .. + Xi = О + У\ + .. . + Ут> Вальрас высказал гипотезу о существовании вектора цен, отвечающих конкурентному равновесию. Строгое доказательство этого факта было дано только в 50-е годы двадцатого века. Это результат исследований Эрроу, Дебре, Маккензи, Гейла и Никайдо.

196

Глава, 4. Экономическая теория и математическая экономик

Приведём результат Эрроу и Дебре. Они доказали существование конкурентного равновесия при-следующих дополнительных условиях: 1. Допустимое множество наборов благ ХГ — замкнутое выпуклое множество в n-мерном евклидовом пространстве для каждого г. 2. Каждое множество Xi обладает нижней границей cf.

3. Для каждого г-го поля предпочтений: Если х,у 6 Х{, а и Ъ положительны, их сумма равна 1, то ax + by строго предпочтительнее, чем у. 4. Каждое отношение предпочтения непрерывно. 5. Для каждого к: нулевой вектор принадлежит технологическому множеству Yk6. Множества Yk выпуклы и замкнуты. 7. Для совокупного технологического множества Y : — нет рога изобилия; — необратимость. 8. Заданы доли участия потребителей в прибылях производителей. 9. Vai,36i еХ{ : а{ }-i bi. 10. Ни для одного потребителя нет точки насыщения. Теорема 4.9 (Теорема Эрроу - Дебре). Условия 1-10 влекут существование конкурентного равновесия.

Список литературы к разделу 4.4. [1]. Х.НИКАЙДО. Выпуклые структуры и математическая экономика. - М.: "Мир".-1972. [2] И.А.Ицкович. Анализ линейных экономико-математических моделей. - Новосибирск: "Наука". -1984.

Список литературы к разделу 4.4.

197

[3] С.А.АШМАНОВ. Введение в математическую экономику. - М.: "Наука". - 1984. [4] И.ЭкЛАНД. Элементы математической экономики. - М.: "Мир". 1983. [5] М.МОРИШИМА. Равновесие, устойчивость, рост. - М.: "Наука". 1972.

7 Математические методы...

Глава 5 Распознавание образов в экономике В экономике как неформализованной науке важна опора на прецеденты, на эмпирические закономерности. Поэтому в ней большое значение имеют методы обучения диагностике и выбору на основе опыта, на материале наблюдений. Нами показано, что прецедентно-классификационный принцип — средство развязки неизбежных противоречий выбора и агрегирования индивидуальных критериев выбора в коллективные. Общее определение распознавания образов таково: это дисциплина, изучающая математические модели и методы классификации и диагностики объектов на основе их прямых и косвенных характеристик (признаков). В качестве одного из многочисленных примеров можно привести диагностику состояния фирмы с целью определения вариантов её развития. Из приведённого определения пока не ясно, чем же особенно ценны методы распознавания. На самом же деле именно классификационно-диагностический подход имеет большое значение и перспективу. Действительно, диагностика и классификация это отнесение к классу, определение класса эквивалентности, к которому относится рассматриваемый объект или процесс. Формулирование и описание понятий, выделяющих данный вид объектов или ситуаций, это логическая операция, которая используется — интуитивно или осознанно — с незапамятных времён. Однако спе-

Раздел 5.1. Модели распознавания и экономические задачи цифика распознавания состоит в том, что методы математической диагностики и распознавания основаны на обучении и самообучении алгоритмов. И математические методы распознавания имитируют интуитивную или логическую работу мозга. Другая сильная сторона именно математических методов распознавания — это использование обучающихся нейронных сетей. Они обучаются интерпретации данных на основе примеров ранее произведённых удачных интерпретаций. Распространение нейронных сетей в экономической практике — это наиболее яркое событие в современной ситуации экономико-математических методов и моделей. И сейчас нейронные сети становятся всё более универсальными решателями технико-экономических задач. • Нейронная система имеет вид: Входная информация —*• входные нейроны (сенсорный слой) —» сеть нейронов (ассоциативный блок) -» выходные нейроны (реагирующий или решающий блок) Примеры важных прикладных задачj решаемых с применением нейронных систем: — прогноз будущих состояний рынка ценных бумаг; ~ диагностика предприятий по косвенным признакам; • • 1.— выбор технологий и прогноз их эффективности; — выбор практических решений и действий на основе прогнозных оценок их результатов.

5.1.

Модели распознавания и экономические задачи

Задача распознавания образов в самой общей форме представляется как задача классификации и диагностики объектов или ситуаций произвольной природы. Иначе говоря, это задача целесообразного разбиения на классы какого-либо множества объектов или процессов. Элементы одного класса с точки зрения поставленных целей (внешних критериев) близки друг другу, а элементы разных классов достаточно далеки друг от друга.

199

200

Распознавание образов в экономике

О задачами распознавания образов мы постоянно имеем дело в самых разных областях человеческой деятельности. Кроме задач узнавания и интерпретаций зрительных и звуковых сигналов, задач анализа изображений, сюда относятся проблемы классификации, диагностики, прогнозирования, управления техническими, экономическими, природными и другими системами, задачи определения вида ситуации, в которой находится рассматриваемый экономический объект с целью принятия практических решений. К этому кругу задач относятся также: типология1 объектов и ситуаций по прямым и косвенным признакам; выбор признаков, полезных для классификации и диагностики; формальное описание классов эквивалентности по каким-либо критериям состояний объектов, аналитическое описание размытых и неформализованных понятий. Распознавание образов, как видно из определения и при-' ведённых примеров, представляет собой некоторое множество основных логических операций, производимых в любых областях человеческой деятельности. Поэтому математические методы решения задач диагностики-и классификации играют большую роль не только в экономических задачах прогнозирования состояний производства и распределения благ, но и в решении целого ряда разнообразных задач экономического оценивания и принятия решений. При построении и анализе экономико-математических моделей аппарат распознавания позволяет: — адаптировать теоретические модели к реальным условиям их применения; — работать с неформализованными задачами моделирования и принятия решений; — структуризовать расплывчатые, размытые ограничения, цели и другие элементы экономико-математических моделей; — проводить диагностику технико-экономических задач с точки зрения выбора аппарата их анализа и методов решения;

Раздел 5.1. Модели распознавания и экономические задачи — агрегировать и обобщать информацию о классах задач принятия решений. Отметим, что формирование (синтез) и оценка — с помощью распознавания — вариантов — есть общий метод решения проблем в самых разных областях. Распознавание образов даёт средства формализации эвристического поиска решений, средства самообучения алгоритмов, имитации реальных процессов в экономике, упорядочения и систематизации материала исследований. Распознавание образов позволяет .включать! конкретные, сведения в общую структуру информационной системы. С другой стороны, с помощью методов распознавания можно выделять, идентифицировать объекты исследования.. •., , •, Классификация является также средством уточнения понятий. Определение закономерностей образования классов даёт возможность устанавливать другие эмпирические закономерности. Процессы моделирования вообще в той или иной мере содержат распознавание образов, так как моделирование — это абстрагирование и сжатие информации, оно предполагает наложение на объект некоторой макроструктуры. Реальный объект представляет собой некоторое сложное образование и может казаться на первый взгляд чем-то хаотическим. Моделирование же по необходимости требует выявления порядка в этом кажущемся хаосе, какого-то агрегирования. При конструировании математических моделей распознавания образов одним из основных исходных понятий является понятие класса (ранее классы часто называли "образами", но термин "образ" весьма неудачен). Здесь под классом будем понимать просто некоторое множество объектов, сходных друг с другом в некотором отношении. Модель объекта или ситуации — n-мерный вектор состояния х = [а?!,... , ajjij)

где Х{ — значение i-ro признака (г-го параметра, измеряемого на объекте или ситуации).

201

202

Распознавание образов в экономике

Модель j-ro класса: множество Mj — подмножество п-мерного n n пространства R . При этом предполагается, что в R выделено допустимое множество объектов D, и это множество разбито на классы М/. Здесь j пробегает множество номеров классов J. Множества Mj как правило неизвестны, но из наблюдений заданы их прецедентные множества Ay. Aj — часть множества Mj\ как правило, конечное подмножество. ' Необходимо по множествам Aj составить представление о классах Mj. Это можно сделать разными способами. Например, можно разделить множество D поверхностями на области, в каждой из которых содержится одно из прецедентных множеств. • Пусть fj(x) — соответствующие разделяющие функции гомерного вектора: Aj лежит в множестве

{х : fj(x) > fi(x)

Vt^j}-

Тогда мы получаем задачу дискриминантного анализа: В классе F найти такие разделяющие функции /у, что для каждого j E J: •fj(v) > /г(ж)) если х G Aj, j ф i. Для конечного множества J эта задача сводится к конечной последовательности дихотомий (двуклассовых задач) вида Найти функцию / из класса функций F — такую, что если ж.€ А, то f(x) > 0, и если х Е В, то f(x) < 0. .-••,., Это задача дискриминантного анализа. Обозначим её через DA(A., В, F). Пакеты программ, включающие блок решения за-, дачи DA(A,B,F), имеют широчайшее применение в техникоэкономических задачах. Методы распознавания образов отличаются универсальностью и потому имеют широчайший спектр их применения. Это можно считать достоинством, но универсальность связана с большой трудоёмкостью методов, когда решается сложная многоразмерная задача, которая не сводится напрямую к стандартным моделям распознавания.

Раздел 5.1. Модели распознавания и экономические задачи

203

Естественной сферой применения распознавания являются экономические задачи, в которых трудна сама постановка, её формализация. Так, большие трудности возникают при моделировании нестационарных и плохо определённых процессов и явлений, когда имеется расплывчатость целей и критериев принятия решений, когда ограничения нечётки. В качестве примеров таких задач можно назвать: — сложные эколого-экономические задачи; — задачи, где надо учитывать цели и критерии человеческого поведения; — моделирование технологий с комбинированием: процессов различной качественной природы (например, где физико-химические процессы сочетаются с дискретными процессами). Особенно трудны задачи, где надо учитывать биологические факторы. Хотя абстрактные биолого-математические модели и могут быть принципиально важными, но они требуют ещё идентификации, и их наполнение реальной информацией связано как раз с решением неформализованных задач. Попытаемся описать в единой схеме всю область приложений распознавания образов. Задачи распознавания как задачи автоматизации процессов накопления и обработки данных и знаний, задачи анализа закономерностей в массивах наблюдений могут быть разбиты на три большие группы: 1). Выделение признаков; формирование, отбор, преобразование и оценка существенных систем признаков (факторов). 2). Анализ закономерностей размещения элементов прецедентного множества (как правило, конечного) в многомерном признаковом фазовом пространстве. 3). Разбиение пространства объектов и ситуаций на классы эквивалентности, отнесение элементов пространства к классам, описание строения классов.

204

Распознавание образов в экономике

Соответствующая сфера практических приложений методов для указанных задач может быть описана в виде следующей общей схемы: I. Оценка ситуаций: интерпретация обстановки, ориентация, диагностика, идентификация, узнавание, обнаружение, индикация, сравнение. П. Структуризация информации, организация материала наблюдений: а).' Классификация, разбиение, агрегирование, сортировка исходных данных, сжатие, упорядочение практического опыта. Ь). Типология, унификация, стандартизация, построение параметрических рядов, типопредставителей, эталонов; группировка. с). Запоминание информации, заполнение пробелов в ней, обобщение опыта. III. Моделирование: а). Решение обратных задач (по решению надо идентифицировать условия задачи), идентификация моделей. Ь). Построение разделяющих поверхностей, поверхностей уровня, областей безразличия, проведение границ (например, между, средой и изучаемой системой, функционирующей в этой среде), построение эмпирических зависимостей, целей и предпочтений, моделей "вход —> выход", экстраполяция решения частных задач на более широкую область задач и перенос выводов на практические ситуации. с). Решение задач поиска и выбора: прогнозирование, управление, планирование, проектирование, конструирование, оценка параметров систем, определение

Раздел 5.1. Модели распознавания и экономические задачи области эффективности применения технических, организационных и других систем. Отметим некоторые перспективные актуальные направления в распознавании образов. К ним относится в первую очередь создание новых моделей, формализмов и языков распознавания, особенно в новых практически важных сферах — таких, как задачи интерпретации сложных изображений, сигналов, полей. Актуальна задача создания интеллектуальных пакетов распознавания, экспертных систем, включающих распознавание, требует развития теории алгоритмов классификации и диагностики, изучения алгебраических структур классов алгоритмов распознавания, применения методов эффективного выбора алгоритмов из некоторой алгебры алгоритмов. Большое значение имеет развитие теории неформализованных, нестационарных и несобственных задач и алгоритмов распознавания образов. Развиваемая в настоящее время теория двойственности в распознавании образов позволяет решать принципиальные вопросы устойчивости и релевантности решающих правил диагностики и классификации, а также интерпретации результатов применения решающих правил. . В теории двойственности используется тот факт, что классы объектов в задачах распознавания и допустимые множества в задачах выбора и диагностики могут задаваться как в структурной, так и в предикатной форме (теоремы о представлении множеств в функциональном анализе). Кроме того, молено ввести аналог функции Лагранжа через разделяющую функцию. Итак, распознавание образов — один из важнейших разделов информатики. Этот раздел связан с решением широкого круга задач науки, техники и экономики на основе общей логической концепции классификации. Применяемые в распознавании методы во многом моделируют или имитируют человеческую способность к узнаванию, диагностике и классификации. Актуальность проблемы распознавания образов постоянно возрастает. Это обусловлено усложнением технологии и орга-

205

206

Распознавание образов в экономике

низании производства, ростом неопределённости экономического развития, необходимостью переработки больших потоков информации в задачах мониторинга и прогнозирования техникоэкономических и других ситуаций, расширением сферы вовлекаемых в рассмотрение неформализованных задач принятия решений и диагностики. Дадим определения основных исходных понятий теории распознавания образов. Класс (ранее иногда употребляли и термин "образ") — это множество всех объектов или ситуаций, сходных друг с другом в каком-либо фиксированном (хотя часто и неформализованном) отношении. В качестве одной из основных моделей объекта принимается многомерный вектор (может быть и кортеж), коорди1 наты которого — значения некоторых параметров или признаков, характеризующих свойства объекта. В этом случае моделью класса (образа) является некоторое множество таких векторов. Распознать объект — значит указать тот класс, к которому он относится. Обычно вектор состояния объекта предполагается принадлежащим некоторому -- допустимому — множеству, достаточно широкому и не обязательно точно заданному подмножеству пространства объектов, грубо описывающему те объекты, которые имеют реальный смысл в данной конкретной задаче. ' Существуют различные подходи к классификации задач и методой теории распознавания образов. Мы используем следующую типологию задач. ' : 1. Задача таксономии. Эта задача известна также как задача самообучения классификации и распознаванию, как задача обучения распознаванию "без учителя", задача кластерного анализа или автоматической классификации. 2. Задача обучения распознаванию на основе прецедентов. Она называется также задачей дискриминантного1 анализа или обучения с учителем. 3. Задача определения информативных систем признаков для Описания объектов.

Раздел 5.1. Модели распознавания и экономические задачи Формулировка задачи таксономии такова. Заданное допустимое множество иди его подмножество (которое в большинстве практических задач конечно) требуется разбить на непересекающиеся подмножества (классы, таксоны или кластеры). При этом объекты, входящие в один таксон, должны быть достаточно близкими друг к другу, а объекты из разных классов должны быть достаточно далеки друг от друга в некотором определённом отношении или по некоторым критериям близости. Выбор информативной системы признаков для описания классифицируемых объектов производится в соответствии с критерием качества решения задачи дискриминантного анализа или таксономии с ограничениями на стоимость измерения признаков. Качество — удобная разделимость допустимого множества на классы при данном пространстве признаков. Например, полезно строить "спрямляющее пространство", то-есть такое, в котором классы разделяются гиперплоскостями. Выбор признаков в конечном счёте определяет стоимость распознающей системы и''возможность её практической реализаций. Приведём постановку задачи дискриминантного анализа. Пусть М — множество, элементы которого называются допустимыми объектами и которые проявляют себя как векторы пространства Rn. Будем просто считать, что —' подмножество пространства Rn. Множество М называется допустимым. Предположим, что имеются классы — множества М\,... , Мт — такие, что М = Мг U . . . U Мт,

МГП

Mj - О при % ф j .

Разбиение множества М на классы М{ неизвестно, но задана обучающая выборка (прецедентное множество) М, причём

Задача дискриминантного анализа заключается в построении по подмножествам M i , . . . , Мт алгоритма А, вычисляющего для любого допустимого вектора с € М координаты инфор-

207

208

Распознавание образов в экономике

мационного вектора a{A) = [ax{A,c),...

,am(A,c)},

где ai(A,c) принимает значения 0,1, А. Если ai{A,c) = 1, то с е МГ. Если a,i(A,c) = 0, то с £ М*. В случае Ог(Де) = А происходит отказ от распознавания. Часто принимается соглашение, что задача дискриминантного анализа есть задача аппроксимации поверхностей, раздеn ляющих множества МГ В пространстве R . Задачи распознавания образов связаны с классификацией объектов, которая подчинена некоторой практической или теоретической цели. Существуют различные способы моделирования этих задач, приводящие к множеству математических постановок. Одно из направлений использует теорию и методы решения систем линейных неравенств. Именно это направление, основанное на алгебраической теории линейных неравенств, развитой С.Н.Черниковым, представлено в настоящем разделе. Что касается специфики задач распознавания образов по сравнению с традиционными для теории линейных неравенств приложениями, то она состоит, в частности, в следующем. При решении задач дискриминантного анализа необходимо выбрать класс разделяющих функций — либо рассматривая всё более широкие классы, чтобы получить в конце концов разрешимую систему неравенств, либо создавая конструкции (в том числе комитетные) для несовместных систем неравенств. Требование учёта этой специфики в алгоритмах осложняется ещё тем, что разделяемые конечные множества растут с течением времени, они потенциально бесконечны. Упомянем ещё некоторые проблемы распознавания образов: — нахождение условий разделимости конечных множеств функциями заданного класса; — установление сходимости вычислительных методов (в том числе методов оптимизации), включающих блоки распознавания образов; — исследование вычислительной эффективности алгоритмов распознавания;

Раздел 5.1. Модели распознавания и экономические задачи

209

— получение оценок надёжности прогноза, получаемого с помощью методов классификации. Итак, задача распознавания образов есть задача описания и классификации, а также узнавания и диагностики объектов той или иной природы. Это задача выработки понятий о классе объектов. Другими словами, одна из задач распознавания обт разов состоит в целесообразном разбиении заданной совокупности объектов на однородные классы. Объекты, вошедшие в один класс, должны быть в определённом смысле похожи друг на друга или близки друг к другу по некоторому критерию близости. Объекты же из разных классов должны быть достаточно различными, далёкими друг от друга. В соответствии с этим класс (раньше иногда употребляли термин "образ") есть множество объектов, сходных друг с другом в некотором фиксированном отношении. Приведём ещё примеры. 1. Узнавание объектов и явлений, описание соответствующих понятий. 2. Диагностика: медицинская, экономическая и т.д. Здесь речь идёт об обучении диагностике на основе прецедентов. • 3. Классификация: в экономике, социологии, биологии и т.д. 4. Типология объектов и явлений. 5. Классификация и типология объектов и ситуаций, в том числе ситуаций выбора решений. 6. Разбиение пространства. Пусть А и В — выпуклые телесные непересекающиеся многогранные множества в п-мерном евклидовом пространстве. Следующая задача имеет многочисленные важные приложения, в том числе в математической экономике: найти полупространство , содержащее множество Л и не пересекающееся с В. Это полупространство определяет разбиение всего пространства. Отметим принципиальное значение операции классификации. Это простейшая логическая операция, однако она играет фундаментальную роль в мышлении, так как представляет собой основу дальнейших более сложных процессов обработки

210

Распознавание образов в экономике

знаний. Это и средство систематизации знаний, и их сжатия, и нахождения эмпирических закономерностей.

Список литературы к разделу 5.1. [1] ВЛ.Д.МАЗУРОВ. Метод комитетов в задачах оптимизации классификации. - М. - "Наука" - 1990. [2] Б.Б.Розин. Теория распознавания образов в экономических исследованиях. — М. — "Статистика" — 1973.

5.2.

Модели основных задач распознавания

Мы рассмотрим более подробно модели задач дискриминантного анализа, таксономии, выбора и оценки информативности систем признаков. В модели дискриминантного анализа реализуется следующий способ обучения на примерах. Пусть мы хотим обучить кого-нибудь отличать объекты одного класса от объектов другого. Мы не пытаемся объяснить, чем отличаются одни объекты от других, а просто предъявляем, демонстрируем примеры объектов обоих классов. На основании этой информации у обучаемого должно сформироваться правило, позволяющее любой новый объект относить либо к одному из этих классов, либо ко всем остальным объектам. Запишем математическую модель, реализующую эту идею. Пусть имеется допустимое множество D в n-мерном евклидовом пространстве, и мы ставим цель разбить его на два класса по следующей информации: есть прецедентные множества Д-, где Ai — часть г-го класса, имеющаяся в наблюдениях. Выберем класс функций Ф: функция / е Ф отображает множество D в множество действительных чисел. Требуется найти функцию / € Ф, разделяющую множества А и В: /(а) > 0 для a 6 А; /(6) < 0 для 6 € В. При этом на функцию / может накладываться некоторое дополнительное условие на её качество (будем называть это уело-

Раздел 5.2. Модели основных задач распознавания

211

вие условием нормализации). Это и есть задача дискриминантного анализа. Пусть / — некоторое её решение. Мы получаем следующее правило классификации: у — элемент первого класса, если f(y) > 0; у — элемент второго класса, если f(y) < 0; у не классифицируется, если f(y) = 0. Следовательно, приближённая модель первого класса есть множество {у : f(y) > 0}. Модель таксономии: Задано множество и отношение близости между элементами. Требуется найти разбиение множества на классы по этому отношению близости. Задачи выбора признаков: найти признаки или преобразовать имеющиеся признаки во вторичные - так, чтобы для полученной системы вторичных признаков получить хорошее качество решающего правила классификации при достаточно низкой стоимости измерения и применения признаков.

5.2.1.

Методы дискриминантного анализа

Рассмотрим вначале алгоритм линейной коррекции. Пусть задача' дискриминантного анализа сведена к следующей линейной задаче: найти х — элемент n-мерного евклидова пространства, а также у — вещественное число, для которых

{с,х)-у

> 0 (VGA),

(с,ж) - у

<

0

(УеВ).

Если положить [с; —1] = а, [ж; у] = 2, то эту задачу можно свести к виду ) > 0. Для нахождения z фиксируем h > 0 и строим последовательности

z(k + 1)' = {\ z(k) + hdk+i ^

в противном случае

212

Распознавание образов в экономике

Теорема 5.1. Если множества А и В конечны и аффинно разделимы, то последовательность z(k) стабилизируется через конечное число шагов на элементе, дающем коэффициенты разделяющей функции. Посмотрим теперь, как задача дискриминантного анализа может быть решена симплекс-методом. Пусть в задаче дискриминантного анализа требуется найти линейную разделяющую функцию

для множеств А й В — подмножеств n-меряого пространства. Переменные z% — коэффициенты разделяющей функции. Пусть А ~ {aj = [aji,... , ajn] : j = 1,:.. ,s},

Тогда задача дискриминантного анализа принимает вид: ... + ajnzn

> 0 (j =

l,...,s),

Рассмотрим также систему bjlZl

... + ajnzn > 1 + ... + bjnzn < - 1

{j = l,...,s), {j = 1,... , t). ...

Очевидно, что системы (5.1) и (5.2) совместны или несовместны одновременно и всякое решение системы (5.2) удовлетворяет системе (5.1). Для поиска решения системы (5.2), к которой можно добавить линейный критерий оптимальности, имеются стандартные методы линейного программирования, в том числе и симплексметод.

Раздел 5.2. Модели основных задач распознавания

5.2.2.

213

Исключение неизвестных для несовместных систем в распознавании и оптимизации

Модели оптимизации или диагностики могут быть противоречивыми — по многим причинам, о которых говорилось раньше. Рассмотрим метод исключения неизвестных для таких систем. Это, в частности, один из методов дискриминантного анализа. Удобно это сделать на конкретном примере. Мы покажем, что вообще этот метод приводит к нахождению минимальных по включению несовместных подсистем и максимальных по включению совместных. ;: Рассмотрим систему линейных неравенств: x

i + 2г — 44 <= 1, l + Ж 2 -р Жз + Ж4 <-- • 9 —5Ж2 — Ж4 ^' "б, ЗЖ1 + Жз - Ж 4 <= о, (б). Ж1 - Ж 2 +Жз +4Ж4 .<; ,.з, - ж 3 -.<** 1 (6) ** " ) —Ж1 — Ж2 — Ж4 <С 0. (7)

(1) (2) (3) (4)

x

Слева от каждого неравенства записан его индекс. Исключая, например, переменную Жз, получим жз-свёртку. Для этого комбинируем каждые два неравенства, для которых знаки при жз противоположны. Комбинируем, умножая неравенства на такие положительные числа, чтобы при сложении неравенств коэффициент при жз стал нулевым. Неравенства, в которых коэффициент при жз равен нулю, переписываем в жз—свёртку без изменений. Слева от каждого неравенства свёртки записываем его индекс — совокупность номеров неравенств, комбинированием которых оно получено. Неравенства, объединение индексов которых содержит индекс какого-либо третьего неравенства, не комбинируются и в свёртку не записываются. Метод свёртывания, включающий это последнее правило, называется методом фундаментального свёртывания.

214

Распознавание образов в экономике

Итак,'получаем фундаментальную жз-свёртку:

(1) -xi + 2ж 2 - 4ж 4 < 1, (2,6) Х\ + Ж2 + Ж4 < -з, —5^2 — Ж4 < -6, (3) (4,6) 3a?i - ж 4 < -1, Ж1 - Ж2 + 4Ж4 < (5,6) 2, —Xi — Х2 — Ж4 < 0. (7) Исключая xi из жз-свёртки по приведённым выше правилам, получим фундаментальную (ж1,жз)-свёртку:

(1,2,6) ЗЖ2 — ЗЖ4 < —5^2 — Ж4 < (3) 6Ж2 — 13Ж4 < (1,4,6) Х2 < (1,5,6) 0 < (2,6,7)

2

2,

з, -з,

(4,6,7) -ЗЖ2-4Ж4 < - 1 , (5,6,7) -2ж 2 + 3ж4 < 2. Исключая Ж4, получим (ж].,жз,Ж4)-свёртку: (3,4,6,7) -17ж2 < (1.5.6) х2 < (2.6.7) 0 < (4,5,6,7) -17ж2- <

-16, 3, -3, 5.

Исключив жг, получим полную фундаментальную свёртку: (1,3,5,6,7) 0 < (2,6,7) 0 < (1,4,5,6,7) 0 <

1, -3, 1.

С.Н.Черниковым доказана теорема, что индексы несовместных неравенств полной фундаментальной свёртки и только они составляют номера неравенств минимальных несовместных подсистем исходной системы линейных неравенств.

Список литературы к разделу 5.2.

215

Следовательно, в данном случае имеется только одна минимальная несовместная подсистема исходной системы, она имеет индексное множество {2,6,7}. Все подсистемы исходной системы, индексные множества которых не содержат этого индексного множества, являются совместными. Среди совместных подсистем можно выделить максимальные по включению совместные. Индексные множества максимальных совместных подсистем: {1,2,3,4,5,6}, {1,2,3,4,5,7}, {1,3,4,5,6,7}. Другие методы приводятся в учебном пособии: Вл.Д.Мазуров. Математические методы распознавания образов. — УрГУ — 1976.

Список литературы к разделу 5.2. [1] Н.Нильсон. Обучающиеся машины. — М. — "Наука" - 1968. [2] А.Г.АРКАДЬЕВ, Э.М.БРАВВРМАН. Обучение машины распознаванию образов. — М. — "Наука" — 1964. [3] Б.В.РОЗИН, А.В.ВЕККЕР, Н.В.ВОТРИНА. Группировка предприятий отрасли методами распознавания образов ( дифференциация отраслевого показателя экономического стимулирования ). — Экономика и математические методы — 1969 — том 5 — №3. [4] H.BARANECK, M.WOZNAOK. Попытка применения таксономической классификации в статистическом анализе издержек строительного предприятия. — Przeglad Statisticzny — 1969 — vol 16 №2. [5] В.В.Коссов. Теория агрегирования и выбор номенклатуры межотраслевого баланса. — Сборник "Оптимальное планирование и совершенствование управления народным хозяйством". •М. - "Наука" - 1969. [6] Распознавание образов в социальных исследованиях. — сб. под ред. Н.Г.Загоруйко и Т.С.Заславской — Новосибирск — "Наука" — Сибирское Отделение — 196S. [7] Л . М . А Л Ь Т Ш У Л Л Е Р , В.М.РЯБОВ. Приближённый метод решения задачи о рациональной группировке изделий для планирования группового выпуска. -- Математические методы решения экономических задач — сборник 1 — М. — "Наука" — 1969.

216

Распознавание образов в экономике

[8] В.С.НЕМЧИНОВ. Экономико-математические методы и модели. Избранные произведения. — том 2 — М. — "Наука" — 1967. [9] И. ЯМА ДА. Теория и применения межотраслевого метода. — М. - ИЛ - 1963. [10] Вл.Д.МАЗУРОВ, Л.И.ТЯГУНОВ. О применении метода комитетов распознавания образов при автоматизации производственных процессов. — Труды конференции по кибернетической технике и её применению в металлургической промышленности. — Свердловск — 1969. [11] Метод комитетов в распознавании образов. — Свердловск — ИММ УНЦ АН СССР. - 1974. [12] Б . Г . М И Р К И Н , Л . Б . Ч Ё Р Н Ы Й . Об измерении близости между различными разбиениями конечного множества объектов. — Автоматика и телемеханика — 1970 — №5. [13] Б . Г . М И Р К И Н , Л . Б . Ч Ё Р Н Ы Й . Аксиоматический подход к измерению' близости между различными классификациями объектов данного множества. — "Математические методы моделирования и решения экономических задач". — Новосибирск — 1969. [14] В.Я.ЛУМЕЛЬСКИЙ. Агрегирование матрицы межотраслевого ба' ланса с помощью алгоритма диагонализации матрицы связи. — Автоматика и телемеханика — 1970 — №9.

Раздел 5.3. Комитеты в решении задач оптимизации

5.3.

217

Комитеты в решении задач оптимизации

Роль модели математического программирования в последнее время становится всё большей в самых различных областях приложений: в экономике, технике, физике, биологии и др. Однако в связи с расширением области приложений возникает необходимость в регулярном подходе к анализу несобственных (не обладающих решением в обычном смысле) задач оптимизации. Поскольку одним из подходов к анализу несовместных систем соотношений является изучение комитетных конструкций таких систем, то возникает вопрос о их содержательной интерпретации для различных конкретных областей приложений. Речь идёт об интерпретации таких конструкций, как минимальные несовместные подсистемы, максимальные совместные подсистемы, наборы решений этих подсистем, системы представителей, р-комитеты. Хорошо апробированным аспектом применения таких конструкций в задачах оптимизации является применение к задачам идентификации модели математического программирования, к комбинированным процедурам оптимизации включающим блоки распознавания образов. В этом случае комитетные конструкции применяются для системы соотношений, связывающих функции как элементы функциональных пространств. Совсем другой смысл приобретают комитетные конструкции в применении к несовместным системам ограничений на вектор состояния х в задаче математического программирования. Так, например, пусть в некоторой системе ограничений мы попытались записать как можно больше естественно возникающих требований к объекту с вектором состояния ж. Этот объект предполагается использовать в качестве инструмента, обеспечивающего выполнение некоторого набора операций. Тогда набор минимальных несовместных подсистем можно считать каталогом минимального невозможного, а набор максимальных совместных подсистем — каталогом максимально возможного в осуще8 Математические методы...

218

Распознавание образов в экономике

ствлении упомянутых операций. Рассмотрим задачу математического программирования: найти наибольшее значение функции

f(x) = f(xu...

,хп)

на множестве всех решений системы неравенств x

x

/i0*0 = fji. i> • • • i n) < bj

(j = 1,... , m),

(5.3)

n

где x — [xi,... ,xn) € R . Вектор х может интерпретироваться как вектор состояния проектируемого объекта, а его координата Xi — как значение г-го параметра состояния. Введём обозначения:

М = {х е Rn : fj{x) < bj {j = 1,... ,m)} допустимое множество задачи; Mj = {х € Rn : fj{x) < bj} — множество векторов х G Rn, допустимых по j-му ограничению; /J, — sup{/(o;) : x 6 M} — оптимальное значение задачи; M = {х € М : f(x) = /л} — оптимальное множество, т.е. множество всех оптимальных векторов. Если решение рассматриваемой задачи sup{/(a;) : (5.3)}

(5.4)

не существует, т.е. М = 0, то в соответствии с содержательным смыслом задачи могут быть использованы различные варианты обобщения понятий допустимого и оптимального векторов. Задачи с.указанными особенностями называются несобственными [1]. Для щирокого круга практических задач естественными обобщениями понятия решения являются [1]: чебышевское уклонение Е = inf{i > 0 : fj{x) < bj + t (j = 1,... , m)} и приближение

у € (х : fj{x)
{j = 1,... ,m)},

Раздел 5.3. Комитеты в решении задач оптимизации

219

связанные с непрерывной аппроксимацией исходной задачи (5.4). Однако в ряде случаев практической интерпретации несобственной задачи требуются применения дискретных аппроксимаций типа "размытых" решений или комитетных конструкций [2], например, когда необходимо вовлекать в рассмотрение совокупности векторов XJ, каждый из которых является допустимым лишь по некоторой подсистеме j условий Xj & HJ^JMJ. Так, например, можно рассматривать комитеты для системы множеств {Mj : j = 1,... , m}, т.е. такие множества К, что | К П Mj \>\ КЩ

|

(Vj € 1,m).

Такие конструкции применимы и к многокритериальным задачам принятия решений для ситуаций с повторяющимся выбором. ' По-видимому, применение комитетных конструкций оправдано и в тех случаях, когда источником несобственной задачи выступает возможность одновременного доступа нескольких пользователей к большой базе данных. В таких ситуациях база данных (информационная составляющая s = {/,/i,... , / m , &ъ • • • ,bm} задачи (5.4)) может содержать либо несовместные данные (ограничения на допустимость векторов состояний и др.), либо обладать каким-либо другим свойством несогласованности. Отметим, что непрерывность или дискретность аппроксимации могут быть связаны с непрерывностью или разрывностью штрафной функции за невыполнение ограничений. Разумеется, можно рассматривать понятие несобственной задачи в более широком смысле, поскольку такие задачи возникают не только в сфере оптимизаций, но и во многих других областях: в распознавании образов, в моделях идентификации и т.д. Типичными примерами несобственных задач могут служить переопределённые задачи обработки результатов наблюдений, не имеющие решения в обычном смысле. Упомянутые задачи сводятся либо к.решению относительно отображения

220

Распознавание образов в экономике

системы вида f(x)eMa(VxeX),

feFc{X

—>Y},

(5.5)

где Мх С Y (Vx), либо к решению относительно х системы f{x)eMf (V/GF), хеХ.

(5.6)

Итак, мы видим, что обычное понятие оптимального вектора задачи sup{/(z): xeM},

( М с Д

(5.7)

неприменимо к несобственным задачам оптимизации. В этом случае можно применять понятие "размытого" решения, т.е. некоторого множества К С Rn, обладающего теми или иными свойствами, полезными с точки зрения содержательного смысла, вкладываемого в задачу (5.7). Комитетные конструкции являются некоторыми из возможных реализаций понятия "размытого" решения. Приведём пример одной такой реализации. Если множество М, задаваемое как множество всех решений некоторой системы ограничений Ш $ 0

(j = l,...,m),xeX,

(5.8)

является пустым, то в задачу (5.7) можно вкладывать смысл максимизации f(x) на максимальных совместных подсистемах системы (5.8), т.е. нахождение такого К С X, | К \< +оо, что К = Агдщах I у—- ^ /(#) \ К — комитет системы (5.8) >.

5.3.1.

Дискретные аппроксимации для несобственных задач транспортного типа

Транспортная задача состоит в следующем. Пусть имеются т складов, в которых хранится однородный продукт, и п потребителей продукта.

Раздел 5.3. Комитеты в решении задач оптимизации Количество продукта на г-м складе обозначим через сц > О (г = 1,... ,т), а количество продукта, необходимое j-му потребителю, — через bj > 0 (j = 1,... ,п). Предполагается, что a = J2iLi i ]Cj=i fy > 0, так как в этом случае возможны полное удовлетворение потребителей и полный вывоз продукта со складов. Стоимость перевозки единицы продукта с Г-ГО склада j му потребителю обозначим через е^-. Требуется найти величину X{j — количество продукта, которое предполагается перевезти с г-го склада j-му потребителю, причём суммарная стоимость перевозок должна быть минимальной, все потребности удовлетворены, а со складов вывезен весь продукт. Получаем задачу т

п

t=l J=l

при условиях

хц

>

0

(Vt,Vj).

В случае несбалансированной (открытой) транспортной задачи, т.е. в случае J2iai Ф Sj^i> необходимо решить, какие потребители или поставщики и насколько должны быть неудовлетворенными. При многократном решении транспортной задачи необходимо обеспечить поочерёдное неудовлетворение участников данной экономической ситуации, так как если в течении ряда лет один и тот же участник будет получать неудовлетворение, то убытки могут расти очень быстро. Сравним этот подход с решением, когда используется фиктивный потребитель.

221

222

Распознавание образов в экономике Поставщики 2 3

Потребитель 2 2

Фиктивный потребитель I

I

У второго производителя в каждом периоде остаётся излишек продуктов, т.е. постоянно неудовлетворённым остаётся один и тот же участник экономической ситуации. Несовместность ограничений транспортной задачи может быть обусловлена многими причинами, например, несоответствием графика отправки грузов запланированному графику и др. При этом возникают дополнительные затраты: в связи с хранением излишних объёмов грузов или их дефицитом. Некоторые виды штрафов, отражающих эти затраты, а именно — кусочнолинейные или кусочно-постоянные, могут приводить к использованию комитетных решений транспортных задач. Применение комитетных решений имеет также достаточно ясный смысл, когда при флуктуации условий транспортной задачи мы пытаемся найти смешанную стратегию, для которой вероятность выполнения каждого неравенства больше некоторого Pj. Рассмотрим пример транспортной задачи. Пусть продукция 2-х пунктов производства — а, Ь, а потребление единственного пункта потребления — с. Пусть система'функционирует в дискретном времени 't = 1,2,..., причём в момент t

В среднем по t ограничение а + b — с выполняется, причём ct> at, ct > &t, но в каждый отдельный момент может иметь место дисбаланс, и почти всегда система «1 = at, Х2 = h, х\ + Х2 = ct

(5.9)

несовместна. Тогда в качестве смешанной стратегии можно применить комитет системы (5.9): к

= ( К hi [ah ct - at], [ct - bu bt]},

223

Раздел 5.3. Комитеты в решении задач оптимизации применяя каждый член комитета с вероятностью 1/3. Рассмотрим систему ограничений транспортной задачи в общем случае:

(5.10)

р

\"Л

2_jX%0

i жу

>

*

7

/

—

Oj

{j — i , . . .

1

0

(г = 1,... ,m,j = 1,... ,п).

(5.11)

\

,п),

4

Известно необходимое и достаточное условие совместности этой системы при ОГ > 0, bj > 0:

Предположим, что система (5.11) несовместна. Тогда система (5.10) неприводимо: несовместна, т.е. всякая её собственная подсистема совместна. Поэтому одна из систем представителей решений всех её максимальных совместных подсистем имеет вид: {ж(1),... , x(mn)}, где x(j) — решение подсистемы системы (4.8), в которой отсутствует только j-e уравнение. Легко проверить, что для всяких трёх различных i, j , к множество является комитетом системы (5.10). Рассмотрим пример с двумя складами и одним потребителем: oi = 2, О2 = 3, bi = 4. Комитет: {ж1 = [2,3],ж2 = [1,3],ж3 = [2,2]}. Экономический смысл применения этого комитета таков. Проводя транспортировку грузов от складов потребителю в течении значительного времени, мы чередуем планы ж1, ж2, ж3. Пусть штраф за непринятие потребителем единицы лишнего груза равен и, штраф за невывоз единицы груза от первого склада равен и и от второго •— го. Результаты комитетной стратегии отражаются в табл, 5.1 (где t — время).

224

Распознавание образов в экономике

X

t

1 я1

и

и

0 W 0 штраф V

2

3

0

4 ГС

5 хг

ж3

г* 0

0

0

и

0

0

гу

1

X2

V

0 0

0

w

0

V

W

и

6

w

Таблица 5.1: Результаты применения комитетной стратегии

Список литературы к разделу 5.3. [1] И . И . Е Р Ё М И Н , ВЛ.Д.МАЗУРОВ, Н.Н.АСТАФЬЕВ. Несобственные задачи линейного и выпуклого программирования. — М. — "Наука"' - 1982. [2] ВЛ.Д.МАЗУРОВ. Метод комитетов в задачах оптимизации и классификации. — М. — "Наука" — 1990. [3] Ф.РОЗЕНБЛАТТ. Принципы нейродинамики. — М. — "Мир" — 1964 (1957). [4] М.Минский, С.ПЕЙПЕРТ. Персептроны. — М. - "Мир" — 1965. [5] И.Нильсон. Обучающиеся машины. — М. — "Мир" — 1967. [6] Сб. "Метод комитетов в распознавании образов" — Свердловск — УрО АН СССР - 1974. [7] М.ДЕРТОУЗОС. Пороговая логика. — М. — (<Мир" — 1967. [8] А.И.ГАЛУШКИН. Синтез многослойных систем распознавания образов. — М. — "Энергия" - 1974. [9] А.И.ГАЛУШКИН, В.А.СУДАРИКОВ, Е . В . Ш А Б А Н О В . Нейроматематика: методы решения задач на нейрокомпьютерах. — "Математическое моделирование" — 1991 — том 3 — №8. [10] ВЛ.Д.МАЗУРОВ. Очерк истории нейроматематики. — Бюлл. Асе. МП - 1996 - №— Екатеринбург. [11] А.МАСАЛОВИЧ. Нейронная сеть — оружие финансиста. — PC Week - 24.04.1995.

Список литературы к разделу 5.3.

225

[12] Р . В . Б Р А У З Е . Определение параметров нейронной сети с помощью теории информации. — Nicolaos G. Bourbakis ( editor ) — Artificial Intelligence Tools — World Scientific — 1992. [13] М А К К А Р Т И , ШЕННОН ( РЕД. ). Автоматы. — ИЛ — 1956 (1943). [14] М А К КАЛЛОХ, ПИТТС. Логическое исчисление идей, относящееся к нервной активности. — Там же. [15] Me CULLOCH, PITTS. HOW we know universals. — bull. Math. Biophys. — 1947 — №9. [16] T.KOXOHEH. Ассоциативная память. — M. — "Мир" — 1980. [17] А.И.ГАЛУШКИН, В.А.СУДАРИКОВ. Адаптивные нейросетевые алгоритмы решения задач линейной алгебры. — Нейрокомпьютер — 1992 - №2. [18] В . С . К А З А Н Ц Е В . Задачи классификации и их программное обеспечение. - М. - "Наука" - 1990. [19] А.Н.ГОРБАНЬ. Нейронные сети. Красноярск. [20] Обозрение прикладной и промышленной математики. — Серия "Дискретная математика" — том 1 — вып. 3 — 1994. [21] Д Ж . Х О П Ф И Л Д . Нейронные сети. [22] A . N . W H I T E H E A D , B.RUSSELL. Principia Mathematica. — London - 1913. [23] МЕЛАМЕД. Нейронные сети в решении задач дискретной математики. [24] A.NoviKOFF. On Convergence Proofs for Perseptrons. Proceedings of Symposium on Mathematical Theory of Automata. Polytechnic Institute of Brooklyn, v. XII, 1963. [25] Сб. "Вычислительные машины и математика" ( ред. Фейгенбаум ) - М. - "Мир" - 1967. [26] В.М.ГЛУШКОВ. Алгоритмы обучения а-персептрона. Введение в кибернетику - Киев - АН УССР - 1964 . [27] Сб. "Принципы самоорганизации" ( под ред. Лернера ) — М. — "Мир" - 1966. [28] А.Г.ИВАХНЕНКО. Самообучающиеся системы распознавания образов и автоматического управления. — "Техника" — Киев —1969.

226

Распознавание обрезов в экономике

[29] Н.В.Позин. Моделирование нейронных структур. ~М. — "Наука" - 1970. [30] П.Уинстон ( РЕД. ). Психология машинного зрения. — М. -"Мир" - 1978 ( 1975 ). [31] Вл. Д.МАЗУРОВ. О комитете системы выпуклых неравенств.;—: М. - МГУ - Труды ЮМ - 1966. [32] Вл.Д.МАЗУРОВ. Метод комитетов в задачах оптимизации и классификации. — М. — "Мир" — 1990. [33] А.И.ГАЛУШКИН, В.А.СУДАРИКОВ, Б . В . Ш А Б А Н О В . Нейроматематика: методы решения задач, на нейрокомпьютерах. — ; "Мат.моделирование" — 1991 — том 3 — Щ — с.93-111. [34] А.И.ГАЛУШКИН, В.А.СУДАРИКОВ. Адаптивные НС-алгоритмы решения задач линейной алгебры. — Нейрокомпьютер. — 1992 •—• №2. [35] Р.В.БРАУЗЕ. Определение параметров нейронной сети с помог: щью теории информации. — Nicolaos G.Bourbakis ( editor ). — Artificial Intelligence Tools — World Scientific. — 1992. [36] ВЛ.Д.МАЗУРОВ. Очерк истории нейроматематики. — Бюлл. Асе. МП. — 1996 — №6 - Екатеринбург. '

Глава 6 Метод комитетов Введение При построении математических моделей для целого ряда практических задач1 в таких трудноформализуемых областях знания, как медицина, биология, экономика' и др. часто приходится иметь дело с плохо формализованными или противоречивыми системами ограничений [9, 24, 38, 39]. Одним из способов разрешения этих противоречий является введение в модель процедуры распознавания образов — дискриминантного анализа или таксономии [8, 24]. Пусть множество М С R n , М — К]_ U^2> заданы конечные подмножества А С К\, В С К% и класс функций F С {R" ->• R}. Задачей дискриминантного анализа назовем [24] задачу нахождения функции / е F, такой что Г /(а)

> 0

(авА)

\ f(b) < о {beв).

{ЬЛ)

Если такая функция найдена, то полагаем К\ = {х е М\ / ( ж ) > 0 } и Къ"— {х € М\ f(x) < 0}. Как правило, класс F содержит функции наиболее простого вида: линейные или кусочно-линейные. Во всяком случае, всегда можно полагать, что F параметризуется некоторым отображением •у : С —»• F, где С — некоторое пространство параметров. В этом случае за-

228

Глава 6. Метод комитетов

дача (6.1) сводится к задаче нахождения решения системы неравенств: 7[с](о) > 0

(аеА)

<у[с](ь) < о ( b e в ) относительно неизвестного с е С. Например, в аффинном случае, множество С = R n + 1 , и задача (6.1) эквивалентна задаче нахождения \х\ е R n + 1 , решения системы: (х,а)+у > 0 (х,Ь)+у < 0

(аеА) (be В),

, {

^ ' '

и для ее решения удается применить аппарат теории линейных неравенств. К сожалению, система (6.3) (или (6.2)), как правило, несовместна (условие совместности системы (6.3) эквивалентно условию отделимости выпуклых оболочек множеств А я В), поэтому для решения поставленной задачи требуется то или иное обобщение понятия решения системы неравенств. Понятие комитета является одним из таких обобщений.

6.1.

Основные понятия и определения

Пусть во множестве X, в котором справедлива аксиома выбора, заданы подмножества D\,... ,Dm. Рассмотрим систему включений: xeDj

(j€Nm).

(6.4)

Система (6.4) называется несовместной, если DjLi Dj ~ ® утверждений, приведенных ниже, справедлив для произвольной системы (6.4), однако большая часть результатов будет сформулирована для ее частного случая — системы неравенств: fj(x)>6

0"€N m ),

(6.5)

Раздел 6.1. Основные понятия и определения

229

где / i , . . . ,fm £ F С {X —> К}, X — вещественное линейное пространство и F — заданный класс функций (линейных, аффинных и т.д.). Систему х б Dj

{j G L)

(6.6)

для произвольного 0 ф L С N m будем называть подсистемой с индексом L системы (6.4). Обозначим через D[L) = множество решений подсистемы (6.6). Определение 6.1. Подсистема с индексом L называется максимальной совместной подсистемой (МСП) системы (6.4), если D(L) ф 0, и D(L U {j}) = 0 для всякого j e N m \ L. Видно, что система (6.4), в которой не все Dj = 0, либо совместна, либо имеет собственные МСП. Перейдем к определениям комитетных конструкций. Определение 6.2. Комитетом большинства системы (6.4) называется конечная последовательность Q = (ж 1 ,... ,хя), хг G X, такая что |{г : хг € Dj}\ > (q/2) для каждого j e N m . • Если Q удовлетворяет приведенному определению, то число q называется числом членов комитета Q, и говорят, что система (6.4) разрешима комитетом из q членов. Ниже будет показано, что при анализе комитетной разрешимости системы (6.4) достаточно рассматривать комитеты, составленные из решений некоторых ее МСП. Минимальным называется комитет с минимальным возможным для данной системы числом членов. Известно несколько обобщений понятия комитета. Пусть заданы р £ (0,1), я б R 9 и определены характеристические функции
D

230

Глава 6. Метод комитетов 1

Определение 6.3. Конечная последовательность Q = (ж , ... , х9), хг 6 X, называется (z,р)-решением системы (6.4), если для каждого j e N m выполнено:

2=1

1=1

(z,р)-решение системы (6.4) называется: 1. z-решением системы (6.4), если р = 1/2; 2. (г;гр)-комитетом системы (6.4), если z G 7J\; 3. р-комитетом, если z = [ 1 , . . . , 1]. Опишем множество Q всех комитетов системы (6,4) [24]. Рассмотрим для этого вектор-функцию tp(x) = [ipi(x),... ,ipm{x)\Множество ip(X) конечно, пусть ц>(Х) = {^г1,... ,<р5}. Из определения 6.2 следует, что последовательность Q € Q тогда и толь-! ко тогда, когда Q путем перестановки членов можно представить в виде: ..,ys>\..:,ys'z>),

(6.9)

z*

где у1'1,... ,yl'Zi таковы, что ip(yi>l) = -<р\ a zi,... ^^неотрицательные целые числа, удовлетворяющие системе неравенств: (6.10) Комитет Q € Q является минимальным тогда и только тогда, когда вектор z = \z\,... ,<г8], используемый в его представлении (6.9), является оптимальным в задаче: W* >0, ze Z%}. г=1

Г = 1

(6.11)

231

Раздел 6.1. Основные понятия и определения

Зададим на множестве Pq = {—1,1}9 частичный порядок следующим образом: пусть а, Ъ € Р 9 , a < Ь <3> , |.{t : ai = 1}| < |{г : Ь{ = 1}|. Пусть заданы функции ф\,... ,фт • Pq ->• R, строго возрастающие в соответствии с выбранным порядком. Определение 6.4. Коллективным решением системы (6.4) называется последовательность Q = (ж 1 ,... ,хд),хг е X, такая что для каждого j g N ^ выполняется ipjfaj (ж 1 ),... ,(pj(xq)) > 0. В частном случае, когда ф3-(сц,... ,aq) = |{г :,aj = 1}| — ctjq для некоторых чисел CCJ, коллективное решение системы (6.4) называется обобщенным решением указанной системы. Каждой из определенных выше комитетных конструкций соответствуют понятие разделяющей комитетной конструкции и алгоритм распознавания. А именно, пусть заданы множества А, В с Rn и класс функций F = {/ = -у[с]\ с е С} с {Rn•-» R}, определенных всюду в R n , и требуется найти функцию f & F (параметр с е С), такие что

f(a)=j[c](a)

> 0 (а€А) < 0 (6 6В).

. ^

. U )

Пусть система (6.12) относительно с £ С несовместна. Определение 6.5. Разделяющим множества А, В С R n коллективным решением (обобщенным решением, (г,р)-решением, р-комитетом, комитетом) называется последовательность функций (Z 1 ,... , fq) такая, что /* = j[c1} и (с 1 ,... , с9) является коллективным решением (обобщенным решением и т.д.) системы неравенств (6.12). 1

•

!

•

•

'

"

В частных случаях, когда F класс линейных (аффинных) функций, разделяющее множества Аи В коллективное решение называется линейным (аффинным).

232

Глава 6. Метод комитетов

Кроме указанных выше комитетных алгоритмов распознавания, основанных на логике большинства, в ряде работ (см., например, [41]) рассматривались алгоритмы, основанные на других логиках: старшинства, единогласия и т.д. Однако сведение задачи построения разделяющих комитетов (а именно эта задача чаще всего имеется ввиду) с такими логиками к известной задаче построения комитета системы неравенств (включений) не столь очевидно, как в случае логики большинства. 1

Определение 6.6. Конечная последовательность функций (Z , q • • • ) f )i Г € F, называется комитетом единогласия, разделяющим множества А, В С R", если каждое a € А удовлетворяет системе неравенств: fi(x)>0

(i6N,),

а каждое Ь е В нет. Пусть выбраны функции Z 1 , . . . ,fq € F, для каждого х € R n обозначим 1Х = {г|/г(ж) > 0}- Если 1Х Ф 0, то обозначим гх = min{i € Ix}Определение 6.7. Конечная последовательность пар ((fl,tl), 9 q • • • 1 (/ ) t ))i где Р е {0,1}, называется комитетом старшинства, разделяющим множества А, В С R n , если: для каждого а б А множество Ia ф 0 и tia = 1; для каждого be В или Д = 0, или tib = 0 .

6.2.

Теоремы существования комитетных конструкций

В этом разделе приводятся теоремы существования комитетов и обобщающих их конструкций для различных классов систем неравенств. Доказательства большинства из них конструктивны, так что попутно в них указываются различные верхние оценки числа членов минимальных комитетов (коллективных

Раздел 6.2. Теоремы существования комитетных конструкций

233

решений, р-комитетов и т.д.) рассматриваемых систем включений (неравенств). Теорема 6.1. Если существует коллективное решение (обобщенное решение, (z,p)-решение, и т.д.) системы (6.4), то существует соответствующее решение, составленное из решений МСП системы (6.4). Эта теорема, позволяет, в частности, в задаче (6.11) поиска минимального комитета системы (6.4) понизить размерность пространства, полагая ненулевыми лишь те компоненты вектора z, для которых вектора (рг удовлетворяют условию: V«i ф «2 3j G N m :

$

= 1, ipf = - 1 .

Определение 6.8. Системой представителей для множеств Di, ... , Dm называется конечная последовательность М = (ж 1 ,... , ж т ) , х1 € X, такая что хг € D^ Система представителей М называется системой различных представителей, если хг Ф ж-7 для каждых г ф j . Обозначим через L(M) = {хг\г € N m } множество элементов М. Числом членов системы представителей М назовем |JS(M)|. Очевидно, что система (6.4) совместна тогда и только тогда, когда найдется система представителей М множеств D\,... , Dm из одного члена. Справедливо и более общее утверждение. Теорема 6.2. Если для всякого j G N m найдется система представителей Mj для мноэ/сеств D\ C\ Dj,... \Dm П Dj из не более чем г членов (г > 1), то система (6.4) разрешима р~ комитетом при р = (1/г). В частности, при г = 2 система (6.4) разрешима комитетом из 2т членов. Доказательство. Пусть M i , . . . ,Mm — системы представителей, указанные в условии теоремы. Пусть L(Mj) — {ж],... ,xf }, rj < г. Убедимся, что последовательность:

r-n+1

r-rm+l

234

Глава 6. Метод комитетов

является р—комитетом системы (6.4) при р = (1/V). Обозначим элементы Q через у1,... ,угтп. По определению р—комитета, достаточно для каждого j e N m проверить выполнение неравенства: rm

Действительно,

= m(2 -r)+

2(r - 1) > m(2 - r)/r,

что завершает доказательство первого утверждения теоремы. Второе утверждение проверяется аналогично. D Теорема 6.3. Если любые к множеств системы (6.4) пересекаются и к/т > р, то система (6.4) разрешима р-комитетом. Доказывается эта теорема аналогично предыдущей прямой проверкой. Нетрудно показать, что условия теорем 6.2 и 6.3 не являются необходимыми для существования р—комитета. Действительно, рассмотрим, например, систему вида (6.4) с множествами: Dx = {1,2,3}, £>2 = {1,4}, Дз = {2,4}, £ 4 ' = {3,4}. Видно, что Q = (1,2,3,4,4) является ее комитетом (р—комитетом при р = (3/5) — е й произвольном е > 0), тем не менее для системы не выполнено условие теоремы 6.2 при г = 2 и теоремы 6.3 при Сформулируем также простое необходимое условие существования р—комитета. Теорема 6.4. Пусть К - (ж 1 ,... ,xq) — р-комитет системы (6.4), тогда в нем найдется член xli такой что \{j : xi € Dj}\ > рт.

Раздел 6.2. Теоремы существования комитетных конструкций 235 г

Доказательство. Пусть, от противного, \{j : х Е Dj}\ ( 2 Р ~" 1)? Д л я каждого j G N m . Следовательно, jyjLi Z)f=i Vj > (2p - l)»ng. С другой стороны, по предположению, X^fli ¥>) ^ (2р - 1)"г> для каждого г 6 N g , значит, YfjLi £f=i V} 5: (2р—l)m?. Следовательно, предположение неверно, что и доказывает утверждение. ,• Из последней теоремы, в частности непосредственно следует наличие в системе, разрешимой ^комитетом МСП, мощности большей, чем рт, а в системе, разрешимой комитетом из 2k — 1 члена — МСП мощности, не меньшей 2F^TmПусть далее X — вещественное линейное пространство, 1\, ... , 1т линейные функционалы над X и Ь\,... , Ът е R. Рассмотрим вопрос существования комитета системы неравенств: lj{x)>bj

(jeN m ).

(6.13)

В силу конечности системы (6.13) [33], задача исследования комитетной разрешимости системы (6.13) эквивалентна аналогичn ной задаче для подходящей системы неравенств над R , где п ранг системы функционалов h,... JmДействительно, пусть Г = {ж € X \ lj(x) = 0 (j € N m )}. Тогда X = Хп фГ, где Хп вещественное n-мерное линейное пространство. Пусть ei) • • • j еп — базис Хп, a,ji = Ц{ег) и х — х\е1 +

... + хпеп + z, где zeT. Тогда lj(x) = £ ? = 1 х^(е{) = J^sl

a^.

Обозначим ж = [ici,... ,хп]Т € R n , % = [ciji,... ,а^п] £ R " и (Й^-,Ж) = YnLi o-ji^i- Рассмотрим систему: (а,-,ж)>6,-

(jGNm)

(6.14)

над R n . Приведенные выше рассуждения сформулируем в виде леммы.

236

Глава 6. Метод комитетов

^^_

Лемма 6.1. Для существования коллективного решения {обобщенного решения, (z,p)-решения, . . . ) системы (6.13) необходимо и достаточно существования аналогичного решения системы (6.14). Лемма позволяет нам в дальнейшем всюду рассматривать задачу поиска комитетных конструкций системы линейных неравенств в R n . Сформулируем критерий существования комитета системы (6.14). Теорема 6.5. Система (6.14) разрешима комитетом большинства тогда и только тогда, когда каждая ее подсистема из двух неравенств совместна. Доказательство. Необходимость теоремы очевидна. Докажем достаточность. Не ограничивая общности, полагаем, что система (6.14) не содержит тождественных.неравенств. Рассмотрим разбиение N m = L\ jjL%U ...\JLS такое, что (ii,i2<=N m ) (flji коллинеарен aJ2) <& h,h€Lk

(k <E N s ).

Пусть i € N s . Подсистема {ahx)>bj

{jeLi)

(6.15)

совместна, так как в противном случае, поскольку все a,j при j € Li коллинеарны по выбору Li, найдется несовместная подсистема из двух неравенств, что противоречит условию теоремы. 1 Пусть z — решение (6.15). Полагаем далее, что s > 1, так как при s = 1 доказательство очевидно. Система:

также совместна. Действительно, пусть от противного это не так. Обозначим через Г* = {у\ (су, у) = 0 {j e Li)}, а через

Раздел 6.2. Теоремы существования комитетных конструкций

237

Щу) = {j e N m \ Li\ (a,j,y) ф 0} для каждого у е Гг-. Пусть у' <= Argmax{|Mi(?/)| : у G Г*}, тогда a(y') = mm{\(aj,y')\ : j e Mi(y')} > 0 по выбору у'. По предположению, найдется io € (Nm \ Lj) \ Mi(y'). Пусть тогда у" — решение подсистемы: (oj,a;) {ajo,x)

= 0 = 1.

(jELi)

(она совместна, поскольку ее ранг равен 2 и все ау с номерами из L{ коллинеарны). Обозначим через /3(у") = max{|(aj,y")| : j G Mi(y')}, выберем произвольное е 6 (0,а(у')/р(у")) и положим у = у' + еу". Убедимся, что

(«*»)?* о

ием{(у')иШ).

Действительно, {a,jo,y' + еу") = e(ajo,y") — е > 0. Для произвольного j € Mi(y') получаем \{a,j,y' + ву")\ > \(a,j,y')\ — £ a \( j>y")\ ^ а{у') — £Р(у") > 0- Таким образом, поскольку у" € Г^ получаем противоречие с выбором у', следовательно, система (6.16) совместна. Пусть уг — ее решение. Проведя аналогичные рассуждения для каждого i € N s , по% г лучим набор векторов z и у . Выберем Л > 0 так, чтобы: max{(o j , zi + \у{), (<у, zi - \у1)} > Ь5

(j £ Li) (i G N 5 ).

Последовательность Q = (z1 + \y\zl

- Ху\...

,zs + Xys,zs - Xys)

является искомым комитетом системы (6.14). В самом деле, каждому неравенству, по построению, удовлетворяет не менее 5 + 1 из 2s элементов Q. • В случае произвольных систем включений, пусть даже выпуклых, условие совместности всякой подсистемы из двух включений не является достаточным для существования комитета.

238

Глава 6. Метод комитетов 3

Рассмотрим, например, систему (6.4) над R с m — 4 и Di

= {ж| xi < 1, ж2 < 0, ж3 < 1, xi + ж3 > 1}

£>2 = {ж| a?i < 1 , X2 < 1, жз < 0,; Ж1 -Ьжг > 1} Dz

= {ж| xi > 0, ж2 > О, ж3 > О, xi + х2 + ж3 > 2}

£>4 = {ж| Жх < О, Ж2 < 1, Жз < 1, Ж2 + 353 > 1}, не разрешимую комитетом большинства, в которой тем не менее D{ П Dj ф 0 для любых i, j € N4. Доказанная теорема устанавливает верхнюю оценку (2га —1) для числа членов минимального комитета произвольной системы (6.14), поскольку s < тп и из существования комитета из 2s членов следует существование комитета из 2s — 1 члена. Однако как будет показано ниже, при добавочных условиях ее можно существенно понизить. Рассмотрим систему: (aj,x)>0

(jeN™),

(6.17)

полученную из (6.14) заменой правых частей нулями. Как правило, задача нахождения комитетных конструкций системы (6.17) проще, чем для системы (6.14). Следующая лемма позволяет этим воспользоваться. Лемма 6.2. Существование коллективного решения системы (6.17) влечет существование коллективного решения системы (6.14) при произвольных Ъ\,... , Ьт. Пусть далее система (6.14) удовлетворяет условию: aj + а<ц фО {а > 0, j , i e N m ) .

(6.18)

Заметим, что приведенному условию удовлетворяют почти все системы (6.14) в том смысле, что вектора а\,\.. , atn произвольной системы (6.14) с любой степенью точности можно приблизить векторами а'г,... t a'm, такими, что система

239

Раздел 6.2. Теоремы существования комитетных конструкций

удовлетворяет условию (6.18). Следующая теорема устанавливает необходимое и достаточное условие существования комитета большинства системы (.6.17) и указывает верхнюю оценку числа членов ее минимального комитета (а, следовательно, и комитета системы (6.14)). Теорема 6.6. Система (6.17) разрешима комитетом большинства тогда и только тогда, когда она удовлетворяет условию (6.18), при этом число членов ее минимального комитета не превосходит т. Доказательству теоремы предпошлем следующую лемму. Лемма 6.3. Пусть система (6.17) задана в R 2 и удовлетворяет условию (6.18). Тогда число р ее МСП нечетно, р = 2t + l$ и као/сдое j E N m входитровно в t +.1 индекс ее МСП. Доказательство леммы. 1. Не ограничивая общности, полагаем, что система (6.17) имеет вид: ajx2

.U 6 /<)

(б

19)

где J> U 2"< = N m и a,j1 = aj2 тогда и только тогда, когда j i = J2Пусть 1 Е 1<. Рассмотрим системы: х\ = а\Х2 — 1 xi < ajx2 (j El<\ {1}) Х\ > ujX2 {j E I>)

и

(6.20)

У1 = а\У2 ~ 1 Vl

Vi

> am

G[e/<\{1})

< o-jVi U € •*>)

(6.21)

Глава 6. Метод комитетов

240 Убедимся, что подсистемы:

< >

x2

aj

ajx2

(j е к< с

(6.22)

\ {1})

(j € К> С

<

o.jX
>

djX2

(6.23)

(j 6 K> С I>)

совместны или несовместны одновременно. Пусть -ре.о — решение (6.23). шение (6.22), тогда ( 0) о 0' Обратное утверждение очевидно. Таким образом, подсистема (6.22) является МСП системы (6.19) тогда и только тогда; когда соответствующая ей подсистема (6.23) является МСП системы (6.20). Подсистема (6.23) в свою очередь эквивалентна системе: П

П {j : ах < aj

(6.24)

Аналогично показывается, что подсистемы: С1<\{1}) С1>)

с 1< \ {1})

сю

и

(6.25)

(6.26)

совместны или несовместны одновременно, а подсистема (6.26) эквивалентна системе: >

ai-aj

1

(j в {{К< Г) {j : аг > aj})U П {? : от > <

(6.27)

Раздел 6.2. Теоремы существования комитетных конструкций

241

Убедимся, что подсистема ajX2

(j е К<)

0 £#>) является МСП системы (6.19) тогда и только тогда, когда (6.26) — МСП системы (6.21) и множество решений соответствующей ей системы (6.27) ограничено. Пусть подсистема (6.28) — МСП системы (6.19), тогда, по доказанному, (6.26) — МСП в (6.21). Пусть, от противного, множество решений (6.27) неограничено сверху. Покажем, что тогда прямая х\ = а\х2 — является границей конуса решений (6.28). Пусть у\ — решение (6.27), тогда для любого е G (0,1) вектор (oi(—У2)+£? ~У%) ~ решение (6.28), поскольку у°/е > у° ~~ решение (6.27), и, следовательно, (аху^/е—1,у<2/е) —решение (6.26). Поскольку неравенство хх > ахХ2 — следствие подсистемы (6.28), то она содержит неравенство хх > ахХ2, следовательно, система (6.19) содержит лару противоположных неравенств, что противоречит условию. Значит, множество решений (6.27) ограничено. Обратно, пусть подсистема (6.26) — МСП в (6.21) и соответствующая ей система (6.27) имеет ограниченный интервал решений. Убедимся, что подсистема (6.28) является МСП системы (6.19). Действительно, подсистема (6.28) совместна, по доказанному; пусть от противного совместна, например, подсистема: XX

<

CLjX2 {j G i f < )

(j e K>)

(6.29)

поскольку (6.26) — МСП, то из доказанного ранее следует, что неравенство xi < а\Х2 — следствие (6.29), откуда следует совместность подсистемы

х\ < хх < Х\

> (XjX2

242

Глава 6. Метод комитетов

Поскольку (6.25) также совместна, по предположению, то из выпуклости конуса решений подсистемы (6.28) следует, что найдется ео > 0, такое что Ve G (0, £о) найдется {х\,х%) — решение (6.28), такое что х\ = ахх\ + е. Значит, {-агх%/е - 1,х\/ё) — решение (6.26) и -x\je — решение (6.27), что противоречит предположению об ограниченности множества ее решений. Следовательно, подсистема (6.28) — МСП системы (6.19). 2. Пусть L\,... ,Lp — индексы всех МСП системы (6.19) типа (6.28). Обозначим интервалы решений соответствующих им подсистем (6.27) соответственно: Т\,... ,ТР. Аналогично, пусть Ь'г,... ,L'S — индексы МСП типа (6.22), a S i , . . . ,SS — интервалы решений соответствующих им систем (6.24). Поскольку все интервалы попарно не пересекаются, то договоримся, что два интервала W\,W2 € {S\,... ,Ss,Tx,... ,TP} удовлетворяют от1 ношению Wi -< W2, если для каждых у е W\ и у1 Е W% выполняется у1 < у2. Пусть Si -< S2 - < . . . - < Ss и Т\ -< Тг -< . •. -< %. Покажем, что ~S\'-< Т\ -< S2 •< . . . -< Тр •< Ss, то есть, в частности, s = р + 1. Для этого достаточно проверить следующие 3 предложения: 1) для всякого * € Nj, найдутся j \ и j 2 , такие что Sjx -< Тг- -< Sj2; 2) для всяких %\ Ф %i € N p найдется j 6 N e , такое что.

3) для всяких j \ Ф J2 e Ns найдется г Е N p , такое что £ji -<Ti-< Sj2. Докажем, например, предложение 1), остальные доказываются аналогично. Пусть Т{ — множество решений системы (6.27). Рассмотрим совместную подсистему: И» > эквивалентную системе: VI

=

VI > ?/1 <

*№ ajy2

{К> П {j :ах > лу}) {K< П {i :-oi < су}).

Раздел 6.2. Теоремы существования комитетных конструкций

243

Обозначим множество ее решений через S'. По построению, Т{ -< S'. С другой стороны, соответствующая последней системе подсистема системы (6.19): {К> П {j : ax > aj}) ajX% {К< П '{j : a\ < aj}) совместна, следовательно, найдется МСП системы (6.19) типа (6.22), индекс которой содержит (К> П {j : а\ > aj}) U (Кк Г) {j : а\ < aj}). Пусть Sj2 — множество решений соответствующей ей системы (6.24). Тогда 5" Э Sj2 и, следовательно, Ti -< 5^. Вторая часть предложения 1) доказывается аналогично.

• Из, доказательства леммы, в частности, следует, что число членов минимального комитета системы (6.17) на плоскости равно р < т и один из минимальных комитетов состоит щз решений ее МСП, взятых для каждого по одному. Перейдем к доказательству теоремы 6.6. Доказательство. Не ограничивая общности, будем как и при доказательстве леммы полагать, что > > 0 , гфЛ

=> ( o i - с ю у ^ О ) ,

следовательно, для произвольного а € R и г Ф j , в силу (6.18) выполняется: at + aaj ф 0.

(6.30)

Рассмотрим линейный оператор Ф : R" ->• R 2 , сохраняющий это свойство, то ес¥ь такой, что вектора Фай..., Фат также удовлетворяют условию (б.ЗО). Такие операторы существуют, одним из них является оператор, определяемый в естественном базисе матрицей А = [и, v], где u,ve R n и находятся следующим образом: 1. вектор и находится из условия (aj,u) фО

(j € N m );

244

Глава 6. Метод комитетов

2. пусть otji = (a,j,u)/(ai,u), г ф j , по условию, a.j - а^<ц ф 0; вектор v находится из условия (су — ajiui,v) фО, {i ф j)По построению, векторы Аа\,... ,Аат ют (6.30), следовательно, для системы: (Фа,-,у)>0

6

R2

удовлетворя-

(j€Nm)

(6.31)

над R 2 выполняется условие леммы 6.3. Пусть р — число МСП системы (6.31) и Q' = (у1,... ,ур) ее минимальный комитет, тогда Q = (Ф*^/1, • • • , Ф*УР) комитет системы (6.17). •

'

• •

Следствие 6.1. Число членов минимального комитета системы (6.14), удовлетворяющей условию (6.18), не превосходит т. В теореме 6.6 указывается абсолютная оценка числа членов минимального комитета для очень широкого класса систем линейных неравенств (и предложен простой метод построения комитета — алгоритм проектирования на плоскость). В указанном классе оценка точна, нетрудно привести примеры систем неравенств на плоскости, число членов минимальных комитетов которых равно числу их неравенств. С другой стороны, полученная оценка, в силу своей абсолютности, никак не зависит от исходных параметров системы (6.14) — векторов oi,... ,am и Ь. Поэтому, можно получать более точные оценки, накладывая на вид системы (6.14) все более жесткие ограничения. Рассмотрим, например, следующее обобщение только что доказанной теоремы. Как обычно, обозначим через [х\ и \х] соответственно целые части "снизу"и "сверху"вещественного числа х. Теорема 6.7. Число членов минимального комитета системы (6.14) ранга г, каждая подсистема из к + 1 (0 < к < г) неравенства которой совместна, не превосходит

к

Г1'

Раздел 6.2. Теоремы существования комитетных конструкций

245

Доказательство. Поскольку, по условию каждая подсистема из двух неравенств системы (6.14) совместна, то, по теореме 6.5, она разрешима некоторым комитетом и, в силу теоремы 6.4, найдется ее МСП Jo мощности, большей Чем т / 2 . Возьмем за основу схему доказательства теоремы 6.5. Рассмотрим разбиение множества N m \Jo на непустые непересекающиеся подмножества L\,... ,LS, такие что ранг каждой подсистемы Li (i G N s _i) равен k, а ранг подсистемы Ls не превосходит к. По построению, | N m \ JQ\ < [{т - 1)/2J, a \Li\ >k (i E N s _i), следовательно,

Рассмотрим подсистему с индексом Li, где г Е N s . Сопоставим ей подсистему с индексом Li, состоящую из всех неравенств системы (6.14), линейно зависимых от неравенств подсистемы Li. Поскольку ранг подсистемы с индексом Li равен к, то она совместна по теореме Хелли. С другой стороны, для каждого j $• Li ранг подсистемы с индексом LiU{j} строго больше ранга подсистемы Li. Следовательно, для каждого г Е N s найдется у\ удовлетворяющий системе: (aj,x) = 0 (aj,x)

ф 0

(jELi), (jENm\Li).

Доказательство этого предложения аналогично рассуждению, проведенному в доказательстве теоремы 6.5. Для каждого г Е N s найдем вектор z% из условия:

Выберем Л > 0 из условия:

**

- Ху1)} > bj

(j £ Li) (г G N e ).

Пусть so — решение подсистемы с индексом Jo- Последовательность Q — (я?о, z1 + Ay1, zl - Лу 1 ,... , zs + Xys, z$ — Xys) — комитет системы (6.14). Действительно, для каждого j G N m \ J o

246

Глава 6. Метод комитетов

существует i G Ns, такое что j .€ Li, следовательно, неравенству (aj,x) > bj удовлетворяет как минимум s + 1 член Q. Поскольку число членов Q равно 2s + 1, то число членов минимального комитета системы (6.14) не превосходит

п. Ниже мы рассмотрим другой подход к уточнению верхней оценки числа членов минимального комитета. Приведем еще несколько интересных следствий из теоремы 6.6. Пусть В, — банахово пространство и / i , . . . ,fm вещественные функционалы над ним. Рассмотрим систему неравенств: /j(*)>Q

O'eNm).

'

(6.32)

Теорема 6.8. Пусть ft,... ,fm дифференцируемы по Фреше в т. х0 = 0, fj(O) = 0 для каждого j e N m и /j(O)z + а/-(0)ж ф 0 для каждого а > 0 и i ф j . Тогда система (6.32) разрешима комитетом из не более чем т членов. Для доказательства достаточно линеаризовать fj в нуле и рассмотреть систему линейных неравенств: f'j(O)x > 0 (j € N ro ). Другим важным следствием теоремы 6.6 является теорема о существовании разделяющего комитета для конечных множеств

A,BcRn.

Теорема 6.9. 1. Для существования линейного разделяющего комитета для мнооюеств А, В С R n необходимо и достаточно, чтобы множество A U —В не содерокало нулевых и противоположно направленных векторов. Минимальный линейный разделяющий комитет для этих множеств содероюит не более |AU Б | членов.

Раздел 6.2. Теоремы существования комитетных конструкций 2. ДЛЯ существования аффинного разделяющего комитета для множеств 4 , S c R " необходимо и достаточно, чтобы А (Л В = 0. Минимальный аффинный разделяющий комитет для этих множеств содержит таксисе не более \A\JB\ членов. Доказательство следует из условий существования комитета для систем неравенств: Г

(а, я)

> 0

{аеА)

\ {-ъ,х) > о {beв), (а,х) + у (-Ь,х)-у

и

> 0 {аеА) > О {be В)

, fi

(б

ч )

-33)

(6.34)

соответственно. Аналогичная теорема может быть сформулирована и для комитета старшинства. Теорема 6.10. Для существования разделяющего аффинного комитета старшинства для мнооюеств A, B c R " необходимо и достаточно, чтобы АГ\В = 0. Минимальный такой комитет содероюит не более \A\JB\ членов. Доказательство. Необходимость очевидна, докажем достаточность. Пусть А = {#1,... , Хк} и В = {yi,... , yi}. Поскольку А П В = 0 и A U В — конечное множество, то существует с € R n такой что (с, х - у) ф 0

{х

еА,у€В)

Упорядочив множество Л и Б по убыванию (с,-), получим, например, последовательность:

Рассмотрим последовательность из s + 1 элементов: (((с, •) - (с, xihl)

+ Е, 1), (с, •) - (с,y h ) + е, 0),... ,

((с,.) - {c,xij

+е,1),((с,-) - (с

247

248

Глава 6. Метод комитетов

каждый элемент которой является парой: (<член комитета>, <номер класса, за который он голосует>), и " 1 " соответствует множеству А, а "О— множеству В. Нетрудно убедиться, что при достаточно малом е > 0 она является аффинным разделяющим комитетом старшинства для множеств А и В. П Теоремы 6.9 и 6.10 можно обобщить на случай конечного числа классов А\,... ,Ат.

6.3.

Гиперграф максимальных совместных подсистем

Задача изучения комитетной разрешимости системы: ••±eDj ( j 6 N m ) ,

(6.35)

в которой Dj — некоторые множества в R n , тесно связана с зада-, чей изучения структуры множества ее максимальных совместных подсистем (МСП). Последнюю задачу удобно формулировать в терминах теории графов. Определим понятие гиперграфа МСП системы (6.35) и рассмотрим некоторые его свойства, связанные с комитетной разрешимостью исследуемой системы включений. Определение 6.9.'Гиперграфом МСП системы (6.35) назовем гиперграф G = (V,E), где V = {Л,... ,J P } — множество индексов МСП системы (6.35), и {J^,... , Jisj e В тогда и только тогда, когда (JJUi \ = NmОпределим условия, необходимые и достаточные для того, чтобы произвольный конечный гиперграф Г являлся гиперграфом МСП некоторой системы (6.35) с точностью до изоморфизма. Как обычно [6], будем говорить, что гиперграфы Г и G изоморфны, если существует биекция <р : VT -)• V, обладающая свойством: и .= {v\,... ,vs} e ET тогда и только тогда, когда {(p(vi),... ,(р(у3)} е Е. В дальнейшем будем обозначать

Раздел 6.3. Гиперграф

М

С

П

2

4

9

Теорема 6.11. Пусть Г = (VT,ET), где VT = {ы;... ,vp}, конечный гиперграф без кратных ребер. Гиперграф Г изоморфен гиперграфу G МСП системы (6.35) для подходящих чисел т, п n и множеств D\,... , Dm С R тогда и только тогда, когда ЕТ удовлетворяет условиям: если р > 1, то ЕТ не содержит петель,

(6.36)

(и е ЕТ, uCw)=>we

(6.37)

ЕТ.

Доказательство. Необходимость. Пусть Г, гиперграф без кратных ребер, изоморфен гиперграфу G МСП некоторой системы (6.35), пусть <р : VT -> V — изоморфизм Г на G. Покажем, что выполнены условия (6.36-6.37). Действительно, если р > 1, то система (6.35) несовместна, значит, множество Е ребер гиперграфа G не содержит петель, по определению гиперграфа МСП, следовательно, ЕТ также не содержит петель, так как Г и G изоморфны. Пусть теперь и = {vi,... ,Vk} £ ЕТ zw = {«!,... ,vk,.,. ,va}, тогда tp{u) = { J i n . . . , Jik}, — изоморфизм, то ср(и) G Е, значит, UtU Jit = N m, следовательно, Ut=i Jk = N m, и tp(w) e E, no определению гиперграфа МСП, откуда w = ^~ 1 (у( г у )) ^ -^Г, так как >р~1 также изоморфизм. Достаточность. Покажем, что если условия (6.36-6.37) выполнены, то найдутся число т и множества JD\,... ,Dm E N, такие что гиперграф G МСП системы (6.35) изоморфен Г. Если'р = 1, то возможны два случая: Г = ({vi},{{vi}}) и Г = ({v\},Q)). В первом случае полагаем т = 1 и D\ — {1}, во втором m = 2 и D\ — {1}, £>2 = 0. Видно, что в обоих случаях гиперграф МСП построенной системы (6.35) изоморфен Г. Если р > 1, то положим

Так как множество W конечно, то будем считать, что W {и>х,..., wm}, где т > 0. Положим Jk = {i | Щ £ Wi} 9 Математические методы...

250

Глава 6. Метод комитетов

для всех k e N p . Построенные множества удовлетворяют следующим условиям: 0

ф

J*CNm,

Ф 0 (Ai^fta)

(6.38) • (б-39) ( 0 # £ C N P ) . (6.40)

Условия (6.38-6.39) гарантируют, что множества J\,... ,JP являются индексами МСП некоторой системы включений. Действительно, положим: Dj = {i\jeJi}

(j£Nm),

,(6.41)

Видно, что множества Jfe, (к € Np) и только они являются индексами МСП системы (6.35) с построенными множествами Dj. Действительно, для каждого Jj, по построению, выполнено: г € Dj (j ё Ji), следовательно, dj^j^j Ф 0- С другой стороны, пусть C\jeL Dj ф 0) где L ф 0. По построению, найдется г £-Np, такое что Г £ .Д,- для каждого j £ L, значит, L С Jj. Определив биекцию (/з : УГ —> V естественным образом: ip{vk) = J^, в силу условия (6.40), получаем, что <р — изоморфизм гиперграфа Г на G.

D Дал^ее будем рассматривать гиперграфы с точностью до изо-, морфизма,' отождествляя изоморфные Г'и С Другими словами, гиперграф без кратных ребер, удовлетворяющий условиям (6.36-6.37), будем называть гиперграфом МСП. Как следует из доказанной теоремы, класс гиперграфов МСП систем вида (6.35) достаточно широк. Выделим в нем подкласс гиперграфов МСП систем (6.35), разрешимых комитетом из q членов, для некоторого заданного qEN. Пусть к G N g _i. Определение 6.10. Конечную последовательность вершин S — (v^,...,Viq+1) гиперграфа Г, обладающую свойством: для каждого L С N g + i, такого что \L\ = fc-Ы, выполняется {^. : j 6 L} е ЕГ, назовем (q, &)-симплексом в гиперграфе Г = (УГ, ЕГ).

Раздел 6.3. Гидерграф МСП

251.

Обозначение (q, /г)-симплекс выбрано из геометрических соображений. Видно* например, что вершины-элементы (2, ^-сим1 плекса образуют в гиперграфе Г треугольник (3-цикл). Следующее простое утверждение содержит критерий, связывающий разрешимость системы (6.35) комитетом с существованием в ее гиперграфе МОП (q, /г)-сшушлекса для подходящих чисел q,keN. Теорема 6.12. Система (6.35) разрешима комитетом из q членов тогда и только тогда, когда в гиперграфе G ее МСП найдется подгиперграф, вершины которого образуют (q — 1, [(q — 1)/2 j)-симплекс. 1

q

Доказательство. Пусть Q = (х ,... ,x ) — комитет систеl мы (6.35), G — гиперграф ее МСЦ. Положим J[ = {j\ x € Pj}, для каждого г е N g . Пусть J i , . . . , Jq — индексы МСП системы (6.35), не обязательно различите, такие что J[ С Jj {% GN g ). Покажем, что ( J i , . . . ,Jq) — искомый (q — 1, [(q — 1)/2])-симплекс. Действительно, рассмотрим произвольное ,L С N g , такое что \Ц = [(q- 1)/2J +1 = L(? + 1)/2J, L.= {h,• • ...,«L(e+D/2j}» и произвольное j e N m l Если j $. ( Ufc=i нию, j ^ I Ujfc=i то

^4 ) • Поскольку Q — комитет системы (6.35),

эe rn2=|_a±ij J 4J s I ' t ^ j Ji4' 9 +1)/2J

3 6 U}i i

«^"4 ) > то,'по по.строе-

Ji, • Следовательно, J = | j E

0ТК

Уда ^едует-что

+1)/2J

Л , и ( J i , . . , , J 9 ).

является (q — 1, [(g — 1)/2])-симплексом в гиперграфе G. Достаточность. Предположим, что в гиперграфе G нашлись не обязательно различные вершины J i , . . . ,Jq, образующие (q — 1, [(q — 1)/2])-симплекс. Пусть хг е D(Ji) (i e N 9 ). Рассмотрим произвольное j G N m , не ограничивая общности, будем полагать, что {г| х{ е Dj} = {1,... , q'}. Тогда j $ (lJLg'+i Jl) ' С л е ' довательно, q- q' < [(q + 1)/2J, откуда q' > [q/2\ + 1. Значит, Q — (ж 1 ,... ,xq) — комитет системы (6.35), по определению.

•

252

Глава 6. Метод комитетов

В доказанной нами теореме утверждается, что задачи поиска комитета с заданным числом членов и подгиперграфа специального вида в гиперграфе МСП эквивалентны. В следующем параграфе мы приведем классификацию комитетов по строению соответствующих им подгиперграфов гиперграфа G. Опишем свойства гиперграфа МСП системы линейных однородных неравенств, заданной на плоскости. Пусть задана система: {ц,х)>0

(jeKm),

(6.42)

2

где aj,x G R и среди векторов aj нет нулевых и противоположно направленных. Пусть {ii,... , 1Р} — множество индексов МСП системы (6.42). Как упоминалось ранее, р нечетно и равно числу членов минимального комитета, разрешающего систему (6.42), будем полагать р = 244-1- Пусть Gi = (V2, Е2) — гиперграф МСП системы (6.42). Ниже мы покажем, что он обладает своего рода экстремальным свойством относительно числа членов минимального комитета системы (6.42): множество его ребер максимально по включению среди множеств ребер гиперграфов порядка р МСП произвольных систем (6.35), разрешимых минимальным комитетом из р членов. Рассмотрим булеву матрицу М размера m x р, элемент которой / !» если j-.Gii, / т . . _ 31 \ 0, иначе Перенумеруем неравенства и индексы МСП системы (6.42) так, чтобы матрица М приобрела удобный для рассмотрения вид. Для этого сопоставим каждому неравенству единичный направляющий вектор Cj прямой {х | (оу,ж) = 0}, выбрав из двух возможных тот, при движении в направлении которого по указанной прямой полуплоскость {х j (a,j,x) > 0} остается справа. Обозначим индексы МСП системы (6.42) символами Д , . . . ,1Р в порядке возрастания полярного угла направляющего вектора левой границы конуса решений соответствующей МСП. Пронумеруем неравенства системы (6.42) натуральными числами

253

Раздел 6.3. Гиперграф МСП

1,... т в порядке возрастания полярного угла сопоставленных им направляющих векторов с,, считая, что номер 1 присвоен направляющему вектору левой границы конуса решений МСП с индексом 1\ (см. Рис. 6.1). 9

В

2

В*

9'

Рис. 6.1: Пример нумерации неравенств и максимальных совместных подсистем При выбранной нумерации неравенств и индексов МСП системы (6.42) матрица М примет следующий вид:

О

1 О 1 1

0 1

.. О

1

О

...

О ...

О

1

О

1

1 1 0 1

...

1 1

О 1

...

1

1

Глава 6. Метод комитетов

254

Видно, что каждое неравенство входит ровно в t+1 индекс МСП, причем, поскольку в матрице М ровно р = 2t+l попарно различных строк, то неравенства системы (6.42) разбиваются нар классов эквивалентности. А именно, неравенства с номерами j \ и ji входят в одни и те же индексы МСП тогда и только тогда, когда они являются представителями одного класса (соответственно, когда строки матрицы М с номерами j \ и ,?2 совпадают). Пронумеруем классы эквивалентности неравенств системы (6.42) в естественном порядке числами 1,... ,р. Итак, Сг2 = (V2,E2) — гиперграф МСП системы (6.42) на плоскости, Уг = {1%,... , 1Р}. Для описания множества Ei достаточно оставить в рассмотрении по одному неравенству из каждого класса эквивалентности, рассматривая вместо матрицы М квадратную булеву матрицу М' размера р х р : 1 О

М'=

0

1

1

1

0

•••

1

О

1

1

1

1

"•

0

•

1

"•

1 •.

0

;••

О 1 О '• О О

1

1

о

"•• о

1

> !

Легко видеть, что, например, вершина Д входит в двухэлементные ребра {Ii,It+i} и {Ji, J i + 2 } . Следующее простое предложение определяет условие на номера вершин, входящих в некоторое подмножество и С Уг, необходимое и достаточное для того, чтобы и £ Еч. Ниже всегда будем полагать, что запись: u={Ii1,.:.)Ii3} подразумевает ix
Раздел 6.3. Гиперграф

М

С

П

2

6

5

Предложение 6.1. Подмножество вершин {1^)... ,Д3} гиперграфа С?2 является его ребром тогда и только тогда, когда для каждого к € Ns выполняется (i((k ( m o d s))+i) ~ ч) (mod p) <

t + 1.

:•

.

Доказательство. Достаточность очевидна ввиду особенности строения матрицы М'. = N Необходимость. Пусть {/^,... ,4,} е Е2. Тогда UJUI-^A m, по определению Gi- Покажем, например, что %%—i\ < t+1. Заметим, что в МСП с индексом Ik входят все неравенства-представители классов с номерами: к, (к (mod р)) + 1,... ,((к + (t — 1)) (modp)) + 1 и только они. Рассмотрим произвольное неравенство с номером г из класса ((«i + t) (modp)) + 1. Видно, что т ^ 1{г, значит, найдется к 6 2,s : т'Е Iik. Следовательно, все неравенства из указанного класса входят в МСП с индексом 1{к. То есть, либо ik = ((h+t) (mod р))+1, либо найдется с 6 0, t — 1, такое что ((г^ + с) (mod р)) + 1 = ((ц +1) (mod p)) + 1. В первом случае ik - 1 = (ik — 1) (mod p) = (ii + i) (mod p), откуда 4 — 4 = {h — h) (mod p) = (t + 1) (mod p) = t + 1. Во втором ** — «i = (ijfc — ц) (modp) = {t — c) (modp) = t — с < t. Поскольку г - 4 < * + 1Из доказанного предложения следует, в частности, что, если число р достаточно велико, то Е% содержит ребра, не содержащие в себе никакое двухэлементное ребро. Например, гиперграф МСП системы изображенной на рис. 6.1, содержит ребро {Ii, 14,17}, не содержащее.в себе двухэлементные ребра. Перечислим также некоторые свойства графа МСП системы линейных однородных неравенств, множество вершин которого совпадает с множеством вершин ее гиперграфа МСП, а множество ребер индуцируется подмножеством двухэлементных ребер указанного гиперграфа. Понятие графа МСП впервые было введено в работе [28] для системы строгих однородных линейных неравенств. Свойства этого графа подробно изучены в работах [2, 3], в работе [2] неко-

256

Глава 6. Метод комитетов

торые из них были обобщены на случай более общей системы включений. Следствием этих результатов стало построение более быстрого, чем алгоритм свертывания Фурье-Черникова [33], алгоритма нахождения всех МСП системы строгих однородных линейных неравенств. Пусть J i , . . . , Jp — индексы всех МСП системы (6.35). Далее мы будем пользоваться некоторыми понятиями из теории графов [6]. Пусть G = (V,E) произвольный граф. Степенью его вершины v называется число ребер, инцидентных v, то есть число: |{е G Е : v € е}|. Чередующаяся последовательность: V1,{VI,V2},V2,{V2,V3},... ,{vi-i,Vl},V[,

(6.43)

в которой Vj е V, {VJ,VJ+I} G Е, называется (г>1,эд)-маршрутом. Часто маршрут задается последовательностью входящих в него вершин. Маршрут называется цепью, если все его ребра различны, и простой цепью, если все его вершины, кроме, может быть, крайних, различны. Маршрут (6.43) называется циклическим, если v\ = vi. Циклическая цепь называется циклом, а простая — простым циклом. Число ребер маршрута называется его длиной. Граф G называется связным, если для любых вершин V{ ф Vj в нем существует (и*, и^-маршрут. Далее мы будем рассматривать цепи и циклы в гиперграфе, тем не менее, подразумевая под ними только что введенные понятия. • Пусть X топологическое пространство, в котором заданы упорядоченные пары множеств (Ai,A'j),... , (Am,A'm). Определим множества £>i, . . . ,£>m С X х {0,1} следующим образом:

и рассмотрим систему включений:

Видно, что произвольная подсистема с индексом 0 ф L С N m системы (6.44) совместна (т.е. D(L) = f]jeLDj ф • 0) тогда и

только тогда, когда ^)jeL A,-) U (f)jeL

A'fj ф 0.

257

Раздел 6.3. Гиперграф МСП

Теорема 6.13. Пусть множества Aj,A'j открыты в X, Aj П A'j = 0, Fj = X\ (Aj U A'j) нигде не плотно в X для всех j G N m и множество F = Ц_,у F{ Г)Fj. Если множество X\F связно, то граф МСП системы (6.44) связен. Следствием приведенной теоремы является теорема, доказанная ранее В.Ю.Новокшеновым, о связности графа МСП системы: (aj,x)>0

(j€N m ),

(6.45)

в которой aj,x e R n , ||о^|| = 1 и a,j±ai ф О для любых i,j € N m . Действительно, сопоставим системе .(6.45) подходящую систему (6.44) [2], для чего положим Aj = {x\(aj,x) > 0}, A'j = {х\(aj,x) < 0}. Для произвольного 0 Ф L
258

_^____

Глава 6. Метод комитетов

Теорема 6.16. Всякое ребро графа МСП системы (6.45) принадлежит простому циклу длины не большей т. Теорема 6.17. Граф МСП системы (6.45) содержит простой цикл нечетной длины, не превосходящей т. Последняя теорема позволяет с другой стороны взглянуть на вопрос существования комитета для системы линейных однородных наравенств. Из определения комитета следует, что если индексы J\, J2, • • • , fok-i образуют цикл в графе МСП произвольной системы включений (6.35) (в частности, системы (6.45)), то указанная система разрешима комитетом, составленным из решений соответствующих МСП, взятых для каждой по одному. Таким образом, наличия цикла нечетной длины достаточно для существования комитета. Последняя теорема утверждает, что если система линейных однородных неравенств обладает комитетом, то она обладает и комитетом, которому соответствует простой цикл нечетной длины. Теорема прямо следует из теоремы 6.6, в доказательстве которой строится комитет системы (6.45) из не более чем т членов — решений МСП, индексы которых как раз образуют в графе ее МСП цикл нечетной длины, в котором можно выделить простой подцикл также нечетной длины. Ниже будет показано, что в случае произвольных систем включений наличие в графе МСП системы (6.35) цикла нечетной длины не является необходимым для ее разрешимости комитетом (например, система рассмотренная в замечании после теоремы 6.3, разрешима комитетом из 5 членов, в то.время как ее граф МСП ацикличен), поэтому возникла задача классификации минимальных комитетов с одинаковым числом членов в соответствии с подграфом, порожденным в графе МСП индексами МСП, из решений которых они составлены. Ниже мы решим эту задачу для числа членов комитета 3 и 5. Кроме перечисленных, в работе [2] получен еще ряд интересных свойств графа МСП системы (6.45): раскрашиваемость, 2-связность и др.

259

Раздел 6.4. Минимальный комитет

6.4.

Минимальный комитет

В разделе описываются свойства комитетах минимальным числом членов, называемого минимальным, не обязательно совместной системы включений: (j в N m ) ,

х Е Dj

(6.46)

где Dj — некоторые множества в R". На множестве Q комитетов системы (6.46) можно определить различные критерии выбора оптимального элемента, реализующие различные подходы к обобщению понятия ее решения: 1. критерий минимального расстояния между членами; ему соответствует задача нахождения комитета Q = (а? 1 ,... , ж9) 6 Q, минимизирующего величину п(\\<гг — <г2Н х

9\\\

х

И г ' " 1 — г'1П х

\ь • • • > \\

х

\\))

где g — некоторая выпуклая функция; 2. критерий максимума частот событий: 'Ч-тый член комитета удовлетворяет j-тому ограничению"(г € Ng, j G N m ); ему соответствует задача нахождения Q = (ж 1 ,... , xq) € Q, максимизирующего функцию р : Q ->• [0,1] вида: . |{»: /ЛЧ p(Q) = mm

^

3. критерий оптимизации средней прибыли; ему соответствует задача поиска Q = (ж 1 ,... , xq) G Q, максимизирующего величину:

для некоторого с G R n , и другие.

260

Глава 6. Метод комитетов

Критерий минимальности числа членов является одним из наиболее часто употребимых критериев оптимальности на множестве комитетов системы (6.46). Тем не менее задача поиска минимального комитета, ввиду своего комбинаторного характера, является одной из наиболее трудных в теории комитетов. В дискретной оптимизации есть понятие NP-полной и NPтрудной задач. Примерами таких задач являются известные задачи коммивояжера, целочисленного программирования, о рюкзаке. Все эти задачи характеризуются тем, что, во-первых, для их решения не известно алгоритма, вычислительная сложность которого оценивалась бы сверху полиномом от длины записи их условий, а, во-вторых, известно, что если бы нашелся такой алгоритм хотя бы для одной из таких задач, то все задачи из класса NP также были бы разрешимы алгоритмами с полиномиальной оценкой сложности. NP-полная задача кроме того характеризуется принадлежностью к классу NP — класса задач с полиномиальной проверкой полученного ранее решения. Ясно, что Р, класс всех задач, разрешимых полиномиальными алгоритмами, является подмножеством NP. Существует гипотеза, что Р ф NP, в рамках которой NP-полные задачи являются как бы самыми труднорешаемыми в классе NP. Ниже мы покажем, что задача поиска минимального комитета системы (6.46), в которой все множества Dj конечны, является NP-трудной. ' Теорема 6.18. Пусть Di,D2,...,Dm — конечные мнооюества. Задача поиска минимального комитета системы (6.46) NP—трудна. Доказательство. Достаточно доказать NP-полноту следующей задачи распознавания свойств: Задача КОМИТЕТ: Заданы подмножества Di, £>2,. •. , Dm конечного множества X и число к 6 N. Определить, существует ли комитет системы (6.46) с числом членов, не превосходящим 2к — 1. Воспользуемся стандартным приемом доказательства и покажем полиномиальную сводимость к поставленной задаче задачи

261

Раздел 6.4. Минимальный комитет

МНОЖЕСТВО ПРЕДСТАВИТЕЛЕЙ, NP-полнота которой доказана [5]. Задача МНОЖЕСТВО ПРЕДСТАВИТЕЛЕЙ: Заданы подмножества С\, Сг,... , С„ конечного множества S и число А;. Определить, существует ли система представителей М для заданных подмножеств с числом членов, не большим к. Для доказательства полиномиальной сводимости достаточно для произвольного конечного множества S, набора его подмножеств С\,... , Сп и числа к указать множество X и его подмножества Di,... , D m , такие что множества С\,... ,С п обладают системой представителей с числом членов не большей к тогда и только тогда, когда система (6.46) обладает комитетом с числом членов, не превосходящим 2к — 1. l 2 Итак, пусть S = {s ,s ,... ,5*}, заданы Сх,... ,Сп С S и число к G N. Выберем s° $ S и положим X = S U {s0}, a m = : п + 1. Положим

Эти построения, очевидно, можно проделать за время O(m + t). Пусть М — система представителей для множеств С\... ,Сп й L(M) = {s11,... ,sM}, I < к, тогда не трудно убедиться, что К = I s°,... , s°, sil,...

, s4 \ является комитетом системы (6.47)

из 11 — 1 < 2к — 1 членов. Докажем обратное. Пусть ГГ _ ~

/О0 ' 1 у

. 0 „Ji ' ' *..' '

J

.*< '••• '

— комитет системы (6.47), и г + I — 2к' — 1 < 2к — Г. Не ограничивая общности можно полагать, что к < п. Легко видеть, что г <1 — 1, значит, I > к''. Поскольку К — комитет, среди его элементов s*1,... ,s**' найдется s l ( J ) G Cj для каждого j G N n , следовательно, последовательность:

262

Глава 6. Метод комитетов

— система представителей для множеств С ь . . . , Сп. Число членов М, по построению, не превосходит k' 0

(je¥lm)

(6.48)

состоит из р — It + 1 членов. Обозначим ее гиперграф 'МСП через (?2 = (у^Ег). Как следует из утверждений предыдущего параграфа, его порядок равен также р, пусть Vi — .{Д,... ,/ р }. Теорема 6.19. Пусть -ф — гомоморфизм гиперграфа G2 МОП системы линейных однородных неравенств (6.48) на плоскости в гиперграф G = (V,E) МСП системы включений (6.46) и существует {I/bj,... tIk.} С F 2 , такое что {4 Х ) ... ,Iks} $• -#2, о {^(Jfcj),... ,ф{1к3)} £ Е, тогда число членов минимального комитета, разрешающего систему (6.46), меньше р. Доказательство. Воспользуемся следующим легко проверяемым предложением.

Раздел 6.4. Минимальный комитет

263

Пусть J i , . . . ,i>(hs)} 6 JB. В силу предложения 6.1, найдется такое j G N s , что (mod e))+i) - fy) (mod р) > £ + 1. Поскольку р = 2£ + 1, то такое j — единственно. Не уменьшая общности, можно полагать, что 1 = fci < k2 < • • • < ks = к, я (1 — k) (mod p) > t + 1, тем самым, к < t. Рассмотрим вершины гиперграфа G2 : Ii,It+2> h,--- , It+ki IkНетрудно видеть, что они образуют в нем простую цепь (is^ содержит ребра {h,h+2},{tt+2,h}, ••• >Ui+b4}), следовательно, ip(Ii),ip(It+2),il;(l2),..,ip{It+k),^(Ik) таклсе образуют цепь в гиперграфе G, так как if) — гомоморфизм. Поскольку, в силу введенных обозначений,

и первое множество принадлежит Е, то

следовательно, система (6.46), в силу приведенного выше предложения, разрешима комитетом, составленным из решений МСП с индексами

взятых для Калсдой по одному. Число членов этого комитета 2к ~ 1 < 2* - К 2« + 1 = р. • Замечание. В доказательстве теоремы указан алгоритм оценки числа членов минимального комитета системы (6.46). Если О2 гомоморфно вкладывается в G, то минимальный комитет системы (6.46) содержит не более р членов. Если при

264

Глава 6. Метод комитетов

этом гомоморфный образ G% "более связен", чем С?2, то есть найдется такое {Дц- •• ,Да} С V2, что {/Г ,. • • ,Д3} Ф -#2, {^(Iti), • • • , ^ ( 4 ) } е Д и t ( ( (fc ( m o d ,) ) + 1 ) - ifc) (mod р) > t + 1, то число членов в минимальном комитете системы (6.46) не превосходит 2{{ik - Щк (mod s))+i)) (^od Р)) + l < Р- Воспользуемся этими соображениями для уточнения оценки числа членов минимального комитета системы неоднородных линейных неравенств. Рассмотрим несовместную систему неравенств: Х

\<Ч,х)>Щ (j€N m ),

(6.49)

в которой х е R n и каждая подсистема из двух неравенств совместна. По теореме 6.5, система (6.49) разрешима некоторым комитетом большинства. Требуется оценить сверху число членов ее минимального комитета. Теорема 6.5 предоставляет такую оценку в общем случае: число членов минимального комитета не превосходит 2 т — 1 членов. Однако в большинстве практических задач удается построить комитет с гораздо меньшим числом членов. Действительно, поскольку данные в конкретной системе (6.49), как правило, задаются приближенно, можно считать, что среди векторов a,j отсутствуют нулевые и противоположно направленные, следовательно, задачу поиска комитета системы (6.49) можно свести к аналогичной для системы: (aj,x)>0

0'6N m ).

(6.50)

Далее под классом всех систем линейных неравенств будем понимать класс систем вида (6.49), для которых система (6.50) разрешима комитетом. По теореме 6.6, число членов минимального комитета системы (6.50) не превосходит т , причем данная оценка является точной в классе произвольных систем линейных неравенств. Однако, указанная оценка не учитывает никакую информацию о системе неравенств, кроме числа неравенств. Теорема 6.19 позволяет указать более точную, чем т, оценку числа членов минимального комитета системы линейных неравенств, зависящую от векторов a i , . . . ,am и b.

265

Раздел 6.4. Минимальный комитет

Воспользуемся методом, предложенным в доказательстве теоремы 6.6, а именно, рассмотрим линейный оператор Ф : R n —)• R 2 , обладающий свойством: среди векторов <&(ai),... , Ф(атп) нет нулевых и противоположно направленных векторов. В этом случае система: (Ф(оДу)>0

(j€Nm)

(6.51)

комитетно разрешима, следовательно, этим же свойством обладает система: (Ф(вДу)>Ь,-

(jeNm).

(6.52)

Если Q' = (у 1 ,.,. , у4) — комитет системы (6.52), то Q = (Ф*(у1), ... , Ф*(у9)) — комитет системы (6.49). Пусть {Ji,... ,Ip} и {J\,..., Jr} — множестваМСП, а(7(6.51) и С(6.52) гиперграфы МСП систем (6.51) и (6.52) соответственно. По определению гиперграфа МСП, VCr(6,5i) = {ii,.-. ,IP}Обозначим через

W = 2VG^)

\ (^G(6.5i) U {0,

Для каждого элемента го = {1ГХ ,... , Iis} G W, в силу предложения 6.1, найдется k G N 5 , такое что (*((fc (mod e))+i) - *fc)

(

mod

p) > * + 1,

где p = 2i + 1 . Определим функцию А : W —)• Z как А (го) = («fc ~ «((A

(mod s))+l))

(

m o d

P)t

множество:

Jfer=l

266

Глава 6. Метод комитетов

и число . h^)-\

Г mm{A(w)\w 6 W'}, если W ф 0, t, иначе. "

Теорема 6.20. Число членов минимального комитета системы (6.49) не превосходит 2£(б-49) + 1. Доказательство. Пусть W ф 0 и w = {1^,... , ГГЛ € W таково, что А (ад) = £(6.49) > J/i)--- ,«/j, не обязательно различные индексы МОП системы (6.52), UJUi^ifc = N m и Дк С J Jfc . Определим -ф : F<jr(6.5i) -*• ^<J(6.52) так, чтобы ^ ( l i j = Jjk для каждого к & Ns и ^(Jj) = Jj, где Jy Э Ii, для всех остальных Jj. Тогда (2(6.51) гомоморфно вкладывается с помощью ф в (3(6.52) и его образ "более связен", чем (2(6.51)) п о построению. По замечанию к теореме 6.19, система (6.52) разрешима комитетом из 25(6.49) + 1 членов. • В доказанной нами теореме получена более точная, чем ранее, оценка числа членов минимального комитета в классе систем линейных неравенств, зависящая от векторов ах,... ,ат,Ь и оператора Ф. А именно, в доказательстве теоремы для системы (6.52) находится минимальный среди комитетов, построенных из решений МСП, индексы которых содержат индексы МСП системы (6.51), образующие в (?(6.5i) цепь. Можно показать, что полученная оценка точна в классе систем (6.49), для которых система (6.52) не обладает другими МСП, кроме тех, все индексы которых содержат некоторые ин-, дексы МСП системы (6.51). Изображенная на рис. 6.2 система неравенств вида (6.52) обладает МСП с индексом J$, содержащим в качестве собственного подмножества индекс 1з МСП соответствующей ей системы (6.51). Поэтому, по теореме 6.20, минимальный комитет изображенной системы имеет не более 7, членов. Видно, что минимальный комитет изображенной системы содержит ровно 7 членов (он состоит из решений МСП с индексами Hi- •• 1 ^5) Jii J&t J9)) х °тя минимальный комитет системы (6.51) содержит 9 членов.

Раздел 6.4. Минимальный комитет

267

Рис. 6.2: Пример системы неоднородных неравенств

О классификации минимальных комитетов В предыдущем параграфе была установлена связь между существованием у системы включений (6.46) комитета с заданным числом членов q и существованием в гиперграфе ее МСП подгиперграфа определенного вида, а именно, подгиперграфа, вершины которого образуют (q — 1, [(q — 1)/2])-симплекс. Видно, что при q = 3 такой подгиперграф определяется единственным образом, однако с ростом q число попарно неизоморфных подгиперграфов, удовлетворяющих этому свойству, быстро растет. Не трудно видеть, что свойства комитета как обобщенного решения системы (6.46) зависят от того, какой именно подгиперграф ему соответствует. Из этих соображений целесообразно провести перечисление минимальных комитетов с заданным числом членов, основываясь на понятии изоморфизма гиперграфов. Определение-6.11. Последовательность ( J i , . . . , Jq) индексов МСП системы (6.46) назовем g-комитетообразующей совокупностью (g-КОС), если найдется минимальный комитет системы (6.46) Q - (ж 1 ,... ,ж«), такой что х{ е D(Ji) = OjeJiD3 Д л я каждого i e N g . Из. доказательства теоремы (6.12) следует, что если число членов в минимальном комитете, разрешающем систему (6.46),

268

Глава 6. Метод комитетов

равно q, то понятия g-КОС и (q — 1, [(q - 1)/2])-симплекса совпадают. Далее будем рассматривать только те комитеты системы (6.46), которые состоят из решений ее МСП. При этом будем полагать, что два комитета Q\ и Q2, допускающие такую перенумерацию элементов, что соответствующие их члены являются решениями одних и тех же МСП, эквивалентны. В соответствии с этим предположением для классификации минимальных комитетов из q членов достаточно произвести перечисление всех попарно неизоморфных q-KOC. Пусть К = (Ji,... ,Jq) — q-KOC системы (6.46), и пусть L(K) = {Jjj,... , Jir}, где г < q, — множество индексов в К. Определение 6.12. Гиперграфом (графом) д-комитетообразующей совокупности К назовем подгиперграф G{K) подграф G(K)), порожденный в гиперграфе (графе) МСП системы (6.46) множеством вершин L(K). Рассмотрим несовместную систему включений; xeD'j/

(j6Nm/),

(6-53)

n

в которой, как в системе (6.46), Р'- € R . Пусть К' = (J{,... , J'g) — q-KOC системы (6.53). Определение 6.13. q-KOC К и К' называются изоморфными тогда и только тогда, когда изоморфны гиперграфы G(K) и В силу приведенного определения задача перечисления qКОС эквивалентна задаче перечисления попарно неизоморфных гиперграфов G(K). Поскольку граф произвольной 3-КОС — цикл длины 3, и, следовательно, все 3-КОС попарно изоморфны, то решим поставленную задачу в простейшем нетривиальном случае, когда q = 5. Обозначим через 5 множество всех систем произвольных включений вида (6.46), а через S произвольный элемент <S, конкретную систему (6.46). Обозначим через K(S) множество всех 5-КОС, которыми обладает система S, а через £(<S) = Usgs^'('S')- Д л я дальнейших рассуждений воспользуемся следующим очевидным предложением.

269

Раздел 6.4. Минимальный комитет

Предложение 6.2. Пусть G\ u G2 гиперграфы МСП, обладающие свойством:

(uCVGh

M = 3) =*• ueEGi

{г = 1,2),

(6.54)

и пусть Гх, Гг — графы, у которых VT{ = VGi, EYi совпадает с подмнооюеством двухэлементных ребер мнооюества EG{. Гиперграфы G\ и Gi изоморфны тогда и только тогда, когда изоморфны графы Гх' и Гг. Поскольку гиперграф произвольной 5-КОС удовлетворяет условию (6.54), то, в силу приведенного предложения 5-КОС К\ и Ki изоморфны тогда и только тогда, когда изоморфны их графы Т(Кг) и Т{К2). Теорема 6.21. Множество K{S) содероюит ровно 15 попарно неизоморфных элементов. Доказательство. По определению, 5-КОС содержит не менее 4 различных индексов. Если 5-КОС Ко содержит ровно 4 различных индекса, то ее граф определяется однозначно с точностью до изоморфизма, поэтому будем полагать, что Ко = (Jlt Ji, J2, J 3 , J4), и ее граф Г о = Г(ЛГо) = (V(K0),E(KQ)) следующего вида: V(K0) = {Л, J 2 , Js, Ji},

E(K0) = {{Л, J 2 }, {Ji, J 3 }, {JU

W-

Если К содержит 5 различных индексов, то Г (К) имеет 5 вершин и не содержит цикла длины 3. Известно [30], что существует ровно 14 попарно неизоморфных простых графов Гх,... ,Гх4 с 5-ю вершинами, не содержащих цикла длины 3. В силу предложения 6.2, соответственно, существует ровно 14 попарно неизоморфных гиперграфов (?х, • • • , Gu, обладающих этим же свойством и удовлетворяющих условию (6.54). Поскольку все они неизоморфны гиперграфу Go = G(KQ), TO число попарно неизоморфных 5-КОС не превосходит 15. Поэтому число попарно неизоморфных 5-КОС не превосходит 15.

270

Глава 6. Метод комитетов

Рассмотрим гиперграфы Go,-. • ,Gu- По теореме 6.11, для каждого к = 0,... , 14 существуют число т& 6 N и множет а к и е ч т о ства D\,... Dmki гиперграф G/. изоморфен гиперграфу МСП системы включений:

xeDJ- (i£N m J.

(6.55)

Поскольку гиперграфы Go,- • • , Gu не содержат циклов длины 3, то, по теореме (6.12), число членов минимального комитета, разрешающего систему (6.55) равно пяти, причем единственной 5-КОС системы (6.55) является К^, такая что G(Kk) — Gk для каждого к = 0,... ,14. По построению, Go,. • • , Gu попарно неизоморфны, поэтому Ко,...' ,Ки также попарно неизоморфны, по определению изоморфизма 5-КОС. Поэтому, число попарно неизоморфных 5-КОС равно 15. • Множество /C(<S) всех 5-КОС, по-доказанному, разбивается на 15 классов эквивалентности попарно изоморфных 5-КОС, по числу попарно неизоморфных простых графов, допустимых определением 5-КОС. Однако в практических задачах нас, как правило, будет интересовать число классов эквивалентности в множестве /С(<5') для некоторого подмножества <S' .множества всех систем включений. Естественно предположить, что при достаточно узком S' результат, справедливый для /С (), не будет справедливым для 1C(S'), Действительно, если Sc множество всех конечных систем линейных однородных неравенств на плоскости, тов K,(Sc) все элементы попарно изоморфны, поскольку граф каждой 5-КОС является простым циклом длины 5. Интересно, что уже для множества SQ всех конечных систем полиномиальных неравенств степени не выше 2 на плоскости результат теоремы 6.21 верен/ Теорема 6.22. Множество JC(SQ) codep^tcum ровно 15 попарно неизоморфных элементов.

Раздел 6.5. Методы поиска комитета...

6.5.

271

Методы поиска комитета системы линейных неравенств

Первыми методами построения комитетов систем линейных неравенств были, по видимому, итерационные методы обучения персептронов (распознающих автоматов) задаче дискриминантного анализа, описанные в работах [25, 36, 42, 40]. На сегодняшний день в классе методов построения комитета можно выделить три большие группы. В первую группу можно отнести методы, базирующиеся на применении к задаче поиска комитета системы линейных неравенств той или иной модификации известного метода линейной коррекции [25] решения совместной системы линейных неравенств, для которого доказана [40] теорема о сходимости его к решению указанной системы за конечное число шагов. Полученные методы также принято называть методами линейной коррекции- для построения комитета из q членов. К сожалению, для таких методов известны лишь некоторые достаточные условия [16], гарантирующие их сходимость к искомому комитету. К тому же как правило вопрос разрешимости конкретной системы комитетом из заданного числа членов требует отдельного изучения. Вторая большая группа методов основана на поиске решений всех МСП рассматриваемой системы неравенств методом свертывания, безусловной оптимизации или др. и решении затем системы) аналогичной (6.10). Достоинством этих методов является то, что они позволяют находить оптимальные комитеты, например, минимальный комитет исследуемой системы. Для этого на втором этапе необходимо найти оптимальное решение задачи (6.11). Недостатком этих методов является их большая трудоемкость. К третьей группе методов следует отнести эффективные конечношаговые алгоритмы, основанные на понижении размерности исходной задачи. Одним из основных представителей этой группы является метод проектирования на плоскость [18], осно-

272

Глава 6. Метод комитетов

ванный на принципе доказательства теоремы 6.6. Кроме указанных классов алгоритмов было предложено и программно реализовано много других: построения "грубых"комитетов, комитетов, минимально обобщающих материал обучения [24], комитетов старшинства [41] и др. Рассмотрим подробнее примеры характерных представителей для каждой из выделенных групп методов, Пусть задана несовместная система неравенств:

(ajtx)>0

(6.56)

n

над R , для которой выполнены условия теоремы 6.6. Не уменьшая общности, будем далее полагать, что |(а^|| = 1 и a,j ±сц Ф 0.

6.5.1. Метод линейной коррекции В работе [25] предложен естественный метод построения комитета Q = (ж 1 ,... , xq) системы (6.56), обобщающий идею метода линейной коррекции [40,42]. По аналогии с (6.7) определим ф у н к ц и и ipj : R n •-»• {—1,1} так:

—1,

(UJ,X) < 0.

Зафиксируем параметр е > 0. Для произвольных у\... , yq € R n и j e N m определим числа щ = X^f=i <Л?(УО и gj = И ^ + 1.. Пусть {a,j,yl) < {a,j,y2) < ... < {aj,yq). Определим операторы Tj : R n x ^ -> R n x ? следующего вида. Пусть w = [(у 1 ) 3 ",.. • , (уд)т]т е Rnxq, где у 1 ,... , yq элементы R n , w,

TjW=< У

если rij > 0,

если rij < 0.

273

Раздел 6.5. Методы поиска комитета... Задавшись произвольным WQ E RnXq, Wk=T((k_1)

рассмотрим процесс

(mod m)+l)Wk-l

(kGN).

По построению операторов Tj, если последовательность {г%} 1 7 q T T стабилизируется на элементе w = [(у ) ,... ,(y ) ] , то Q = 1 (у ,... ,уч) — комитет системы (6.56). Как упоминалось ранее, для приведенного алгоритма теоремы, родственной теореме Но-викова [40], нет, известны лишь некоторые достаточные условия на систему (6.56) и начальное приближение гоо, при которых построенная последовательность {wi} стабилизируется. Например, в работе [15] приводится достаточное условие, при котором алгоритм сходится за m шагов.

6.5.2.

Точный метод поиска минимального комитета

Метод, описанный, например, в книге [24], находит минимальный комитет системы (6.56) и состоит из трех этапов. На первом этапе находятся все минимальные несовместные подсистемы (ШШ) рассматриваемой системы методом полного фундаментального свертывания [33]. Поскольку система (6.56) несовместна, то конус решений двойственной ей системы: ща\ + «2^2 + . • • + umam « I , . . . ,um

— 0 >

0

С ф {0}, по теореме Карвера, поэтому он содержит фундаментальные элементы. В силу результатов [33], вектора u 1 , . . . ,u5 коэффициентов свертывания полной фундаментальной свертки

3=1

системы (6.56) и только они являются фундаментальными элементами конуса С. Следовательно, множество {1ц,... ,LS} индексов МНП системы (6.56) определяется как [33]: Li = О Х > 0}.

274

Глава 6. Метод комитетов

На втором этапе по известным индексам МНП находятся все индексы 1\,... ,1Р МСП системы (6.56) из условий:

(Vt€Ne)

М£.Ь,,

(Vi € Np) (Vj е (N m \ I*)) (3t e N e ) : . L* С Ji U { # , например, методом построения сокращенной ДНФ [16]. На третьем этапе каждому индексу Jj ставится в соответствие вектор сг\е {—1,1}"% такой что о1* = < _ '.

. . * ,и

решается задача целочисленного линейного программирования: >

^

>

|

(6.57)

Пусть Г = [z\i...,zp]T — оптимальный вектор задачи (6.57), и yi,... ,ур — решения соответствующих МСП системы (6.56), тогда, по построению,

Z\

Z2

.

Zp

минимальный комитет системы (6.56). Вопрос оценки сложности последнего алгоритма до, сих пор остается открытым. По видимому [5, 33], в общем случае задача поиска всех МСП системы (6.56) и указанная задача ЦЛП являются NP-полными. 6.5.3.

Метод проектирования на плоскость

Метод проектирования [24] основан на принципе доказательства критерия существования комитета системы (6.56) (теорема 6.6) и состоит из двух этапов: 1. нахождения подходящего оператора Ф : R n —у R 2 и построения системы (Ф^,у)>0

(jeNm);

(6.58)

Список литературы к главе 6

275

, 2. построения минимального комитета системы (6.58) 1 Р Q' = (у ) • • •\У )- После этого комитет исходной системы получается из Q' по правилу: Q = (Ф*?/1,... , Ф*ур): Основными достоинствами этого метода; обусловившими его активное применение Для решения конкретных задач дискриминантного анализа, являются малая вычислительная сложность и то, что получаемый в результате комитет Q содержит не более т членов, что соответствует оценке числа членов минимального комитета системы (6.56). Для систем неоднородных линейных неравенств существует модификация описанного метода в соответствии с результатами теоремы 6.20.

Список литературы к главе 6 [1] ВАПНИК В.Н., ЧЕРВОНБНКИС А.Я. Теория распознавания обра, зов. -Москва: Наука.1974. [2] ГАЙНАНОВ Д.Н. О графах максимальных совместных подсистем ., . несовместцых систем линейных неравенств. -Москва, 1981. ^46 с. Деп.ВИНИТИ, JY? 229-81,, [3] ГАЙНАНОВ Д.Н., НОВОКШЕНОВ В.А., ТЯГУНОВ Л.И. О графах, порождаемых несовместными системами линейных неравенств. "// Мат.заметки. -т.Зз! вып.2 -1983, -С.293-300. [4] ГОФМАН А . Д Ж . , К У Н Г.У. О системах различных представителей.// Линейные неравенства и смежные вопросы. -Москва: изд.иностр.лит. -1959. -С.302-310. [5] Г Э Р Й М., ДЖОНСОН Д . Вычислительные машины и труднбре1 шаемые задачи. -Москва: Мир,1962.-416 с. [6] ЕМЕЛИЧВВ В.А.,

МЕЛЬНИКОВ О.И., САРВАНОВ В.И., Т Ы Ш К Е -

ВИЧ ' Р.И. Лекции по теории графов. -М.: Наука. 1990. -384 с. [7] ЕРЕМИН И.И., МАЗУРОВ В Л . Д . Вопросы оптимизации и распознавания образов. -Свердловск: УНЦ АН СССР. -1979. -64 с. [8] ЕРЕМИН И!Й., МАЗУРОВ В Л . Д . Нестационарные процессы математического программирования. -Москва: Наука. -1979. [9] ЖУРАВЛЕВ Ю.И. Об алгебраическом подходе к решению задач распознавания или классификации// Проблемы кибернетики. вып.ЗЗ. -1978. -С.5-68.

276

Глава 6. Метод комитетов

[10] ЖУРАВЛЕВ Ю.И. Корректные алгебры над множествами некорректных алгоритмов.ЫП// Кибернетика. -1977. -№4 -С.14-21, 1977. -№6. -С.21-27, 1978. -№2 -С.35-43. • [11] ЗУЕВ Ю.А. Метод повышения надежности классификации при наличии нескольких классификаторов, основанный на принципе монотонности// ЖВМ и МФ. -1981. -Т.21. №1. -С.157-167. [12] ЗУЕВ Ю.А. Вероятностная модель комитета классификаторов// ЖВМ и МФ. -1986. -Т.26. -№2. -С.276-292. [13] ЗУЕВ Ю.А. Наихудший случай для принятия решения большинством голосов// ЖВМ и МФ. -1989. -Т.29. -№8.-0.1256-1257. [14] КАЗАНЦЕВ B.C. Задачи классификации и их программное обеспечение.- Москва,- Наука.- 1990, 136 с. [15] КРИВОНОГОВ А.И. Некоторые модификации комитетных алгоритмов в распознавании образов// Методы математического программирования и приложения. -Свердловск: УНЦ АН СССР. 1979. -С.49-55. [16] КРИВОНОГОВ А.И. Некоторые вопросы обоснования комитетных алгоритмов// Классификация и оптимизация в задачах управления. -Свердловск: УНЦ АН СССР. -1981. -С.39-51. [17] МАЗУРОВ В Л . Д . О комитете системы выпуклых неравенств. Труды ICM-66. -Москва: МГУ,-1966 -Ж 14, С.41. [18] МАЗУРОВ В Л . Д . О построении комитета системы выпуклых неравенств // Кибернетика. -#2.. -1967. -С.56-59. [19] МАЗУРОВ В Л . Д . Комитеты систем неравенств и задача распознавания// Кибернетика. -1971. -№3. -С. 140-146. [20] МАЗУРОВ В Л . Д . Несовместные системы неравенств в задачах распознавания// Метод комитетов, в распознавании образов. Свердловск: УНЦ АН СССР, 1974. -С.3-9. [21] МАЗУРОВ В Л . Д . , КАЗАНЦЕВ B.C., БЕЛЕЦКИЙ Н.Г. Пакет КВАЗАР прикладных программ распознавания образов, информационные материалы по математическому обеспечению. Свердловск: УНЦ АН СССР, 1979. [22] МАЗУРОВ В Л . Д . Математические образов.- Свердловск: УрГУ, 1982.

методы

распознавания

Список литературы к главе 6

277

[23] МАЗУРОВ В Л . Д . Линейная оптимизация и моделирование .Свердловск: УрГУ.1986. [24] МАЗУРОВ В Л . Д . Метод комитетов в задачах оптимизации и классификации. Наука. Москва. 1990. [2,5] НИЛЬСОН Н. Обучающиеся машины.-Москва: Мир.1968. [26] РЯЗАНОВ В.В. Комитетный синтез алгоритмов распознавания и .. классификации// ЖВМ и МФ. -1981. -Т.21. -№6. -С.1533-1543. [27] РЯЗАНОВ В.В. О синтезе классифицирующих алгоритмов на конечных множествах алгоритмов классификации (таксономии)// ЖВМ и МФ. -1982. -Т.22. -№2. -С.429-440. [28] ТЯГУНОВ Л.И. О выделении последовательности максимальных совместных подсистем несовместной системы линейных неравенств.// Математические методы планирования и управления в больших системах. -Свердловск: УНЦ АН СССР, -1973, С.152-^ 162. (Деп. в ВИНИТИ, №7467-73.) [29] ФАНЬ Ц З И О системах линейных неравенств.// Линейные неравенства и смежные вопросы. -Москва: изд.иностр.лит. -1959. С.214-262. [30] ХАРАРИ Ф. Теория графов. Мир. Москва. 1973. [31] ХАЧАЙ М.Ю. О существовании комитета большинства.// Дискретная математика. -1997. -т.9, вып.З. С. 82-95. [32] ХАЧАЙ М.Ю. Об оценке числа членов минимального комитета системы линейных неравенств.// ЖВМ и МФ. -1997. -т.37, №11. С.1399-1404. [33] ЧЕРНИКОВ С.Н. Линейные неравенства. -Москва: Наука, 1968. [34] ABLOW C M , KAYLOR D.J Inconsistent homogenous linear inequalities// Bull.Amer.Math.Soc. -1965. -v.71. №5. [35] ABLOW C M , KAYLOR D.J A committee solution of the pattern recognition problem// IEEE Trans. -1965. -v.IT-11. -№3. -p.453-455. [36] BLAH A S. The convergence of one groop a correction training procedures.//Kybernetica, 1969, v.5, №2.

278

Глава 6. Метод комитетов

[37] KHACHAI M . Y U . , RYBIN A.I. A New Estimate of the Number of Members in a Minimum Committee of a Linear Inequalities System.// Pattern Recognition and Image Analysis. -1998. -v.8. -№4. -p.491-496.

• • • • ! .

[38] MAZUROV V L . D . Duality in Pattern Recognition and Operation Research.// Pattern Recognition and Image Research.- 1991. -v.l,' №4. -p.376-384. [39] MAZUROV V L . D . Generalized Existence in Nonequilibrium Models of Choice in Modeling Complex Systems.// Pattern Recognition and; Image Research.- 1995. -v.5, №1. -p.7-12. [40] NoviKOFF A.B.J. On convergence proofs for perceptrons.- Proc. of Symposium of Mathematical Theory of Automata. N.Y:: "Polytechnika", 1962. [41] OSBORNE M.L The Seniority Logic: A Logic for a Committee Machine.// IEEE Trans. Сотр., -1977. -v.C-26, -№12, -p,1302-1306. [42] ROSENBLATT F. Principles "D.e.:Spattan", 1962.

of

Neurodinamics.

-Wash.: '

Иван Иванович Еремин, Владимир Данилович Мазуров, Владимир Дмитриевич Скарин, Михаил Юрьевич Хачай МАТЕМАТИЧЕСКИЕ М Е Т О Д Ы В ЭКОНОМИКЕ

Редакторы И. И. Еремин и Вл. Д. Мазуров Оригинал-макет подготовлен М. Ю. Хачаем Лицензия ЛР № 064283 от 08.11.95 г. Подписано в печать 04.04.2000. Формат 60Х90'/16. Бумага офсетная. Гарнитура «Times». Печать офсетная. Усл. печ. л. 17,5. Тираж 500 экз. Заказ № 1755. ООО «У-Фактория». 620142, г. Екатеринбург, ул. Большакова, 77. Отпечатано с готовых диапозитивов в издательско-полиграфическом комплексе «Звезда». 614600, г. Пермь, ГСП-131, ул. Дружбы, 34.

66

Глава 2. Линейное программирование

max (с, х)

Ати > с, и > О

х >О

Ах<Ь,

min (b, и)

(*)

Т (с, ж) - (Ах -Ь, и)

=

(Ь, и) + (с- Ати,

=

(Ь, и) - (Ати - с, х)

(•)

шах (Ь, и)

х)

II (с, х) + (Ь- Ах, и)

4min (с, х) Ах >Ъ, х > О

т

А и < с, и > О

Рис. 2.3: Схема перехода к двойственной задаче

2.3.5.

Двойственность, вытекающая из анализа теоремы Фаркаша — Минковского

Пусть a — оптимальное значение разрешимой задачи max {(с, х)\Ах < b, x > 0},

(2.21)

66

Глава 2. Линейное программирование

max (с, х)

Ати > с, и > О

х >О

Ах<Ь,

min (b, и)

(*)

Т (с, ж) - (Ах -Ь, и)

=

(Ь, и) + (с- Ати,

=

(Ь, и) - (Ати - с, х)

(•)

шах (Ь, и)

х)

II (с, х) + (Ь- Ах, и)

4min (с, х) Ах >Ъ, х > О

т

А и < с, и > О

Рис. 2.3: Схема перехода к двойственной задаче

2.3.5.

Двойственность, вытекающая из анализа теоремы Фаркаша — Минковского

Пусть a — оптимальное значение разрешимой задачи max {(с, х)\Ах < b, x > 0},

(2.21)

66

Глава 2. Линейное программирование

max (с, х)

Ати > с, и > О

х >О

Ах<Ь,

min (b, и)

(*)

Т (с, ж) - (Ах -Ь, и)

=

(Ь, и) + (с- Ати,

=

(Ь, и) - (Ати - с, х)

(•)

шах (Ь, и)

х)

II (с, х) + (Ь- Ах, и)

4min (с, х) Ах >Ъ, х > О

т

А и < с, и > О

Рис. 2.3: Схема перехода к двойственной задаче

2.3.5.

Двойственность, вытекающая из анализа теоремы Фаркаша — Минковского

Пусть a — оптимальное значение разрешимой задачи max {(с, х)\Ах < b, x > 0},

(2.21)