MINIMIZE
Citation for published version (APA):
Sluiter, M. L. C. (1975). MINIMIZE: een procedure voor het minimaliseren van een funktie van n onbekenden onder een set van (on)gelijkheidsrestrikties. (DCT rapporten; Vol. 1975.009). Technische Hogeschool Eindhoven.
Document status and date: Gepubliceerd: 01/01/1975 Document Version:
Uitgevers PDF, ook bekend als Version of Record Please check the document version of this publication:
• A submitted manuscript is the version of the article upon submission and before peer-review. There can be important differences between the submitted version and the official published version of record. People interested in the research are advised to contact the author for the final version of the publication, or visit the DOI to the publisher's website.
• The final author version and the galley proof are versions of the publication after peer review.
• The final published version features the final layout of the paper including the volume, issue and page numbers.
Link to publication
General rights
Copyright and moral rights for the publications made accessible in the public portal are retained by the authors and/or other copyright owners and it is a condition of accessing publications that users recognise and abide by the legal requirements associated with these rights. • Users may download and print one copy of any publication from the public portal for the purpose of private study or research. • You may not further distribute the material or use it for any profit-making activity or commercial gain
• You may freely distribute the URL identifying the publication in the public portal.
If the publication is distributed under the terms of Article 25fa of the Dutch Copyright Act, indicated by the “Taverne” license above, please follow below link for the End User Agreement:
www.tue.nl/taverne
Take down policy
If you believe that this document breaches copyright please contact us at:
openaccess@tue.nl
providing details and we will investigate your claim.
MINIMIZE
Een procedure voor het minimaliseren van een funktie van n onbekenden onder een set van (on) gelijkheidsrestrikties
M. Sluiter Augustus 1975
Veel problemen kunnen geformuleerd worden in de zin van:
voor welke x* is een gegeven F(x) minimaal in een omgeving van x
.
Vaak zullen er aan x nog verdere eisen gesteld worden in de vorm van:*
r i b ) = 0 ri(x) > O i = l....p i = p -i- 1...
1
De rheids
-
en ongelijkheidsrestrikties genoemd.De oplossingsmethode, voor het geval er geen nevenvoorwaarden zijn, is als volgt: Beschouw F(x) in een omgeving van xx, dan kan er geschreven worden:
zijn hier willekeurige funkties. Deze voorwaarden worden resp. gelijk- i
F(x*
+
Ax) = F(x') -i- g' Ax+
'i
Ax' G_*Ax -i-...
...
( 2 ) X32
X
*
en G een matrix met als elementen G
X
Differentiatie van 2 en gx*=
O
( F(x ) is minimaal) geeft:Ax
-
'xk -i- Ax
-
'x' -P Ax ( 3 )ûmdat Ax een stap vanuit het minimum is, kan nu, uitgaande van een punt buiten het minimum, uit (3) de volgende iteratie formule worden afgeleid:
-1 i 'i
X = X - G
i+ 1 i ( 4 )
waarbij i de iteratie-teller is.
Vaak echter is het niet mogelijk om met deze O te werken (vanwege het ont-
breken van de zekerheid dat G itief is,kan geen voortgang in
de richting van het minimum verzekerd worden). Bovendien is het berekenen van G en G
zaak. Derha wordt
4
vervangen door-1
vaak een moeilijke en tijdrovendeX = X - h H g ( 5 )
i+ 1 i i i i Waarbij H
waar in de richting H.g het minimum van F(x) ligt. een positief definiete- matrix is en h
i i een scalar die aangeeft
-1
i i
H. kan gezien worden als een benadering voor G
.
~ ~~1
of optimization) dat indien H iedere iteratie-slag wordt "ge-riplated" via i O 0 vv = H
- - - -
; u u'v i-
x I u =-
gi en v = H ~ U , Waarin o=x
H. konvergeert naar G
.
(Voor een kwadratische objektfunktie zijn n iteraties nodig waarbij n het aantal onbekenden is).Voor H
doch vaak zal hiervoor de eenheidsmatrix gekozen worden.
Dit laatste heeft als bijkomstig voordeel dat, indien de up-dating van H achterwege gelaten wordt, het minimaliseringsproces verloopt volgens de normale gradientmethode ("steepest descent")
.
i+ 1 i
-1
1
mag in principe iedere positief definiete matrix gekozen worden
O
Indien er wel restrikties voor x zijn dan kunnen dezen verdeeld worden in twee groepen: de lineaire en de niet lineaire restrikties, die elk hun eigen benahdelingswijze krijgen.
Voor de niet-lineaire restrikties wordt een nieuwe te minimaliseren funktie F
(XI
gedefinieerd:P
R
a .penf(ri(x)1
( 7 ) i F (x) = ~ ( x ) +C ai.penf (r,(XI
1
+C i=p+ 1 1 i=l r.<O
1 Voor de In deze waarbij nux te it Nadelen voldaan ~~ 2funktie penf !y) wordt vaak
procedure is gekozen voor een steilere funktie n.1. penf(y) =e('
'-1
voor [ y / >2 wordtin de afgeleiden).
van de methode zijn: dat er in principe niet eksakt aan de grenzen behoeft te worden en doordat de tweede afgeleiden diskontinu zijn
overgegaan op een rechte (met behoud van konti-
er moeilijkheden verwacht kunnen worden bij toepassing van methoden waarbij deze afgeleiden gebruikt worden.
In het algemeen zal 'n startpunt zodanig gekozen kunnen worden dat aan r voldaan is. Is dit echter niet het geval dan kan een geschikt startpunt gevonden worden door minimalisatie van
i
P
R
Q(X) =c
r 2(x) +I i r 2 ~ x ) i i=l i=p+l r <O iDe l i n e a i r e r e s t r i k t i e s kunnen op meer exacte wijze behandeld worden. Deze r e s t r i k t i e s kunnen beschreven worden als:
n . x = c i = l . . . p 1 i I n x >c i = pcl
...
R
i i I met n n =1.
i iAannemende d a t een gekozen startvektor x n i e t voldoet aan ( 9 ) , kan een x
D i t wordt gedaan door x
die ongelijkheidsrestrikties waaraan n i e t voldaan i s en de gelijkheids-
r e s t r i k t i e s . I n formule vorm
O
gekonstrueerd worden die wel voldoet aan d i e r e s t r i k t i e s . 02
t e projekteren op het hypervlak opgespannen door
O
waarin N
g e l i j k h e i d s r e s t p+l . . . q ~ door de ongelijkheids ~ ~~~~ ~ r e s t r i k t i e s
waaraan n i e t voldaan is. De matrix N wordt ook wel r e s t r i k t i e b a s i s genoemd, t e r w i j l q het aantal aktieve r e s t r i k t i e s genoemd wordt. Door voor H i n ( 6 )
n i e t I maar
de matrix i s waarvan de eerste p kolommen gevormd worden door
q 1 ~ q O 1
-1
.I n-q H = I - N ( N N ) N O q qt e nemen zullen ook a l l e volgende x
i
De rang van H is nu n i e t meer n maar n-q, hetgeen e r op neerkomt d a t b i j
uitvoering van ( 5 ) n i e t a i i e komponenken van x veranderen, of anders I n
samenhang met andere komponenten.
Mocht t i j d e n s het minimaliseringsproces een r e s t r i k t i e overschreden worden, dan wordt N
r e s t r i k t i e n v o o r s t e l t .
Urn e r voor t e zorgen dat a l l e volgende x ook dan deze r e s t r i k t i e zullen voldoen aan deze r e s t r i k t i e s .
~
uitgebreid met een qí-1-ste kolom welke de nu a k t i e f geworden 4
j
b l i j v e n voldoen wordt de rang van H i verder verlaagd v i a :
n-q-1 n-q
w w t
n!w i I-
-
H-
Hi n-q i j waarin w = H NI n f e i t e komt deze handelswijze (rang v a n H <n) erop neer d a t de gradient- vektor g i n twee delen i s opgesplitst, t e weten een deel d a t l i g t i n het
hyperv1ax-V
e r loodrecht a@ s t a a t . D i t l a a t s t e deel wordt dan via de formules- (11) en (12) van de gradientvektor afgetrokken. Er kan dus geschreven worden:
opgespannen door de aktieve r e c t r i k t i e c en een deel d a t
ti
Aangezien g vektoren van V :
_b
V qi s deze dus een lineaire kombinatie van de normaal-
Rq q
= N a
'gr g
Y-
En omdat g i n V l i g t geldt ook
V q
1
= o
Nq gv
Substitutie v a n (14) en (15) i n (13) en voor vermenigvuldiging met N' q g e e f t :
Indien nu de j- de komponent van a negetief is dan betekent d i t d a t de j- de r e s t r i k t i e ( m i t s p+l
2
jn i e t langer i n de restriktie-basis gehandhaafd dient t e worden omdat de normaal komponentnaar het toegestane gebied toewijst. I n d i t geval kan de rang van H weer worden verhooge v i a :
!q d u s een ongelijkheidsrestriktie)
i
waarin z = P n . met P = I- N
7 q-1
N
De bovengenoemde methoden zorgen ervoor dat a l t i j d aan de r e s t r i k t i e - basis voldaan b l i j f t .
i s nu de r e s t r i k t i e b a s i s zonder r e s t r i k t i e n j
.
q-1
Om het iteratieproces u i t 5 t e kunnen uitvoeren i s enkel nog een methode
nodig o m h t e bepalen.
Aangezien een minimum gezocht moet worden i n de richting -Higi kan d i t
gezien worden a l s het bepalen van het minimum van een F
(A)
met waarbijX
s l e c h t s een onbekende v o o r s t e l t .Hiervoor bestaan er v e l e methodes, i n deze procedure - besaleri va? een niinimirm ~p een i n t e r v a l (
O t X m a x
1
.
Amax w o r d t indien i n de richting -Higi een lin.resterictie
i
i s gekozen voor het
l i g t z o d a n i g (genomen d a t er g e l d t : n' ( X i - A H g ) = C j max i i j aF Dus exact op d i e r e s t r i k t i e . H i e r worden dan F (Amax) en
-
ax
(18)
berekend. max
A
I n d i e n geen r e s t r i k t i e ontmoet wordt dan wordt met t e l k e n s verdubbelende stap n e t z o l a n g i n de r i c h t i n g -Higi gegaan t o t d a t of F ( A ) > F ( 0 ) of
-
a F >o.
a x
M e t b e h u l p v a n d e z e 4 gegevens wordt een 3-graads polynoom op d i t i n t e r - v a l gelegd, waarna h e t i n t e r v a l v e r k l e i n d wordt t o t of 0,h of
X
, h
min ~~ ~ max min
~~
A i s h i e r b i j de waarde
v
waarvoor h e t ~ polynoommin
d i t binnen h e t i n t e r v a l l i g t ) . I n sommige g e v a l l e n waarbij de i n t e r v a l l e n g t e n i e t s n e l n a a r O gaat i s h e t n o o d z a k e l i j k over t e s c h a k e l e n op e e n halveringsmethode. ~ ~ L i t e r a t u u r . Wilde en Beighter of O p t i m i z a t i o n
BOX, Davies, Swann t i m i z a t i o n Techni-ec-
A. A o k i I n t r o d u c t i o n to O p t i m i z a t i o n Techniques.
~
De p r o c e d u r e heading z i e t er als v o l g t u i t :
MINIMIZE (N, X , F, NR, NER, NNR, NNER, RB, CRB, BDF, BDNL, IJ,
JJ,
NL, DFDX, DNLDX, T@L, METH, TEST, MAXI, MAXIT, @UT);N : i n t e g e r
x
: array [I:N] F : real NR : i n t e g e r NER : i n t e g e r NNR : i n t e g e r NNER: i n t e g e r RB : a r r a y l l : N , O : N R j-
-
-
CFB : array[O:NRJ
BDF : boolean BDNL: b o o l e a n IJ : b u t e g e r JJ : i n t e g e r NL : real DFDX: real DNDLX: real T@L : real METH: i n t e g e r TEST: i n t e g e r MAXT: i n t e g e r MAXIT: i n t e g e r OUT : f i l e a a n t a l v a r i a b e l e nb i j *aanroep: staEtwaarden voor x
n a afloop: l a a t s t berekende waarde v a n x wordt g e b r u i k t a l s Jensen parameter voor F, NL, DFDX, DNLDX de t e minimaliseren f u n k t i e a a n t a l l i n e a i r e restrikties a a n t a l l i n e a i r e g e l i j k h e i d s r e s t r i k t i e s a a n t a l n i e t l i n e a i r e restrikties a a n t a l n i e t l i n e a i r e g e l i j k h e i d s r e s t r i k t i e s
matrix w a a r i n de l i n e a i r e r e s t r i k t i e s worden opgegeven.
D e le NER kolommen z i j n de g e l i j k h e i d s r e s t r b k t i e s . r e c h t e r l e d e n v a n de l i n e a i r e r e s t r i k t i e s b i j aanroep t r u e -f a f g e l e i d e n v a n F n a a r X z i j n a n a l y t i s c h bekend f a l s e -f n i e t b i j aanroep t r u e -+ a f g e l e i d e n v a n de n i e t l i n e a i r e r e s t r i k t i e n a a r X z i j n a n a l . bekend. false -f n i e t
Jensen-parameter voor h e t berekenen v a n NL, DFDX en
DNLDX
Jensen-parameter voor h e t berekenen v a n DNLDX
de waarde v a n de IJ- de n i e t l i n . r e s t r i k t i e
b i j de heersende x
de waarde v a n de afgeleide v a n F n a a r de IJ-de
komponent v a n x
de waarde v a n de afgeleide v a n de IJ-de n i e t l i n e a i r e r e s t r i k t i e n a a r de JJ- de komponent v a n X
t o l e r a n t i e
I ~ A x ~ I
<1 1
x1 1
b i j aanroep -+ O a l l e e n steepest d e s c e n t , a n d e r s
wordt n a METH iteraties1 overgedaan op de Fletcher- Powell smethode
b i j a a n r o e p O -+ geen t u s s e n - u i t v o e r , a n d e r s om de
"test" i t e r a t i e s t a p p e n
maximaal t o e g e s t a n e r e k e n t i j d i n seconden maximaal a a n t a l t o e g e s t a n e i t e r a t i e s
hierop wordt de evt. t u s s e n - u i t v o e r gegeven t o l
Indien het proces eindigt doordat de maximale t i j d resp. het maximaal aantal i t e r a t i e s overschreden wordtl dan wordt v i a f i l e OUT de t e k s t : MINIMIZATION STOPPED BECAUSE fjF EXCEEDING TIME-LIMIT resp. MAXIMUM NUMBER OF ITERATIJdNS. gegenereerd.
Voor het berekenen van NL, DFDX en DNLDX kan gezegd worden dat deze a l t i j d i n de oplopende volgorde doorlopen worden, (Dus met een globaal array kan evt. rekentijd bespraard worden).
