A cikkben a Xiaouje Ma, Hongwei Liu, Jianke Zhang és Weijie Cong által publikált lineáris komplementaritási feladatok megoldására vonatkozó útkövető belsőpontos algoritmust vizsgáljuk az implementáció szemszögéből nézve. Az algoritmust C++ programozási nyelvben implementáltuk, ezáltal alátámasztva a módszer hatékonyságát. Annak ellenére, hogy az elméleti eredmények csak monoton lineáris komplementaritási feladatra vonatkoznak, a gyakorlati tesztelés során arra is fény derült, hogy általánosabb esetekben is jól működik az algoritmus

Darvay, Zsolt

Orbán, Attila-Szabolcs

Repository of the Academy's Library

Műszaki Tudományos Közlemények vol. 11. (2019) 47–50.https://doi.org/10.33895/mtk-2019.11.08https://eda.eme.ro/handle/10598/31245Angol nyelven: https://doi.org/10.33894/mtk-2019.11.08Lineáris kompLementaritási feLadatra vonatkozó, széles környezetben működő, belsőpontos algoritmus implementálása implementation of an interior-point algorithm for linear complementarity problem working in a wide neighborhoodDarvay Zsolt1, Orbán Attila-Szabolcs2Babeș-Bolyai Tudományegyetem, Matematika és Informatika Kar, Kolozsvár, Románia1 darvay@cs.ubbcluj.ro 2 orban.attila@yahoo.comabstractIn this article, we study the interior-point algorithm for solving linear complementarity problems, published by Xiaouje Ma, Hongwei Liu, Jianke Zhang and Weijie Cong from the implementation point of view. The al-gorithm was implemented in C++ programming language, thus supporting the effectiveness of the method. Despite of the fact that the theoretical results refer only to the monotone linear complementarity problem, the practical testing showed that the algorithm also works well in more general cases.keywords: interior-point algorithm, linear comlementarity problem, wide neighborhood, path-following al-gorithm, object-oriented technique.ÖsszefoglalásA cikkben a Xiaouje Ma, Hongwei Liu, Jianke Zhang és Weijie Cong által publikált lineáris komplementaritási feladatok megoldására vonatkozó útkövető belsőpontos algoritmust vizsgáljuk az implementáció szemszögé-ből nézve. Az algoritmust C++ programozási nyelvben implementáltuk, ezáltal alátámasztva a módszer haté-konyságát. Annak ellenére, hogy az elméleti eredmények csak monoton lineáris komplementaritási feladatra vonatkoznak, a gyakorlati tesztelés során arra is fény derült, hogy általánosabb esetekben is jól működik az algoritmus.kulcsszavak: belsőpontos algoritmus, lineáris komplementaritási feladat, széles környezet, útkövető algo-ritmus, objektumorientált programozás.1. bevezetőA lineáris optimalizálási feladatok megoldására különböző belsőpontos algoritmusokat vezettek be [1,2,3], melyek hatékonynak bizonyultak. Az egyes módszereket lineáris komplementaritási feladatra (LCP) is sikerül általánosítani [4], me-lyeket gyakran használnak mérnöki problémák megoldására. Az útkövető belsőpontos algoritmu-sok körében rövid, illetve hosszú lépéses változa-tokat különböztetünk meg. Mint kiderült, a rövid lépéses algoritmusok elméleti hatékonysága álta-lában jobb, de a hosszú lépésesek a gyakorlatban jobban teljesítenek. Ai [5] vezette be az első line-áris optimalizálásra vonatkozó hosszú lépéses al-goritmust (APF), amelynek az elméleti bonyolult-sága megegyezik a legjobb rövid lépésesekével. Ai és Zhang [6] általánosította az Ai módszerét LCP-re. Ma, Liu, Zhang és Cong [7] úgy terjesztette Darvay Zs., Orbán A. Sz. – Műszaki Tudományos Közlemények 11. (2019)48ki a fenti algoritmust (APF+), hogy két különböző lépést vezetett be. Az elsőt gyors lépésnek a máso-dikat biztonságos lépésnek nevezték el. Mindket-tő az Ai által megadott széles környezetben dolgo-zik, de a gyors lépés esetén a vizsgált környezetet módosítjuk a paraméterek megváltoztatása által. A továbbiakban ezt az algoritmust vizsgáljuk, és tárgyaljuk az implementálásának a lehetőségeit. 2. a feladat leírásaAz LCP alakja:ahol q ϵ ℝn és M ∊ ℝn×n. Továbbá, feltételezzük, hogy az M+MT mátrix pozitív szemidefinit, tehát xT Mx ≥ 0 bármely x ϵ ℝn esetén. Az M mátrix és a q vektor adottak, valamint az x és az s ismeret-lenek.A primál-duál belsőpontos algoritmusok igen hatékony módszernek bizonyultak az LCP-k meg-oldására. Ezen algoritmusok esetén feltételezzük, hogy az LCP megengedett megoldásainak halma-za Ƒ++ nem üres:A centrális út, melyet a következőképpen defini-álunk egy alapvető fogalom a primál-duál belső-pontos algoritmusok esetén:ahol xs jelöli az x ϵ ℝn és s ϵ ℝn elemenkénti szor-zatát.További jelölések: az x ϵ ℝn vektor i-edik elemét xi-vel jelöljük; e egy n-dimenziós vektor, amely-nek az összes eleme 1; bármely a ϵ ℝn  számra a+ := max{a, 0} és  a– := min{a, 0}; ‖x‖ az l2  norma, ‖x‖1 pedig az l1  norma. Az  a+ és a– jelöléseket vektorra is kiterjesztjük.3. a módosított algoritmusAi a következő módon definiálta az APF algorit-mus számára a széles környezetet:ahol 0 < β < 1 és μ = (xT s) / n. Az APF+ algoritmus-hoz be kell vezetnünk a következőket:Feltételezzük, hogy adott az aktuális vektorok-ból alkotott (x,s) pár, mely eleme az Ɲ(τ, β) kör-nyezetnek. Alkalmazunk egy gyors lépést, mely-hez megoldjuk a következő egyenletrendszert: (1)A Δxa és Δsa meghatározása után úgy igyek-szünk meghatározni az α lépéshosszt, hogy a ka-pott x(α) = x + α Δxa és s(α) = s + α Δsa vektorok az Ɲ(τ, θβ + (1 - θ) βmax) szélesebb környezetben le-gyenek. Tulajdonéppen a β paraméter értékét kis-sé megnöveljük. Ez az egyik sajátossága az APF+ algoritmusnak. A normalizált dualitási rés kiszá-molása μ(α)=(x(α)T s(α)) / n összefüggés alapján történik.A [7] cikkben a szerzők egy κ küszöbértéket ad-nak meg és a μ(α) ≤ κ μ egyenlőtlenség segítségével döntik el, hogy szükség van-e biztonságos lépésre. Ha az egyenlőtlenség teljesül akkor a β paraméter új értéke θ β + (1 - θ) βmax lesz, ellenkező esetben egy biztonságos lépést végzünk úgy, hogy a kapott pontok az eredeti N(τ,β) környezetben legyenek. Biztonságos lépés esetében megoldjuk a követke-ző egyenlet-rendszert:  (2)ahol a  , tehát λeT (τμe-xs)– + eT (τμe-xs)+ = 0. Azonban a meghatározott (Δxp, Δsp) pár nem adja meg a biz-tonságos lépés irányát, ebbe bele kell vennünk még a (Δxa, Δsa) -t is. A [7] cikktől eltérően nem a (Δxa, Δsa), illetve (Δxp, Δsp)  irányok lineáris kom-binációjával dolgoztunk, hanem bevezettünk egy 0 < γ < 1 állandót, amellyel a biztonságos lépést súlyozzuk. Tehát az α hosszúságú lépés az alábbi pontokat eredményezi:x(α) = x + α (γ Δxp + Δxa) és  s(α) = s + α (γ Δsp + Δsa).4. az algoritmusA továbbiakban a [7]-ben publikált algoritmus γ paraméterrel módosított változatát mutatjuk be. Bemeneti paraméterek: kívánt pontosság ε > 0, 0 < β0 < βmax ≤ 1/3, τ < 1/2, 0 < θ ≤ 1/2, 0 < κ < θ,γ ϵ (0,1) és a kezdeti pont (x0, s0) ϵ Ɲ(τ, β0).(x, s) = (x0, s0);  β = β0;Darvay Zs., Orbán A. Sz.  – Műszaki Tudományos Közlemények 11. (2019) 49while  xT s > ε do beginMeghatározzuk (Δxa, Δsa)-t az (1) alapján.gyors lépés:α = alphaFast(x, s, Δxa, Δsa, β, βmax)x(α) = x + α Δxa; s(α) = s + α Δsa;μ(α) = (x (α)T s(α)) / n;if μ(α) ≤ κ μ thenβ = θ β + (1 - θ) βmax;else beginbiztonságos lépés:Meghatározzuk (Δxp, Δsp) -t a (2) alapján.α = alphaSafe(x, s, Δxa, Δsa, Δxp, Δsp, β);x(α) = x + α (γ Δxp + Δxa ); s(α) = s + α (γ Δsp + Δsa); μ(α) = (x(α)T s(α)) / n;end if(x, s) = (x(α), s(α)); μ = μ(α);end.Megjegyezzük, hogy az alphaFast, illetve alpha-Safe függvények úgy határozzák meg a lépés hosz-szúságát, hogy a kapott (x(α), s(α)) vektorpár az Ɲ (τ, θ β + (1 - θ) βmax), illetve Ɲ (τ, β) környezetben legyen.5. implementálás Az implementálás C++ programozási nyelvben történt, Visual Studio fejlesztői környezetben és alapjául veszi a [8] dolgozatban bevezetett kódot. A megvalósítás során mindkét lépés esetén szembesültünk azzal  a kérdéssel, hogy miként le-het meghatározni a lépés maximális hosszúságát úgy, hogy a kapott pontok a széles környezetben maradjanak. A legjobb α lépéshossz a min μ(α), (x(α), s(α)) ϵ Ɲ(τ,β), 0 < α ≤ 1,optimalizálási feladat megoldása által adható meg az algoritmus minden lépésében [7].E helyett a  következőképpen jártunk el: előbb kiszámoltuk azt a maximális hosszúságú lépést, amely még nem sérti meg a megengedettségi fel-tételeket. Ezt követően ellenőriztük, hogy a kapott pontok benne vannak-e a környezetben. Ameny-nyiben a feltétel nem teljesült feleztük a lépést és újra leellenőriztük azt, hogy a pontok benne van-nak-e a környezetben. Mindezt addig ismételtük, ameddig a megfelelő hosszúságú lépést meg nem kaptuk.6. numerikus eredményekAz algoritmust két monoton LCP-re teszteltük. Az első a következő (lcp01, lásd [9]):A másodiknak megfelelő mátrix a [10] cikkben található. Az általunk vizsgált feladat (lcp02): n = 10, q = [1, 5, 3, 6, 1, -7, 1, 8, 9, 1]T.6.1. a θ változtatásának vizsgálataAz algoritmus minden lépésében megváltoztat-juk a centrális út környezetét, amely a β para-méterrel van jellemezve. Ennek értéke egy előre meghatározott alsó és felső határ között változ-hat. A módosítást a θ paraméter segítségével vé-gezzük.Megfigyelhetjük, hogy a θ csökkentése általá-ban kevesebb iterációt eredményez (lásd az 1. és 2. táblázatot).1. táblázat. Eredmények lcp01-reteszt sorszáma θ ϵ (0, 1/2] iterációszám1 0,04 192 0,07 203 0,2 204 0,5 202. táblázat. Eredmények lcp02-reteszt sorszáma θ ϵ (0, 1/2] iterációszám1 0,04 302 0,07 313 0,2 324 0,5 336.2. a γ változtatásának vizsgálataA biztonsági lépésben bevezetettük a γ paramé-tert, mely a (Δxp, Δsp) súlyozásáért felel, általa mó-dosítható az x(α) = x + α (γ Δxp + Δxa) és s(α) = s + α (γ Δsp + Δsa) lépés. A következőkben vizsgáljuk, hogy a γ  változtatása milyen hatással van az al-goritmus kimenetelére.Megállapítható, hogy ha nagyon kicsi a γ,  akkor csökken a biztonsági lepés hatása, így több iterá-ciót végzünk (lásd az 3. és 4. táblázatot).Darvay Zs., Orbán A. Sz. – Műszaki Tudományos Közlemények 11. (2019)507. következtetésekA cikkben Ma, Liu, Zhang és Cong algoritmusát vizsgáltuk meg, mely két különböző lépést hasz-nálva éri el rövid lépéses algoritmusok elméleti hatékonyságát. A megvalósítás szemszögéből nézve módosítottuk az algoritmust úgy, hogy egy γ paraméter segítségével súlyoztuk a biztonsági lépést.A C++ programozási nyelvben írt kód segítsé-gével sikerült alátámasztani az algoritmus ha-tékonyságát. Különböző monoton LCP-k esetén vizsgáltuk az iterációszám változását a θ, illetve γ paraméterek függvényében.Annak ellenére, hogy az algoritmus monoton LCP-re vonatkozik a tesztelés során olyan felada-tokra is jó eredményeket kaptunk, melyekre ez a tulajdonság nem teljesül. A [11]-ben közzétett 10 × 10 és 20 × 20 méretű elégséges mátrixokra is legtöbb 24 iteráció alatt sikerült megoldást talál-ni. Megjegyezzük, hogy elsőként a [12] publikáci-óban sikerült numerikus eredményeket elérni a [11]-beli feladatokra.Eszerint érdemes a jövőben erre az általáno-sabb mátrixosztályra is megvizsgálni az algorit-mus elméleti hatékonyságát.köszönetnyilvánításA szerzők köszönetüket fejezik ki az Erdélyi Múze-um-Egyesületnek a kutatási munkához nyújtott támogatásért.szakirodalmi hivatkozások[1] Roos C., Terlaky T., Vial. J.-Ph.: Theory and Algo-rithms for Linear Optimization. Springer, NY, USA, 2005.[2] Wright. S. J.: Primal-Dual Interior-Point Methods. SIAM, Philadelphia, USA, 1997.[3] Ye. Y.: Interior Point Algorithms, Theory and Anal-ysis. John Wiley & Sons, Chichester, UK, 1997/3. (1997)[4] Kojima M., Megiddo N., Noma T., Yoshise A.: A Unifed Approach to Interior Point Algorithms for Linear Complementarity Problems. Lecture Notes in Computer Science 538, Springer Verlag, Berlin, Germany, 1991.[5] Ai. W.: Neighborhood-following algorithm for lin-ear programming. Sci. China serie A, 47. (2004) 812 – 820.[6] Ai W., Zhang S.: An O(√nL) iteration primal-dual path-following method, based on wide neighbor-hoods and large updates, for monotone LCP. SIAM Journal on Optimization 16/2. (2005) 400–417.https://doi.org/10.1137/040604492[7] Ma X., Liu H., Zhang J., Cong W.: On superlinear and O(√nL) convergence of a path-following algo-rithm for monotone linear complementarity prob-lems in a wide neighborhood. Numerical Func-tional Analysis and Optimization, 38/5. (2017) 627–640.https://doi.org/10.1080/01630563.2017.1297824[8] Darvay Zs., Takó I.: Computational comparison of primal-dual algorithms based on a new software. unpublished manuscript. (2012)[9] Hock W., Shittkowski K.: Test Examples for Non-linear Programming Codes.  Lecture Notes in Eco-nomics and Mathematical Systems 187. Springer, Berlin (1981)https://doi.org/10.1007/978-3-642-48320-2[10] Harker P. T., Pang J. S.: A damped Newton method for linear complementarity problem. In: Simula-tion an Optimization of Large Systems, Lectures on Applied Mathematics, AMS, Providence, RI, 26. (1990) 265–284.[11] Morapitiye S.: Sufficient Matrices. (letöltve: 2019. február 9.).http://math.bme.hu/~sunil/su-matrices/ [12] Darvay Zs., Illés T., Povh J., Rigó P. R.: Predic-tor-corrector interior-point algorithm for suffi-cient linear complementarity problems based on a new search direction, manuscript. (2019)3. táblázat. Eredmények lcp01-reteszt sorszáma γ ϵ (0, 1) iterációszám1 0,9 202 0,6 203 0,3 214 0,01 214. táblázat. Eredmények lcp02-reteszt sorszáma γ ϵ (0, 1) iterációszám1 0,9 322 0,6 323 0,3 334 0,01 34

Lineáris komplementaritási feladatra vonatkozó széles környezetben működő belsőpontos algoritmus implementálása

http://real.mtak.hu/150931/1/MTK11-08-Darvay-Orban.pdf

Lineáris komplementaritási feladatra vonatkozó széles környezetben működő belsőpontos algoritmus implementálása

Abstract

Similar works

Full text

Available Versions

Repository of the Academy's Library