Setiap manusia, lembaga, perusahaan akan dihadapkan pada pilihan-pilihan dan harus memilih satu dari

semua alternatif yang tersedia. Banyak hal/faktor yang digunakan untuk mengambil keputusan.

Keputusan/pilihan diambil didasarkan pada harapan bahwa pilihan tersebut memberikan manfaat terbesar

diantar pilihan yang ada. Dalam tulisan ini dibahas pemodelan untuk data respon polikotomis

menggunakan dua pendekatan distribusi, yaitu distribusi nilai ekstrim dan distribusi logistik. Dari dua

distribusi tersebut diperoleh model probabilitas yang sama.

Kata kunci : Model discrete Choice, Logit, Lin

Jaka, Nugraha

Sri Haryatmi, Kartiko

Suryo, Guritno

Lumbung Pustaka UNY  (UNY Repository)

Dipresentasikan dalam Seminar Nasional MIPA 2006 dengan tema "Penelitian, Pendidikan, dan Penerapan MIPA serta Peranannya dalam Peningkatan Keprofesionalan Pendidik dan Tenaga Kependidikan" yang diselenggarakan oleh Fakultas MIPA UNY, Yogyakarta pada tanggal 1 Agustus 2006 Model Discrete Choice dan Regresi Logistik  Oleh :  Jaka Nugraha1, Suryo Guritno2, Sri Haryatmi Kartiko2 1. Jurusan Statistika, FMIPA UII. Email: jnugraha@fmipa.uii.ac.id  2. Jurusan Matematika FMIPA UGM  Abstrak  Setiap manusia, lembaga, perusahaan akan  dihadapkan pada pilihan-pilihan dan harus memilih satu dari semua alternatif yang tersedia. Banyak hal/faktor yang digunakan untuk mengambil keputusan. Keputusan/pilihan diambil didasarkan pada harapan bahwa pilihan tersebut memberikan manfaat terbesar diantar pilihan yang ada. Dalam tulisan ini dibahas pemodelan untuk data respon polikotomis menggunakan dua pendekatan distribusi, yaitu distribusi nilai ekstrim dan distribusi logistik. Dari dua distribusi tersebut diperoleh model probabilitas yang sama.   Kata kunci : Model discrete Choice, Logit, Link   Discrete Choice Models and Logistic Regression  Abstract Everyone, institution, and company will faced to several alternatives and must chose one of them. A lot of factor used to make a decision. The decision/choice is based  on expectation that the choices will give the biggest advantage among the others. This paper will dicribe modeling for polychotomous response data by using two distributions approximation : extreme value and logistic distributions. Both of distribution give the same model of probability. Key Words : Discrete Choice Models, Logit, link.    1. Pendahuluan   Setiap manusia, lembaga, perusahaan akan  dihadapkan pada pilihan-pilihan. Kita harus memilih satu dari semua alternatif yang tersedia, mulai dari satu alternatif saja (tidak ada alternatif lain), dua alternatif sampai dengan banyak alternatif. Banyak hal/faktor yang digunakan untuk mengambil keputusan. Pertama, faktor internal yaitu sifat sifat atau karakteristik yang melekat pada diri pembuat keputusan. Kedua, faktor eksternal yaitu keadaan/ faktor yang berasal dari luar/lingkungan pembuat keputusan. Kedua faktor tersebut dapat bersifat kualitatif maupun kuantitatif.  Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko   Sementara itu keputusan/pilihan dilakukan berdasarkan atas asas manfaat dan mudhorot (resiko) bagi pembuat keputusan. Suatu pilihan dilakukan jika pilihan itu paling menguntungkan dibandingkan dengan semua alternatif pilihan yang lain, atau bisa juga karena pilihan itu paling kecil resikonya dibanding dengan alternatif yang lain.  Disamping itu,  kadang kita tertarik untuk menduga nilai respon yang dikaitkan dengan sekumpulan kovariate dengan menggunakan fungsi penghubung tertentu. Ketika respon kontinyu, umumnya dipilih fungsi penghubung identitas, sedangkan untuk respon biner dipilih fungsi penghubung logit. Terdapat perbedaan antara analisis regresi logistik ganda dengan analisis regresi ganda. Analisis regresi ganda digunakan pada distribusi normal, sedangkan analisis regresi logistik digunakan untuk data yang berdistribusi binomial.  Regresi logistik pada respon dikotomis tersebut  biasa dinamakan regresi logistik biner. Sering kali respon mempunyai lebih dari dua alternatif jawaban misalkan tentang warna kesukaan (merah, kuning, hijau, dsb) atau contoh yang lain tentang penilaian (sangat baik, baik, cukup, buruk, sangat buruk). Pada data polikotomis tersebut dapat digunakan analisis regresi multinomial. Dalam makalah ini akan dibahas pemodelan untuk data polikotomis menggunakan analisis regresi multinomial berdasarkan link logit dan model discrete choice yang didasarkan atas utilitis (manfaat) bagi pembuat keputusan (responden).  2. Model Multinomial   Model Regresi Logistik digunakan untuk menggambarkan hubungan antara variabel independen/prediktor dengan variabel dependen/respon yang berupa data biner/dikotomi [1]. Variabel responnya (Y), biasanya digunakan nilai 0 (gagal) dan 1 (sukses). Fungsi distribusi yang digunakan adalah distribusi logistik dengan notasi  p= π(X) = E(Y|X) untuk menyatakan mean bersyarat dari Y jika diberikan vektor kovariate Xi = (x1,x2, …xp)t. Model regresi logistik dapat dinyatakan dalam bentuk  π(Xi) = β)exp(X1β)exp(Xtiti+         (1) dengan β = (β1, …., βp)T adalah vektor parameter dan 0 ≤π(X)≤1 dan i=1,2,...n. Seminar Nasional MIPA 2006 M - 28Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko  Untuk menentukan model regresi, harga β ditaksir lebih dahulu dengan menggunakan Metode Kemungkinan Maksimum dan dilanjutkan dengan pengujian terhadap model (uji kecocokan model dan uji koefisien regresi) [2]. Pengembangan atas regresi logistik biner adalah regresi logistik multinomial, yaitu variabel dependen Y bernilai diskrit (1, 2, ...J). Jenis data untuk variabel Y dapat berbentuk data nominal maupun ordinal.     Variabel random Yi bernilai diskrit dengan indeks 1, 2, …J.   πij = P{Yi = j}         (2) merupakan probabilitas responden ke-i memilih kategori ke-j untuk i=1,2...n dan j=1,2,...J. Diasumsikan antar pilihan adalah saling asing sehingga  untuk setiap i. Sehingga hanya dipunyai J-1 parameter. Dapat disusun distribusi multinomial 11=∑=Jjijπ P{Yi1=yi1, ….,YiJ=yiJ} =     (3) yiJiJyiiiJiiyyn ππ ....,...,111⎟⎟⎠⎞⎜⎜⎝⎛Untuk menyusun model logit, dilakukan dengan cara salah satu kategori (biasanya kategori terakhir) dijadikan baseline, sehingga model logitnya adalah [3] ijttijiJijij XX ββππη === )log(        (4) untuk j=1,2,….,(J-1).  Teorema 1. Model probabilitas responden/individu ke i memilih alternatif j adalah   ∑== Jkikijij1)exp()exp(ηηπ  untuk suatu i dan suatu j dimana i=1,2,…n dan j=1,2…,J Bukti : βππη tijiJijij X== )log(   <=> )exp( ijiJij ηππ =   <=> )exp( ijiJij ηππ =   Seminar Nasional MIPA 2006 M - 29Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko  Karena dan η11=∑=Jjijπ iJ = 0 maka      1)exp(11==∑∑==JjijiJJjij ηππ <=>   1)exp(11== ∑∑==JjijiJJjij ηππ<=> ∑== JkikiJ1)exp(1ηπ  dan ∑== Jkikijij1)exp()exp(ηηπ    (terbukti) Untuk menentukan model regresi, harga β ditaksir lebih dahulu dengan menggunakan Metode Kemungkinan Maksimum.    Teorema 2. Misalkan suatu sampel terdiri n observasi dari pasangan observasi (Xi,yi), i=1,…,n dan                  Yi=( yi1,yi2,...,yiJ) dengan yij =0,1 untuk j=1,2,...J. Model regresi logistik   ∑== Jkikijij1)exp()exp(ηηπ        penaksir β = (β1,…,βp)t menggunakan metode kemungkinan maksimum adalah penyelesaian dari persamaan kemungkinan :  ∑=ni 1[yi j - πij ] = 0 dan     ∑∑= ==−niJjijijij yX1 10][ π Bukti : Fungsi likelihood dari sampel random berukuran n (n responden) adalah iJi yiJniyiL ππβ ∏==11 ....)(1  dengan yij = 1 jika responden i memilih j dan yij=0 jika responden i memilih selain j. Log dari fungsi likelihood tersebut adalah  LL(β) = ∑∑  = =niJjijijy1 1)ln(πSeminar Nasional MIPA 2006 M - 30Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko    = ∑∑  ∑= = = ⎟⎟⎠⎞⎜⎜⎝⎛⎟⎟⎠⎞⎜⎜⎝⎛−niJjtijJjtijij XXy1 1 1)exp(ln ββ  = ∑∑  ∑ ∑∑= = = == ⎟⎟⎠⎞⎜⎜⎝⎛⎟⎟⎠⎞⎜⎜⎝⎛−niJjniJjijtijJjtijij yXXy1 1 1 11)exp(ln ββ  = ∑∑  ∑ ∑= = = = ⎟⎟⎠⎞⎜⎜⎝⎛−niJjnitijJjtijij XXy1 1 1 1)exp(ln ββDerivatif LL(β) terhadap β adalah   ββ∂∂ )(LL= ∑∑ ∑ ∑∑= = === ⎟⎟⎟⎟⎟⎠⎞⎜⎜⎜⎜⎜⎝⎛−niJjni tijJjtijJjijijijXXXyX1 1 111 )exp()exp(ββ   =      (terbukti) [ ]∑∑= ==−niJjijijij yX1 10πPenyelesaian dari persamaan penaksir dari teorema 2 dapat digunakan iterasi dengan menggunakan metode newton raphson dan metode scoring.  3. Model Discrete Choice (Pemilihan Diskrit) Model pemilihan diskrit menggambarkan pembuat keputusan memilih diantara alternatif yang tersedia. Pembuat keputusan dapat berupa orang, rumah tangga, perusahaan atau unit pembuat keputusan yang lain. Himpunan semua pilihan/alternatif disebut Choice set.  Model pemilihan diskrit digunakan untuk menguji pilihan “yang mana”, sedangkan model regresi dipakai untuk menguji “berapa banyak”. Walaupun demikian seringkali model pemilihan diskrit juga dapat dipakai untuk menguji “berapa banyak”.  Model pemilihan diskrit biasanya diturunkan dibawah asumsi manfaat maksimum oleh pembuat keputusan [4].   Seorang pembuat keputusan dinotasikan dengan i, yang berhadapan dengan pilihan sebanyak J anternatif. Pembuat keputusan mempunyai tingkat utiliti (keuntungan) untuk setiap alternatif. Misalkan Uij  untuk j=1,…,J adalah utiliti pembuat keputusan (responden) i jika memilih alternatif j. Nilai Uij yang sesungguhya tidak diketahui oleh pengamat (peneliti). Tentunya pembuat keputusan memilih alternatif yang mempunyai utiliti terbesar, sehingga memilih alternatif  k  jika dan hanya jika Uik > Uij ∀j ≠ k.         Seminar Nasional MIPA 2006 M - 31Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko   Peneliti tidak mengetahui nilai utiliti untuk pembuat keputusan terhadap setiap alternatif. Peneliti hanya mengamati atribut yang ada untuk masing-masing alternatifnya, yang dinotasikan dengan xkj ∀j  dan atribut pembuat keputusan yang dinotasikan dengan si. Secara fungsi dapat dinotasikan sebagai Vij= V(xij,si) ∀j yang biasa dinamakan representative utility.  Karena nilai utiliti yang sesungguhnya tidak diketahui peneliti maka  Vij ≠ Uij dan Uij = Vij + εij εi = (εi1, ….,εiJ) adalah variabel random yang mempunyai densitas f(εi). Probabilitas pembuat keputusan i memilih alternatif k dapat dinyatakan sebagai [4]  Pik = Pr(Uik > Uij  ∀j≠ k)       = Pr(εij - εik < Vik – Vij ∀j≠ k)       =      (5) iiijikikij dfkjVVI εεεεε )()( ≠∀−<−∫I(.) adalah fungsi indikator, yang bernilai 1 jika pernyataan dalam kurung benar dan bernilai 0 jika pernyataan salah. Selanjutnya dapat dipilih atau ditentukan densitas  f(εik) yang sesuai/tepat, misalnya distribusi nilai ekstrim dan biasa disebut dengan model logit.  Model Logit diturunkan dengan asumsi bahwa εik  berdistribusi nilai ekstrim (extreme value) yang saling independen untuk semua i. Fungsi densitas extreme value (Gumbel) adalah  ijijijfεεε εεε −−−=)(          (6) dan distribusi kumulatifnya adalah njnjFεεεε −−=)(          (7) Variansi dari distribusi ini adalah π2/6. Teorema 3. Jika εi = (εi1, ….,εiJ) adalah variabel random yang mempunyai densitas extreme value maka probabilitas pembuat keputusan i memilih alternatif k adalah  Pik = ∑jijV ))exp()Vexp( ik  untuk k=1,2,...J  Bukti :  Seminar Nasional MIPA 2006 M - 32Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko  Probabilitas pembuat keputusan i memilih alternatif k yang dinyatakan sbb : Pik = Pr(εij - εik < Vik – Vij ∀j≠k)       = Pr(εij < εik + Vik – Vij ∀j≠k) Jika εik diketahui dan saling independen, maka  Pik|εik =  ∏≠−+−−kjijikik VV )))(exp(exp( εOleh karena nilai εik tidak diketahui maka Pik merupakan integral Pik|εik atas seluruh nilai εik terbobot densitasnya, yaitu   Pik =  ( )∫∏≠−−−−+−−kjikikikijikik dVV εεεε ))exp(exp()][exp()))(exp(exp(Dengan mengambil s=εik dan oleh karenaVik-Vik=0 maka Pik dapat dinyatakan sebagai    Pik =  ( )∫ ∏∞−∞= −−+−−s j ijik dssVVs )][exp()))(exp(exp(=  ∫ ∑∞−∞= −⎟⎟⎠⎞⎜⎜⎝⎛ −+−−s jijik dssVVs ))exp())(exp(exp=  ∫ ∑∞−∞= −− ⎟⎟⎠⎞⎜⎜⎝⎛ −−−ssjijiis dseVVe ))(exp(expMisalkan t = exp(-s) sehingga dt = -exp(-s)ds Pik =  ∫ ∑∞ −⎟⎟⎠⎞⎜⎜⎝⎛ −−−0 )())(exp(exp dtVVtjijik=  ∫ ∑∞ ⎟⎟⎠⎞⎜⎜⎝⎛ −−−0))(exp(exp dtVVtjijik= ∞∑∑−−−⎟⎟⎠⎞⎜⎜⎝⎛ −−−0))(exp())(exp(expjijikjijikVVtVVt = ∑ −−jijik VV ))(exp(1= ∑jijV ))exp()Vexp( ik   (terbukti) Formula untuk Pik tersebut dinamakan probabilitas logit. Jika Vij merupakan fungsi linear dari xij maka dapat dinyatakan menjadi Seminar Nasional MIPA 2006 M - 33Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko   Pik = ∑=Jjijtiitxx1)exp()exp(ββ        (8) Untuk sebarang dua alternatif k dan r, rasio probabilitas logitnya dapat dinyatakan sebagai    ∑∑=== JjVijVirJjVijVikirikeeeePP11 = exp(Vik – Vir)     (9) Rasio ini tidak tergantung pada alternatif lain selain i dan k. Sifat ini dinamakan independence from irrelevant alternatives (IIA). Selanjutnya estimasi parameter β dapat dilakukan dengan prosedur maksimum likelihood. Misalkan N sampel dari individu yang membuat keputusan, probabilitas individu n memilih sebuah alternatif dapat dinyatakan sebagai ∏jyijijP )(  Dengan yij = 1 jika individu i memilih j dan nol jika memilih yang lainnya. Dengan mengasumsikan bahwa setiap keputusan antar individu saling independen maka probabilitas masing-masing individu dalam sampel memilih sebuah alternatif adalah          (10) ∏∏==ni jyijijPL1)()(βDengan β merupakan vektor parameter dalam model. Fungsi Log likelihood nya menjadi         (11) ∑∑==ni jijij PyLL1)ln()(βPenaksir β adalah nilai β yang memaksimumkan fungsi LL(β). Teorema 4. Penaksir β dengan menggunakan prosedur maksimum likelihood adalah penyelesaian dari persamaan    ∑= ==∑ −niJj ijijijxPy1 10)(Bukti: Seminar Nasional MIPA 2006 M - 34Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko  ∑∑==ni jijij PyLL1)ln()(β   =∑∑ ∑= ⎟⎟⎟⎠⎞⎜⎜⎜⎝⎛ni jjijtijtijxxy1 )exp()exp(ln ββ  =  ∑∑ ∑∑∑== ⎟⎟⎠⎞⎜⎜⎝⎛−ni j jijtijni iijtij xyxy11)exp(ln)( ββDerevatif LL(β) terhadap β adalah   =∂∂ββ )(LL ∑∑ ∑∑∑==−ni j jijijijni jijij xPyxy11  =  ∑ ∑∑∑∑== ⎟⎟⎠⎞⎜⎜⎝⎛−ni jijjijijni jijij yxPxy11 =  ∑∑∑∑==−ni jijijni jijij xPxy11 =     (terbukti) 0)(1=−∑∑=ni jijijij xPyPenyelesaian persamaan penaksir tersebut dapat diselesaikan secara iterasai dengan metode newton raphson maupun metode scoring. Selanjutnya untuk melakukan menguji kesesuaian model dengan data (uji goodness of Fit) dapat digunakan likelihood ratio index, yang diefinisikan sebagai   )0()ˆ(1LLLL βρ −=         (12) dengan LL(0) adalah nilai log likelihood untuk β=0.  4. Contoh Kasus Diambil data dari survei Demografi dan Kesehatan di Elsavador [3]. Survey terhadap 3165 wanita yang masih bersuami yang diklasifikasikan ke dalam kelompok usia (interval 5 tahun) dan penggunaan alat kontrasepsi yang diklasifikasikan dalam “steril”, “lainnya” dan “none”. Data disajikan dalam tabel berikut Tabel 1. data survey Demografi dan Kesehatan di Elsavador.  kontrasepsi usia Steril lainnya none Seminar Nasional MIPA 2006 M - 35Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko  15-19 3 61 23220-24 80 137 40025-29 216 131 30130-34 268 76 20335-39 197 50 18840-44 150 24 16445-49 91 10 183 Dari data pada tabel 1, jika dilakukan uji independensi diperoleh nilai χ2 = 521,1 dengan derajad bebas 12. Jelas bahwa terdapat hubungan atau pengaruh usia terhadap penggunaan kontarasepsi. Selanjutnya jika dilakukan analisis dengan model regresi multinomial maka dapat digunakan model logit dengan fungsi logit  22103)()log( UsiaUsiaiij βββππ ++=   Kategori ke-3 (none) digipakai sebagai base-line. Nilai untuk variabel usia diambil nilai tengah untuk masing-masing kelompok usia. Pengaruh usia terhadap logit diduga berbentuk polinomial orde dua, sebab dari gambar 1, plot usia terhadap nilai logit berbentuk kurva. -5-4-3-2-1010 10 20 30 40 50usialogit sterillain Gambar 1. Plot usia terhadap logit  antara “steril” vs “none” dan “lain” vs “none”.  Beberapa paket program statistika telah menyediakan fasilitas analisis untuk model regresi multinomial, misalnya program SPSS dan MINITAB. Dalam hal ini digunakan program SPSS 11.5, diporoleh output sebagai berikut :  Tabel 2. hasil estimasi parameter model multinomial. Seminar Nasional MIPA 2006 M - 36Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko  RESPON (a)   B Std. Error Wald df Sig. Exp(B) 95% Confidence Interval for Exp(B)                 Lower Bound Upper Bound 1.00 Intercept -12.266 .735 278.468 1 .000       Usia .700 .045 243.551 1 .000 2.014 1.844 2.199  Usia^2 -.010 .001 218.250 1 .000 .990 .989 .9922.00 Intercept -4.419 .671 43.398 1 .000       Usia .259 .046 31.340 1 .000 1.296 1.184 1.419  Usia^2 -.005 .001 39.233 1 .000 .995 .994 .997 Dari tabel 2 dapat disimpulakan bahwa pengaruh usia terhadap logit berbentuk linear dan kuadratis. Nilai Chi-Square untuk statistik Pearson adalah 18,869 dengan derajad bebas 8 dan untuk statistik Deviance besarnya 20,475 dengann derajad bebas 8. Jadi dari nilai statistik ini berarti model layak digunakan.   Perbandingan logit aktual dan logit prediksi disajikan dalam gambar 2. Secara umum model yang diperoleh dapat mempredikasikan dengan baik. -5-4-3-2-1010 10 20 30 40 50usialogitsterrillainSteril-PredLain-Pred Gambar 2. Plot usia terhadap logit pada nilai aktual dan nial prediksi   4. Kesimpulan Analisis regresi untuk respon nominal dengan menggunakan model logistic maupun model discrete choice yang didasarkan pada distribusi nilai ekstrim menghasilkan fungsi probabilitas yang sama. Penaksir parameter didapatkan dengan cara menyelesaikan persamaan penaksir secara iterasi.   5. Daftar pustaka Seminar Nasional MIPA 2006 M - 37Jaka Nugraha, Suryo Guritno, Sri Haryatmi Kartiko  [1] W. Hosmer & L. Stanley, 1989, Applied Logistic Regression, John Wiley & Sons [2] Agresti, Alan, 1990, Categorical Data Analysis, John wiley & Son [3] Rodriguez, 2001, Generalized Linear statistical Models, http://data.princeton.edu/wwws509 [4] E. Train, Kenneth, 2003, Discrete Choice Methods with Simulation, Cambridge University  Press. Seminar Nasional MIPA 2006 M - 38

Model Discrete Choice dan Regresi Logistik

Abstract

Similar works

Full text

Available Versions

Lumbung Pustaka UNY (UNY Repository)