Two Stage Least Square (2SLS) adalah salah satu metode regresi yang termasuk ke dalam kelompok analisis persamaan struktural. Metode ini merupakan perluasan dari metode OLS yang biasa digunakan dalam perhitungan anlsisi regresi. 2SLS digunakan dalam kondisi dimana terdapat korelasi antara error yang dihasilkan dalam model berkorelasi dengan variabel bebasnya.

Mengapa disebut Two Stage Least Square, karena terdapat tow stage atau dua langkah dan pada dasarnya hanya merupakan perluasan dari metode OLS (Ordinary Least Square).

langkah untuk menyelesaikan persamaan sehingga tidak bias. Langkah pertama adalah dengan menggunakan metode OLS, meregresikan variabel endogen eksplanatori terhadap variabel instrumental variabel dan variabel eksogen lainnya. Hal ini dilakukan untuk mendapatkan variabel eksogen yang tidak bias.

Langkah kedua adalah meregresikan variabel endogen terhadap variabel endogen eksplanatori yang sudah tidak bias bersama bariabel lainnya.

Dalam dunia riil, tentu kita mungkin akan menemukan lebih banyak menemukan model simultan, dimana model tidak hanya mempengaruhi satu arah, tetapi saling mempengaruhi satu sama lain. Variabel endogen tidak mutlak menjadi variabel endogen, begitu juga sebaliknya. Dalam beberapa kondisi dapat menjadi variabel endogen atau variabel eksogen. Katakanlah terdapat persamaan dimana variabel endogennya adalah GDP, sebagai berikut:

Persamaan pertama:

GDP = a0+a1*M2+a2*TBR+a3*GFCF+a4*EMPLOY+e1

Sementara varaibel M2 sendiri adalah variabel endogen dari variabel lainnya seperti persamaan berikut:

Persamaan Kedua:

M2=b0+b1*GDP+b2*TBR+b3*CPI+e2

Persamaan tersebut tentu tidak dapat diselesaikan dengan menggunakan OLS, karena overidentified sehingga akan menghasilkan persamaan yang bias. Dalam hal ini two stage least square mengambil peran.

Pada model TSLS, kita perlu membuat reduce form untuk model di atas. Reduced form adalah persamaan model variabel endogen yang diekspresikan dalam bentuk variabel eksogen dalam persamaan lainnya.

Untuk menyelesaikan persamaan pertama kita perlu memasukan intrumental variabel yang mana adalah: yang perlu diisikan di instrumental list adalah semua variabel pada persamaan reduce form termasuk konstantanya.

untuk persamaan pertama : c TBR CPI GFCF EMPLOY

untuk persamaan kedua: c TBR, GFCF, EMPLOY, CPI

Bagaimana mendeteksi sebuah model adalah persamaan simultan.

1. Secara teoritis

2. Secara empiris

Kita dapat menguji korelasi antara variabel bebas dengan error term (residual). jika terdapat variabel yang memiliki korelasi yang signifikan dengan variabel error maka dapat diduga variabel tersebut dapat diturunkan menjadi persamaan simultan.

Bagaimana mendeteksi sebuah variabel adalah merupakan instrumental variabel

kita dapat menguji korelasi variabel tersebut dengan meregresikan variabel eindependen terdhadap variabel independent yang diduga adalah instrumental variabel beserta variabel lainnya dalam model awa. jika variabel instrumental tersebut memiliki koefisien regresi yang signifikan maka diduga variabel tersebut merupkan instrumental variabel. sementara variabel lainnya tidak mesti signifikan.

Terdapat syarat lain bahwa sebuah variabel dapat dikatakan menjadi instrumental variabel yaitu variabel tersebut tidak boleh behubungan signifikan dengan residual (e) model pertama. Mengujinya tentu tidak sulit, kita hanya perlu meregresikan residual (e) terhadap variabel yang diduga instrumental variabel. Jika koefisien regresinya tidak signifikan, berarti memang variabel tersebut adalah instrumental variabel.

Definisi Monte Carlo

Simulasi monte carlo adalah sebuah simulasi untuk menentukan suatu angka random dari data sampel dengan berdistribusi tertentu. Tujuan simulasi Monte carlo adalah menemukan nilai yang mendekati nilai sesungguhnya, atau nilai yang akan terjadi berdasarkan distribusi dari data sampling. Oleh sebab kemampuannya mampu memprediksi suatu nilai, maka Monte Carlo dahulu sering digunakan untuk kepentingan judi di kasino.

Dalam dunia keuangan dan perbankan, simulasi Monte carlo tentu sangat dibutuhkan untuk menghitung resiko finansial. Bagi perbankan yang salah satu kegiatan utamanya adalah memberikan kredit kepada nasabah, tentu Monte carlo dibutuhkan untuk memprediksi resiko finansial perbankan akibat kredit macet. Dalam duni investasi, investor dapat memanfaatkan simulasi Monte Carlo untuk mengetahui resiko gagal bayar dari suatu instrumen investasi. Pada dasarnya, dalam dunia keuangan dan perbankan Metode simulasi Monte carlo dapat membantu kita dalam melakukan mitigasi atas resiko.

Prosedur Monte Carlo

1. tentukan angka sampling yang akan disimulasikan

2. temukan distribusi dari data sampling yang ada

3. simulasi berdasarkan distribusi di atas

Bagaimana Melakukan Simulasi Monte Carlo dengan Excel

Saat ini kita dapat melakukan simulasi monte carlo dengan bantuan add ins excel dengan Crystal Ball dari Oracle. Sebagai contoh, seorang aktuaris pada perusahaan asuransi ingin memprediksi tingkat kecelakaan di jalan tol ruas tertentu. Berdasarkan data statistik diketahui sebagai berikut:

Bulan Frekuensi Kecelakaan Bulan Frekuensi Kecelakaan Bulan Frekuensi Kecelakaan
1 9 9 12 17 21
2 8 10 12 18 22
3 43 11 14 19 23
4 12 12 15 20 21
5 16 13 24 21 12
6 32 14 26 22 24
7 13 15 27 23 25
8 4 16 25 24 11

untuk melakukan simulasi terhadap data kecelakaan di atas perlu diketahui apa distribusi dari data di atas. Untuk mengetahuinya kita akan menggunakan add ins crystal ball di excel. Di samping Crystal Ball, masih terdapat software lain yang dapat kita gunakan untuk simulasi monte carlo diantaranya adalah Matlab atau @Risk.

monte carlo 1

Berdasarkan hasil keluaran Excel di atas adalah sebagai berikut:

Distribution Chi-Square Chi-Square P-Value Parameters
Neg Binomial 2.9994 0.083 Probability=0.10643, Shape=2
Geometric 8.3675 0.015 Probability=0.05322
Discrete Uniform 9.5238 0.002 Minimum=2, Maximum=45
Poisson 14.9961 0.001 Rate=18.79167
Binomial 17.0778 0.000 Trials=177, Probability=0.10617

Berikut merupakan summary untuk distribusi Neg binomial:

Data Series: 1
Distribution: 19.
Best Fit: Neg Binomial
Chi-Square 1.7900
P-Value: 0.181

Berdasarkan hasil di atas maka distribusi yang paling fit untuk data di atas adalah distribusi Neg binomial. Selanjutnya distribusi ini yang akan kita jadikan acuan untuk melakukan simulasi dengan menggunakan Monte carlo.

Berikut merupakan langkah-langkah simulasinya:

monte carlo 2

Selanjutnya untuk melihat nilai trial-nya, kita dapat memilih option extract data sesuai kebutuhan.

monte carlo 3

Maka hasil Monte carlo akan diperoleh sebagai berikut:

Trial values Data Series 1: Best Fit
1 34.
2 10.
3 12.
4 21.
5 16.
6 29.
7 23.
8 24.
… …
1000 33.

Tabel di atas menggambarkan hasil untuk simulasi 1000 data. Berdasarkan data di atas maka aktuaris dapat menghitung probabilitas kecelakaan di ruas tol tertentu. Ketika probabilitas kecelakaan sudah diketahui maka tentunya seorang aktuaris dapat menghitung berapa klaim yang harus dibayarkan oleh perusahaan dan berapa premi yang harus dibayarkan oleh nasabah.

Dalam industri perbankan, dengan mengetahui berapa kemungkinan gagal kredit, maka manajemen dapat mengetahui berapa modal yang harus dicadangkan untung memitigasi resiko tersebut. Hal ini dapat juga dimanfaatkan oleh bank sentral, saat ini OJK (Otoritas Jasa Keuangan), untuk membuat kebijakan dalam mengawasi resiko kredit perbankan. Sehingga perbankan harus mencadangkan senilai tertentu untuk resiko kreditnya. Di bidang investasi, ketika seorang investor mengetahui tingkat resiko maksimum dari investasi di instrumen tertentu, maka investor dapat melakukan langkah mitigasi.

Pada dasarnya simulai Monte Carlo dilakukan berdasarkan distribusi sampling tertentu. Kuncinya adalah mengidentifikasi distribusi dari data sampel yang ada. Secara random, dilakukan simulasi terhadap angka-angka sehingga dihasilkan kombinasi yang mendekati distribusi yang paling fit.

Analisis Regresi Sederhana adalah sebuah metode pendekatan untuk pemodelan hubungan antara satu variabel dependen dan satu variabel independen. Dalam model regresi, variabel independen menerangkan variabel dependennya. Dalam analisis regresi sederhana, hubungan antara variabel bersifat linier, dimana perubahan pada variabel X akan diikuti oleh perubahan pada variabel Y secara tetap. Sementara pada hubungan non linier, perubahaan variabel X tidak diikuti dengan perubahaan variabel y secara proporsional. seperti pada model kuadratik, perubahan x diikuti oleh kuadrat dari variabel x. Hubungan demikian tidak bersifat linier.

Secara matematis model analisis regresi linier sederhana dapat digambarkan sebagai berikut:

Y = A + BX + e

Y adalah variabel dependen atau respon

A adalah intercept atau konstanta

B adalah koefisien regresi atau slope

e adalah residual atau error

Secara praktis analisis regresi linier sederhana memiliki kegunaan sebagai berikut:

1. Model regresi sederhana dapat digunakan untuk forecast atau memprediksi nilai Y. Namun sebelum melakukan forecasting, terlebih dahulu harus dibuat model atau persamaan regresi linier. Ketika model yang fit sudah terbentuk maka model tersebut memiliki kemampuan untuk memprediksi nilai Y berdasarkan variabel Y yang diketahui. Katakanlah sebuah model regresi digunakan untuk membuat persamaan antara pendapatan (X) dan konsumsi (Y). Ketika sudah diperoleh model yang fit antara pendapatan dengan konsumsi, maka kita dapat memprediksi berapa tingkat konsumsi masyarakat ketika kita sudah mengetahui pendapatan masyarakat.

2. Mengukur pengaruh variabel X terhadap variabel Y. Misalkan kita memiliki satu serial data variabel Y, melalui analisis regresi linier sederhana kita dapat membuat model variabel-variabel yang memiliki pengaruh terhadap variabel Y. Hubungan antara variabel dalam analisis regresi bersifat kausalitas atau sebab akibat. Berbeda halnya dengan analisis korelasi yang hanya melihat hubungan asosiatif tanpa mengetahui apa variabel yang menjadi sebab dan apa variabel yang menjadi akibat.

Model regresi linier sederhana yang baik harus memenuhi asumsi-asumsi berikut:

1. Eksogenitas yang lemah, kita harus memahami secara mendasar sebelum menggunakan analisis regresi bahwa analisis ini mensyaratkan bahwa variabel X bersifat fixed atau tetap, sementara variabel Y bersifat random. Maksudnya adalah satu nilai variabel X akan memprediksi variabel Y sehingga ada kemungkinan beberapa variabel Y. dengan demikian harus ada nilai error atau kesalahan pada variabel Y. Sebagai contoh ketika pendapatan (X) seseorang sebesar Rp 1 juta rupiah, maka pengeluarannya bisa saja, Rp 500 ribu, Rp 600 ribu, Rp 700 ribu dan seterusnya.

2. Linieritas, seperti sudah dijelaskan sebelumnya bahwa model analisis regresi bersifat linier. artinya kenaikan variabel X harus diikuti secara proporsional oleh kenaikan variabel Y. Jika dalam pengujian linieritas tidak terpenuhi, maka kita dapat melakukan transformasi data atau menggunakan model kuadratik, eksponensial atau model lainnya yang sesuai dengan pola hubungan non-linier.

3. Varians error yang konstan, ini menjelaskan bahwa varians error atau varians residual yang tidak berubah-ubah pada respon yang berbeda. asumsi ini lebih dikenal dengan asumsi homoskedastisitas. Mengapa varians error perlu konstan? karena jika konstan maka variabel error dapat membentuk model sendiri dan mengganggu model. Oleh karena itu, penanggulangan permasalahan heteroskedastisitas/non-homoskedastisitas dapat diatasi dengan menambahkan model varians error ke dalam model atau model ARCH/GARCH.

4. Autokorelasi untuk data time series, jika kita menggunakan analisis regresi sederhana untuk data time series atau data yang disusun berdasarkan urutan waktu, maka ada satu asumsi yang harus dipenuhi yaitu asumsi autokorelasi. Asumsi ini melihat pengaruh variabel lag waktu sebelumnya terhadap variabel Y. Jika ada gangguan autokorelasi artinya ada pengaruh variabel lag waktu sebelumnya terhadap variabel Y. sebagai contoh, model kenaikan harga BBM terhadap inflasi, jika ditemukan atukorelasi artinya terdapat pengaruh lag waktu terhadap inflasi. Artinya inflasi hari ini atau bulan ini bukan dipengaruhi oleh kenaikan BBM hari ini namun dipengaruhi oleh kenaikan BBM sebelumnya (satu hari atau satu bulan tergantung data yang dikumpulkan).

Multikolinearitas dalam regresi adalah fenomena statistik dimana dua atau lebih variabel prediktor atau variabel bebas dalam model regresi berganda, saling berkorelasi tinggi. Multikolinearitas dalam regresi dapat menyebabkan hasil yang aneh terutama ketika ingin mengetahui pengaruh secara parsial variabel bebas terhadap variabel terikat.

Indikasi-indikasi bahwa sebuah model regresi mungkin memiliki masalah multikolinearitas dalam regresi:

1. Terjadi perubahan yang besar pada koefisien regresi ketika sebuah variabel yang diduga memiliki multikolinieritas ditambahkan atau dikeluarkan dari model.
2. Koefisien Regresi bertanda negatif padahal seharusnya variabel Y meningkat seiring dengan meningkatnya variabel X.
3. Koefisien regresi bertanda positif padalah seharusnya variabel Y menurun seiring dengan meningkatnya variabel X.

Cara uji multikolinearitas yang paling gampang adalah dengan melihat korelasi antara variabel prediktor dalam model regresi. ketika terjadi hubungan yang tinggi antara variabel prediktor maka kemungkinan model memiliki permasalahan multikolinieritas. Uji multikolinearitass juga dapat dilihat dari nilai VIF, dimana nilai VIF yang tinggi menunjukkan adalah permasalahan multikolinieritas.

Cara Menanggulangi masalah multikolinearitas dalam regresi

1. Keluarkan variabel X yang memiliki masalah multikolinearitas dalam model regresi.
2. Gunakan model PLS untuk memprediksi variabel Y.
3. Gunakan model Analisis jalur sebagai alternatif.
4. Jumlah data ditambah.
5. Gunakan model lag.
6. Menggunakan analisis faktor terlebih dahulu sebelum menggunakan analisis regresi

Tahap identifikasi metode analisis data dari sebuah penelitian bertujuan untuk memilih metode analisis yang tepat dalam sebuah penelitian. Pemilihan metode analisis penting dilakukan karena akan sangat berkaitan dengan keabsahan sebuah kesimpulan yang diambil.

Untuk mengidentifikasi metode analisis data yang cocok alam sebuah penelitian, secara kasar peneliti dapat melakukan identifikasi berdasarkan judul yang tercantum dalam penelitian tersebut. Dalam judul sebuah penelitian, umumnya mencantumkan kata-kata penghubung variabel.  kata-kata penghubung tersebut seperti pengaruh, efek, dampak, dan perbandingan. Kata-kata di atas memiliki keterkaitan yang erat dengan metode analisis tertentu, misalnya untuk kata pengaruh maka metode analisis data yang mungkin dapat dipilih seperti analisis regresi, analisis jalur, Structural Equation modelling, dan analisis Anova. Tidak tepat jika sebuah judul penelitian menggunakan kata hubungan sedangkan metode analisis data yang dipilih adalah Analisis Regresi atau Analisis Jalur. jika sebuah judul penelitian menggunakan kata hubungan, maka metode analisis data yang mungkin dapat digunakan adalah analisis korelasi. Begitu pula dengan kata penghubung perbandingan, penelitian yang menggunakan kata perbandingan maka metode analisis data yang umum digunakan seperti Uji t, Uji Z, uji anova, Uji Mann Whitney dan metode analisis perbandingan lainnya.

Dengan demikian, secara garis besar tujuan utama dari penelitian tersebut disarikan  dari berbagai variabel penentu penelitian tersebut seperti politik, ekonomi, dan kinerja saham pada sektor pertambangan di BEI.

Langkah berikutnya adalah memahami tujuan spesifik dari masing-masing variabel penelitianya,  sebagai berikut:

Untuk mengetahui  perkembangan situasi politik pada periode tertentu.
Untuk mengetahui perkembangan indikator ekonomi pada periode tertentu.
Untuk mengetahui kinerja saham di sektor pertambangan pada periode tertentu.
Untuk mengetahui pengaruh politik terhadap kinerja saham pertambangan pada periode tertentu.
Untuk mengetahui pengaruh ekonomi terhadap kinerja saham pertambangan pada periode tertentu.
Untuk mengetahui pengaruh politik dan ekonomi terhadap kinerja saham pertambangan secara bersamaan pada periode tertentu.
Dari judul penelitian tersebut dapat diidentifikasi rumusan masalah dan tujuan penelitian di atas, sehingga kita dapat menguraikan dan mengidentifikasi metode statistik apa saja yang cocok untuk digunakan dalam analisis penelitian tersebut.

Agar identifikasi yang kita lakukan lebih andal dan akurat, maka perlu melakukan beberapa langkah taktis untuk membedah suatu judul penelitian. Dalam setiap langkah diperlukan identifikasi yang cermat terutama terhadap kata-kata kunci (keywords), jumlah variabel dan skala pengukuran yang digunakan. Langkah-langkah untuk mengidentifikasi metode statistik dari judul dan/ataurumusan masalah penelitian adalah sebagai berikut:

Tentukan kata kunci pada judul penelitian, dalam hal ini kata-kata gambaran, pengaruh, dampak, hubungan, perbandingan atau analisis dari berbagai variabel-variabel  yang diteliti oleh periset.
Perhatikan jumlah variabel independen dan jumlah variabel dependen yang dicari (search) gambaran, pengaruh, dampak, hubungan, perbandingan atau analisisnya.
Mengetahui skala pengukuran dari setiap variabel yang akan digunakan dalam penelitian ini, baik variabel independen maupun dependen dengan tepat.
Dari uraian beberapa tahapan di atas, maka dapat kita jabarkan pada langkah-langkah berikut ini:

Langkah pertama (perhatikan kata kunci):
Ada beberapa kata kunci dalam judul penelitian:

Jika dalam penelitian ditemukan kata kunci “analisis” atau “gambaran”
Jika dalam judul penelitian ditemukan kata kunci “hubungan”
Jika dalam judul penelitian ditemukan kata kunci “pengaruh”
Jika dalam judul penelitian ditemukan kata kunci “perbandingan”
Langkah kedua (perhatikan jumlah variabel):
Jumlah variabel  penelitian 1 (satu)
Jumlah variabel independen 1 (satu) dan jumlah variabel dependen 1 (satu)
Jumlah variabel independen lebih dari 1 (satu) dan jumlah variabel dependen 1 (satu)
Jumlah variabel independen 1 (satu) dan jumlah variabel dependen lebih dari 1 (satu)
Jumlah variabel independen lebih dari 1 (satu) dan jumlah variabel dependen lebih dari 1 (satu)
Langkah ketiga (perhatikan skala pengukuran)
Skala pengukuran untuk variabel independen
2. Skala pengukuran untuk variabel dependen

Ditulis oleh: Ayat Hidayat, S.Si., MBA. (Dosen Fakultas Ekonomi Yarsi)

Dalam berbagai penelitian, kita sering melihat tampilan angka-angka statistika. Pertanyaan yang muncul adalah Apa manfaat statistika dalam penelitian apakah setiap penelitian harus menggunakan statistika? Jawabannya adalah bisa iya bisa tidak. Jawaban mantap iya jika kita akan melakukan penelitian secara kuantitatif. Dalam penelitian kuantitatif, statistik merupakan metode utama yang digunakan untuk melakukan generalisasi terhadap hasil penelitian. Ketika seorang peneliti akan menarik kesimpulan umum menjadi lebih luas, maka di saat itu statistik sangat diperlukan. Sebagai contoh, peneliti hanya melakukan penelitian di beberapa provinsi, sementara dia ingin menarik kesimpulan ke seluruh indonesia, maka dalam hal ini statistik sangat diperlukan. Angka statistik sangat berguna dalam melakukan generalisasi terhadap sebuah fenomena. Sebagai contoh, efek suatu obat kadang memiliki dampak yang berbeda-beda terhadap pasien. Untuk mengambil kesimpulan atas kejadian tersebut maka ukuran statistik dapat menggambarkan dengan baik. Misalnya dari 30 pasien yang menggunakan obat tertentu, 25 diantaranya merasakan efek positif, sisanya tidak. Dengan statistik, peneliti dapat mengetahui berapa persentase efek obat tersebut.

Dalam beberapa penelitian kualitatif, manfaat statistika tidak terlalu terlihat. Kesimpulan dari penelitian lebih banyak mengandalkan kedalaman analisis dari peneliti. Angka statistik dalam suatu peristiwa kadang bukan menjadi pertimbangan utama. Suatu kajian dalam penelitian studi kasus misalnya, penelitian seperti ini kadang peneliti cukup mengkaji kasus-kasus yang ada hubungannya saja dengan topik penelitian. Terlebih pada penelitian kualitatif etnografi, seberapa jauh peneliti dapat menggali nilai atau budaya suatu masyarakat, maka penelitian tersebut dianggap sudah berhasil. Penelitian tersebut tidak berbicara seberapa banyak dan representatif, namun lebih kepada seberapa dalam kajiannya.

Kekurangan penelitian tanpa memanfaatkan angka statistika adalah penelitian tersebut tidak dapat ditarik kepada kesimpulan yang lebih luas. Hasil dari penelitian tersebut terbatas kepada objek penelitian yang dibatasi waktu dan tempat penelitian. Sebuah kesimpulan penelitian dapat berbeda antara satu daerah dengan daerah yang lain. Namun demikian, penelitian seperti ini pun tetap diperlukan.

Berbeda dengan penelitian kualitatif, pada penelitian kuantitatif manfaat ilmu statistika begitu jelas terlihat. Bahkan tanpa ilmu statistika, sebuah penelitian kuantitatif dianggap kurang valid. Mengapa demikian? karena dalam penelitian kuantitatif, peneliti mengambil sebagian sampel secara random dari jumlah populasi yang sangat banyak. Berdasarkan jumlah sampel yang lebih sedikit tersebut, kesimpulan penelitian di-generalisasi. Ilmu statistika adalah ilmu yang powerful dalam melakukan generalisasi. Inilah yang membedakan ilmu statistika dengan ilmu matematika. Jika peneliti melakukan penelitian terhadap keseluruhan populasi, maka peneliti cukup menghitung secara matematis saja. Namun, jika peneliti hanya mengambil sebagian sampel, maka perlu dilakukan estimasi atas nilai populasi. Ilmu statistik menghitung tingkat ketepatan estimasi berdasarkan distribusi probabilitas dan nilai error.

Prasyarat utama bahwa peneliti dapat mengambil manfaat dari ilmu statistik adalah sampel diambil melalui teknik probability sampling. Ketika sampel diambil melalui proses randomisasi, baik secara simple random, systematic sampling, cluster sampling maupun proportionate sampling, maka unit sampel akan memiliki probabilitas yang sama untuk terambil. Probabilitas dari unit sampling itu akan dibentuk dalam distribusi probabilitas yang mana hasilnya akan dibandingkan dengan norma standar distribusi probabilitas. Melalui nilai distribusi probabilitas inilah, sebuah parameter populasi dapat diestimasi dengan baik.

Prinsip dasarnya adalah dimana ada uncertainty dan berlaku secara random, maka kita dapat mengambil manfaat ilmu statistika dengan baik untuk memprediksi nilai/parameter dari populasinya.

ANALISIS REGRESI LOGISTIK BINER

Analisis regresi logistik biner digunakan untuk menjelaskan hubungan antara variabel respon yang berupa data dikotomik/biner dengan variabel bebas yang berupa data berskala interval dan atau kategorik

Regresi logistik biner (logistic regression) sebenarnya sama dengan analisis regresi berganda, hanya variabel terikatnya merupakan variabel dummy (0 dan 1). Sebagai contoh, pengaruh beberapa rasio keuangan terhadap keterlambatan penyampaian laporan keuangan. Maka variabel terikatnya adalah 0 jika terlambat dan 1 jika tidak terlambat (tepat). Regresi logistik tidak memerlukan asumsi normalitas, meskipun screening data outliers tetap dapat dilakukan.

Asumsi-asumsi dalam regresi logistik biner:

• Tidak mengasumsikan hubungan linier antar variabel dependen dan independent
• Variabel dependen harus bersifat dikotomi (2 variabel)
• Variabel independent tidak harus memiliki keragaman yang sama antar kelompok variabel
• Kategori dalam variabel independent harus terpisah satu sama lain atau bersifat eksklusif
• Sampel yang diperlukan dalam jumlah relatif besar, minimum dibutuhkan hingga 50 sampel data untuk sebuah variabel prediktor (bebas).

Tidak seperti regresi linier biasa, regresi logistik biner tidak mengasumsikan hubungan antara variabel independen dan dependen secara linier. Regresi logistik biner merupakan regresi non linier dimana model yang ditentukan akan mengikuti pola kurva seperti gambar di bawah ini.

Model yang digunakan pada regresi logistik biner adalah:

Log (P / 1 – p) = β0 + β1X1 + β2X2 + …. + βkXk

Dimana p adalah kemungkinan bahwa Y = 1, dan X1, X2, X3 adalah variabel independen, dan b adalah koefisien regresi.

Langkah-langkah dalam penggunaan Analisis Regresi Logistik biner adalah:

1. Uji Signifikansi Model

Untuk mengetahui pengaruh variabel bebas terhadap variabel tidak bebas secara bersama-sama (overall) di dalam model, dapat menggunakan Uji Likelihood Ratio. Hipotesisnya adalah sebagai berikut:
Ho: β1 = β2 =….= βp = 0 (tidak ada pengaruh veriabel bebas secara simultan terhadap variabel tak bebas)
H1: minimal ada satu βj ≠ 0 (ada pengaruh paling sedikit satu veriabel bebas terhadap variabel tak bebas)
Untuk j = 1,2,…,p
Statistik uji yang digunakan adalah:

Dengan :

Lo = Maksimum Likelihood dari model reduksi (Reduced Model) atau model yang terdiri dari konstanta saja

Lp =  Maksimum Likelihood dari model penuh (Full Model) atau dengan semua variabel bebas.

Statistik G2 ini mengikuti distribusi Khi-kuadrat dengan derajad bebas p sehingga hipotesis ditolak jika p-value < α, yang berarti variabel bebas X secara bersama-sama mempengaruhi variabel tak bebas Y.

Uji Parsial dan Pembentukan Model

Pada umumnya, tujuan analsis statistik adalah untuk mencari model yang cocok dan keterpautan yang kuat antara model dengan data yang ada. Pengujian keberartian parameter (koefisien β) secara parsial dapat dilakukan melalui Uji Wald dengan hipotesisnya sebagai berikut:

Ho: βj = 0 (variabel bebas ke j tidak mempunyai pengaruh secara signifikan terhadap variabel tidak bebas

H1: βj ≠ 0 (variabel bebas ke j mempunyai pengaruh secara signifikan terhadap variabel tidak bebas)

Untuk j = 1,2,….,p
Dengan statistik uji sebagai berikut:

Hipotesis akan ditolak jika p-value < α yang berarti variabel bebas Xj secara partial mempengaruhi variabel tidak bebas Y.

3. Odds Ratio

Odds ratio merupakan ukuran risiko atau kecenderungan untuk mengalami kejadian ‘sukses’ antara satu kategori dengan kategori lainnya, didefinisikan sebagai ratio dari odds untuk xj = 1 terhadap xj = 0. Odds ratio ini menyatakan risiko atau kecenderungan pengaruh observasi dengan xj = 1 adalah berapa kali lipat jika dibandingkan dengan observasi dengan xj = 0. Untuk variabel bebas yang berskala kontinyu maka interpretasi dari koefisien βj pada model regresi logistik adalah setiap kenaikan c unit pada variabel bebas akan menyebabkan risiko terjadinya Y = 1, adalah exp(c.βj) kali lebih besar.
Odds ratio dilambangkan dengan θ, didefinisikan sebagai perbandingan dua nilai odds xj = 1 dan xj = 0, sehingga:

Regresi logistik biner juga menghasilkan rasio peluang (odds ratios) terkait dengan nilai setiap prediktor. Peluang (odds) dari suatu kejadian diartikan sebagai probabilitas hasil yang muncul yang dibagi dengan probabilitas suatu kejadian tidak terjadi. Secara umum, rasio peluang (odds ratios) merupakan sekumpulan peluang yang dibagi oleh peluang lainnya. Rasio peluang bagi prediktor diartikan sebagai jumlah relatif dimana peluang hasil meningkat (rasio peluang > 1) atau turun (rasio peluang < 1) ketika nilai variabel prediktor meningkat sebesar 1 unit.

Regresi logistik biner akan membentuk variabel prediktor/respon (log (p/(1-p)) yang merupakan kombinasi linier dari variabel independen. Nilai variabel  prediktor ini kemudian ditransformasikan menjadi probabilitas dengan fungsi logit. Regresi logistik juga menghasilkan rasio peluang (odds ratios) terkait dengan nilai setiap prediktor. Peluang (odds) dari suatu kejadian diartikan sebagai probabilitas hasil yang muncul yang dibagi dengan probabilitas suatu kejadian tidak terjadi. Secara umum, rasio peluang (odds ratios) merupakan sekumpulan peluang yang dibagi oleh peluang lainnya. Rasio peluang bagi prediktor diartikan sebagai  jumlah relatif dimana peluang hasil meningkat (rasio peluang > 1) atau turun (rasio peluang < 1) ketika nilai variabel prediktor meningkat sebesar 1 unit