ANALISA MODEL REGRESI – seri 3

Oleh:  M.A.Yulianto.*)

 

 Analisa model regresi akan dibahas dalam tiga seri karena panjangnya analisis ini.  Pada seri 1 dibahas mengenai pengertian model regresi, korelasi Pearson, sampai pada bentuk model regresi linier sederhana.  Pada seri 2 dibahas mengenai model perkiraan regresi linier sedernana, diagnosa residual,  sampai inferensia parameter model.  Pada seri 3 dibahas mengenai  model regresi berganda (multiple regression), uji parameter model baik secara simultan maupun secara parsial, sampai analisa multikolinieritas.  Analisa model regresi dari ketiga seri ini saling berkesinambungan.

Regresi berganda (Multiple regression)

Model regresi linier berganda dengan (k-1) variabel bebas adalah sebagai berikut:

Jika dalam uji koefisien regresi secara simultan keputusannya adalah menolak Ho, maka uji koefisien regresi secara parsial perlu dilakukan untuk melihat variabel bebas mana saja yang mempengaruhi variasi dari variabel respon.  Hasil dari pengujian secara parsial akan memberikan kesimpulan sedikitnya ada satu variabel bebas yang mempunyai hubungan linier dengan variabel respon. Jika dalam uji koefisien regresi secara simultan keputusannya adalah menerima Ho, maka uji secara parsial tidak perlu dilakukan.

Contoh:

Pada contoh ini, kita coba untuk membuat model regresi linier berganda dengan menggunakan dua variabel bebas. Penggunaan variabel bebas lebih dari dua akan dikerjakan dengan cara yang sama, namun membutuhkan waktu yang lebih lama. Penggunaan komputer akan lebih bijaksana. Data dibawah ini sebanyak 10 observasi dengan variabel respon Y dan variabel bebas X1 dan X2.

Oleh karena kesimpulannya adalah sedikitnya ada satu β yang tidak sama dengan nol, maka perlu diselidiki parameter β yang mana yang tidak sama dengan nol. Apakah β1  atau β2 atau mungkin keduanya. Untuk menjawab pertanyaan tersebut, perlu dilakukan uji parameter β  secara parsial yaitu uji parameter β satu per satu.

Kesimpulan: variabel X2 tidak mempunyai pengaruh linier ter hadap variabel respon Y dng tingkat keyakinan sebesar 95%.

Koefisien determinasi berganda

Koefisien regresi berganda menyatakan besarnya pengaruh variasi variabel bebas yang ada dalam model terhadap variasi variabel respon. Formulanya adalah sebagai berikut:

Nilai ini menunjukkan bahwa variasi dalam variable Y berkurang sebesar 83,71 persen ketika satu set variabel X digunakan dalam model. Nilai R2 jika diakarkan akan mendapat suatu nilai yang biasa disebut dengan koefisien korelasi

Korelasi Parsial

Multikolinieritas (Multicollinearity)

Dalam analisa regresi berganda, salah satu yang sering menjadi perhatian adalah keeratan hubungan antara variabel-variabel bebasnya. Ketika variabel bebas berkorelasi diantara mereka dikatakan terjadi intercorrelation atau multikolinieritas (multicollinearity).

Permasalahan bila terjadi multikolinieritas :

  1. Koefisien regresi akan berubah dengan menambah atau mengurangi varibel bebas.
  2. Koefisien regresi secara individu mungkin tidak lagi  signifikan secara statistik, meskipun ada hubungan secara statistik antara variabel tidak bebas dengan seluruh variabel bebas dalam model .
  3. Interpretasi koefisien regresi  sebagai ukuran perubahan nilai variabel tidak bebas ketika variabel bebas yang berhubungan naik satu unit ketika variabel bebas lainnya konstan tidak sepenuhnya bisa diterapkan ketika terjadi multikolinieritas.

Mendeteksi multikolinieritas dengan VIF (variance inflation factor)

(VIF)k = ( 1 – Rk2 ) –1 ;  k= 1,2,….., p-1

dimana Rk2 adalah koefisien determinasi ganda ketika Xk diregresikan terhadap (p-2) variabel X lainnya di dalam model. Jika VIF > 10 maka dapat dikatakan bahwa terjadi serius multikolinieritas yang mempengaruhi estimasi dari kuadrat terkecil (least squares estimates).

Perbaikan akibat adanya multikolinieritas dalam model dapat dilakukan dng beberapa cara:

  1. Mengeluarkan satu atau beberapa variabel bebas yang menyebabkan terjadinya multikolinieritas dari model
  2. Kadang-kadang  bisa dengan menambah sampel untuk menghilangkan pola multikolinieritas
  3. Dengan transformasi variabel yaitu dengan principal component atau dengan ridge regression

Principal componentdan Ridge Regression adalah metoda-metoda yang dapat digunakan untuk mengatasi adanya multikolinieritas.  Kedua teknik tersebut akan dibahas pada sesi tulisan yang lain.

Sampai bertemu pada sesi tulisan yang lain, selamat menikmati statistik.

Jika ada pertanyaan dapat di kirim ke alamat e-mail:  yuliantoyorki@yahoo.com

*)  Penulis adalah dosen di Sekolah Tinggi Ilmu Statistik, Jakarta.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s