Hatalarda Normal Dağılım

... konulu sunumlar: "Hatalarda Normal Dağılım"— Sunum transkripti:

1 Hatalarda Normal Dağılım
EKK tahmincilerinin ihtimal dağılımları ui’nin ihtimal dağılımı hakkında yapılan varsayıma bağlıdır. b tahminleri için uygulanan testlerin geçerliliği ui’nin normal dağılmasına bağlıdır. Çünkü ui normal dağılıyorsa, EKK b1 ve b2’nin tahmincileri de normal dağılır. Normal dağılmış değişkenleri olan bir doğrusal fonksiyonun kendisi de NORMAL DAĞILIR.

2 - + E(ui)=0 ui değerleri

3 Jarque-Bera Normallik Testi
1.Aşama H0: ui’ler normal dağılımlıdır H1: ui’ler normal dağılımlı değildir c2a,sd =? 2.Aşama Sd=? a = ? 3.Aşama JB > c2a,sd 4.Aşama H0 hipotezi reddedilebilir

4 Jarque-Bera Normallik Testi

5 Jarque-Bera Normallik Testi
7.0545 4.7091 4.9818 49.77 22.18 13.22 121.40 205.27 312.32 24.82 11.31 59.43 358.93 351.0 104.43 -48.09 123.6 -38.06 491.76 174.86 615.95 128.00 Se = 0 Se2 = Se3 = Se4 =

6 Jarque-Bera Normallik Testi
= = s2 = = =-0.023 = 2.09

7 Jarque-Bera Normallik Testi
1.Aşama H0: ui’ler normal dağılımlıdır H1: ui’ler normal dağılımlı değildir 2.Aşama a = 0.05 Sd=2 c2a,sd =5.991 3.Aşama 0.3459 4.Aşama JB < c2a,sd H0 hipotezi reddedilemez.

8 NORMAL DAĞILIM UYGULAMASI
On ülkede günlük gazete satış adedi (Y), nüfus (X2) ve gayrisafi milli hasıla (X3) verilerden elde edilen doğrusal modelin hata terimlerinin normal dağılıp dağılmadığını test etmek için: i) H0: Hatalar normal dağılıma sahiptir H1: Hatalar normal dağılıma sahip değildir. ii) JB test istatistiği hesaplanır:

9 iv) JB =19 > 5.99 H0 red Hatalar normal dağılıma sahip değildir.

10 Eviews ile normal dağılımı test edilirse
iv) JB =19.06 > ya da prob= 0.000< H0 red Hatalar normal dağılıma sahip değildir.

11 ÇOKLU DOĞRUSAL BAĞLANTI

12 ÇOKLU DOĞRUSALLIĞIN ANLAMI
Çoklu doğrusal bağlantı; bağımsız değişkenler arasında doğrusal (yada doğrusala yakın) ilişki olmasıdır. 1. Parametreler belirlenemez hale gelir. Her bir parametre için ayrı ayrı sayısal değerler bulmak zorlaşır. 2. Bu değişkenlere ortogonal değişkenler denir ve katsayıların tahmininde çoklu doğrusal bağlantı açısından hiçbir sorun yoktur. 3. Tam çoklu doğrusal bağlantı yoktur.

13 TAM ÇOKLU DOĞRUSAL BAĞLANTI
X3 X2 rX2X3= 1 Tam Çoklu Doğrusal Bağlantı

14 ÇOKLU DOĞRUSALLIĞIN NEDENLERİ
İktisadi değişkenlerin zaman içerisinde birlikte değişme eğiliminde olmaları Bazı açıklayıcı değişkenlerin gecikmeli değerlerinin ilişkide ayrı birer etmen olarak kullanılmasıdır. Zaman ve kesit serilerinde de görülür.

15 ÇOKLU DOĞRUSAL BAĞLANTININ ORTAYA ÇIKARDIĞI SONUÇLAR
Regresyon katsayılarının değerleri belirsiz olur, Regresyon katsayılarının varyansları büyür, t-istatistikleri azalır, Güven aralıkları büyür, r2 olduğundan büyük çıkar, Katsayı tahmincileri ve standart hataları verilerdeki küçük değişmelerden önemli ölçüde etkilenirler,

16 ÇOKLU DOĞRUSAL BAĞLANTININ ORTAYA ÇIKARDIĞI SONUÇLAR
a) Katsayıları tahminleri belirlenemez. b)Tahminlerin standart hataları sonsuz büyük olur.

17 İspat a)

18 İspat b) X2 yerine kX1 konursa

19 ÇOKLU DOĞRUSAL BAĞLANTININ VARLIĞININ BELİRLENMESİ
Varyans Büyütme Modeli Yardımcı Regresyon Modelleri için F testi Klein – Kriteri Şartlı Sayı Kriteri Theil-m Ölçüsü

20 ÇOKLU DOĞRUSAL BAĞLANTININ VARLIĞININ BELİRLENMESİ
1.Varyans Büyütme Modeli: Varyans büyütme faktörü; parametre tahminlerinin ve varyanslarının çoklu doğrusal bağlantı nedeni ile gerçek değerlerinden ne derece uzaklaştığını gösterir. VIF kriteri

21 Çoklu doğrusal bağlantı önemlidir.
Çoklu doğrusal bağlantı etkisini araştırabilmek için k tane VIF değeri bulunur. Bağımsız değişkenleri sırası ile bağımlı değişken yaparak diğer bağımsız değişkenlerle regresyon modeli tahmin edilir. 5 Çoklu doğrusal bağlantı önemlidir. .

22 Çoklu doğrusal bağlantı önemlisizdir.
Çoklu doğrusal bağlantı etkisini araştırabilmek için k tane VIF değeri bulunur. Bağımsız değişkenleri sırası ile bağımlı değişken yaparak diğer bağımsız değişkenlerle regresyon modeli tahmin edilir. 5 Çoklu doğrusal bağlantı önemlisizdir. .

23 ÖRNEK: dönemi için Türkiye’nin GSMH(milyar TL), Para Arzı(PA, milyar TL), Dış Ticaret Açığı (DT, milyar TL) ve Toptan Eşya Fiyat Endeksi (TEFE,1987=100) değerleri verilmiştir. Yıllar GSMH PA DT TEFE 1990 425.6 1991 661.6 1992 1072.5 1993 1701.6 1994 3757.4 1995 7065.2 1996 1997 5.6588 1998 1999 2000 2001 2002 Varyans büyütme faktörü ile çoklu doğrusal bağlantı sorununu araştırınız.

24 Bu verilerden elde edilen model;
Bağımsız değişkenleri sırası ile bağımlı değişken yaparak diğer bağımsız değişkenlerle regresyon modeli tahmin edilir.  5 çoklu doğrusal bağlılık önemlidir  5 çoklu doğrusal bağlılık önemlidir  5 çoklu doğrusal bağlılık önemlidir

25 2.Yardımcı Regresyon Modelleri için F testi
Bu yöntemde varyans büyütme faktöründe hesaplanan belirlilik katsayılarından hesaplama yapılır. Sırası ile incelenen modelde yer alan her bir bağımsız değişken ayrı ayrı bağımlı değişken olmak üzere kalan diğer bağımsız değişkenlerle regresyona tabi tutulur. Oluşturulan söz konusu yeni regresyon modellerine yardımcı regresyon modelleri denir. Oluşturulan yardımcı regresyon modellerinin belirlilik katsayıları hesaplanarak F test istatistiği hesaplanır. Bu yöntem için temel hipotez bağımsız değişkenler arasında ilişki yoktur şeklindedir.

26 . Test istatistiği yukarıdaki her denklem için hesaplanır. k: ana modelin tahmin edilen katsayı sayısı

27 H0: Çoklu doğrusal bağlantı yoktur.
UYGULAMA: Aynı örnek için yardımcı regresyon modeli ile çoklu doğrusal bağlantı sorununu inceleyiniz. H0: Çoklu doğrusal bağlantı yoktur. 1.Aşama: H1: Çoklu doğrusal bağlantı vardır. 2.Aşama: F0.05,(k-2),(n-k+1) =4.10 3.Aşama: Fhes > Ftab H0 reddedilir. 4.Aşama:

28 Fhes > Ftab H0 reddedilir.

29 Çoklu doğrusal bağlılık zararlıdır.
3.Klein – Kriteri: Klein, bağımsız değişkenler arasındaki basit korelasyon katsayılarının kareleri modelin genel belirlilik katsayısından büyük olmadığı sürece çoklu doğrusallığın zararlı olmadığını savunmaktadır. Çoklu doğrusal bağlılık zararlıdır. Klein’in yukarıdaki kriterine göre küçük bir çoklu doğrusal bağlantı bile parametre tahminlerinde anlamsızlığa yol açabilir.

30 Bu durumda yardımcı regresyon modelleri için F testinde açıklandığı gibi, yardımcı regresyon modelleri tahmin edilir ve bunlardan elde edilecek çoklu belirlilik katsayısı ile karşılaştırılarak karar verilebilir.

31 UYGULAMA: Aynı örnek için Klein kriteri ile çoklu doğrusal bağlantı sorununu inceleyiniz.
Elde edilen yardımcı regresyon modelleri 1. Çoklu doğrusal bağlantı zararlı değildir. 2. Çoklu doğrusal bağlantı zararlı değildir. 3. Çoklu doğrusal bağlantı zararlı değildir.

32 4.Şartlı Sayı Kriteri: Bu kriterin hesaplanması için bu (X’X) matrisinin birim köklerinden (özdeğerlerinden) yararlanılır. (X’X) matrisinin en büyük birim kökü (1) ve en küçük birim kökü (2) ise şartlı sayı KARAR: Çoklu doğrusal bağlantı orta derecedir. 1. Çoklu doğrusal bağlantı yüksek derecedir. 2.

33 Örnek: 12 ailenin aylık gıda harcamaları (Y), toplam harcamaları (X2) ve fert sayısı (X3) verileri aşağıdaki gibidir: Aile Y X2 X3 1 2.2 2.8 3 2 3,0 3.5 6 4.1 12.5 4 4.7 6.4 5 4.2 5.9 6.3 8,0 8 7 4.6 9.7 8.8 20.6 9 7.3 15.9 10 4.4 6.7 11 6.9 11.3 12

34 Ortalamadan farklar ile bağımsız değişkenler katsayı matrisi;

35 KARAR: Çoklu doğrusal bağlantı düşük derecededir.

36 5.Theil-m Ölçüsü Bağımlı değişkenle bağımsız değişkenler arasındaki ilişkiye dayanan bir ölçüdür. Bu ölçü için, modelin genel belirlilik katsayısı ile modelden sırası ile bir tane bağımsız değişkenin çıkarılması ile elde edilecek modellerin çoklu belirlilik katsayıları kullanılır. Modelde yer alan tüm bağımsız değişkenler sırası ile modelden çıkarılarak Regresyon modelleri tahmin edilir ve her model için çoklu belirlilik katsayıları elde edilir.

37 Theil-m Ölçüsü hesaplanır. Burada bağımsız değişkenlerden biri çıkartıldıktan sonra bağımlı değişken ile diğer bağımsız değişkenlerin regresyonu sonucunda tahmin edilen çoklu belirlilik katsayısını ifade eder. Theil-m ölçüsü çoklu doğrusal bağlılığın önemli olup olmadığı hakkında bilgi vermediğinden, varyans büyütme faktörü ile şartlı sayı daha çok kullanılan ve daha yarar sağlayan kriterlerdir.

38 Theil-m Ölçüsü “m” ölçüsü her regresyon için ayrı ayrı hesaplanmayan genel bir ölçüdür. m ölçüsü negatif çıkabileceği gibi çok yüksek pozitif değer de olabilmektedir. Hesaplanan m ölçüsü sıfıra eşitse bağımsız değişkenler ilişkisizdir. m = 0 bağımsız değişkenler ilişkisizdir

39 Yardımcı regresyon modellerini oluşturalım:
Örnek: Slayt 11 de incelediğimiz model için Theil-m ölçüsünü uygulayalım. Yardımcı regresyon modellerini oluşturalım: m sıfıra yakın bir değer değildir, çoklu doğrusal bağlılık söz konusudur.

40 ÇOKLU DOĞRUSAL BAĞLANTI PROBLEMİNİ ORTADAN KALDIRMA YOLLARI
Ön bilgi yöntemi ile; 2. Kesit ve zaman serisi verilerinin birleştirme yöntemi ile; 3. Bazı değişkenlerin modelden çıkarılması yöntemi ile; 4. Değişkenleri dönüştürme yöntemi ile; 5. Ek veya yeni örnek verisi temini yöntemi ile 40

41 ÇOKLU DOĞRUSAL BAĞLANTI PROBLEMİNİ ORTADAN KALDIRMA YOLLARI
1.Ön Bilgi Yöntemi Y = b1 + b2 X2 + b3 X3 +b4 X4+ u b3 = 0.2b2 Y = b1 + b2 X b2 X3 +b4 X4+ u Y = b1 + b2 (X X3 )+b4 X4+ u Y = b1 + b2 X*+ b4 X4+ u Yukarıdaki hesaplama bağımsız değişkenler arasında çoklu doğrusal bağlantıdan etkilenmemektedir. Katsayılara sınır koyarak iki değişken arasında çoklu doğrusal bağlantı problemi ortadan kaldırılmış oluyor.

42 2.Kesit ve Zaman Serilerinin Birleştirilmesi
Y:Talep P:Malın fiyatı I:Tüketici geliri t:Yıl lnY = b1 + b2 lnPt+ b3 lnIt + u b2 ve b3 fiyat ve gelir elastikiyetidir. Zaman serisi P ve I (fiyat ve gelir) değişkenleri arasında genellikle yüksek dereceli ilişki vardır. Çoklu doğrusal bağlantı var. b3 gelir elastikiyeti (eğer varsa) anket verilerinden ayrıca tahmin edilir.

43 lnY - b3 lnIt = b1 + b2 lnPt+ u lnY* = b1 + b2 lnPt + u
Yukarıdaki regresyon modelinden aşağıdaki gibi yararlanırız: lnY - b3 lnIt = b1 + b2 lnPt+ u lnY* = b1 + b2 lnPt + u Burada Gelir değişkeninin etkisi giderildikten sonraki Y değeridir. Bu yöntemde katsayı tahminlerinin yorumu sorundur. Zaman serisi verisi ve kesit serisi verisindeki gelir elastikiyetinin aynı olduğunu kabul ediyoruz.

44 3.Bazı Değişkenlerin Modelden Çıkarılması
Modelden bir bağımsız değişken çıkarılırsa spesifikasyon hatası yapma olasılığı artar: Katsayı tahminleri gerçek değerinin üstünde veya altında tahmin edilebilir. 4.Değişkenleri Dönüştürme Yöntemi, Fark denklemi yaratılır:

45 5.Ek veya Yeni Örnek Verisi Temin Etme,
Dönüşümlü modelde çoklu doğrusal bağlantı önemli ölçüde azalmış olur. 5.Ek veya Yeni Örnek Verisi Temin Etme, 6.Diğer Yöntemler

46 Örnek Konut Talebi Model Tahminleri Değişkenler Model A Model B
Model C s.d. Sabit Faiz Nüfus GSMH Düzeltilmiş-R2 0.375 20 687.90 (1.80) (-3.87) 0.91 (3.64) 0.348 19 14.90 (0.41) (-3.18) (-0.27) 0.52 (0.54) 20 0.371 (-2.40) (-3.87) 33.82 (3.61) r(GSMH,Nüfus)=0.99 r(GSMH,faiz)=0.88 r(Nüfus,faiz)= 0.91

47 Örnek Otomobil Bakım Harcamaları Model Tahminleri Değişkenler Model A
Model B Model C Sabit (-5.98) 7.29 (0.06) (-5.91) Yas 27.58 (9.58) 7.35 (22.16) Km 53.45 (18.27) (-7.06) 55 55 54 s.d. Düzeltilmiş-R2 0.897 0.856 0.946

48 ÖRNEK 11 ülkenin 1995 yılı ekonomik büyüme oranlarını , para arzındaki büyüme oranlarını sermaye stokundaki büyüme oranları ile nüfüs büyüme oranları verilmektedir. Söz konusu ülkelerin ekonomik performanslarındaki farklılığın nedenini araştırmak için aşağıdaki regresyon modeli oluşturulmuştur.Tahin edilen denklemde çoklu doğrusal bağlantı olup olmadığını araştırınız.

49 1.Varyans Büyütme Modeli:
Dependent Variable: BUYOR Method: Least Squares Date: 04/08/07 Time: 22:47 Sample: 1 11 Included observations: 11 Variable Coefficient Std. Error t-Statistic Prob.   C 0.0121 NUFUSBUYOR 0.0270 PARARZOR 0.0433 SERMSTOKORAN 0.0779 R-squared     Mean dependent var Adjusted R-squared     S.D. dependent var S.E. of regression     Akaike info criterion Sum squared resid     Schwarz criterion Log likelihood     F-statistic Durbin-Watson stat     Prob(F-statistic) 1.Varyans Büyütme Modeli: Bağımsız değişkenleri sırası ile bağımlı değişken yaparak diğer bağımsız değişkenlerle regresyon modeli tahmin edilir.

50 1. nolu yardımcı regresyon modeli =10.101
Depent Variable: NUFUSBUYOR Method: Least Squares Date: 04/08/07 Time: 22:53 Sample: 1 11 Included observations: 11 Variable Coefficient Std. Error t-Statistic Prob.   C 0.0226 PARARZOR 0.0127 SERMSTOKORAN 0.7691 R-squared     Mean dependent var Adjusted R-squared     S.D. dependent var S.E. of regression     Akaike info criterion Sum squared resid     Schwarz criterion Log likelihood     F-statistic Durbin-Watson stat     Prob(F-statistic)

51 2. nolu yardımcı regresyon modeli
=13.73 Dependent Variable: PARARZOR Method: Least Squares Date: 04/08/07 Time: 22:54 Sample: 1 11 Included observations: 11 Variable Coefficient Std. Error t-Statistic Prob.   C 0.2507 NUFUSBUYOR 0.0127 SERMSTOKORAN 0.1217 R-squared     Mean dependent var Adjusted R-squared     S.D. dependent var S.E. of regression     Akaike info criterion Sum squared resid     Schwarz criterion Log likelihood     F-statistic Durbin-Watson stat     Prob(F-statistic)

52 3. nolu yardımcı regresyon denklemi =6.1087
VIF kriterleri 5 ten buyuk çoklu doğrusal bağlantı var diyebiliriz. Dependent Variable: SERMSTOKORAN Method: Least Squares Date: 04/08/07 Time: 22:55 Sample: 1 11 Included observations: 11 Variable Coefficient Std. Error t-Statistic Prob.   C 0.9953 NUFUSBUYOR 0.7691 PARARZOR 0.1217 R-squared     Mean dependent var Adjusted R-squared     S.D. dependent var S.E. of regression     Akaike info criterion Sum squared resid     Schwarz criterion Log likelihood     F-statistic Durbin-Watson stat     Prob(F-statistic)

53 2.Yardımcı Regresyon Modelleri için F testi
1. nolu yardımcı regresyon modeli 2. nolu yardımcı regresyon modeli R2= R2= 3. nolu yardımcı regresyon modeli k:4 n:11

54 Klein – Kriteri: Yardımcı regresyon modelleri tahmin edilir ve bunlardan elde edilecek çoklu belirlilik katsayısı ile karşılaştırılarak karar verilebilir. Yardımcı modelin R karesi < ana modelin R karesi nden küçükse çoklu doğrusal bağlantı önemli değildir.

55 Ana modelin R-squared 3 nolu modelde önemli değildir. (sermstokor)

56 Theil-m Ölçüsü Modelde yer alan tüm bağımsız değişkenler sırası ile modelden çıkarılarak regresyon modelleri tahmin edilir ve her model için çoklu belirlilik katsayıları elde edilir. Ana modelin R-squared

57 1.nolu model Dependent Variable: BUYOR Method: Least Squares
Date: 04/08/07 Time: 23:34 Sample: 1 11 Included observations: 11 Variable Coefficient Std. Error t-Statistic Prob.   C 0.0220 NUFUSBUYOR 0.0612 PARARZOR 0.0081 R-squared     Mean dependent var Adjusted R-squared     S.D. dependent var S.E. of regression     Akaike info criterion Sum squared resid     Schwarz criterion Log likelihood     F-statistic Durbin-Watson stat     Prob(F-statistic)

58 2. nolu model Dependent Variable: BUYOR Method: Least Squares
Date: 04/08/07 Time: 23:37 Sample: 1 11 Included observations: 11 Variable Coefficient Std. Error t-Statistic Prob.   C 0.1869 PARARZOR 0.6879 SERMSTOKORAN 0.2274 R-squared     Mean dependent var Adjusted R-squared     S.D. dependent var S.E. of regression     Akaike info criterion Sum squared resid     Schwarz criterion Log likelihood     F-statistic Durbin-Watson stat     Prob(F-statistic)

59 3. nolu model Dependent Variable: BUYOR Method: Least Squares
Method: Least Squares Date: 04/08/07 Time: 23:39 Sample: 1 11 Included observations: 11 Variable Coefficient Std. Error t-Statistic Prob.   C 0.0776 NUFUSBUYOR 0.2976 SERMSTOKORAN 0.0153 R-squared     Mean dependent var Adjusted R-squared     S.D. dependent var S.E. of regression     Akaike info criterion Sum squared resid     Schwarz criterion Log likelihood     F-statistic Durbin-Watson stat     Prob(F-statistic)

60 m=0,851-[(0,851-0,759)+(0,851-0,685)+(0,851-0,721)] m=0.463 m sıfıra yakın bir değer değildir, çoklu doğrusal bağlılık söz konusudur