İKİ DEĞİŞKENLİ BASİT DOĞRUSAL REGRESYON MODELİ

... konulu sunumlar: "İKİ DEĞİŞKENLİ BASİT DOĞRUSAL REGRESYON MODELİ"— Sunum transkripti:

1 İKİ DEĞİŞKENLİ BASİT DOĞRUSAL REGRESYON MODELİ
Regresyon Y ile X (X ler) arasındaki ortalama ilişkinin matematik fonksiyonla ifadesidir. Sabit terim Eğim X’e bağlı olarak Y’nin ortalamasının nasıl değiştiğini gösterir.

2 Y y2 ΔY= b2 ΔX y1 ΔX b1 X x1 x2 Doğrusal denklemin grafiği düz bir çizgi olup sabit ve eğim katsayılarını birbirinden ayırma özelliğine sahiptir. Sabit sayı X=0 olduğu zaman Y’nin alacağı azami değer ve eğim ise ΔY/ ΔX oranı olup X üzerindeki bir noktadan diğer bir noktaya olan hareketliliği göstermektedir.

3 b1 ve b2 hakkında bazı çıkarsamalar:
Eğer b2 pozitif ise çizginin veya doğrunun eğimi soldan sağa yukarıya doğru; yok eğer negatif ise tersi geçerlidir. Eğer b2’in mutlak değeri büyükse doğru daha dik olmaktadır. Eğer b2= 0 ise doğru X eksenine b1 noktasında paralleldir. Bir çok fonksiyonlar düz çizgi halinde değildirler

4 0‘a göre türev alınırsa; 1‘e göre türev alınırsa;
İfadesini minimize eden parametre tahmincilerinin değerlerini bulabilmek için eşitliğin 0 ve 1 ‘e göre türevleri alınıp 0’a eşitlenir. 0‘a göre türev alınırsa; 1‘e göre türev alınırsa; Her iki denklemi de 0’a eşitlersek;

5 Parantezleri açarsak;
Bu denklemlere doğrunun NORMAL DENKLEMLERİ denir. Normal denklemler alt alta yazılıp birlikte çözüldüklerinde b0 ve b1 tahmincileri bulunur. şeklindeki formüller yardımıyla da tahminciler bulunabilir.

6 ÖRNEK REGRESYON DENKLEMİ
Katsayıların Tahmini Normal Denklemler ile, Doğrudan Formüller ile, Ortalamadan Farklar ile,

7 Tüketim Gelir 75 80

8 SY = n + SX SXY= SX + SX2 SY=? , SX=? , SXY= ? , SX2= ? , n
NORMAL DENKLEMLER SY = n SX SXY= SX SX2 SY=? , SX=? , SXY= ? , SX2= ? , n

9 X YX Y X2 75 88 95 125 115 127 165 172 183 225 80 100 120 140 160 180 200 220 240 260 6000 8800 11400 17500 18400 22860 33000 37840 43920 58500 6400 10000 14400 19600 25600 32400 40000 48400 57600 67600 SY=1370 SX=1700 SYX=258220 SX2=322000

10 NORMAL DENKLEMLER -170 / = = = = 25320 = = =

11 ÖRNEK REGRESYON DENKLEMİ

12 DOĞRUDAN FORMÜLLER =

13 DOĞRUDAN FORMÜLLER =

14 ÖRNEK REGRESYON DENKLEMİ

15 ORTALAMADAN FARKLAR x=? Syx=? Sx2=? y=?

16 Ortalamalar Orijinine göre Örnek Regresyon Doğrusu (ÖRD)

17 SY=1370 SX=1700 Sy=0 Sx=0 ORTALAMADAN FARKLAR X Y 75 88 95 125 115 127
165 172 183 225 80 100 120 140 160 180 200 220 240 260 -62 -49 -42 -12 -22 -10 28 35 46 88 -90 -70 -50 -30 -10 10 30 50 70 90 SY=1370 SX=1700 Sy=0 Sx=0

18 yx x2 y2 Syx=25320 Sx2=33000 Sy2=20606 ORTALAMADAN FARKLAR 5580 3430
2100 360 220 -100 840 1750 8100 900 100 2500 3844 2401 1764 144 484 100 784 1225 2116 7744 Syx=25320 Sx2=33000 Sy2=20606

19 ORTALAMADAN FARKLAR = =137-(0.7672).(170) =

20 ÖRNEK REGRESYON DENKLEMİ

21 ELASTİKİYETLERİN HESAPLANMASI
Nokta Elastikiyet Ortalama Elastikiyet

22 NOKTA ELASTİKİYET X0 = 130

23 NOKTA ELASTİKİYET 0.94

24 ORTALAMA ELASTİKİYET = 0.95

25 Tahminin Standart Hatası ve Varyansı
Tahminin standart hatası, regresyon doğrusu etrafındaki dağılımın bir ölçüsüdür. (n30 ise) (n<30 ise)

26 Tahminin Standart Hatası ve Varyansı

27 Tahminin Standart Hatası ve Varyansı
Tüketim Gelir 75 88 95 125 115 127 165 172 183 225 7.0545 4.7091 4.9818 80 100 120 140 160 180 200 220 240 260 SY=1370 Se=0 Se2=

28 Tahminin Standart Hatası ve Varyansı
=12.138 s2= SY2 =? SY = ? SYX=? b1 =? b2 =? =

29 Tahminin Standart Hatası ve Varyansı
Sy2 = ? Syx = ? b2= ? =

30 DEĞİŞKENLİKLER Y X Yi    Xi

31 DEĞİŞKENLİKLER 3844 2401 1764 144 484 100 784 1225 2116 7744 Sy2=20600 Se2=

32 DEĞİŞKENLİKLER 20606 = 19427.3455 + 1178.6545 Sy2 = Se2 + varyanslar
=

33 BELİRLİLİK KATSAYISI KORELASYON KATSAYISI
Noktaların doğruya yakınlık derecesini göstermektedir. Y’deki değişmelerin yüzde kaçının X tarafından açıklanabildiğini ifade etmektedir. R2 0 ile 1 arasında değişmektedir. KORELASYON KATSAYISI Y ile X arasındaki ilişkinin yönünü ve şiddetini vermektedir. -1 ile +1 arasında yer almaktadır.

34 BELİRLİLİK KATSAYISI = = =

35 Belirsizlik katsayısı

36 BELİRLİLİK KATSAYISI = =

37 DAĞILMA DİYAGRAMLARI

38 STANDARTLAŞTIRILMIŞ HATA TERİMLERİ
ei ei/s Xi 0.5812 80 100 120 140 160 180 200 220 240 260 4.9818

39

40 EKKY Varsayımları

41 Bağımlı Değişken Y nin Dağılımı
Y bağımlı değişkeninin ortalaması Varyansı olduğu gösterilecektir.

42 1. Y nin ortalaması kendisinin beklenen değerine eşittir.
Beklenen değer alındığında b1 ve b2 parametreler iken Xi değerleri değişmez değerler kümesinden geldikleri için bulunur.

43 Yi nin varyansı ve eşitliklerini varyans tanımında yerine koyarsak ui lar sabit varyanslıdır. Yani hepsinin varyansı sabit değerlidir. Yani

44 En Küçük Karalerle Parametre Tahminlerinin Ortalama ve Varyansı
in ortalaması: in varyansı:

45 in ortalaması: in varyansı:

46 EKK Tahminlerinin Standart Hataları ve Kullanılışı
EKK tahminleri ve örnek verilerine dayanarak hesaplanır. Bir anakütleden bir çok örnek çekilebilir, bu durumda her örnek seti için farklı tahminciler elde edilecektir. Örnek değerlerinin anakütle değerleri b1 ve b2 ye ne ölçüde yakın olduğu standart hatalarla hesaplanır. Standart hata, tahmincinin örnekleme dağılımının standart hatasıdır.

47 Bir tahmincinin örnekleme dağılımı anakütleden seçilebilecek aynı büyüklükteki örneklerin lerin dağılımıdır. (75 milyar) 60 hanelik anakütleden çekebileceğimiz onluk (75 milyar) örnek için hesaplanan değerlerinin örnekleme dağılımı ortalama etrafında normal dağılmaktadır. Anakütleden çekilen örnekler için hesaplanan EKK leri örneklerin farlı değerli Y(tüketim) ve X(gelir gibi) e sahip hanelerden oluşması gibi örnekleme hatalarından dolayı gerçek değerinden farklıdır.

48 Katsayıların Standart Hataları
Örnekleme hataları + ve – yönde aynı ihtimalle ortaya çıkan hatalardır. Ortalama ölçüsü standart hatadır. Katsayıların Standart Hataları = 11.99 =

49 Aralık Tahminleri ±t a/2 . s( ) = 0.7672727  2.306 (0.0668)
< b2 < ± t a/2 . s( ) =  (11.99) < b1 <

50 Hipotez Testleri Güven Aralığı Yaklaşımı İle
< b2 < < b1 <

51 Hipotez Testleri Anlamlılık Testi Yaklaşımı İle
Hipotezlerin Formüle Edilmesi Tablo Değerlerinin Bulunması Test İstatistiğinin Hesaplanması Karar Verilmesi

52 Hipotez Testleri ta,sd =? t0.05,8=? =2.306 1.Aşama H0: b2 = 0
= ; S.d.=? = n-k = 10-2=8 ta,sd =? t0.05,8=? =2.306 3.Aşama = 4.Aşama |thes= | > |ttab= | H0 hipotezi reddedilebilir

53 Regresyon ve Varyans Analizi

54 Regresyon ve Varyans Analizi

55 EKK Modelinde Önceden Tahmin
İleriye Ait Tahmin Önceden Tahmin Örnekten Tahmin Edilen İlişkinin Ayni Kaldığı X Değerlerinin Aynı Eğilimde Olacağı

56 Y’nin Aralık Tahmini

57 Y ˆ 33000 ) 80 ( 10 1 - + 170 Y’nin Aralık Tahmini 2 X0=80 = 67.9455
Y ˆ X0=80 = 2 33000 ) 80 ( 10 1 - + 170 ± (12.318) Y0| X0 

58 Y’nin Ortalamasının Aralık Tahmini
- 2 1 ( X X ) ˆ + Y ± t . s a /2 n å 2 x

59 Y’nin Ortalamasının Aralık Tahmini
Y ˆ X0=80 = 2 33000 ) 80 ( 10 1 - + 170 ± (12.318) E(Y0| X0) 

60 Y’nin Güven Aralıkları
Y’ninAralık Tahminleri Y’nin OrtalamasınınAralık Tahminleri X0 Alt Sınır Üst Sınır Alt Sınır Üst Sınır 80.00 100.00 120.00 140.00 160.00 180.00 200.00 220.00 240.00 260.00

61

62 En Küçük Kareler Tahminlerinin Özellikleri
1. Tahmin Edicilerin Küçük Örnek Özellikleri Genellikle bir tahminin ana kütle parametresinin gerçek değerine yakın olması ve bu gerçek parametre yakınlarında dar bir aralıkta değişmesi istenir. Ana kütle parametresine ‘yakınlık’ çeşitli ekonometri tahmin yöntemleri ile bulunmuş tahminlerin örnekteki dağılımların ortalaması ve varyansıyla ölçülür.

63 En Küçük Kareler Tahminlerinin Özellikleri
Burada her zamanki varsayımsal yenilemeli örnekleme süreci kullanılır, yani her biri n gözlemli çok sayıda örneğin alındığı varsayılır. Ekonometri yöntemlerinin her birini kullanarak her örnekten hesaplanıp dağılımları oluşturulur. Küçük örnekten bulunmuş iyi bir tahmin edici için temel ölçütler:Sapmasızlık, En küçük varyans, Etkinlik, Doğrusal en iyi, sapmasızlık (DES), En küçük ortalama hata karesi (OHK), Yeterlilik dir.

64 a. Sapmasız Tahmin Edici
Bir tahmin edicinin sapması, beklenen değeriyle gerçek parametre arasındaki fark olarak tanımlanır. Sapma= b Eğer sapma sıfırsa yani = b ise, sapmasız olur. Bu da örneklerin sayısı artıkça, sapmasız tahmin edicinin, parametrenin gerçek değerlerine yaklaştığı anlamına gelir. Sapmasız bir tahmin edici ‘ortalama olarak’ parametrenin gerçek değerini verir. Aranan bir özellik olmasına karşın, sapmasızlık kendi başına çok önemli değildir. Ancak küçük bir varyansla birleşirse önemli olur.

65 a. Sapmasız Tahmin Edici
, b’nin sapmasız tahmin edicisidir , b’nin sapmalı tahmin edicisidir

66 b. En Küçük Varyanslı Tahmin Edici (En İyi Tahmin Edici)…
Bir tahmin, başka ekonometri yöntemleriyle bulunmuş başka herhangi bir tahminle karşılaştırıldığında en küçük varyansa sahip olduğu görülürse en iyi tahmindir. nin en iyi olma koşulu: < Ya da; Var( )<Var( ) Burada , gerçek parametre b nin (sapmasız olması gerekmeyen) herhangi bir başka tahminidir.

67 b. …En Küçük Varyanslı Tahmin Edici (En İyi Tahmin Edici)
Varyansı küçük olduğu halde sapması büyük olan bir tahmin edici, gerçek b parametresinden oldukça uzak bir değer etrafında toplanabilmektedir. , b nin büyük varyanslı sapmasız tahmin edicisidir. , b nin küçük varyanslı sapmalı bir tahmin edicisidir.

68 c. Etkin Tahmin Edici Bir tahmin edici; sapmasız ve başka herhangi sapmasız tahmin ediciyle karşılaştırıldığında daha düşük varyansa sahipse etkin tahmin edicidir. Aşağıdaki iki koşul yerine getirilirse etkindir: (i) ve Burada , gerçek b nin başka bir sapmasız tahmin edicisidir. Başka bir deyişle, etkin tahmin edici, bütün tahmin sapmasız ediciler sınıfı içinde en düşük (en iyi) varyansa sahip olan tahmin edicidir. (ii)

69 d. Doğrusal Tahmin Edici…
Bir tahmin edici, örnekteki gözlemlerin doğrusal bir fonksiyonuysa doğrusal sayılır. Örnek gözlemleri veriyken, doğrusal bir tahmin edici şu biçimi alır: Burada ki ler sabit değerlerdir. Örneğin olduğundan örnek ortalaması doğrusal bir tahmin edicidir. Çünkü:

70 d...Doğrusal Tahmin Edici…
örnek ortalaması hesaplanırken her gözleme, 1/n ye eşit olan aynı k ağırlığı verilmiştir.

71 e. Doğrusal en iyi sapmasız tahmin edici (DEST)
Bir tahmin edici, doğrusalsa sapmasızsa ve gerçek b nin öteki doğrusal sapmasız tahmin edicileriyle karşılaştırıldığında en küçük varyansa sahipse, DEST olur.

72 f. En küçük ortalama hata kareli (OHK) tahmin edici
Ortalama hata karesi ölçütü, sapmasızlık ve en küçük varyans özelliklerinin bir bileşimidir. Burada OHK, tahmin edicinin, ana kütledeki gerçek parametre b ile olan farkının karelesinin beklenen değeri olarak tanımlanır: OHK nin, tahmin edicinin varyansıyla sapma karesinin toplamına eşit olduğu gösterilebilir:

73 f… En küçük ortalama hata kareli (OHK) tahmin edici…
İspat:

74 f. En küçük ortalama hata kareli (OHK) tahmin edici

75 g. Yeterli tahmin edici Yeterli bir tahmin edici, gerçek parametre hakkında bir örneğin içerdiği bütün bilgileri kullanıma koyan bir tahmin edicidir. Bu başka hiçbir tahmin edicinin, tahmin edilmekte olan gerçek ana kütle parametresi hakkında daha fazla bilgi sunamayacağı anlamına gelir.

76 2. Tahmin edicilerin büyük örnek özellikleri: Asimtotik özellikler
Büyük örnek özelliklerinin, bir tahminin iyiliğini belirleme ölçütü olarak kullanılması, örneğin sonsuz büyük olmasını gerektirir. İşte bu nedenle bu özelliklere asimtotik özellikler denir. Örnek büyük olduğu zaman bu özelliklerin yaklaşık olarak sağlandığı varsayılır. Özellikler ise şunlardır: asimtotik sapmazlık, tutarlılık ve asimtotik etkinlik.

77 2...Tahmin edicilerin büyük örnek özellikleri: Asimtotik özellikler
Asimtotik dağılım: Bir dizi rassal değişken düşünüldüğünde; Bunlardan her birinin kendi dağılımı, ortalaması ve varyansı vardır. Dağılımlar gitgide artan örnek büyüklüklerinden oluşturulmuştur. nT sonsuza giderken bu dağılımlar da belli bir dağılıma doğru yaklaşıyor olabilirler. İşte bu dağılıma {X(n)} dizisinin asimtotik dağılımı denir.

78 a. Asimtotik sapmasızlık…
Eğer edicisinin asimtotik ortalaması, ana kütlenin gerçek b parametresine eşit ise, bu tahmin edici, bu parametrenin asimtotik sapmasız tahmin edicisidir. Bir tahmincinin asimtotik sapması, asimtotik ortalaması ile gerçek parametre arsındaki farka eşittir.

79 a… Asimtotik sapmasızlık
Asimtotik bir sapmasız tahmin edici, örnek büyüklüğü yeterine büyük olduğunda sapması kaybolan bir tahmin edicidir. Eğer bir tahmin edici (sonlu küçük örneklerde) sapmasızsa aynı zamanda asimtotik sapmasızdır, ama bunun tersi doğru değildir.

80 asimtotik sapmasız olmalıdır.
b. Tutarlılık… Bir edicisi, aşağıdaki iki koşulla, ana kütlenin b gerçek parametresinin tutarlı bir tahmin edicisidir: asimtotik sapmasız olmalıdır. 1. n sonsuza giderken 'nin varyansı sıfıra yaklaşmalıdır: 2.

81 Tutarlılık… Eğer varyans sıfırsa, dağılım ana kütlenin gerçek parametresinin üstünde bir noktada toplanır. Bir tahmin edicinin tutarlı olup olmadığını anlamak için, n arttıkça sapmanın ve varyansının ne olduğuna bakılmalıdır. (n) büyüdükçe hem sapma hem varyans azalmalı ve limitte ( iken) sıfır olmalıdır. Tutarlılık kavramı aşağıda çizilmiştir. Örnek büyüklüğü artıkça hem sapma hem varyans azalmaktadır.

82 c. Asimtotik etkinlik Eğer tutarlıysa
Başka herhangi bir tutarlı tahmin ediciye göre daha küçük bir asimtotik varyansı varsa bu tahmin edici ana kütlenin gerçek b parametresinin asimtotik etkin bir tahmincisidir. Eğer; ise asimtotik etkindir. Burada , b nin başka bir tutarlı tahmin edicisidir. Tutarlı tahmin ediciler karşılaştırıldığında hangisinin varyansı daha hızla sıfıra yaklaşıyorsa o, asimtotik etkendir.

83 3. En Küçük Kareler Tahmin Edicilerinin Özellikleri
Hata terimi u'nun bazı genel varsayımları yerine getirmesi, yani ortalamasının sıfır ve varyansının sabit olması koşuluyla, en küçük kareler tahmincilerinin DES ( doğrusal, en iyi, sapmasız) özelliklerini sağlamasına Gauss-Markow en küçük kareler teoremi denmektedir.

84 a. Doğrusallık En küçük kareler tahminleri ve gözlenen örnekteki Yi değerlerinin doğrusal fonksiyonlarıdır. Varsayım gereği Xi ler hep aynı değerlerle göründüklerine göre en küçük kareler tahminlerinin yalnız Y değerlerine bağlı olduğu gösterilebilir. İspat: Varsayım gereği X değerleri sabit değerler kümesidir. Bu durumda ki lerde örnekten örneğe değişmezler.

85 …Doğrusallık Bu durumda şunu yazabiliriz:
Y’lerin doğrusal bir fonksiyonudur. Bağımlı değişken değerlerinin doğrusal bir bileşimidir. ve ki Örnekten örneğe değişmez. katsayı tahmini sadece Y ye bağlıdır.

86 ve nin sapmasızlık özelliği ve
b. Sapmasızlık ve nin sapmasızlık özelliği ve şeklindedir. Bu özelliğin anlamı, örneklerin sayısı artıkça tahminler de parametrelerin gerçek değerine yaklaşır. Başka bir deyişle, n sayıda Y ve X gözleminden oluşan, olanak içindeki bütün örnekleri seçildiğinde ve ile tahminleri her örnek için hesaplandığında, bu tahminlerden çok fazla sayıda elde edilir. Bunların ortalaması ise ilişkinin parametrelerine eşit olur. Tahminlerin dağılımı, orta nokta olarak parametrenin gerçek b değeri üzerinde toplanacaktır.

87

88 c. En Küçük Varyans Gauss-Markow teoremi ispatı: Bu teoreme göre en küçük kareler tahminleri, başka ekonometri yöntemleriyle bulunmuş herhangi bir başka doğrusal sapmasız tahmin ediciler arasında en iyisidir ( varyansı en küçük olandır). EKK yönteminin tercih edilmesinin temel nedeni de bu özelliktir.

89 …VARYANS FORMÜLLERİNİN GENELLEŞTİRİLMESİ…
1) Tek açıklayıcı değişkenli model İki açıklayıcı değişkenli model

90 …VARYANS FORMÜLLERİNİN GENELLEŞTİRİLMESİ…
Bir önceki ifadeler determinantla şöyle yazılabilir. Sapmalar biçiminde yazılmış iki açıklayıcı değişkenli modelin normal denklemleri şöyledir. Parantez içindeki terimler, örnek gözlemlerinden hesaplanmış determinantlardır ise bilinmeyenlerdir. Sağ tarafta yer alan bilinenler, determinant kalıbında yazılabilir. her bir parametrenin varyansı, bu parametreye ilişkin minör determinantının bütün determinanta bölümünün ile çarpımıdır.

91 …VARYANS FORMÜLLERİNİN GENELLEŞTİRİLMESİ…
Öyleyse,

92 …VARYANS FORMÜLLERİNİN GENELLEŞTİRİLMESİ…
3) Üç açıklayıcı değişkenli model Normal denklemin sağ tarafında görülen bilinen terimlerin determinantı şöyledir:

93 …VARYANS FORMÜLLERİNİN GENELLEŞTİRİLMESİ…

94 …VARYANS FORMÜLLERİNİN GENELLEŞTİRİLMESİ…
Katsayı tahminlerinin varyanslarını gösteren yukarıdaki ifadeler incelenecek olursa, şu genelleme yapılabilir. k sayıda açıklayıcı değişken içeren bir modelin tahminlerinin varyansı iki determinantın bir birine oranından hesaplanabilir. Örneğin nın varyansı aşağıdaki ifadedir.