Sunum yükleniyor. Lütfen bekleyiniz

Sunum yükleniyor. Lütfen bekleyiniz

BASİT REGRESYON VE KORELASYON ANALİZİ Kesin (Deterministik) Model Stokastik (Olasılıklı) Model Değişkenler arasındaki ilişki Regresyon Parametrelerinin.

Benzer bir sunumlar


... konulu sunumlar: "BASİT REGRESYON VE KORELASYON ANALİZİ Kesin (Deterministik) Model Stokastik (Olasılıklı) Model Değişkenler arasındaki ilişki Regresyon Parametrelerinin."— Sunum transkripti:

1 BASİT REGRESYON VE KORELASYON ANALİZİ Kesin (Deterministik) Model Stokastik (Olasılıklı) Model Değişkenler arasındaki ilişki Regresyon Parametrelerinin Tahmininde Kullanılan Metot EN KÜÇÜK KARELER (EKK) YÖNTEMİ İLE BİR DOĞRUNUN UYUMU 1. Normal Denklemler 2. Determinant Metodu 3.Orijin Kaydırma Yöntemi REGRESYON DENKLEMİNİN İNCELENMESİ Tahminlenen Regresyonun Duyarlılığı Korelasyon Katsayısı Katsayıların Standart Hataları Katsayıların Güven Aralıkları Parametrelerin Teker Teker Anlamlılığı Testi TAHMİNİN VARYANSI VE GÜVEN ARALIĞININ BULUNMASI Tahminin standart hatası ve varyansı Katsayıların standart hata ve varyansları Katsayıların güven aralıkları Katsayıların anlamlılıklarını testi R 2 Belirlilik Katsayısı Korelasyon Katsayısı Tahminin Güven Aralığı İÇİNDEKİLERİÇİNDEKİLER İÇİNDEKİLERİÇİNDEKİLER

2 Regresyon, iki yada daha çok değişken arasındaki ortalama ilişkinin matematiksel bir fonksiyonla incelenmesidir. Değişkenler arasındaki ilişkinin derecesi ve yönü ise korelasyon analizi ile açıklanır. Değişkenler arasındaki ilişkilere bazı örnekler vermek gerekirse; -İnsanların boyları ile kiloları -Futbol takımlarının çalışma süreleri ve maç skorları toplamları -Öğrencilerin çalışma miktarları ve sınav notları -Bir malın fiyatı ve talep miktarı -Bir ürünün verimi ve verilen gübre miktarı, vb. 1

3 Değişkenler arasındaki ilişkiler aşağıdaki gibi sınıflandırılabilir: i)Belirleyici (deterministik) ilişkiler ii)Yarı belirleyici ilişkiler iii)Deneysel (ampirik, stokastik) ilişkiler Kesin (Deterministik) Model Değişkenler arasında kesin bir ilişki olduğunu varsayan modeller, kesin (deterministik) modeller olarak adlandırılmaktadır. Örneğin arz miktarı y'nin, fiyat düzeyi x'in tam bir buçuk katı olduğuna inanıyorsak: y=1.5x Bu denklem, x ve y değişkenleri arasındaki kesin bir ilişkiyi temsil etmektedir. Bu tahminde hata payı yoktur. 2

4 Eğer arz miktarında, önemli fakat ele alınmayan değişkenlerin veya tesadüfi olguların yol açtığı açıklanmayan değişimlerin olacağına inanıyorsak, kesin model yerine tesadüfi hataya yer veren modelden yararlanmamız gerekir. Olasılıklı model hem kesin öğeyi hem de tesadüfi hata öğesini içerir. Örneğin eğer arz miktarı y'nin, fiyat düzeyi x ile: y = 1.5x + Tesadüfi Hata şeklinde bir ilişkisi olduğunu düşünüyorsak, x ile y arasında olasılıklı bir ilişki olduğunu anlarız. Görüldüğü gibi, olasılıklı modelin kesin öğesi 1.5x’tir. 3 Stokastik (Olasılıklı) Model

5 Kesin (Deterministik) ve Stokastik (Olasılıklı) Model... Bu kez grafikten yararlanalım: Kesin Model: y=1.5xOlasılıklı Model: y=1.5x + Tesadüfi hata 4

6 Yarı belirleyici ve deneysel ilişkilerin (stokastik) incelenmesi regresyon analizinin kapsamına girmektedir. Regresyon analizinde değişkenler iki grup altında incelenir: - Bağımsız değişkenler (açıklayıcı değişkenler) - Bağımlı değişkenler Bağımlı değişken: Modelin ifade ettiği olay tarafından belirlenirken, Bağımsız değişken: Modelin ifade edilen olaydan bağımsız olan verileridir. 6

7 Örneğin kişilerin gelirlerinin değişmesi, harcama miktarlarının da değişmesine neden olur. Bu durumda gelir bağımsız değişken, harcama miktarı ise bağımlı değişkendir. Regresyon analizinde genellikle bağımsız değişkenler (X), bağımlı değişkenler (Y) ile gösterilirler. 7

8 Basit doğrusal regresyondaki basit kelimesi iki değişken arasındaki ilişkiyi açıklamak için kullanılır. Doğrusal kelimesi, kurulan modelin parametreleri açısından doğrusal bir model olmasındandır. İki değişken arasındaki en basit ilişki, bir doğru ile açıklanabilen ilişkidir. X Y Genel olarak bir doğrunun matematik gösterimi: Y=  0 +  1 X şeklindedir. Burada  1, eğimdir ve X’teki 1 birimlik değişmenin Y’de yaptığı değişikliği gösterir. 00 ise X’in değeri 0 olduğunda Y’nin almış olduğu değerdir ve Y ekseninin kesme noktası olarak isimlendirilir. 8

9 Doğrusal ilişki Doğrusal olmayan ilişki Değişkenler arasındaki ilişki 9 Eğrisel İlişki: Logaritmik İlişki: Katlı Ortak Doğrusal İlişki: Gecikmeli (lag) İlişki:

10 Regresyon Parametrelerinin Tahmininde Kullanılan Metot EKK Metodu Normal Denklemlerle Klasik Çözüm Yolu Determinantlarla Çözüm Yolu Orjin kaydırma Çözüm Yöntemi 10

11 EN KÜÇÜK KARELER (EKK) YÖNTEMİ İLE BİR DOĞRUNUN UYUMU Gözlemleri en iyi açıklayan doğrunun belirlenmesi için çeşitli yöntemler ileri sürülebilir. Fakat günümüzde en çok kullanılan yöntem “En Küçük Kareler” adı verilen yöntemdir. Bu yöntem gözlemlerin belirlenen doğrudan uzaklıklarının (hata terimlerinin) karelerinin toplamının en küçük yapılmasına dayanır. modelinde hata terimi: olarak yazılabilir. Bu ifadenin karesi alınıp tüm gözlemler için toplanırsa: ifadesi elde edilir. EKK yöntemine göre bu ifadeyi minimize eden b 0 ve b 1 değerleri  0 ve  1 ’ in tahmincileri olur. 1. NORMAL DENKLEMLER 11

12 İfadesini minimize eden parametre tahmincilerinin değerlerini bulabilmek için eşitliğin  0 ve  1 ’e göre türevleri alınıp 0’a eşitlenir. Her iki denklemi de 0’a eşitlersek;  0 ’ a göre türev alınırsa;  1 ’ e göre türev alınırsa; 12

13 Parantezleri açarsak; Bu denklemlere doğrunun NORMAL DENKLEMLERİ denir. Normal denklemler alt alta yazılıp birlikte çözüldüklerinde b 0 ve b 1 tahmincileri bulunur. şeklindeki formüller yardımıyla da tahminciler bulunabilir. 13

14 2.DETERMİNANT METODU 14 n

15 3.ORJİN KAYDIRMA YÖNTEMİ Olarak gösterirsek Olur. Burada hata karelerini minimum yapmak için aşağıdaki yol izlenir. olacağından alınarak yerine konulursa veya Bulunur. 15 Orijini kaydırsak da kaydırmasak da doğrunun eğimi değişmeyeceğinden istersek modele tekrar b0’ ı ekleyebiliriz.

16 Bir fabrikada taşıma işleri için kullanılan tırların yaşı ile bakım harcamaları arasındaki ilişkiyi ele alalım. Verilerin grafiği çizildiğinde tam olarak düz bir doğrunun üzerinde olmadıkları, fakat tırlar eskidikçe bakım harcamalarının da arttığı görülmektedir. Burada bağımsız değişken yaş, bağımlı değişken ise bakım harcamalarıdır, çünkü yaş değiştikçe bakım harcamaları değişiklik göstermektedir. Pratiklik olması açısından yaş ve bakım harcaması arasındaki ilişkinin bir doğru şeklinde olduğunu varsayarsak, bu modelin matematik gösterimi: Bakım harcaması yaş Hata terimi 16

17 e hata terimi, tır için yapılan harcamanın, ilişkiyi açıklayan doğrudan ne kadar saptığını gösterir. Tırların yaşı ile yapılan bakım harcamaları arasındaki gerçek ilişkiyi belirleyen model henüz belirlenmiş değildir. Bunun için modelde bulunan parametrelerin (  0 ve  1 ) bilinmesi gerekir.  0 ve  1 birer parametre olduklarından, gerçek değerlerinin bulunması için taşıma işinde kullanılan tüm tırların (populasyonun) bakım harcamaları ve yaşlarının bilinmesi gerekmektedir. Bu da çoğu zaman imkansız olduğundan elimizdeki örneği kullanarak parametreleri tahminleriz veya başka bir ifade şekliyle grafikteki noktalara en iyi uyan bir doğruyu buluruz. 17

18 Böylece veri noktalarımızdan geçen en iyi doğru denklemi: Gerçek Y’nin tahmincisi Traktör örneğimiz için gereken hesaplamaları yapıp normal denklemleri oluşturalım: = 12b 0 +42b = 42b b =42b b = 42b b = -41b 1 b 1 = *(72725 = 12b 0 +42b 1 ) = 42b b 1 18 yaş (yıl) (X) bakım harcaması (Y) X2X2 Y2Y2 XY toplam ortalama

19 72725 =12b 0 +42b =12b 0 +42*1390 b 0 = 1195 Doğrunun denklemi: Hesaplanan bu denklem kullanılarak yaşını bildiğimiz bir tır için yapılacak ortalama bakım masrafını tahmin edebiliriz. Örneğin x=4 yaşındaki bir tır için bakım masrafları: olarak bulunur. Tahmincileri elde etmek için normal denklemler yerine formüller kullanılırsa da aynı sonuçlar elde edilir. 19

20 Örnek: Firmanın yılları arasındaki yıllık satışları aşağıda verildiği gibidir. Bu verilere dayanarak regresyon (yalın regresyon) denkleminin tahminlenmesi istenmektedir. (Satışlar 1000 br olarak) YıllarSatışlar (Y)XXY Paremetrelerin E.K.K.tahminlerini elde etmek için Y = x şeklinde regresyon denklemi elde edilir. 20

21 Determinant metodu ile parametre tahminlerinin hesaplaması ise ; orjin kaydırma ile parametre tahmini ise; Y = x 21 YıllarYyXxxyx2x Toplam

22 a) 2001 yılı satışları ne olacaktır? Y2001= (9)=92.1 b) Hangi yıl 100 birim satar? 100 = x x = 9.7 Modeli için Y= x modeli de yapılacak aynı tahminler de aynı sonucu verecektir. a) 2001 yılı satışları ne olacaktır? Y= (5)=92 br. b) Hangi yıl 100 birim satar? 100= x x=5.7 (2001 yılı 8. ayın ortaları) 2001 yılı 8. ayın ortalarında 22

23 REGRESYON DENKLEMİNİN İNCELENMESİ Regresyon denklemini incelerken genellikle bizi en çok ilgilendiren soru incelediğimiz iki değişken arasında gerçekten bir ilişki olup olmadığı sorusudur. Bu soru aslında basit doğrusal regresyonda  1 ’in değerinin 0 olup olmadığının araştırılmasıdır. Bu araştırmayı yaparken istatistiksel testle kullanmak gerektiğinden hata terimi ve parametre tahmincilerinin dağılışları hakkında bazı varsayımlarda bulunmak gerekir. Hata terimi e’ler, ortalaması 0 ve varyansı s 2 olan birbirinden bağımsız normal dağılışlar gösterirler. E(e)=0 Var(e)= s 2 - Tahminin Standart Hatası ve Varyansı Tahminin standart hatası s, noktaların regresyon doğrusu etrafındaki dağılımlarının ortalama bir ölçüsünü verir. 23

24 Tahminlenen Regresyonun Duyarlılığı Y ortalama doğrusu Gözlem değeri (Y) Regresyon doğrusu Y i tahmin değeri Regresyon denklemi tahminlendikten sonra bu denklemin ilişkiyi ne derece açıkladığı ve bu denklem kullanılarak yapılacak tahminlerin ne derece hassas olacağının araştırılması gerekir. Bunun için gözlenen değerler ile tahmini değerleri arasındaki farkı yazıp y’lerin ortalamasını buna ekleyip çıkarırsak aşağıdaki ifadeyi elde ederiz. Bu ifadenin grafiksel karşılığı şekilde görülmektedir. e 24

25 Daha sonra her iki tarafın kareleri alınıp tüm gözlemler için toplanırsa; İfade tekrar düzenlenirse: Ortalama etrafındaki kareler toplamı (genel KT) Regresyon kareler toplamı Regresyondan sapmalar (hata) kareler toplamı Y ortalama doğrusu Gözlem değeri (Y) Regresyon doğrusu Y i tahmin değeri 25

26 Eğer gözlenen değerlerin hepsi tahmin edilen doğru üzerinde olsaydı, hata kareler toplamı “0” olacak ve uyumun çok iyi olduğu söylenebilecektir. Bu bilgiyi kullanarak, regresyon doğrusunun ne derece iyi tahminlenmiş olduğunu regresyon kareler toplamının ortalama etrafındaki kareler toplamına oranına bakarak söyleyebiliriz. Bu orana BELİRLEME KATSAYISI adı verilir ve R 2 ile gösterilir. R 2 ’nin 1’e yaklaşan değerleri bize uyumun iyi olduğunu belirtir. (0

27 Hesaplama kolaylığı açısından kareler toplamları formülleri aşağıdaki şekilde de kullanılabilir: Genel kareler toplamı (GKT) Regresyon kareler toplamı (RKT) Hata kareler toplamı (HKT) 27

28 Korelasyon Katsayısı Korelasyon katsayısı, regresyon modeli ile bulunan tahmini Y değerlerinin, gerçek değerlere uygunluğunu ölçmede kullanılır. Korelasyon katsayısı -1 ile 1 arasında değişir. Katsayının -1 çıkması, iki değişken arasında ters yönlü tam bir ilişkinin olduğunu, 1 çıkması ise doğru yönlü tam bir ilişkinin olduğunu ifade eder. Katsayının -1’e doğru yaklaşması, değişkenler arasında ters yönlü kuvvetli bir ilişkiyi gösterirken, 1’e yaklaşması değişkenler arasında doğru yönlü kuvvetli bir ilişkiyi ifade eder. Korelasyon katsayısının işareti, regresyon doğru veya eğrisine ait eğim katsayısının işaretidir. Korelasyon katsayısının karesi, belirleme katsayısını (determinasyon katsayısını) verir. 28

29 Sınırlı sayıda veri üzerinden hesaplanan korelasyon katsayısı bir istatistiktir ve r ile gösterilir. Bu istatistiğin anakütle parametresi olarak karşılığı ’dur. Korelasyon katsayısı için genel formül; ya da Bu formülde; 29

30 Bütün bu değerler n katsayısı ile çarpılırsa sonuç değişmez ve korelasyon katsayısı; Hesaplanan korelasyon katsayısının gerçekten önemli olup olmadığını anlamak için belirli bir önem seviyesinde test etmek gerekir. Doğrusal korelasyon katsayısının önemli olup olmadığını test ederken test hipotezleri, 30

31 v=n-2 sd. ve değerlerine göre t kritik değerleri tespit edilir. Test istatistiği; korelasyon katsayısının standart hatasıdır. 31

32 Test istatistiği, mutlak olarak kritik değerden büyük çıktığında X ile Y değişkenleri arasında önemli bir ilişki olduğunu söyleyebiliriz. Bununla birlikte bu değişkenlerin arasında mantıki bir ilişkinin bulunması şarttır. Bazen hiç alakası olmayan değişkenler arasında da yüksek bir korelasyon çıkabilmektedir. Bu tip korelasyonlara sahte korelasyon denir. ÖRNEK Bir süper market yöneticisi tesadüfi olarak seçilen bir saatlik sürelerde kasaya gelen müşteri sayısını ve ödedikleri toplam para miktarını aşağıdaki gibi kaydetmiştir. Müşteri Sayısı Ödenen Para (10000 TL) 32

33 Müşteri sayısını bağımsız (X), kasalara ödenen para miktarını bağımlı değişken(Y) olarak kabul ederek, doğrusal korelasyon katsayısı; formülü ile kolayca hesaplanabilir. XYXYX2X2 Y2Y Toplam 33

34 Korelasyon katsayısının önemli olup olmadığı %5 önem düzeyinde test edilirse, test hipotezleri şeklinde kurulur. v=n-2=5-2=3 sd. ve önem seviyesine göre kritik değerler ‘dir. 34

35 Test istatistiği, kritik t değerinden büyük olduğu için %5 önem seviyesinde H 0 hipotezi reddedilerek hesaplanan doğrusal korelasyon katsayısının önemli olduğuna karar verilir. 35

36 E(b 0 )=  0 E(b 1 )=  1 Katsayıların Standart Hataları Katsayıların Güven Aralıkları 36

37 Parametrelerin teker teker anlamlılığı testi: Sabit terim  0 ’ın testi için hipotezler: H 0 :  0 =0test istatistiği: H 1 :  0  0 Eğim katsayısı  1 ‘in testi için hipotezler: H 0 :  1 =0test istatistiği: H 1 :  1  0 t istatistiği değerleri genelde paket programlar tarafından hesaplanıp verilmektedir. Hesaplanan test istatistikleri (n-2) serbestlik dereceli t dağılışı değeri ile kontrol edilir. 37

38 Regresyon doğrusunun tüm parametrelerinin istatistiksel açıdan anlamlı olup olmadığını test etmek için önce Varyans Analizi Tablosu aşağıdaki şekilde oluşturulur: Daha sonra sabit terim dışındaki parametrelerin 0’dan farklı olup olmadığı hipotezi test edilir. H 0 :  1 =0 H 1 :  1  0 Test İstatistiği: Serbestlik derecesi: 1, (n-2) 38

39 TAHMİNİN VARYANSI VE GÜVEN ARALIĞININ BULUNMASI Regresyon denkleminin elde edilmesinin en önemli amaçlarından biri bağımsız değişkenin herhangi bir değeri için Y’nin alacağı değerin tahminlenmesidir. şeklinde hesaplanan bu tahminin, varyansı ve o noktadaki gerçek değer için güven aralıklarının bulunması istenir. Bu tahminin varyansı: Hatanın varyansı X k noktasında Y’nin alacağı ortalama değer için güven % (1- )’lık güven aralığı: yada 39

40 Örnek: yıllarındaki Türkiye’nin turizm gelirleri ile Türkiye’ye gelen turist sayısı tabloda verilmiştir. YıllarTurizm Gelirleri Yabancı Ziyaretçi Sayısı

41 Turizm Gelirleri ile Yabancı Ziyaretçi Sayısı verileri arasındaki dağılma diyagram 41

42 YXYXX2X  Y=  X=  YX=  X 2 = Doğrusal gelir fonksiyonunun normal denklemler yoluyla tahmini: Tablo 2: Verilerin normal denklemler ile çözüm için düzenlenmesi 42

43  Y = b 0.n + b 1.  X  YX = b 0.  X + b 1.  X = b b = b b b 0 =0.597b 1 =0.640 Doğrusal gelir fonksiyonunun normal denklemler yoluyla tahmini: Yabancı ziyaretçi sayısı arttıkça turizm geliri artmaktadır. 43

44 Doğrusal gelir fonksiyonunun formülden tahmini: ( 44

45  y=  x=  yx=  x 2 =  y 2 = Doğrusal gelir fonksiyonunun ortalamadan farklara göre tahmini 45

46 46

47 Tahminin standart hatası ve varyansı: YY2Y (8.614) = (9.689) = (9.752) = (7.464) = (10.412) = (11.569) = (13.247) = (14.030) = (17.517) = (21.122) =  Y 2 =  e 2 =

48 Katsayıların standart hata ve varyansları: (0.367) (0.028) (1.626) (22.85) 48

49 Katsayıların güven aralıkları  (0.367)   b 0   (0.028)   b 1  Katsayıların anlamlılıklarını testi H 0 : b 0 = 0 H 1 : b 0  0 t 0.05/2, 8 = t hes =1.626 < t 0.05/2, 8 = H 0 Reddedilemez. b 0 istatistiki olarak anlamsız 49

50 H 0 : b 1 = 0 H 1 : b 1  0 t hes =22.85 > t 0.05/2, 8 = t 0.05/2, 8 = H 0 Red b 1 istatistiki olarak anlamlı 50

51 Genel kareler toplamı (GKT) Regresyon kareler toplamı (RKT) Hata kareler toplamı (HKT) (0.367) (0.028) (1.626) (2.306)  X 2 =  X=  Y=  Y 2 =

52 Turizm örneği için varyans analizi tablosunu oluşturup regresyonun anlamlılığını test edersek: H 0 :  1 =0 H 1 :  1  0 sdKTKO Regresyon Hata Genel F 0.05,1,8 = 5.32 F hesap > F tablo ; H 0 reddedilir, katsayı istatistiksel olarak anlamlıdır. 52

53 R 2 Belirlilik Katsayısı: YORUM: Bu sonuç bize, turizm gelirlerindeki değişkenliğin (varyasyonun) %98.44’ünün gelen ziyaretçi sayısı ile açıklanabildiğini göstermektedir. Turizm geliri ile gelen ziyaretçi değişkenleri arasında pozitif yönde kuvvetli bir ilişki vardır. Korelasyon Katsayısı 53

54 X k =  (0.362)  Y k  X k  Tahminin Güven Aralığı (İlk gözlem) 54

55 ÖRNEK İstatistik dersi sınavına çalışmak için 5 öğrencinin etkin olarak harcadıkları süreler ve sınav sonuçları aşağıda verilmiştir. Bu veriler ışığında çalışılan süre ile sınav notu arasındaki ilişkiyi çiziniz, denklemini tahmin ediniz. Belirleme katsayısını hesaplayarak yorumlayınız. Daha sonra varyans analizi tablosunu hazırlayarak belirlediğiniz doğrunun eğiminin 0 olup olmadığını kontrol ediniz. Aynı hipotezi t testi ile tekrar kontrol ediniz ve bulgularınızı karşılaştırınız. 55 Süre (X)Not (Y)X2X2 XYY2Y Toplam Ortalama53.8

56 b b 1 = b b 1 =0 5*(19 - 5b b 1 = 0) b b 1 = b b 1 = b b 1 = b 1 =0 b 1 = b b 1 = b 0 -25*0.3=0 b 0 = 2.3 Formülle hesaplarsak: 56

57 Böylece doğrunun denklemi: YORUM: Bu sonuç bize, sınavdan alınan notların değişkenliğinin (varyasyonunun) %81’inin çalışılan saatler arasındaki farklılıklar ile açıklanabildiğini göstermektedir. 57


"BASİT REGRESYON VE KORELASYON ANALİZİ Kesin (Deterministik) Model Stokastik (Olasılıklı) Model Değişkenler arasındaki ilişki Regresyon Parametrelerinin." indir ppt

Benzer bir sunumlar


Google Reklamları