Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli Tahmin Sorunu Yrd. Doç. Dr. A. Talha YALTA TOBB Ekonomi ve Teknoloji Üniversitesi ˙Iktisat Bölümü
˙IKT351 – Ekonometri I
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
Kullanım Sartları ¸
˙Is¸ bu ekonometri ders malzemesi, A. Talha Yalta tarafından, "Creative Commons Attribution-Share Alike 3.0 Unported License" (CC-by-SA-3.0) lisans s¸ artları altında bir açık ders malzemesi olarak genel kullanıma sunulmu¸stur. Yani, eserin ilk sahibinin belirtilmesi ve ˘ geçerli lisansın korunması s¸ artıyla özgürce kullanılabilir, çogaltılabilir, ˘ stirilebilir. Creative Commons örgütü ve “CC-by-SA-3.0” lisansı degi¸ ile ilgili ayrıntılı bilgi “http://creativecommons.org” adresinde bulunmaktadır. Ders notlarının “pdf” biçimindeki en yeni sürümüne “http://yalta.etu.edu.tr” adresinden ula¸sabilirsiniz. Dr. A. Talha Yalta, TOBB Ekonomi ve Teknoloji Üniversitesi (2010)
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
Ders Planı
1
Sıradan En Küçük Kareler Yöntemi SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
2
˘ SEK Yönteminin Güvenilirligi SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Sıradan En Küçük Kareler Yöntemi
˘ ˘ Baglanım çözümlemesinde amaç, örneklem baglanım ˘ i¸slevi (ÖB˙I) temel alınarak anakütle baglanım i¸slevinin ˘ ˘ biçimde tahmin edilmesidir. (AB˙I) olabildigince dogru Bunun için kullanılan en yaygın yol “sıradan en küçük kareler” (ordinary least squares), kısaca “SEK” (OLS) yöntemidir. SEK yönteminin 1794 yılında Alman matematikçi Carl ˘ kabul edilir. Fredrich Gauss tarafından bulundugu
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Sıradan En Küçük Kareler Yöntemi ˘ skenli AB˙I’yi SEK yöntemini anlamak için iki degi¸ anımsayalım: Yi = β1 + β2 Xi + ui ˘ AB˙I gözlenemediginden ÖB˙I kullanılarak tahmin edilir: Yi = βˆ1 + βˆ2 Xi + uˆi = Yˆi + uˆi ÖB˙I’nin kendisini bulmak için ise “kalıntılar” (residuals), ˘ bir deyi¸sle hata terimi kullanılır: diger uˆi = Yi − Yˆi = Yi − βˆ1 − βˆ2 Xi
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Sıradan En Küçük Kareler Yöntemi Elimizde n tane X ve Y varken, ÖB˙I’yi gözlenen Y ’lere ˘ olabildigince yakın biçimde belirlemek istiyoruz. Bunun için s¸ u ölçüt benimsenebilir: P P min ( uˆi ) = min (Yi − Yˆi )
˘ Ancak bu durumda artı ve eksi degerli hatalar büyük ölçüde birbirlerini etkisiz hale getirecektir. Ayrıca burada ÖB˙I’ye ne kadar yakın veya uzak olursa olsun tüm kalıntılar e¸sit önem ta¸sımaktadır. Öyleyse, ÖB˙I’yi kalıntılar toplamı en küçük olacak s¸ ekilde ˘ seçmek iyi bir ölçüt degildir.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Sıradan En Küçük Kareler Yöntemi MİLLİ GELİR VE KİŞİSEL TÜKETİM HARCAMALARI, ABD, 1982 − 1995 (MİLYAR $) 4800
Y = −184, + 0,706X
Toplam Kişisel Tüketim Harcamaları
4600 4400 4200 4000 3800 3600 3400 3200 3000 5000
5500
6000
6500
Gayri Safi Yurtiçi Hasıla Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Sıradan En Küçük Kareler Yöntemi ˘ Herhangi bir veri seti için βˆ1 ve βˆ2 degerleri farklı uˆi P farklı 2 uˆi toplamları verir. ve dolayısıyla da farklı P Ancak hatalar toplamı uˆi her zaman sıfır çıkar. ˘ Örnek: Varsayımsal bir veri seti için a¸sagıdaki iki ÖB˙I’yi ele alalım: ˆ1i = 1,572 + 1,357Xi Y ˆ2i = 3,000 + 1,000Xi Y
Toplam
Yi
Xi
ˆ1i Y
4 5 7 12
1 4 5 6
2,929 7,000 8,357 9,714
28
16
ˆ1i u 1,071 -2,000 -1,357 2,286 0
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
2 ˆ1i u
ˆ2i Y
1,147 4,000 1,841 5,226
4 7 8 9
12,214
ˆ2i u
2 ˆ2i u
0 -2 -1 3
0 4 1 9
0
14
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Sıradan En Küçük Kareler Yöntemi ˘ Artı ve eksi degerler alabilen kalıntıların toplamının küçük çıkma sorunundan kurtulmak için en küçük kareler ölçütü kullanılır: En Küçük Kareler Ölçütü P P min uˆi 2 = min (Yi − Yˆi )2 P = min (Yi − βˆ1 − βˆ2 Xi )2 Yukarıdaki gösterimin βˆ1 ve βˆ2 tahmincilerine dayanan bir ˘ matematiksel i¸slev olduguna dikkat ediniz.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Normal Denklemler SEK, kalıntı kareleri toplamını “enazlamak” (minimize) için, ˘ stirgelerini hesaplamada basit bir “eniyileme” ÖB˙I degi¸ (optimization) yönteminden yararlanır. P (Yi − βˆ1 − βˆ2 Xi )2 teriminin βˆ1 ve βˆ2 ’ya göre kısmi türevlerini alalım: P P
Yi = nβˆ1 + βˆ2
P
Xi
P P Yi Xi = βˆ1 Xi + βˆ2 Xi2
˘ Burada n örneklem büyüklügüdür. Yukarıdaki denklemler “normal denklemler” (normal equations) olarak adlandırılırlar. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Normal Denklemler ˘ stirgeleri, normal denklemlerin e¸sanlı olarak βˆ1 ve βˆ2 degi¸ çözülmesi ile bulunur: βˆ2 = =
n
P P P XY− X Y Pi i2 P i 2 i n Xi −( Xi )
P xy P i 2i xi
βˆ1 =
P
P P P Xi2 Y− X XY P i2 P i 2 i i n Xi −( Xi )
¯ − βˆ2 X ¯ =Y
¯ ve Y ¯ terimleri X ile Y ’nin örneklem ortalamalarıdır. X Küçük harfler ise “ortalamadan sapma” (deviation from the mean) olarak kullanılmı¸stır: ¯) xi = (Xi − X ¯) yi = (Yi − Y Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
SEK Tahmincilerinin Özellikleri
˙Ikili baglanım ˘ ˘ ta¸sır: SEK tahmincileri βˆ1 ve βˆ2 s¸ u üç özelligi 1
Bunlar birer nokta tahmincisidirler.
2
˘ Gözlemlenebilen örneklem degerleri (Xi ve Yi ) cinsinden gösterilir ve dolayısıyla kolayca hesaplanabilirler. Örneklem verileri kullanılarak βˆ1 ve βˆ2 hesaplandıktan ˘ ˘ sonra, örneklem baglanım dogrusu da kolayca çizilebilir.
3
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
SEK Tahmincilerinin Özellikleri ˘ ˘ ˘ SEK yöntemi ile bulunan örneklem baglanım dogrusu a¸sagıda verilen özellikleri ta¸sır: 1 ˘ ˘ Örneklem baglanım dogrusu, X ve Y ’nin örneklem ortalamalarından geçer. (Y¯i = β1 + β2 X¯i ) 2 ˆi = 0) uˆi kalıntılarının ortalaması sıfırdır. (u¯ P 3 uˆi kalıntıları tahmin edilen Yi ’lerle ili¸skisizdir. ( uˆi Yˆi = 0) P 4 uˆi kalıntıları Xi ’lerle ili¸skisizdir. ( uˆi Xi = 0) 5 Tahmin edilen Yˆi ’ların ortalaması, gözlemlenen Yi ˘ degerlerinin ortalamasına e¸sittir. Bu ÖB˙I’den görülebilir: Yˆi = βˆ1 + βˆ2 Xi ¯ − βˆ2 X ¯ ) + βˆ2 Xi = (Y ¯ + βˆ2 (Xi − X ¯) =Y Son satırın her iki yanı örneklem üzerinden toplanıp n’ye ¯ˆ ¯ olarak bulunabilir. bölünürse, Y =Y Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
ÖB˙I’nin Sapma Biçiminde Gösterimi ÖB˙I’nin “sapma biçimi” (deviation form) gösterimini bulmak için Yi = βˆ1 + βˆ2 Xi + uˆi i¸slevinin her iki yanını toplayalım: P P P Yi = nβˆ1 + βˆ2 Xi + uˆi P P ˘ için) = nβˆ1 + βˆ2 Xi ( uˆi = 0 oldugu Daha sonra bu denklemin her iki yanını n’ye bölelim: ¯ = βˆ1 + βˆ2 X ¯ Y ˘ ˘ Yukarıdaki e¸sitlik, örneklem baglanımı dogrusunun X ve ˘ göstermektedir. Y ’nin örneklem ortalamalarından geçtigini ˘ ilk e¸sitlikten çıkaralım: Son olarak yukarıdaki e¸sitligi ¯ = βˆ2 (Xi − X ¯ ) + uˆi Yi − Y yi = βˆ2 xi + uˆi ˘ Sapma gösteriminde βˆ1 ’nın bulunmadıgına dikkat ediniz. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Gauss - Markov Kanıtsavı
˘ ˘ Klasik Dogrusal Baglanım Modeli (KDBM) varsayımları geçerli iken, en küçük kareler yöntemi ile elde edilen tahminler arzulanan bazı özellikler ta¸sırlar. Gauss - Markov kanıtsavına göre βˆ SEK tahmincilerine ˘ “En iyi Dogrusal Yansız Tahminci” (Best Linear Unbiased Estimator), kısaca “EDYT” (BLUE) adı verilir.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Gauss - Markov Kanıtsavı
˘ ta¸sır: EDYT olan βˆ s¸ u üç özelligi 1
2
3
˘ ˘ bir deyi¸sle baglanım ˘ Dogrusaldır. Diger modelindeki Y ˘ ˘ skeninin dogrusal ˘ bagımlı degi¸ bir i¸slevidir. ˆ anakütleye ait gerçek β ˘ Yansızdır. Beklenen degeri E (β), ˘ degerine e¸sittir. ˘ Tüm dogrusal ve yansız tahminciler içinde enaz varyanslı olandır. Kısaca en iyi veya “etkin” (efficient) tahmincidir.
Gauss - Markov kanıtsavı hem kuramsal olarak hem de uygulamada önemlidir.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
˘ ˘ SEK Tahmincilerinin Dogrusallı gı ˘ SEK tahmincilerinin “dogrusallık” (linearity) arzulanan ˆ ˘ gösterebilmek için β2 formülünü s¸ öyle yazalım: özelligini P P P P ¯) ¯ P xi xi (Yi − Y xi Yi − Y xi Yi xi yi P 2 P 2 = = P 2 βˆ2 = P 2 = xi xi xi xi
Bu basitçe s¸ u s¸ ekilde de gösterilebilir: P X xi Yi P 2 = ki Yi , xi
xi ki = P 2 ( xi )
˘ ˘ xi degerleri olasılıksal olmadıgına göre ki ’ler de gerçekte ˘ Yi ’lerin önüne gelen birer “agırlık” (weight) katsayısıdırlar. ˘ βˆ2 bu durumda Yi ’lerin dogrusal bir i¸slevidir. ˘ ˘ da benzer biçimde kanıtlanabilir. βˆ1 ’nın dogrusal oldugu Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
˘ Agırlık Terimi k ’nin Özellikleri SEK tahmincilerinin “yansızlık” (unbiasedness) arzulanan ˘ gösterebilmek için agırlık ˘ ˘ özelligini terimi k’nin s¸ u be¸s özelligi önemlidir: 1 2 3 4 5
˘ ˘ Xi ’ler olasılıksal olmadıgından ki ’ler de olasılıksal degildir. P P ˘ için) ki = 0’dır. ( xi = 0 oldugu P 2 P 2 P 2 P 2 2 k = xi / (xi ) = 1/ xi olur. P i P 2 P 2 ki xi = x / xi = 1’dir. P P i ki xP ki XP i = i olur. ¯ ) = P ki Xi − X ¯ P ki oldugu ˘ için) ( ki xi = ki (Xi − X
Dikkat: Tüm bu özellikler ki ’nin tanımından türetilebilmektedir.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
˘ SEK Tahmincilerinin Yansızlıgı ˘ βˆ2 ’nın yansız oldugunu göstermek için Yi = β1 + β2 Xi + ui biçimindeki AB˙I’yi βˆ2 formülünde yerine koyalım: P βˆ2 = P ki Yi = P ki (β1 + β2P Xi + ui ) P ki + β2 ki Xi + ki ui = β1 P = β2 + ki ui
Yukarıdaki son adımda ki ’nin az önce sözü edilen ikinci, dördüncü ve be¸sinci özelliklerinden yararlanılmı¸stır. ˘ ve E (ui ) = 0 varsayımını β2 ve ki ’nin olasılıksal olmadıgını ˘ anımsayalım ve her iki yanın beklenen degerini alalım: P E (βˆ2 ) = E (β2 ) + ki E (ui ) = β2 ˘ E (βˆ2 ) = β2 olduguna göre βˆ2 yansız bir tahmincidir. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
˘ SEK Tahmincilerinin Enaz Varyans Özelligi SEK tahmincilerinin “enaz varyans” (minimum variance) ˘ gösterebilmek için ise β2 ’nin en küçük arzulanan özelligini kareler tahmincisinden yola çıkalım: P βˆ2 = ki Yi ˘ Simdi ¸ β2 için ba¸ska bir dogrusal tahminci tanımlayalım: P ˜ β2 = wi Yi Buradaki ( ˜ ) i¸sareti “dalga” (tilde) diye okunur. ˘ ˘ wi ’ler de birer agırlıktır ama wi = ki olmak zorunda degildir: P β˜2 = P wi E (Yi ) = P wi (β1 + β2P Xi ) = β1 wi + β2 wi Xi Buna göre, β˜2 ’nın yansız olabilmesi için s¸ unlar gereklidir: P P P wi = 0, wi xi = wi Xi = 1 (. . . devam) Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
˘ SEK Tahmincilerinin Enaz Varyans Özelligi var(βˆ2 ) ≤ var(β˜2 ) savını kanıtlamak için β˜2 ’nın varyansını ele alalım: var(β˜2 )
= = =
X var( wi Yi ) X wi2 var(Yi ) X σ2 wi2
=
σ2
X
=
σ2
X
=
σ2
X
[Dikkat: var(Yi ) = var(ui ) = σ2 ]
[Dikkat: cov(Yi , Yj ) = 0, (i 6= j)] !2 xi xi wi − P 2 + P 2 xi xi !2 !2 ! X X xi x x + σ2 + 2σ2 wi − P i 2 wi − P i 2 P 2 xi xi xi !2 ! 1 x + σ2 P 2 wi − P i 2 xi xi
xi P 2 xi
(. . . devam)
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
!
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
˘ SEK Tahmincilerinin Enaz Varyans Özelligi ˘ Son satırda bulmu¸s oldugumuz s¸ ey s¸ udur: 2 P wi − Pxxi 2 + σ 2 P1x 2 var(β˜2 ) = σ 2 i
i
˘ ˘ Yukarıda en sagdaki terim wi ’den bagımsızdır. ˜ ˘ Öyleyse var(β2 )’yı enazlayabilmek ilk terime baglıdır ve ilk ˘ terimi sıfırlayan wi degeri de s¸ udur: wi = Pxix 2 = ki i
˘ Bu durumda a¸sagıdaki e¸sitlik geçerlidir: 2 var(β˜2 ) = Pσ 2 = var(βˆ2 ) xi
˘ ˘ ˘ Demek ki wi agırlıkları ki agırlıklarına e¸sit oldugunda β˜2 ’nın ˆ varyansı enazlanarak β2 ’nın varyansına e¸sitlenmektedir. Sonuç olarak, en küçük kareler tahmincisi βˆ2 tüm yansız ve ˘ dogrusal tahminciler içinde enaz varyanslı tahmincidir. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
SEK Yönteminin Ardındaki Varsayımlar Ekonometrik çözümlemenin amacı yalnızca β1 ve β2 gibi ˘ stirgeleri tahmin etmek degildir. ˘ ˘ degi¸ Bu degerlere ili¸skin çıkarsamalar yapmak da istenir. ˘ Örnek olarak, Yˆi ’ların gerçek E (Y |Xi ) degerlerine ne kadar yakın olduklarını bilmek önemlidir. ˘ Anakütle baglanım i¸slevini anımsayalım: Yi = β1 + β2 Xi + ui ˘ Görülüyor ki Yi hem Xi ’ye hem de ui ’ye baglıdır. Öyleyse Yi , β1 ve β2 ’ye ili¸skin istatistiksel çıkarım yapmak ˘ için Xi ve ui ’nin nasıl olu¸sturuldugunu bilmek gereklidir. ˘ ˘ Bu noktada Gaussçu “Klasik Dogrusal Baglanım Modeli” (Gaussian Classical Linear Regression Model), kısaca “KDBM” (CLRM) 10 temel varsayım yapar. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 1. Varsayımı
Varsayım 1 ˘ ˘ stirgelerde dogrusaldır: ˘ Baglanım modeli degi¸ Yi = β1 + β2 Xi + ui ˘ skenlerde dogrusallık ˘ ˘ Ancak degi¸ zorunlu degildir. ˘ stirgelerde dogrusallık ˘ Degi¸ varsayımı KDBM’nin ba¸slangıç noktasıdır.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 2. Varsayımı Varsayım 2 ˘ ˘ smez. X degerleri yinelenen örneklemelerde degi¸ ˘ söyler. Bu varsayım X ’in olasılıksal olmadıgını ˘ bir deyi¸sle X ile Y arasındaki ili¸skinin çift yönlü Diger ˘ varsayılır. olmadıgı Örnek olarak, gelir düzeyini 80’de tutalım ve rastsal bir aile seçelim. Bu ailenin haftalık harcaması da 65 olsun. Böyle çekili¸slerin her birinde X = 80’dir. ˘ skenine Buna göre elimizdeki çözümleme açıklayıcı X degi¸ ˘ göre bir ko¸sullu baglanım çözümlemesidir.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 3. Varsayımı
Varsayım 3 ui hata teriminin ortalaması sıfırdır: E (ui |Xi ) = 0 Buna göre, modelde açıkça yer almayan ve dolayısıyla ui içine katılmı¸s olan etmenlerin Y ’yi kurallı bir s¸ ekilde ˘ varsayılmaktadır. etkilemedigi ˘ ˘ Artı degerli ui ’ler eksi degerli ui ’leri götürmeli ve böylece bunların Y üzerindeki ortalama etkileri sıfır olmalıdır.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 4. Varsayımı Varsayım 4 ui hata teriminin varyansı tüm gözlemler için sabittir: var(ui |Xi ) = σ 2 “Aynıserpilimsellik” (homoscedasticity) varsayımına göre ˘ farklı X degerlerine kar¸sılık gelen tüm Y ’ler e¸sit önemdedir. Tersi durum ise “farklıserpilimsellik” (heteroscedasticity) durumudur: var(u|X1 ) 6= var(u|X2 ) 6= · · · = 6 var(u|Xn ). ˘ Farklıserpilimsellik durumunda çe¸sitli X degerlerine kar¸sılık ˘ gelen Y degerlerinin güvenilirlikleri aynı olmaz. Bu yüzden kendi ortalaması etrafında farklı sıklıkta yayılan ˘ ˘ Y ’leri farklı agırlıklar vererek degerlendirmek gereklidir. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Aynıserpilimsel Veriler AYNISERPİLİMSELLİK 400
Y = 106, + 1,96X
350 300
Y
250 200 150 100 50 0 0
20
40
60
80
100
X Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Farklıserpilimsel Veriler FARKLISERPİLİMSELLİK 1400
Y = 118, + 7,39X
1200
1000
Y
800
600
400
200
0 0
20
40
60
80
100
X Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 5. Varsayımı Varsayım 5 Hatalar arasında “özilinti” (autocorrelation) yoktur. ˘ “bozukluklar” (disturbances) birbirlerini kurallı biçimde Eger izlerlerse özilinti ortaya çıkar. AB˙I’yi Yt = β1 + β2 Xt + ut olarak kabul edelim ve ut ile ut−1 de aynı yönde ili¸skili olsun. ˘ ut ’ye de baglı ˘ olur ve Bu durumda, Yt yalnızca Xt ’ye degil bu yüzden ut ’yi bir ölçüde ut−1 belirler. Bu sorunla kar¸sıla¸smamak için hatalar arasında sıfır ilinti ˘ varsayılır. oldugu
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Özilintili Hatalar ÖZİLİNTİLİ VE ÖZİLİNTİSİZ SERİ ÖRNEĞİ 15
Özilintisiz Özilintili
10
Y
5
0
−5
−10 1990
1995
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
2000
2005
2010
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Hatalar Arası Aynı Yönlü Özilinti HATALAR ARASI AYNI YÖNLÜ SERİSEL İLİNTİ 100
u(t)
50
0
−50
−100 −100
−50
0
50
100
u(t−1) Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Hatalar Arası Ters Yönlü Özilinti HATALAR ARASI TERS YÖNLÜ SERİSEL İLİNTİ 100
u(t)
50
0
−50
−100 −100
−50
0
50
100
u(t−1) Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Hatalar Arası Özilintisizlik HATALAR ARASI SERİSEL İLİNTİSİZLİK 150
100
u(t)
50
0
−50
−100
−150 −150
−100
−50
0
50
100
150
u(t−1) Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 6. Varsayımı Varsayım 6 Hata terimi ui ile Xi ’nin kovaryansı sıfırdır: cov(ui , Xi ) = 0 ˘ X ve u ili¸skiliyse, ikisinin de Y üzerindeki tekil Eger etkilerini bulmak olanaksızla¸sır. ˘ X ile u aynı yönde ili¸skiliyse u arttıkça Örnek olarak, eger X artar ve u azaldıkça X de azalır. ˘ 2. varsayım (X ’in rastsal olmaması) ve 3. varsayım Eger ˘ (E (ui |Xi ) = 0) geçerliyse, 6. varsayım da kendiliginden gerçekle¸smi¸s olur.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 7. Varsayımı
Varsayım 7 Gözlem sayısı n, tahmin edilecek anakütle katsayısından fazla olmalıdır. ˙Iki bilinmeyeni (β1 ve β2 ) bulmak için en az iki noktaya gereksinim vardır. ˘ Bu ko¸sul matematiksel çözümleme için gereklidir. Saglıklı sonuçlar için örneklemin yeterince büyük olmasının ayrıca ˘ unutulmamalıdır. gerekli oldugu
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 8. Varsayımı
Varsayım 8 ˘ Belli bir örneklemdeki X degerlerinin hepsi aynı olamaz: var(X ) 6= 0 ˘ bütün X degerleri ˘ Eger aynı olursa: ¯ Xi = X , ¯ ˘ xi = X −X oldugundan Pi x y i i ˆ β2 = P x 2 formülünün paydası sıfır çıkar. i
˘ skenler degi¸ ˘ smelidir. Kısaca degi¸
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 9. Varsayımı
Varsayım 9 ˘ ˘ biçimde kurulmu¸s olmalıdır. Baglanım modeli dogru ˘ ˘ seçilen Baglanım çözümlemesi sonuçlarının güvenilirligi, ˘ modele baglıdır. Özellikle de bir iktisadi olguyu açıklayan birden fazla kuram bulunuyor ise ekonometrici çok dikkatli olmalıdır. ˘ degi¸ ˘ sken Her durumda modelin i¸slev biçiminin ne oldugu, ˘ stirgelerde dogrusal ˘ ˘ konuları iyice ve degi¸ olup olmadıgı sorgulanmalıdır.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
˘ Model Belirtim Yanlılıgı MODEL BELİRTİM YANLILIĞI 100
Y = 6,20 + 0,777X
80
Y
60
40
20
0 0
20
40
60
80
100
X Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
KDBM’nin 10. Varsayımı
Varsayım 10 ˘ “Tam çoklue¸sdogrusallık” (exact multicollinearity) yoktur. ˘ ˘ Tam çoklue¸sdogrusallık durumunda baglanım katsayıları belirsiz ve bu katsayıların ölçünlü hataları da sonsuz olur.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Türetilmesi SEK Tahmincilerinin Arzulanan Özellikleri SEK Yönteminin Ardındaki Varsayımlar
Bu Varsayımlar Ne Kadar Gerçekçi? ˘ Ünlü ekonomist Milton Friedman’ın “varsayımların yersizligi” tezine göre gerçek dı¸sılık bir üstünlüktür: “Önemli olabilmek için . . . bir önsav, varsayımlarında betimsel olarak gerçek dı¸sı olmalıdır.”
Ekonometrideki KDBM’nin, fiyat kuramındaki tam rekabet ˘ oldugu ˘ söylenebilir. modelinin kar¸sılıgı ˘ bir deyi¸sle öne sürmü¸s oldugumuz ˘ Diger bu 10 varsayım ˘ konuyu yava¸s gerçekleri tümüyle yansıtmak için degil, yava¸s geli¸stirebilmeyi kolayla¸stırmak amacıyla önemlidir. ˘ Bu varsayımların gerçekle¸smemesi durumunda dogacak ˘ sonuçları ise ilerideki bölümlerde inceleyecegiz. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
SEK Tahmincilerinin Ölçünlü Hataları Sıradan en küçük kareler tahmincilerinin örneklem ˘ verilerinin birer i¸slevi oldugunu anımsayalım: βˆ2 = =
n
P P P XY− X Y Pi i2 P i 2 i n Xi −( Xi )
P xy P i 2i xi
βˆ1 =
P
P P P Xi2 Y− X XY P i2 P i 2 i i n Xi −( Xi )
¯ − βˆ2 X ¯ =Y
˘ secegi ˘ için tahminler Veriler örneklemden örnekleme degi¸ ˘ olarak degi¸ ˘ secektir. de buna baglı ˘ için bir ölçüte Öyleyse βˆ1 ve βˆ2 tahmincilerinin güvenilirligi gereksinim vardır.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
SEK Tahmincilerinin Ölçünlü Hataları
˙Istatistikte rastsal bir degi¸ ˘ skenin dogruluk ˘ derecesi “ölçünlü hata” (standard error), kısaca “öh” (se) ile ölçülür: Ölçünlü Hata ˘ Ölçünlü hata, bir tahminciye ait örneklem dagılımının kendi ˘ ortalamasından ortalama olarak ne kadar saptıgını gösterir. ˘ ˘ Örneklem dagılımı varyansının artı degerli kare köküdür.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
SEK Tahmincilerinin Ölçünlü Hataları Ba¸sta sözü edilmi¸s olan Gaussçu varsayımlar geçerli iken ˘ SEK tahmincilerinin ölçünlü hataları a¸sagıdaki gibidir: σ2 P xi2
var(βˆ1 ) =
σ öh(βˆ2 ) = √P
öh(βˆ1 ) =
var(βˆ2 ) =
xi2
P 2 X P i σ2 n xi2
r
P 2 X Pi σ n xi2
Burada: ˘ sirlik ya da varyansı, var degi¸ öh ölçünlü hatayı, ˘ σ 2 ise baglanımın sabit varyansını göstermektedir.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
SEK Tahmincilerinin Ölçünlü Hataları ui ’nin sabit varyansını veren σ 2 s¸ öyle tahmin edilir:
2
σ ˆ =
uˆi 2 n−2
P
Buradaki σ ˆ 2 , bilinmeyen σ 2 ’nin SEK tahmincisidir. P 2 uˆi terimine “kalıntı kareleri toplamı” (residual sum of squares), kısaca “KKT” (RSS) denir ve s¸ öyle bulunur: P P 2 P 2 uˆi = y − βˆ2 x 2 i
2
i
˘ ˘ skenli çözümleme için geçerli n − 2 degeri ise iki degi¸ serbestlik derecesidir.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Serbestlik Derecesi Serbestlik Derecesi “Serbestlik derecesi” (degree of freedom), örneklemdeki toplam ˘ gözlem sayısı (n) eksi bunlar üzerine konulmu¸s olan bagımsız sınırlama sayısıdır. Örnek olarak, KKT’nin hesaplanabilmesi için önce βˆ1 ve βˆ2 ˘ degerlerinin bulunmu¸s olması gereklidir: X 2 X uˆi = (Yi − βˆ1 − βˆ2 Xi )2 Dolayısıyla bu iki tahminci KKT üzerine iki sınırlama getirir. ˘ Bu durumda, KKT’yi ve dolayısıyla da ölçünlü hatayı dogru ˘ n − 2 sayıda hesaplayabilmek için aslında elde n degil ˘ bagımsız gözlem vardır. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
βˆ1 ve βˆ2 Varyanslarının Özellikleri var(βˆ2 ) =
2 Pσ 2 xi
var(βˆ1 ) =
P 2 X P i σ2 n xi2
βˆ1 ile βˆ2 tahmincilerinin yukarıda gösterilen varyanslarının (ve dolayısıyla bunların ölçünlü hatalarının) s¸ u özellikleri önemlidir: P 2 1 ˘ n arttıkça Örneklem büyüklügü xi toplamındaki terim ˘ sayısı da artar. Böylece n büyüdükçe βˆ1 ve βˆ2 ’nın dogruluk dereceleri de artar. 2 βˆ1 ve βˆ2 , verili bir örneklemde birbirleri ile ili¸skili olabilirler. ˘ Bu bagımlılık aralarındaki kovaryans ile ölçülür: ¯ var(βˆ2 ) cov(βˆ1 , βˆ2 ) = −X 3
˘ β2 katsayısı oldugundan ˘ Sonuç olarak, eger büyük tahmin ˘ edilir ise β1 de oldugundan küçük tahmin edilmi¸s olur. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Belirleme Katsayısı r 2
˘ ˘ ˘ Eldeki gözlemler çogunlukla baglanım dogrusu üzerinde yer almazlar. ˘ Artı veya eksi i¸saretli uˆi hataları ile kar¸sıla¸sıldıgına göre ˘ ˘ örneklem baglanım dogrusunun eldeki verilerle ne ölçüde ˘ örtü¸stügünü gösteren bir ölçüte gereksinim vardır: Belirleme Katsayısı “Belirleme katsayısı” (coefficient of determination) ya da r 2 ˘ ˘ (çoklu baglanımda R 2 ), örneklem baglanım i¸slevinin verilere ne ˘ kadar iyi yakı¸stıgını gösteren özet bir ölçüttür.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Belirleme Katsayısının Hesaplanması ˘ Belirleme katsayısını hesaplamak için, yi = yˆi + uˆi e¸sitliginin iki yanının karesi alınır ve örneklem boyunca toplanır: P 2 yˆ yi2 = P i2 yˆ = Pi 2 2 = βˆ2 xi TKT = BKT
P
P P + uˆi 2 + 2 yˆi uˆi P 2 + uˆi P + uˆi 2 + KKT
Burada: TKT “Toplam Kareleri Toplamı” (Total Sum of Squares), ˘ Kareleri Toplamı” (Regression Sum of Squares), BKT “Baglanım KKT “Kalıntı Kareleri Toplamı” (Residual Sum of Squares) anlamına gelmektedir. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Belirleme Katsayısının Hesaplanması yi2 TKT
P
= =
P βˆ22 xi2 BKT
+ +
uˆi 2 KKT
P
˘ her iki yanını TKT’ye bölelim: Yukarıdaki e¸sitligin 1
=
BKT TKT
+
KKT TKT
˘ Buna göre r 2 a¸sagıdaki gibi tanımlanır: Belirleme Katsayısı P ˆ P 2 ¯ )2 (Y − Y yˆi KKT BKT 2 r = P 2 =P i =1− = 2 ¯ TKT TKT yi (Yi − Y )
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Belirleme Katsayısının Özellikleri
˘ r 2 ’nin iki temel özelliginden söz edilebilir: 1 2
˘ almayan bir büyüklüktür. r 2 eksi deger Sınırları 0 ≤ r 2 ≤ 1’dir.
Buna göre:
˘ r 2 bire e¸sit olursa bu tam bir yakı¸sma demektir. Eger ˘ ˘ skenle açıklayıcı degi¸ ˘ sken Sıfıra e¸sit bir r 2 ise bagımlı degi¸ ˆ ˘ (β2 = 0) anlamına gelir. arasında hiçbir ili¸skinin olmadıgı
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
˙Ilinti Katsayısı r 2 ile yakın ili¸skili ama kavramsal olarak çok uzak bir büyüklük “ilinti katsayısı” (coefficient of correlation), kısaca r ’dir: ˙Ilinti Katsayısı
√ r = ± r2
˘ ˘ ˘ skenler arasındaki r degeri, bagımlı ve açıklayıcı degi¸ ˘ ˘ ˘ bir ölçüsüdür. dogrusal bagımlılı gın −1 ve +1 arasında yer alır: −1 ≤ r ≤ 1. Bakı¸sımlıdır: rXY = rYX . ˘ Sıfır noktasından ve ölçekten bagımsızdır. Herhangi bir neden-sonuç ili¸skisi içermez. ˙Iki degi¸ ˘ sken arasında sıfır ilinti (r = 0) mutlaka bagımsızlık ˘ ˘ göstermez çünkü r yalnızca dogrusal ili¸skiyi ölçer. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Sayısal Bir Örnek ABD’de 1982–1996 arası toplam tüketim harcamaları ve GSYH verilerini anımsayalım (Gujarati Table_I.1): Çizelge: ABD Tüketim Harcamaları ve GSYH YIL 1982 1983 1984 1985 1986 1987 1988 1989
X
Y
4620,3 4803,7 5140,1 5323,5 5487,7 5649,5 5865,2 6062,0
3081,5 3240,6 3407,6 3566,5 3708,7 3822,3 3972,7 4064,6
YIL 1990 1991 1992 1993 1994 1995 1996
X
Y
6136,3 6079,4 6244,4 6389,6 6610,7 6742,1 6928,4
4132,2 4105,8 4219,8 4343,6 4486,0 4595,3 4714,1
Toplam tüketim harcamalarını (Y ), gayri safi yurtiçi hasıla (X ) ile ili¸skilendirmek istiyor olalım. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
˘ SEK Baglanımı gretl Çıktısı
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Sayısal Bir Örnek ˘ ˘ gibi marjinal Gretl baglanım çıktısından görülebilecegi ˘ tüketim egilimi (MTE) yakla¸sık 0,71’dir. ˘ Buna göre gelir 1 dolar arttıgında tüketimin de 71 sent artması beklenmektedir. ˘ Sabit terim, toplam gelir sıfır oldugunda toplam tüketimin ˘ göstermektedir. yakla¸sık −184 milyar dolar olacagını ˘ dı¸sında kalan ve gerçek hayatta Sıfır gelirin gözlem aralıgı ˘ olmasından dolayı, sabit terimin olanaksız bir deger böylesi bir mekanik yorumu iktisadi anlam içermemektedir. Gretl βˆ1 , βˆ2 ve uˆi için ölçünlü hataları sırasıyla 46,2620 ve 0,00782749 ve 20,2853 olarak hesaplamı¸stır. ˘ Yukarıdaki degerlerin karesi alınarak var(βˆ1 ) = 2140,17 ve ˆ var(β2 ) = 0,0000612696 ve σ ˆ 2 = 411,493 varyansları da kolayca bulunabilir. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Monte Carlo Yöntemi
KDBM varsayımları altında SEK tahmincilerinin EDYT (En ˘ ˘ iyi Dogrusal Yansız Tahminci) olmalarını saglayan bazı arzulanan özellikler ta¸sıdıklarını anımsayalım. ˘ bir “benzetim” (simulation) EDYT özelliklerinin geçerliligi, ˘ yöntemi olan Monte Carlo deneyleri ile dogrulanabilir. Bu yöntem, anakütle katsayılarını tahmin eden süreçlerin istatistiksel özelliklerini incelemede sıkça kullanılmaktadır. Monte Carlo aynı zamanda istatistiksel çıkarsamanın temeli sayılan “tekrarlı örnekleme” (repeated sampling) kavramının anla¸sılması için de yararlı bir araçtır.
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Monte Carlo Yöntemi ˘ Bir Monte Carlo deneyi a¸sagıdaki gibi yapılır: 1 Anakütle katsayıları seçilir. Örnek: β1 = 20 ve β2 = 0,6. 2 ˘ seçilir. Örnek: n = 25. Bir örneklem büyüklügü 3 ˘ Her gözlem için bir X degeri belirlenir. 4 Bir rastsal sayı olu¸sturucu kullanılarak ui kalıntıları üretilir. 5 ˘ β1 , β2 , Xi ’ler ve ui ’ler kullanılarak Yi degerleri bulunur. 6 ˘ ˘ Bu s¸ ekilde üretilen Yi degerleri Xi ’ler ile baglanıma sokulur ve βˆ1 ve βˆ2 SEK tahmincileri hesaplanır. 7 ˙Is¸ lem tekrarlanır (örnegin ˘ 1000 kez) ve rastsallıktan dolayı ˘ sen tahminlerin ortalamaları (β¯ˆ1 , β¯ˆ2 ) alınır. her seferde degi¸ 8 ˘ β¯ˆ1 ve β¯ˆ2 degerleri ˘ ˘ yukarı e¸sit ise, Eger β1 ve β2 ’ye a¸sagı ˘ ˘ bir deyi¸sle deney SEK tahmincilerinin yansızlıgını, diger ˘ E (βˆ1 ) = β1 ve E (βˆ2 ) = β2 oldugunu saptamı¸s sayılır. Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)
Sıradan En Küçük Kareler Yöntemi ˘ SEK Yönteminin Güvenilirligi
SEK Tahmincilerinin Ölçünlü Hataları Belirleme Katsayısı r 2 Monte Carlo Yöntemi
Önümüzdeki Dersin Konusu ve Ödev
Ödev Kitaptan Bölüm 3 “Two-Variable Regression Model: The Problem of Estimation” okunacak. Önümüzdeki Ders Normallik Varsayımı ve Ençok Olabilirlik Yöntemi
Yrd. Doç. Dr. A. Talha YALTA (2007 - 2010)
˙Iki Degi¸ ˘ skenli Baglanım ˘ Modeli: Tahmin Sorunu (sürüm 1,81)