Yapay Sinir Ağı Modeli (öğretmenli öğrenme) Çok Katmanlı Algılayıcı

... konulu sunumlar: "Yapay Sinir Ağı Modeli (öğretmenli öğrenme) Çok Katmanlı Algılayıcı"— Sunum transkripti:

1 Yapay Sinir Ağı Modeli (öğretmenli öğrenme) Çok Katmanlı Algılayıcı

2 1. ÇOK KATMANLI ALGILAYICI (ÇKA)
Girdi1 Girdi2 Çıktı 1 Girdi ve çıktı arasında ki ilişkiler doğrusal olmazsa öğrenme gerçekleşmez. Bu tür olayların öğrenebilmesi için daha gelişmiş modellere ihtiyaç vardır.Çok katmanlı algılayıcı modeli de bunlardan birisidir. XOR problemi olayın doğrusal olup olmadığını anlamak için bize örnek teşkil eder.

3 ÇKA MODELİNİN YAPISI

4 ÇKA MODELİNİN YAPISI Girdi katmanı:Dış dünyadan gelen girdileri alarak ara katmana gönderir.Bu katmanda bilgi işleme olmaz. Ara katmanlar:Girdi katmanından gelen bilgileri işleyerek bir sonra ki katmana gönderir. Bir ÇKA ağında birden fazla ara katman ve her katmanda birden fazla proses elemanı olabilir. Çıktı katmanı: Ara katmandan gelen bilgileri işleyerek ağa girdi katmanından verilen girdilere karşılık ağın ürettiği çıktıları belirleyerek dış dünyaya gönderir.Bir çıktı katmanında birden fazla proses olabilir.

5 ÇKA Ağının Öğrenme Kuralı
ÇKA ağları öğretmenli öğrenme stratejisine göre çalışırlar. Yani; bu ağlara eğitim sırasında hem girdiler hem de o girdilere karşılık üretilmesi gereken çıktılar gösterilir. Ağın görevi her girdi için o girdiye karşılık gelen çıktıyı üretmektir.ÇKA ağının öğrenme kuralı en küçük kareler yöntemine dayalı Delta Öğrenme kuralının genelleştirilmiş halidir.Genelleştirilmiş “Delta Kuralı” iki safhadan oluşur.

6 1. İleri Doğru Hesaplama: Eğitim setinde ki bir örneğin Girdi Katmanından ağa gösterilmesi ile başlar. Girdi katmanında ki k. Proses elemanın çıktısı; Ara katmanda ki her proses elemanı girdi katmanında ki bütün proses elemanlarından gelen bilgileri bağlantı ağırlıklarının etkisi ile alır. Ara katmanda ki proses elemanlarına gelen net girdi şu formül ile hesaplanır.

7 İleri Doğru Hesaplama Önemli olan burada türevi alınabilir bir fonksiyon kullanmaktır.Sigmoid fonksiyonu kullanılması halinde çıktı, Ara katmanın bütün proses elemanları ve çıktı katmanının proses elemanlarının çıktıları aynı şekilde kendilerine gelen net girdinin hesaplanması ve sigmoid fonksiyonundan geçirilmesi sonucu belirlenir. Çıktıları bulununca ağın ileri hesaplama işlemi tamamlanmış olur.

8 Geriye Doğru Hesaplama
Ağa sunula girdi için ağın ürettiği çıktı ağın beklenen çıktıları(B1, B2…) ile karşılaştırılır. Bunların arasında ki fark hata olarak kabul edilir. Geriye hesaplamada bu hata ağın ağırlık değerlerine dağıtılarak bir sonraki iterasyonda hatanın azaltılması sağlanır.

9 ÇKA AĞININ ÇALIŞMA PROSEDÜRÜ
ÇKA ağlarının çalışması şu adımları içermektedir; Örneklerim toplanması: Ağın çözmesi istenilen olay için daha önce gerçekleşmiş örneklerin bulunması adımıdır. Ağın topolojik yapısının belirlenmesi: Öğrenilmesi istenen olay için oluşturulacak ağın topolojik yapısı belirlenir.Kaç tane girdi ünitesi, kaç tane ara katman, her ara katmanda kaç tane proses elemanı ve çıktı elemanı olması gerektiği bu adımda belirlenmektedir.

10 Ağırlıkların başlangıç değerlerine atanması:Proses elemanlarını birbirine bağlayan ağırlık değerlerinin ve eşik değer ünitesinin ağırlıklarının başlangıç değerlerinin atanması yapılır. Öğrenme setinden örneklerin seçilmesi ve ağa gösterilmesi:Ağın öğrenmeye başlaması ve yukarıda anlatılan anlatım öğrenme kuralına uygun olarak ağırlıkları değiştirmesi için ağa örnekler belirli bir düzeneğe göre gösterilir.

11 Öğrenme sırasında ileri hesaplamaların yapılması: Sunulan girdi için ağın çıktı değerleri hesaplanır. Gerçekleşen çıktının beklenen çıktı ile karşılaştırılması:Ağın ürettiği hata değerleri bu adımda hesaplanır. Ağırlıkların değiştirilmesi:Geri hesaplama yöntemi uygulanarak üretilen hatanın azalması için ağırlıkların değiştirilmesi yapılır.

12 AĞIN EĞİTİLMESİ Hata ε w w w w3 w* Ağırlık Çok boyutlu hata uzayı

13 AĞIN EĞİTİLMESİ Şekilde ki w0 ve w2 çözümlerinin hataları kabul edilebilir hata düzeyinin üzerinde olduğundan bu çözümler kabul edilemez çözümlerdir. Bunlara yerel çözümler denilmektedir.w1 ve w3 çözümleri en iyi çözüm olmamalarına rağmen kabul edilebilir hata düzeyinin altında bir hata ya sahiptirler.

14 AĞIN EĞİTİLMESİ En iyi sonuç bulunamamasının başlıca nedenleri:
Problem eğitilirken bulunan örnekler problem uzayını %100 temsil etmeyebilir. Oluşturulan ÇKA ağı için doğru parametreler seçilmemiş olabilir. Ağın ağırlıkları başlangıçta tam istenildiği şekilde belirlenmemiş olabilir. Ağın topolojisi yetersiz seçilmiş olabilir.

15 Ağ, hatayı eğitim sırasında belirli bir değerin altına düşüremiyorsa yerel bir çözüme takılmış demektir.Bu en iyi çözüm olmayabilir.Bu durumda ağın olayı öğrenmesi için bazı değişiklikler yapılarak yeniden eğitilmesi gerekir.Bu değişiklikler arasında şunlar sayılabilir: Başka başlangıç değerleri kullanılabilir. Topolojide değişiklikler yapılabilir. Parametrelerde değişiklik yapılabilir.

16 Problemin gösterimi ve örneklerin formülasyonu değiştirilerek yeni örnek seti oluşturulabilir.
Öğrenme setinde ki örneklerin sayısı arttırılabilir veya azaltılabilinir. Öğrenme sürecinde örneklerin ağa gösterilmesi ÇKA ağlarının yerel sonuçlara takılıp kalmaması için momentum katsayısı geliştirilmiştir. Bu katsayının iyi kullanılması yerel çözümleri kabul edilebilir hata düzeyinin altına çekebilmektedir.

17 ÇKA ağlarının eğitilmesinde diğer bir sorun ise öğrenme süresinin çok uzun olmasıdır. Ağırlık değerleri başlangıçta büyük değerler olması durumunda ağın lokal sonuçlara düşmesi ve bir lokal sonuçtan diğerine sıçramasına neden olmaktadır.Ağırlıklar küçük aralıkta seçilirse o zamanda ağırlıkların doğru değerleri bulması uzun zamanlar almaktadır.

18 XOR probleminin çözülmesi
1.adım:Örneklerin toplanması GİRDİ 1 GİRDİ 2 ÇIKTI örnek1 örnek2 1 örnek3 örnek4

19 2.Adım:Ağın topolojik yapısının belirlenmesi XOR probleminde iki girdi ve birde çıktı olduğundan oluşturulacak olan ÇKA ağının da iki girdi ünitesi ve bir çıktı ünitesi olacaktır. Bir ara katman ve iki tanede ara katman proses elemanın bu problemi çözebileceği varsayılmaktadır.

20 3.adım:Öğrenme parametrelerinin belirlenmesi Oluşturulan ağ için aktivasyon fonksiyonu olarak sigmoid fonksiyonun kullanıldığını, öğrenme ve momentum katsayılarının ise şu şekilde belirlendiği varsayılsın, λ=0.5 α=0.8

21 Girdi Katmanı Ara Katman Çıktı Katmanı G1 G2 Eşik değer 1 Eşik değer 2

22 4.adım:Ağırlıkların başlangıç değerlerinin atanması Oluşturulan ağ için ağırlık vektörleri ve başlangıç değerleri de şu şekilde belirlenmiş olsun. [ ] Eşik değeri ağırlıkları şöyle olsun; [ ] ç [ ]

23 5.adım:Örneklerin ağa gösterilmesi ve ileri doğru hesaplama
NET= Ç= NET= Ç= B=0 NET= Ç= Ç= B

24 Net1=(0* )+(0* )+(1* ) = Net2=(0* )+(0* )+(1* ) =

25 Çıktılar şöyle hesaplanır:
Proses elemanın NET girdisi: NET=(1* )+( * )+( * )=