Uyarlanabilir Yankılaşım Teorisi (Adaptive Resonance Theory- Grossberg ) A crucial metatheoretical constraint is to insist upon understanding the behavioral data –which comes to us as static numbers or curves on a page – as the emergent properties of a dynamical process which is taking place moment-by-moment in an individual mind. One also needs to respect the fact that our minds can adapt on their own to changing environmental conditions without being told that these conditions have changed. One thus needs to frontally attack the problem of how an intelligent being can autonomously adapt to a changing world. Knowing how to do this, as with many other theoretical endeavors in science, is presently an art form. There are no known algorithms with which to point the way. Whenever we have attempted this task in the past, we have resisted every temptation to use homunculi, or else the crucial constraint on autonomous adaptation would be violated. The result has regularly been the discovery of new organizational principles and mechanisms, which we have then realized as a minimal model operating according to only locally defined laws that are capable of operating on their own in real time. The remarkable fact is that, when such a behaviorally- derived model has been written down, it has always been interpretable as a neural network. These neural networks have always included known brain mechanisms. The functional interpretation of these mechanisms has, however, often been novel because of the light thrown upon them by the behavioral analysis. The networks have also typically predicted the existence of unknown neural mechanisms, and many of these predictions have been supported by subsequent neurophysiological, anatomical, and even biochemical experiments over the years. Stephen Grossberg

Grossberg ‘e göre: Algılama ve Bilişe İlişkin Temel Problem: – İnsanlar içinde bulundukları ortamın değişmez özelliklerini nasıl keşfediyor, öğreniyor ve tanıyor ? – Yaşam boyunca sürekli öğrenmeyi nasıl başarıyoruz ?

Yöntem Psikolojik postülalar Bu postülaları gerçekleyen minimum ağ yapısı bulunur Gerçeklenen ağın psikolojik ve nöral yetenekleri test edilir Yapılamayanların bulunması, gereken yeni psikolojik temeli gösterecektir Daha ayrıntılı postülalar bulunur

Adaptif Rezonans Teorisi (ART) – Klasik şartlanma çalışmalarına dayanır – Sağlam matematiksel altyapı – Gerçek zamanda gerçek dünya verileri ile çalışma yeteneği – Temel düşünce birçok olayı açıklamak için genişletilerek yeni yapılar önerilmiştir

Giriş Dikkat Altsistemi Yönlendirme Altsistemi Kısa Süreli Bellek Uzun Süreli Bellek Kontrol Birimi Kontrol Birimi F1 F2 ART nasıl çalışıyor? Mete Balcı, Nevroz Aslan, Bitirme Ödevi, 2003

Tüm bunlar nasıl yapılıyor? I Mete Balcı, Nevroz Aslan, Bitirme Ödevi, 2003

Amaç: Verilen örüntüleri önceden belirlenmiş benzerlik kıstasına göre öbekleme, gerekirse yeni öbekler oluşturma ART -1 Verilenler: n boyutlu p tane vektör benzerlik kıstası “uyanıklık” katsayısı Ağ Yapısı: yukarıdan aşağı bağlantılar aşağıdan yukarı bağlantılar ilk ağırlıklar

Öğrenme Kuralı: F 1 katmanındaki gösterim ile veri ‘nin benzerliğinin ölçüsüne “uyanıklık” değerine göre karar veriliyor. için kazananı belirle ise kazanan aşağıdan yukarıya ağırlık güncelleniyor Kazananı belirlemek için hangi ağırlık kullanılıyor? Hangi ağırlık güncelleniyor? Ağırlıkların Güncellenmesi: Kazanan uyanıklık koşulunu sağlamıyorsa ne olacak? F 2 katmanına yeni örüntü yerleştirilecek İlgili aşağıdan yukarı ağırlıklar, ilk ağırlık güncellenmesinde gibi belirlenecek, yukarıdan aşağı ağırlıklar yeni örüntünün değerleri olarak alınacak

Örnek : Adım 1: Birinci örüntü için m=1, n=7 Başkası olmadığı için kazanan Güncellenmeyi hakediyor mu? Uyanıklık katsayısına bakılınacak

Ağırlıklar güncellenecek

Adım 2: İkinci örüntü için m=1, n=7 Başkası olmadığı için kazanan ancak uyanıklık katsayısına bakmak da gerekiyor Yeni bir nöron oluşturmak gerek

Adım 3: Üçüncü örüntü için m=2, n=7

Ağırlıklar güncellenecek Dikkat !!!! Değişiklik oldu mu?

Adım 4: Dördüncü örüntü için m=2, n=7 Ağırlıklar güncellenecek

Dinamik Yapay Sinir Ağı Modelleri Yinelemeli Ağlar (recurrent networks) İleri yolGeri besleme

Önce lineer dinamik sistemler hakkında bildiklerimizi hatırlayalım... durum değişkeni giriş değişkeni çıkış değişkeni Bu değişkenlere ilişkin başka neyi belirtmemiz gerek Bu sistemin çözűmű..... ilk koşul Dinamik Sistem

Bir özel hal: Otonom sistem Çözümü bir daha yazarsak özdeğerler özvektörler Çözüm, özvektörler ve özdeğerler ile nasıl değişir

Özvektörleri aynı özdeğerleri farklı iki sistem

A1 sistemi A2 sistemi Hangisi daha hızlı sıfıra yaklaşıyor ?

Özdeğerleri aynı özvektörleri farklı iki sistem

B1 sistemi B2 sistemi

Bu durumda lineer sistemin çözümleri neler olabilir? Tüm bu durum portrelerinde ortak bir şey var, ne? S. Haykin, “Neural Networks- A Comprehensive Foundation”2 nd Edition, Prentice Hall, 1999, New Jersey.

Dinamik sistemin özel bir çözümü: Denge noktası Kaç tane denge noktası olabilir? Sistemin davranışını incelemenin bir yolu kararlılığını incelemektir. Tanım: Lyapunov anlamında kararlılık sistemine ilişkin bir denge noktası olsun. Verilen herhangi bir için eşitsizliği eşitsizliğini gerektirecek şekilde bir bulunabiliyorsa denge noktası Lyapunov anlamında kararlıdır. Lineer sistemlerde denge noktasının Lyapunov anlamında kararlılığını incelemek için ne yapıyoruz? Denge noktasının kararlılığı neye denk, neden?