• EDVAC (Electronic Discrete Variable Automatic Computer) • 1950 John Von Neumann Fizyolog (1904-1985) Hebb Öğrenme Kuramı (1949) “When an axon of a cell A is near enough to excite a cell B and repeatedly or persistently takes part in firing it, some growth process or metabolic change takes place in one or both cells such that A’s efficiency as one of the cells firing B is increased. “ (Organization of Behavior) • zamana bağlı • yerel • Öğrenen adaptif sistemler için esin Çıkış işareti Postsinaptik aktivite giriş işareti Presinaptik aktivite Öğrenme hızı http://thebrain.mcgill.ca/flash/i/i_07/i_07_cl/i_07_cl_tra/i_07_cl_tra.html

• Snark- Marvin Minsky (1951) • kendi kendine ağırlıkları ayarlayabiliyor • işe yarar hiç bir bilgi işleme fonksiyonunu gerçekleyemedi Bilgisayar bilimcisi (1928-1971) • Perceptron – Frank Rosenblatt (1958) • Görüntü tanıma • Eğiticili öğrenme • Perceptron yakınsama teoremi Elektrik mühendisi • ADALINE (ADaptive LINEar combiner)- Bernard Widrow, Ted Hoff • LMS kuralı • Perceptron ile farkı öğrenme kuralı

• “Perceptrons” Minsky-Papert 1969 matematiksel olarak Perceptron’un • Karanlık Yıllar (1969-1982) • “Perceptrons” Minsky-Papert 1969 matematiksel olarak Perceptron’un XOR mantık fonksiyonunu gerçekleyemeyeceğini ispatladılar. • Grossberg- ART özdüzenlemeli bir yapı • Kohonen – özdüzenlemeli bir başka yapı • Fukushima – özdüzenlemeli bir başka yapı daha • Karanlık Yıllardan Çıkış • 1982 Hopfield Ağı • Geriye Yayılım Algoritması (Backpropagation) * 1974 Werbos * 1985 Parker * 1985 LeCun * 1986 Rumelhart

Yapay Sinir Ağlarının geleceği ne? «Neuromorphic» mühendislik/hesaplama

“Bilgi”’nin Gösterimi “Bilgi” İnsan veya Makina Yorumlama Öngörme Uygun yanıt verme Depolanmış enformasyon veya model Nasıl anlayacağız? Nasıl gösterimi oluşturacağız? Kurallar: (1) Benzer sınıflardan benzer girişler ağda benzer gösterimler oluşturmalı ve böylece aynı kategoriye ait olarak sınıflanmalı, (2) Farklı sınıflara ayrılacak nesnelere, ağda çok farklı gösterimler atanmalı, (3) Belirli bir özellik önemli ise ağda onun gösterimi ile görevlendirilen hücre sayısı daha fazla olmalı,

Benzerliğin bir ölçütü - Norm V vektör uzayı olmak üzere, aşağıdaki dört özelliği sağlayan fonksiyon : normdur

Gösterim için bir yol Bir T harfi Bir L harfi İşlem uygulayacağımıza göre nasıl ifade edebiliriz? Bir T harfi Bir L harfi

parametrelerin nasıl değiştirildiği ile belirlenir. Ağın içinde bulunduğu ortamdan etkilenerek parametrelerini değiştirmesi işlemi öğrenmedir. Öğrenme şekli, parametrelerin nasıl değiştirildiği ile belirlenir. Öğrenme Süreçleri Öğrenme Süreçleri Eğiticili Öğrenme Eğiticisiz Öğrenme Pekiştirmeli Öğrenme Özdüzenlemeli Öğrenme

Eğiticili Öğrenme Ortam Eğitici + - Eğitilen Sistem

Eğitici ortam hakkında bilgiye sahip Eğitilen sistem ortam hakkında bilgiye sahip değil ağırlıklar Eğitilen sisteme ilişkin ....................... eğitim kümesinde içerilen bilgi ve ........ aracılığı ile değiştiriliyor hata Eğiticinin ortam hakkında sahip olduğu bilgi, eğitilen sisteme aktarılıyor Burada rahatsız edici bir şey var, ne?

Pekiştirmeli Öğrenme Eğitilen Sistem davranış Kritik Ödül r δ Değer Atama Ortam Öğrenme işleminin her adımında istenilen yanıtı sağlayan bir eğitici yok Eğitilen sistem, sonuçta elde edilecek yanıta erişmek için gerekli davranışı eleştiriyi gözönünde tutarak bulmak bulmak zorunda 11

Özdüzenlemeli Öğrenme Ortam Eğitilen Sistem Bilgiye sahip ya da eleştiride bulunan bir eğitici yok Eğitilen sistem girişlerin istatiksel dağılımını belirledikten sonra sınıflamayı oluşturuyor. 12