Rekabet ortamında arama Adversarial Search

... konulu sunumlar: "Rekabet ortamında arama Adversarial Search"— Sunum transkripti:

1 Rekabet ortamında arama Adversarial Search

2 Rekabet ortamında arama
Çoklu vekil ortamı- her bir vekil karar verirken diğer vekillerin de hareketlerini dikkate almalı ve bu vekillerin onun durumunu nasıl etkileyeceğini bilmelidir Olasılık- diğer vekillerin hareketlerinin tahmin edile bilmemesi “Önceden tahmin edilemeyen" karşı taraf rakibin her olası cevabına karşı bir hareketin belirlenmesi İşbirlikçi ve rakip vekiller Rekabet ortamında arama-oyun Zaman sınırlamaları

3 Oyun neden öğrenilmeli?
Yapay Zekanın en eski alanlarından birisi (Shannon and Turing, 1950) Zeka gerektiren rekabetin soyut ifadesi Durum ve faaliyetlerin kolay ifade edilebilirliği Dış dünyadan çok az bilginin gerek olması Oyun oynama, bazı yeni gereksinimlerle aramanın özel halidir.

4 Oyun türleri Tam bilgili; tam olmayan bilgili Belirlenmiş Talih Satranç,dama,go- tam bilgili, belirlenmiş Tavla- tam bilgili,talih Kağıt oyunları- tam olmayan bilgili, talih

5 Oyunla bağlı sorunlar Oyunların çözümü zordur: “Olasılık ” sorunu
Rakibin hareketini bilmiyoruz ! Arama uzayının boyutu: Satranç : her durumda yaklaşık ~15 hareket, 80 karşılıklı hamle ağaçta 1580 düğüm Go : her durumda ~200 hareket, 300 karşılıklı hamle ağaçta düğüm Optimal çözümün çoğu zaman mümkün olmaması

6 Oyun oynama algoritmaları:
Minimax algoritması Alpha-beta budama Değerlendirme fonksiyonu Aramayı kesme her hangi derinlik sınırına kadar arama Derinlik sınırında değerlendirme fonksiyonunun kullanılması Değerlendirmenin tüm ağaç boyunca yayılması

7 Oyun-arama sorunu Başlangıç durum-ilk pozisyon ve birinci hamle yapacak oyuncu Ardıl fonksiyonu- (hareket,durum) çiftleri listesini veriyor; yasal hareket ve bu hareket sonucu durum Uç düğüm (terminal) denemesi -oyunun bittiğini belirler. Oyunun son bulduğu durumlara uç durumlar denir Yarar fonksiyonu - uç durumlar için sayı değer Oyun ağacı- başlangıç durum ve her iki tarafın yasal hareketleri

8 Oyun ağacı (2-oyuncu, belirlenmiş)

9 Minimax yöntemi Belirlenmiş oyunlar için mükemmel taktik
Temel fikir: en yüksek minimax değerli hareketi seçmeli = en iyi ulaşılabilir sonuç

10 Minimax değer Minimax değer (n)= Yarar(n) , eğer n son durum ise
Max (Minimaxdeğer(s)), n -Max düğüm ise S  ardıllar(n) Min (Minimaxdeğer(s)), n - Min düğüm ise S  ardıllar(n)

11 Minimax algoritması

12 minimax’ın özellikleri
tam? Evet (eğer ağaç sonlu ise) Optimal? Evet (optimal rakibe karşı) Zaman karmaşıklığı? O(bm) Uzay karmaşıklığı O(bm) (derinine izleme) m- ağacın en fazla derinliği b- her noktada mümkün hamleler sayısı Satranç için b ≈ 35, m ≈100

13 MINI MAX Sınırlamalar: 2 oyuncu: MAX (bilgisayar) ve MIN (rakip)
belirlenmiş, tam bilgi Derinine arama ve değerlendirme fonksiyonu MAX MIN - Derine doğru ağaç oluşturmalı Bu hare- keti seç 3 Her seviye için değerlendirme fonksiyonunu hesaplamalı 2 1 3 Değerlendirme fonksiyonunu yaymalı: - MIN’de minimum kabul ediliyor - Max’da maximum kabul ediliyor 2 5 3 1 4

14 Alpha-Beta budama Tüm ağacın (yukarıdan aşağıya doğru derinine) oluşturulmasına ve değerlerin tüm ağaç boyu yayılmasına gerek kalmaya bilir Edinilmiş bazı değerler ,ağacın üretilmemiş kısımlarının fazla olduğu ve üretilmesine gerek kalmadığı bilgisini vere bilir

15 α-β budama için minimax değerinin bulunması
Temel fikir: oyun ağacında her bir düğüme bakmadan da doğru çözümü bulmak mümkündür. Bu halde ağacın bakılmayan kısmı budanmış oluyor Minimax Değer(kök)= max(min(3,12,8),min(2,x,y),min(14,5,2)) =max(3,min(2,x,y),2)= =max(3,z,2 ) ; z=min(2,x,y) kabul ettik . Buradan z<=2 olduğu anlaşılıyor. O zaman Minimax Değer(kök)= 3 alırız

16 α-β budama örneği

17 α-β budama örneği

18 α-β budama örneği

19 α-β budama örneği

20 α-β budama örneği

21 α-β’nın özellikleri Budama son neticeyi etkilemez
Hareketlerin iyi sıralanması budamanın etkiliğini yükseltir “mükemmel sıralamada," zaman karmaşıklığı = O(bm/2)

22 Neden α-β? Eğer v α’dan kötü ise max onu iptal edecek
α, max için yol boyunca seçilmiş en iyi (en yüksek) değer Eğer v α’dan kötü ise max onu iptal edecek  uygun dal budanacak Min için β, benzer yolla değerlendirilir

23 α-β algoritması

24 α-β algoritması

25 Alpha-Beta budama ilkeleri
Derinine, soldan sağa ağaç üretmeli son düğümlerin değerlerini baba düğümleri için başlangıç tahminler kabul etmeli. MIN MAX 2 2 MIN-değer (1), babanın (2) MAX –değerinden küçüktür 1 MIN-değer daha ileride küçüle bilir, 2 =2 1 MAX-değerin yalnız büyümesine izin veriliyor, 5 Bu düğümden aşağı düğümlere bakmamalı

26 Alpha-Beta budama ilkeleri (devamı)
- MAX-düğümlerde (geçici) değerler ALPHA-değerlerdir - MIN-düğümlerde (geçici) değerler BETA-değerlerdir MIN MAX 2 2 5 =2 2 1 1 Alpha-değer Beta-değer

27 Alpha-Beta ilkeleri (1):
- Eğer ALPHA-değer oğul düğümün Beta-değerinden büyük veya ona eşitse: uygun soydan düğümlerin üretimini dayandırmalı MIN MAX 2 2 5 =2 2 1 1 Alpha-değer Beta-değer 

28 Alpha-Beta ilkeleri (2):
- Eğer Beta-değer, oğul düğümün Alpha-değerinden küçük veya ona eşitse : uygun soy üzere düğümlerin üretimini durdurmalı MIN MAX 2 2 6 =2 2 3 1 Alpha-değer Beta-değer  1

29 Mini-Max ve   4  5  8  5  3  1  8  2  1  3  2  4  3
7 3 9 1 6 2 4 5  4 16  5 31 39 = 5 MAX 6  8  5 23 15 = 4 30 = 5  3 38 MIN 33  1 2  8 10  2 18  1 25  3 35  2 12  4 20  3 5 = 8 8  9 27  9 29  6 37 = 3 14 = 4 22 = 5 MAX 1 3 4 7 9 11 13 17 19 21 24 26 28 32 34 36 11 değerlendirmede tasarruf sağlandı!

30 Kazanç: En iyi hal: - Eğer her seviyede: en iyi düğüm en soldaki düğüm ise MAX MIN Yalnız kalın doğrular inclenmeli

31 Mükemmel sıralanmış ağaç örneği
MAX MIN 21

32 Değerlendirme fonksiyonları
Ağırlıklı doğrusal fonksiyon Eval(s) = w1 f1(s) + w2 f2(s) + … + wn fn(s) w-özelliğin ağırlığı f-özellik Örnek: satrançta f(s) = aynı türden taşların sayısı w-uygun taşın ağırlığı (örn., piyon için 1)

33 sınırlamalar Örnek: arama için 100 saniyelik zaman tanınmıştır. Her saniyede 104 düğüm araştırılmalıdır  her harekette 106 düğüm yaklaşımlar: Kesme denemesi (cutoff test): Derinlik sınırı Değerlendirme fonksiyonları

34 Kesmekle arama (cutting off)
Aşağıdaki değerlerle çalışma mümkün mü? bm = 106, b=35  m=4 Yalnız 4 hamle ileriyi görmek satranç oyuncusu için başarısızlıktır! 4 hamle ≈ acemi oyuncu 8 hamle ≈ tipik bir program, usta oyuncu 12 hamle ≈ Deep Blue, Kasparov

35 Ufuk etkisi Derinine ilerlemekle
Vezir kaybı Piyonun kaybı Vezirin kaybı ufuk = mini-max derinliği Derinine ilerlemekle felaketi önleye bilmesek de onu geciktire biliriz çözüm: sezgisel devam

36 Sezgisel Devam Strateji durumlarda çok önemli
oyun taşının kaybı, piyonun vezire çevrilmesi, ... Aramanı derinlik sınırının dışında da yapmalı! Derinlik sınırı

37 Talih oyunları Örnek: Tavla: Oyun ağacının biçimi:

38 Talih oyunlarında “Yarar”ın yayılması:
C düğümü için yarar fonksiyonu MAX s1 s2 s3 s4 d1 d2 d3 d4 d5 S(C,d3) C Min Di- zarın değeri P(di)-Di’nin oluşma olasılığı S(C,Di)-Di değerinde C’den ulaşıla bilen durum Yarar(s)-s’in değerlendirilmesi Beklenen_max( C ) =

39 İlave Oku için Sonraki sunular ilave bilgi amaçlıdır

40 belirlenmiş oyunlar Checkers: Chinook ended 40-year-reign of human world champion Marion Tinsley in Used a precomputed endgame database defining perfect play for all positions involving 8 or fewer pieces on the board, a total of 444 billion positions. Chess: Deep Blue defeated human world champion Garry Kasparov in a six-game match in Deep Blue searches 200 million positions per second, uses very sophisticated evaluation, and undisclosed methods for extending some lines of search up to 40 ply. Othello: human champions refuse to compete against computers, who are too good. Go: human champions refuse to compete against computers, who are too bad. In go, b > 300, so most programs use pattern knowledge bases to suggest plausible moves.

41 State of the art Drawn from an article by Mathew Ginsberg,
Scientific American, Winter 1998, Special Issue on Exploring Intelligence

42 State of the art (2)

43 State of the art (3)

44 Computer chess ratings studied around 90ies:
1500 2000 2500 3000 3500 2 4 6 8 10 12 14 Chess Rating Depth in ply Kasparov ? Further increase of depth was likely to win !

45 Satranç ustası ve satranç programı arasındaki farklar:
1. Deep Blue saniyede 200,000,000 ‘in üzerinde pozisyonu inceleye ve değerlendire bilir Bir usta ise saniyede 3 pozisyon değerlendire bilir 2. Satranç programının bilgisi azdır ,ama hesaplama yeteneği çok yüksektir Ustanın çok büyük satranç bilgisi var, ama hesaplama yeteneği sınırlıdır. 3.İnsan satranç oynadığı zaman duyumundan,önsezisinden yararlanıyor. Programın duyma, sezme yeteneği yoktur. 4. Deep Blue ,bir uluslararası büyük usta ve beş IBM araştırmacı bilim adamının rehberliğinden faydalanmıştır Bir ustaya ise antrenörü ve çok iyi satranç oynaya bilme yeteneği yardım eder 5. İnsan kendi hatalarından ve başarılarından öğrenebilme yeteneğine sahiptir. Deep Blue, bugünkü haliyle, öğrenme sistemi değildir; bu nedenle, rakibinden öğrenmek ve ya satranç tahtasındaki durumu “düşünmek” için yapay zeka kullanma yeteneğine sahip değildir

46 6. Programın korku duygusu, fikrinin dağıtılması endişesi yoktur (örneğin,Kasparov’un sabit bakışlarından). Bir ustanın ise ise insani zafiyeti var, canı sıkla bilir, fikri dağıla bilir ve s. 7. Program satranç oynarken çok etkileyicidir, ama zekası en geri zekalı insandan da geridir Satranç ustaları ise genellikle aydın insanlardır, birkaç dil biliyorlardır, toplumun ileri gelenleridir 8. Programın oyun anlayışındaki değişimler ,geliştirme ekibi tarafından yapılmalıdır Usta ise her oyundan önce,sonra, oyun içinde oyununda değişiklik yapa bilir. 9. İnsan rakibini değerlendire, onun zayıf yönlerini öğrene ve bundan yararlana bilir. Program ise satranç pozisyonlarını çok iyi değerlendirse de rakibinin zayıf yönlerinden yararlana bilmez. 10. İnsan , değerlendire bildiği pozisyonlar içinden seçim yapar Program ise mümkün pozisyonlar içinden en iyisini seçe biliyor (Deep Blue saniyede 200 milyon pozisyon içinde arama yapa biliyor)