MIT503 Veri Yapıları ve algoritmalar Sıralama algoritmaları

... konulu sunumlar: "MIT503 Veri Yapıları ve algoritmalar Sıralama algoritmaları"— Sunum transkripti:

1 MIT503 Veri Yapıları ve algoritmalar Sıralama algoritmaları
Y. Doç. Dr. Yuriy Mishchenko

2 Algoritma geliştirme Ders planı
Sıralama algoritmaları ve böl-ve-fethet yöntemi Naif sıralama – seçme sıralama, ekleme sıralama, kabarcık sıralama Hızlı sıralama (quicksort), birleşme sıralama (mergesort), hipsort (heapsort) Özel tamsayı sıralama – sayım sıralama, kova sıralama, radix sıralama

3 Sıralama sorunu Sıralama sorunu hatırlatma
Bir sayısal dizi var, N uzunluğunda O dizideki sayıların sıralanmış olmasını istiyoruz 15 2 11 13 7 5 6 9 2 6 5 7 9 11 13 15

4 Naif sıralama Naif sıralama algoritmaları Seçme sıralama
Ekleme sıralama Kabarcık sıralama

5 Seçme sıralama Ana fikri
Çıktı dizisinin birinci pozisyonu için verilen dizideki en küçük sayıyı bulup çıktının 1. pozısyonuna koyuyoruz Çıktı dizisinin ikinci pozisyonu için verilen dizideki en küçük kalan sayıyı bulup çıktının 2. pozısyonuna koyuyoruz Üçüncü pozısyon için, verilen dizideki en küçük kalan sayısını bulup tekrar çıktının 3. pozısyonuna koyuyoruz v.b.

6 Seçme sıralama Seçme sıralama en küçük 15 2 11 13 7 5 6 9 x birinci
buraya bakın yeni en küçük 2 15 11 13 7 5 6 9 x ikinci yeni en küçük 2 13 15 11 7 5 6 9 x üçüncü yeni en küçük 2 15 5 13 11 7 6 9 x dördüncü

7 Seçme sıralama Seçme sıralama sözde kodu sonuç:=boş dizi başlangıç
p:=giriş dizi p boş değil iken a:=p’deki min nesne seçin; sonuç:=(sonuç, a); p’den a’yı çıkartın; döngü sonu yaz sonuç başlangıç a:=p’den min nesne seçin Sonuca a’yı ekleyin p’dan a’yı çıkartın yok p’de kalan nesneler var? var bitiş yaz p

8 Seçme sıralama Seçme sıralamada, bütün kalan diziyi tekrar tekrar incelememiz lazım İlk pozısyon için, N sayı incelememiz lazim İkinci pozısyon için, N-1 sayı incelememiz lazim Üçüncü pozısyon için, N-2 sayı incelememiz lazim vb Toplam, N(N-1)/2=O(N2) operasyon yapıyoruz

9 Ekleme sıralama Ana fikri
Sonucu sıralanmış şekilde baştan oluşturuyoruz Bunun için, verilen diziden bir sayı alırken o sayıyı her zaman sonuca doğru bir pozisyona ekliyoruz (ama bunun için ikiye bölme kullanmıyoruz) Doğru pozisyonu bulmak için bütün var olan çıktı dizisini tekrar tekrar incelememiz lazım

10 Ekleme sıralama Naif sıralama: ekleme sıralama 15 2 11 13 7 5 6 9 x
girdi sonuç 15 x 15 2 11 13 7 5 6 9 x girdi sonuç 2 15 x 15 2 11 13 7 5 6 9 x girdi sonuç 2 13 15 x 15 2 11 13 7 5 6 9 x girdi sonuç 2 11 15 13 x

11 Ekleme sıralama Seçme sıralama sonuç:=boş dizi başlangıç p:=giriş dizi
p boş değil iken a:=p’den birinci nesne alin i:=0 döngü // doğru pozisiyonu bul i:=i+1 döngü (sonuç[i]>a) iken a, sonucun i-1 pozisiyonuna ekleyin p’den a’yı çıkartın döngü sonu yaz sonuç a:=p’den ilk nesne seçin i=i+1 sonuç[i]>a evet hair a, sonucun i-1 pozisiyonuna ekle p’dan a’yı çıkartın yok var p’de nesneler var? bitiş yaz p

12 Ekleme sıralama Ekleme sıralamada, doğru pozisyonu bulmak için bütün çıktı dızısını incelememiz gerekiyor Bu nedenle, bu algoritma için ortalama N(N-1)/2=O(N2) operasyon gerekiyor Girdi olarak neredeyse sıralanmış dizi varsa, çok hızlı algoritma olabilir (bu durumda daha avantajlı algoritmadır)

13 Kabarcık sıralama Kabarcık sıralama, çok popüler algoritmadır ve her zaman “algoritmalar” derslerinde verilir Ana fikri Diziyi inceliyoruz Bir yanlış sırada çift varsa, yani soldaki sayı sağdaki sayı’dan daha büyükse, çiftteki sayıların pozısyonlarını değiştiriyoruz Sonra var olan diziyi tekrar inceliyoruz, bu şekilde devam ediyoruz

14 Kabarcık sıralama Naif sıralama: kabarcık sıralama 15 2 11 13 7 5 6 9
x girdi 2 15 11 13 7 5 6 9 x girdi 2 13 11 15 7 5 6 9 x girdi 2 13 15 11 7 5 6 9 x girdi 2 11 15 13 7 5 6 9 x girdi 2 11 7 13 15 5 6 9 x girdi

15 Kabarcık sıralama Naif sıralama: kabarcık sıralama
kabarcık – üstüne gidiyor Naif sıralama: kabarcık sıralama 15 2 11 13 7 5 6 9 x girdi 2 15 11 13 7 5 6 9 x girdi 2 13 11 15 7 5 6 9 x girdi 2 13 15 11 7 5 6 9 x girdi 2 11 15 13 7 5 6 9 x girdi 2 11 7 13 15 5 6 9 x girdi

16 p[i] ve p[i+1] değiştirin
Kabarcık sıralama başlangıç Kabarcık sıralama p:=giriş_dizi döngü i:=0 p[i]<p[i+1] iken i=i+1; eğer p[i], p’nin sonunda ise döngüden çıkın; // hiç yanlış sırada // çift bulunmadı p[i] ve p[i+1] değiştirin döngü sonu yaz p i=0 i=i+1 p[i]<p[i+1] evet hair evet p’nin sonunda? hair p[i] ve p[i+1] değiştirin yaz p bitiş

17 Kabarcık sıralama Kabarcık sıralama, ortalama tekrar O(N2) operasyon gerekiyor Girdi olarak neredeyse sıralanmış dizi varsa, tekrar onu hızlı sıralayabilir ve avantajlı algoritmadır

18 Naif sıralama: özet Naif sıralama algoritmalar
Seçme sıralama – O(N2) Ekleme sıralama – O(N2) Kabarcık sıralama – O(N2) Naif sıralama algoritmalarının hepsi O(N2) dır

19 Böl-ve-fethet sıralama
Hızlı sıralama algoritmaları Hızlı sıralama (quicksort) Birleşme sıralama (mergesort)

20 Hızlı sıralama (quicksort)
Ana fikri Naif sıralama algoritması var, O(N2) algoritmasıdır Dizide bir sayı seçelim ( “pivot” denir), A A’dan küçük sayıların hepsini sola koyalım, büyükleri sağa koyalım Soldaki ve sağdaki sayılar ayrı olarak sıralayalım, sonra şöyle sıralanmış altdizileri birleştirelim (kolay çünkü soldakiler hepsi <A ve sağdakiler hepsi >A – yan yana konulması yeterlidir!)

21 Hızlı sıralama (quicksort)
Ana fikri Sol dizi sadece A’dan daha küçük sayıları ve sağ dizi sadece A’dan daha büyük sayıları içerdiği için sol sıralanmış dizi solda sağ sıralanmış dizi sağda koyup hemen sıralanmış sonucu alıyoruz Pivot olarak genellikle dizinin ortasındanki sayı seçilir

22 Hızlı sıralama (quicksort)
Zaman analizi: Eğer altdizilerin sıralama naif olarak yapılırsa, toplam ortalama sıralama zamanı 2(N/2)2 + 1 ≈ N2/2 Yani zaten bu iki kat daha hızlı (ilginç değil mi)!

23 Hızlı sıralama (quicksort)
Zaman analizi: Dolayısıyla, altdizileri sıralamak için aynı ikiye bölme yöntemi kullanalım, ve sayre Sonuçta bu ikiye bölme yaklaşımı sona kadar kullanılırsa ortalama sıralama zamanı O(N log N) olmaktadır Bu daha sonra konuşacağımız genel böl-ve-fethet algoritma yaklaşımının örneği dir

24 quicksort Quicksort sıralama ... bölme sol/sağdaki sıralama toplama 15
2 11 13 7 5 6 9 x girdi pivot bölme sol dizi sağ dizi 2 6 5 7 15 13 11 9 x yeni sıralayın; tekrar quicksort kullanın ... yeni sıralayın; tekrar quicksort kullanın sol/sağdaki sıralama 2 6 5 7 9 11 13 15 x toplama 2 6 5 7 9 11 13 15 x sıralanmış çıktı

25 quicksort quicksort p:=giriş dizi başlangıç A:=p[orta]
sol_dizi=boş dizi sağ_dizi=boş dizi döngü i=0’dan p’nin boyutuna kadar eğer p[i]<A ise p[i] sol_diziye ekleyin aksi halde p[i] sağ_diziye ekleyin eğer sonu döngü sonu sol_dizi:=quicksort(sol_dizi); sağ_dizi:=quicksort(sağ_dizi); p:=(sol_dizi, sağ_dizi) yaz p seç A; sol=boş; sağ=boş; i=0; i++<boyut(p) hair evet p[i]<A hair p->sağ evet p->sol sol=quicksort(sol); sağ=quicksort(sağ); [sol;sağ] bitiş

26 quicksort Quicksort sıralama için ortalama olarak O(N log N) zamandır gerekiyor FAKAT, kötü pivot seçtiği ile O(N2) zamana düşebilir

27 mergesort Ana fikri Naif sıralama algoritması var, O(N2) algoritmasıdır Quicksort’e benzeyen, ama sol ve sağ diziler için orijinal dizisini ortasından bölüyoruz, yani “pivot” kullanılmıyor Sol ve sağ parçaları ayrı ayrı sıralanır, ama daha sonra biraz (çok az) daha karmaşık şekilde geri birleştirilir

28 mergesort Ana fikri Sol ve sağdaki dizilerde hem küçük hem büyük sayılar olabilir Dolayısıyla sol ve sağ dizilerin birleştirmek için yan yana koymak yeterli değildir Fakat şu lineer-zaman yaklaşım kullanılabilir

29 mergesort Mergesort toplama algoritması:
Sağ ve sol altdizisinde soldan sağa giderken iki altdizisinden daha büyük olanı sonuç diziye ekliyoruz

30 mergesort 2 7 15 18 30 5 11 13 17 23 Daha küçük İşaretçi

31 mergesort Daha küçük Soldan sağa ilerliyor 2 7 15 18 30 5 11 13 17 23

32 mergesort 2 7 15 18 30 5 11 13 17 23 Daha küçük 2 5

33 mergesort 2 7 15 18 30 5 11 13 17 23 Daha küçük 2 5 7

34 mergesort 2 7 15 18 30 5 11 13 17 23 Daha küçük 2 5 7 11

35 mergesort Daha küçük Sonuç sıralanmış şekilde toplanır 2 7 15 18 30 5
11 13 17 23 Daha küçük 2 5 7 11 13 Sonuç sıralanmış şekilde toplanır

36 mergesort 2 7 15 18 30 5 11 13 17 23 Daha küçük 2 5 7 11 13 15

37 mergesort 2 7 15 18 30 5 11 13 17 23 2 5 7 11 13 15 17 18 23 30

38 mergesort Quicksort sıralamanın tek adımla zaman kazanması şudur
Altsıralama zamanı – 2(N/2)2 Birleştirme zamanı N Toplam zamanı 2(N/2)2 +N Yani, çok iyi

39 mergesort Quicksort sıralama yeni O(N log N) zamanda yapılabilir, fakat burada en kötü durumun zamanı da O(N2) zamandır ! Mergesort sıralama, ortalama ve en kötü durumunda O(N log N) operasyon gerekiyor Bu şekilde mergesoft optimal sıralama algoritmasıdır

40 heapsort Bir daha O(N log N) önemli sıralama algoritması var – heapsort (hipsort) algoritması Heapsort, böl-ve-fethet algoritması değildir, aslında “ekleme sıralama” algoritmalarından biridir

41 heapsort Naif ekleme sıralamasında vakit gereksinimi O(N2) idi, ama...
Ekleme operasyonunu daha akıllı şekilde yapacaksak daha verimli algoritma sağlanabilir Ekleme ikiye bölme algoritması yada arama ağaçları kullanarak yapılırsa ... Ekleme işlemi O(log N) zamandır gerekir ve ... Dizi sıralama O(N log N) zamanda yapılacaktır

42 Sıralama Algoritmaları (Böl-ve-Fethet)
Naif sıralama algoritmaları Seçme sıralama – O(N2) Ekleme sıralama – O(N2) Kabarcık sıralama – O(N2) Böl-ve-fethet sıralama algoritmaları Quicksort sıralama – O(N log N) Mergesort sıralama – O(N log N) Sıralanmış veri yapıları algoritmaları Heapsort sıralama – O(N log N)

43 Özel sıralama konuları
Tamsayı sayım, kova ve radix özel sıralama algoritmaları var O(N) (yani lineer) zaman algoritmalardır Veritabanları için önemli algoritmalardır Veritabanlarının indeksleri çoğunlukla tamsayılar olduğu için, bu algortima çok avantajlı gelir

44 Sayım sıralama Ana fikri
Sayım sıralamada, orijinal dizideki tamsayılar sıralı şekilde incelenir ve o sayıların kaç kez karşılandığı takip edilir Tüm dizi incelenince, bunlardan sonuç sıralanmış dizi oluşturulur

45 Sayım sıralama Sayım sıralama
15 2 7 13 5 6 9 inceleme Karşılandığı sayı: "2" – 2 kez; "5" – 1 kez; "6" – 1 kez; "7" – 2 kez; "9" – 1 kez; "13" – 1 kez; "15" – 1 kez; Sonuç == (2,2,5,6,7,7,9,13,15) Bitti !

46 Sayım sıralama Sayım sıralama algoritması
sayım:=boş dizi; // sayıların sayımları döngü i=0’dan p’nin uzunluguna kadar sayım[p[i]]:=sayım[p[i]]+1; // bütün sayılar için karşılandığı kezi not et döngü sonu sonuç:=boş dizi; // sonuç döngü {"k" sayım’daki var olan indeksler için, en küçükten en büyüğe kadar} “k” sayı sonuç'a “sayım[k]” defa ekle; yaz p

47 Kova sıralama Kova sıralama, sayım sıralamaya benzeyen bir yaklaşım
Dizide N sayı varsa, dizinin sayı aralığını N altaralığı/kovaya bölüyoruz, sonra ... Sayım sıralamada gibi, dizi sırayla inceliyoruz ve sayılar karşılık gelen kovaya ekliyoruz Kovalardaki sayıları ayrı ayrı sıralanır ve kovaların sırasına göre sonuca birleştirilir özet

48 Kova sıralama Ortalama, kovalar tek sayı içeriyor olacak (yani N sayı N kovaya bölünür), bu nedenle kova sıralama ortalama O(N) vakit gerekmektedir özet

49 Kova sıralama Kova sıralama n:=p’nin boyutu
kova:=n boş diziler; // n tane “kova” hazırlayın, kovaların hepsi // min(p) ve max(p) aralığının bir parçasıdır döngü i=0’dan n’ya kadar k:=p[i]’nin kovası // sayıları karşılık gelen kovalara dağıtın p[i]->kova[k] // p[i] sayıyı karşılık gelen kovaya koyun döngü sonu döngü k=0’dan n’ya kadar kova[k]:=sırala(kova[k]) // kovadaki sayıları sıralayın sonuç:=boş dizi kova[k] -> sonuç // kovaları, sırasına göre sonuca toplayın yaz sonuç

50 Radix sıralama Radix sıralama (basamak sıralaması) da bir tamsayı sıralama algoritmasıdır Radix sıralamada, tamsayılar birkaç geçişte önce birinci basamaklarına göre sıralanıyor, sonra ikinci basamaklarına göre sıralanıyor, VB Her bir geçiş sayım sıralama kullanarak yapılıyor – lineer zamanda özet

51 Radix sıralama Radix sıralama O(KN) vakit gerekiyor, eğer K tamsayıların maksimum uzunluğu özet

52 Radix sıralama İki tür var: “en anlamlı basamağa göre” ve “en anlamsız basamağa göre” türüleri var, bunlar tabi ya ilk yada son basamakla başlayan radix sıralama algoritmalardır özet

53 ilave sıralama konuları: radix sıralama
15 02 11 13 07 05 06 09 girdi 02 07 05 06 09 15 13 11 Birinci geçiş 02 06 05 07 09 11 13 15 İkinci geçiş birinci bölüm ikinci bölüm

54 Özet Naif sıralama algoritmaları Böl-ve-fethet sıralama algoritmaları
Seçme sıralama – O(N2) Ekleme sıralama – O(N2) Kabarcık sıralama – O(N2) Böl-ve-fethet sıralama algoritmaları Quicksort sıralama – O(N log N) Mergesort sıralama – O(N log N) Heapsort sıralama algoritması İkiye bölme ekleme sıralama algoritması O(N log N)

55 Özet Tamsayı sıralama algoritmaları
Sayım sıralama Kova sıralama Radix sıralama Tamsayılar O(N) zamanda sıralanabilir Veritabanları düzenlemesi için önemli avantajıdır

56 Böl-ve-fethet yaklaşımı
Böl-ve-fethet yaklaşımı, bügün gördüğümüz algoritma geliştirme bir esas genel yöntemidir

57 Böl-ve-fethet yaklaşımı
Böl-ve-fethet yaklaşımı, “kötü” yada “süperlineer zaman” bir algoritma varsa, uygulanabilir Sorun birkaç altsorununa bölünür ve altsorunları ayrı ayrı "süperlineer zaman" yaklaşım yapılır Bu algoritmanın süperlineer olduğundan dolayı böyle strateji ile avantaj kazanılır

58 Böl-ve-fethet yaklaşımı
Böl-ve-fethet’in ana fikri: Bir sorun için bir algoritma var Bu algoritma “kötü”, yani “N” büyüklüğınde olan sorunlar için N2 yada daha çok zaman gerektiriyor (örneğin–naif sıralama) Böyle durumlarda, süperlineer zaman algoritmanın var olduğunu diyoruz

59 Böl-ve-fethet yaklaşımı
Böl-ve-fethet’in ana fikri: N büyüklüğünde olan sorundan birkaç yeni benzer daha küçük (örneğin 2 N/2-altdizi sıralanması) altsorununu yapıyoruz ve bunları orijinal algoritmayı kullanıyoruz

60 Böl-ve-fethet yaklaşımı
Böl-ve-fethet yaklaşımının kullanılabilmesi için şöyle koşullar doğru olması lazım: Problem çözme algoritma süperlineer olması lazım; Orijinal problem altproblemlerine bölünebilmesi lazım; Altproglemler orijnal probleme benziyor olması, yani aynı algoritma ile yapılabilmesi lazım; Orijnal problemin çözümü altproblemlerinin çözümlerinden verimli olarak bulunabilmesi lazım.

61 Böl-ve-fethet yaklaşımı
Baze önemli kavramlar: Problem çözme zaman gereksinimi, büyük N boyutta olan problemler için gereken çözme zamanı süperlineer, Ta(N)=O(Nk) Altsonuçları birleştirme zaman gereksinimi, büyük N boyutta olan problemler için altsonuçları sonuca birleştirmek için gereken zaman – Tt(N)=O(N) (genellikle lineer)

62 Böl-ve-fethet yaklaşımı
Toplam vakit gereksinimi bu durumda şöyledir – 2*Ta(N/2)+Tt(N) EĞER Ta(N/2)+ Ta(N/2)+Tt(N) < Ta(N) İSE, böl-ve-fethet yaklaşımı avantajlı görünüyor

63 Böl-ve-fethet yaklaşımı
Böl-ve-fethet yöntemin ünlü uygulamaları: Hızlı Fourier Dönüşümü Pratik uygulamalarda çok kullanılan, zaman sinyalinin frekansları hesaplama algoritmasıdır (frekans-dönüşümü) Naif algoritma O(N2) zamandır Böl-ve-fethet algoritma O(N log N) zamandır Sıralam Sıralama naif algoritması O(N2) zamandır