Çok İşlemcili ve Dağıtık Sistemlere Giriş

... konulu sunumlar: "Çok İşlemcili ve Dağıtık Sistemlere Giriş"— Sunum transkripti:

1 Çok İşlemcili ve Dağıtık Sistemlere Giriş

2 Yetmeyen Yetemeyen Berimleme Kudreti
Günümüzdeki bilgisayarlar ENIAC’ tan milyon kez daha hızlıdır ancak hala her geçen gün daha fazlası istenmektedir. İklimi analiz etmek, genleri açığa çıkarmak, protein katlamak, kitle imha silahları üretmek, evreni anlamak vb. devasa ölçekteki süreçler muazzam berimleme gücü gerekir. Bir dönem bu gücü arttırmak, sadece işlemci saatini hızlı çalıştırarak yapılabiliyordu.

3 Limitler Saat çarpanı konusunda limitlere yıllar önce erişilmiştir.
Bilgisayarları oldukça küçültmek mümkündür ancak ısı yayılımı sıkıntısı söz konusudur. 1 MHz mertebesinden 1GHz’ e çıkmak çip üretimindeki mühendislikle ilgiliyken 1 THz çok daha fazlasını istemektedir.

4 Paralel Bilgisayarlar
İşlemci hızını arttırmaktansa normal hızda çalışan CPU içeren ve birbirleriyle paralel çalışan bilgisayarlar programlanabilir. 1000 işlemcili bilgisayarlar halihazırda kullanılmaktadır. Hız artışı için bilgisayarların paralel kullanılması önemli bir meseledir. Programlama genelde seri bir iştir, paralel programlama çözüm bekleyen şu sorunlar içerir. Farklı bilgisayarlar arası bilgi nasıl paylaşılacaktır? İşleme koordinasyonu nasıl sağlanacaktır? İşletim sistemleri nasıl bu mantığa uyarlanacak veya oluşturulacaktır?

5 Çok İşlemcili Sistemler
Paylaşımlı bellekli çok sayıda işlemci Mesaj geçen çok sayıda bilgisayar Geniş alana dağıtılmış sistem

6 Paylaşımlı Bellekli Çok İşlemcili Sistemler
Bütün işlemciler paylaşımlı belleği okuyabilir ve belleğe yazabilir. İşlemciler arası iletişim paylaşımlı bellek üzerindendir. Bu sistemlerde başka bir sürecin müdahalesi nedeniyle işlemci belleğe yazdığı değerden farklı bir değer okuyabilir.

7 Veri Yolu Tabanlı Mimari ile Paylaşımlı Bellek Kullanan İşlemciler
Önbellek olmadan Önbellekli Önbellekli ve özel bellekli

8 Veri Yolu Tabanlı Mimari ile Paylaşımlı Bellek Kullanan İşlemciler
Her işlemci belleğe erişmeden önce veri yolunun meşgul olup olmadığını kontrol etmek zorundadır. 3-4 CPU için uygundur ancak 32 CPU varken bant genişliği sıkıntı olacaktır. Çözüm olarak her işlemciye önbellek eklenebilir. Bu durumda da önbellek uyumluluk protokolü gerekir, eğer bir işlemci bir veya daha fazla önbellekteki bir kelimeyi yazmaya kalkarsa, «kirli» önbellekler yazma öncesi belleğe yazılmalı ve «temiz» önbellekler geçersizleştirilmelidir. Daha iyi bir çözüm olarak her işlemci yerelde özel bir bellek kullanır ve paylaşımlı belleğe sadece paylaşımlı değişkenler kaydeder. Bu sayede çakışmalar en aza indirilebilir. Derleyici yardımına ihtiyaç vardır.

9 Çaprazlayıcı Anahtar Kullanan UMA (Tekdüze Bellek Erişimi) Çok İşlemciler
Tek veri yollu sistemlerden daha iyi bağlantı performansına sahiptir. Bellek başına bir bağlantı garantidir. Ancak bu sistemler tamamen ölçeklenebilir nitelikte değildir.

10 Çok Çekirdekli Çipler Moore Yasası’ na göre bir çipe yerleştirilebilen transistör sayısı 18 ayda bir iki katına çıkacaktır. Bu yasa 300 milyon civarı transistör içeren Intel Core 2 Duo çipleri için de geçerli olmuştur. Bütün bu transistörlerle çalışmak için önbelleği büyütmek performansı çok az arttıracaktır. (şu anki boyut 25 MB) Bir diğer seçenek de aynı çipe iki veya daha fazla çip yerleştirmektir. Günümüzde mobil sistemler bile 4 çekirdekli işlemciler kullanmaktadır. Intel i7-6950X CPU 10 çekirdek içerirken bu sayı GPU’larda çok daha fazladır. (örn CUDA çekirdeği ile nVidia GeForce GTX 1080Ti) Çok daha fazla çekirdekli çipler üzerinde AR-GE devam etmektedir.

11 Çok Çekirdekli Çipler Paylaşımlı L2 önbelleği kaynak paylaşımı açısından iyidir ancak açgözlü çalışan çekirdekler diğerlerinin işleyişini bozabilir. Intel işlemcilerde (a) çekirdekler L2 önbelleğini paylaşırken AMD’ de (b) ise her çekirdeğe ayrı L2 alanı verilir. (a) (b)

12 Çok İşlemcili İşletim Sistemi Türleri
Bir çok işlemcide CPU kaynağının çok sayıda kopyası olur. Fakat bu durum işletim sistemi tasarımını karmaşıklaştırır zira işlemciler koordine çalışmak durumundadır. Her işlemcinin kendi işletim sisteminin olduğu yapılar Efendi-Köle (Master-Slave) çok işlemciler Simetrik çok işlemciler olmak üzere üç ana tür vardır.

13 Her İşlemcinin Kendi İşletim Sisteminin Olması
Bellek statik olarak bölümlere ayrılır ve her işlemciye kendine özel bellek ve İS kopyası verilir. n işlemci n ayrı bilgisayar gibi çalışır. Bu yaklaşım işletim sistemi veri yapılarını paylaşmadan İS kodunu paylaşarak optimize edilebilir. n bilgisayara sahip olmaktan iyidir zira bütün diskler ve G/Ç aygıtları paylaşımlıdır. Farklı işlemcilerde çalışan süreçler arası iletişim bellek üzerinden sağlanabilir. Çok işlemci belleği dört CPU arasında paylaştırılmış lakin İS kodu ortak kullanılmaktadır. Data kutuları işletim sisteminin her CPU için özel olan verileridir. Veri yolu

14 Her İşlemcinin Kendi İşletim Sisteminin Olması
Bir süreç bir sistem çağrısı yaptığında bu çağrı sürecin yer aldığı İS kopyası içindeki veri yapılarını kullanan CPU tarafından ele alınır. Süreçler paylaşılmaz. Her CPU kendi zamanlamasını yapar. Eğer bir kullanıcı 1. CPU’ ya giriş yaparsa bütün süreçleri 1. CPU’ da çalışır. Sayfalar paylaşılmaz. 1. CPU ha bire sayfalama yaparken 2. CPU’ da boş sayfalar olması mümkündür. Eğer bütün işletim sistemleri az önce kullanılan disk bloklarının bir tampon önbelleğini barındırırsa tutarsız sonuçlar oluşabilir. Tampon önbellekleri devre dışı bırakılabilir ama başarıma zarar verir. Hızlı taşıma için iyi olsa da günümüzde kullanımı çok nadirdir.

15 Efendi-Köle Çok İşlemciler
1. CPU işletim sistemi ve veri yapılarını çalıştırır. Bir CPU boşta beklerken işlemek üzere işletim sisteminden süreç talep edebilir. Sayfalar bütün süreçler arasında dinamik olarak tahsis edilebilir. Sadece bir tampon önbelleği vardır, tutarsızlık oluşmaz. Bütün sistem çağrıları işlenmek üzere 1. CPU’ ya yönlendirilir. 1. CPU bu çağrılarla dolabilir. Bu yapı az CPU için iyidir ancak ölçeklenemez. Veri yolu

16 Simetrik Çok İşlemciler
Bellekte işletim sisteminin bir kopyası vardır ama bütün işlemciler bunu çalıştırabilir. Bir sistem çağrısı yapıldığında o CPU çekirdeğe tuzak açar ve işletir. İS veri yapıları paylaşıldığından süreçler ve belleği dinamik olarak dengeler. Efendi CPU darboğazı aşılmış olur. Lakin senkronizasyon şarttır. Veri yolu Kilitler

17 Simetrik Çok İşlemciler
İki CPU çalıştırmak için aynı süreci seçerse veya iki süreç aynı boş bellek sayfasını isterse senkronizasyon sıkıntısı çıkar. Senkronizasyon temel bileşenleri kullanılabilir. İS ile bir karşılıklı dışlama (mutex) kilidi tanımlanarak İS kodu devasa bir kritik bölge olarak tanımlanabilir. Her CPU bir anda bir kez olmak üzere çekirdek (kernel) modunda çalışabilir. İşe yarar ama efendi-köle kadar kötü bir çözümdür. İşletim sistemlerinin çoğu bölümü birbirinden bağımsızdır. Bir CPU zamanlayıcıyı çalıştırırken diğeri bir dosya sistemi çağrısıyla, bir üçüncüsü de sayfa hatasıyla ilgilenebilir. İşletim sistemini çok sayıda birbirine karışmayan bağımsız kritik bölgelere ayırmak gerekir. Her kritik bölgenin kendine ait kilidi olabilir. Lakin süreç tabloları (zamanlama ve fork() için) gibi bazı tablolar birden fazla kritik bölge tarafından kullanılmaktadır.

18 Simetrik Çok İşlemciler
Buradaki sıkıntı böyle bir bilgisayar için İS kodu yazmaktan ziyade İS kodunu farklı işlemciler tarafından koşut zamanlı çalıştırılabilen kritik bölgelere ayırmaktır. Çok sayıdaki kritik bölgeler tarafından kullanılan bütün tablolar bir mutex ile ilişkilendirilmelidir ve tabloyu kullanan bütün kodlar mutex’i doğru kullanmalıdır. Ölümcül kilitlenmeler büyük bir tehdit unsurudur. Eğer iki kritik bölge aynı anda A ve B tablolarına ihtiyaç duyarlarsa eninde sonunda ölümcül kilitlenme yaşanacaktır. Bunu önlemek için tablolar numaralandırılır ve süreçler tarafından artan sırayla elde edilir.

19 Çok İşlemcili Senkronizasyon
Çok işlemciler için bir zarurettir. (örn. çekirdek veri yapılarına erişmek için mutex kullanmak) Tek işlemcili bilgisayarlarda senkronizasyon zordur. CPU kesmeleri devre dışı bırakabilir. Çok işlemcilerde ise bundan sadece bir CPU etkilenir. Test_and_set komutu ile bellekten bir kelime okunur ve bir yazmaça kaydedilir. Bu komut eş zamanlı olarak bellek kelimesine 1 yazar. Bellekten okuma ve belleğe yazma için iki çevrim (cycle) gerekir. Tek işlemcili bilgisayarda sorun olmamakla birlikte, çok işlemcili bilgisayarda ek desteğe ihtiyaç duyulur.

20 Çok İşlemcili Senkronizasyon
Donanım TSL talimatının diğer işlemcilerin erişimini engelleyerek veri yolunu kilitlemesini, ardından her iki bellek erişimini yapmasını ve veri yolunu serbest bırakmasını desteklemelidir. Karşılıklı dışlama garantilenir ancak diğer işlemciler dönen kilitli bırakılarak yalnızca CPU zamanını israf etmekle kalmaz, aynı zamanda veri yolu ve belleğe yük bindirir. TSL talimatı eğer veri yolu kilitlenemezse başarısız olabilir. Şekildeki dört adım ile böyle bir durum gösterilmektedir. Veri yolu

21 Çok İşlemcili Senkronizasyon
Önbellekleme üzerinden veri yolu yükü artış problemi çözülebilir mi? Teoride CPU kilit kelimesini okuduğu zaman önbelleğinde bir kopya oluşturmalıdır. Peşi sıra gelen bütün okumalar bu önbellekten elde edilebilir. Önbellekte dönen kilitle bekleme veri yolu yükünü serbest bırakır. Kilidi tutan CPU kilide yazdığı zaman, diğer bütün CPU önbelleklerindeki kopyalar geçersiz hale gelir. Diğer CPU’lar yeni bir kopya istemek zorunda kalır.

22 Dönmek mi Değiştirmek mi?
Bir kilit için dönmek tek seçenek değildir. Çok işlemcili bir sistemde CPU bir kilit için dönmek yerine çalıştırmak için başka bir ipliğe geçmeye karar verebilir. Bunun da cezası ek bir değişiklik yükü (context switch) ve geçersiz kılınan önbellek olur. Her iki seçenek de pekala yapılabilir. Ancak ne zaman hangisinin yapılacağı ayrı bir araştırma konusudur.

23 Çok İşlemcili Zamanlama
Tek işlemcili zamanlamada zamanlayıcı sonraki adımda hangi ipliğin çalışacağını seçer. Çok işlemcili zamanlamada iplikle birlikte hangi CPU’ nun kullanılacağı da seçilmelidir. Mevzuyu karıştıran başka bir etmen de iplik ilişkileridir. Çok kullanıcılı zaman paylaşımlı ortamlarda olduğu üzere alakasız iplikler veya beraber çalışan bazı uygulamaların (örn. derleyicilerin make komutu) iplikleri gibi alakalı iplikler. Alakasız iplikler için zaman paylaşımı, alakalı iplikler için mekan paylaşımı ve çete zamanlama (gang scheduling) algoritmaları vardır.

24 Sanallaştırma Bir bilgisayar sisteminde her biri farklı işletim sistemi çalıştıran sanal makineler yönetilebilmesidir. Aslında 40 yıldan fazladır (IBM/370) bilinse de kullanımı son zamanlarda yaygınlaşmıştır. Yazılım hatalarına karşı dayanıklılık sağlar. Ayrıca mevcut donanım ve işletim sisteminin desteklemediği uygulamalar çalıştırılabilir. Sunucu barındıran bütün kurum ve kuruluşlarda farklı makineler kullanılır. Ancak artan ihtiyaçlar donanım, enerji tüketimi ve bakım masraflarını da beraberinde getirir. Farklı işletim sistemleri için yazılım geliştirmede kolaylık sağlar.

25 Sanal Makineler Mantıksal değerlendirmesine katmanlı bir yaklaşım izler. Donanım ve işletim sistemi çekirdeğine hepsi donanımmış gibi davranır. Donanıma denk bir arayüz sağlar. İşletim sistemi her biri kendi işlemcisinde kendi (sanal) belleğiyle çalışan çoklu süreç illüzyonunu oluşturur. VMWare, Sun VirtualBox, QEMU

26 Java Sanal Makinesi

27 Sanallaştırma Meseleleri
Ev sahibi İS sayfalamasını sanal İS sayfalamasına nasıl entegre edilir? Sanal İS veya ev sahibi İS aygıt sürücülerinin hangileri kullanılır? Her çekirdek (core) belli bir sayıda sanal makine çalıştırabilir. Bunlar arası bellek paylaşımı nasıl olur? Bazı yazılımlar CPU başına lisanslanmaktadır. Sanal makinelerde bu durum nasıl ele alınır?

28 Dağıtık Sistemler Bir iletişim ağıyla birbirine bağlanan gevşek bağlı işlemciler bütünüdür. Bu sistemlerde işlemcilere düğüm, bilgisayar, makine veya sunucu da denmektedir. İşlemcinin konumuna site (alan) denir. Genellikle sunucular farklı bir sitedeki istemci düğümün kullanmak istediği kaynaklara sahiptir.

29 Dağıtık Sistemler Üç farklı çoklu CPU sisteminin karşılaştırılması
Nesne Çok Sayıda İşlemci Çok Sayıda Bilgisayar Dağıtık Sistem Düğüm konfigürasyonu CPU CPU, RAM, ağ arayüzü Bütün bilgisayar Düğüm donanımı Hepsi paylaşımlı Disk vb. dışında paylaşımlı Düğüm başına bütün set Konum Aynı kart veya rak Aynı oda Dünya çapında olabilir Düğümlerarası iletişim Paylaşımlı RAM Birbirine bağlı ve atanmış Geleneksel ağlar İşletim sistemleri Bir ve paylaşımlı Çok sayıda, aynı Muhtemelen hepsi farklı Dosya sistemleri Her düğümün kendine ait Yönetim Bir kuruluş Çok sayıda kuruluş Üç farklı çoklu CPU sisteminin karşılaştırılması

30 Niye Kullanılır? Uzak alanlarda dosya paylaşma ve yazdırma, dağıtık veritabanında bilgi işleme ve uzak kullanım için özelleştirilmiş donanım aygıtlarını kullanma olmak üzere kaynak paylaşımı Yük paylaşımı veya iş göçü (migration) ile hesaplama hızını arttırma Alandaki başarısızlığı tespit ve sistemi kurtarma, fonksiyon transferi ve çalışmayan alanı tekrar sisteme dahil etme şeklinde güvenilirliği arttırma Bağımsız bir sistemin bütün yüksek seviye işlevleri dağıtık bir sistemi kapsayacak ölçüde genişletilebilir. Bilgisayarlar geniş sistemlerin, çok sayıda küçük sisteme bölünmesiyle daha esnek hale gelecek şekilde küçültülebilir. Bu sayede daha iyi kullanıcı arayüzleri ve kolay bakım sağlanabilir.

31 Aracı Yazılım (Middleware)
Aracı yazılım katmanı uzaklara yayılmış makinelerdeki süreç ve kullanıcıların tutarlı bir şekilde birlikte çalışmalarına imkan veren çeşitli veri yapıları ve işlemleri sağlamaktadır Bir bakıma bir dağıtık sistemin işletim sistemi gibidir. Şekilde bir dağıtık sistemde aracı yazılımın konumlandırılması gösterilmektedir.

32 Doküman Tabanlı Aracı Yazılım
Internet ağı (WWW) devasa bir hiperbağlantılı dökümanlar bütünü olarak görülebilecek bir dağıtık sistemdir. Temelde bir istemci-sunucu sistemidir.

33 Doküman Tabanlı Aracı Yazılım
Bir tarayıcı sayfasına ulaşırken Tarayıcı sitesinin sitesinin IP adresini DNS’ ten ister. DNS karşılığını verir. Tarayıcı üzerindeki 80. bağlantı noktasına bir TCP bağlantısı yapar. Ardından doc/faq.html dosyasını isteyen bir talep gönderir. sunucusu doc/faq.html dosyasını gönderir. TCP bağlantısı serbest bırakılır. Tarayıcı doc/faq.html içindeki bütün metni gösterir. Tarayıcı doc/faq.html içindeki bütün resimleri çeker ve gösterir.

34 Koordinasyon Tabanlı Aracı Yazılım
Linda, iletişim ve senkronizasyon için kullanılan bir sistemdir. Bağımsız süreçler soyut bir sıralı ikili, üçlü.. uzayı aracılığıyla iletişime geçer. Bir sıralı ikili, üçlü.. her biri ana dil taraşından desteklenen bazı türler için bir değer olan bir veya daha fazla alandan oluşan bir yapıdır. Figure Three Linda tuples.

35 İkilileri, Üçlüleri… (Tuple)Eşleştirme
Şablon ve tüple aynı sayıda alana sahipse Karşılık gelen alanların türler aynıysa Şablondaki her sabit veya değişken tuple alanıyla eşleşiyorsa Bir eşleşme/uyuşma söz konusudur.

36 Jini Apache River olarak da bilinen modüler birlikte çalışan hizmetler biçiminde dağıtık sistemlerin inşası için bir ağ arayüzüdür. Jini istemci ve sunucuları Linda tuple uzayında modellenen JavaSpaces kullanarak iletişime geçer ve senkronize olur. JavaSpace içinde tanımlanan metodlar: Yazma: JavaSpace içine yeni bir girdi koyar. Okuma: JavaSpace dışındaki bir şablona uyan bir girdiyi kopyalar. Alma: Bir şablona uyan bir girdiyi kopyalar ve siler. Bildirme: Eşleşen bir girdi yazıldığında çağırana bildirim yapar.

37 Şebekeler (Grids) Bir şebeke özel bir ağ veya Internet ile birbirine bağlı ve kullanıcılarına belli hizmetler sunan, geniş, coğrafik olarak ayrılmış ve genelde heterojen makineler koleksiyonudur. Bir şebeke oluşturma ihtiyacı bir kuruluşun ihtiyaç duymadığı berimleme gücünü başka bir kuruluşun kullanımına verebilmesinden kaynaklanabilir. Şebeke dünyasındaki popüler bir aracı yazılım, Globus araç takımıdır. (toolkit) Globus; bilgisayarları, dosyaları ve diğer kaynakları paylaştırarak dağıtık uygulamalar oluşturmak için bir çerçeve yapı (framework) sağlar.

38 Hata Tespiti Donanım hatasını tespit etmek güçtür.
Bir bağlantı hatasını tespit için kalp atışı protokolü kullanılabilir. Birbirine bağlı A ve B alanları belli aralıklarda birbirlerine «Ben buradayım» mesajı gönderir. Eğer A alanı bu mesajı almazsa diğer sitenin göçtüğünü veya mesajın kaybolduğunu kabul eder. Bu durumda A alanı «Orada mısın» mesajı gönderir. Cevap gelmezse ya mesajı tekrarlar ya da B alanına giden başka bir yol dener. Eğer hiçbir şekilde bir cevap alamazsa B alanı göçmüş, A ve B arası doğrudan veya dolaylı bağlantı kopmuş veya mesaj kaybolmuştur. A alanı hatanın tam olarak neden kaynaklandığını bilemez.

39 Yeniden Ayarlama A alanı bir hata olduğunu belirlediğinde sistemi yeniden ayarlamalıdır. A ve B bağlantısı koptuysa sistemdeki bütün alanlara yayınlanmalıdır. Bir alan göçtüyse, diğer bütün alanlara göçen sitenin sunduğu hizmetlerin artık kullanılamayacağı bildirilmelidir. Bağlantı veya alan tekrar müsait olursa, bu bilgi bütün alanlara tekrar yayınlanmalıdır.

40 Tasarım Meseleleri Transparanlık: Dağıtık sistem kullanıcıya konvansiyonel ve merkezileşmiş bir sistem olarak görünmelidir. Hata Toleransı: Dağıtık sistem başarısızlıkla karşılaştığında çalışmaya devam etmelidir. Ölçeklenebilirlik: İhtiyaçlar arttığında sistem, artan talebi karşılamak üzere yeni kaynakların eklenmesini kolayca kabul etmelidir. Hadoop açık kaynaklı programlama arayüzü ile (Google arama indeksine dayanan) dağıtık ortamlardaki geniş veri kümeleri işlenebilmektedir. Kümeler: Tek bir sistem gibi davranan yarı otonom makineler koleksiyonudur.