DERS 5 THREAD (İŞ PARÇACIKLARI)

... konulu sunumlar: "DERS 5 THREAD (İŞ PARÇACIKLARI)"— Sunum transkripti:

1 DERS 5 THREAD (İŞ PARÇACIKLARI)
İşletim sistemleri DERS 5 THREAD (İŞ PARÇACIKLARI)

2 THREAD (Iş Parçaciği) Proses model iki temel kavram üzerine kurulmuştur: Kaynakların gruplandırılması ve programın icrası Her bir proses ana bellek üzerinde kendine ait bir adres alanına sahiptir. Bu adres alanında program metni, veriler ve prosesin çalışması için gerekli olan kaynakların bilgileri yer alır. Bu kaynaklar açık olan dosyalar, çocuk prosesler, bekleyen alarmlar, sinyal bilgileri, hesaplama için kullanılan parametreler vb bilgilerdir. Proses çalışması için gerekli olan bütün kaynakları adres kendi adres bölgesinde gruplandırırak, daha hızlı çalışan ve daha kolay yönetilebilen bir forma sokulmuş olur.

3 Diğer kavram ise, prosesin icra edilen kısmı ki , bu kısma thread (iş parçacığı) adı verilmektedir.
Thread, bir sonraki komutun adresini tutan bir program sayacına, çağrılmış ama daha sonlanmamış her bir prosedür (fonksiyon) için ayrı bir alan tutan yığın göstergecine ve işlemci içindeki yazmaçlardaki değerleri saklayan register değişkenlerine sahiptir. Prosesler kaynakları gruplandırak için kullanılırken, iş parçacıkları işlemci içersine giren ve prosesin işlem kısmını icra eden kod parçalarıdır.

4 İş parçacıkları, bir proses içinde birden fazla işlem biriminin çalışmasına olanak sağlayan yapılardır. Tek bir proses içerisinde çoklu iş parçacıklarının parelel(multi-threading) çalışması, multiprogramming yapısına sahip bir işletim sisteminden birden fazla prosesin aynı anda (işlemcide sırayla) çalışmasına benzerdir. Bir proses içerisindeki tüm threadler, aynı adres uzayını,açık dosyaları, genel değişkenler gibi kaynakları paylaşırlar. Prosesler ise fiziksel belleği, diskleri, yazmaçları, ve diğer genel kaynakları paylaşırlar.

5 Aşağıdaki Şekil a’da herbiri tek bir iş parçacığı içeren üç farklı proses gösterilmektedir. Bu proseslerin her biri ayrı bir adres alanına sahiptir. Şekil b’de ise üç iş parçacığına sahip bir proses gösterilmiştir. Şekil b’deki iş parçacıkları aynı prosese ait oldukları için aynı adres alanını kullanırlar.

6 Bir prosese ait bütün iş parçacıkları aynı adres alanını kullanılırlar
Bir prosese ait bütün iş parçacıkları aynı adres alanını kullanılırlar. Yani prosese ait global değişkenler bütün iş parçacıkları tarafından paylaşılır. Bir iş parçacığı, ait olduğu prosesin adres alanına erişebildiği için, bu alanı okuma, bu alana yazma yetkisine sahiptir. İş parçacıkları prosesler gibi bir yarış durumunda değil bir dayanışma içindedirler. İş parçacıkların prosesin adres alanını paylaştıkları gibi, açık olan dosyalarını, coçuk proseslerini, alarmlar ve sinyaller gibi başka verilerini de ortak kullanabilirler.

7 Multithreading, multiprogramming’e benzer bir çalışma yapısına sahiptir. The CPU iş parçacıkları arasında hızlı bir şekilde anahtarlama yaparak, sanki aynı anda birden fazla iş parçacığını çalıştırıyormuş izlenimi verir.

8 Prosesler gibi iş parçacıklarının da içinde bulunabileceği durumlar: çalışıyor (running ), bloklanmış (blocked ), hazır (ready), or sonlandırılmış (terminated)

9 Her bir iş parçacığı kendine ait bir yığın alanına sahiptir
Her bir iş parçacığı kendine ait bir yığın alanına sahiptir. Bu yığın çağrılmış fakat daha sonuç döndürmemiş her bir prosedür için bir alan ayırır. Bu alanda prosedürün yerel değişkenleri ve prosedür görevini tamamladığında hangi adrese dönüleceği bilgisi tutulur. Her bir iş parçacığı kendi bünyesindeki prosedürleri çağırabilir. Dolayısı ile her bir iş parçacığının kendi yığın alanına sahip olması gerekir.

10 Multithreading özelliği olan sistemlerde her bir proses normal olarak tek bir iş parçacığı olarak çalışmaya başlar. Bu iş parçacığı “thread_create” prosedürü ile yeni bir oluşturabilir. “thread_create” prosedürüne çalıştıracağı fonksiyon bir parametre olarak atanır.. Bir iş parçacığı görevini tamamladığında “thread_exit” prosedürünü çağırarak görevini sonlandırır ve kendisine ayrılan bellek alanını boşaltmış olur. Diğer yaygın kullanılan bir iş parçacığı çağrısı ise “thread_yield” prosedürüdür. Bu çağrı ile iş parçacığı gönüllü olarak işlemci zamanını kardeş iş parçacığına verir.

11

12

13 İş parçaciği (Thread) kullanimi
İş parçacığı kullanımındaki en temel avantaj, bir prosesa ait bir çok işlevin eş zamanlı olarak yapılabilmesidir. Prosesler bazı durumlarda bloklanabilir ama proseslerin iş parçacıklarına ayrılması ile bu prosese ait bir iş parçacığı bloklandığında diğerleri işleme devam edebilir. Böylece tam olmasada yarı-paralel bir çalışma özelliğini ortaya çıkmaktadır. İş parçacıklarının gerçek manada performans artışı sağladığı sistemler çok işlemcili sistemlerdir. Çünkü iş parçacıkları bu sistemlerde gerçek anlamda paralel çalışabilme imkanına sahiptirler.

14 İş parçaciği kullanim nedenleri
Bazı parelel çalışan işlevler ortak bir adres bölgesi kullanmak isterler. Bu adres bölgesinin ortak kullanımı ancak iş parçacığı kullanımı ile mümkün olur. İş parçacıklarının kendine ait verileri çok fazla olmadığı için proseslere oranla daha kolay oluşturulup, yok edilebilirler. Bir çok sistemde iş parçacığı oluşturma işlemi, proses oluşturmaktan 100 kat daha hızlı gerçekleştirilir. İş parçacıklarının hepsi CPU-bağımlı ise performans kazancı sağlamak çok mümkün olmamaktadır. Fakat iş parçacıklarının bir kısmı CPU-bağımlı, bir kısmı ise I/O bağımlı ise, bu iş parçacıklarının eş zamanlı çalışması, dolayısı ile performans kazancı mümkün olmaktadır.

15 Thread kullanim örnekleri
İlk örneğimiz, bir kelime işlemcisi olsun. Bir çok kelime işlemcisi dökümanı sanki kağıt üzerindeymişçesine ekrana getirir. Şimdi 800 sayfalık bir dökümanın ilk sayfasındaki bir paragrafın silindiğini düşünelim. Ardından kullanıcı 600. sayfaya gitmek istesin. Kelime işlemcisi olan bu program 1. sayfadan 600. sayfaya kadar bütün dökümanı yeniden formatlayıp, o sayfayı görüntüleyebilir. Çünkü 600. sayfadaki ilk paragrafın ne olacağı belli değildir. Bu durumda sayfa görüntülenmeden ciddi bir geçikme söz konusu olacaktır.

16 Bu problemin çözümünde iş parçacıları kullanımı gerekecektir
Bu problemin çözümünde iş parçacıları kullanımı gerekecektir. Kelime işlemcisi iki iş parçacığından oluşan bir program olarak kodlanırsa, birinci iş parçacığı kullanıcı ile etkileşimi sağlarken, diğeri dokümanın yeniden formatlanması için çalışacaktır. Birinci sayfadan bir paragraf silindiğinde, etkileşimci iş parçacığı, formatçı iş parçacığına bütün dokümanı formatlamasını söyleyecektir. B’r tarafta etkileşimci iş parçacığı kullanıcının klavyesinden ve faresinden gelen komutları dinleyip, birinci sayfa üzerindeki işlemleri icra ederken, arka planda formatçı iş parçacığı deli gibi çalışarak bütün dokümanı yeniden formatlayacaktır.

17 Birçok kelime işlemcisinde otomatik olarak belirli aralıklarla dokumanı kaydetme özelliği vardır. Yani prosesin bellekteki verileri, elektrik kesintisi, bilgisayar kapanması gibi tehlikelere karşı diske kaydedilir. Üçüncü bir iş parçacığı ile periyodik aralıklar ile veriler diske kaydedilir. Eğer bu program üç iş parçacığından değil de tek iş parçacığından oluşsaydı ne olurdu?

18 Şimdi bir web sunucusunu düşünelim
Şimdi bir web sunucusunu düşünelim. Bu sunucuya istemciden çeşitli sayfa istekleri geliyor ve sunucu bu isteklere cevap veriyor. Bu sunucuda, dağıtıcı (dispatcher) bir iş parçacığı internet üzerinden gelen talepleri değerlendirir ve boşta beklemekte olan işçi (worker) iş parçacıklarından birini görevlendirir.

19 Üçüncü örnek ise büyük miktarda verinin işlendiği bir proses olsun
Üçüncü örnek ise büyük miktarda verinin işlendiği bir proses olsun. Normalde data blok halinde okunur, daha sonra blok halinde işlenir ve son olarak blok halinde ilgili yere gönderilir. Bu proses üç iş parçacığından oluşacak şekilde yeniden tasarlanabilir. İş parçacığının biri gelen veriyi alıp tampon bellekte biriktirir. İkincisi tampondaki biriken veriyi işler ve sonuçları ayrı bir tampona yazar. Üçüncü iş parçacığı ise bu sonuç tamponundaki verileri ilgili yere gönderir. Böylece bu üç Iş parçacığının paralel olarak eş zamanlı çalışması mümkün hale gelmiş olur.

20 Kullanici uzayinda çalişan iş parçaciklari
İş parçacıkarının kullanımı konusunda iki farklı yaklaşıkm vardır. Kullanıcı uzayında çalışan iş parçacıkları Kernelde çalışan iş parçacıkları Birde hibrit sistemler in kullanımı vardır. Kullanıcı uzayında çalışan iş parçacıklarını işletim sistemi tanımaz. Çekirdek, çalışan bir proses içerisindeki threadlerden habersizdir ve bu prosese tek iş parçacığından oluşuyormuş gibi davranır. Bu yöntemin en açık ve en önemli avantajı, işletim sisteminin kendisi, iş parçacıklarını desteklemese dahi gerçekleştirilebilir.

21 İş parçacıkları bir Run-Time sisteme bağlı olarak çalışırlar
İş parçacıkları bir Run-Time sisteme bağlı olarak çalışırlar. Bu Run-Time sistem iş parçacıklarının yönetiminde kullanılan birçok fonksiyonlara sahip bir kütüphanedir. Bu fonksiyonlardan bazıları: thread_create, thread_exit, thread_wait, and thread_yield. İş parçacığı yönetimi kullanıcı uzayında yapıldığı için her bir proses kendi thread tablosunu tutar. This table is analogous to the kernel’s process table, except that it keeps track of per thread’s program counter, stack pointer, registers, state, etc. h The thread table is managed by the runtime system. When a thread is moved to ready state or blocked state, the information needed to restart it is stored in the thread table, exactly the same way as the kernel stores information about processes in the process table.

22 When a thread does something that may cause it to become blocked locally, it calls a run-time system procedure. This procedure checks to see if the thread must be put into blocked state. If so, it stores the thread’s registers in the thread table, looks for a ready thread to run and reloads the machine registers with the new thread’s saved values. After the stack pointer and program counter have been switched, the new thread starts automatically. Doing thread switching like this is faster than trapping to the kernel.

23 When a thread is finished running for the moment, for example, when it calls thread_yield, the code of thread_yield can save the thread’s information in the thread table itself. Furthermore, it can then call the thread scheduler to pick another thread to run. The procedure that saves the thread’s state and the scheduler are just local procedures, so invoking them is much more efficient than making a kernel call. Among other issues, no trap is needed, no context switch is needed, the memory cache need not be flushed, and so on. This makes thread scheduling very fast.

24 Implementing Threads in the Kernel
Kernel knows about and manages the threads. No run- time system is needed in each, as shown in following figure. Also, there is no thread table in each process. Instead, the kernel has a thread table that keeps track of all the threads in the system. When a thread wants to create a new thread or destroy an existing thread, it makes a kernel call, which then does the creation or destruction by updating the kernel thread table.

25 The kernel’s thread table holds each thread’s registers, state, and other information. The information is the same as with user-level threads, but it is now in the kernel instead of in user space (inside the run-time system). This information is a subset of the information that traditional kernels maintain about each of their single-threaded processes, that is, the process state. In addition, the kernel also maintains the traditional process table to keep track of processes.

26 Threads are blocked via system calls, at considerably greater cost than a call to a run- time system procedure. When a thread blocks, the kernel can run either another thread from the same process or a thread from a different process. With user-level threads, the run-time system keeps running threads from its own process until the kernel takes the CPU away from it (or there are no ready threads left to run). Their main disadvantage is that the cost of a system call is substantial, so if thread operations (creation, termination, etc.) are common, much more overhead will occur.

27 Hybrid Implementations
Various ways have been investigated to try to combine the advantages of user-level threads with kernel-level threads. One way is use kernel-level threads and then multiplex user-level threads onto some or all of the kernel threads.

28 In this design, the kernel is aware of only the kernel-level threads and schedules those. Some of those threads may have multiple user-level threads multiplexed on top of them. These user- level threads are created, destroyed, and scheduled just like user-level threads in a process that runs on an operating system without multithreading capability. In this model, each kernel-level thread has some set of user-level threads that take turns using it.