Www.grid.org.tr Kullanıcı Pratik Eğitimi. Kullanıcı Arayüzüne Erişim Kullanıcı arayüzüne ssh ile bağlanın ssh –l egitim(1-20) somon.ulakbim.gov.tr.globus.

Slides:



Advertisements
Benzer bir sunumlar
Kullanıcılar için EGEE ve TR-Grid araçları
Advertisements

LİNUX DİZİN YAPISI Öğr. Gör. Mustafa SARIÖZ
WEB SUNUCU AYARLARI.
Ahmet DERVİŞ Ahmet DERVİŞ LKD Seminerleri Linux Kullanıcıları Derneği
Hüseyin Gömleksizoğlu
I. Ulusal Yüksek Başarım ve Grid Konferansı Deprem Merkezi Bulma Uygulamasının JDL İş Akışları ile Paralelleştirilmesi M.Yilmazer, R. Arikan, M. S. Geden,
Arama işlemleri ve Dosya İzinleri
NES-VPN KURULUM KLAVUZU
FreeRADIUS ile Kimlik Denetimi
gLite Grid Servisleri ve Güvenlik Aslı Zengin – Onur Temizsoylu –
SEE-Grid Eğitim Altyapısı. Pratik eğitimler SEE-Grid eğitim sanal organizasyonu (sgdemo) üzerinden verilecektir. Bu sanal organizasyona.
HTTP’yi (istemci tarafı) kendi kendinize deneyin
Grid Ortamında İş Gönderme I. Ulusal Yüksek Başarım ve Grid Konferansı Nisan 2009, ODTÜ, Ankara
2. ULUSAL GRİD ÇALIŞTAYI, 1-2 Mart 2007, TÜBİTAK, ANKARA Peter Kacsuk’un sunumundan alıntılarla P-GRADE Portalı Cevat Şener Bilgisayar Mühendisliği Bölümü,
OKULU, 30 Nisan – 2 Mayıs 2008, ANKARA GRİD VERİ YÖNETİMİ OKULU 30 Nisan – 2 Mayıs 2008, Türkiye Atom Enerjisi Kurumu, Ankara.
Grid Ortamında İş Gönderme TR-Grid Okulu 30 Nisan 2008, TAEK, Ankara.
GLite Grid Servisleri Aslı Zengin – Onur Temizsoylu – /38.
TÜBİTAK ULAKBİM YÜKSEK BAŞARIMLI BİLGİ İŞLEM MERKEZİ TÜBİTAK ULAKBİM Küme Bilgisayar ve Grid Üzerine İş Gönderimi Onur Temizsoylu – Kürşad.
Bilgisayar Mühendisliği Bölümü Bilgi Servisleri (IS) GRID Kullanıcı Eğitimi Boğaziçi Üniversitesi 2007, İstanbul Emrah AKKOYUN.
DOVECOT İLE IMAP VE POP3 SERVER KURULUMU
Grid Bilgi Sistemleri (Grid Information Systems) ‏ TR-Grid Kullanıcı Eğitimi (9-10 Temmuz 2007) ‏ Hakan Bayındır.
Çerez(Cookie) Kullanımı Oturum Yönetimi
TR-Grid Servisleri I. Ulusal Yüksek Başarım ve Grid Konferansı Nisan 2009, ODTÜ, Ankara Bu sunum.
TR-GRID Servisleri ve Grid Güvenliği (Küme Bilgisayar ve Grid Mimarileri) Aslı Zengin Ankara, Nisan 2008 Bu sunum Bob Jones’un ve Christos.
Komutların Birlikte Kullanılması
Grid Veri Yönetimi Aslı Zengin /38.
Grid İş Gönderme Emrah Akkoyun,
Küme Bilgisayarlarda PBS Kuyruk Sistemi
Grid Veri Yönetimi Emrah Akkoyun, Feyza Eryol,
Kabuk ve Kısayollar BİLGİSAYAR PROGRAMCILIĞI BÖLÜMÜ
MPI İle Paralel Programlama Tunahan Altıntop
Lınux Command arch:Makine mimarisi hakkinda bilgi verir. “uname -m” komutu ile ayni isleve sahiptir. cat [dosya]:Dosyalari ardarda siralayarak standart.
WEB SUNUCU KURULUMU.
MERKEZİ KULLANICI TANIMA SERVİSLERİ Mustafa Atakan ODTU-BIDB Teknik Destek Grubu.
C#.NET 5.0 C# .NET 5.0 Eğitimleri Volkan KANAT.
U Y A R I Takibeden slaytlarda anlatılan internet explorer / proxy ayarları yapıldıktan sonra ancak KHÜ Bilgi Merkezi tarafından izin verilen web sayfalarına.
Postfix Spam Ayarları Tufan KARADERE TÜBİTAK - ULAKBİM
TR-GRID Servisleri ve Grid Güvenliği
9-10 Temmuz 2007, Tübitak Ulakbim, Ankara Peter Kacsuk’un sunumundan alıntılarla P-GRADE Portalı Birsen Omay
Kullanıcılar için EGEE ve TR-Grid araçları GRID Kullanıcı Eğitimi Boğaziçi Üniversitesi 2007, İstanbul Emrah AKKOYUN.
TCP/IP Sorun Çözme ve Ağ Komutları
PBS Betiği Hazırlama ve
TÜBİTAK ULAKBİM YÜKSEK BAŞARIMLI BİLGİ İŞLEM MERKEZİ Küme Bilgisayarlar ve GRID Servisleri Onur Temizsoylu TÜBİTAK ULAKBİM
Grid Orta Katmanı ve İş Akışı TR ATLAS Gaziantep Grid Workshop Haziran, Gaziantep Üniversitesi.
Kullanıcı Pratik Eğitimi Özgür Erbaş
TR-Grid Altyapısında Çalışan Uygulamalar.
UBUNTU LINUX KURULUMU Ders-2
Dosya İzinleri Öğr. Gör. Mustafa SARIÖZ BİLGİSAYAR TEKNOLOJİLERİ VE PROGRAMLAMA BÖLÜMÜ BİLG 223 AĞ İŞLETİM SİSTEMLERİ DERSİ.
Hayrettin Bucak Sistem yöneticisi TÜBİTAK ULAKBİM Ekim 2003.
İnternet Teknolojisi Temel Kavramlar
Paralel Programlamaya Giriş
Chapter 5. Ağ Protokolleri
EGEE-II INFSO-RI Enabling Grids for E-sciencE Grid Ortamında Veri Yönetimi Emrah AKKOYUN I. Ulusal Yüksek Başarım ve Grid Konferansı.
TCP/IP Sorun Çözme ve Ağ Komutları
Grid Site Kurulumu deployment/documentation/LCG2-Manual-Install/
KABUK İŞLEMLERİ.
ZAMANLANMIŞ GÖREVLER. Linux sistemde bazı işlerin istediğiniz zamanlarda ya da zaman aralıklarında otomatik olarak yapılmasını sağlayabilirsiniz. Yani.
Grid Ortamında İş Gönderme Feyza Eryol, Emrah Akkoyun,
Modül 1: Giriş. Genel Bakış Temel.NET kavramları Geliştirme ortamında gezinti Bir C# projesi oluştur Use Visual Studio.NET Veriye eriş Hata ayıkla ve.
BMS-301 Kabuk Programlama Güz 2015 (5. Sunu) (Yrd. Doç. Dr. Deniz Dal)
Yardım Komutları Linux’ta komutlar hakkında yardım almak için aşağıdaki komutlar kullanılır : - man - info - whatis - apropos.
KIRKLARELİ ÜNİVERSİTESİ
BM-308 Paralel Programlamaya Giriş Bahar 2016 (1. Sunu) (Yrd. Doç. Dr. Deniz Dal)
B İ L İŞİ M S İ STEMLER İ GÜVENL İĞİ (2016) PROF. DR. ORHAN TORKUL ARŞ. GÖR. M. RAŞIT CESUR.
SUNUCU İŞLETİM SİSTEMLERİ
Linux Komutları.
Paralel Programlamaya Giriş
Dünyanın bilgisine açılan pencere...
ACTIVE DIRECTORY.
FIRAT ÜNİVERSİTESİ MÜHENDİSLİK FAKÜLTESİ BİLGİSAYAR MÜHENDİSLİĞİ
Sunum transkripti:

Kullanıcı Pratik Eğitimi

Kullanıcı Arayüzüne Erişim Kullanıcı arayüzüne ssh ile bağlanın ssh –l egitim(1-20) somon.ulakbim.gov.tr.globus dizininin varlığını kontrol edin ls –laR.globus.globus: total 16 drwxr-xr-x 2 root root 4096 Aug 15 13:57. drwx root root 4096 Feb 10 15:32.. -rw-r--r-- 1 root root 0 Mar usercert.pem -rw-r--r-- 1 root root 1322 Mar usercert_request.pem -rw root root 963 Mar userkey.pem Pratik eğitim için gerekli örnek dosyaları kullanıcı dizininize açın: cd ~ tar zxvf /home/egitim.tar.gz

Çalışabileceğiniz Kaynakları Görüntülemek Herhangi bir sanal organizasyon için o an geçerli çalışabileceğiniz kaynakları görüntülemek için: lcg-infosites –vo komutunu kullanabilirsiniz. sgdemo sanal organizasyonunda çalışılabilecek işlemcileri görmek için: lcg-infosites –vo sgdemo ce sgdemo sanal organizasyonunda veri saklama alanını görmek için: lcg-infosites –vo sgdemo se Sorgulanabilecek diğer özellikleri görmek için: Lcg-infosites –list-attrs

Kullanıcı Sertifikanız Bir X.509 sertifikası şu bilgileri içerir: Kullanıcı açık anahtarı; Kullanıcı hakkında bilgi; Sertifika otoritesi bilgisi; Geçerlilik süresi; Sertifika otoritesinin imzası Sertifikanızı incelemek için: openssl x509 –in usercert.pem –text veya grid-cert-info Açık Anahtar Subject: C=TR, O=TRGrid, OU=TUBITAK-ULAKBIM, CN=Onur Temizsoylu Issuer: C=TR, O=TRGrid, CN=TR- Grid CA Validity Not Before: Feb 5 10:05: GMT Not Before: Feb 5 10:05: GMT Not After : Feb 5 10:05: GMT Not After : Feb 5 10:05: GMT Sertifika Otoritesi İmzası

Globus Grid Security Infrastructure (GSI) GSI PKI kullanarak ortakatman yazılımları için bir güvenlik standardı oluşturur. Önemli bazı özellikler getirir: “Single sign-on”: Her seferinde şifre girmek gerekmez. Atama: Servisler kullanıcı adına çalışabilir. Proxy sertifikaları sayesinde çalışırlar.

GSI Çevre Değişkenleri Kullanıcı Sertifikaları: Açık Anahtar:X509_USER_CERT ($HOME/.globus/usercert.pem) Özel Anahtar:X509_USER_KEY ($HOME/.globus/userkey.pem) Proxy:X509_USER_PROXY (/tmp/x509up_u ) Sunucu Sertifikaları: Açık Anahtar:X509_USER_CERT (/etc/grid- security/hostcert.pem) Özel Anahtar:X509_USER_KEY (/etc/grid- security/hostkey.pem) Sertifika Otoriteleri: X509_CERT_DIR(/etc/grid-security/certificates)

Proxy Oluşturmak Çalışmak için proxy oluşturun: voms-proxy-init --voms sgdemo Oluşturduğunuz proxy hakkında bilgi edinin voms-proxy-info -all Oluşturduğunuz proxy’i yok edin voms-proxy-destroy

İşinizi Çalıştırmadan Önce Bilmeniz gerekenler: Hangi programlar gönderilecek? Hangi veriye erişilecek, veri program ile birlikte mi gidecek? Herhangi bir işletim sistemi, kütüphane bağımlılığı var mı? Gönderdiğiniz uygulama: Bilinmeyen bir sistemde çalışabilmeli Çalışma dizini dışında yer alacak şekilde sabit olarak belirlenmiş dizinler ve dosyalar içermemelidir.

Grid Dünyasının Dili - JDL Job Description Language (JDL) Condor ClassAd dili standardında geliştirilmiştir Bir JDL dosyası niteliklerle oluşturulur: = ; # ile JDL içine açıklama satırları yazılabilir. Nitelikler temel olarak ikiye ayrılabilir: İş nitelikleri, işin kendini tanımlar Kaynak nitelikleri, işe uygun kaynakların bulunmasını sağlar.

JDL Dosyası Bir JDL dosyası en azından aşağıdaki nitelikleri içerir: Çalışacak uygulamanın adı İşin standart çıktısının ve hatasının yazılacağı dosyaları Gerekli ise iş için gerekli argümanları Girdi ve çıktı torbalarında yer alacak dosyaları ornek1.jdl Executable = “ls”; StdError = “stderr.log”; StdOutput = “stdout.log”; Arguments = “-al”; OutputSandbox = {“stderr.log”, “stdout.log”};

JDL Nitelikleri JobType Normal (basit, seri iş), Interactive, MPICH, Checkpointable Executable – Çalıştırılacak komut Arguments – Komuta verilecek argümanlar StdInput, StdOutput, StdError – Standart girdi, çıktı ve hata dosyaları Environment – Çevre değişkenleri InputSandbox – Kullanıcı arayüzünden çalışacağı siteye gönderilecek dosyalar OutputSandbox – İş bitiminde alınacak dosyalar Requirements – Gerekli kaynak nitelikleri Rank – Bulunan kaynakların sıralanması

JDL Dosyası ornek2.jdl [ Executable = "/bin/sh"; Arguments = "HelloWorld.sh"; Stdoutput = "stdoutput"; StdError = "stderror"; InputSandbox = {"HelloWorld.c","HelloWorld.sh"}; OutputSandbox = {"stdoutput","stderror"}; Requirements = (other. GlueHostOperatingSystemName == “linux") && (other.GlueCEPolicyMaxWallClockTime > 10000); Rank = other.GlueCEStateFreeCPUs; ]

Bir İşin Hayat Hikayesi LFC UI JDL LB WMS (RB) İş Gönderme ServisiSECE BDII İş Durumu Veri Bilgisi VOMS İş Gönderme İş Sorgulama İş Durumu Girdi torbası Girdi torbası + Planlama Bilgisi Globus RSL Çıktı Torbası Çıktı torbası İş Durumu voms-proxy-init Expanded JDL SE & CE Bilgisi

İşi göndermeden önce JDL dosyasında yer alan niteliklere göre işin çalışabileceği siteleri görebilirsiniz. glite-job-list-match İşinizin belli bir sitede çalışması için Requirement satırı ekliyebilirsiniz. Requirements = other.GlueCEUniqueID == "ce.ulakbim.gov.tr:2119/jobmanager-lcgpbs-sgdemo";

İş Göndermek glite-job-submit [-vo ] [-o ] -vo Sanal organizasyon, proxy oluşturulurken tanımlandı ise gerek yoktur -o Oluşacak JobID bu dosyaya yazılır glite-job-status –i (veya jobId) -i İş gönderilirken verilen dosya ismi burada kullanılabilir

İş Göndermek glite-job-submit testJob.jdl **** Warning: UI_VOMS_OVERRIDE **** The Virtual Organisation name "dteam" you have specified with the UI conf file will be overriden by the default VO in your proxy credentials: "sgdemo" Selected Virtual Organisation name (from proxy certificate extension): sgdemo Connecting to host wms.ulakbim.gov.tr, port 7772 Logging to host wms.ulakbim.gov.tr, port 9002 ********************************************************************************************* JOB SUBMIT OUTCOME The job has been successfully submitted to the Network Server. Use glite-job-status command to check job current status. Your job identifier is: -  JobID *********************************************************************************************

İş Göndermek glite-job-cancel Belirtilen işi iptal eder glite-job-status İş hakkında bilgi verir glite-job-output İşin çıktı torbasını getirir glite-job-logging-info İş hakkında detaylı bilgi verir, hata gidermek için yararlı bir komuttur

İş Durumları Durum Anlamı SUBMITTEDLB tarafından iş kabul edildi WAITKaynak planlaması yapılıyor READYSeçilen sitenin CE sunucusuna iş gidiyor SCHEDULEDSeçilen sitenin iş kuyruğunda iş bekliyor RUNNINGİş seçilen sitede çalışıyor DONEİş başarı ile tamamlandı CLEAREDİşin çıktı dosyaları alındı ABORTOrta katman tarafından iş iptal edildi

Olası İş Durumları

İnteraktif İşler İnteraktif iş, standart girdi, çıktı ve hataları iş gönderilen istemciye yönlendiren iş tipidir: Kullanıcı JobType niteliğini interactive olarak ayarlamalıdır. Bir interaktif iş gönderildiğinde glite-job-submit komutu arka planda bir gölge konsol işi başlatır. Konsolun kullanacağı port, ListenerPort niteliği ile değiştirilebilir. DISPLAY çevre değişkeni düzgün ayarlanmalı veya –nogui parametresi kullanılmalıdır OutputSandbox niteliğini tanımlamaya gerek yoktur. İnteraktif pencereye çıktılar gelecektir.

MPICH İşleri Paralel iş koşturmak için birçok kütüphane vardır. gLite orta katmanında MPICH tercih edilmiştir. Kullanıcı JobType niteliğini MPICH olarak ayarlamalı ve NodeNumber niteliği ile gerekli işlemci sayısını ayarlamalıdır. Bir sitede MPICH işi çalışması için sitenin uygun şekilde düzenlenmesi dışında: Sitenin MPICH desteklediğinin işaretlenmesi gerekmektedir İstenen işlemci miktarı sitedeki mevcut işlemci sayısından az olmalıdır

MPICH İşleri [ JobType = “MPICH"; Executable = "cpi"; NodeNumber = 2; StdOutput = "test.out"; StdError = "test.err"; InputSandbox = {"cpi"}; OutputSandbox = {"test.out","test.err"}; ] NodeNumber işin çalışacağı işlemci sayısını belirtir. İşlemci sayısı arttıkça işin kuyrukta bekleme süresi de artacaktır