INFSO-RI-508833 Enabling Grids for E-sciencE www.eu-egee.org TR-Grid Üzerinde Atlas Analizi Emrah AKKOYUN Yüksek Başarım ve Grid Hesaplama Merkezi, TÜBİTAK-ULAKBIM.

Slides:



Advertisements
Benzer bir sunumlar
8. SINIF 3. ÜNİTE BİLGİ YARIŞMASI
Advertisements

Kullanıcılar için EGEE ve TR-Grid araçları
Ahmet DERVİŞ Ahmet DERVİŞ LKD Seminerleri Linux Kullanıcıları Derneği
TR-GRID Üzerinde Kandilli Sismik Veri Sunucusu
I. Ulusal Yüksek Başarım ve Grid Konferansı Deprem Merkezi Bulma Uygulamasının JDL İş Akışları ile Paralelleştirilmesi M.Yilmazer, R. Arikan, M. S. Geden,
BORÇLARIN YENİDEN YAPILANDIRILMASI SÜRECİNDE DİKKAT EDİLECEK HUSUSLAR MUĞLA SOSYAL GÜVENLİK İL MÜDÜRLÜĞÜ MUĞLA SOSYAL GÜVENLİK İL MÜDÜRLÜĞÜ.
SEE-Grid Eğitim Altyapısı. Pratik eğitimler SEE-Grid eğitim sanal organizasyonu (sgdemo) üzerinden verilecektir. Bu sanal organizasyona.
FIRAT ÜNİVERSİTESİ TEKNOLOJİ FAKÜLTESİ
LHC Çarpışmalarını Nasıl Görüyoruz?
BİLGİ VE HABERLEŞMESİNİN ÖNEMİ
Grid Ortamında İş Gönderme I. Ulusal Yüksek Başarım ve Grid Konferansı Nisan 2009, ODTÜ, Ankara
OKULU, 30 Nisan – 2 Mayıs 2008, ANKARA GRİD VERİ YÖNETİMİ OKULU 30 Nisan – 2 Mayıs 2008, Türkiye Atom Enerjisi Kurumu, Ankara.
Grid Ortamında İş Gönderme TR-Grid Okulu 30 Nisan 2008, TAEK, Ankara.
TÜBİTAK ULAKBİM YÜKSEK BAŞARIMLI BİLGİ İŞLEM MERKEZİ TÜBİTAK ULAKBİM Küme Bilgisayar ve Grid Üzerine İş Gönderimi Onur Temizsoylu – Kürşad.
Bilgisayar Mühendisliği Bölümü Bilgi Servisleri (IS) GRID Kullanıcı Eğitimi Boğaziçi Üniversitesi 2007, İstanbul Emrah AKKOYUN.
DOVECOT İLE IMAP VE POP3 SERVER KURULUMU
ORHAN EREN İLKOKULU 1-A.
TR-Grid Servisleri I. Ulusal Yüksek Başarım ve Grid Konferansı Nisan 2009, ODTÜ, Ankara Bu sunum.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Küme Bilgisayarlar Onur Temizsoylu Grid ve.
LINUX’TA PAKET YÖNETİMİ
EGEE GRID UYGULAMALARI Dr. Burcu Akcan TÜBİTAK ULAKBİM Ankara, Şubat 2007.
TR-GRID Servisleri ve Grid Güvenliği (Küme Bilgisayar ve Grid Mimarileri) Aslı Zengin Ankara, Nisan 2008 Bu sunum Bob Jones’un ve Christos.
Gün Kitabın Adı ve Yazarı Okuduğu sayfa sayısı
PHP-Dosya ve Dizinler Internet Tabanlı Programlama Dr. Erman Yukselturk.
Grid Nedir? Cevat Şener BMB-ODTÜ
EasyChair KULLANIM KILAVUZU Ulusal Meslek Yüksekokulları Çalıştayı ve Öğrenci Sempozyumu Haziran 2012.
Grid Veri Yönetimi Aslı Zengin /38.
Grid Hesaplaması Özgür Erbaş GRID Kullanıcı Eğitimi Boğaziçi Üniversitesi 2007, İstanbul.
Grid İş Gönderme Emrah Akkoyun,
İşletim Sistemleri Hazırlayan Hakan YİĞİT.
Küme Bilgisayarlarda PBS Kuyruk Sistemi
TEST – 1.
Grid Veri Yönetimi Emrah Akkoyun, Feyza Eryol,
Kabuk ve Kısayollar BİLGİSAYAR PROGRAMCILIĞI BÖLÜMÜ
TASMA ÇOMAR UNIX PARDUS % LINUX $ PİSİ YALI.
Lınux Command arch:Makine mimarisi hakkinda bilgi verir. “uname -m” komutu ile ayni isleve sahiptir. cat [dosya]:Dosyalari ardarda siralayarak standart.
DHCP SUNUCUSU KURULUMU VE YÖNETİMİ
Enabling Grids for E-sciencE CRAB ile TR-Grid Üzerinde Analiz Emrah AKKOYUN TÜBİTAK-ULAKBİM Mehmet Vergili Çukurova Üniversitesi.
Windows için mysql kurulumu sitesinden mysql veritabanının ilgili sürümü indirilir. Biz.
İnternet Programlama PHP.
U Y A R I Takibeden slaytlarda anlatılan internet explorer / proxy ayarları yapıldıktan sonra ancak KHÜ Bilgi Merkezi tarafından izin verilen web sayfalarına.
Celal Bayar Üniversitesi Hasan Ferdi Turgutlu Teknoloji Fakültesi
Güvenli ve Pratik Web’de çalışma saatleri için;
Kullanıcılar için EGEE ve TR-Grid araçları GRID Kullanıcı Eğitimi Boğaziçi Üniversitesi 2007, İstanbul Emrah AKKOYUN.
PBS Betiği Hazırlama ve
Kullanıcı Pratik Eğitimi. Kullanıcı Arayüzüne Erişim Kullanıcı arayüzüne ssh ile bağlanın ssh –l egitim(1-20) somon.ulakbim.gov.tr.globus.
Grid Orta Katmanı ve İş Akışı TR ATLAS Gaziantep Grid Workshop Haziran, Gaziantep Üniversitesi.
Kullanıcı Pratik Eğitimi Özgür Erbaş
TR-Grid Altyapısında Çalışan Uygulamalar.
1.HAFTA 26 Ağustos 2009 ÇARŞAMBA 2.HAFTA 01 EYLÜL 2009 SALI 3.HAFTA 09 EYLÜL 2009 ÇARŞAMBA 4.HAFTA 15 EYLÜL 2009 SALI 5.HAFTA 23 EYLÜL 2009 ÇARŞAMBA 6.HAFTA.
1.HAFTA 26 Ağustos 2009 ÇARŞAMBA 2.HAFTA 01 EYLÜL 2009 SALI 3.HAFTA 09 EYLÜL 2009 ÇARŞAMBA 4.HAFTA 15 EYLÜL 2009 SALI 5.HAFTA 23 EYLÜL 2009 ÇARŞAMBA 6.HAFTA.
Dosya İzinleri Öğr. Gör. Mustafa SARIÖZ BİLGİSAYAR TEKNOLOJİLERİ VE PROGRAMLAMA BÖLÜMÜ BİLG 223 AĞ İŞLETİM SİSTEMLERİ DERSİ.
ÖĞR. GRV. Ş.ENGIN ŞAHİN BİLGİ VE İLETİŞİM TEKNOLOJİSİ.
Hayrettin Bucak Sistem yöneticisi TÜBİTAK ULAKBİM Ekim 2003.
GRID ÜZERİNDE GERÇEKLENEN MATRİS İŞLEMLERİNE BİR PORTAL ÜZERİNDEN ERİŞİM Orhan DAĞDEVİREN İlker KORKMAZ AB'09, Harran Üniversitesi,
Kabuk işlemleri.
Paralel Programlamaya Giriş
EGEE-II INFSO-RI Enabling Grids for E-sciencE Grid Ortamında Veri Yönetimi Emrah AKKOYUN I. Ulusal Yüksek Başarım ve Grid Konferansı.
Grid Site Kurulumu deployment/documentation/LCG2-Manual-Install/
Grid Ortamında İş Gönderme Feyza Eryol, Emrah Akkoyun,
Doç.Dr. Ahmet ÖZMEN Sakarya Üniversitesi
Yardım Komutları Linux’ta komutlar hakkında yardım almak için aşağıdaki komutlar kullanılır : - man - info - whatis - apropos.
KIRKLARELİ ÜNİVERSİTESİ
GGJ 2016 Oyun Yükleme GGJ Takımı. Bir GGJ kullanıcısı olmalısınız. Bir oyunu sisteme yüklemek için: 1. Bir GGJ hesabınız olmalı. 2. Bir jam merkezini.
BM-308 Paralel Programlamaya Giriş Bahar 2016 (1. Sunu) (Yrd. Doç. Dr. Deniz Dal)
ÖTÖ 451 Okul Yönetiminde Bilgisayar Uygulamaları R. Orçun Madran.
Linux Komutları.
Paralel Programlamaya Giriş
4nd Transnational Meeting
Google Colab Dosyaları Nasıl Kullanılır?
Sunum transkripti:

INFSO-RI Enabling Grids for E-sciencE TR-Grid Üzerinde Atlas Analizi Emrah AKKOYUN Yüksek Başarım ve Grid Hesaplama Merkezi, TÜBİTAK-ULAKBIM Tülay Çuhadar-Dönszelmann Sheffield Üniversitesi Erkcan Özcan University College London

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Kullanıcı Hesabı Kullanıcı Arayüzü (kefal.ulakbim.gov.tr) – Üyelik Başvuru Formu – Belgelerinizin sertifika otoritesi kuralları gereği gönderilmesi – Statik IP adresi veya OpenVPN – Grid Sertifika Başvurusu – Atlas VO Üyeliği Lxplus üzerinde hesabınız varsa ve TR-Grid üzerinde yeni çalışmaya başlayacaksanız – Kullanıcı arayuzu bilgisayarında yeni bir hesap açtırmanız –.globus dizinini bu hesaba kopyalamanız yeterlidir.

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Kullanıcı Arayüzü ls -ls.globus izinleri aşağıdaki gibi olmalıdır: -rw-r--r-- 1 akkoyun atlas 1701 Jun usercert.pem -r akkoyun atlas 1920 Jun userkey.pem -rw-r--r-- 1 akkoyun atlas 1701 Jun usercert.pem -r akkoyun atlas 1920 Jun userkey.pem voms-proxy-init –voms atlas ile geçici 12 saatlik proxy yaratabiliyor olmalısınız. voms = virtual organisation membership service

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Kullanıcı Arayüzü Kullanıcı arayüzü üzerinden lxplus hesabınıza /afs üzerinden erişebilirsiniz. ls -la /afs/cern.ch/user/a/akkoyun/ Kefal üzerinden lxplus hesabınıza dosya taşıyabilir, dosya alabilirsiniz. Bunun için kerberos bileti edinmelisiniz. kinit -5 klog akkoyun klist komutu ile biletinizin gecerlilik zamanını sorgulayabilirsiniz. Valid starting Expires Service principal 04/08/10 07:20:59 04/09/10 07:20:59

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Gerçek Veri Üzerinde Analiz Bu çalışmada deneylerin de başlamasıyla yeni yayınlanmış olan 7TeV enerjili veri setleri üzerinde çalışma yapılacaktır. AOD tipindeki veriler ntrDumper ile analiz edilerek root programı ile incelenebilecek hale getirilecektir. ntrDumper dESD/AOD biçimdeki dosyaları düz (flat) bir ntuple’a dönüştüren bir paket. Analizde kullanılacak hemen her çeşit fizik nesnesi (elektron, muon, jet, vs.) ve tetikleyici (trigger) bilgisine ulaşmaya örnek bilgisayar kodu olarak alınabilir. Büyük boyuttaki dosya bazı parametrelerin ayarlanması ile daha ufak boyuttaki bir hale getirilip root ile incelenebilecektir.

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January TR-Grid Üzerinde Analiz Bunun için; – PhysicsAnalysis/ExoticPhys/ExoticPhysTools/ntrDumper paketi – Athena ortamında derleme – Ganga ile iş grid ortamına gönderme – Dq2 üzerinden sonuçlar alınması – Root programı ile histogram incelenmesi Kullanılan Veri Seti – data10_7TeV physics_MinBias.merge.AOD.f239 _m433 Atlas ve Ganga sürümleri kullanılmıştır. (SLC5 ortamında)

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Kurulu Atlas Yazılımları ULAKBIM T2 merkezindeki tüm makineler SLC5 işletim sistemine geçirilmiş ve buna uyumlu yazılımlar yüklenmiştir. Şu an yüklü olan en son sürüm 'dir. Bu yazılımlar otomatik olarak ATLAS tarafından kurulmaktadır, ancak özel bir sürüme ihtiyacınız olduğunda bize bildirdiğinizde kurulumu gerçekleştirebiliriz. Adresinden etiketlenmiş yüklü tüm yazılımları görebilirsiniz. Çarpışma verileri aynı gün NL T1 üzerinden merkezimize gelmeye başlamıştır. (DDM Dashboard)

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Hesabınızın Ayarlanması CMT ile kullanacağınız paketlerin ayarlanması cd $HOME mkdir cmthome cd cmthome cmthome dizini içerisinde yazacağınız requirements dosyasının içeriği aşağıda ki gibi olmalıdır. set CMTSITE STANDALONE set SITEROOT /opt/exp_soft/atlas/prod/releases/rel_15-17 macro ATLAS_TEST_AREA ${HOME}/testarea macro ATLAS_DIST_AREA ${SITEROOT} use AtlasLogin AtlasLogin-* $(ATLAS_DIST_AREA)

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Analiz requirements dosyasını hazırlarken, hangi ATLAS yazılımının hangi release altında olduğunu görmek için ls /opt/exp_soft/atlas/prod/releases/rel_1*/AtlasOffline/ … /opt/exp_soft/atlas/prod/releases/rel_15-15/AtlasOffline/: /opt/exp_soft/atlas/prod/releases/rel_15-17/AtlasOffline/:

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Analiz CMT setup dosyalarını oluşturabilmek için source /opt/exp_soft/atlas/prod/releases/rel_15- 20/CMT/v1r20p /mgr/setup.sh cmt config mkdir $TestArea cd $TestArea source cmthome/setup.sh -tag=15.6.5,setup,32 TestArea requirement dosyası içerisinde tanımladığımız yerdir. /home_palamut2/akkoyun/testarea/AtlasOffline

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Paketlerin Alınması SVN üzerinden analiz paketlerinin alınması gerekmektedir. Bunun için: cmt co PhysicsAnalysis/ExoticPhys/ExoticPhysTools/ntrDump er İlgili dizin içine giderek tekrar bu paket için ayarlama yapılması gerekmektedir. cd PhysicsAnalysis/ExoticPhys/ExoticPhysTools/ntrDump er/cmt source setup.sh -tag=15.6.5,setup,32 Derleme yapabilmek için – gmake komutu çalıştırılır. En sonunda all cmt ok görülmelidir.

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Lokalde Çalıştırmak Ganga ile grid ortamına göndermeden önce kefal üzerinde test edebilirsiniz. Bunun için run dizinine geçmeli ve input.txt dosyasını düzenlemelisiniz. cd.../run cat input.txt /tmp/akkoyun/data10_7TeV physics_MinBias.merge.AOD.f239_m43 3/data10_7TeV physics_MinBias.merge.AOD.f239_m433._lb0022 -lb0025._ Lokalde analiz edeceğiniz verinin nerde tutulduğunu söylüyorsunuz. Çalıştırmak için, python ntrDumperLCG.py komutunu kullanıyorsunuz. Bazı Error mesajları yazssa da geçilebilir. Bu işler hızlıca kümeye de atılabilir !!!

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Grid Üzerinde Çalıştırmak Kefal üzerinden ganga komutlarına iki yolla ulaşabilirsiniz. source /afs/cern.ch/sw/ganga/install/etc/setup-atlas.sh /opt/exp_soft/atlas/tools/ganga/install/ hotfix1/bin/ganga Ganga komutu ile çalıştırdıktan sonra execfile('gangaARA-testdata.py') ile çalıştırmanız yeterlidir. Jobs ile işin durumu sürekli sorgulanır. İşin durumu completed olduğunda ve başarılı bir şekilde sonlandığında artık dq2 ile alınabilir.

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Ganga İş Dosyası j = Job() j.application=Athena() j.application.option_file=['ntrDumperLCG.py'] j.application.atlas_exetype='PYARA' j.application.atlas_release='15.6.5' j.application.athena_compile=False j.application.prepare() j.application.exclude_from_user_area=["*.o","*.root*","*.e xe"] #

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Ganga İş Dosyası j.inputdata=DQ2Dataset() j.inputdata.dataset=['data10_7TeV physics_MinBias.merge.AOD.f23 9_m433'] j.inputdata.names=['data10_7TeV physics_MinBias.merge.AOD.f239 _m433._lb0022-lb0025._0001.1'] j.inputdata.number_of_files=1 j.inputsandbox=['/home_palamut2/akkoyun/testarea/AtlasOffline /PhysicsAnalysis/ExoticPhys/ExoticPhysTools/ntrDumper/run/7TeV LBCollection.xml'] Bu örnekteki GRL(good run list) xml dosyası, ATLAS’ın run-query sitesi kullanılarak elde edilebilir. (Uyarı: Data quality ile ilgili bazı bilgiler bu konuşma hazırlandığı sırada eksik olduğundan bu örnek sadece deneme amaçlıdır.) runquery.cern.ch/query.py?q=find+run %2B+and+lhc+stablebeams+true+an d+lhc+beamenergy and+events+10%2B+and+dq+pix%2Csct%2Catlsol%2Catlgl+g+and+dq+lar%2 Ctil%2Cidgl%2Cmdt%2Crpc+y%2B+%2F+show+all+and+dq+%2F+nodef

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Ganga İş Dosyası # j.outputdata=DQ2OutputDataset() j.outputdata.outputdata=['histos.root' ] # j.splitter=DQ2JobSplitter() #j.splitter.numsubjobs = 5 # j.backend=LCG() j.backend.requirements.cloud='DE' # j.submit()

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Kefal Üzerinde DQ2 İş bittikten sonra bu dosyanın dq2 ile lokale taşınması gerekiyor. Scratch bölgede bulunduğundan bir süre sonra bu veri silinecektir. DQ2 kullanabilmek için source /opt/exp_soft/atlas/tools/DQ2Clients/setup.sh Böylece tüm dq2 komutlarına ulaşabilirsiniz.

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Kefal Üzerinde DQ2 dq2-ls user10.emrah* komutu ile tüm dosyalarımı sorgulayabiliyorum.... user10.EmrahAkkoyun2.ganga.1f b2c8595ac afc883.input user10.EmrahAkkoyun2.ganga.8659a0e94babfb8e6869ca ed3540f890.input user10.EmrahAkkoyun2.ganga FZK- LCG2_SCRATCHDISK … Göndermiş olduğum işin ID numarası 8 olduğundan yukarıdaki veri seti yeni üretilmiş olan.

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Kefal Üzerinde DQ2 dq2-ls -f user10.EmrahAkkoyun2.ganga FZK- LCG2_SCRATCHDISK user10.EmrahAkkoyun2.ganga FZK- LCG2_SCRATCHDISK [ ] user10.EmrahAkkoyun2.ganga _ histos.roote9c415b3-bb96-40cf-b5e3- 67b0e53d69f5ad:bd5d5af total files: 1 local files: 0 total size: date: :40:16

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Kefal Üzerinde DQ2 dq2-get -f user10.EmrahAkkoyun2.ganga _00001.histos.root user10.EmrahAkkoyun2.ganga FZK-LCG2_SCRATCHDISK user10.EmrahAkkoyun2.ganga FZK-LCG2_SCRATCHDISK: Complete replica available user10.EmrahAkkoyun2.ganga FZK-LCG2_SCRATCHDISK: Using site FZK- LCG2_SCRATCHDISK user10.EmrahAkkoyun2.ganga FZK-LCG2_SCRATCHDISK: Querying local file catalogue of site FZK-LCG2_SCRATCHDISK... user10.EmrahAkkoyun2.ganga FZK- LCG2_SCRATCHDISK/user10.EmrahAkkoyun2.ganga _00001.hi stos.root: Getting SRM metadata for srm://atlassrm- fzk.gridka.de:8443/srm/managerv2?SFN=/pnfs/gridka.de/atlas/disk- only/atlasscratchdisk/user10/EmrahAkkoyun2/ganga/user10.EmrahAkkoyun2.ganga /user10.EmrahAkkoyun2.ganga _00001.histos.root user10.EmrahAkkoyun2.ganga FZK-- LCG2_SCRATCHDISK/user10.EmrahAkkoyun2.ganga _00001.hi stos.root: validated Finished

Enabling Grids for E-sciencE INFSO-RI T2 ULAKBIM Site Report, NL Cloud Meeting, 22 January Kefal Üzerinde DQ2 Böylece histos.root dosyası ev dizinine taşınmış olur. Buradan ister T2 merkezinde var olan depolama merkezine isterseniz /depo1 altındaki kullanıcı dizininde bu dosyayı tutabilirsiniz. root -l histos.root.ls TBrowser tb;