Veri Madenciliği Veri Ambarları

Veri ambarları Veri ambarı nedir? Çok boyutlu veri modeli Veri ambarı mimarisi Veri ambarından veri madenciliğine

Veri Ambarı nedir? Farklı şekillerde tanımlanabilir. Organizasyonun eylemsel veritabanından ayrı/bağımsız olarak kurulan karar destek veritabanı Tarihsel veri üzerinde analiz yaparak bilgiyi işlemeyi sağlar çok boyutlu ve karmaşık verileri özetleyen ve katagorize eden teknolojidir Bir veri ambarı yönetimsel karar vermeye yardımcı olacak verilerin konu odaklı, birleştirilmiş, zaman değişken ve sabit olarak toplanmasıdır (W.H.Inmon) Data warehousing: Veri ambarı oluşturma ve kullanma işlemi

Veri ambarı – Konu odaklı Müşteri, ürün, satış gibi ana konular için geliştirilirler Karar verici makamlar için verinin modellenmesine ve analizine odaklanır Günlük işlemler ya da alışveriş hareketliliği veri ambarlarının konusu değildir Gereksiz verileri ayıklar ve odaklandığı konu çerçevesinde basit ve anlaşılabilir bilgiyi sunar

Veri ambarı – Birleştirilmiş Farklı kaynakların birleştirilmesi ile oluşur relational databases, flat files, on-line transaction records Veri temizleme ve birleştirme teknikleri uygulanır Isimlendirme yöntemlerinde tutarlılık kontolü, birim (metric) Değişik veri kaynakları arasındaki tutarlılık sağlanır Veri ambarına aktarılırken çevrimler yapılır Tutarlılık sağlanır

Veri ambarı – Zaman değişkenli Zaman değişkeni canlı veri tabanlarına göre çok daha uzundur Operasyonel veritabanları: güncel değerler (max 1 yıl) Veri ambarları: Geçmiş hakkında bilgi verir (geçmiş 5-10 yıl) Veri ambarlarındaki her yapı direk yada dolaylı olarak bir zaman elemanı içerir Zaman içindeki değişikliklere odaklanır

Veri ambarı – Statik Canlı veritabanlarından alınan veri farklı bir fiziksel bir ortamda saklanır Veri ambarında veri güncellemesi olmaz Canlı veritabanlarındaki değişim veri ambarlarını etkilemez  Sadece “ilk veri yüklemesi” ve “veri erişimi” işlemlerini kullanır

Veri Ambarı vs. Birleştirilmiş Veritabanları Veritabanlarının birleştirilmesi - OLTP (on-line transaction processing) Geleneksel veritabanlarındaki temel işlem Farklı veritabanları arasında bir arabulucu katman Her veritabanında ayrı sorgu yapıp sonra birleştirir Günlük işlemler Veri Ambarları - OLAP (on-line analytical processing) Veri ambarlarındaki temel işlem Veri analizi ve karar alma Farklı özellikleri (OLTP vs. OLAP): Kullanıcı / sistem odaklı: müşteri vs. sektör Veri içeriği: güncel, detaylı vs. tarihsel, özetlenmiş Erişim: güncelleme, basit sql sorguları vs. read-only ama karmaşık sorgular

OLTP vs. OLAP

Veri ambarları Veri ambarı nedir? Çok boyutlu veri modeli Veri ambarı mimarisi Veri ambarından veri madenciliğine

Çok boyutlu veri modeli Veri ambarlarının temeli olan çok boyutlu veri modelinde veri, veri kübü şeklinde ifade edilir Örnek olarak satış bilgisi içeren veri küpünün farklı boyutları: Ürün, zaman, konum gibi Her boyut için bir Boyut tablosu (Dimension table), ürün (ürün_ismi, markası, cinsi) yada zaman(gün, hafta, ay, mevsim, yıl) Değer tablosu (Fact table) sayısal ölçüm değerlerini tutar Kaç tane satıldı, toplam ürün cirosu gibi Ayrıca ilgili boyut tabloları için anahtarları tutar

Veri ambarlarının Modellenmesi Yıldız (Star) şema: Merkezde bir değer tablosu (fact table) çevresindeki boyut tablolarını (dimention table) birleştirir Kartanesi (Snowflake) şema: Yıldız şemasının gelişmiş halidir. Yıldızın uç noktaları genişleyerek baska alt-boyutlara açılır. Bu nedenle görüntüsü kar tanesini andırır. Her boyut birden fazla boyut tablosu ile ifade edilir

Yıldız şema örneği item branch time Sales Fact Table time_key item_key day day_of_the_week month quarter year time item_key item_name brand type supplier_type item Sales Fact Table time_key item_key branch_key branch_key branch_name branch_type branch location_key street city state_or_province country location location_key units_sold dollars_sold avg_sales Measures

Yıldız şema örneği

Kartanesi Şema örneği item supplier branch time Sales Fact Table time_key day day_of_the_week month quarter year time item_key item_name brand type supplier_key item supplier_key supplier_type supplier Sales Fact Table time_key item_key branch_key location_key street city_key location branch_key branch_name branch_type branch location_key units_sold city_key city state_or_province country dollars_sold avg_sales Measures

Kartanesi şema örneği

Veri Küpü Çok boyutlu verinin modellenmesini ve görsel ifadesini ağlar Yıldız şemaya benzer farklı bir ifade yöntemi Kayıtlar/değerler küpün boyutları üzerinde tutulur Zaman, ürün, reyon, konum… Her boyut için bir boyut tablosu (dimension table) vardır

3-D Veri küpü 4-D küpler farklı 3-D küpler ile ifade edilebilir Supplier 1 Supplier 2 Supplier 3

Küboid Veri küpü genellikle küboid (cuboid) olarak adlandırılır Boyutların herhangi bir alt kümesi için küboid tasarlanabilir Farklı seyiyelerde özetleme sağlar N-D küp  baz küboid En alt seviye özet, detaylı bilgi 0-D küp  tepe (apex) küboid En üst seviye özet Tüm boyutlarda özet

Küp: Küboidler kafesi all time item location supplier 0-D(apex) cuboid time,location time,supplier item,location item,supplier location,supplier time,item,supplier time,location,supplier item,location,supplier 0-D(apex) cuboid 1-D cuboids 2-D cuboids 3-D cuboids 4-D(base) cuboid time,item time,item,location time, item, location, supplier

Örnek: veri küpü yaratma (2-D) tabloda ürün-zaman boyutları için satış değerleri tablosu TV PC VCR 1st Qtr 1000 850 350 2nd Qtr 1352 940 298 3rd Qtr 1450 658 314 4th Qtr 1500 965 365 USA

Ör: veri küpü yaratma (3D) TV PC VCR 1st Q 1000 850 350 2600 750 425 1300 2nd Q 1352 940 298 1752 860 236 1200 400 3rd Q 1450 658 314 1055 458 520 1150 555 510 4th Q 1500 965 365 1350 1065 390 900 USA Canada Mexico

Örnek veri küpü All, All, All Date Product Country Total annual sales of TV in U.S.A. Date Product Country All, All, All sum TV VCR PC 1Qtr 2Qtr 3Qtr 4Qtr U.S.A Canada Mexico

Küpün alt küboidleri all 0-D tepe(apex) cuboid country date product date 1-D cuboids product,date product,country date, country 2-D cuboids 3-D baz (base) cuboid product, date, country

Çokboyutlu veri Ürün ay ve bölgenin bir fonksiyonu olarak satış verisi Ürün konum ve zaman boyutları Örnek hiyerarşi yapısı Region Industry Region Year Category Country Quarter Product City Month Week Office Day Product Month

Konum boyutu için örnek hiyerarşi yapsı all all Europe ... North_America region Germany ... Spain Canada ... Mexico country Vancouver ... city Frankfurt ... Toronto L. Chan ... M. Wind office

Veri küpünde OLAP işlemleri Genelleme - Roll up (drill-up): veriyi özetler, 2 şekilde yapılabilir hiyeraşi üzerinde yukarı doğru çıkılır (ay  yıl) Boyut azaltımı yapılır Derinleme - Drill down (roll down): roll-up işleminin tersi hiyeraşi üzerinde aşağılara inilerek veri detaylandırılır Yeni boyutlar yaratılabilir Dilimleme - Slice and dice: yansıt ve seç Veride istenilen bölge (dilim ya da küp) belirlenir ve “kesilerek” alınır Pivot (rotate): Veri küpü çevrilir, görsel olarak değiştirilir 3B veriden 2B veriler serisine çevrilebilir

Veri ambarları Veri ambarı nedir? Çok boyutlu veri modeli Veri ambarı mimarisi Veri ambarından veri madenciliğine

Veri ambarı mimarisi Analiz Raporlama Veri Madenciliği Data Warehouse Veritabanları Diğer kaynaklar İzleme & Birleştirme OLAP Sunucu Metadata Veri çek İşle Yükle Yenile Analiz Raporlama Veri Madenciliği Hizmet Data Warehouse Veri “Mart”ları Veri Kaynakları Veri depolama OLAP Motoru Son kullanıcı

Veri Ambarı mimarisi Veri Martları (Data Mart) Şirketin geniş verisinin spesifik grupları ilgilendiren alt kümesi veriler İçeriği sadece belli gruplara örneğin satış departmanına hitab eder Metadata – veri ambarı objelerinin açıklamalarıdır Yapısının açıklamaları Semalar, boyutlar, hiyerarşiler, veri mart konumları Hata raporları, kullanım istatistikleri Kullanılan algoritmalar

Veri ambarları Veri ambarı nedir? Çok boyutlu veri modeli Veri ambarı mimarisi Veri ambarından veri madenciliğine

Veri Ambarları kullanımı Üç temel veri ambarı uygulaması vardır: Bilgi İşleme Sorguları, basit istatistiksel analizleri destekler, tablolar, grafikler ve çizimler il raporlama yapar Analitik İşleme Verilerin çok boyutlu analizi basit OLAP operasyonlarını destekler, slice-dice, drilling, pivoting Veri Madenciliği - Data mining Gizli kalıpların içinden bilgi çıkartmak Ilişkilendirme, analitik model çıkarma, sınıflandırma ve öngörü metodları uygulama, madencilik sonuçlarını görselleştirme gibi işlemleri destekler

Özet Neden veri ambarları? Çok boyutlu veri ambarı modelleri Yıldız şeması, kartanesi şeması Farklı boyutlar ve bu boyutlar için ölçüm değerleri tutan veri küpleri OLAP operasyonları: drilling, rolling, slicing, dicing and pivoting Veri ambarları mimarisi