Veri Madenciliği Veri Ambarları.

... konulu sunumlar: "Veri Madenciliği Veri Ambarları."— Sunum transkripti:

1 Veri Madenciliği Veri Ambarları

2 Veri ambarları Veri ambarı nedir? Çok boyutlu veri modeli
Veri ambarı mimarisi Veri ambarından veri madenciliğine

3 Veri Ambarı nedir? Farklı şekillerde tanımlanabilir. Organizasyonun eylemsel veritabanından ayrı/bağımsız olarak kurulan karar destek veritabanı Tarihsel veri üzerinde analiz yaparak bilgiyi işlemeyi sağlar çok boyutlu ve karmaşık verileri özetleyen ve katagorize eden teknolojidir Bir veri ambarı yönetimsel karar vermeye yardımcı olacak verilerin konu odaklı, birleştirilmiş, zaman değişken ve sabit olarak toplanmasıdır (W.H.Inmon) Data warehousing: Veri ambarı oluşturma ve kullanma işlemi

4 Veri ambarı – Konu odaklı
Müşteri, ürün, satış gibi ana konular için geliştirilirler Karar verici makamlar için verinin modellenmesine ve analizine odaklanır Günlük işlemler ya da alışveriş hareketliliği veri ambarlarının konusu değildir Gereksiz verileri ayıklar ve odaklandığı konu çerçevesinde basit ve anlaşılabilir bilgiyi sunar

5 Veri ambarı – Birleştirilmiş
Farklı kaynakların birleştirilmesi ile oluşur relational databases, flat files, on-line transaction records Veri temizleme ve birleştirme teknikleri uygulanır Isimlendirme yöntemlerinde tutarlılık kontolü, birim (metric) Değişik veri kaynakları arasındaki tutarlılık sağlanır Veri ambarına aktarılırken çevrimler yapılır Tutarlılık sağlanır

6 Veri ambarı – Zaman değişkenli
Zaman değişkeni canlı veri tabanlarına göre çok daha uzundur Operasyonel veritabanları: güncel değerler (max 1 yıl) Veri ambarları: Geçmiş hakkında bilgi verir (geçmiş 5-10 yıl) Veri ambarlarındaki her yapı direk yada dolaylı olarak bir zaman elemanı içerir Zaman içindeki değişikliklere odaklanır

7 Veri ambarı – Statik Canlı veritabanlarından alınan veri farklı bir fiziksel bir ortamda saklanır Veri ambarında veri güncellemesi olmaz Canlı veritabanlarındaki değişim veri ambarlarını etkilemez  Sadece “ilk veri yüklemesi” ve “veri erişimi” işlemlerini kullanır

8 Veri Ambarı vs. Birleştirilmiş Veritabanları
Veritabanlarının birleştirilmesi - OLTP (on-line transaction processing) Geleneksel veritabanlarındaki temel işlem Farklı veritabanları arasında bir arabulucu katman Her veritabanında ayrı sorgu yapıp sonra birleştirir Günlük işlemler Veri Ambarları - OLAP (on-line analytical processing) Veri ambarlarındaki temel işlem Veri analizi ve karar alma Farklı özellikleri (OLTP vs. OLAP): Kullanıcı / sistem odaklı: müşteri vs. sektör Veri içeriği: güncel, detaylı vs. tarihsel, özetlenmiş Erişim: güncelleme, basit sql sorguları vs. read-only ama karmaşık sorgular

9 OLTP vs. OLAP

10 Veri ambarları Veri ambarı nedir? Çok boyutlu veri modeli
Veri ambarı mimarisi Veri ambarından veri madenciliğine

11 Çok boyutlu veri modeli
Veri ambarlarının temeli olan çok boyutlu veri modelinde veri, veri kübü şeklinde ifade edilir Örnek olarak satış bilgisi içeren veri küpünün farklı boyutları: Ürün, zaman, konum gibi Her boyut için bir Boyut tablosu (Dimension table), ürün (ürün_ismi, markası, cinsi) yada zaman(gün, hafta, ay, mevsim, yıl) Değer tablosu (Fact table) sayısal ölçüm değerlerini tutar Kaç tane satıldı, toplam ürün cirosu gibi Ayrıca ilgili boyut tabloları için anahtarları tutar

12 Veri ambarlarının Modellenmesi
Yıldız (Star) şema: Merkezde bir değer tablosu (fact table) çevresindeki boyut tablolarını (dimention table) birleştirir Kartanesi (Snowflake) şema: Yıldız şemasının gelişmiş halidir. Yıldızın uç noktaları genişleyerek baska alt-boyutlara açılır. Bu nedenle görüntüsü kar tanesini andırır. Her boyut birden fazla boyut tablosu ile ifade edilir

13 Yıldız şema örneği item branch time Sales Fact Table time_key item_key
day day_of_the_week month quarter year time item_key item_name brand type supplier_type item Sales Fact Table time_key item_key branch_key branch_key branch_name branch_type branch location_key street city state_or_province country location location_key units_sold dollars_sold avg_sales Measures

14 Yıldız şema örneği

15 Kartanesi Şema örneği item supplier branch time Sales Fact Table
time_key day day_of_the_week month quarter year time item_key item_name brand type supplier_key item supplier_key supplier_type supplier Sales Fact Table time_key item_key branch_key location_key street city_key location branch_key branch_name branch_type branch location_key units_sold city_key city state_or_province country dollars_sold avg_sales Measures

16 Kartanesi şema örneği

17 Veri Küpü Çok boyutlu verinin modellenmesini ve görsel ifadesini ağlar
Yıldız şemaya benzer farklı bir ifade yöntemi Kayıtlar/değerler küpün boyutları üzerinde tutulur Zaman, ürün, reyon, konum… Her boyut için bir boyut tablosu (dimension table) vardır

18 3-D Veri küpü 4-D küpler farklı 3-D küpler ile ifade edilebilir
Supplier 1 Supplier 2 Supplier 3

19 Küboid Veri küpü genellikle küboid (cuboid) olarak adlandırılır
Boyutların herhangi bir alt kümesi için küboid tasarlanabilir Farklı seyiyelerde özetleme sağlar N-D küp  baz küboid En alt seviye özet, detaylı bilgi 0-D küp  tepe (apex) küboid En üst seviye özet Tüm boyutlarda özet

20 Küp: Küboidler kafesi all time item location supplier 0-D(apex) cuboid
time,location time,supplier item,location item,supplier location,supplier time,item,supplier time,location,supplier item,location,supplier 0-D(apex) cuboid 1-D cuboids 2-D cuboids 3-D cuboids 4-D(base) cuboid time,item time,item,location time, item, location, supplier

21 Örnek: veri küpü yaratma
(2-D) tabloda ürün-zaman boyutları için satış değerleri tablosu TV PC VCR 1st Qtr 1000 850 350 2nd Qtr 1352 940 298 3rd Qtr 1450 658 314 4th Qtr 1500 965 365 USA

22 Ör: veri küpü yaratma (3D)
TV PC VCR 1st Q 1000 850 350 2600 750 425 1300 2nd Q 1352 940 298 1752 860 236 1200 400 3rd Q 1450 658 314 1055 458 520 1150 555 510 4th Q 1500 965 365 1350 1065 390 900 USA Canada Mexico

23 Örnek veri küpü All, All, All Date Product Country Total annual sales
of TV in U.S.A. Date Product Country All, All, All sum TV VCR PC 1Qtr 2Qtr 3Qtr 4Qtr U.S.A Canada Mexico

24 Küpün alt küboidleri all 0-D tepe(apex) cuboid country date
product date 1-D cuboids product,date product,country date, country 2-D cuboids 3-D baz (base) cuboid product, date, country

25 Çokboyutlu veri Ürün ay ve bölgenin bir fonksiyonu olarak satış verisi
Ürün konum ve zaman boyutları Örnek hiyerarşi yapısı Region Industry Region Year Category Country Quarter Product City Month Week Office Day Product Month

26 Konum boyutu için örnek hiyerarşi yapsı
all all Europe ... North_America region Germany ... Spain Canada ... Mexico country Vancouver ... city Frankfurt ... Toronto L. Chan ... M. Wind office

27 Veri küpünde OLAP işlemleri
Genelleme - Roll up (drill-up): veriyi özetler, 2 şekilde yapılabilir hiyeraşi üzerinde yukarı doğru çıkılır (ay  yıl) Boyut azaltımı yapılır Derinleme - Drill down (roll down): roll-up işleminin tersi hiyeraşi üzerinde aşağılara inilerek veri detaylandırılır Yeni boyutlar yaratılabilir Dilimleme - Slice and dice: yansıt ve seç Veride istenilen bölge (dilim ya da küp) belirlenir ve “kesilerek” alınır Pivot (rotate): Veri küpü çevrilir, görsel olarak değiştirilir 3B veriden 2B veriler serisine çevrilebilir

28

29 Veri ambarları Veri ambarı nedir? Çok boyutlu veri modeli
Veri ambarı mimarisi Veri ambarından veri madenciliğine

30 Veri ambarı mimarisi Analiz Raporlama Veri Madenciliği Data Warehouse
Veritabanları Diğer kaynaklar İzleme & Birleştirme OLAP Sunucu Metadata Veri çek İşle Yükle Yenile Analiz Raporlama Veri Madenciliği Hizmet Data Warehouse Veri “Mart”ları Veri Kaynakları Veri depolama OLAP Motoru Son kullanıcı

31 Veri Ambarı mimarisi Veri Martları (Data Mart) Şirketin geniş verisinin spesifik grupları ilgilendiren alt kümesi veriler İçeriği sadece belli gruplara örneğin satış departmanına hitab eder Metadata – veri ambarı objelerinin açıklamalarıdır Yapısının açıklamaları Semalar, boyutlar, hiyerarşiler, veri mart konumları Hata raporları, kullanım istatistikleri Kullanılan algoritmalar

32 Veri ambarları Veri ambarı nedir? Çok boyutlu veri modeli
Veri ambarı mimarisi Veri ambarından veri madenciliğine

33 Veri Ambarları kullanımı
Üç temel veri ambarı uygulaması vardır: Bilgi İşleme Sorguları, basit istatistiksel analizleri destekler, tablolar, grafikler ve çizimler il raporlama yapar Analitik İşleme Verilerin çok boyutlu analizi basit OLAP operasyonlarını destekler, slice-dice, drilling, pivoting Veri Madenciliği - Data mining Gizli kalıpların içinden bilgi çıkartmak Ilişkilendirme, analitik model çıkarma, sınıflandırma ve öngörü metodları uygulama, madencilik sonuçlarını görselleştirme gibi işlemleri destekler

34 Özet Neden veri ambarları? Çok boyutlu veri ambarı modelleri
Yıldız şeması, kartanesi şeması Farklı boyutlar ve bu boyutlar için ölçüm değerleri tutan veri küpleri OLAP operasyonları: drilling, rolling, slicing, dicing and pivoting Veri ambarları mimarisi