
Dijitalleşen dünyada her gün milyarlarca insan internette arama yapıyor, sosyal medyada paylaşım paylaşıyor, akıllı cihazlar veri üretiyor ve bankacılık işlemleri gerçekleştiriyor. İnsanlığın sadece son birkaç yılda ürettiği veri miktarı, tüm tarih boyunca üretilen veriyi geride bırakmış durumda. Ancak bu devasa veri yığını, ham haliyle bir anlam ifade etmez.
Geleneksel veri tabanlarının ve yazılımların analiz etmeye, saklamaya veya işlemeye yetmediği bu devasa, karmaşık ve hızla büyüyen veri havuzuna Big Data (Büyük Veri) diyoruz. İşte bu veriyi işleyerek anlamlı stratejilere dönüştüren araçların bütünü ise Big Data Teknolojileri olarak adlandırılıyor. Geleceğin iş dünyasını şekillendiren bu teknolojileri ve dinamiklerini gelin birlikte inceleyelim.
Bir veri yığınının sadece "büyük" olması onu Big Data yapmaz. Bir verinin bu kapsama girmesi ve Big Data teknolojileriyle işlenmesi için küresel olarak kabul görmüş 5 temel kriteri (5V) karşılaması gerekir:
Büyük veriyi yönetmek, saklamak ve analiz etmek için geleneksel SQL veri tabanları yerine, dağıtık mimariye sahip yeni nesil yazılım ve donanım altyapıları kullanılır. Sektör standardı haline gelen temel Big Data teknolojileri şunlardır:
Hadoop, devasa verileri tek bir büyük bilgisayar yerine, yüzlerce ucuz bilgisayardan oluşan bir kümede (cluster) saklamayı ve işlemeyi sağlayan açık kaynaklı bir altyapıdır. HDFS (Hadoop Distributed File System) mimarisi sayesinde veriler parçalanarak dağıtık olarak depolanır.
Hadoop'un veriyi diske yazarak işlemesinden farklı olarak Spark, veriyi tamamen hafızada (In-Memory) işler. Bu sayede Hadoop'a kıyasla 100 kata kadar daha hızlı sonuç verebilir. Anlık veri analitiği ve yapay zeka algoritmalarının çalıştırılması için vazgeçilmezdir.
Geleneksel satır ve sütun mantığına sığmayan (videolar, log kayıtları, tweetler) verileri saklamak için kullanılan esnek veri tabanlarıdır. MongoDB, Cassandra ve HBase en popüler NoSQL teknolojileridir.
Verilerin ham ve filtrelenmemiş halleriyle devasa havuzlarda tutulduğu yapılara Veri Gölü denir. Günümüzde şirketler bu altyapıları kendi sunucularında tutmak yerine Amazon Web Services (AWS), Google Cloud veya Microsoft Azure gibi bulut tabanlı Big Data servislerinde yönetmektedir.
Büyük veri teknolojileri, veri odaklı düşünen her sektörün karar mekanizmasını kökten değiştirmiştir:
Big Data teknolojileri artık sadece teknik bir operasyon değil; şirketlerin piyasa değerini, rekabet gücünü ve karlılığını belirleyen en stratejik unsurdur. Veriyi doğru işleyen şirketler büyürken, geleneksel yöntemlerde ısrar edenler pazar payını kaybetmektedir.
Bu nedenle küresel risk sermayesi (VC) şirketleri ve Girişim Sermayesi Yatırım Fonları (GSYF), veri analitiği, yapay zeka altyapısı ve Big Data çözümleri üreten teknoloji girişimlerine milyarlarca dolarlık yatırımlar yapmaktadır. Geleceğin dünyası, veriyi petrol gibi işleyip katma değere dönüştürenlerin olacaktır.