Şirket İçi (Yerel) Yapay Zeka Kurulumu: Ne Zaman Gerekir, Donanım ve Maliyeti Neler Belirler?
Verinin şirket dışına çıkmasını istemeyen işletmeler için yerel kurulum güçlü bir seçenek. Peki ne zaman gerçekten gerekir, ne zaman bulut yeterlidir ve kararı hangi etkenler belirler?
“Yapay zeka bizim sunucumuzda çalışsın”
Yapay zeka konuşmaları ilerledikçe görüştüğümüz işletmelerden giderek daha sık aynı cümleyi duyuyoruz: “Kullanalım ama bizim sunucumuzda çalışsın.” Bu talebin arkasındaki gerekçeyi sorduğumuzda cevap çoğunlukla aynı: verinin şirket dışına çıkması kaygısı. Yerel yapay zeka taleplerini büyük ölçüde bu kaygıyı ortadan kaldırmak için alıyoruz.
Bu kaygı haklı, ama her işletmenin şirket içi kuruluma ihtiyacı yok. Bu yazıda yerel yapay zeka kurulumunun ne zaman gerçekten gerektiğini, ne zaman bulut çözümlerinin yeterli olduğunu ve donanım ile maliyeti hangi etkenlerin belirlediğini anlatıyoruz.
Yerel kurulum ile bulut arasındaki fark
Bulut tabanlı bir yapay zeka hizmetinde soru, belge ya da veri internet üzerinden bir hizmet sağlayıcının sunucusuna gönderilir, orada işlenir ve cevap geri döner. Kurulum gerektirmez, hızlıca denenebilir; buna karşılık veri, kısa süreliğine de olsa şirketin dışına çıkar.
Şirket içi (yerel) kurulumda ise yapay zeka modeli şirketin kendi sunucusunda ya da kontrolündeki donanımda çalışır. Sorular, belgeler ve cevaplar şirket ağının içinde kalır. Erişim, kayıt ve yedekleme kuralları tamamen şirketin elindedir. Karşılığında donanım, kurulum ve bakım sorumluluğu da şirkete geçer.
Ne zaman yerel kurulum gerekir?
Karar verirken sorulması gereken ilk soru “Hangi veriyi işleyeceğiz?” sorusudur. Aşağıdaki durumlardan biri söz konusuysa yerel kurulumu ciddi biçimde değerlendirmek gerekir:
- Personel verisi işlenecekse: bordro, izin, mesai ve özlük bilgileri en hassas veriler arasındadır.
- Müşteri bilgisi ve ticari koşullar söz konusuysa: cari hesaplar, özel fiyatlar, iskontolar ve teklif geçmişi rakiplerin eline geçmemesi gereken bilgilerdir.
- Sözleşme ya da müşteri talebi gereği veri dışarı çıkamıyorsa: bazı müşteriler tedarikçilerinden verinin şirket içinde işlenmesini açıkça ister.
- Kişisel veriler yoğunsa: KVKK yükümlülüklerini hukuk danışmanınızla birlikte değerlendirdiğinizde, verinin şirket dışına hiç çıkmaması en sade çözüm olabilir.
Bunlara ek olarak, sistemin internet bağlantısı kesildiğinde de çalışması gerekiyorsa yerel kurulum bu ihtiyacı da karşılar.
Ne zaman bulut yeterlidir?
Gizli verilerinin dışarı çıkması gibi bir tehlike bulunmayan firmalara genellikle bulut çözümlerini öneriyoruz. İşlenecek içerik ürün açıklamaları, genel yazışma taslakları ya da zaten herkese açık bilgiler gibi hassas olmayan metinlerden oluşuyorsa, şirket içine donanım kurmak çoğu zaman gereksiz bir yük olur.
Bulut ayrıca şu durumlarda mantıklıdır: fikir henüz denenme aşamasındaysa, kullanım düzensiz ve az ise ya da işletmenin sunucu bakımını üstlenecek bir ekibi yoksa. İki seçenek birbirini dışlamaz; hassas işler yerelde, diğerleri bulutta çalışacak şekilde karma bir yapı da kurulabilir.
Sahada ilk istenen işler
Logo Netsis kullanan sanayi ve yedek parça firmalarıyla konuştuğumuzda, yerel yapay zekadan ilk beklenen işler genellikle fatura kesme, maaş bordrosu, izin ve mesai hesaplamaları oluyor. Bu işlerin ortak noktası, tamamının personel ya da müşteri verisine dayanması. Yerel kurulum talebinin tam da bu işlerde yoğunlaşması bu yüzden şaşırtıcı değil.
Burada önemli bir ayrım yapmak gerekir: bordro ve mesai hesabının ya da faturanın kendisi, kuralları belli olan yazılımın ve ERP'nin işidir; bu hesapların tahmine bırakılmaması gerekir. Yapay zekanın doğru yeri bu işlerin çevresindeki emek yoğun adımlardır: gelen belgeleri okuyup kayda hazırlamak, eksik ya da tutarsız kayıtları işaretlemek, taslak hazırlamak ve çalışanların “kaç gün iznim kaldı?” gibi sorularını kayıtlara dayanarak cevaplamak. Hangi işin yapay zekaya uygun olduğunu daha geniş biçimde KOBİ'ler yapay zekayı nerede kullanmalı yazımızda ele aldık.
Donanımı neler belirler?
“Nasıl bir sunucu gerekir?” sorusunun tek bir cevabı yoktur; ihtiyaç, yapılacak işe göre değişir. Donanım kararını belirleyen başlıca etkenler şunlardır:
- Model büyüklüğü: Daha büyük modeller genellikle daha karmaşık işleri daha iyi yapar ama daha fazla kaynak ister. Belge okuma ve sınıflandırma gibi dar işlerde daha küçük modeller çoğu zaman yeterlidir.
- Ekran kartı (GPU) belleği: Modelin hızlı çalışabilmesi için büyük ölçüde ekran kartının belleğine sığması gerekir. Bu, donanım seçimindeki en belirleyici kalemlerden biridir.
- Eşzamanlı kullanıcı sayısı: Aynı anda birkaç kişinin mi yoksa bütün ofisin mi sistemi kullanacağı, gereken kapasiteyi doğrudan etkiler.
- Beklenen yanıt hızı: Gece toplu çalışan bir belge işleme ile çalışanın ekranda beklediği anlık cevap aynı donanımı gerektirmez.
- Belge hacmi ve doküman arama: Şirket dokümanları içinde arama yapılacaksa bu dokümanların dizinlenmesi ve saklanması için ek depolama ve işlem gücü gerekir.
- Ortam: Sunucunun duracağı yer, elektrik, soğutma ve yedekleme altyapısı da hesaba katılmalıdır.
Maliyeti neler belirler?
Yerel kurulumun maliyetini yalnızca donanım fiyatı üzerinden düşünmek yanıltıcıdır. Toplam maliyet birkaç kalemden oluşur: tek seferlik donanım yatırımı; kurulum ve ERP gibi mevcut sistemlere entegrasyon; model güncellemeleri, izleme ve bakım; elektrik ve sunucunun barındırılması.
Bulutta ise ödeme genellikle kullanım miktarına bağlıdır. Bu yüzden iki seçeneği karşılaştırmanın en sağlıklı yolu, kendi iş hacminizle ölçmektir: günde kaç belge işlenecek, kaç kişi kullanacak, ne kadar hızlı cevap gerekiyor? Bu sorulara verdiğiniz cevaplar netleşmeden yapılan maliyet tahmini, ya gereğinden büyük bir sunucuya ya da yetersiz kalan bir kuruluma yol açar.
Nasıl başlanır?
Önerdiğimiz sıra genellikle şöyledir:
- Yapay zekanın üstleneceği tek ve net bir iş seçin.
- Bu işte kullanılacak verinin ne kadar hassas olduğunu belirleyin; yerel mi bulut mu kararını bu belirler.
- Küçük ölçekli bir denemeyle işin gerçek verilerle nasıl sonuç verdiğini ve ne kadar kaynak gerektirdiğini ölçün.
- Donanım kararını tahmine değil, bu denemenin sonuçlarına göre verin.
Bu sıra, büyük bir donanım yatırımına girmeden önce sistemin işinize yarayıp yaramadığını görmenizi sağlar. Kapsamlı projelerde de ilk sürümü 30 gün içinde yayına almayı hedefliyoruz.
Karar vermeden önce
- Yapay zekanın hangi işi yapacağı net mi?
- Bu işte personel, müşteri ya da ticari veri işlenecek mi?
- Verinin şirket dışına çıkmasını engelleyen bir sözleşme ya da müşteri talebi var mı?
- KVKK açısından hukuk danışmanınızla değerlendirme yapıldı mı?
- Kaç kişinin aynı anda kullanacağı ve ne kadar hızlı cevap beklendiği belli mi?
- Sunucunun yeri, bakımı ve yedeklemesinden kimin sorumlu olacağı belli mi?
Bir sonraki adım
Orontes olarak şirket içinde çalışan yapay zeka sistemlerini ve bunları Logo Netsis gibi iş sistemlerine bağlayan yazılımları kendi yazılım ekibimizle geliştiriyoruz. Önce kendi verinizle çalışan bir demo gösteriyor, ardından net bir teklif hazırlıyoruz. Ayrıntılar için yerel yapay zeka kurulumu ve Logo Netsis entegrasyonu sayfalarımıza göz atabilir ya da WhatsApp'tan yazabilirsiniz.
Yerel mi bulut mu, birlikte karar verelim.
Ücretsiz ön görüşmede verinizi ve ihtiyacınızı konuşalım, önce kendi verinizle demo gösterelim.
WhatsApp'tan yazın 0533 502 04 17