Yerel yapay zekâ çözümleri: seçenekler, donanım ve maliyet kalemleri

Son güncelleme:

Yerel yapay zekâ çözümü, dil modelinin ve belgelerin şirketin kendi cihazında veya sunucusunda, kendi ağında çalıştığı kurulumdur. Sorular ve belgeler bir yapay zekâ sağlayıcısının sunucusuna gönderilmez.

Türkiye'deki bir şirket için beş gerçekçi yol var: mevcut bilgisayarda açık modeller çalıştırmak, hazır bir yerel cihaz, NVIDIA DGX Spark sınıfı bir masaüstü yapay zekâ bilgisayarı, GPU sunucu ile bir entegratör projesi ya da veri işleme sözleşmesiyle bulut yapay zekâ. Bu rehber hangisinin kime uyduğunu, maliyetin hangi kalemlerden oluştuğunu ve satıcıya ne sorulacağını anlatır.

Kısaca

  • Yerel kurulumda veri sizin donanımınızda kalır; karşılığında model boyutu donanımın belleğiyle sınırlanır.
  • Toplam maliyet tek bir cihaz fiyatı değildir: donanım, kurulum, lisans, destek, enerji ve iç ekip zamanı ayrı kalemlerdir.
  • Satın almadan önce internet kapalıyken kendi örnek belgelerinizle test edin ve uzaktan erişimin varsayılan olarak kapalı olduğunu doğrulayın.
  • Yerel kurulum KVKK uyumunu tek başına sağlamaz; yapay zekâ sağlayıcısına yurt dışı aktarım sorusunu ortadan kaldırır.

Yerel yapay zekâ çözümü ne demek?

Bulut yapay zekâda yazdığınız soru ve yüklediğiniz belge, sağlayıcının veri merkezinde işlenir. Yerel ya da şirket içi (on-premise) kurulumda ise modelin kendisi, yani ağırlık dosyaları, sizin donanımınıza kurulur ve soru-cevap orada yapılır. Model kurulduktan sonra çalışmak için internete ihtiyaç duymaz.

Terimler karışabiliyor. “Yerel” çoğunlukla tek bir cihazda çalışmayı, “şirket içi” kurumun kendi ağında ve sunucu odasında çalışmayı, “kapalı ağ” ise internete hiç bağlanmayan kurulumu anlatır. “Türkiye'de barındırılan bulut” yerel değildir: veri yine bir sağlayıcının sunucusundadır, yalnızca konumu farklıdır.

Yerel çalışmak tek başına güvenlik demek değildir. Cihaza kimin eriştiği, kullanıcı yetkileri, yedekler ve güncellemeler yine yönetilmelidir. Kavramın temeli için Yerel yapay zeka nedir? sayfasına bakabilirsiniz.

Şirket içi yapay zekâ için hangi seçenekler var?

1. Mevcut bilgisayar veya sunucuda açık modeller

Ollama ve llama.cpp gibi açık kaynak araçlar, açık ağırlıklı dil modellerini kendi bilgisayarınızda çalıştırır. Ollama macOS, Windows, Linux ve Docker için sunulur. llama.cpp C/C++ ile yazılmış bir çıkarım motorudur; NVIDIA, AMD ve Apple donanımında ekran kartı desteği ve 1,5 ile 8 bit arasında nicemleme (quantization) seçenekleri sunar. İkisi de MIT lisanslıdır.

Ollama varsayılan olarak yalnızca aynı bilgisayardan (127.0.0.1, port 11434) erişilecek şekilde açılır; ağdaki başka kullanıcılara açmak ayrı bir ayardır. Ollama'nın bulutta çalışan modelleri de vardır. Belgelerine göre yerel çalışırken istemler görülmez, bulut modelleri kullanıldığında ise istemler hizmeti sunmak için işlenir; yalnızca yerel çalışmak için bulut özellikleri OLLAMA_NO_CLOUD=1 ayarıyla kapatılabilir.

Bu araçlar modeli çalıştırır. Belge arama, kullanıcı girişi, yetki ve kayıt tutma için ayrıca yazılım kurmanız ve bakımını yapmanız gerekir. Teknik ekibi olan ve önce denemek isteyen şirketler için düşük maliyetli bir başlangıçtır.

2. Hazır yerel cihaz

Donanımı, modeli ve arayüzü tek kutuda, kurulu olarak gelen cihazlardır. BT ekibi küçük ofisler ve bireyler için kurulum emeği düşüktür. Karşılığında model boyutu cihazın donanımıyla sabittir; güncelleme, destek ve yedek parça için satıcıya bağlı kalırsınız. Bu yüzden aşağıdaki soruların yanıtlarını yazılı almak önemlidir.

3. NVIDIA DGX Spark sınıfı masaüstü yapay zekâ bilgisayarı

DGX Spark, NVIDIA'nın GB10 Grace Blackwell çipli masaüstü yapay zekâ bilgisayarıdır. NVIDIA'nın ürün sayfasına göre 128 GB birleşik bellekli sürüm 200 milyar parametreye kadar modellerle çıkarım yapabilir. Cihaz 150 × 150 × 50,5 mm boyutundadır, 240 W güç adaptörüyle gelir, Ubuntu tabanlı DGX OS ile çalışır ve ConnectX-7 bağlantısıyla dört cihaza kadar birlikte kullanılabilir.

NVIDIA bu cihazı yapay zekâ geliştiricileri, araştırmacılar, veri bilimciler ve öğrenciler için tasarladığını belirtir. Ofiste bir ekip kullanacaksa üzerine belge arama, kullanıcı ve yetki yönetimi sağlayan bir yazılım katmanı kurulmalıdır. Teknik özelliklerinde Wi-Fi ve Bluetooth da bulunduğu için kablosuz bağlantının nasıl kapatıldığını kurulumda sorun.

4. GPU sunucu ve entegratör projesi

Veri merkezi sınıfı ekran kartlı bir sunucu, sunucu odanıza kurulur ve bir entegratör tarafından şirket sistemlerine bağlanır. Çok sayıda eşzamanlı kullanıcı ve büyük modeller için kapasite sağlar. Sunucu odası, soğutma, elektrik, yedekleme ve sürekli bakım ister; proje süresi genellikle daha uzun, maliyet kalemleri daha fazladır.

5. Bulut yapay zekâ ve veri işleme sözleşmesi

Bu seçenek yerel değildir, ama bazı işler için doğru araç olabilir. Büyük bulut modelleri daha fazla genel bilgi taşır ve web'de arama yapabilir. Kişisel veri girilecekse sağlayıcıyla veri işleme sözleşmesi, saklama ve model eğitimi ayarları ve sağlayıcı yurt dışındaysa KVKK'nın 9. maddesindeki aktarım şartları gündeme gelir. Ayrıntılar KVKK ve yapay zekâ rehberimizde.

Seçenekleri karşılaştırın

Tablo beş seçeneği dört soruyla karşılaştırır: kime uyar, veri nerede durur, kurulum ne kadar emek ister ve tipik kısıtlar neler.

Yerel ve bulut yapay zekâ seçenekleri: kime uyar, veri nerede durur, kurulum emeği ve tipik kısıtlar
SeçenekKime uyarVeri neredeKurulum emeğiTipik kısıtlar
Mevcut bilgisayar veya sunucuda açık model (Ollama, llama.cpp)Teknik ekibi olan, önce denemek isteyen şirketlerKendi makinenizdeOrta: kurulum, model seçimi, ağ ve kullanıcı ayarları sizdeModel boyutunu bellek sınırlar; belge arama, kullanıcı ve yetki için ek yazılım gerekir; bakım sizde
Hazır yerel cihazBT ekibi küçük ofisler ve bireylerCihazın içindeDüşük: kurulu gelirModel boyutu donanımla sabittir; güncelleme ve destek için satıcıya bağlısınız
NVIDIA DGX Spark sınıfı masaüstü yapay zekâ bilgisayarıEkip ölçeğinde belge işleri ve büyük açık modellerKendi ağınızdaOrta: donanım hazır; iş yazılımı, kullanıcı ve yetki kurulumu gerekirTek kutunun kapasitesi planlanmalı; Wi-Fi ve Bluetooth donanımı yönetilmeli
GPU sunucu ve entegratörÇok kullanıcılı, yoğun iş yükü olan kurumlarSunucu odanızda veya veri merkezinizdeYüksek: proje, sunucu odası, soğutma, BT ekibiProje süresi; enerji, yer ve bakım kalemleri; entegratöre bağımlılık
Bulut yapay zekâ ve veri işleme sözleşmesiBüyük model veya web araması gereken, kişisel veri içermeyen işlerSağlayıcının seçtiği bölgede; Türkiye dışındaysa yurt dışı aktarımDüşük: hesap açılırKVKK 9. madde şartları; saklama ve model eğitimi ayarları; internet bağımlılığı; kullanım başına veya abonelik ücreti

Tabloyu yana kaydırabilirsiniz.

Hangi donanım gerekir?

Belirleyici olan bellektir: modelin ağırlıkları ekran kartı belleğine ya da birleşik belleğe sığmalıdır. Kaba bir hesap için parametre sayısını, parametre başına düşen bayt ile çarpın. 16 bit hassasiyette parametre başına yaklaşık 2 bayt, 4 bit nicemlemede yaklaşık yarım bayt gerekir. Buna göre 8 milyar parametreli bir model 16 bitte yaklaşık 16 GB, 4 bitte yaklaşık 4 GB yer kaplar.

Bu yalnızca modelin kendisidir. Uzun belgeler (bağlam penceresi) ve aynı anda soru soran kullanıcılar ek bellek ister. Bellek yetmediğinde llama.cpp gibi araçlar modelin bir kısmını işlemcide çalıştırabilir; bu durumda yanıt üretimi yavaşlar.

Yerel yapay zekâ maliyeti hangi kalemlerden oluşur?

Tek bir cihaz fiyatına bakmak yanıltıcı olabilir. Teklifleri karşılaştırırken her kalemin ayrı yazılmasını isteyin:

Bulut hizmetlerinde ücret genellikle kullanıcı başına abonelik veya kullanım miktarı üzerinden alınır; yerel kurulumda ağırlık başlangıçtaki donanım ve kurulum kalemlerindedir. Hangisinin sizin için daha ekonomik olduğu kullanım yoğunluğuna bağlıdır.

Satıcıya hangi soruları sormalısınız?

  1. Veri nereye gidiyor? Sorular, belgeler, sohbet kayıtları, yedekler ve hata kayıtları (log) nerede tutuluyor? Cihaz dışarıya hangi bağlantıları açıyor, kullanım verisi (telemetri) gönderiyor mu?
  2. Uzaktan erişim varsayılan olarak açık mı? Destek için kim, hangi ülkeden, nasıl bağlanıyor; erişimi kim açıp kapatıyor ve kaydı tutuluyor mu? KVKK'nın yurt dışına aktarım rehberine göre yurt dışından uzaktan erişim, yalnızca ekranda görüntüleme biçiminde olsa bile, aktarım sayılabilir.
  3. Hangi modeller kurulu, lisansları ne? Lisanslar modelden modele değişir: Qwen3-8B Apache 2.0 lisanslıdır; Llama 3.1 kendi topluluk lisansı ve kabul edilebilir kullanım politikasıyla gelir; Gemma 3 Google'ın kullanım şartlarına ve yasaklı kullanım politikasına tabidir. Kurulu modellerin listesini ve lisanslarını yazılı isteyin.
  4. Cihaz ve veri kimin? Cihaz kimin demirbaşı olur, yönetici hesabı kimde kalır? Destek sözleşmesi biterse cihaz çalışmaya devam eder mi?
  5. Dışa aktarma, yedekleme ve silme nasıl? Veriler hangi açık biçimlerde dışa aktarılır, yedek nereye alınır, silme nasıl yapılır ve nasıl belgelenir?
  6. Güncellemeler nasıl geliyor? İnternet üzerinden mi, imzalı bir paketle mi? Güncellemeyi kim onaylıyor?
  7. Kablosuz donanım nasıl yönetiliyor? Cihazda Wi-Fi veya Bluetooth varsa nasıl kapatıldığını ve bunun nasıl doğrulanacağını sorun.
  8. Çevrimdışı test yapabilir miyiz? Satıcının, aşağıdaki testi demoda sizin yapmanıza izin verip vermediğini sorun.

Satın almadan önce çevrimdışı test nasıl yapılır?

Demoyu kendi örnek belgelerinizle, gerçek hassas belge kullanmadan yapın ve şu adımları uygulayın:

  1. Bağlantıyı kesin. Ağ kablosunu çekin veya güvenlik duvarında cihazın dış erişimini kapatın, sonra soru sorun. Yanıt gelmeye devam etmelidir.
  2. Ağ kaydını izleyin. BT ekibiniz güvenlik duvarında cihazın adresini bir süre izlesin; dışarıya bağlantı denemesi görülmemelidir.
  3. Kaynağı kontrol edin. Yanıtın hangi dosyadan ve hangi bölümden geldiğini görün, dosyayı açıp doğrulayın.
  4. Yetkiyi deneyin. İki kullanıcı açın; biri diğerinin belgesini ve sohbetini görmemelidir.
  5. Silmeyi deneyin. Bir belgeyi ve bir sohbeti silin, aramada artık çıkmadığını kontrol edin.
  6. Sonucu yazın. Testleri, tarihleri ve katılanları bir tutanağa geçirin; pilot sözleşmesinin kabul ölçütlerine ekleyin.

Yerel Yapay Zeka bu seçeneklerin neresinde?

Yerel Yapay Zeka, yerel çalışan Türkçe yapay zekâ cihazları geliştiren bir Türkiye markasıdır. İki ürünümüz yukarıdaki seçeneklerden ikisine denk gelir:

Her ihtiyaca uygun değiliz. Büyük modellere veya web aramasına ihtiyacınız varsa bulut yapay zekâ daha uygun olabilir. Teknik ekibiniz varsa ve önce denemek istiyorsanız Ollama veya llama.cpp ile mevcut bilgisayarınızda başlayabilirsiniz. Çok sayıda eşzamanlı kullanıcı veya ağır bir iş yükü varsa GPU sunucu projesi değerlendirilmelidir.

Sık sorulan sorular

Yerel yapay zeka çözümleri ne kadar tutar?

Tek bir fiyat yoktur. Toplam maliyet donanım, kurulum ve entegrasyon, yazılım ve model lisansları, destek, enerji ve iç ekip zamanından oluşur. Bulut hizmetlerinde ücret genellikle kullanıcı başına abonelik veya kullanım miktarı üzerinden alınır. Yerel Yapay Zeka'da Kişisel cihaz ilk üretim partisinde ₺229.000, ikinci partide ₺249.000'dir (KDV dahil); Ofis / Kurum kurulumu, kalemleri ayrı yazılan bir teklifle fiyatlanır.

Yerel yapay zekâ bulut kadar güçlü mü?

Genellikle hayır. Büyük bulut modelleri daha fazla genel bilgi taşır ve web'de arama yapabilir. Yerel model, donanımın belleğine sığan boyutla sınırlıdır. Belge arama, özetleme ve tablo işleri gibi görevlerde yeterli olup olmadığını kendi belgelerinizle yapacağınız bir demo gösterir.

Şirket içi yapay zekâ internetsiz çalışır mı?

Model ve belgeler cihazdaysa soru-cevap için internet gerekmez. Bazı ürünler kurulum, lisans doğrulama veya güncelleme için internet ister. Satıcıya hangi adımların internet gerektirdiğini sorun ve demoda bağlantıyı keserek test edin.

Mevcut bilgisayarımızda yerel yapay zekâ çalıştırabilir miyiz?

Evet. Ollama veya llama.cpp gibi açık kaynak araçlarla açık modeller kendi bilgisayarınızda çalışır. Çalıştırabileceğiniz model boyutunu bellek belirler. Ekip kullanımı, belge arama, kullanıcı ve yetki yönetimi için ek yazılım ve düzenli bakım gerekir.

Açık modeller ticari kullanımda ücretsiz mi?

Çoğu ücretsiz indirilir, ancak lisansları farklıdır. Örneğin Qwen3-8B Apache 2.0 lisanslıdır; Llama 3.1 kendi topluluk lisansı ve kabul edilebilir kullanım politikasıyla gelir; Gemma 3, Google'ın kullanım şartlarına tabidir. Kurulacak her modelin lisansını model kartından okuyun ve teklifte yazılı isteyin.

Yerel kurulum KVKK uyumunu sağlar mı?

Tek başına sağlamaz. Yapay zekâ işlemleri şirket içinde kaldığında, yapay zekâ sağlayıcısına yurt dışı aktarım sorusu ortadan kalkar. Hukuki dayanak, aydınlatma, veri güvenliği, saklama ve silme gibi yükümlülükler veri sorumlusunda kalır. Ayrıntılar KVKK ve yapay zekâ rehberinde.

Kurumsal pilot nasıl işler?

Yerel Yapay Zeka'da ilk görüşme ücretsizdir. Ardından örnek belgelerinizle yerel bir demo yapılır. Uygun görülürse 2–4 haftalık ücretli pilot teklif edilir; kapsamı, ücreti ve kabul ölçütleri yazılı olur. Pilot talep etmek sipariş veya ödeme değildir.

Kendi belgelerinizle görün

Ofis / Kurum kurulumunu bir ilk görüşmeyle konuşalım; ardından örnek belgelerinizle yerel bir demo yapalım. İlk görüşme ücretsiz. Talep sipariş veya ödeme değildir. Pilot kapsamı, ücret ve teslim planı ayrı teklif edilir.

Kurumsal pilot talep etKişisel cihazı incele

İlgili rehberler: Yerel yapay zeka nedir? · KVKK ve yapay zekâ · Şirketler için

Kaynaklar

Bağlantılar 7 Kasım 2026'da kontrol edildi. Ürün özellikleri üreticilerin sayfalarından alınmıştır ve değişebilir.

  1. Ollama, GitHub deposu (MIT lisansı)
  2. Ollama belgeleri: Sık sorulan sorular
  3. llama.cpp, GitHub deposu (MIT lisansı)
  4. NVIDIA: DGX Spark ürün sayfası ve teknik özellikler
  5. NVIDIA: Jetson Orin modülleri ve teknik özellikler
  6. Hugging Face: Qwen3-8B model kartı (Apache 2.0)
  7. Hugging Face: Llama 3.1 8B Instruct model kartı (Llama 3.1 Community License)
  8. Hugging Face: Gemma 3 12B IT model kartı (Gemma kullanım şartları)
  9. KVKK: Kişisel Verilerin Yurt Dışına Aktarılması Rehberi, Ocak 2025 (PDF)
  10. KVKK: Yurt Dışına Aktarım