Yerel yapay zekâ kurulumu: kendi bilgisayarınıza adım adım
Güncellendi: · Yazan: Yerel Yapay Zeka
Kısa cevap: Yerel yapay zekâ kurmak için üç şey gerekir: modeli çalıştıran bir program (LM Studio ya da Ollama), Türkçe bilen açık bir model ve modelin sığacağı kadar bellek. LM Studio pencereli bir uygulamadır ve Türkçe arayüzü vardır; Ollama tek komutla kurulur. Model bir kez indirildikten sonra sohbet internetsiz çalışır. Şirkette birden çok kullanıcı, yetki ve belge arama gerekiyorsa ek yazılım, bakım ve destek gerekir.
Yerel yapay zekâ kurmak için ne gerekir?
“Yerel yapay zeka nasıl kurulur?”, “lokal yapay zeka kur” ya da “local LLM kurulumu” diye aratanların çoğu aynı şeyi istiyor: ChatGPT benzeri bir sohbeti, sorular ve belgeler kendi bilgisayarından çıkmadan kullanmak. Bunun dört parçası var:
- Çalıştırıcı program. Modeli belleğe yükler ve sorularınızı ona iletir. En yaygın iki seçenek LM Studio ve Ollama’dır.
- Açık model. İndirilebilen bir dil modeli dosyası. Türkçe için hangi modelin uygun olduğunu Türkçe yapay zekâ modelleri rehberinde karşılaştırdık.
- Bellek. Model, ekran kartı belleğine (VRAM) ya da birleşik bellekli bilgisayarlarda ortak belleğe sığmalıdır.
- Disk alanı. Küçük bir model 3–4 GB, orta boy bir model 7–8 GB, büyük modeller 17 GB ve üzeri yer kaplar.
Yerel yapay zekânın ne olduğunu ve buluttan farkını Yerel yapay zekâ nedir? sayfasında anlattık. Bu rehber yalnızca kurulumla ilgilidir.
Hangi kurulum yolu size uyar?
| Yol | Kime uyar | Kurulum | Belgelerle sohbet | Dikkat edilecek |
|---|---|---|---|---|
| LM Studio | Komut yazmak istemeyen bireyler | Uygulamayı indirip kurmak; Türkçe arayüz seçilebilir | Var, dosyalar cihazda işlenir | Model arama, indirme ve güncelleme internet ister |
| Ollama | Komut satırından çekinmeyenler, geliştiriciler | Tek komut; model de tek komutla iner | Tek başına yok; arayüzle eklenir | “cloud” etiketli modeller bilgisayarınızda değil, Ollama’nın bulutunda çalışır |
| Ollama ve Open WebUI | Tarayıcıdan ChatGPT benzeri ekran isteyenler, küçük ekipler | İki ayrı kurulum | Var | Kullanıcıları, yedeği ve güncellemeyi siz yönetirsiniz |
| AnythingLLM Desktop | Kendi PDF’leriyle konuşmak isteyenler | Uygulamayı indirip kurmak; Ollama ya da LM Studio’ya bağlanır | Var, ana amacı bu | Anonim kullanım verisi gönderir; ayarlardan kapatılabilir |
| Hazır yerel cihaz | Kurulumla uğraşmak istemeyen kişiler ve şirketler | Kurulu gelir | Var | Model boyutu donanımla sabittir; destek satıcıdan |
LM Studio ile kurulum (komut yazmadan)
LM Studio, 8 Temmuz 2025’ten bu yana evde ve işte ücretsizdir; ayrı bir ticari lisans ya da form gerekmez.
- LM Studio’yu resmî sitesinden indirip kurun. Windows, macOS ve Linux sürümleri vardır.
- Türkçe arayüz: Ayarlar’ı açın (Windows ve Linux’ta Ctrl + virgül). Ayarlar sekmesi “Power User” modunda görünür. Preferences > Language bölümünden Türkçe’yi seçin.
- Model indirin: Discover sekmesinde model adını aratın, örneğin “qwen3.5” ya da “gemma-4”. Belleğinize uyan boyutu seçin; neyin sığacağını aşağıdaki bellek bölümü anlatıyor.
- Sohbet edin: Modeli yükleyip yazmaya başlayın. Sohbete belge eklediğinizde dosya bilgisayarınızda kalır ve orada işlenir.
LM Studio’nun kendi belgelerine göre sohbette yazdıklarınız cihazdan çıkmaz. İnternet yalnızca model aramak ve indirmek, çalıştırma bileşenlerini indirmek ve uygulamayı güncellemek için gerekir.
Ollama ile kurulum: Windows, macOS ve Linux
Ollama, MIT lisanslı açık kaynak bir çalıştırıcıdır. Kurulum komutları resmî sayfasında şöyle:
- Windows: PowerShell’e irm https://ollama.com/install.ps1 | iex yazın ya da OllamaSetup.exe kurulum dosyasını indirin.
- macOS: Terminal’e curl -fsSL https://ollama.com/install.sh | sh yazın ya da Ollama.dmg dosyasını indirin.
- Linux: Terminal’e curl -fsSL https://ollama.com/install.sh | sh yazın.
Sonra Türkçe bilen bir model çalıştırın:
- ollama run qwen3.5 varsayılan olarak 9B boyutunu indirir (6,6–7,6 GB). Bellek azsa ollama run qwen3.5:4b (3,3–4,0 GB).
- ollama run gemma4:e4b Google’ın cihaz üzerinde çalışmak için tasarlanmış küçük modelidir (6,6–9,5 GB).
İlk komut modeli indirir; sonraki çalıştırmalarda model diskten açılır. Ollama, başka programların bağlanabilmesi için bilgisayarınızda yerel bir arayüz de açar (http://localhost:11434).
“Ollama Türkçe” sorusu: Ollama’nın kendisi yalnızca bir çalıştırıcıdır; Türkçeyi model bilir. Ollama kütüphanesinde olmayan, Hugging Face’teki GGUF biçimli bir modeli de çalıştırabilirsiniz: ollama run hf.co/kullanıcı-adı/depo-adı komutu, depoda varsa Q4_K_M sıkıştırmasını seçer. Kumru, Trendyol LLM ve Turkcell-LLM gibi Türkiye’de geliştirilen modellere bu yolla ulaşılır.
Önemli uyarı: Ollama kütüphanesindeki “cloud” etiketli modeller (örneğin gemma4:cloud) bilgisayarınızda değil, Ollama’nın bulut sunucularında çalışır. Yerel kurulumda bu etiketleri kullanmayın.
Kendi belgelerinizle konuşmak: Open WebUI ve AnythingLLM
“Kendi ChatGPT’mi yapabilir miyim?” sorusunun pratik cevabı, Ollama’nın üstüne bir sohbet ekranı eklemektir.
- Open WebUI: pip install open-webui ile kurulur, open-webui serve ile başlatılır ve tarayıcıda http://localhost:8080 adresinde açılır. Ollama’yı destekler, kendi belgelerinizle sohbet (RAG) özelliği vardır ve belgelerine göre tamamen çevrimdışı çalışacak biçimde tasarlanmıştır.
- AnythingLLM Desktop: Windows, macOS ve Linux için MIT lisanslı bir masaüstü uygulamasıdır. PDF, Word ve metin dosyalarıyla sohbet eder; Ollama ve LM Studio’daki modellere bağlanır. Varsayılan olarak belge içeriği içermeyen anonim kullanım verisi gönderir; Gizlilik ayarlarından kapatabilirsiniz.
İki araç da tek kişilik denemeler için iyidir. Bir ekibe açtığınızda kullanıcı hesapları, kimin hangi belgeyi görebileceği, yedekleme ve güncelleme sizin sorumluluğunuza geçer.
Bilgisayarım yeter mi? Bellek hesabı
Modelin hızını ve sığıp sığmadığını belirleyen ilk şey bellektir. Kabaca kural: 4 bit sıkıştırılmış (Q4) bir model, milyar parametre başına yaklaşık 0,5–0,7 GB yer tutar; konuşma uzadıkça birkaç GB daha gerekir. Ollama kütüphanesindeki indirme boyutları bu kuralı doğruluyor:
- 4B modeller (qwen3.5:4b): 3,3–4,0 GB. 8 GB bellekli bir bilgisayarda çalışır.
- 9B modeller (qwen3.5): 6,6–7,6 GB. 16 GB bellekte rahat çalışır.
- 26–27B modeller (gemma4:26b, qwen3.6:27b): 16–19 GB. 24–32 GB bellek ister.
- 122B modeller (qwen3.5:122b): 81 GB. Ancak çok büyük bellekli bir iş istasyonu ya da sunucuda çalışır.
Model ekran kartı belleğine tamamen sığarsa cevaplar hızlı gelir. Sığmazsa bir kısmı işlemcide çalışır ve cevaplar belirgin biçimde yavaşlar. Birleşik bellekli bilgisayarlarda ekran kartı ile işlemci aynı belleği paylaşır, bu yüzden toplam bellek belirleyicidir. Bir ekibin aynı anda kullanacağı sunucuyu boyutlandırmak ayrı bir hesaptır: Yapay zekâ sunucusu. Gemma 4’ün 26B sürümü “uzman karışımı” (MoE) bir modeldir: her kelimede yaklaşık 4 milyar parametre çalışır, bu yüzden boyutuna göre hızlıdır; yine de modelin tamamının belleğe sığması gerekir.
İnternetsiz çalıştığını nasıl test edersiniz?
- Programı, modeli ve kullanacağınız arayüzü internet açıkken indirin.
- Wi-Fi’yi kapatın ve ağ kablosunu çıkarın.
- Bildiğiniz bir belgeyle soru sorun. Cevap geliyorsa model cihazınızda çalışıyordur.
- “cloud” etiketli bir model ya da bulut sağlayıcısına bağlı bir ayar kullanmadığınızı kontrol edin.
- Otomatik güncellemeyi ve kullanım verisi gönderimini kapatın.
Şirket ağında daha sıkı bir doğrulama için Kapalı ağda yapay zekâ rehberindeki altı testi uygulayın. Hangi işlerin internetsiz yapılabildiğini İnternetsiz yapay zekâ sayfasında anlattık.
Kendi kurulumunuz şirkette ne zaman yetmez?
Tek kişilik bir deneme için yukarıdaki yollar yeterlidir. Bir şirkette kullanılmaya başlandığında genellikle şu ihtiyaçlar çıkar:
- Kullanıcı ve yetki: Her çalışanın ayrı girişi olmalı ve herkes yalnızca görmeye yetkili olduğu belgeleri aramalı.
- Belge arama: Cevabın hangi belgenin hangi sayfasından geldiği görünmeli.
- Bakım: Model ve yazılım güncellemeleri, güvenlik yamaları ve yedekleme birinin işi olmalı.
- Kapasite: Aynı anda soru soran kişi sayısı arttıkça tek bir masaüstü bilgisayar yetmeyebilir.
- Destek: Bir şey bozulduğunda arayacağınız biri olmalı.
Bu noktada seçenekleri ve maliyet kalemlerini Yerel yapay zekâ çözümleri ve Şirket içi yapay zekâ rehberlerinde karşılaştırdık. Kurulumla uğraşmak istemeyenler için Yerel Yapay Zeka’nın iki modeli var. Bireyler için Kişisel: dokunmatik ekranlı, Wi-Fi, Bluetooth ve ağ portu olmayan cihaz, 229.000 TL (KDV dahil), abonelik yok. Şirketler için Ofis / Kurum: şirketin kendi ağına kurulur, çalışanlar kendi bilgisayarından tarayıcıyla ve kendi kullanıcı adıyla bağlanır, belge arama cevabın geldiği belgeyi ve sayfayı gösterir, güncellemeler imzalı USB bellekle gelir. Ofis / Kurum kuruma göre teklifle fiyatlanır; ilk görüşme ücretsizdir. Kurumsal pilot talebi bırakın.
Sık sorulan sorular
Yerel yapay zekâ kurmak ücretli mi? Programlar ücretsiz: LM Studio 8 Temmuz 2025’ten beri evde ve işte ücretsiz, Ollama ise MIT lisanslı açık kaynak. Modellerin çoğu da ücretsiz indirilir ama lisansları farklıdır; ticari kullanım koşullarını her modelin kendi sayfasında okuyun. Asıl maliyet donanım ve zamandır.
Kendi ChatGPT’mi yapabilir miyim? Benzer bir sohbet ekranı kurabilirsiniz: Ollama ile bir model, üstüne Open WebUI. Ancak bilgisayarınızın belleğine sığan bir model, en büyük bulut modelleri kadar genel bilgi taşımaz ve web’de arama yapmaz. Belge özetleme, yazışma taslağı ve belgeden bilgi bulma gibi işlerde yeterli olup olmadığını kendi örneklerinizle deneyin.
LM Studio Türkçe yapılır mı? Evet. Ayarlar > Preferences > Language bölümünden Türkçe seçilir; Ayarlar sekmesi “Power User” modunda görünür.
Ollama Türkçe biliyor mu? Ollama bir çalıştırıcıdır; Türkçeyi model bilir. Qwen3.5 model kartı 201 dil ve lehçeyi, Gemma 4 ise 140’tan fazla dili desteklediğini yazıyor. Hangi modelin Türkçede daha iyi olduğunu Türkçe yapay zekâ modelleri rehberinde anlattık.
Kurduktan sonra internet gerekir mi? Sohbet için gerekmez. İnternet yalnızca yeni model indirmek ve programı güncellemek için gerekir. “cloud” etiketli modeller ise bulutta çalışır; internetsiz kullanılamaz.
Şirket verisi için kendi kurulumum yeterli mi? Tek kişilik denemelerde evet. Birden çok çalışan, belge yetkileri ve düzenli bakım gerektiğinde kurulumu bir ürün ya da hizmetle tamamlamak gerekir. KVKK açısından nelere dikkat edileceğini KVKK ve yapay zekâ rehberinde anlattık.
Kaynaklar
- Ollama, indirme sayfası
- Ollama, GitHub deposu (kurulum komutları ve MIT lisansı)
- Ollama kütüphanesi, Qwen3.5 etiketleri ve boyutları
- Ollama kütüphanesi, Gemma 4 etiketleri ve bulut etiketleri
- Ollama kütüphanesi, Qwen3.6 etiketleri
- Hugging Face, Ollama ile Hub’daki GGUF modelleri çalıştırma
- LM Studio, arayüz dilleri (Türkçe dahil)
- LM Studio, çevrimdışı çalışma
- LM Studio, “LM Studio is free for use at work”, 8 Temmuz 2025
- Open WebUI belgeleri
- AnythingLLM, GitHub deposu
- Google, “Gemma 4: Byte for byte, the most capable open models”, 2 Nisan 2026
- Qwen3.5-9B model kartı
Kendi belgelerinizle görün
Ofis / Kurum kurulumunu bir ilk görüşmeyle konuşalım; ardından örnek belgelerinizle yerel bir demo yapalım. İlk görüşme ücretsiz. Talep sipariş veya ödeme değildir. Pilot kapsamı, ücret ve teslim planı ayrı teklif edilir.