Yerel yapay zeka nedir?
Yerel yapay zeka, internetteki bir sunucu yerine doğrudan kendi cihazında çalışan yapay zekadır. Yazdıkların, söylediklerin ve belgelerin başka bir şirketin sunucusuna gönderilmeden işlenir.
Bulut yapay zekadan farkı
| Bulut yapay zeka | Yerel yapay zeka | |
|---|---|---|
| Çalıştığı yer | Servis sağlayıcının sunucusu | Kendi cihazın |
| Veri | Sunucuya gönderilir | Cihazda kalır |
| İnternet | Gerekir | Gerekmez |
| Ücret | Genellikle abonelik veya kullanım başına | Çoğunlukla cihaz bedeli |
| Güç | Çok büyük modeller | Cihazın donanımıyla sınırlı |
| Güncel bilgi | Web'de arama yapabilir | İnternete çıkmıyorsa arayamaz |
Kimler için uygun?
Verisini dışarı göndermek istemeyen veya gönderemeyen herkes için uygundur. Avukatlar, mali müşavirler, hastaneler ve ticari sırrını korumak isteyen şirketler ilk akla gelenlerdir. Bir şeyi yalnızca kendine saklamak isteyen bireyler de bu gruba girer.
Türkiye'de yurt dışında yerleşik bir yapay zeka servisine kişisel veri göndermek, KVKK kapsamında yurt dışına veri aktarımı olarak değerlendirilebilir. Yerel çalışma bu aktarımı ortadan kaldırır, ancak diğer KVKK yükümlülüklerini kaldırmaz. Bu sayfa hukuki danışmanlık değildir.
Ne yapabilir?
- Sohbet eder, soruları cevaplar.
- Yazı yazar, özetler ve düzenler.
- Sesi metne çevirir, metni sese.
- Görsel yaratır.
- Belgeleri okur, arar ve sınıflandırır.
Sınırları
Küçük bir cihazda çalışan model, en büyük bulut modelleri kadar güçlü değildir. Hata yapabilir, bu yüzden önemli cevaplar kontrol edilmelidir. İnternete bağlı değilse güncel haberleri de bilmez.
Hangi donanım gerekir?
Asıl belirleyici olan bellek ve grafik işlemcidir. NVIDIA Jetson gibi yapay zeka modülleri, dil modellerini ve görsel yaratan modelleri cihaz üzerinde çalıştırabilir. Güçlü bir grafik kartlı bilgisayar da bu işi yapabilir, ancak kurulum ve güvenlik kullanıcıya kalır.
Yerel Yapay Zeka cihazları
Yerel Yapay Zeka, bu işi kutudan çıktığı gibi yapan, dokunmatik ekranlı ve internete bağlanmayan Türkçe cihazlar geliştiriyor. Ürünler ön sipariş aşamasındadır.