Ana içeriğe atla

Yerel yapay zeka modelleriyle sohbet

Neden yerel AI modelleri?​

Ollama modeli yerel olarak çalıştırır. Oturum açma ve sohbet depolama bulutu kullanır ve internet gerektirir. Bulut modeline otomatik geçiş yapılmaz.

Bu normal mod için geçerlidir. Çevrimdışı modda her şey bu bilgisayarda kalır: uygulama internet olmadan da çalışır ve yeni sohbetler yalnızca yerel olarak, şifreli saklanır.

Neden Ollama?​

Ollama, AI modellerini yerel olarak kolayca çalıştırmanıza imkan veren bir araçtır. Her bilgisayarda ayrı ayrı kurulur, böylece kullanıcı sayısı açısından kısıtlamalar olmaz - paylaşılan bir sunucu gerekmez.

Ollama kurulum​

  1. İndir bağlantısına gidin: Ollama download sayfası
  2. İşletim sisteminiz için sürümü indirin (Windows, macOS veya Linux)
  3. Kurulum sihirbazını takip ederek Ollama'yı kurun
  4. Kurulumdan sonra Ollama arka planda otomatik olarak çalışır

Bir dil modeli kurmak​

Ollama kurulduktan sonra en az bir dil modeli indirmeniz gerekir:

  1. Ollama arayüzünü açın (sistem tepsisi simgesi veya terminal üzerinden)
  2. İstediğiniz bir dil modelini indirin

Tavsiye edilen model​

Tercihen tool ve vision yeteneklerine sahip bir model seçin:

  • Tool yetenekleri - Model, uygulamadaki tüm araçları kullanabilir, internet aramaları ve resim oluşturma gibi
  • Vision yetenekleri - Model, görüntüleri analiz eder ve açıklayabilir
Tavsiye edilen model

qwen3-vl:4b-instruct hızlılık ile araç/vision olanakları arasında iyi bir denge sunar. Bu modeli terminalden yükleyin:

ollama pull qwen3-vl:4b-instruct

Doğrudan yanıt veren -instruct varyantını seçin. Normal qwen3-vl:4b her adımdan önce uzun süre düşünür ve bir dizüstü bilgisayarda kat kat daha yavaştır. Küçük yerel modeller için uygulama kısa bir talimat ve yalnızca sorunuza uyan araçları kullanır. Aynı adım tekrar tekrar başarısız olursa yapay zekâ durur ve neyin işe yarayıp neyin yaramadığını söyler.

Donanıma göre model seçimi​

Bir modelin performansı, bilgisayarınızın donanımına bağlı olarak değişir:

DonanımTavsiye
Kısıtlı (8GB RAM, GPU yok)Daha küçük modelleri seçin (1-4B parametreler)
Orta (16GB RAM, temel GPU)7B parametreye kadar modeller
Güçlü (32GB+ RAM, modern GPU)Daha büyük modeller mümkün (13B+)
Hız vs. kalite

Daha küçük bir model genelde hız açısından daha iyi performans gösterir, ancak daha az doğru cevaplar verebilir. En iyi dengeyi kendi durumunuza göre bulmak için deneyin.

Masaüstü uygulamasında yapılandırma​

Ollama çalışıp kurulu bir model ile çalışmaya başladığında, masaüstü uygulaması bunu otomatik olarak tespit eder. Ardından sohbet bölümünde yerel modeli, bulut modellerinin yerine alternatif olarak seçebilirsiniz.

Başlangıç ekranında giriş alanının altındaki seçiciyle ilk mesajdan önce yerel bir model seçebilirsiniz. Seçilen model ilk mesajdan itibaren kullanılır ve daha sonra değiştirilebilir.

Tool/vision desteği olan modellerin mevcut olanları​

Tam liste için ollama.com/library adresine bakın. Modelleri şu filtlerle ayıklayın:

  • Tools etiketi araç yetenekleri için
  • Vision etiketi görüntü tanıma için

Popüler seçenekler:

  • qwen3-vl:4b-instruct - Kompakt, hızlı, araç + vizyon
  • llama3.2-vision - Vision yetenekleri
  • mistral - Hızlı genel görevler

Belgeleri ve taramaları yerel olarak okuma​

Yerel bir modelle masaüstü uygulaması belgeleri kendi bilgisayarınızda okur. Hiçbir şey yüklenmez.

  • Çalışma klasörü: onaylanmış bir klasörde yapay zekâ Word, PowerPoint, Excel, PDF, OpenDocument (ODT, ODP, ODS) ve RTF dosyalarını okur. Eski .doc ve .ppt dosyaları yalnızca LibreOffice yüklüyse okunur.
  • Taramalar ve fotoğraflar: taranmış PDF sayfaları, görüntüler (PNG, JPG, WebP, TIFF) ve Word ile PowerPoint dosyalarındaki görüntüler metin tanıma (OCR) ile okunur. OCR uygulamayla birlikte gelir ve Felemenkçe, İngilizce, Almanca ve Fransızcayı tanır. Sohbette hangi sayfanın okunduğunu görürsünüz; uzun bir tarama birkaç dakika sürebilir. Belge başına en fazla 100 sayfa OCR ile okunur.
  • Belirsiz tanıma: metin tanıma belirsiz olduğunda yapay zekâ bunu bildirir. Bu durumda adları, rakamları ve tutarları orijinalden kontrol edin. El yazısı, tablolar ve şemalar her zaman doğru tanınmaz.
  • Görüntü modeli: seçilen modelin vision özelliği varsa (örneğin qwen3-vl:4b-instruct), metin tanımanın az veya belirsiz okuduğu görüntülere model kendisi de bakar. GPU olmadan bu daha uzun sürer.
  • iPhone fotoğrafları (HEIC): önce JPEG veya PNG olarak kaydedin.

Bulut modeliyle de uygulama çalışma klasöründeki belgeleri bilgisayarınızda okur, ancak okunan metin sohbetin bir parçası olarak o modele gönderilir.

İnternetsiz çalışmak, sohbetteki eklerle birlikte: bkz. Çevrimdışı mod.

Bu sayfada