Vai al contenuto principale

Chat con modelli AI locali

Perché modelli AI locali?​

Lavorare localmente con modelli AI offre vantaggi importanti:

  • Inherentemente sicuro - I tuoi dati rimangono sul tuo computer e non vengono mai inviati a server esterni
  • Nessun costo extra - I modelli locali non hanno costi API per utilizzo
  • Privacy garantita - Ideale per documenti e informazioni sensibili

Perché Ollama?​

Ollama è uno strumento che ti permette di eseguire facilmente modelli AI localmente. Viene installato su ogni computer separatamente, quindi non ci sono limitazioni per numero di utenti - non serve un server condiviso.

Installare Ollama​

  1. Vai alla pagina di download di Ollama
  2. Scarica la versione per il tuo sistema operativo (Windows, macOS o Linux)
  3. Installa Ollama seguendo l’installer
  4. Dopo l’installazione Ollama si avvia automaticamente in background

Installare un modello linguistico​

Dopo aver installato Ollama devi scaricare almeno un modello linguistico:

  1. Apri l’interfaccia Ollama (tramite l’icona della barra di sistema o terminale)
  2. Scarica un modello linguistico a tua scelta

Modello consigliato​

Preferisci un modello che abbia capacità tool e vision:

  • Tool capabilities - Il modello può utilizzare tutti gli strumenti disponibili nell’applicazione, come cercare su internet e generare immagini
  • Vision capabilities - Il modello può analizzare e descrivere immagini
Modello consigliato

qwen3-vl:4b offre un buon equilibrio tra velocità e capacità tool/vision. Installa questo modello tramite il terminale:

ollama pull qwen3-vl:4b

Scegliere il modello in base all’hardware​

Le prestazioni di un modello dipendono fortemente dall’hardware del tuo computer:

HardwareRaccomandazione
Limitato (8GB RAM, nessuna GPU)Scegli modelli più piccoli (1-4B parametri)
Medio (16GB RAM, GPU di base)Modelli fino a 7B parametri
Potente (32GB+ RAM, GPU moderna)Modelli più grandi possibili (13B+)
Velocità vs. qualità

Un modello più piccolo in genere offre maggiore velocità, ma potrebbe fornire risposte meno accurate. Sperimenta per trovare il miglior equilibrio per la tua situazione.

Configurazione nell’app desktop​

Non appena Ollama è in esecuzione con un modello installato, l’app desktop rileva automaticamente tutto. Puoi then selezionare il modello locale nella chat come alternativa ai modelli cloud.

Nella schermata iniziale, il selettore sotto il campo di input consente di scegliere un modello locale prima del primo messaggio. Il modello scelto viene usato fin dal primo messaggio e può essere modificato in seguito.

Modelli disponibili con supporto tool/vision​

Consulta l’elenco completo su ollama.com/library. Filtra i modelli per:

  • tag Tools per le capacità tool
  • tag Vision per il riconoscimento di immagini

Opzioni popolari:

  • qwen3-vl:4b - Compatto, veloce, tool + vision
  • llama3.2-vision - Capacità Vision
  • mistral - Veloci attività generali
WhatsApp