Chat con modelli AI locali

Perché modelli AI locali?

Ollama esegue il modello localmente. Accesso e archiviazione delle chat usano il cloud e richiedono internet. Non avviene alcun passaggio automatico a un modello cloud.

Questo vale per la modalità normale. In modalità offline tutto resta su questo computer: l'app funziona anche senza internet e le nuove chat vengono salvate solo in locale, crittografate.

Perché Ollama?

Ollama è uno strumento che ti permette di eseguire facilmente modelli AI localmente. Viene installato su ogni computer separatamente, quindi non ci sono limitazioni per numero di utenti - non serve un server condiviso.

Installare Ollama

1. Vai alla pagina di download di Ollama
2. Scarica la versione per il tuo sistema operativo (Windows, macOS o Linux)
3. Installa Ollama seguendo l’installer
4. Dopo l’installazione Ollama si avvia automaticamente in background

Installare un modello linguistico

Dopo aver installato Ollama devi scaricare almeno un modello linguistico:

1. Apri l’interfaccia Ollama (tramite l’icona della barra di sistema o terminale)
2. Scarica un modello linguistico a tua scelta

Modello consigliato

Preferisci un modello che abbia capacità tool e vision:

• Tool capabilities - Il modello può utilizzare tutti gli strumenti disponibili nell’applicazione, come cercare su internet e generare immagini
• Vision capabilities - Il modello può analizzare e descrivere immagini

Modello consigliato

qwen3-vl:4b-instruct offre un buon equilibrio tra velocità e capacità tool/vision. Installa questo modello tramite il terminale:

ollama pull qwen3-vl:4b-instruct

Scegli la variante -instruct: risponde subito. Il normale qwen3-vl:4b riflette a lungo prima di ogni passaggio ed è molte volte più lento su un portatile. Per i modelli locali piccoli l'app usa un'istruzione breve e solo gli strumenti adatti alla tua domanda. Se lo stesso passaggio continua a non riuscire, l'IA si ferma e ti dice cosa ha funzionato e cosa no.

Scegliere il modello in base all’hardware

Le prestazioni di un modello dipendono fortemente dall’hardware del tuo computer:

Hardware	Raccomandazione
Limitato (8GB RAM, nessuna GPU)	Scegli modelli più piccoli (1-4B parametri)
Medio (16GB RAM, GPU di base)	Modelli fino a 7B parametri
Potente (32GB+ RAM, GPU moderna)	Modelli più grandi possibili (13B+)

Velocità vs. qualità

Un modello più piccolo in genere offre maggiore velocità, ma potrebbe fornire risposte meno accurate. Sperimenta per trovare il miglior equilibrio per la tua situazione.

Configurazione nell’app desktop

Non appena Ollama è in esecuzione con un modello installato, l’app desktop rileva automaticamente tutto. Puoi quindi selezionare il modello locale nella chat come alternativa ai modelli cloud.

Nella schermata iniziale, il selettore sotto il campo di input consente di scegliere un modello locale prima del primo messaggio. Il modello scelto viene usato fin dal primo messaggio e può essere modificato in seguito.

Modelli disponibili con supporto tool/vision

Consulta l’elenco completo su ollama.com/library. Filtra i modelli per:

• tag Tools per le capacità tool
• tag Vision per il riconoscimento di immagini

Opzioni popolari:

• qwen3-vl:4b-instruct - Compatto, veloce, tool + vision
• llama3.2-vision - Capacità Vision
• mistral - Veloci attività generali

Leggere documenti e scansioni in locale

Con un modello locale, l'app desktop legge i documenti sul tuo computer. Non viene caricato nulla.

• Cartella di lavoro: in una cartella approvata l'IA legge Word, PowerPoint, Excel, PDF, OpenDocument (ODT, ODP, ODS) e RTF. I vecchi file .doc e .ppt vengono letti solo se è installato LibreOffice.
• Scansioni e foto: le pagine PDF scansionate, le immagini (PNG, JPG, WebP, TIFF) e le immagini nei file Word e PowerPoint vengono lette con il riconoscimento del testo (OCR). L'OCR è incluso nell'app e riconosce olandese, inglese, tedesco e francese. Nella chat vedi quale pagina viene letta; una scansione lunga può richiedere alcuni minuti. Per documento vengono lette con OCR al massimo 100 pagine.
• Riconoscimento incerto: quando il riconoscimento del testo è incerto, l'IA lo segnala. Controlla allora nomi, cifre e importi nell'originale. Scrittura a mano, tabelle e schemi non sempre vengono riconosciuti correttamente.
• Modello di visione: se il modello scelto ha la visione (come qwen3-vl:4b-instruct), esamina da sé le immagini in cui il riconoscimento del testo legge poco o in modo incerto. Senza GPU richiede più tempo.
• Foto di iPhone (HEIC): salvale prima come JPEG o PNG.

Anche con un modello cloud l'app legge i documenti della cartella di lavoro sul tuo computer, ma il testo letto viene inviato a quel modello come parte della conversazione.

Lavorare senza internet, anche con allegati nella chat: vedi Modalità offline.