Chatta med lokala AI-modeller

Varför lokala AI-modeller?

Ollama kör modellen lokalt. Inloggning och lagring av chattar använder molnet och kräver internet. Det sker inget automatiskt byte till en molnmodell.

Det gäller normalt läge. I offlineläget stannar allt på den här datorn: appen fungerar då även utan internet och nya chattar sparas bara lokalt och krypterat.

Varför Ollama?

Ollama är ett verktyg som gör det enkelt att köra AI-modeller lokalt. Det installeras separat på varje dator, vilket gör att det inte finns några begränsningar på antalet användare – ingen delad server behövs.

Installera Ollama

1. Gå till Ollama nedladdningssida
2. Ladda ner versionen för ditt operativsystem (Windows, macOS eller Linux)
3. Installera Ollama genom installationsguiden
4. Efter installationen kör Ollama automatiskt i bakgrunden

Installera ett språkmodell

Efter att Ollama är installerat måste du ladda ner minst en språkmodell:

1. Öppna Ollama-gränssnittet (via systemfältet-ikonen eller terminalen)
2. Ladda ner en språkmodell efter val

Rekommenderad modell

Välj gärna en modell som har verktygs och vision-funktioner:

• Tool capabilities - Modellen kan använda alla verktyg som finns i applikationen, såsom internet-sökning och bildgenerering
• Vision capabilities - Modellen kan analysera och beskriva bilder

Rekommenderad modell

qwen3-vl:4b-instruct erbjuder en bra balans mellan hastighet och tool/vision-möjligheter. Installera denna modell via terminalen:

ollama pull qwen3-vl:4b-instruct

Välj varianten -instruct: den svarar direkt. Den vanliga qwen3-vl:4b tänker länge före varje steg och är många gånger långsammare på en bärbar dator. För små lokala modeller använder appen en kort instruktion och bara de verktyg som passar din fråga. Om samma steg misslyckas om och om igen slutar AI:n och berättar vad som fungerade och vad som inte gjorde det.

Modellval baserat på hårdvara

Modellens prestanda beror starkt på din dators hårdvara:

Hårdvara	Rekommendation
Begränsad (8GB RAM, inget GPU)	Välj mindre modeller (1-4B parametrar)
Medel (16GB RAM, grundläggande GPU)	Modeller upp till 7B parametrar
Kraftfull (32GB+ RAM, modern GPU)	Större modeller möjligt (13B+)

Snabbhet vs. kvalitet

En mindre modell presterar vanligtvis bättre när det gäller hastighet men kan ge mindre exakta svar. Experimentera för att hitta bästa balans för din situation.

Konfiguration i skrivbordsapplikationen

Så snart Ollama körs med en installerad modell, upptäcker skrivbordsapplikationen detta automatiskt. Du kan då i chatten välja den lokala modellen som alternativ till molnmodellerna.

På startskärmen kan du välja en lokal modell under inmatningsfältet innan du skickar det första meddelandet. Den valda modellen används från det första meddelandet och kan ändras senare.

Tillgängliga modeller med tool/vision-stöd

Se hela listan på ollama.com/library. Filtrera på modeller med:

• Tools-tagg för verktygsfärdigheter
• Vision-tagg för bildigenkänning

Populära alternativ:

• qwen3-vl:4b-instruct - Kompakt, snabb, tool + vision
• llama3.2-vision - Vision-funktioner
• mistral - Snabba generella uppgifter

Läsa dokument och skanningar lokalt

Med en lokal modell läser skrivbordsappen dokument på din egen dator. Ingenting laddas upp.

• Arbetsmapp: i en godkänd mapp läser AI:n Word, PowerPoint, Excel, PDF, OpenDocument (ODT, ODP, ODS) och RTF. Gamla .doc- och .ppt-filer läses bara om LibreOffice är installerat.
• Skanningar och foton: skannade PDF-sidor, bilder (PNG, JPG, WebP, TIFF) och bilder i Word- och PowerPoint-filer läses med textigenkänning (OCR). OCR följer med appen och känner igen nederländska, engelska, tyska och franska. I chatten ser du vilken sida som läses; en lång skanning kan ta några minuter. Högst 100 sidor per dokument läses med OCR.
• Osäker igenkänning: när textigenkänningen är osäker säger AI:n det. Kontrollera då namn, siffror och belopp i originalet. Handskrift, tabeller och scheman känns inte alltid igen korrekt.
• Bildmodell: om den valda modellen har vision (som qwen3-vl:4b-instruct) tittar modellen själv på bilder där textigenkänningen läser lite eller osäkert. Utan GPU tar det längre tid.
• iPhone-foton (HEIC): spara dem först som JPEG eller PNG.

Även med en molnmodell läser appen dokumenten i arbetsmappen på din dator, men den lästa texten skickas då till den modellen som en del av samtalet.

Arbeta utan internet, även med bilagor i chatten: se Offlineläge.