Gå till huvudinnehållet

Chatta med lokala AI-modeller

Varför lokala AI-modeller?​

Lokal användning av AI-modeller ger viktiga fördelar:

  • Inherent säkert - Dina data stannar på din egen dator och skickas aldrig till externa servrar
  • Inga extra kostnader - Lokala modeller har inga API-kostnader per användning
  • Integritet garanterad - Perfekt för känsliga dokument och information

Varför Ollama?​

Ollama är ett verktyg som gör det enkelt att köra AI-modeller lokalt. Det installeras separat på varje dator, vilket gör att det inte finns några begränsningar på antalet användare – ingen delad server behövs.

Installera Ollama​

  1. Gå till Ollama nedladdningssida
  2. Ladda ner versionen för ditt operativsystem (Windows, macOS eller Linux)
  3. Installera Ollama genom installationsguiden
  4. Efter installationen kör Ollama automatiskt i bakgrunden

Installera ett språkmodell​

Efter att Ollama är installerat måste du ladda ner minst en språkmodell:

  1. Öppna Ollama-gränssnittet (via systemfältet-ikonen eller terminalen)
  2. Ladda ner en språkmodell efter val

Rekommenderad modell​

Välj gärna en modell som har verktygs och vision-funktioner:

  • Tool capabilities - Modellen kan använda alla verktyg som finns i applikationen, såsom internet-sökning och bildgenerering
  • Vision capabilities - Modellen kan analysera och beskriva bilder
Rekommenderad modell

qwen3-vl:4b erbjuder en bra balans mellan hastighet och tool/vision-möjligheter. Installera denna modell via terminalen:

ollama pull qwen3-vl:4b

Modellval baserat på hårdvara​

Modellens prestanda beror starkt på din dators hårdvara:

HårdvaraRekommendation
Begränsad (8GB RAM, inget GPU)Välj mindre modeller (1-4B parametrar)
Medel (16GB RAM, grundläggande GPU)Modeller upp till 7B parametrar
Kraftfull (32GB+ RAM, modern GPU)Större modeller möjligt (13B+)
Snabbhet vs. kvalitet

En mindre modell presterar vanligtvis bättre när det gäller hastighet men kan ge mindre exakta svar. Experimentera för att hitta bästa balans för din situation.

Konfiguration i skrivbordsapplikationen​

Så snart Ollama körs med en installerad modell, upptäcker skrivbordsapplikationen detta automatiskt. Du kan då i chatten välja den lokala modellen som alternativ till molnmodellerna.

På startskärmen kan du välja en lokal modell under inmatningsfältet innan du skickar det första meddelandet. Den valda modellen används från det första meddelandet och kan ändras senare.

Tillgängliga modeller med tool/vision-stöd​

Se hela listan på ollama.com/library. Filtrera på modeller med:

  • Tools-tagg för verktygsfärdigheter
  • Vision-tagg för bildigenkänning

Populära alternativ:

  • qwen3-vl:4b - Kompakt, snabb, tool + vision
  • llama3.2-vision - Vision-funktioner
  • mistral - Snabba generella uppgifter
WhatsApp