Gå til hovedindhold

Chat med lokale AI-modeller

Hvorfor lokale AI-modeller?​

Ollama kører modellen lokalt. Login og chatlagring bruger skyen og kræver internet. Der skiftes ikke automatisk til en cloudmodel.

Det gælder normal tilstand. I offlinetilstand bliver alt på denne computer: appen virker så også uden internet, og nye chats gemmes kun lokalt og krypteret.

Hvorfor Ollama?​

Ollama er et værktøj, der gør det nemt at køre AI-modeller lokalt. Det installeres på hver computer separat, hvilket betyder, at der ikke er begrænsninger på antallet af brugere - ingen delt server nødvendig.

Installering af Ollama​

  1. Gå til Ollama download-side
  2. Download versionen til dit operativsystem (Windows, macOS eller Linux)
  3. Installer Ollama ved at følge installationsprogrammet
  4. Efter installationen kører Ollama automatisk i baggrunden

Installere et sprogmodel​

Efter installation af Ollama skal du mindst downloade ét sprogmodel:

  1. Åbn Ollama-udviklingsgrænsefladen (via systembakkeikonet eller terminalen)
  2. Download et sprogmodel efter eget valg

Anbefalet model​

Vælg helst en model, der har tool og vision kapaciteter:

  • Tool capabilities - Modellen kan bruge alle værktøjer, der er tilgængelige i applikationen, såsom internet-søgning og billedgenerering
  • Vision capabilities - Modellen kan analysere og beskrive billeder
Anbefalet model

qwen3-vl:4b-instruct tilbyder en god balance mellem hastighed og tool/vision-muligheder. Installer denne model via terminalen:

ollama pull qwen3-vl:4b-instruct

Vælg varianten -instruct: den svarer med det samme. Den almindelige qwen3-vl:4b tænker længe før hvert trin og er mange gange langsommere på en bærbar. Til små lokale modeller bruger appen en kort instruktion og kun de værktøjer, der passer til dit spørgsmål. Hvis det samme trin bliver ved med at mislykkes, stopper AI’en og fortæller, hvad der lykkedes, og hvad der ikke gjorde.

Modelvalg ud fra hardware​

Modellens ydeevne afhænger i høj grad af din computers hardware:

HardwareAnbefaling
Begrænset (8GB RAM, ingen GPU)Vælg mindre modeller (1-4B parametre)
Mellem (16GB RAM, basis GPU)Modeller op til 7B parametre
Kraftfuld (32GB+ RAM, moderne GPU)Større modeller muligt (13B+)
Hastighed vs. kvalitet

En mindre model performer generelt bedre med hensyn til hastighed, men kan give mindre nøjagtige svar. Eksperimentér for at finde den bedste balance for din situation.

Konfiguration i skrivebordsapplikationen​

Når Ollama kører med en installeret model, opdager skrivebordsapplikationen dette automatisk. Du kan derefter i chatten vælge den lokale model som alternativ til cloud-modellerne.

På startskærmen kan du vælge en lokal model under inputfeltet, før du sender den første besked. Den valgte model bruges fra den første besked og kan ændres senere.

Tilgængelige modeller med tool/vision-support​

Se hele listen på ollama.com/library. Filtrer på modeller med:

  • Tools-mærket for tool capabilities
  • Vision-mærket for billedgenkendelse

Populære muligheder:

  • qwen3-vl:4b-instruct - Kompakt, hurtigt, tool + vision
  • llama3.2-vision - Vision capabilities
  • mistral - Hurtige generelle opgaver

Læs dokumenter og scanninger lokalt​

Med en lokal model læser skrivebordsappen dokumenter på din egen computer. Intet bliver uploadet.

  • Arbejdsmappe: i en godkendt mappe læser AI'en Word, PowerPoint, Excel, PDF, OpenDocument (ODT, ODP, ODS) og RTF. Gamle .doc- og .ppt-filer læses kun, hvis LibreOffice er installeret.
  • Scanninger og fotos: scannede PDF-sider, billeder (PNG, JPG, WebP, TIFF) og billeder i Word- og PowerPoint-filer læses med tekstgenkendelse (OCR). OCR følger med appen og genkender nederlandsk, engelsk, tysk og fransk. I chatten kan du se, hvilken side der læses; en lang scanning kan tage et par minutter. Højst 100 sider pr. dokument læses med OCR.
  • Usikker genkendelse: når tekstgenkendelsen er usikker, siger AI'en det. Kontrollér så navne, tal og beløb i originalen. Håndskrift, tabeller og diagrammer genkendes ikke altid korrekt.
  • Billedmodel: hvis den valgte model har vision (som qwen3-vl:4b-instruct), ser modellen selv på billeder, hvor tekstgenkendelsen læser lidt eller usikkert. Uden GPU tager det længere tid.
  • iPhone-fotos (HEIC): gem dem først som JPEG eller PNG.

Også med en cloudmodel læser appen dokumenterne i arbejdsmappen på din computer, men den læste tekst sendes så til den model som en del af samtalen.

Arbejde uden internet, også med vedhæftede filer i chatten: se Offlinetilstand.

På denne side