Aller au contenu principal

Modèles d'IA locaux avec Ollama

Pourquoi des modèles d'IA locaux?​

Ollama exécute le modèle localement. La connexion et le stockage des chats utilisent le cloud et nécessitent Internet. Aucun passage automatique à un modèle cloud.

Cela vaut pour le mode normal. En mode hors ligne, tout reste sur cet ordinateur : l'application fonctionne alors aussi sans internet et les nouvelles discussions sont enregistrées uniquement en local, chiffrées.

Pourquoi Ollama?​

Ollama est la plateforme leader pour exécuter localement des modèles d'IA open-source. Caractéristiques principales:

  • ✅ Installation et configuration faciles
  • ✅ Des milliers de modèles disponibles
  • ✅ Léger et rapide
  • ✅ Multiplateforme (Windows, macOS, Linux)
  • ✅ Gestion simple des modèles
  • ✅ API compatible OpenAI

Installation​

1. Télécharger et installer Ollama​

Visitez ollama.ai et téléchargez l'installeur pour votre système d'exploitation.

2. Vérifier l'installation​

Après l'installation, vérifiez qu'Ollama fonctionne:

ollama --version

Sous Windows, redémarrez votre terminal après l'installation.

3. Récupérer un modèle​

Téléchargez un modèle (exemple avec qwen2.5):

ollama pull qwen2.5:7b

Cela téléchargera le modèle. Selon votre vitesse Internet, cela peut prendre quelques minutes.

Installation de modèles​

Démarrage rapide​

Pour le meilleur équilibre entre qualité et performance, nous recommandons:

ollama pull qwen3-vl:4b-instruct

Choisissez la variante -instruct : elle répond tout de suite. Le qwen3-vl:4b standard réfléchit longuement avant chaque étape et est bien plus lent sur un ordinateur portable. Pour les petits modèles locaux, l'application utilise une consigne courte et uniquement les outils adaptés à votre question. Si la même étape échoue encore et encore, l'IA s'arrête et vous dit ce qui a fonctionné et ce qui n'a pas fonctionné.

Modèle recommandé: qwen3-vl:4b-instruct​

Ce modèle est recommandé car il:

  • ✅ Ne nécessite que 4GB de RAM
  • ✅ Inclut des capacités de vision (pour voir les images)
  • ✅ Offre un bon équilibre entre vitesse et qualité
  • ✅ Fonctionne bien sur la plupart du matériel
  • ✅ Est entièrement ouvert et libre d'utilisation

Installer d'autres modèles​

Vous pouvez installer des modèles supplémentaires:

# Autres modèles populaires
ollama pull llama2:7b       # Excellent modèle polyvalent
ollama pull mistral:7b      # Rapide et capable
ollama pull neural-chat:7b  # Excellent pour les conversations

Recommandations matérielles​

Ollama fonctionne sur divers matériels. Voici ce dont vous avez besoin pour différents modèles:

Taille du modèleRAM nécessaireCarte graphiquePerformance
3-4B4GB minimumNon nécessaireRapide (5-10 tokens/sec)
7B8GB recommandéOptionnel (plus rapide)Bon (2-5 tokens/sec)
13B+16GB+ recommandéGPU fortement recommandéPlus lent sans GPU

Accélération GPU: Si vous disposez d'un GPU NVIDIA, Ollama l'utilisera automatiquement pour une inférence plus rapide.

Configuration dans l'application de bureau​

Après l'installation d'Ollama et des modèles:

  1. Ouvrez l'application de bureau AI-School
  2. Allez à Paramètres → Modèles locaux
  3. Vérifiez qu'Ollama est détecté
  4. Sélectionnez votre modèle dans la liste déroulante
  5. Vous êtes prêt à utiliser l'IA locale!

Sur l’écran d’accueil, le sélecteur de modèle apparaît directement sous le champ de saisie. Vous pouvez ainsi choisir un modèle local avant le premier message. Ce choix s’applique dès le premier message et reste modifiable ensuite.

Modèles disponibles​

Modèles populaires disponibles via Ollama:

Modèles de vision (peuvent voir les images)​

  • qwen3-vl:4b-instruct (recommandé) - Modèle de vision rapide
  • llama2-vision:13b - Modèle de vision plus puissant
  • minicpm-v:latest - Modèle de vision compact

Modèles de texte​

  • qwen2.5:7b - Excellent pour toutes les tâches
  • llama2:7b - Classique, bien testé
  • mistral:7b - Rapide et efficace
  • neural-chat:7b - Orientation conversationnelle
  • openchat:7b - Bon modèle polyvalent

Modèles spécialisés​

  • codegemma:7b - Pour les tâches de programmation
  • sqlcoder:7b - Requêtes de base de données SQL
  • dolphin-mixtral:8x7b - Modèle de mélange puissant

Commencez avec qwen3-vl:4b-instruct et explorez d'autres modèles selon vos besoins!

Lire des documents et des scans en local​

Avec un modèle local, l'application de bureau lit les documents sur votre propre ordinateur. Rien n'est envoyé en ligne.

  • Dossier de travail : dans un dossier autorisé, l'IA lit Word, PowerPoint, Excel, PDF, OpenDocument (ODT, ODP, ODS) et RTF. Les anciens fichiers .doc et .ppt ne sont lus que si LibreOffice est installé.
  • Scans et photos : les pages PDF numérisées, les images (PNG, JPG, WebP, TIFF) et les images dans les fichiers Word et PowerPoint sont lues par reconnaissance de texte (OCR). L'OCR est fournie avec l'application et reconnaît le néerlandais, l'anglais, l'allemand et le français. Le chat indique quelle page est en cours de lecture ; un long scan peut prendre quelques minutes. Au maximum 100 pages par document sont lues par OCR.
  • Reconnaissance incertaine : lorsque la reconnaissance de texte est incertaine, l'IA le signale. Vérifiez alors les noms, chiffres et montants dans l'original. L'écriture manuscrite, les tableaux et les schémas ne sont pas toujours bien reconnus.
  • Modèle de vision : si le modèle choisi dispose de la vision (comme qwen3-vl:4b-instruct), il examine lui-même les images où la reconnaissance de texte lit peu ou de façon incertaine. Sans GPU, cela prend plus de temps.
  • Photos d'iPhone (HEIC) : enregistrez-les d'abord en JPEG ou PNG.

Avec un modèle cloud, l'application lit aussi les documents du dossier de travail sur votre ordinateur, mais le texte lu est alors envoyé à ce modèle dans le cadre de la conversation.

Travailler sans internet, y compris avec des pièces jointes dans le chat : voir Mode hors ligne.

Sur cette page