Ollama : exécuter des LLM localement sur votre PC

Ollama exécute des modèles d'IA, Llama, Mistral, Gemma, CodeLlama, directement sur votre ordinateur, sans abonnement, sans envoyer vos données à un serveur tiers et même sans connexion internet une fois le modèle téléchargé. Ce guide vous mène de l'installation à votre première conversation. Comptez environ 15 minutes pour obtenir une IA locale fonctionnelle. Il couvre Ollama 0.30+ sur Windows, macOS et Linux.

Il s'adresse autant aux débutants qu'aux développeurs. Aucune connaissance préalable en intelligence artificielle n'est requise : si vous savez ouvrir un terminal et taper une commande, vous avez le niveau. Ollama est le bon choix quand un assistant en ligne ne convient pas : code sous NDA, données réglementées, budget serré ou travail hors ligne.

Pressé ? Allez droit au but

Sur cette page : vérifier la compatibilité · installer Ollama · télécharger un modèle · première conversation

Guides dédiés : intégrer en Python · dépannage et configuration · sorties structurées · tool calling · vision · quel modèle en 2026

Ce que vous allez apprendre

À la fin de ce guide, vous saurez :

• Installer Ollama sur votre ordinateur (Windows, Mac ou Linux)
• Télécharger et utiliser des modèles d'IA comme Llama, Mistral ou CodeLlama
• Discuter avec l'IA en ligne de commande et via Python
• Choisir le bon modèle selon vos besoins (code, texte, traduction...)
• Résoudre les problèmes courants si quelque chose ne fonctionne pas

Aucune connaissance préalable en intelligence artificielle n'est requise. Si vous savez ouvrir un terminal et taper une commande, vous avez tout ce qu'il faut.

Qu'est-ce qu'Ollama ? (explication détaillée)

Avant de plonger dans l'installation, prenons quelques minutes pour comprendre ce qu'est vraiment Ollama et pourquoi c'est important. Cette compréhension vous aidera à mieux l'utiliser par la suite.

Le problème que résout Ollama

Imaginez que vous êtes développeur et que vous voulez utiliser l'IA pour vous aider à coder. Vous avez trois options :

Option 1 : Utiliser ChatGPT (ou Claude, Gemini...)

Vous allez sur le site, vous tapez votre question, et vous obtenez une réponse. C'est pratique, mais :

• Votre code (potentiellement confidentiel) transite par les serveurs d'OpenAI
• Vous payez à l'usage (environ 0.01€ par question avec GPT-4)
• En cas de panne du service, vous êtes bloqué

Option 2 : Installer un modèle IA vous-même (sans Ollama)

C'est techniquement possible, mais c'est un cauchemar :

• Il faut télécharger les poids du modèle (plusieurs fichiers de plusieurs GB)
• Installer les bonnes versions de Python, PyTorch, CUDA...
• Configurer des dizaines de paramètres
• Écrire du code pour charger et utiliser le modèle
• Résultat : plusieurs heures de galère, même pour un développeur expérimenté

Option 3 : Utiliser Ollama

Ollama résout tous ces problèmes :

• Une seule commande pour installer un modèle
• Configuration automatique de tous les paramètres techniques
• Interface simple pour discuter avec l'IA
• Vos données restent locales

Ollama n'est pas le seul moteur local

Ollama est le plus simple pour démarrer, mais d'autres moteurs d'inférence existent, llama.cpp, vLLM, TGI, chacun avec ses compromis de performance et de complexité. Le comparatif des backends d'inférence aide à choisir selon votre matériel et votre volume d'usage.

Qu'est-ce qu'un LLM exactement ?

Vous avez sûrement vu le terme LLM (Large Language Model). Mais que signifie-t-il concrètement ?

Un LLM est un programme informatique qui a été entraîné sur d'énormes quantités de texte (livres, articles, code source, pages web...). Grâce à cet entraînement, il a appris :

• Les règles de la langue : grammaire, orthographe, syntaxe
• Les connaissances du monde : histoire, science, actualités (jusqu'à sa date de coupure)
• Les patterns de raisonnement : comment résoudre des problèmes, structurer une réponse
• Les conventions du code : syntaxe des langages, bonnes pratiques, patterns courants

Quand vous posez une question à un LLM, il ne "cherche" pas la réponse dans une base de données. Il génère la réponse mot par mot, en prédisant quel mot est le plus probable après le précédent, compte tenu de votre question et de tout ce qu'il a appris.

Analogie avec le cerveau humain

Imaginez un étudiant qui a lu des millions de livres. Il ne se souvient pas de chaque phrase exacte, mais il a développé une compréhension profonde des sujets. Quand vous lui posez une question, il formule une réponse basée sur cette compréhension, pas en récitant un texte mémorisé.

Un LLM fonctionne de manière similaire, mais avec des milliards de paramètres (les "neurones" du modèle) qui encodent ces connaissances.

Pourquoi "local" change tout

Quand vous utilisez ChatGPT :

1. Vous tapez votre question
2. Elle est envoyée aux serveurs d'OpenAI (aux États-Unis)
3. Le modèle calcule la réponse sur leurs GPU
4. La réponse vous est renvoyée

Quand vous utilisez Ollama :

1. Vous tapez votre question
2. Le modèle calcule la réponse sur votre propre processeur
3. Rien ne sort de votre ordinateur

Conséquences concrètes :

Aspect	ChatGPT (cloud)	Ollama (local)
Confidentialité	Vos données transitent par des serveurs tiers	Vos données restent sur votre machine
Coût	~0.01-0.03€ par question (GPT-4)	Gratuit (après achat de l'ordinateur)
Internet	Obligatoire	Optionnel (après téléchargement du modèle)
Vitesse	Dépend de la latence réseau	Dépend de votre matériel
Disponibilité	Peut être saturé ou en maintenance	Toujours disponible
Personnalisation	Limitée	Totale (vous pouvez créer vos propres modèles)

Glissez pour voir

Les cas d'usage concrets

Voici des scénarios réels où Ollama brille :

Scénario 1 : Le développeur soucieux de la confidentialité

Marie travaille sur un projet client sous NDA (accord de confidentialité). Elle ne peut pas copier son code dans ChatGPT, ce serait une violation du contrat. Avec Ollama, elle peut demander de l'aide sur son code sans qu'il quitte son ordinateur.

Scénario 2 : L'étudiant sans budget

Thomas prépare ses examens et aimerait avoir un assistant pour expliquer des concepts complexes. Les 20€/mois de ChatGPT Plus ne rentrent pas dans son budget étudiant. Avec Ollama, il a un assistant gratuit et illimité.

Scénario 3 : Le professionnel en déplacement

Sophie est consultante et passe beaucoup de temps dans le train. La connexion est instable. Avec Ollama, elle peut travailler avec l'IA même dans un tunnel.

Scénario 4 : L'entreprise avec des données sensibles

L'équipe data d'une banque veut utiliser l'IA pour analyser des rapports internes. Impossible d'envoyer ces données à OpenAI pour des raisons réglementaires. Ollama permet d'avoir l'IA en interne.

Vérifier que votre ordinateur est compatible

Avant d'installer Ollama, vérifions que votre machine peut le faire tourner. Rassurez-vous : la plupart des ordinateurs récents (moins de 5-6 ans) sont compatibles.

La RAM : le facteur clé

La mémoire vive (RAM) est le facteur le plus important. Voici pourquoi :

Quand vous lancez un modèle IA avec Ollama, celui-ci est entièrement chargé en mémoire. Si votre ordinateur n'a pas assez de RAM, le modèle ne pourra pas être chargé, ou sera très lent car il devra utiliser le disque dur (ce qu'on appelle le "swap").

RAM disponible	Modèles utilisables	Expérience
4 GB	Insuffisant	Ollama refusera de lancer les modèles
8 GB	Modèles légers (3B)	Fonctionnel mais limité
16 GB	Modèles moyens (7B)	Bonne expérience pour la plupart des usages
32 GB	Grands modèles (13B)	Excellente expérience
64 GB+	Très grands modèles (70B)	Usage professionnel

Glissez pour voir

Comment vérifier votre RAM ?

Sur Windows :

1. Faites un clic droit sur la barre des tâches
2. Cliquez sur "Gestionnaire des tâches"
3. Allez dans l'onglet "Performances" → "Mémoire"

Sur macOS :

1. Cliquez sur le menu Pomme
2. "À propos de ce Mac"
3. La RAM est indiquée (ex: "16 Go")

Sur Linux :

# Afficher la RAM totale
free -h

Vous verrez quelque chose comme Mem: 15Gi (pour 16 GB).

L'espace disque

Chaque modèle IA occupe de l'espace sur votre disque dur. Voici les tailles typiques :

Modèle	Taille sur disque
Llama 3.2 (3B)	~2 GB
Mistral (7B)	~4 GB
CodeLlama (7B)	~4 GB
Llama 3.1 (70B)	~40 GB

Glissez pour voir

Recommandation : Gardez au moins 20 GB libres pour pouvoir télécharger plusieurs modèles et les essayer.

Le GPU : optionnel mais utile

Une carte graphique (GPU) n'est pas obligatoire. Ollama fonctionne très bien sur CPU (processeur classique). La différence :

• Sans GPU : Une réponse prend 2-10 secondes
• Avec GPU NVIDIA : Une réponse prend 0.5-2 secondes

Si vous avez un GPU NVIDIA avec au moins 8 GB de VRAM, Ollama l'utilisera automatiquement. Sinon, pas de souci, le CPU fera le travail.

Les Mac avec Apple Silicon (M1/M2/M3)

Si vous avez un Mac avec puce M1, M2, M3 ou M4, vous êtes en excellente position ! Ces puces intègrent un GPU très performant qui fonctionne nativement avec Ollama. Les performances sont souvent meilleures qu'un PC classique.

Récapitulatif des prérequis

Avant d'installer Ollama, vérifiez que votre machine coche les cases ci-dessous. La RAM est le facteur le plus limitant : c'est elle qui détermine la taille des modèles que vous pourrez charger.

Composant	Minimum	Recommandé	Idéal
RAM	8 GB	16 GB	32 GB
Disque	10 GB libres	50 GB libres	100 GB+ (SSD)
Processeur	64-bit moderne	Multicoeur récent	Apple M1+ ou Intel i7+
GPU	Non requis	NVIDIA 8 GB VRAM	NVIDIA 16 GB+ VRAM
Système	Windows 10, macOS 10.15, Linux moderne

Glissez pour voir

Installation d'Ollama pas à pas

Maintenant que vous savez que votre machine est compatible, passons à l'installation. Je vais vous guider étape par étape selon votre système d'exploitation.

Installation sur Linux (Ubuntu, Debian, Fedora...)

Linux est le système le plus simple pour installer Ollama. Une seule commande suffit :

1. Ouvrez un terminal

   Utilisez le raccourci Ctrl + Alt + T ou cherchez "Terminal" dans vos applications.

2. Lancez le script d'installation

   Copiez-collez cette commande et appuyez sur Entrée :

   # Télécharger le script officiel, l'inspecter, puis l'exécuter
   curl -fsSL https://ollama.com/install.sh -o ollama-install.sh
   less ollama-install.sh
   sh ollama-install.sh

   Que font ces commandes ?

   • curl ... -o ollama-install.sh télécharge le script d'installation depuis le site officiel d'Ollama dans un fichier
   • less ollama-install.sh vous permet de relire le script avant de l'exécuter (ne jamais lancer à l'aveugle un script distant)
   • sh ollama-install.sh exécute le script une fois relu ; il détecte votre distribution Linux et installe Ollama

   Le téléchargement et l'installation prennent généralement 1-2 minutes.

3. Vérifiez l'installation

   Une fois terminé, vérifiez qu'Ollama est bien installé :

   ollama --version

   Vous devriez voir quelque chose comme ollama version 0.30.11 (le numéro peut varier).

4. Vérifiez que le service tourne

   Ollama s'exécute en tant que service en arrière-plan. Vérifiez son état :

   sudo systemctl status ollama

   Vous devriez voir Active: active (running) en vert.

Si quelque chose ne va pas :

# Voir les logs du service pour diagnostiquer
sudo journalctl -u ollama -f

# Redémarrer le service
sudo systemctl restart ollama

Installation sur Windows

1. Téléchargez l'installateur

   Rendez-vous sur ollama.com/download et cliquez sur le bouton "Download for Windows".

   Le fichier OllamaSetup.exe sera téléchargé (environ 200 MB).

2. Lancez l'installation

   Double-cliquez sur le fichier téléchargé. Si Windows vous demande confirmation ("Voulez-vous autoriser cette application..."), cliquez sur "Oui".

   L'assistant d'installation apparaît. Cliquez sur "Install" et attendez quelques instants.

3. Vérifiez l'installation

   Ouvrez PowerShell (cherchez "PowerShell" dans le menu Démarrer) et tapez :

   ollama --version

   Si vous voyez un numéro de version, l'installation est réussie !

4. Note importante : l'icône dans la barre des tâches

   Après l'installation, vous verrez une petite icône Ollama (un lama) dans la zone de notification (en bas à droite). Ollama tourne en arrière-plan, c'est normal et nécessaire pour qu'il fonctionne.

Windows Defender peut ralentir le premier lancement

Lors du premier téléchargement d'un modèle, Windows Defender peut scanner les fichiers, ce qui ralentit le processus. C'est normal et ne se produit qu'une seule fois par modèle.

Installation sur macOS

1. Téléchargez l'application

   Rendez-vous sur ollama.com/download et cliquez sur "Download for macOS".

   Le fichier Ollama-darwin.zip sera téléchargé.

2. Installez l'application

   Double-cliquez sur le fichier ZIP pour le décompresser. Vous obtenez l'application Ollama.app.

   Glissez-déposez Ollama.app dans votre dossier "Applications".

3. Lancez Ollama

   Double-cliquez sur Ollama dans vos Applications. macOS peut vous demander de confirmer ("Ollama est une app téléchargée d'Internet..."), cliquez sur "Ouvrir".

   Une icône de lama apparaîtra dans la barre de menu en haut de l'écran.

4. Vérifiez l'installation

   Ouvrez le Terminal (Applications → Utilitaires → Terminal) et tapez :

   ollama --version

   Vous devriez voir le numéro de version s'afficher.

Télécharger votre premier modèle

Ollama est installé, mais il lui manque le plus important : un modèle IA. C'est le "cerveau" qui va répondre à vos questions.

Comprendre les modèles disponibles

Ollama donne accès à des dizaines de modèles. Pour commencer, je vous recommande Llama 3.2, développé par Meta (l'entreprise derrière Facebook). Pourquoi ce choix ?

• Récent : Sorti fin 2024, il intègre les dernières avancées
• Performant : Excellentes capacités en français et en anglais
• Léger : La version 3B ne pèse que 2 GB
• Polyvalent : Bon pour le texte, le code, la traduction...

Quel modèle pour votre matériel ?

La règle simple, en quantization Q4_K_M (le standard) : prévoyez à peu près autant de VRAM (la mémoire du GPU) que la taille du modèle téléchargé, plus 1 à 2 Go pour le contexte.

• 8 Go de VRAM : modèles 7B/8B (Llama 3.1 8B, Qwen3 8B)
• 16 Go : modèles 13B-14B
• 24 Go et plus : modèles 32B
• Sans GPU : restez sur les petits modèles (1B-3B), sinon la génération est lente.

Si le modèle déborde de la VRAM vers la RAM système, la vitesse chute de 2 à 10 fois : mieux vaut un modèle plus petit qui tient entièrement en VRAM. Le détail (quantization, choix par cas) est dans le guide quel modèle choisir en 2026.

Télécharger Llama 3.2

Ouvrez votre terminal (ou PowerShell sur Windows) et tapez :

ollama pull llama3.2

Que se passe-t-il exactement ?

1. Ollama contacte son registre (une sorte de "magasin" de modèles)
2. Il télécharge le modèle morceau par morceau (vous verrez une barre de progression)
3. Il vérifie l'intégrité des fichiers téléchargés (pour s'assurer qu'ils ne sont pas corrompus)
4. Il optimise le modèle pour votre machine

Le téléchargement prend généralement 2 à 10 minutes selon votre connexion internet. Vous verrez quelque chose comme :

pulling manifest
pulling 74701a8c35f6...  50% ▓▓▓▓▓▓▓▓▓▓░░░░░░░░░░  1.1 GB/2.0 GB  45 MB/s

Que signifie '3B paramètres' ?

Quand on parle de "Llama 3.2 3B", le "3B" signifie 3 milliards de paramètres. C'est le nombre de "connexions neuronales" dans le modèle, comparable au nombre de synapses dans un cerveau.

• Plus de paramètres = modèle plus "intelligent" mais plus gourmand en ressources
• Moins de paramètres = modèle plus rapide mais potentiellement moins précis

Pour un usage personnel, 3B est un excellent compromis. Voici un tableau pour vous repérer :

Taille	RAM minimale	Usage typique
1-3B	4-8 GB	Questions simples, résumés, traduction
7B	8-16 GB	Code, rédaction, raisonnement
13B	16-32 GB	Analyse complexe, créativité
70B	64 GB+	Recherche, usage professionnel

Glissez pour voir

Vérifier que le téléchargement a fonctionné

Une fois le téléchargement terminé, vérifiez que le modèle est bien installé :

ollama list

Vous devriez voir :

NAME              ID              SIZE      MODIFIED
llama3.2:latest   74701a8c35f6    2.0 GB    About a minute ago

Bravo ! Vous avez maintenant une IA locale prête à l'emploi.

Votre première conversation avec l'IA

C'est le moment tant attendu : parler avec votre IA locale.

Lancer une session interactive

Tapez cette commande :

ollama run llama3.2

Après quelques secondes de chargement, vous verrez apparaître une invite de commande :

>>>

C'est ici que vous allez taper vos questions. Le modèle attend votre message !

Exemple de conversation complète

Voici un exemple de ce que vous pouvez faire. Tapez exactement ce qui suit le >>> :

Vous :

>>> Bonjour ! Peux-tu te présenter ?

L'IA répond :

Bonjour ! Je suis un assistant IA basé sur le modèle Llama 3.2, développé par
Meta. Je suis conçu pour vous aider dans diverses tâches comme répondre à vos
questions, générer du texte, traduire, expliquer des concepts, et bien plus
encore.

Je fonctionne entièrement sur votre ordinateur grâce à Ollama, ce qui signifie
que vos conversations restent privées et ne sont envoyées nulle part.

Comment puis-je vous aider aujourd'hui ?

Vous :

>>> Explique-moi ce qu'est Docker comme si j'avais 10 ans

L'IA répond :

Imagine que tu veux jouer à un jeu vidéo chez ton ami. Mais le jeu a besoin de
plein de choses sur l'ordinateur : des fichiers spéciaux, des réglages
particuliers... Si ton ami n'a pas exactement les mêmes choses, le jeu ne
marchera pas !

Docker, c'est comme une boîte magique où tu mets ton jeu avec TOUT ce dont il a
besoin. Quand tu donnes cette boîte à ton ami, il peut ouvrir la boîte et le jeu
marche tout de suite, même si son ordinateur est différent du tien.

Les développeurs utilisent Docker pour mettre leurs programmes dans des "boîtes"
(on appelle ça des "conteneurs"). Comme ça, le programme marche pareil partout,
sur n'importe quel ordinateur !

Vous :

>>> Super ! Maintenant, écris-moi une fonction Python qui compte les mots dans une phrase

L'IA répond :

def compter_mots(phrase):
    """
    Compte le nombre de mots dans une phrase.

    Args:
        phrase (str): La phrase à analyser

    Returns:
        int: Le nombre de mots
    """
    # Supprimer les espaces au début et à la fin
    phrase = phrase.strip()

    # Si la phrase est vide, retourner 0
    if not phrase:
        return 0

    # Séparer la phrase en mots et compter
    mots = phrase.split()
    return len(mots)

# Exemple d'utilisation
texte = "Bonjour, comment allez-vous aujourd'hui ?"
nombre = compter_mots(texte)
print(f"La phrase contient {nombre} mots.")

Quitter la session

Pour terminer la conversation, tapez :

>>> /bye

Vous reviendrez à votre terminal normal.

Astuces pour de meilleures réponses

L'IA fonctionne mieux quand vous lui donnez des instructions claires et détaillées. Voici quelques techniques :

Question vague, à éviter :

>>> Parle-moi de Python

Question précise :

>>> Explique les différences entre les listes et les tuples en Python, avec des exemples de cas où utiliser l'un plutôt que l'autre

Demande générique, à éviter :

>>> Écris du code

Demande contextualisée :

>>> Écris une fonction Python qui prend une liste de nombres et retourne la moyenne, en gérant le cas où la liste est vide. Ajoute des commentaires explicatifs.

Commandes Ollama essentielles

Maintenant que vous savez discuter avec l'IA, voici les commandes indispensables à connaître.

Gérer vos modèles

# Lister tous les modèles installés sur votre machine
ollama list

# Télécharger un nouveau modèle (exemple : Mistral)
ollama pull mistral

# Supprimer un modèle pour libérer de l'espace disque
ollama rm mistral

# Voir les détails d'un modèle (taille, paramètres, licence...)
ollama show llama3.2

Lancer des commandes ponctuelles

Vous n'êtes pas obligé d'ouvrir une session interactive. Vous pouvez poser une question unique :

# Poser une question et obtenir la réponse immédiatement
ollama run llama3.2 "Quelle est la capitale de l'Australie ?"

La réponse s'affiche, puis vous revenez au terminal. C'est pratique pour des questions rapides ou pour intégrer Ollama dans des scripts.

Utiliser plusieurs modèles

Vous pouvez installer plusieurs modèles et basculer entre eux :

# Installer plusieurs modèles
ollama pull llama3.2
ollama pull mistral
ollama pull codellama

# Utiliser Mistral pour cette question
ollama run mistral "Écris un haïku sur l'automne"

# Utiliser CodeLlama pour du code
ollama run codellama "Écris une regex pour valider une adresse email"

Quel modèle pour quel usage ?

Modèle	Taille	Point fort	Commande
llama3.2	2 GB	Polyvalent, bon en français	ollama pull llama3.2
mistral	4 GB	Raisonnement, logique	ollama pull mistral
codellama	4 GB	Génération de code	ollama pull codellama
gemma	2 GB	Léger et rapide	ollama pull gemma
phi	1.5 GB	Ultra-léger	ollama pull phi

Glissez pour voir

Pour débuter, llama3.2 suffit largement. Ajoutez codellama si vous faites beaucoup de développement.

Utiliser Ollama avec Python

Ollama s'appelle aussi depuis vos scripts Python, via l'API REST, le SDK natif ollama, litellm ou le client OpenAI. Le guide dédié déroule les trois approches, un assistant de code complet et des cas d'usage à reproduire : Ollama avec Python.

Dépannage et configuration

Les erreurs courantes (Ollama ne répond pas, modèle introuvable, lenteur) et la configuration (emplacement de stockage, limites mémoire, exposition réseau et sécurité du port 11434, piège du contexte) sont regroupées dans un guide dédié : Ollama : dépannage et configuration.

À retenir

1. Ollama = LLM local, Exécutez des modèles IA comme Llama, Mistral ou CodeLlama directement sur votre machine, sans envoyer vos données à des serveurs tiers.

2. Une seule commande, ollama pull llama3.2 télécharge le modèle, ollama run llama3.2 lance la conversation. Pas de configuration complexe.

3. La RAM est le facteur clé, 8 GB minimum pour les petits modèles (3B), 16 GB recommandés pour les modèles moyens (7B), 32 GB pour les grands (13B+).

4. Gratuit et illimité, Pas d'abonnement, pas de limite de messages, pas de file d'attente. L'IA tourne 24h/24 sur votre PC.

5. Fonctionne hors ligne, Une fois le modèle téléchargé, plus besoin d'internet. Idéal pour la confidentialité ou les déplacements.

6. Intégration Python simple, L'API REST sur le port 11434 permet d'automatiser n'importe quelle tâche avec quelques lignes de code.

Checklist

Installation

• RAM vérifiée (8 GB minimum, 16 GB recommandé)
• Espace disque disponible (20 GB minimum)
• Ollama installé (ollama --version fonctionne)
• Service Ollama actif (icône visible ou systemctl status ollama)

Premier modèle

• Modèle téléchargé (ollama pull llama3.2)
• Session interactive testée (ollama run llama3.2)
• Question test posée et réponse obtenue

Utilisation avancée (optionnel)

• Plusieurs modèles installés (llama3.2, codellama, mistral...)
• Je sais où trouver l'intégration Python si besoin

Prochaines étapes

Ollama ouvre la porte à de nombreuses possibilités. Voici les guides pour approfondir, les 4 nouveautés 2026 d'abord :

📋 Sorties structurées (JSON garanti) Forcer Ollama à produire du JSON valide à 100 % via JSON Schema ou Pydantic. La fonctionnalité 2026 qui change la vie des devs.

🔧 Tool calling, agent local Donner des outils Python au LLM pour créer un agent autonome 100 % en local. Function calling natif avec qwen3 et gemma4.

👁️ Vision avec Ollama (Gemma 4) Analyser des images en local : description, OCR, JSON structuré à partir d'une image. Vision + tools natifs.

📊 Quel modèle choisir en 2026 ? Cheat sheet complet : Llama 4, Qwen 3, Gemma 4, Kimi K2, DeepSeek-R1. VRAM, tokens/s, licence.

Formation IA générative : LLM, RAG et agents Le parcours complet dont ce guide fait partie : comprendre les LLM, les servir, construire un RAG et industrialiser.

SDK Python, Structured Output et embeddings Maîtrisez les fonctionnalités avancées : sorties JSON typées avec Pydantic, embeddings pour RAG et conversation multi-turn.

RAG : connecter les LLM à vos données Créez un chatbot qui répond aux questions sur vos propres documents, rapports, documentation, notes...

Chroma : base de données vectorielle Stockez et recherchez des informations de manière sémantique pour améliorer les réponses de l'IA.

Environnements virtuels Python Isolez vos dépendances Python pour chaque projet IA et évitez les conflits de versions.

Docker : conteneuriser vos applications Déployez Ollama dans un conteneur Docker, avec ou sans GPU.

Questions fréquentes

Qu'est-ce qu'Ollama ?

Ollama est une plateforme open source qui permet d'exécuter des modèles de langage (LLM) directement sur votre ordinateur, sans passer par des API payantes. C'est gratuit, privé (vos données restent locales), fonctionne hors ligne et s'installe simplement. Les cas d'usage incluent le développement, la rédaction, l'apprentissage et le traitement de données sensibles en entreprise.

Quelle est la différence entre Ollama et ChatGPT ?

Ollama s'exécute localement sur votre PC et est gratuit, tandis que ChatGPT fonctionne sur les serveurs OpenAI et est payant (20$/mois pour Plus). Avec Ollama, vos données restent privées et vous pouvez travailler hors ligne. ChatGPT offre une meilleure qualité de réponse mais nécessite une connexion internet. Choisissez Ollama pour la confidentialité et le budget, ChatGPT pour la performance maximale.

Qu'est-ce qu'un LLM (Large Language Model) ?

Un LLM (Large Language Model) est un programme d'intelligence artificielle entraîné sur des milliards de textes pour comprendre et générer du langage. Le nombre après le nom (3B, 7B, 70B) indique les milliards de paramètres. Les modèles 3B nécessitent 4 GB de RAM, 7-8B nécessitent 8 GB, 13B nécessitent 16 GB. Les LLM populaires incluent Llama (Meta), Mistral, CodeLlama et Gemma (Google).

Quelle configuration matérielle faut-il pour Ollama ?

La configuration minimale est 8 GB de RAM, 10 GB SSD et 4 coeurs CPU. La configuration recommandée est 16 GB RAM, 50 GB SSD et 8 coeurs. Un GPU n'est pas obligatoire mais accélère les réponses. Avec 8 GB de RAM, utilisez llama3.2:3b ou gemma:2b. Avec 16 GB, utilisez llama3.1:8b ou mistral. Avec 32 GB+, vous pouvez utiliser llama3.1:70b.

Quel modèle Ollama choisir pour débuter ?

Pour débuter, utilisez Llama 3.2 (3B) : léger, rapide et polyvalent. Pour un usage général avec plus de qualité, choisissez Llama 3.1 (8B). Pour la programmation, préférez CodeLlama. Pour un PC limité (moins de 8 GB RAM), utilisez Gemma 2B. Pour le français de qualité, Mistral est excellent. Commencez par llama3.2, puis testez d'autres modèles selon vos besoins.

Comment installer Ollama sur Linux ?

L'installation sur Linux se fait en une commande : curl -fsSL https://ollama.com/install.sh | sh. Le script détecte votre distribution, télécharge le binaire, crée un service systemd et configure les permissions. Vérifiez avec ollama --version et testez avec ollama run llama3.2. Les modèles sont stockés dans ~/.ollama/models/. Les distributions Ubuntu, Debian, Fedora et CentOS sont officiellement supportées.

Comment installer Ollama sur Windows ?

Sur Windows, téléchargez l'installateur depuis ollama.com/download et exécutez OllamaSetup.exe, ou utilisez winget install Ollama.Ollama en PowerShell administrateur. Vérifiez avec ollama --version. Windows 10 64-bit ou 11 est requis avec minimum 8 GB de RAM. Les modèles sont stockés dans C:\Users\VotreNom\.ollama\. WSL2 n'est pas requis, Ollama est natif Windows.

Comment installer Ollama sur macOS ?

Sur macOS, téléchargez l'application depuis ollama.com/download et glissez-la dans Applications, ou utilisez Homebrew avec brew install ollama. Les Mac Apple Silicon (M1/M2/M3/M4) bénéficient d'une excellente performance grâce à l'accélération GPU Metal native. Avec 8 GB de RAM, utilisez llama3.2 ou gemma:2b. Avec 16 GB, vous pouvez utiliser llama3.1:8b ou mistral.

Comment résoudre l'erreur 'Out of memory' ?

L'erreur Out of memory signifie que votre ordinateur n'a pas assez de RAM pour le modèle. Solutions : utilisez un modèle plus petit comme llama3.2 ou gemma:2b, fermez les applications gourmandes, configurez OLLAMA_MAX_LOADED_MODELS=1 pour limiter les modèles en mémoire, ou en dernier recours ajoutez du swap. Vérifiez la mémoire disponible avec free -h sur Linux.

Comment résoudre l'erreur 'Connection refused' ?

L'erreur Connection refused indique que le service Ollama n'est pas démarré. Solutions : démarrez le service avec sudo systemctl start ollama, ou lancez manuellement avec ollama serve. Vérifiez les logs avec journalctl -u ollama -f. Si le port 11434 est occupé, trouvez le processus avec lsof -i :11434 et tuez-le, ou changez le port avec OLLAMA_HOST=127.0.0.1:8080.

Comment résoudre l'erreur 'Model not found' ?

L'erreur Model not found signifie que le modèle n'est pas installé ou que le nom est incorrect. Vérifiez les modèles installés avec ollama list. Utilisez les noms exacts comme llama3.2 (pas llama3 ou Llama3.2). Si le modèle manque, téléchargez-le avec ollama pull llama3.2. En cas de corruption, supprimez et retéléchargez avec ollama rm puis ollama pull.

Comment résoudre les problèmes de téléchargement des modèles ?

Si le téléchargement échoue, vérifiez la connexion avec curl -I https://registry.ollama.ai. Derrière un proxy, configurez HTTP_PROXY et HTTPS_PROXY. Ollama reprend automatiquement les téléchargements interrompus. Vérifiez l'espace disque avec df -h ~/.ollama et supprimez les anciens modèles avec ollama rm. En dernier recours, téléchargez manuellement le fichier GGUF depuis Hugging Face et importez-le.

Comment résoudre le conflit de port 11434 ?

Le port 11434 est le port par défaut d'Ollama. Si un autre processus l'utilise, trouvez-le avec lsof -i :11434 ou netstat -tulpn | grep 11434, puis tuez-le avec kill. Vous pouvez aussi changer le port Ollama avec export OLLAMA_HOST=127.0.0.1:8080 avant de lancer ollama serve. Pour une configuration permanente, éditez le service systemd avec systemctl edit ollama.

Comment utiliser Ollama avec un GPU NVIDIA ?

Ollama détecte et utilise automatiquement les GPU NVIDIA si le driver est installé. Vérifiez avec nvidia-smi. Prérequis : GPU compatible CUDA (GTX 10xx+, RTX), driver NVIDIA version 525+. Pour vérifier l'utilisation GPU, lancez ollama run llama3.2 --verbose et surveillez avec watch nvidia-smi. VRAM requise : 4 GB pour llama3.2, 8 GB pour llama3.1:8b. Pour forcer le CPU, définissez CUDA_VISIBLE_DEVICES vide.

Comment utiliser l'API REST d'Ollama ?

Ollama expose une API REST sur le port 11434. Les endpoints principaux sont /api/generate pour la génération de texte, /api/chat pour les conversations avec historique, /api/embeddings pour les vecteurs, et /api/tags pour lister les modèles. Utilisez curl avec POST et JSON pour envoyer des requêtes. Le paramètre stream permet des réponses en temps réel. L'API s'intègre facilement avec Python via la bibliothèque requests.

Où sont stockés les modèles Ollama ?

Les modèles sont stockés dans ~/.ollama/models/ sur Linux et macOS, et C:\Users\VotreNom\.ollama\models\ sur Windows. Le dossier contient manifests pour les métadonnées et blobs pour les fichiers binaires GGUF. Pour changer l'emplacement, définissez OLLAMA_MODELS=/nouveau/chemin. Vérifiez l'espace utilisé avec du -sh ~/.ollama/models/ et listez les modèles avec ollama list.

Pour aller plus loin

Pour comprendre comment fonctionnent les LLM sous le capot, le livre Build a Large Language Model From Scratch, Sebastian Raschka code un LLM en Python ligne par ligne, sans framework. La meilleure pédagogie pour démystifier ce qui se passe quand vous appelez Ollama.

Lien affilié Amazon. Acheter via ce lien soutient le site sans surcoût pour vous.

Ressources officielles

• Site web Ollama : ollama.com
• Code source sur GitHub : github.com/ollama/ollama
• Catalogue de modèles : ollama.com/library
• Documentation de l'API : github.com/ollama/ollama/blob/main/docs/api.md

×

📖 Voir la documentation →