Ollama : faire tourner une IA sur son PC sans dépendre de OpenAI

(Tutoriel documentaire — HexActu teste régulièrement les outils open source mentionnés)

Franchement, on en a marre. Vous tapez une question à ChatGPT, Microsoft vous balance de la pub, Google vous trace, et pendant ce temps votre forfait API se vide plus vite qu'un verre de pastis en terrasse. Spoiler : il existe une alternative. Elle s'appelle Ollama, elle tourne sur votre machine, et elle coûte zéro euro après installation.

Pourquoi c'est important

Actuellement, les LLM (Large Language Models) sont verrouillés chez les GAFAM. OpenAI, Google, Anthropic contrôlent l'accès, les données, les tarifs. Résultat : vous êtes dépendant d'une connexion internet, d'un compte, et vous financez indirectement des entreprises qui vous revendent votre propre attention. Ollama change la donne en vous permettant de faire tourner des modèles open source (comme Llama 2, Mistral, Neural Chat) directement sur votre PC. Plus de latence réseau, plus de tracking, plus de limite d'appels API. C'est du vrai contrôle.

Autre avantage non négligeable : vous pouvez fine-tuner ces modèles avec vos propres données, les customiser, les déployer sans demander permission à personne.

Ce qu'il vous faut avant de commencer

• Un PC décent : au minimum 8 Go de RAM (16 Go recommandé). Les modèles pèsent lourd. Plus vous avez de VRAM GPU, mieux c'est. Ollama supporte NVIDIA CUDA et Apple Metal nativement.
• Ollama : disponible gratuitement sur ollama.ai (site officiel). Téléchargez la version pour votre OS (Windows, macOS, Linux).
• Un peu de patience : le premier téléchargement du modèle peut prendre du temps selon votre débit. Llama 2 7B fait environ 4 Go.
• Un terminal (ou PowerShell pour Windows) : oui, vous allez devoir utiliser une ligne de commande. Pas de panique, c'est très simple.

Étape 1 : Installation d'Ollama

Rendez-vous sur ollama.ai, téléchargez l'installateur correspondant à votre système. Lancez-le, laissez faire l'installation par défaut. Ça ajoute Ollama en arrière-plan et crée un service qui démarre automatiquement.

Pour vérifier que tout fonctionne, ouvrez un terminal et tapez :

ollama --version

Si vous voyez un numéro de version s'afficher, c'est bon. Vous êtes prêt.

Étape 2 : Télécharger et lancer votre premier modèle

Ollama propose une librairie de modèles préconfigurés. Pour démarrer simplement, nous allons utiliser Mistral 7B (plus léger et plus rapide que Llama 2, honnêtement c'est un bon choix en 2026).

Dans votre terminal, tapez :

ollama run mistral

Ollama va télécharger automatiquement le modèle (environ 4 Go pour Mistral 7B). Une fois terminé, vous aurez un prompt où vous pouvez poser des questions directement.

Essayez par exemple :

"Explique-moi la différence entre une API REST et GraphQL en 3 phrases"

Vous verrez le modèle générer la réponse en direct sur votre machine. Pas de serveur distant, pas de tracking. Just you and the math.

Étape 3 : Utiliser Ollama via une interface ou une API

Taper dans le terminal c'est cool, mais vous voudrez probablement intégrer Ollama à une application. Ollama expose une API HTTP locale sur le port 11434.

Exemple simple avec curl :

curl -X POST http://localhost:11434/api/generate -d '{"model": "mistral", "prompt": "Bonjour, qui es-tu ?", "stream": false}'

Si vous préférez une interface graphique, plusieurs outils compatibles existent :

• Open WebUI : interface web gratuite et open source, ressemble à ChatGPT mais tourne en local. À installer via Docker ou directement.
• Ollama.ai Web : l'interface officielle, basique mais efficace.
• LM Studio : alternative graphique plus conviviale pour les débutants.

Pour Open WebUI (recommandé), si vous avez Docker d'installé :

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:latest

Puis rendez-vous sur http://localhost:3000. Vous aurez une interface ChatGPT-like pour discuter avec vos modèles locaux.

Étape 4 : Optimiser pour votre matériel

Si vous avez une GPU NVIDIA, Ollama la détecte automatiquement et l'utilise pour accélérer l'inférence (le calcul des réponses). Vérifiez que vous avez les drivers CUDA à jour.

Sur macOS avec Apple Silicon : Ollama utilise Metal nativement. C'est rapide.

Sur Linux sans GPU : ça marche aussi, mais c'est plus lent. Acceptable pour des expérimentations.

Pour contrôler la consommation mémoire, vous pouvez éditer le fichier de configuration Ollama (généralement ~/.ollama/modelfile) et ajuster les paramètres selon votre RAM disponible.

Les erreurs à éviter

• Télécharger le plus gros modèle : Llama 2 70B c'est impressionnant, mais ça demande 40+ Go de VRAM. Commencez par 7B ou 13B.
• Oublier que c'est local : votre PC doit rester allumé pour utiliser Ollama. C'est pas du cloud.
• Négliger la sécurité réseau : si vous exposez l'API Ollama sur internet sans authentification, n'importe qui peut l'utiliser. Gardez-la en local ou mettez un reverse proxy avec auth (Nginx + Fail2Ban par exemple).
• Attendre des perfs ChatGPT4 : Mistral et Llama 7B sont bons, mais pas à la hauteur des modèles propriétaires les plus puissants. C'est un compromis entre liberté et performance.
• Ignorer les mises à jour : Ollama améliore régulièrement la compatibilité GPU et les performances. Mettez à jour de temps en temps.

Notre verdict

Ollama c'est l'outil qu'on attendait : simple, efficace, open source, gratuit. En 2026, il n'y a aucune excuse pour rester dépendant de ChatGPT si vous avez un PC correct. Vous gagnez en confidentialité, en autonomie, et franchement en coolitude (faire tourner une IA sur sa machine, c'est quand même ouf).

Le seul hic : si vous avez besoin de la puissance brute d'un GPT-4 pour du travail professionnel critique, vous serez limité. Mais pour 90% des usages (documentation, brainstorming, apprentissage, scripts) ? Ollama suffit amplement.

Action aujourd'hui : Allez sur ollama.ai, installez Ollama, lancez "ollama run mistral" dans un terminal, et posez votre première question. Vous verrez, ça marche. Et ça change vraiment votre rapport à l'IA quand vous savez qu'elle tourne chez vous.

Sources et références

• Site officiel Ollama : ollama.ai
• Documentation Ollama sur les modèles supportés : ollama.ai/library
• Open WebUI (interface graphique open source) : github.com/open-webui/open-webui
• Mistral AI - documentation modèle Mistral 7B : mistral.ai
• Meta Llama 2 - documentation officielle : llama.meta.com
• Tendances observées sur les forums geek (Reddit r/LocalLLM, HackerNews) concernant adoption Ollama en 2025-2026