Lab pratique · Accès libre

Faire tourner un petit LLM en local avec Docker et Ollama

Un guide progressif pour installer Docker, lancer Ollama, télécharger un modèle et lui envoyer votre première requête sur CPU ou GPU.

Vidéo de présentation

L’objectif du lab et le résultat attendu

Regardez d’abord cette vidéo pour voir le résultat attendu : un petit modèle local lancé avec Docker et Ollama, puis reprenez les étapes dans l’ordre. Aucun compte Global Academy n’est nécessaire.

1. Installer Docker

Docker exécute Ollama dans un conteneur isolé. Téléchargez Docker Desktop depuis docker.com, installez-le, ouvrez-le puis vérifiez l’installation.

docker --version
docker run hello-world

J’ai terminé cette étape1/6

2. Démarrer Ollama dans Docker — CPU

Cette commande utilise l’image officielle Ollama sans option GPU : Docker exécute donc le modèle sur le processeur. Le service reste accessible localement sur le port 11434.

docker run -d --name ollama -p 11434:11434 ollama/ollama

J’ai terminé cette étape2/6

3. Télécharger un modèle avec pull

Téléchargez un modèle léger adapté aux premiers essais. Attendez la fin complète du téléchargement avant de continuer.

docker exec -it ollama ollama pull llama3.2:1b

J’ai terminé cette étape3/6

4. Vérifier avec list

Vérifiez que le modèle apparaît bien dans la liste locale. S’il n’apparaît pas, relancez pull et attendez la fin du téléchargement.

docker exec -it ollama ollama list

J’ai terminé cette étape4/6

5. Exécuter et envoyer un prompt

Le modèle est maintenant vérifié. run le charge en mémoire et le texte entre guillemets devient votre première requête.

docker exec -it ollama ollama run llama3.2:1b "Explique Docker en une phrase."

J’ai terminé cette étape5/6

6. Variante GPU NVIDIA

Avec Docker et le NVIDIA Container Toolkit configurés, utilisez le GPU pour accélérer l’exécution d’un modèle plus grand.

docker run -d --gpus=all --name ollama-gpu -p 11435:11434 ollama/ollama
docker exec -it ollama-gpu ollama pull llama3.2:3b
docker exec -it ollama-gpu ollama list
docker exec -it ollama-gpu ollama run llama3.2:3b "Présente-toi en une phrase."

J’ai terminé cette étape6/6

Dernière étape

Votre certificat de completion

Toutes les étapes sont-elles validées ? Indiquez votre nom pour générer votre certificat.

Nom à afficher sur le certificat

Validez les étapes ci-dessus pour activer le certificat.

Continuer l’apprentissage

Gardez le port local pendant vos premiers tests, ne partagez pas de données sensibles et comparez la vitesse, la mémoire et la qualité des réponses entre CPU et GPU. Les commandes utilisent l’image officielle Ollama publiée sur Docker Hub.

Rejoindre notre communauté