Comment installer et utiliser Ollama pour exécuter de grands modèles de langage (LLM) sur votre ordinateur Windows 11

De nos jours, la plupart d'entre nous interagissons le plus souvent avec l'intelligence artificielle via des outils en nuage comme ChatGPT ou Copilot . Ces outils nécessitent une connexion internet, mais leur principal avantage est qu'ils sont utilisables sur quasiment n'importe quel appareil.

Mais tout le monde, et surtout les développeurs, ne souhaite pas s'appuyer sur le cloud pour ses applications d'IA. Il est donc essentiel que votre modèle de langage étendu (LLM) s'exécute localement sur votre machine. C'est là qu'Ollama entre en jeu.

Ollama est un outil d'inférence qui vous permet d'exécuter nativement un large éventail de grands modèles de langage (LLM) sur votre ordinateur. Ce n'est pas la seule façon de procéder, mais c'est l'une des plus simples et des plus directes. Ollama vous permet d'exploiter la puissance de l'IA sans connexion internet permanente, vous offrant ainsi un contrôle total sur vos données et votre confidentialité.

Une fois opérationnel, vous disposez de nombreuses possibilités avec Ollama et les grands modèles de langage (LLM) qu'il utilise, mais la première étape est la configuration. Nous vous guiderons pas à pas dans cette démarche pour tirer le meilleur parti de cet outil performant.

Configuration requise pour Ollama

L'exécution d'Ollama ne consomme pas beaucoup de ressources système et peut être exécutée sur une large gamme d'appareils. Il est compatible avec Windows 11, macOS et Linux. Vous pouvez même l'utiliser depuis vos distributions Linux sous Windows 11 via WSL.

Cependant, l'exécution de grands modèles linguistiques (LLM) nécessite un matériel plus puissant. Plus le modèle est grand, plus la puissance de traitement requise est importante. Ces modèles nécessitent un processeur graphique (GPU). Actuellement, ils ne sont pas optimisés pour l'unité de traitement neuronal (NPU) des nouveaux PC Copilot+.

Heureusement, il existe des modèles plus petits utilisables sur du matériel modeste. Par exemple, le modèle Gemma 3 de Google, doté d'un modèle à 1 milliard de paramètres, ne nécessite que 2.3 Go de mémoire vive (VRAM) pour exécuter le modèle complet. Ce nombre passe à plus de 9 Go de VRAM si l'on passe au modèle à 4 milliards de paramètres.

Il en va de même pour Llama 3.2 de Meta : le modèle à 1 milliard de paramètres nécessite un GPU avec seulement 4 Go de VRAM pour fonctionner correctement. Ce nombre passe ensuite à 8 Go pour le modèle à 3 milliards de paramètres.

En bref, si vous disposez d'un ordinateur relativement moderne avec au moins 8 Go de RAM et un GPU dédié, vous devriez pouvoir bénéficier de certains avantages en utilisant Ollama.

Guide d'installation d'Ollama sur Windows 11

L'installation d'Ollama sur Windows 11 est un processus très simple qui consiste à télécharger le programme d'installation depuis le site web officiel ou depuis le dépôt GitHub , puis à l'installer sur votre appareil.

Voici les étapes simples.

Après l'installation et le lancement, rien n'apparaîtra sur votre bureau. Le programme s'exécute entièrement en arrière-plan, mais vous pouvez voir son icône dans la barre des tâches.

Pour vérifier que le programme fonctionne correctement, vous pouvez vous rendre à l'adresse localhost:11434 dans votre navigateur web.

Installez et exécutez votre premier grand modèle de langage (LLM) sur Ollama

Pour exécuter votre premier grand modèle de langage (LLM) avec Ollama, vous devrez principalement utiliser l'interface de ligne de commande (CLI). Ouvrez PowerShell sous Windows ou utilisez WSL si Ollama y est installé.

Bien qu'il existe des interfaces utilisateur graphiques (GUI) pour Ollama, nous nous concentrons ici sur l'utilisation de la ligne de commande. Il est conseillé de maîtriser l'interface de ligne de commande.

Les deux principales choses que vous devez savoir sont :

courir

mets-le

Si vous demandez à Ollama d'exécuter un formulaire LLM qui n'est pas installé, il le téléchargera et l'exécutera automatiquement. Vous trouverez facilement le nom des formulaires linguistiques volumineux que vous souhaitez installer sur le site web d'Ollama.

Par exemple, pour installer et exécuter le modèle Google Gemma 3 LLM à 1 milliard de paramètres, entrez la commande suivante :

course d'ollama Gemma:1b

Notez que l'ajout de `:1b` après le nom indique que vous souhaitez le modèle avec 1 milliard de paramètres. Si vous souhaitez le modèle avec 4 milliards de paramètres, vous devez le remplacer par `:4b`.

L'exécution de formulaires sur votre terminal ouvrira une expérience de chatbot familière, vous permettant d'écrire vos invites et de recevoir des réponses, le tout exécuté localement sur votre appareil.

Pour quitter le formulaire et revenir à PowerShell, tapez simplement **/bye** et le processus sera terminé.

Ce cours couvre les bases de la configuration d'Ollama sur votre ordinateur pour utiliser la suite de LLMs disponibles. L'expérience de base est très simple et facile à utiliser, ne nécessitant pratiquement aucune connaissance technique. Si j'y suis parvenu, vous le pouvez aussi !