LLM AI open source : déployer et utiliser un modèle de langage sur son VPS

Les LLM AI open source attirent de plus en plus les développeurs, administrateurs système et entreprises qui souhaitent utiliser l’intelligence artificielle sans dépendre uniquement d’une API cloud externe. 😊Les services comme OpenAI, Anthropic ou Google sont puissants, mais ils peuvent entraîner deux limites importantes : un coût d’utilisation variable selon le volume de requêtes, et des questions de confidentialité des données lorsque des documents clients, du code propriétaire ou des informations sensibles sont envoyés vers un prestataire tiers.✨

Avec un VPS Linux, il devient possible d’héberger un modèle IA local grâce à Ollama, sans clé API obligatoire. L’approche ne transforme pas un VPS CPU en machine GPU haute performance, mais elle permet de créer une IA auto-hébergée, maîtrisée, utile pour des usages internes, des tests, de l’automatisation ou du traitement confidentiel.🔒

Objectif

L’objectif de ce tutoriel est de vous guider pas à pas pour installer Ollama sur un VPS KVM LWS sous Ubuntu ou Debian, puis télécharger un modèle de langage open source adapté aux ressources disponibles. ⚡Vous apprendrez à vérifier la mémoire et l’espace disque, lancer un premier modèle depuis le terminal, utiliser l’API REST locale d’Ollama et comprendre les bonnes pratiques de sécurité avant toute exposition externe.☺😉 Ollama propose une intégration locale via une API accessible par défaut sur localhost:11434, ce qui permet d’intégrer le modèle dans des scripts ou applications sans exposer directement le service sur Internet. En fin de parcours, votre VPS pourra exécuter un LLM local sans API cloud, avec une supervision depuis le Panel KVM LWS et une architecture pensée pour préserver la maîtrise des données.

Pré-requis

Avant de commencer :

• prévoyez un VPS KVM LWS avec accès root SSH, idéalement sous Ubuntu 22.04/24.04 ou Debian 11/12. Pour un petit modèle de 3 à 4 milliards de paramètres, 8 Go de RAM peuvent suffire. Pour un modèle 7B ou 8B, visez plutôt 16 Go de RAM afin d’éviter une saturation rapide.
• Gardez aussi au moins 10 à 20 Go d’espace disque libre, car les modèles peuvent occuper plusieurs gigaoctets. Les offres VPS KVM LWS mettent en avant un stockage SSD NVMe et des fonctions de sauvegarde, utiles pour ce type d’installation serveur.
• Enfin, gardez en tête qu’un VPS KVM standard fonctionne ici en inférence CPU, sans GPU dédié : les réponses seront donc plus lentes qu’avec une infrastructure IA spécialisée.

Pourquoi faire tourner un LLM sur son VPS : les cas d’usage réels

Déployer un LLM open source sur VPS répond à un besoin très concret : garder la main sur l’exécution du modèle, les données traitées et les coûts. Pour une entreprise, un indépendant ou une équipe technique, cette approche permet de tester des usages IA sans envoyer systématiquement les contenus vers une plateforme externe.

Cette solution est particulièrement pertinente pour résumer des documents internes, analyser des textes, assister un développeur, générer des brouillons, créer des réponses automatiques ou enrichir une application métier via une API IA locale. Ollama est disponible sur Linux et propose une API utilisable pour intégrer le modèle dans une application ou un workflow.

Il faut toutefois rester réaliste. Un VPS sans GPU ne fournit pas les mêmes performances qu’une API IA commerciale ou qu’un serveur équipé d’une carte graphique spécialisée. Les grands modèles, notamment les modèles 70B, ne sont généralement pas adaptés à une inférence CPU sur VPS classique.

Le bon choix consiste donc à privilégier des modèles plus légers, comme des modèles 3B, 4B, 7B ou 8B, selon la mémoire disponible. L’administrateur doit aussi gérer l’espace disque, les mises à jour d’Ollama, les modèles installés et la sécurité réseau. C’est le prix de l’IA auto-hébergée : plus de contrôle, mais aussi plus de responsabilité technique.

Besoin d’un serveur VPS KVM performant et flexible ?

Découvrez nos offres VPS KVM haut de gamme : des ressources garanties et un contrôle total pour vos projets. Profitez d’un hébergement 100 % SSD, d’un accès root complet, le tout dans un datacenter en France. Démarrez dès maintenant à partir de 4,99 €/mois !

Je choisis mon VPS KVM

Comprendre Ollama : ce que c’est exactement

Ollama est un outil qui permet d’installer, de télécharger et d’exécuter facilement des modèles de langage open source sur une machine locale ou un serveur Linux. Dans le cadre de ce tutoriel, il sert d’intermédiaire entre votre VPS KVM LWS et le LLM AI open source que vous souhaitez utiliser. Au lieu de configurer manuellement un moteur d’inférence, les fichiers du modèle, les paramètres de lancement et l’accès API, Ollama simplifie l’ensemble avec quelques commandes.

Concrètement, Ollama permet de récupérer des modèles depuis sa bibliothèque officielle, puis de les lancer depuis le terminal avec une commande comme ollama run.

Sa documentation indique que l’API locale est exposée, après installation, sur l’URL de base http://localhost:11434/api. Cela signifie que le service répond localement sur le VPS, sans être automatiquement publié sur Internet.

Ollama propose aussi une API utilisable par des scripts, des applications ou des outils d’automatisation. Pour un administrateur VPS, c’est un point important : le modèle IA local peut être interrogé par un script Python, une application web, un workflow n8n ou un connecteur interne, sans passer par une API cloud payante.

Il faut toutefois bien comprendre ce qu’Ollama n’est pas. Ce n’est pas une interface graphique complète comme ChatGPT. Ce n’est pas non plus un service cloud managé, ni une plateforme d’entraînement ou de fine-tuning avancé. Ollama sert principalement à exécuter des modèles LLM localement, à les gérer plus simplement et à fournir une API REST locale exploitable dans vos projets. Pour une interface web, il faudra ajouter une solution complémentaire comme Open WebUI, que nous verrons plus loin.

Besoin d’un serveur VPS KVM performant et flexible ?

Découvrez nos offres VPS KVM haut de gamme : des ressources garanties et un contrôle total pour vos projets. Profitez d’un hébergement 100 % SSD, d’un accès root complet, le tout dans un datacenter en France. Démarrez dès maintenant à partir de 4,99 €/mois !

Je choisis mon VPS KVM

Choisir le bon modèle selon les ressources du VPS

Le choix du modèle est l’étape la plus importante lorsque l’on veut déployer un LLM open source sur VPS. Un modèle trop lourd peut saturer la mémoire, ralentir fortement le serveur ou empêcher le service de démarrer correctement. Sur un VPS sans GPU dédié, il faut raisonner en priorité selon la RAM disponible, l’espace disque et le type d’usage attendu.

Les petits modèles sont adaptés aux tests, aux résumés simples, aux réponses courtes ou à l’automatisation légère. Les modèles 7B ou 8B offrent généralement de meilleurs résultats, mais demandent davantage de mémoire. Les modèles beaucoup plus volumineux, comme les modèles 24B, 30B ou 70B, doivent être abordés avec prudence sur une infrastructure CPU-only.

Parmi les modèles légers, Phi-3 Mini est intéressant pour un VPS de taille modeste : la fiche Ollama le présente comme un modèle de 3,8 milliards de paramètres, conçu pour rester léger. Gemma 3 propose également plusieurs tailles, dont des variantes compactes comme 1B et 4B, pensées pour des environnements aux ressources limitées.

Pour un VPS plus confortable, Mistral 7B reste un choix pertinent : la fiche Ollama indique qu’il s’agit d’un modèle 7B distribué sous licence Apache. Qwen 3 8B peut aussi être envisagé pour des usages plus polyvalents, notamment lorsque l’on recherche un modèle récent avec plusieurs variantes dans la famille Qwen.

Sur un VPS KVM LWS sans GPU, ne promettez pas des performances comparables à une plateforme IA cloud. L’inférence CPU fonctionne, mais elle est plus lente. Pour un usage confortable, mieux vaut commencer par un modèle raisonnable, mesurer la consommation réelle, puis augmenter progressivement la taille du modèle si les ressources le permettent.

Créer un snapshot LWS avant l’installation

Avant d’installer Ollama, créez un snapshot LWS de votre VPS. Cette étape est simple, mais elle peut vous éviter une restauration longue en cas de mauvaise manipulation, d’installation incomplète ou de manque d’espace disque pendant le téléchargement d’un modèle volumineux.

Un snapshot fige l’état du serveur à un instant donné. Vous pouvez ainsi revenir en arrière si le système devient instable, si un service ne démarre plus correctement ou si vous souhaitez annuler les modifications.

Sur la page des VPS KVM LWS, LWS indique que les offres incluent des sauvegardes quotidiennes et jusqu’à trois snapshots gratuits simultanés pour figer l’état du VPS.

Dans le Panel KVM LWS, ouvrez la gestion de votre VPS, rendez-vous dans la partie dédiée aux snapshots.

Puis créez un instantané avant de poursuivre. C’est une bonne pratique avant toute installation serveur significative.

Installer Ollama sur le VPS

L’installation d’Ollama sur un VPS Linux se fait depuis un terminal SSH avec un compte disposant des droits nécessaires. La méthode officielle pour Linux indiquée sur la page de téléchargement d’Ollama repose sur une commande curl qui récupère et exécute le script d’installation.

Avant de lancer cette commande, il faut toutefois vérifier deux points : l’espace disque disponible et la mémoire RAM. Ces contrôles évitent de télécharger un modèle trop lourd pour votre VPS. Les étapes suivantes vont donc commencer par les vérifications système, puis l’installation du service, le contrôle de systemd et le test de l’API locale.

1. Vérifier l’espace disque disponible

Avant d’installer Ollama sur votre VPS Linux, commencez par vérifier que le serveur dispose de suffisamment de ressources. Cette étape est importante, car un modèle LLM open source peut occuper plusieurs gigaoctets sur le disque et consommer une part importante de la mémoire vive pendant l’inférence.

Connectez-vous à votre VPS KVM LWS en SSH en utilisant vos accès root.

Puis exécutez les commandes suivantes :

df -h /
free -h

La commande df -h / affiche l’espace disque disponible sur la partition principale comme vous pouvez le voir sur la capture ci-dessous :

La commande free -h indique la quantité de RAM disponible et l’utilisation éventuelle du swap.

Pour un premier test avec un petit modèle, gardez au minimum 10 Go d’espace libre. Pour plusieurs modèles ou un modèle 7B/8B, prévoyez plutôt 20 Go ou plus.

Si votre VPS manque d’espace disque ou de mémoire, mieux vaut corriger le problème avant de poursuivre. Télécharger un modèle trop volumineux sur un serveur déjà presque plein peut provoquer des erreurs d’installation, ralentir le système ou rendre le VPS difficile à administrer.

2. Installer Ollama

Une fois les ressources vérifiées, vous pouvez installer Ollama. La méthode officielle pour Linux consiste à exécuter le script d’installation fourni depuis la page de téléchargement d’Ollama. Au moment de la vérification et de cette rédaction, la commande Linux officielle indiquée est la suivante :

curl -fsSL https://ollama.com/install.sh | sh

Cette commande télécharge le script d’installation et l’exécute sur le serveur. Sur un VPS Ubuntu ou Debian administré en root, elle permet d’installer Ollama directement depuis le terminal SSH. Si vous utilisez un utilisateur non root avec privilèges sudo, vérifiez que votre session dispose bien des droits nécessaires. Regardez le résultat de l’installation de Ollama sur notre VPS KVM LWS de test dans la capture ci-dessous :

Pendant l’installation, le script prépare les fichiers nécessaires au fonctionnement d’Ollama. Sur Linux, Ollama peut ensuite être géré comme un service système. C’est ce service qui permettra au LLM local de rester disponible sur le VPS, même après la fermeture de votre session SSH.

À ce stade, ne téléchargez pas encore de modèle. L’objectif est d’abord de confirmer que le service Ollama est correctement installé et actif.

3. Vérifier que le service est actif

Après l’installation, vérifiez que le service Ollama fonctionne correctement. Utilisez la commande suivante :

systemctl status ollama

Le retour attendu doit indiquer un service actif, avec une ligne proche de :

active (running)

Vous pouvez également contrôler la version installée avec :

ollama --version

Cette vérification est utile pour deux raisons. D’abord, elle confirme que le binaire Ollama est bien disponible depuis le terminal. Ensuite, elle vous permet de comparer la version installée avec la version stable publiée sur le site officiel si vous préparez une mise en production.

Si le service n’est pas actif, ne passez pas tout de suite à l’étape suivante. Relancez d’abord le service avec :

systemctl restart ollama

Puis vérifiez à nouveau son état :

systemctl status ollama

4. Vérifier que l’API répond localement

Ollama expose une API locale qui permet d’interagir avec les modèles depuis des scripts, des applications ou des outils externes. La documentation officielle indique que l’API d’Ollama est servie par défaut à l’adresse http://localhost:11434/api après installation.

Pour vérifier rapidement que le service répond sur votre VPS, lancez :

curl http://localhost:11434/

Si Ollama fonctionne correctement, vous devez obtenir un message de confirmation du type :

Ollama is running

Ce test est volontairement effectué sur localhost. Cela signifie que le service répond depuis le VPS lui-même, sans être exposé publiquement sur Internet. C’est le comportement recherché pour une première installation sécurisée : votre API IA locale reste accessible uniquement depuis le serveur.

Vous pouvez aussi vérifier la base API documentée avec :

curl http://localhost:11434/api/tags

Tant qu’aucun modèle n’a été téléchargé, la réponse peut être vide ou ne lister aucun modèle. C’est normal. Les modèles seront installés dans l’étape suivante avec la commande ollama pull.

Télécharger et lancer un premier modèle

Une fois Ollama installé sur votre VPS, l’étape suivante consiste à télécharger un premier modèle de langage open source. Ollama fonctionne avec une bibliothèque de modèles que vous pouvez récupérer depuis le terminal, sans configurer manuellement les fichiers du modèle. La documentation CLI d’Ollama indique notamment les commandes ollama pull pour télécharger un modèle, ollama run pour l’exécuter, ollama rm pour le supprimer et ollama ls pour lister les modèles locaux.

Pour ce tutoriel, nous utilisons Mistral comme exemple, car il s’agit d’un modèle 7B disponible dans la bibliothèque Ollama, avec une taille indiquée d’environ 4,4 Go pour le tag mistral:latest.

1. Télécharger un modèle (exemple : Mistral 3 8B)

Depuis votre session SSH, lancez la commande suivante :

ollama pull mistral

Cette commande télécharge le modèle Mistral sur votre VPS.

Selon la connexion réseau, l’espace disque disponible et la charge du serveur, l’opération peut prendre quelques minutes. Ollama indique que le modèle mistral:latest pèse environ 4,4 Go, ce qui confirme l’importance d’avoir vérifié l’espace disque avant cette étape. Une fois que tout est terminé, vous avez le message du succès.

Sur un VPS KVM LWS sans GPU dédié, ce modèle reste exploitable pour des tests et des usages non temps réel, mais il faut garder des attentes raisonnables. L’inférence CPU sera plus lente qu’avec une infrastructure équipée d’un GPU. Si votre VPS dispose de peu de RAM, commencez plutôt par un modèle plus léger, puis augmentez progressivement.

2. Lancer une session de chat interactive

Une fois le modèle téléchargé, vous pouvez lancer une session interactive avec :

ollama run mistral

La page officielle du modèle Mistral indique justement cette commande comme usage CLI pour l’exécuter avec Ollama. Après le chargement du modèle, le terminal affiche un prompt interactif. Vous pouvez alors saisir une demande en français, par exemple :

Réponds en français. Explique en 5 lignes ce qu’est un LLM open source.

Ollama génère ensuite une réponse directement dans le terminal, comme vous le voyez sur l’image ci-haut. Pour quitter la session, utilisez :

/bye

Cette première interaction permet de valider que le LLM local fonctionne réellement sur votre VPS. C’est aussi un bon moment pour ouvrir la supervision du Panel KVM LWS et observer la consommation CPU/RAM pendant la génération.

3. Commandes de gestion essentielles

Après vos premiers tests, quelques commandes permettent de gérer proprement vos modèles Ollama :

ollama list          # Lister les modèles installés et leur taille
ollama ps            # Voir les modèles actuellement chargés en mémoire
ollama pull phi3     # Télécharger un autre modèle sans le lancer
ollama rm mistral    # Supprimer un modèle pour libérer de l'espace disque
ollama stop mistral  # Décharger un modèle de la mémoire

La documentation CLI officielle mentionne notamment ollama pull, ollama rm et ollama ls pour télécharger, supprimer et lister les modèles. La FAQ Ollama indique aussi que ollama ps sert à voir les modèles chargés en mémoire, avec une colonne permettant d’identifier si le modèle tourne côté CPU ou GPU. Sur un VPS KVM LWS CPU-only, vous devez donc vous attendre à une exécution en mémoire système.

Enfin, ollama stop permet de décharger un modèle de la mémoire lorsqu’il n’est plus nécessaire. C’est une bonne habitude sur un VPS Linux : elle évite de conserver inutilement un modèle en RAM et limite les risques de saturation lors d’autres tâches serveur.

Utiliser l’API REST locale d’Ollama

L’un des grands intérêts d’Ollama sur VPS est de ne pas limiter l’usage du modèle au terminal. Une fois le service installé, vous pouvez interroger votre LLM AI open source depuis une application, un script, un outil d’automatisation ou un service interne. Ollama documente une API locale servie par défaut sur http://localhost:11434/api, utilisable notamment avec curl.

Cette approche est pratique pour transformer votre VPS Linux en brique IA privée. Par exemple, un script Python peut envoyer un texte à résumer, une application métier peut générer une réponse automatique, ou un workflow n8n peut appeler le modèle pour classer des contenus. Dans tous les cas, l’appel reste local au VPS tant que vous utilisez localhost.

Le point important est de bien distinguer deux usages. D’un côté, l’API native Ollama, avec des endpoints comme /api/generate ou /api/chat. De l’autre, l’endpoint compatible OpenAI, qui permet d’adapter certains scripts déjà conçus pour l’écosystème OpenAI en changeant l’URL de base. Cette compatibilité est utile, mais elle doit toujours être testée avec la version d’Ollama installée avant une mise en production.

1. Appel simple depuis le terminal

Pour tester l’API REST locale d’Ollama, vous pouvez envoyer une requête simple vers /api/generate. La documentation officielle donne ce type d’appel comme exemple d’utilisation de l’API locale.

curl http://localhost:11434/api/generate \
  -d '{
    "model": "mistral",
    "prompt": "Explique le swap Linux en 3 phrases.",
    "stream": false
  }'

Le paramètre "model" indique le modèle à utiliser. Il doit correspondre à un modèle déjà téléchargé avec ollama pull. Le paramètre "prompt" contient la demande envoyée au modèle IA local. Enfin, "stream": false demande à Ollama de retourner la réponse complète en une seule fois, ce qui simplifie la lecture dans le terminal ou dans un script.

Si le modèle n’est pas encore installé, Ollama ne pourra pas générer de réponse avec ce nom. Dans ce cas, vérifiez les modèles disponibles localement avec :

ollama list

Ce premier appel API permet de confirmer que votre LLM local sans API cloud peut être utilisé autrement que via ollama run.

2. Endpoint compatible OpenAI

Ollama propose aussi une compatibilité avec plusieurs endpoints au format OpenAI, dont /v1/chat/completions. La documentation officielle indique que cet endpoint prend en charge les chat completions, le streaming, le mode JSON, les sorties reproductibles, la vision, les outils et certains paramètres de raisonnement selon les modèles utilisés.

Cette compatibilité permet d’adapter un script existant en remplaçant principalement l’URL de base par celle d’Ollama. Voici un exemple simple avec Python et la bibliothèque requests :

import requests

response = requests.post(
    "http://localhost:11434/v1/chat/completions",
    json={
        "model": "mistral",
        "messages": [
            {
                "role": "user",
                "content": "Résume ce texte en 3 points : ..."
            }
        ],
        "stream": False
    },
    timeout=120
)

response.raise_for_status()
data = response.json()
print(data["choices"][0]["message"]["content"])

Dans cet exemple, l’application ne contacte pas une API externe : elle interroge votre VPS KVM LWS sur localhost. C’est précisément ce qui rend l’approche intéressante pour un projet qui traite des données sensibles ou qui veut éviter des coûts variables à chaque requête.

Avant de migrer un script complet, testez toujours les paramètres utilisés. Certains champs OpenAI peuvent ne pas se comporter exactement comme avec une API cloud, notamment selon le modèle, la version d’Ollama et les capacités activées. Pour un usage stable, commencez avec des requêtes simples, puis ajoutez progressivement le streaming, le mode JSON ou les outils si votre modèle les prend en charge.

Sécuriser l’accès à Ollama

La sécurité est un point central lorsque vous installez une IA open source auto-hébergée sur un VPS. Par défaut, l’usage local d’Ollama ne nécessite pas d’authentification lorsqu’il est appelé depuis http://localhost:11434. La documentation officielle précise qu’aucune authentification n’est requise pour accéder localement à l’API Ollama via cette adresse.

Ce comportement est adapté à une installation initiale : votre API IA locale reste disponible pour les scripts exécutés sur le VPS, sans être exposée directement sur Internet. Il ne faut donc pas ouvrir le port 11434 publiquement sans protection. Un LLM local peut recevoir des prompts sensibles, consommer fortement le CPU et être détourné si l’accès est mal sécurisé.

Si vous devez accéder à Ollama depuis l’extérieur, évitez d’exposer directement le service avec une configuration trop permissive. Préférez un reverse proxy Nginx avec HTTPS, authentification, restrictions IP ou mécanisme de clé API côté application. Vous pouvez aussi limiter l’accès à un VPN ou à un tunnel sécurisé. L’objectif est simple : ne jamais laisser une API de génération IA accessible librement sur l’IP publique de votre VPS.

Pendant les tests, surveillez aussi la consommation de ressources depuis le Panel KVM LWS. Au moment de l’interaction avec Ollama, nous avons effectivement constaté au pic comme le graphique ci-dessous :

Une génération longue peut utiliser fortement le CPU et augmenter la mémoire consommée. Cette supervision permet d’identifier rapidement un modèle trop lourd, une file de requêtes trop importante ou un risque de ralentissement général du serveur. Pour en savoir plus, découvrez comment sécuriser l’accès à votre API Ollama derrière un reverse proxy Nginx.

Option avancée — Open WebUI : interface graphique pour Ollama

L’utilisation d’Ollama en ligne de commande suffit pour tester un LLM AI open source ou l’intégrer dans un script. En revanche, si vous souhaitez offrir une interface plus simple à un utilisateur non technique, vous pouvez ajouter Open WebUI. Il s’agit d’une interface web auto-hébergée compatible avec Ollama et avec des API compatibles OpenAI. Le projet se présente comme une plateforme IA self-hosted, utilisable hors ligne, avec des fonctions comme la gestion de plusieurs modèles et le RAG.

La méthode Docker officielle expose l’interface sur le port 3000 du serveur, avec un volume persistant pour conserver les données de l’application. La documentation Open WebUI rappelle que le volume open-webui:/app/backend/data est important pour éviter la perte de données lors des redémarrages ou mises à jour.

docker pull ghcr.io/open-webui/open-webui:main

docker run -d \
  -p 3000:8080 \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Une fois le conteneur lancé, Open WebUI est disponible côté serveur sur le port 3000. Si vous l’utilisez uniquement en local depuis le VPS, gardez l’accès restreint. Si vous souhaitez ouvrir l’interface depuis Internet, placez-la derrière un reverse proxy Nginx, activez le HTTPS, ajoutez une authentification et évitez toute exposition directe non protégée.

Attention également à la connexion entre Open WebUI et Ollama. Si Ollama tourne sur l’hôte Linux et Open WebUI dans un conteneur Docker, localhost ne désigne pas toujours le même environnement. La documentation Open WebUI signale que le conteneur peut ne pas atteindre Ollama sur 127.0.0.1:11434 et mentionne l’usage de --network=host comme solution dans certains cas, avec un port d’accès qui peut alors changer.

Pour une installation de production, évitez les tags trop mouvants si vous souhaitez stabiliser votre environnement. Open WebUI recommande de pouvoir épingler une version précise plutôt que d’utiliser uniquement un tag flottant comme main.

Besoin d’un serveur VPS KVM performant et flexible ?

Découvrez nos offres VPS KVM haut de gamme : des ressources garanties et un contrôle total pour vos projets. Profitez d’un hébergement 100 % SSD, d’un accès root complet, le tout dans un datacenter en France. Démarrez dès maintenant à partir de 4,99 €/mois !

Je choisis mon VPS KVM

Cas d’usage concrets sur un VPS LWS

Un LLM open source sur VPS devient intéressant dès que vous avez besoin d’automatiser des traitements IA tout en gardant la maîtrise du serveur :

• Le premier cas d’usage concerne les documents confidentiels : contrats, rapports internes, comptes rendus, cahiers des charges ou notes techniques. Plutôt que d’envoyer ces contenus vers une API externe, vous pouvez les traiter sur votre propre VPS, avec un modèle local adapté au volume et à la sensibilité des données.
• Le deuxième cas d’usage est l’automatisation via API REST. Ollama peut être appelé depuis un script Python, une application Node.js, une tâche cron ou un outil d’automatisation. L’intérêt est de générer des résumés, classer des textes, reformuler des contenus, préparer des brouillons ou enrichir une base interne sans coût à chaque requête. Les intégrations n8n documentent d’ailleurs un nœud Ollama permettant d’utiliser un modèle local dans des workflows d’automatisation.
• Troisième cas : connecter votre LLM local Ollama à WordPress 7.0 dans une logique de provider IA local. Dans ce scénario, WordPress ou une extension métier peut déléguer certaines tâches à l’API Ollama hébergée sur le même VPS ou sur un VPS privé. L’avantage est de garder les appels IA dans une infrastructure maîtrisée, sans dépendre systématiquement d’une clé API externe.

Enfin, un assistant de développement local peut être utile pour travailler sur du code propriétaire. Des outils comme Continue documentent l’usage de modèles auto-hébergés et expliquent que, lorsqu’une API est compatible OpenAI, il est souvent possible de configurer un provider OpenAI en changeant l’URL de base vers le serveur concerné. Pour un développeur, cela permet d’obtenir une assistance au codage, des explications ou des résumés sans envoyer automatiquement le code vers un service cloud tiers.

Vérification du bon fonctionnement

Après l’installation, le téléchargement du modèle et les premiers tests, prenez le temps de vérifier que votre IA open source auto-hébergée fonctionne correctement. Cette étape permet d’identifier rapidement une erreur de service, un modèle absent, une API inaccessible ou un problème de ressources.

Commencez par contrôler le service :

systemctl status ollama

Le service doit être indiqué comme active (running). Vérifiez ensuite que l’API répond localement :

curl http://localhost:11434/

Le message attendu est :

Ollama is running

Listez ensuite les modèles installés :

ollama list

Vous devez retrouver le modèle téléchargé, par exemple Mistral, avec sa taille. Lancez enfin une session interactive :

ollama run mistral

Posez une question simple en français et vérifiez que le modèle répond correctement. Pendant cette génération, ouvrez la supervision du Panel KVM LWS. Un pic CPU peut apparaître : c’est normal, car l’inférence CPU mobilise fortement les ressources pendant la génération. Si la RAM est saturée ou si le serveur devient difficile à utiliser, le modèle choisi est probablement trop lourd pour votre VPS.

Erreurs fréquentes et cas de blocage

L’installation d’un modèle IA local sur VPS reste accessible, mais certains blocages sont fréquents. La plupart proviennent d’un modèle trop volumineux, d’un mauvais nom de tag, d’un service arrêté ou d’une exposition réseau mal comprise.

En cas de doute, commencez toujours par revenir aux tests simples : service actif, API locale joignable, modèle visible avec ollama list, puis test interactif avec ollama run. Cette méthode évite de chercher trop vite un problème applicatif alors que la cause vient souvent d’un modèle absent ou d’un service non démarré. Et pour sécuriser votre instance, il faut configurer le swap pour éviter les erreurs mémoire pendant l’inférence.

Bonnes pratiques

Une fois votre LLM AI open source installé sur le VPS, l’objectif est de conserver un environnement stable, sécurisé et facile à maintenir. La première bonne pratique consiste à surveiller régulièrement l’espace disque. Les modèles peuvent peser plusieurs gigaoctets chacun, et il est facile d’accumuler des versions inutilisées après plusieurs tests. Pour faire le point, utilisez :

ollama list

Si un modèle n’est plus utile, supprimez-le proprement :

ollama rm nom-du-modele

Surveillez aussi la mémoire RAM et la charge CPU depuis le Panel KVM LWS. Si le serveur utilise constamment le swap ou devient très lent pendant l’inférence, cela signifie généralement que le modèle est trop lourd pour les ressources disponibles. Dans ce cas, passez à un modèle plus petit avant d’envisager une montée en gamme.

Côté sécurité, ne publiez jamais le port 11434 directement sur l’IP publique de votre VPS. Ollama indique que l’API locale ne nécessite pas d’authentification lorsqu’elle est appelée depuis http://localhost:11434, ce qui est adapté à un usage local mais dangereux si le service est exposé sans protection. Pour un accès externe, privilégiez un reverse proxy Nginx, le HTTPS, une authentification et, si possible, des restrictions IP.

Avant de tester un nouveau modèle volumineux, créez un snapshot LWS. Cette précaution permet de revenir rapidement à un état stable si le téléchargement remplit le disque, si une dépendance pose problème ou si la configuration doit être annulée.

Enfin, vérifiez régulièrement votre version d’Ollama :

ollama --version

Les outils IA évoluent vite. Des mises à jour peuvent améliorer la compatibilité des modèles, la stabilité de l’API ou les performances d’inférence CPU. Pour un usage de production, évitez toutefois de modifier votre environnement sans test préalable.

FAQ

Peut-on faire tourner un LLM open source sur un VPS sans GPU ?
Oui, il est possible de faire tourner un LLM open source sur un VPS sans GPU, mais avec des performances plus modestes qu’une infrastructure équipée d’une carte graphique. Sur un VPS CPU-only, il faut privilégier des modèles légers, par exemple des modèles 3B, 4B, 7B ou 8B selon la RAM disponible.

Quelle est la différence entre Ollama et une API IA comme OpenAI ?
Une API IA cloud est hébergée par un fournisseur externe et facturée selon l’usage ou l’abonnement. Ollama, lui, exécute le modèle localement sur votre serveur. Vous gardez la maîtrise de l’environnement, mais vous devez gérer les ressources, les mises à jour, la sécurité et les modèles installés.

Quels modèles Ollama fonctionnent sur un VPS avec 8 Go de RAM ?
Avec 8 Go de RAM, il est préférable de commencer par des modèles compacts comme Phi-3 Mini, Gemma 3 4B ou d’autres modèles de petite taille disponibles dans la bibliothèque Ollama. Les modèles 7B ou 8B peuvent être trop lourds selon les autres services actifs sur le VPS.

Ollama expose-t-il l’IA publiquement sur Internet par défaut ?
Non. Ollama documente une API locale accessible par défaut sur http://localhost:11434/api, ce qui signifie qu’elle répond depuis la machine locale. La FAQ Ollama précise également que le service se lie par défaut à 127.0.0.1 sur le port 11434.

Comment connecter Ollama à une interface graphique sur mon VPS ?
Vous pouvez installer une interface comme Open WebUI, qui fournit une interface web compatible avec Ollama. Pour un accès depuis Internet, il faut impérativement sécuriser l’interface avec HTTPS, authentification et reverse proxy.

L’utilisation d’Ollama sur VPS est-elle conforme au RGPD ?
Ollama peut aider à limiter les transferts de données vers des services IA externes, car les prompts et réponses restent sur votre infrastructure si tout est configuré localement. Cela ne garantit pas automatiquement la conformité RGPD : vous devez aussi sécuriser le VPS, gérer les accès, documenter les traitements et respecter les obligations applicables aux données personnelles.

Conclusion

Déployer un LLM AI open source sur un VPS permet de créer une solution d’IA auto-hébergée, utile pour réduire la dépendance aux API cloud, mieux maîtriser les données et expérimenter des traitements IA sans coût à chaque requête. Avec Ollama, l’installation reste accessible : un service local, quelques commandes, un modèle adapté aux ressources du serveur et une API REST exploitable dans vos scripts ou applications. ✨La clé est de rester réaliste : sur un VPS sans GPU, privilégiez les modèles légers, surveillez la RAM, gardez le port 11434 privé et sécurisez tout accès externe.

Besoin d’un serveur VPS KVM performant et flexible ?

Découvrez nos offres VPS KVM haut de gamme : des ressources garanties et un contrôle total pour vos projets. Profitez d’un hébergement 100 % SSD, d’un accès root complet, le tout dans un datacenter en France. Démarrez dès maintenant à partir de 4,99 €/mois !

Je choisis mon VPS KVM

Pour héberger ce type d’environnement, un VPS KVM LWS offre l’accès root, la supervision, les snapshots et les ressources nécessaires pour tester puis exploiter votre propre modèle IA local. Et si vous avez des questions, des ajouts ou des suggestions, n’hésitez pas à nous écrire dans la section Commentaires.