IA en local : l’installer dans votre entreprise

Une IA « en local » est un modèle de langage téléchargé et exécuté sur une machine que vous maîtrisez : un poste de travail, ou un serveur installé dans vos locaux.
Les questions posées et les documents analysés restent sur cette machine.
Aucun éditeur ne les reçoit, aucune loi étrangère ne peut en exiger la communication.

C’est le niveau de maîtrise le plus élevé parmi les options d’IA souveraine.
Il repose entièrement sur les modèles ouverts : Mistral, Llama, Qwen ou Gemma, publiés par leurs éditeurs et utilisables librement, selon des licences qu’il convient de vérifier pour un usage commercial.

Pour découvrir le principe, un ordinateur récent suffit.

1. Installer un logiciel d’exécution, comme Ollama ou LM Studio, gratuits et disponibles sous Windows, macOS et Linux.
2. Télécharger un modèle de petite taille (7 à 8 milliards de paramètres), qui pèse quelques gigaoctets.
3. Interroger le modèle depuis une fenêtre de discussion, sans connexion internet.

Il faut compter un PC équipé d’une carte graphique récente dotée de 12 à 16 Go de mémoire, ou un Mac récent avec 16 à 32 Go de mémoire.
Le résultat convient pour reformuler un texte, résumer un document ou rédiger un premier jet.
Il reste limité : un seul utilisateur, des réponses moins fines que celles des grands services en ligne, et aucun lien avec les documents de l’entreprise sans développement supplémentaire.

Dès que plusieurs personnes doivent l’utiliser, l’IA locale passe sur un serveur dédié.
Son dimensionnement dépend de la taille du modèle, donc de la qualité attendue.

Pour la plupart des usages documentaires d’une PME, un modèle de taille moyenne offre le meilleur compromis.
Il devient pleinement utile une fois branché sur une base de connaissances soigneusement préparée.

Le prix du matériel n’est qu’une partie du budget.
S’y ajoutent :

L’énergie

Un serveur de calcul sollicité en journée consomme sensiblement plus qu’un serveur de fichiers.

L’installation et l’intégration

Interface pour les utilisateurs, connexion aux documents, gestion des droits.

La maintenance

Mises à jour de sécurité, sauvegardes, remplacement des modèles à mesure que de meilleures versions paraissent.

Le renouvellement

En trois à quatre ans, le matériel est dépassé par les nouveaux modèles.

Les compétences

Quelqu’un doit savoir redémarrer, surveiller et faire évoluer l’ensemble.

C’est pourquoi un modèle ouvert hébergé chez un fournisseur français, payé à l’usage, revient souvent moins cher pour une maîtrise des données déjà très satisfaisante.

Un cabinet d’avocats de 12 personnes.
Il souhaite un assistant pour résumer des pièces, rechercher dans ses consultations passées et préparer des premiers jets de courriers.
Le secret professionnel conduit les associés à exclure tout traitement en dehors du cabinet.

Option locale sur trois ans

• Serveur avec une carte professionnelle de 48 Go : environ 10 000 €.
• Installation, connexion aux dossiers, gestion des droits, formation : environ 5 000 €.
• Maintenance et énergie : environ 150 € par mois, soit 5 400 €.
• Total : environ 20 000 €.

Option hébergée en France, payée à l’usage, sur trois ans

• Même intégration : environ 5 000 €.
• Consommation et hébergement des documents : environ 100 € par mois, soit 3 600 €.
• Total : environ 9 000 €.

Le local coûte ici un peu plus du double.
Pour ce cabinet, la différence, environ 3 800 € par an, est le prix d’une garantie qu’il juge indispensable : aucune pièce de dossier ne quitte ses murs.
Pour une PME sans contrainte de ce type, le même calcul conduit généralement à la solution hébergée.

Le local a du sens si :

• vos clients ou votre déontologie interdisent tout traitement externe (secret professionnel, défense, santé),
• vos sites fonctionnent sans connexion fiable,
• vous disposez déjà d’une infrastructure et de compétences pour l’exploiter,
• votre volume d’usage est suffisamment élevé et régulier pour amortir le matériel.

Mieux vaut l’éviter si :

• l’objectif est surtout de protéger des données internes courantes, ce qu’une offre professionnelle ou un hébergeur français assure déjà ;
• personne en interne ne peut en assurer le suivi ;
• vous avez besoin des modèles les plus avancés, que le matériel d’une PME ne peut pas faire tourner.

Pour les usages du quotidien, quelques règles simples suffisent souvent à préserver la confidentialité des données dans ChatGPT et les outils comparables.

Quelle IA installer en local ?

Pour débuter, un modèle ouvert de petite taille, comme ceux de Mistral, Llama, Qwen ou Gemma, exécuté avec Ollama ou LM Studio. Pour un usage d’équipe, un modèle de taille moyenne, choisi selon la langue de travail et la licence d’utilisation commerciale.

Une IA locale est-elle aussi performante que ChatGPT ?

Sur les tâches courantes (résumer, reformuler, retrouver une information dans vos documents), les modèles de taille moyenne donnent de bons résultats. Sur le raisonnement complexe, les grands services en ligne gardent une avance que le matériel d’une PME ne permet pas de combler.

Faut-il entraîner une IA en local sur ses propres données ?

Rarement. Dans la grande majorité des cas, il suffit de brancher le modèle sur vos documents, qu’il consulte pour répondre. L’entraînement est coûteux, long, et doit être recommencé à chaque mise à jour des données.

Une IA en local fonctionne-t-elle sans internet ?

Oui. Une fois le modèle téléchargé, il fonctionne entièrement hors ligne. C’est l’un de ses atouts pour les sites isolés ou les environnements très sécurisés.