IA locale contre IA cloud : le vrai calcul, c'est la propriété, pas l'abonnement
La quantisation agressive a fait descendre des modèles ouverts performants du datacenter jusqu'au simple ordinateur portable. Pour une part croissante des usages en entreprise, « quel fournisseur frontière signer » n'est déjà plus la bonne question de départ.
La plupart des achats d'IA commencent par la question du fournisseur à signer. C'est la mauvaise question de départ, et le calcul du coût entre IA locale et IA cloud le montre bien. La facture au jeton est le coût le plus visible de l'utilisation d'un modèle, et le moins intéressant, car une part croissante du travail qui se cache derrière n'a plus besoin du datacenter de quelqu'un d'autre.
Suivez le mécanisme, car il n'a rien de mystérieux. Les poids d'un modèle sont des nombres, et le nombre de bits consacrés à chacun relève d'un choix d'ingénierie, pas d'une loi physique. Seize bits par poids a longtemps été la valeur par défaut. Les travaux de recherche sur la quantisation agressive, dont des publications sur des modèles à poids ternaires qui restreignent chaque poids à trois états, ont fait glisser ce chiffre vers environ deux bits.
Faites le calcul vous-même, car le calcul est tout l'argument. Prenez un modèle de 27 milliards de paramètres. À seize bits par poids, cela représente environ 54 Go de poids, ce qui impose du matériel de classe serveur. À environ 1,58 bit, on tombe près de 6 Go. À un bit, plus proche de 3,5 Go. Ce sont des chiffres illustratifs déduits du nombre de paramètres et de la largeur de bits, pas des résultats de benchmark pour une version précise, et une implémentation réelle comporte des frais généraux que ce calcul ignore. C'est l'ordre de grandeur qui survit aux réserves.
Un fichier de 6 Go tient sans peine dans un ordinateur portable de milieu de gamme. Un fichier de 3,5 Go tient dans un smartphone actuel. Tout modèle qui tourne sur un téléphone tourne sur chaque portable que vos équipes possèdent déjà, et sur chaque serveur inactif de votre baie.
Comment comparer réellement le coût de l'IA locale et de l'IA dans le cloud ?
Pas en divisant votre facture mensuelle par votre nombre de jetons. Cette comparaison flatte l'API, car elle ne chiffre que ce que l'API facture, et tout le reste échappe au compteur. Les documents qui quittent votre périmètre portent une exposition en matière de transfert de données et de résidence, un sujet que le RGPD et la CNIL rendent tout sauf théorique en France. Les invites longues brûlent des relances et des dépassements de contexte que vous payez deux fois. Un modèle autour duquel vous avez construit un flux de travail peut être déprécié, ou ses conditions réécrites, selon le calendrier du fournisseur plutôt que le vôtre.
Le matériel possédé inverse la logique. Le coût en capital est fixe et connu, le coût marginal d'une requête est proche de zéro, et rien ne franchit votre frontière. Ce qui remplace le coût comme contrainte déterminante, c'est la variance de capacité : un modèle compressé est fiable dans une certaine bande de tâches et peu fiable en dehors, et cette bande est plus étroite que ne le laisse entendre le marketing. La tracer avec précision pour votre propre charge de travail, c'est le vrai métier du conseil en stratégie technique et achats d'IA, un travail ingrat qu'aucun raccourci ne remplace.
Il y a un piège dans les chiffres de rétention publiés qui mérite d'être nommé. Quand un fournisseur annonce que sa version compressée conserve environ quatre-vingt-dix pour cent de la moyenne de benchmark en pleine précision, cela ressemble à une taxe modeste. Sauf que les moyennes cachent la distribution. Une baisse de cinq points sur un panel mixte peut être un effondrement de vingt points sur la seule capacité dont dépend votre process, compensé par une perte nulle sur des tâches que vous n'exécutez jamais. Aucune moyenne publiée ne vous dit lequel des deux vous avez acheté ; il faudra constituer votre propre jeu d'évaluation à partir de vos données et le découvrir par vous-même.
Quelles tâches justifient encore une API facturée à l'usage ?
Reformulez la question et la réponse cesse d'être un nom de fournisseur pour devenir une liste. Classification, extraction, anonymisation, routage, synthèse de documents internes et premier jet de rédaction sont tous des candidats sérieux pour un modèle que vous possédez. L'ingénierie agentique à long horizon, où un système planifie sur des dizaines d'étapes et corrige ses propres erreurs, ne l'est pas, du moins pas encore.
Quiconque espère qu'un classement tranchera le débat devrait d'abord regarder à quel point les classements se contredisent entre eux. Les arènes d'évaluation publiques comme LMArena découpent leurs tableaux par catégorie, et les mêmes modèles occupent des positions sensiblement différentes selon qu'il s'agit de texte, de code, de vision ou de développement web. Cet écart porte plus d'information qu'une position en tête de classement. La capacité est façonnée par la tâche, ce qui fait du « meilleur modèle » une erreur de catégorie avant même de devenir une erreur d'achat, et un engagement pluriannuel arrimé à un score composite unique est arrimé à quelque chose qui n'a jamais mesuré votre métier. C'est aussi pourquoi le travail de préparation doit précéder la construction, et non suivre la signature du contrat.
Le prestige d'un fournisseur ne vaut pas mieux comme indicateur. Les levées de fonds et le pedigree des fondateurs reflètent des anticipations sur l'avenir d'un laboratoire, pas des mesures du modèle qu'il a livré le mois dernier, et les deux se sont assez souvent désolidarisés pour que lire une valorisation comme la preuve d'une avance technique relève, elle aussi, de l'erreur de catégorie. Un avantage réel se verra sur votre propre jeu d'évaluation. S'il n'apparaît que dans le communiqué de levée de fonds, c'est un récit qu'on vous a vendu, pas une capacité, qu'il s'agisse d'une pépite de la French Tech ou d'un laboratoire installé de longue date.
L'argument sécurité va dans le même sens, jusqu'à un certain point
Voici où je nuancerais mon propre argument. Rapatrier l'inférence en interne réduit votre exposition en matière de données, ce qui a de la valeur, mais cela ne règle pas l'injection de prompt. Dès qu'un modèle lit des e-mails, des pages web ou des pièces jointes non fiables, puis peut agir en conséquence, la frontière entre donnée et instruction devient votre surface d'attaque, et elle le reste que les poids résident dans votre baie ou chez un tiers. Le déploiement local limite le rayon d'exposition des données sans toucher à l'injection elle-même : un bénéfice réel, et plus étroit que ne le laisse penser l'argument de la souveraineté. C'est pourquoi les systèmes agentiques ont besoin d'un confinement conçu comme tel, et pas d'un simple changement d'hébergement.
Attendez-vous à ce que cette asymétrie s'accentue avant de se résorber. L'outillage d'attaque automatisé s'étend avec la puissance de calcul disponible, tandis que les correctifs défensifs correspondants ont tendance à être développés et conservés à l'intérieur même des organisations qui construisent les modèles. Voyez-y une raison de concevoir un confinement que vous maîtrisez, pas une raison d'attendre qu'un fournisseur règle le problème à votre place.
Le signal le plus large, c'est que les publications les plus lourdes de conséquences commerciales s'éloignent des interfaces de conversation pour se rapprocher de l'infrastructure. Le projet QiMeng de l'Institute of Computing Technology, à l'Académie chinoise des sciences, rapporte que son système a conçu automatiquement un processeur RISC-V de niveau industriel en cinq heures, et que la puce fabriquée fait tourner Linux. C'est une affirmation de l'équipe de recherche elle-même, pas une réplication indépendante, et la réserve compte, mais l'ambition qu'elle décrit vise le substrat.
Les entreprises qui signent cette année des engagements pluriannuels sur l'IA figent une structure de coûts et un profil de dépendance sur une base technique qui bouge sous leurs pieds. L'inférence la moins chère que vous ferez jamais tourner est celle que vous possédez déjà, et la seule façon honnête de savoir quelle part de votre travail entre dans cette catégorie, c'est de la tester sur vos propres données avant de signer quoi que ce soit.
Questions fréquentes
Est-il vraiment moins cher de faire tourner des modèles d'IA en local que de payer à l'usage ?
Pour des tâches stables, à fort volume et bien définies, la réponse est généralement oui, car le matériel possédé a un coût en capital fixe et un coût marginal par requête proche de zéro. Pour un usage irrégulier, à faible volume, ou pour du raisonnement réellement complexe, une API facturée à l'usage reste normalement moins chère, car vous achèteriez sinon une capacité que vous laisseriez inactive la plupart du temps. Le seuil de rentabilité dépend de votre volume de requêtes et de votre taux d'utilisation, pas d'une comparaison de prix publiée quelque part.
De quel matériel a-t-on réellement besoin pour faire tourner un modèle quantisé en interne ?
Tout dépend de la taille compressée. Une version comprise entre 4 et 8 Go tient sans difficulté dans un ordinateur portable de développeur récent ou une carte graphique de milieu de gamme. La contrainte pratique n'est presque jamais le fichier du modèle, c'est la concurrence : servir vingt utilisateurs simultanés demande nettement plus de mémoire et de débit qu'une seule personne qui teste sur son poste de travail, et c'est le chiffre que la plupart des pilotes oublient de dimensionner.
Faire tourner un modèle en local protège-t-il contre l'injection de prompt ?
Non. L'injection de prompt exploite le fait qu'un modèle ne peut pas distinguer de façon fiable un contenu non fiable d'une instruction, et cette faiblesse voyage avec le modèle, quel que soit l'endroit où il tourne. Le déploiement local limite les données susceptibles de sortir de votre réseau en cas d'attaque réussie, ce qui réduit les conséquences sans supprimer la vulnérabilité. Il faut malgré tout des limites strictes sur les permissions des outils, une validation des sorties, et une confirmation humaine avant toute action qui a des conséquences réelles.
À lire aussi
- Déqualification par l'IA : le risque de réversibilité que votre conseil n'a pas chiffré
- L'oligopole de la mémoire qui fait grimper la facture de l'IA
- Le moindre privilège pour les agents IA : un principe de 1975 que votre pilote court-circuite
- AI & Automation
Rédigé par un persona éditorial IA du système éditorial propriétaire d'Abyshire et relu par notre équipe.