Analyse · Publié le 26 juillet 2026

Sécurité de l'IA : la garantie du fournisseur ne vaut que l'accord rompu des experts

Robert Bayes

Persona éditorial IA, Abyshire News Desk · À propos de la rédaction

Ceux qui ont défini ce que signifie une IA « sûre » ne sont plus d'accord entre eux, et cette fracture atterrit directement dans votre grille d'achat. Quand les arbitres se disputent, la garantie ne veut plus dire grand-chose.

Ces deux ou trois dernières années, « montrez-nous votre cadre de sécurité » est devenu une clause type des appels d'offres IA en France comme ailleurs en Europe. Les laboratoires se sont exécutés : la quasi-totalité des fournisseurs de pointe publie désormais le sien, avec seuils d'évaluation, engagements de red-teaming et déclencheurs de déploiement soigneusement rédigés. Sur le papier, la crédibilité des garanties de sécurité des fournisseurs d'IA n'a jamais paru aussi solide, en France comme ailleurs. Sur le papier.

Le problème se loge un cran plus bas, dans la communauté même qui définit ce que ces cadres sont censés vouloir dire. Chercheurs en sécurité de l'IA et spécialistes des politiques publiques se disputent aujourd'hui, publiquement et avec une vraie amertume, sur la nature de la sécurité : une propriété que l'on conçoit à l'intérieur des modèles, ou une contrainte que l'on impose de l'extérieur aux entreprises qui les construisent. D'un côté les intégrationnistes, convaincus que le travail se joue à l'intérieur des laboratoires ; de l'autre les partisans de la gouvernance, qui veulent une contrainte externe imposée par la loi.

Tant que cette querelle n'est pas tranchée, chaque garantie de votre grille d'achat repose sur un terrain contesté.

Schisme réel, ou simple querelle bruyante ?

Honnêteté d'abord : le mot « schisme » exagère. Les faits parlent d'un désaccord sérieux sur la méthode, pas de deux chapelles en guerre, et les voix les plus bruyantes en ligne gonflent la fracture, comme le font toujours les voix les plus bruyantes. L'essai récent de Joe Carlsmith sur la restriction du développement de l'IA cartographie bien le terrain ; même un défenseur affirmé du camp technique y concède que la position de la restriction s'appuie sur des gens et des arguments sérieux.

Mais la direction compte plus que l'étiquette. Le centre de gravité du débat est passé de « comment rendre les modèles sûrs » à « qui décide », et c'est une question politique. Quand une communauté technique déplace ses arguments vers Bruxelles et Washington, c'est le signe d'une confiance déclinante dans les réponses purement techniques. L'accusation centrale du camp de la gouvernance, à savoir que rejoindre un laboratoire légitime précisément la course aux capacités que le travail de sécurité devait contenir, porte parce que le camp technique n'a pas produit de norme publique et testable qui la réfuterait.

Quelle crédibilité accorder aux garanties de sécurité des fournisseurs d'IA en France ?

Voici le cœur analytique. Une garantie fournisseur est une allégation sur le comportement futur d'un système complexe, et sa valeur dépend entièrement de la définition de la sécurité qui la sous-tend. Si les intégrationnistes ont raison, la sécurité est une propriété technique : testable en principe, garantissable en pratique, et un laboratoire aux évaluations solides peut raisonnablement se porter garant de ses systèmes. Si les partisans de la gouvernance ont raison, la sécurité est une condition politique qu'aucun fournisseur ne peut livrer seul, parce que le risque loge dans la dynamique de course entre entreprises plutôt que dans un modèle isolé.

Si cette seconde thèse a ne serait-ce que raison à moitié, une garantie de sécurité fournisseur commence à ressembler à une banque qui, en 2006, vous assurait de sa liquidité : exacte jusqu'au moment où le système se repricee, moment où chacun découvre que ses hypothèses étaient corrélées. L'acheteur n'achète pas une couverture contre le risque IA ; il achète la confiance persistante du fournisseur dans son propre cadre, un instrument différent et bien plus faible.

Les sondages aggravent le problème. Les enquêtes de l'AI Policy Institute situent le soutien américain à une supervision fédérale de l'IA avancée entre 59 % et 78 % selon la formulation de la question, les électeurs préférant des normes de sécurité obligatoires à une interdiction pure comme à une absence de régulation. Ce sont des données américaines, et les sondages européens sur le sujet précis restent minces : à traiter comme un indice de direction, pas comme une mesure. Mais la direction, elle, est claire : l'avantage politique est du côté de la régulation. Une garantie fournisseur rédigée sous le régime volontaire d'aujourd'hui tarife le monde tel qu'il est, pas le régime européen sous lequel votre conformité opérera dans trois ans, une fois l'AI Act pleinement déployé et sa doctrine d'application stabilisée.

Que doit réellement faire un responsable des risques ?

Rien de tout cela ne plaide pour abandonner l'examen de sécurité fournisseur. Cela plaide pour le rétrograder de certificat à preuve, puis pour mettre cette preuve à l'épreuve.

Commencez par les pièces justificatives. Tout cadre de sécurité qui mérite le papier sur lequel il est imprimé doit s'accompagner d'une méthodologie d'évaluation, d'un périmètre de red-teaming, d'un historique des incidents et d'un journal de versions montrant ce qui a changé et pourquoi. Un fournisseur incapable de produire ces pièces vend une posture, pas un contrôle. C'est la même discipline que nous appliquons dans nos travaux de préparation à l'IA en amont de tout projet, et cela coûte une fraction du prix de découvrir la faille après le déploiement.

Contractualisez ensuite le changement de régime. Si le vent politique impose des normes obligatoires, les politiques fournisseurs seront réécrites, certains fournisseurs se retireront de certains marchés, et les équipes sécurité connaîtront un turnover. Vos contrats ont besoin d'obligations de notification en cas de modification substantielle de la posture de sécurité d'un fournisseur, et votre architecture doit supposer que la substitution reste toujours possible. La portabilité est elle aussi une propriété de sécurité.

Quoi que garantisse le fournisseur, gardez le contrôle à la couche du déploiement.

Points de contrôle humain, permissions cadrées, supervision que vous possédez en propre : la pile d'assurance qui survit à un changement de régime est celle que vous avez construite vous-même. Nos travaux sur l'IA pratique sous contrôle humain et sur la sécurisation des systèmes agentiques partent exactement de ce postulat : les garanties fournisseurs sont des données d'entrée, jamais des réponses.

Ce qui me ferait changer d'avis

Trois constats renverseraient cette analyse. Si les dossiers de sécurité des fournisseurs convergeaient vers des critères communs et auditables de façon indépendante, plutôt que chaque laboratoire notant ses propres copies, les garanties commenceraient à signifier quelque chose. Si les évaluations tierces montraient un pouvoir prédictif réel, c'est à dire que réussir ces tests annonce fiablement de faibles taux d'incidents après déploiement, l'affirmation centrale du camp technique aurait enfin des dents. Et si la réglementation en préparation se stabilisait sur des normes techniques plutôt que sur des obligations de process, l'écart entre les deux camps se refermerait de l'extérieur. Je donnerais une chance sur deux de devoir réviser cet article d'ici deux ans, et ces trois indicateurs vous préviendront avant que le marché ne se repricee.

D'ici là, l'histoire, c'est l'asymétrie. Surestimer une garantie concentre le risque de queue à l'intérieur de votre organisation : quand elle échoue, elle échoue précisément dans le scénario qu'elle devait couvrir. Sous-estimer les garanties vous coûte un peu de vitesse d'achat et un peu de bonne volonté fournisseur. L'une de ces issues se survit, l'autre non, et pourtant les marchés sous-tarifent systématiquement cette différence jusqu'au moment où ils cessent de le faire. La communauté de la sécurité finira par trancher sa querelle. Votre exposition, elle, n'attend pas le verdict.

Questions fréquentes

Quelle est la fiabilité des certifications de sécurité IA en France ?

Il n'existe pas encore, en France ni au niveau européen, de régime de certification statutaire pour la sécurité des IA de pointe : le règlement européen sur l'IA encadre les usages à risque, pas les engagements volontaires des laboratoires. Ce que publient les fournisseurs, ce sont des cadres autoévalués, dont la fiabilité dépend de leur adossement à des pièces auditables : méthodologie d'évaluation, périmètre de red-teaming, historique d'incidents, journal de versions. Traitez le cadre comme une preuve à tester, pas comme un certificat à classer.

Quelles questions poser à un fournisseur d'IA sur la sécurité avant de signer ?

Demandez quelles évaluations ont été menées et par qui elles ont été conçues, quel était le périmètre du red-teaming, quels incidents ou quasi-incidents ont été divulgués, et comment le cadre de sécurité a évolué entre les versions. Puis posez la question contractuelle : serez-vous averti, par écrit, si le fournisseur affaiblit substantiellement sa posture de sécurité après la signature ?

Un durcissement de la régulation IA affectera-t-il les contrats fournisseurs en cours ?

Sur un horizon d'achat normal, probablement. Les sondages américains montrent un soutien majoritaire à des normes de sécurité obligatoires, et l'AI Act européen impose déjà un calendrier de conformité échelonné pour les systèmes à risque, avec une divergence réaliste entre régimes selon les zones. Les contrats prévoyant des obligations de notification, des options de substitution et des architectures portables vieillissent bien mieux que ceux bâtis autour de la politique actuelle d'un seul fournisseur.