Sommaire
Choisir son architecture

IA on-premise, SaaS ou hybride : comment choisir selon vos usages

Faut-il héberger toute votre IA en interne ou choisir le SaaS ? La réponse dépend des usages et des données traitées. Résumer un communiqué de presse et analyser un dossier médical ne demandent pas les mêmes protections. Ce guide vous aide à définir une architecture adaptée à chaque besoin.

Publié le 22 septembre 2026

Éviter une décision unique pour toute l'entreprise

Beaucoup de projets commencent par un débat de principe. La direction juridique veut garder les données en interne, tandis que les équipes métier souhaitent accéder rapidement aux modèles les plus performants. Chaque exigence se justifie selon les usages concernés.

Avec un déploiement exclusivement en SaaS, les usages sensibles sont écartés ou déplacés vers des comptes personnels sans contrôle. Avec un hébergement entièrement interne, même les usages courants mobilisent une infrastructure dimensionnée pour les données les plus sensibles, parfois avec des modèles moins performants.

La décision se prend pour chaque usage : une tâche, des utilisateurs et des données identifiés. Le guide L'IA générative on-premise en entreprise définit les notions d'on-premise, de souveraineté et de confidentialité, ainsi que l'architecture d'une plateforme interne. Ces repères permettent ensuite de choisir le mode de déploiement.

Classer les usages selon les données traitées

Le critère déterminant est la donnée la plus sensible qu'un usage peut transmettre. Dans la plupart des organisations, trois niveaux permettent d'établir une première classification.

Données publiques ou peu sensibles

Contenus déjà publiés, textes génériques, code sans secret. Leur divulgation aurait peu de conséquences.

Données internes

Comptes rendus, procédures, échanges clients courants. Elles contiennent souvent des données personnelles, qu'on peut masquer avant envoi.

Données qui ne sortent jamais

Dossiers de santé, pièces de procédure, secrets industriels, données couvertes par un secret professionnel ou une obligation sectorielle.

Trois niveaux de sensibilité, trois réponses d'architecture différentes.

Appliqué à des cas concrets, le classement donne une carte des usages plutôt qu'une doctrine :

UsageDonnée la plus sensibleModèle adapté
Reformuler une offre d'emploi ou un articleAucuneSaaS
Résumer un compte rendu de réunion interneNoms, décisions internesHybride, avec masquage des données personnelles
Répondre à une réclamation clientIdentité, contrat, historiqueHybride, ou modèle local selon le secteur
Interroger la base documentaire RHDossiers individuelsModèle local
Analyser un dossier patient ou une pièce de procédureDonnée de santé, secret professionnelModèle local, sans flux sortant

Le tableau se remplit en atelier avec les métiers, la DSI et le DPO. Il sert ensuite de référence : un nouvel usage se classe d'abord, et l'architecture en découle.

Point de vigilance

La donnée la plus sensible n'est pas toujours dans la question de l'utilisateur. Dans un assistant documentaire, ce sont les extraits de documents ajoutés automatiquement au prompt qui sortent vers le modèle. Un usage anodin en apparence peut transporter un contrat entier.

Quand choisir le SaaS ou l'hébergement interne

Quand le SaaS pur suffit

Le SaaS convient aux usages qui ne manipulent que des données publiques ou peu sensibles. Il peut aussi faciliter un premier pilote lorsque l'organisation doit démarrer rapidement ou ne dispose pas d'une équipe pour exploiter une infrastructure interne.

Encore faut-il lire le contrat : durée de conservation des requêtes, usage éventuel de vos données pour entraîner des modèles, lieu de traitement, liste des sous-traitants, droit applicable au fournisseur. Ce dernier point a des conséquences propres, traitées dans le guide sur le Cloud Act et l'IA. Pour certaines données sensibles, un service cloud qualifié SecNumCloud par l'ANSSI constitue une option intermédiaire à examiner.

Quand l'on-premise s'impose

L'hébergement interne, avec un modèle qui tourne chez vous, s'impose dès qu'un usage touche le troisième niveau. Il se justifie aussi quand le réseau doit pouvoir être coupé de l'extérieur, ou quand l'usage est intensif et stable, parce qu'une capacité dimensionnée devient alors plus prévisible qu'une facture à l'usage.

Cette option exige une infrastructure GPU dimensionnée pour la charge et une équipe pour l'exploiter. Elle limite aussi le choix aux modèles dont les poids sont disponibles. Le guide LLM open source ou propriétaire aide à sélectionner ces modèles.

Définir les règles d'une architecture hybride

Dans une architecture hybride, la plateforme, l'historique des conversations, les documents indexés et les identités restent dans votre système d'information. Seuls les appels autorisés sont envoyés à un modèle externe, selon des règles définies pour chaque usage.

  1. La plateforme reste interneHistorique, bases documentaires, mémoire et comptes ne quittent pas votre périmètre, quel que soit le modèle appelé.
  2. Chaque usage a sa règle de routageL'agent ou l'espace de travail est rattaché à un modèle autorisé pour son niveau de sensibilité. Le choix ne repose pas sur l'utilisateur.
  3. Les données personnelles sont masquées avant l'envoiNoms, adresses, numéros sont remplacés par des jetons avant l'appel sortant, puis restaurés dans la réponse.
  4. Ce qui sort est journaliséQuel modèle, pour quel usage, avec quel volume : de quoi répondre à un auditeur et piloter la dépense.
Le routage des appels est défini dans la plateforme pour chaque usage, sans dépendre d'une décision de l'utilisateur.

La technique de masquage mérite qu'on s'y arrête : anonymiser et pseudonymiser n'offrent pas les mêmes garanties et n'entraînent pas les mêmes obligations. Le guide Anonymiser ou pseudonymiser : ce que dit le droit explique ce qui les distingue, et le guide Pseudonymiser les données avant de les envoyer à un LLM décrit la méthode et ses limites.

Le budget combine les coûts fixes de l'infrastructure interne et les dépenses liées aux appels externes. Fixez un plafond pour ces dernières afin de garder la maîtrise des coûts. Le guide sur le coût d'une IA générative en entreprise présente une méthode de chiffrage.

Les erreurs à éviter

Décider par l'infrastructure plutôt que par la donnée

« Nous avons des GPU, faisons tout en interne » ou « nous sommes déjà chez tel fournisseur cloud, restons-y » : deux raisonnements qui partent de l'existant au lieu des usages. L'infrastructure disponible est une contrainte, pas un critère de classement.

Laisser l'utilisateur choisir le modèle

Une simple consigne de prudence ne suffit pas si tous les utilisateurs peuvent sélectionner n'importe quel modèle. L'administrateur doit définir les modèles autorisés pour chaque usage.

Oublier les flux secondaires

Le prompt n'est pas le seul flux sortant. Les extraits documentaires, les pièces jointes, les résultats d'outils et parfois la télémétrie de la plateforme partent aussi. Faites l'inventaire complet avant de classer un usage en hybride.

Figer le choix

Un usage traité en SaaS aujourd'hui peut être hébergé en interne demain si un modèle ouvert répond à vos besoins ou si les conditions contractuelles changent. Pour faciliter cette évolution, décrivez les usages indépendamment du modèle et choisissez une plateforme qui permet d'en changer.

Questions fréquentes

L'hybride est-il plus complexe à exploiter que le tout interne ?

Il ajoute des fournisseurs externes à suivre, des contrats à gérer et une couche de masquage à maintenir. En contrepartie, il évite de dimensionner l'infrastructure interne pour des usages qui n'en ont pas besoin. La complexité se maîtrise si le routage est centralisé, et non laissé à chaque équipe.

Masquer les données personnelles suffit-il pour envoyer n'importe quel document ?

Non. Le masquage traite les données personnelles identifiables, pas le secret des affaires, les informations stratégiques ni les données couvertes par un secret professionnel. Un document confidentiel sans aucun nom reste confidentiel : il relève d'un modèle local.

Peut-on commencer en SaaS et passer ensuite en on-premise ?

Oui, à condition de l'avoir prévu : des usages décrits indépendamment du modèle, un historique et des documents qui ne sont pas stockés chez le fournisseur, et une sortie possible sans perte. Sans ces précautions, la migration revient à reconstruire.

Où se situe SmartAGT

SmartAGT se déploie on-premise, dans votre périmètre. Le fournisseur de modèle reste votre choix : 100 % local, air-gap possible et sans aucun flux sortant, ou un fournisseur cloud que vous contractez directement.

En mode hybride, les données personnelles sont détectées et pseudonymisées de façon réversible, dans un coffre, avant tout appel sortant, et aucun prompt brut n'est stocké. L'administrateur peut restreindre le catalogue aux fournisseurs européens. Voir la page Sécurité et le parcours d'achat auprès de nos partenaires.

DÉPLOIEMENT DANS VOTRE INFRASTRUCTURE

Une question que ces guides
ne tranchent pas ?