La sélection d’un modèle d’IA est une décision contrôlée qui associe un modèle et son mode de service au comportement attendu d’une application, à des cas représentatifs, aux conséquences des erreurs et aux contraintes d’exploitation. Elle combine évaluation de la tâche, confidentialité, sécurité, latence, débit, intégration, observabilité, licence, évolution et capacité de sortie. Elle produit un choix documenté avec des seuils et des alternatives, et non une recommandation permanente du premier modèle d’un classement public.
Le choix est souvent réduit à une liste de fonctions ou à quelques requêtes flatteuses. Les benchmarks publics ne reproduisent ni les consignes, ni la recherche documentaire, ni les outils, langues, entrées dégradées, contrôles humains ou coûts d’erreur de l’application. Un modèle peut exceller sur la tâche principale et échouer à cause d’une latence instable, d’une sortie structurée fragile, d’un chemin de données incompatible ou d’une nouvelle version au comportement différent. L’équipe choisit alors une interface avant d’avoir défini le comportement produit qu’elle doit servir.
Il faut sélectionner le comportement du système avant le modèle. Un corpus représentatif et une typologie des défaillances relient la mesure aux conséquences pour l’utilisateur. Les candidats incompatibles avec les contraintes fermes de confidentialité, déploiement, licence ou latence sont éliminés. Les autres passent dans le même montage applicatif, avec recherche, outils, consignes, replis et revue humaine. Un dossier de décision pondéré expose les compromis. Des adaptateurs, tests de régression et chemins de retour rendent le futur changement de modèle gouvernable.
Exigences
Transformer le parcours produit en contrat de sélection
Le point de départ est l’unité de comportement promise par le produit. Il faut décrire l’entrée réelle, le contrat de sortie, la personne ou le système qui agit et les preuves nécessaires. Tout le chemin autour du modèle compte: recherche documentaire, assemblage du contexte, outils, validation, revue humaine et écriture en aval. Un modèle choisi pour répondre à des questions isolées peut réagir autrement lorsqu’il doit citer un corpus privé, produire un schéma et appeler un outil restreint. La cible est donc le comportement assemblé et non un score abstrait d’intelligence.
Les contraintes éliminatoires sont séparées des préférences négociables. Le traitement des données, la frontière de déploiement, la licence, une erreur irréversible ou une limite contractuelle de latence peuvent exclure un candidat. Un léger gain de qualité ou des consignes plus simples peut être pondéré. Le contrat consigne langues, longueurs, bruit documentaire, concurrence et pointes de charge. Il définit aussi l’abstention et la personne autorisée à outrepasser le système. La comparaison ne change ainsi pas de cible dès qu’un exemple avantage un candidat.
| Exigence | Preuve | Usage |
|---|---|---|
| Comportement | Cas de bout en bout | Seuil de qualité |
| Conséquence | Typologie des erreurs | Barrière distincte |
| Données | Flux vérifié | Admettre ou écarter |
| Latence et charge | Essai de capacité | Compatibilité |
| Conditions | Contrat actuel | Coût et dépendance |
| Évolution | Régression et essai de migration | Capacité de sortie |
Preuves
Comparer les candidats dans le même système représentatif
Le corpus vient de cas proches de la production et non de démonstrations favorables. Il contient le volume courant, des situations difficiles, des demandes hors périmètre, des contenus mal formés et des cas où une erreur assurée a de fortes conséquences. Il est segmenté par langue, source, complexité, groupe d’utilisateurs et impact. Les jugements de référence et consignes de revue sont explicites. Des tests déterministes vérifient le schéma, les citations, les permissions et actions interdites. Des spécialistes jugent l’utilité ou l’exactitude. Leur accord indique si le barème lui-même est stable.
Tous les candidats passent dans le même dispositif versionné. Les consignes système, paramètres de recherche, interfaces d’outils, aléa et validation restent fixes, sauf adaptation légitime et documentée. L’analyse couvre aussi les répétitions, refus, choix d’outils, preuves, latence et corrections. Les cas variables sont répétés et soumis à une concurrence réaliste. Un petit modèle peut gagner lorsque la tâche et la recherche sont bien contraintes. Un grand modèle peut n’être utile que sur une voie experte. L’essai doit révéler une architecture d’exploitation, pas proclamer un modèle universellement supérieur.
- Utiliser des cas proches de la production et conserver les échecs difficiles.
- Mesurer les segments importants séparément de la moyenne.
- Stabiliser le montage applicatif pendant la comparaison.
- Capturer la variance, les actions intermédiaires et la charge de revue.
- Tester le routage et le repli si aucun modèle n’est optimal partout.
Exploitation
Évaluer le flux de données, le service et le coût complet
Il faut tracer ce qui sort de l’application, le lieu de traitement, la conservation autorisée et les opérateurs ou sous-traitants concernés. Les contrôles techniques et engagements contractuels sont deux preuves différentes, à vérifier pour la région et le mode de service prévus. Pour un modèle exploité en interne ou à poids ouverts, il faut examiner licence, provenance, infrastructure, correctifs, accès, supervision et compétences requises. Le contrôle a de la valeur mais exige du travail. Pour un service hébergé, on évalue limites, politique de versions, observabilité, incidents et dépendance aux fonctions propres au fournisseur.
Le coût pertinent est celui d’un résultat accepté, pas celui d’une unité de texte. Il comprend le contexte ajouté par la recherche, les appels répétés, les outils, la validation, les replis, le cache, la revue humaine, l’évaluation continue et le support. Les latences médianes et extrêmes sous charge révèlent si le parcours interactif tient. Il faut aussi chiffrer une acceptation erronée et une escalade inutile. Le routage peut ensuite améliorer l’équilibre: petit modèle pour les cas ordinaires, spécialiste pour les cas difficiles, puis voie déterministe ou humaine lorsque la confiance ou la politique l’exige.
| Dimension | Question | Preuve habituelle |
|---|---|---|
| Confidentialité | Quelles données vont où et sont conservées? | Revue du flux |
| Fiabilité | Comment le service échoue-t-il sous charge? | Essai concurrent |
| Économie | Combien coûte un résultat accepté? | Trace des appels |
| Exploitation | Qui surveille et intervient? | Exercice du guide opératoire |
| Portabilité | Quelles fonctions créent la dépendance? | Essai d’un adaptateur alternatif |
Décision
Choisir de façon réversible et gouverner les changements
Le dossier de décision indique candidats, versions, date, exclusions, critères pondérés, résultats par segment, risques non résolus et avis divergents. La pondération reflète les conséquences sans fabriquer une précision décorative. Le seuil d’une défaillance critique peut l’emporter sur un total élevé. Le portefeuille le plus simple qui respecte le contrat est retenu, avec les conditions de recours à une autre voie. Le pilote observe l’usage réel, les corrections, la latence et les exceptions. Les conditions de retour sont définies avant qu’une démonstration séduisante ne devienne implicitement irréversible.
Le modèle reste une dépendance remplaçable dont le comportement peut évoluer. Les appels passent par une interface applicative, les consignes et cas de test sont versionnés, les versions sont journalisées et les mises à niveau prévues passent une régression. Des groupes témoins et échantillons détectent aussi les changements silencieux. Une solution de secours proportionnée à la criticité est maintenue: autre fournisseur, déploiement à poids ouverts, mode déterministe ou file manuelle. La réversibilité n’impose pas une neutralité artificielle, mais une compréhension explicite des dépendances acceptées.
- Conserver les versions du modèle et de la configuration avec les preuves.
- Faire primer les seuils critiques sur un total pondéré séduisant.
- Observer l’usage et la charge réels pendant le pilote.
- Encapsuler les fonctions propres au fournisseur derrière des limites explicites.
- Tester toute modification importante du modèle, des consignes, des sources ou outils.
Ce qui caractérise un bon résultat
Résultats concrets pour choisir un modèle d’IA
- L’équipe distingue les exigences impératives des préférences et promesses commerciales.
- Les candidats sont testés sur des cas applicatifs représentatifs dans un montage reproductible.
- Les défaillances graves ont leurs propres seuils au lieu de disparaître dans une moyenne.
- La qualité est évaluée avec la latence, le débit, la revue et le coût total.
- Les flux de données, la conservation, le déploiement et la licence sont vérifiés avant engagement.
- Le dossier de décision rend visibles les arbitrages, preuves, incertitudes et désaccords.
- Le repli, l’abstention, le routage et l’autorité humaine sont conçus avec le modèle.
- Les adaptateurs et tests réduisent la dépendance à un fournisseur ou une génération.
Modèle opératoire
Comment exécuter le travail
- 01
Figer le contrat applicatif
Définir l’entrée, la sortie attendue, la décision utilisateur, les droits des outils, les preuves, la latence, le volume et les erreurs interdites avant de comparer des noms de modèles.
- 02
Construire le dispositif d’évaluation
Réunir des cas représentatifs, difficiles, multilingues, dégradés et lourds de conséquences, puis définir mesures, catégories d’erreurs, consignes de revue et contrôles déterministes.
- 03
Filtrer les contraintes fermes
Écarter les candidats qui ne satisfont pas le traitement des données, la région, le déploiement, la licence, le contexte, l’intégration ou le niveau de service minimum.
- 04
Tester le système complet
Faire passer chaque candidat restant dans les mêmes consignes, recherches, appels d’outils, validations, replis et charges réalistes. Mesurer qualité, variance, latence, coût et revue.
- 05
Décider, piloter et préparer la sortie
Documenter le choix pondéré et les risques ouverts, mener un pilote limité, fixer les déclencheurs de retour et conserver les adaptateurs ainsi que les tests de régression.
Évaluation
Les questions qui changent la décision
- Quel comportement applicatif et quelle décision en aval le modèle doit-il soutenir?
- Quelles erreurs sont gênantes, coûteuses, dangereuses ou irréversibles?
- Quelles contraintes de confidentialité, sécurité, région, licence et déploiement sont impératives?
- Quelles langues, formes, longueurs de contexte et interactions avec des outils existent en production?
- Quel seuil de qualité doit tenir pour chaque segment et catégorie d’erreur importante?
- Quelle latence, variation de débit et charge de revue le processus peut-il absorber?
- Un modèle suffit-il ou faut-il séparer les cas courants, experts et de repli?
- Quelles preuves et quelle architecture permettront un changement ultérieur?
Modes d’échec
Où les équipes perdent le contrôle
La performance en classement peut être confondue avec celle de l’application assemblée.
Un jeu de requêtes choisi pour la démonstration peut exclure des cas rares mais graves.
Une moyenne peut cacher une régression dans une langue, un document ou un groupe.
Les conditions du fournisseur, la conservation ou le déploiement peuvent rester supposés.
Le prix unitaire peut masquer les répétitions, la recherche, la revue et l’intégration.
Un grand modèle peut ajouter de la latence sans améliorer la décision réelle.
Les sorties structurées et outils peuvent échouer malgré une prose convaincante.
Une mise à jour silencieuse peut invalider l’évaluation d’une version antérieure.
Une mise en œuvre propre au fournisseur peut rendre la migration disproportionnée.
Le candidat gagnant peut devenir une dépendance technique et commerciale unique.
Mesure
Mesurer le travail terminé
La mesure porte sur le processus terminé, y compris la revue et les exceptions. Le volume produit ne prouve pas à lui seul que le processus est meilleur.
- réussite de la tâche par segment et catégorie d’erreur
- ancrage, complétude et taux d’affirmations non étayées selon le cas
- validité des sorties structurées et appels d’outils
- taux d’abstention, d’escalade et de repli
- latence médiane et extrême sous charge représentative
- débit, répétitions et expirations
- temps de revue humaine et gravité des corrections
- coût complet par résultat applicatif accepté
- taux de régression entre versions de modèle ou de consigne
- temps et effort de routage ou migration vers une alternative
Questions
Questions fréquentes
Faut-il toujours choisir le modèle d’IA au meilleur score?
Non. Le bon choix respecte les seuils de tâche et de défaillance critique dans les contraintes de confidentialité, latence, exploitation et coût. Un total inférieur peut mieux protéger le parcours décisif.
Les benchmarks publics sont-ils utiles pour choisir un modèle?
Ils aident à établir une première liste. Ils ne remplacent pas les essais avec les vraies consignes, sources, outils, langues, formes de données et contrôles de l’application.
Quand une application doit-elle employer plusieurs modèles?
Le routage est pertinent lorsque les familles de cas ont des besoins différents en qualité, latence, confidentialité ou coût et que la décision de routage est elle-même mesurable.
À quelle fréquence faut-il réévaluer le modèle retenu?
Avant les mises à niveau et après tout changement important de modèle, consigne, recherche, outil, distribution des données, règle ou comportement utilisateur. Les déclencheurs comptent plus qu’un calendrier seul.
Sources
Sources primaires
- Noyau du cadre de gestion des risques liés à l’IA National Institute of Standards and Technology
- Guide NIST pour la mesure des risques liés à l’IA National Institute of Standards and Technology
Zeke
Ingénierie de produits IA pour transformer un cahier des charges en produit fiable en production.
Directions produit, fondateurs et équipes d’ingénierie. Le point de départ est le processus existant, ses contraintes et les preuves déjà disponibles.
Découvrir Zeke→