Approche
Une méthode orientée production : partir du besoin métier, expliciter les contraintes, puis choisir les briques IA et la couche API avec une stratégie d'observabilité et de déploiement définie dès le départ.
Analyse du besoin métier
Cas d'usage, criticité, niveau de service attendu, données disponibles, contraintes légales, périmètre et critères d'acceptation.
Choix du modèle : API ou local
Arbitrage entre coût, latence et confidentialité. Disponibilité, gouvernance, contraintes GPU, stratégie de repli et modes dégradés.
Stratégie d'embeddings
Granularité, découpage, versionnage, évaluation, gestion des mises à jour et qualité des sources.
Base vectorielle
Choix du stockage, index, filtrage, cloisonnement par client, rétention, performances et coûts.
Couche API
FastAPI et REST, authentification, limitation de débit, schémas, idempotence, traçabilité et contrats stables.
Observabilité
Logs structurés, métriques, traces, et suivi de la qualité : version de prompt, pertinence du retrieval, dérives constatées.
Déploiement
CI/CD, environnements, gestion des secrets, montée en charge, observabilité et procédures d'exploitation.