- Core Haven Labs
- Blog
- Deux fournisseurs d'IA en relais
Pourquoi nous mettons deux fournisseurs d'IA en relais
Un fournisseur d'IA connaît des pannes, comme tout service sur internet. Pour un commerçant qui reçoit une demande de rendez-vous à 22 h 30, cela ne doit faire aucune différence. C'est pourquoi nos systèmes ont toujours deux fournisseurs en relais.
Une interface, deux fournisseurs
Auto-Reputatie et BarbrFlow ne parlent pas directement à une seule entreprise d'IA. Ils parlent à une couche qui nous est propre et qui sait exactement ce qu'une réponse ou une classification doit produire. Derrière cette couche se trouvent deux fournisseurs : dans Auto-Reputatie OpenAI avec Anthropic en réserve, dans BarbrFlow Claude avec OpenAI en réserve.
Si le premier renvoie une erreur, un délai dépassé ou une réponse inutilisable, la même demande part automatiquement vers le second. Le client ne remarque rien ; tout au plus la réponse prend quelques secondes de plus.
Une solution de secours identique au premier choix n'est pas une solution de secours. C'est pourquoi ce sont deux fournisseurs différents.
Une panne ne doit jamais signifier le silence
Avec une réceptionniste WhatsApp, le pire qui puisse arriver est qu'un client n'ait aucune réponse. C'est pourquoi BarbrFlow est construit pour qu'une classification échouée ne produise jamais le silence : si aucun des deux fournisseurs ne parvient à comprendre le message, le client reçoit quand même une confirmation correcte que le message est bien arrivé, et le propriétaire est sollicité.
Avec Auto-Reputatie, c'est le principe inverse : une réponse qui échoue au contrôle n'est pas publiée. Là, ne rien faire est l'issue sûre, et cela reste un brouillon pour le commerçant.
Tout est traçable
Pour chaque réponse, nous enregistrons quel fournisseur, quel modèle et quelle version des instructions ont été utilisés, ainsi que la quantité de texte traitée. Ainsi, à la question d'un commerçant, nous pouvons retracer précisément ce qui s'est passé, et nous mesurons par version si les réponses s'améliorent ou se dégradent. Pour cela, Auto-Reputatie est passé à chaque modification sur un jeu fixe de 52 avis de test.
À lire aussi : pourquoi une réponse IA ne part jamais sans contrôle.
En savoir plus sur notre façon de construire ?
Lisez comment nous travaillons, sur quoi repose la technologie et ce que nous ne faisons délibérément pas.