- Core Haven Labs
- Blog
- Zwei KI-Anbieter hintereinander
Warum wir zwei KI-Anbieter hintereinander schalten
Ein KI-Anbieter hat Störungen, wie jeder Dienst im Internet. Für einen Unternehmer, der um 22:30 Uhr einen Termin hereinbekommt, darf das keinen Unterschied machen. Deshalb stehen in unseren Systemen immer zwei Anbieter hintereinander.
Eine Schnittstelle, zwei Anbieter
Auto-Reputatie und BarbrFlow sprechen nicht direkt mit einem KI-Unternehmen. Sie sprechen mit einer eigenen Schicht, die genau weiß, was eine Antwort oder eine Einordnung liefern muss. Hinter dieser Schicht sitzen zwei Anbieter: in Auto-Reputatie OpenAI mit Anthropic als Reserve, in BarbrFlow Claude mit OpenAI als Reserve.
Liefert der erste einen Fehler, eine Zeitüberschreitung oder eine unbrauchbare Antwort, geht derselbe Auftrag automatisch an den zweiten. Der Kunde merkt davon nichts; höchstens dauert die Antwort ein paar Sekunden länger.
Eine Reserve, die mit der ersten Wahl identisch ist, ist keine Reserve. Deshalb sind es zwei verschiedene Anbieter.
Eine Störung darf nie Stille bedeuten
Bei einer WhatsApp-Rezeptionistin ist das Schlimmste, was passieren kann, dass ein Kunde nichts zurückhört. Deshalb ist BarbrFlow so gebaut, dass eine gescheiterte Einordnung nie Stille ergibt: gelingt es beiden Anbietern nicht, die Nachricht zu verstehen, bekommt der Kunde trotzdem eine ordentliche Bestätigung, dass die Nachricht angekommen ist, und der Inhaber wird eingeschaltet.
Bei Auto-Reputatie gilt das umgekehrte Prinzip: eine Antwort, die die Prüfung nicht besteht, wird nicht veröffentlicht. Dort ist Nichtstun das sichere Ergebnis, und es bleibt ein Entwurf für den Unternehmer.
Alles nachvollziehbar
Pro Antwort halten wir fest, welcher Anbieter, welches Modell und welche Version der Anweisungen verwendet wurden, plus wie viel Text verarbeitet wurde. So können wir bei einer Frage eines Unternehmers genau nachsehen, was passiert ist, und wir messen pro Version, ob die Antworten besser oder schlechter werden. Dafür wird Auto-Reputatie bei jeder Änderung an einem festen Satz von 52 Testbewertungen gemessen.
Lies auch: warum eine KI-Antwort nie ungeprüft online geht.
Mehr darüber, wie wir bauen?
Lies, wie wir arbeiten, worauf die Technik läuft und was wir bewusst nicht tun.