Zgodne z OpenAI, z księgowością w komplecie.

Wskaż istniejącemu klientowi nasz adres, zmień bazowy URL i klucz, a resztę kodu zostaw tak, jak jest.

  • Zgodne bez przeróbek
  • Budżet na klucz
  • Koszt zapisany per wywołanie
  1. Twoje nazwy Twoich modeli

    Wpis mapuje nazwę, której używasz, na dostawcę i model po jego stronie. Zmiana tego, co stoi za nazwą, jest zmianą administracyjną, a nie wydaniem nowej wersji kodu.

  2. Klucz, który nie ucieknie z rachunkiem

    Każdy klucz ma własny budżet. Po osiągnięciu sufitu zapytanie jest odrzucane w standardowym formacie błędu, z powodem w środku.

  3. Pieniądze rezerwowane, zanim zapytanie wyjdzie

    Platforma blokuje najgorszy możliwy koszt wywołania przed wysłaniem go dalej i rozlicza faktyczną kwotę po powrocie, więc równoległy ruch nie przekroczy salda.

  4. Zapis, który da się uzgodnić

    Każde wywołanie trafia do śladu z tokenami, kosztem, kluczem, który je wykonał, i osobą albo agentem, który za nim stoi.

Szczegóły operacyjne

  • Standardowe formaty błędów, więc istniejący klienci obsłużą odmowy
  • Odpowiedzi strumieniowe również raportują zużycie
  • Klucze są przechowywane jako skróty i pokazywane raz
  • Limity wydatków per organizacja i per klucz, ustawiane w konsoli

Zmień dwie linijki i sprawdź

Bazowy URL i klucz. Cała reszta klienta zostaje na miejscu.