Tovanix
Tovanix

KI-API-Gateway verwenden

Mit einem API-Schlüssel rufen Sie Modelle mehrerer Modellanbieter auf; abgerechnet wird nach tatsächlicher Nutzung über das Kontoguthaben:

  • Schlüssel erstellen Sie unter „KI-Dienste → API-Gateway → API-Schlüssel“, wählen je Modellanbieter eine Preisgruppe und können ein monatliches Ausgabenlimit festlegen, das sich später in der Schlüsselliste ändern lässt
  • Unterstützt werden die Anfrageformate von OpenAI, Anthropic und Gemini; für die Integration genügt meist, Gateway-Adresse und Schlüssel zu ändern
  • Preis = offizieller Preis × Faktor der Preisgruppe; manche Gruppen haben Preise für Nebenzeiten
  • Vor dem Aufruf wird ein Betrag reserviert, danach nach tatsächlicher Nutzung abgerechnet; abgebucht wird gesammelt einmal pro Minute
  • „Nutzung und Protokolle“ bietet Statistik und Details zu jedem einzelnen Aufruf

Wozu das Gateway dient

Das API-Gateway der KI-Dienste ist ein einheitlicher Zugang zu großen Sprachmodellen: Mit einem API-Schlüssel rufen Sie Modelle mehrerer Modellanbieter auf. Abgerechnet wird nach tatsächlicher Nutzung über Ihr Kontoguthaben; Sie brauchen nicht bei jedem Anbieter ein eigenes Konto mit eigener Aufladung.

  • Offizielle SDKs funktionieren unverändert. Meist ändern Sie nur base_url und api_key; Anfrage- und Antwortstrukturen bleiben gleich.
  • Unterstützt werden die Anfrageformate von OpenAI, Anthropic und Gemini, auch formatübergreifend: Sie können zum Beispiel mit dem OpenAI-SDK ein Claude-Modell aufrufen; das Gateway wandelt automatisch um.
  • Abgerechnet wird nach Preisgruppe: Ein Modell hat innerhalb einer Gruppe genau einen Preis. Hat eine Gruppe mehrere Routen und fällt eine aus, wird automatisch auf die nächste Route derselben Gruppe gewechselt; der Preis bleibt gleich.

API-Schlüssel erstellen

  • API-Schlüsselseite öffnen: Öffnen Sie in der Konsole „KI-Dienste → API-Gateway → API-Schlüssel“ und klicken Sie oben rechts auf „Schlüssel erstellen“.
  • Name, Preisgruppe und Monatslimit festlegen: Benennen Sie den Schlüssel nach seinem Zweck, zum Beispiel production, test oder cursor. Für Modellanbieter mit mehreren Gruppen wählen Sie jeweils eine „Preisgruppe“; ohne Auswahl gilt die Standardgruppe dieses Anbieters. Ein leeres monatliches Ausgabenlimit bedeutet unbegrenzt, 0 bedeutet, dass in diesem Monat keine Ausgaben erlaubt sind. Das Limit können Sie später in der Schlüsselliste über „Limit ändern“ anpassen; dafür ist eine Identitätsbestätigung nötig.
  • Identität bestätigen: Nach einem Klick auf „Erstellen“ müssen Sie Ihre Identität bestätigen: Mit aktivierter Zwei-Faktor-Authentifizierung (2FA) geben Sie den 6-stelligen Code aus Ihrer Authenticator-App ein, ohne 2FA den per E-Mail gesendeten Bestätigungscode. Danach müssen Sie sich in derselben Anmeldesitzung 10 Minuten lang beim Erstellen weiterer Schlüssel oder beim Ändern von Limits nicht erneut bestätigen.
  • Klartextschlüssel sofort speichern: Der Schlüssel beginnt mit sk-nc- und einer Zeichenfolge. Er wird nur einmal angezeigt, da das Backend nur den Hash speichert. Kopieren Sie ihn vor Schließen des Dialogs in Ihren Passwortmanager.

Nach Schließen ist der Klartext endgültig weg; die Plattform hält nur einen Hash, nicht den Schlüssel. Ohne Speicherung müssen Sie den Schlüssel löschen und neu erstellen. Löschen gilt sofort und trennt alles, was ihn noch verwendet.

Preisgruppen

Die Preisgruppe bestimmt, zu welchem Preis dieser Schlüssel die Modelle eines Modellanbieters abrechnet: Preis = offizieller Preis × Faktor der Gruppe. Gruppen sind nach Modellanbieter aufgeteilt; jeder Anbieter hat eigene Gruppen und eine Standardgruppe.

  • Beim Erstellen eines Schlüssels müssen Sie nur bei Modellanbietern mit zwei oder mehr Gruppen wählen; bei Anbietern mit nur einer Gruppe entfällt die Auswahl. Wo Sie nichts wählen, gilt die Standardgruppe des Anbieters.
  • Die Spalte „Gruppe“ in der Schlüsselliste zeigt die gewählte Gruppe und den Faktor je Anbieter. Mit „Wechseln“ ändern Sie sie; ab dem nächsten Aufruf wird zum Preis der neuen Gruppe abgerechnet.
  • Aufrufe nutzen nur die Routen der gewählten Gruppe und wechseln nie in eine andere Gruppe. Der Preis eines Modells ändert sich deshalb nicht durch einen Routenwechsel.

Wird die für einen Anbieter gewählte Gruppe deaktiviert, zeigt die Liste „Gruppe deaktiviert“, und Aufrufe der Modelle dieses Anbieters mit diesem Schlüssel werden abgelehnt (HTTP 403). Wählen Sie dann mit „Wechseln“ eine andere Gruppe.

Ersten Aufruf ausführen

Die Gateway-Adresse ist die Domain, unter der die Konsole läuft. Das „Dashboard“ enthält curl-Beispiele in den Formaten von OpenAI, Anthropic und Gemini; ein weiteres steht im Dialog nach dem erfolgreichen Erstellen eines Schlüssels. Die Gateway-Adresse ist darin jeweils schon eingetragen.

  • OpenAI — /v1/chat/completions — Anfrage-Header Authorization, Wert ist Bearer gefolgt von Ihrem Schlüssel
  • Anthropic — /v1/messages — Anfrage-Header x-api-key
  • Gemini — /v1beta/models/Modellname:generateContent, für Streaming :streamGenerateContent — Anfrage-Header x-goog-api-key oder URL-Parameter ?key=
  • Bei einem offiziellen SDK setzen Sie base_url auf das Gateway und api_key auf diesen Schlüssel. Der übrige Code bleibt unverändert.
  • Zusätzlich gibt es /v1/models (verfügbare Modelle auflisten), /v1/embeddings (Text-Embeddings) und /v1/images/generations (Bildgenerierung, Abrechnung pro Bild); alle werden im OpenAI-Format aufgerufen.
  • Tragen Sie bei model die Modellkennung ein, die auf der Karte im „Modellmarktplatz“ angezeigt wird. Ist sie falsch oder das Modell nicht freigegeben, kommt 404 zurück.

Modellmarktplatz und Preisanzeige

Der Marktplatz listet alle verfügbaren Modelle nach Anbieter. Suche nach Name, Slug, Beschreibung oder Fähigkeit ist möglich; Parameter wie Kontext und maximale Ausgabe werden mit angezeigt.

  • Preis = offizieller Preis × Faktor der Preisgruppe. Die Registerkarte „Alle“ zeigt die Preise der jeweiligen Standardgruppe; öffnen Sie einen Anbieter, können Sie zwischen seinen Gruppen wechseln. Der Multiplikator oben rechts auf der Karte ist der Faktor der aktuellen Gruppe.
  • Modelle mit Abrechnung nach Token haben zwei Preise, Eingabe und Ausgabe, jeweils pro 1 Million Token; ein Preis für Cache-Lesezugriffe steht in einer eigenen Zeile. Bei Modellen für Bilder, Audio oder Video mit Abrechnung pro Bild, Sekunde, Minute oder Aufruf steht der Stückpreis direkt auf der Karte.
  • Manche Modellkarten haben eine Zeile „Prompts über …“ mit einer bestimmten Länge: Überschreitet der Prompt einer Anfrage diese Länge, wird die gesamte Anfrage zum Preis dieser Zeile abgerechnet.
  • Bei Modellen mit der Zeile „Websuche“ auf der Karte wird die eingebaute Websuche des Modells zusätzlich pro Suche abgerechnet.

Hat eine Gruppe einen Preis für Nebenzeiten, zeigt die Karte „Nebenzeit“ mit dem Faktor; beim Darüberfahren mit der Maus sehen Sie die Spitzenzeiten. Außerhalb der Spitzenzeiten wird der Gruppenpreis zusätzlich mit diesem Faktor multipliziert; maßgeblich ist der Zeitpunkt, zu dem die Anfrage gestellt wird. Steht auf einer Karte „In dieser Gruppe gibt es noch keine Route“, werden die Gruppen aufgeführt, in denen das Modell nutzbar ist. „Nicht verfügbar“ bedeutet, dass das Modell derzeit in keiner Gruppe aufgerufen werden kann.

Nutzung und Protokolle

Unter „KI-Dienste → API-Gateway → Nutzung und Protokolle“ steht oben die Statistik, umschaltbar zwischen 24 Stunden, 7 Tagen, 30 Tagen und 90 Tagen (Standard: 7 Tage), unten die Aufrufdetails.

  • Statistik: Anzahl der Anfragen, abgerechneter Betrag, Token insgesamt (einschließlich Cache), Erfolgsquote und durchschnittliche Dauer sowie Tagesverlauf und Ranglisten nach Modell und nach Schlüssel.
  • Details: Zeit, Modell, Streaming ja oder nein, Eingabe-, Ausgabe- und Cache-Token, abgerechneter Betrag, Faktor, Dauer und Status jedes Aufrufs; filterbar nach Modell-Slug.
  • Die Details erfassen nur Aufrufe, die ein Modell erreicht haben; der Status ist „Erfolgreich“ oder „Fehler“, und Einträge mit „Fehler“ werden nicht abgerechnet. Anfragen, die schon vorher abgelehnt werden (etwa ungültiger Schlüssel, erreichtes Monatslimit, unzureichendes Guthaben oder deaktivierte Gruppe), erscheinen nicht in den Details; den Grund nennt die Fehlermeldung der Schnittstelle.
  • Die Spalte „Faktor“ zeigt den Faktor der Gruppe ohne Rabatt für Nebenzeiten. Wie viel tatsächlich abgebucht wurde, steht in der Spalte „Abgerechnet in USD“.

Wie abgerechnet wird

Abgerechnet wird nach tatsächlicher Nutzung über Ihr Kontoguthaben; eine eigene Aufladung für diesen Dienst ist nicht nötig. Kosten je Aufruf = offizieller Preis × Faktor der Gruppe; hat die Gruppe Nebenzeiten, wird in diesen Zeiten zusätzlich mit dem Faktor für Nebenzeiten multipliziert. Maßgeblich ist der Zeitpunkt, zu dem die Anfrage gestellt wird.

  • Vor jedem Aufruf wird anhand der Eingabelänge und der maximalen Ausgabe des Modells ein Betrag reserviert; nach dem Aufruf wird nach tatsächlicher Nutzung abgerechnet und der Rest freigegeben. Reicht das verfügbare Guthaben für die Reservierung nicht, kommt die Meldung „Guthaben unzureichend“ (HTTP 402) zurück; die Fehlermeldung nennt den benötigten Reservierungsbetrag und den aktuell verfügbaren Betrag.
  • Die Kosten werden pro Aufruf aufsummiert und einmal pro Minute gesammelt vom Guthaben abgebucht. In den Abrechnungen unter „Finanzen“ entsteht jede Stunde ein Eintrag „Verbrauch KI-Dienste (Zusammenfassung über 1 Stunde)“.
  • Fällt das verfügbare Guthaben auf $5 oder darunter, erinnert Sie die Plattform einmal über Website-Nachricht und andere Benachrichtigungskanäle; steigt es wieder über $5 und fällt erneut, kommt eine neue Erinnerung. In dieser Zeit enthalten die Antworten der Schnittstelle die Header X-Tovanix-Balance-Low: 1 und X-Tovanix-Balance-Available (aktuell verfügbarer Betrag); Ihr Programm kann damit rechtzeitig zum Aufladen auffordern.
  • Für jeden Schlüssel lässt sich ein eigenes monatliches Ausgabenlimit festlegen. Es gilt pro Kalendermonat und wird im Folgemonat automatisch zurückgesetzt. Vor jedem Aufruf wird geprüft: Erreichen die Ausgaben dieses Monats zusammen mit den laufenden Aufrufen das Limit, wird kein weiterer Aufruf zugelassen. Der letzte Aufruf wird nach tatsächlicher Nutzung abgerechnet, sodass die Monatsausgaben das Limit leicht überschreiten können.

Hinweise

  • Der Klartextschlüssel erscheint nur bei Erstellung; speichern Sie ihn sofort.
  • Das Löschen eines Schlüssels wirkt sofort und lässt sich nicht rückgängig machen. Wenn Sie ihn nur pausieren möchten, klicken Sie in der Liste auf „Deaktivieren“; später können Sie ihn mit „Aktivieren“ wieder einschalten.
  • Ein Monatslimit von 0 sperrt den Schlüssel für den ganzen Monat. 0 bedeutet nicht unbegrenzt.
  • Das Gateway bearbeitet Anfragen in der Standardstufe: In der Anfrage angegebene Geschwindigkeitsstufen (etwa speed: fast bei Claude oder service_tier bei OpenAI) werden ignoriert, und abgerechnet wird zum Standardpreis.
  • Rufen Sie im Anthropic-Format mit dem Websuche-Werkzeug auf und legen in der Anfrage keine Höchstzahl an Suchen fest, wird pro Anfrage höchstens 10-mal gesucht.

Fehlerbehebung

  • 401 mit dem Hinweis, dass der Schlüssel ungültig oder deaktiviert ist — Der Schlüssel ist falsch eingetragen, wurde gelöscht oder deaktiviert — Prüfen Sie auf der Seite „API-Schlüssel“, ob der Schlüssel „Aktiviert“ ist; einen deaktivierten Schlüssel schalten Sie mit „Aktivieren“ wieder ein. Ein gelöschter Schlüssel lässt sich nicht wiederherstellen; erstellen Sie dann einen neuen.
  • 402 mit dem Hinweis, dass das monatliche Ausgabenlimit erreicht ist — Die Ausgaben dieses Schlüssels haben in diesem Monat das Limit erreicht (ein Limit von 0 bedeutet, dass in diesem Monat keine Ausgaben erlaubt sind) — Im Folgemonat geht es automatisch weiter. Können Sie nicht warten, klicken Sie auf der Seite „API-Schlüssel“ bei diesem Schlüssel auf „Limit ändern“ und erhöhen Sie das Limit oder lassen Sie das Feld für unbegrenzt leer (Identitätsbestätigung erforderlich); das neue Limit gilt ab dem nächsten Aufruf.
  • 402 mit dem Hinweis, dass das Guthaben nicht ausreicht — Das verfügbare Guthaben reicht nicht für den Betrag, der für diese Anfrage reserviert wird — Die Fehlermeldung nennt den für diese Anfrage benötigten Reservierungsbetrag und den aktuell verfügbaren Betrag. Laden Sie auf und versuchen Sie es erneut.
  • 403 oder 503 mit dem Hinweis, dass die Gruppe deaktiviert ist oder keine Route verfügbar ist — Die für diesen Anbieter gewählte Gruppe wurde deaktiviert, oder für dieses Modell gibt es in der Gruppe vorübergehend keine verfügbare Route — Wählen Sie auf der Seite „API-Schlüssel“ mit „Wechseln“ eine andere Gruppe; die Karte im „Modellmarktplatz“ listet die Gruppen auf, in denen das Modell nutzbar ist. Sie können es auch später erneut versuchen.
  • Die Abrechnung liegt über dem Marktplatzpreis — Die Registerkarte „Alle“ zeigt die Preise der Standardgruppe, Ihr Schlüssel nutzt aber eine andere Gruppe; oder die Anfrage fiel in eine Nebenzeit, der Prompt lag über der Schwelle für lange Kontexte, oder die Websuche wurde verwendet — Maßgeblich ist der abgerechnete Betrag jedes Eintrags unter „Nutzung und Protokolle“.
  • Eine Produktiv-App verliert plötzlich die Verbindung — Der Schlüssel wurde gelöscht oder deaktiviert — Einen deaktivierten Schlüssel stellen Sie in der Liste mit „Aktivieren“ wieder her. Bei einem gelöschten Schlüssel bleibt nur, einen neuen zu erstellen und den alten Schlüssel in der Anwendung zu ersetzen.

Häufig gestellte Fragen

Wie viel Code muss ich für die Integration ändern?

Meist nur zwei Stellen: base_url auf das Gateway setzen und api_key durch Ihren Plattformschlüssel ersetzen. Das Gateway ist mit den offiziellen SDKs und Protokollen kompatibel; Anfragekörper, Antwortstruktur und Streaming-Format bleiben gleich.

Warum weicht meine Abrechnung vom Preis im Modellmarktplatz ab?

Die Registerkarte „Alle“ zeigt die Preise der Standardgruppe jedes Anbieters. Hat Ihr Schlüssel eine andere Gruppe gewählt, wird zu deren Preis abgerechnet. Außerdem können Rabatte in Nebenzeiten, ein anderer Preis für die gesamte Anfrage, wenn der Prompt die Schwelle für lange Kontexte überschreitet, und separat pro Suche abgerechnete Websuchen die Kosten eines Aufrufs vom angezeigten Preis abweichen lassen. Maßgeblich ist der abgerechnete Betrag jedes Eintrags unter „Nutzung und Protokolle“.

Wie begrenze ich die Ausgaben eines Projekts?

Erstellen Sie für das Projekt einen eigenen Schlüssel und legen Sie ein monatliches Ausgabenlimit fest. Das Limit gilt pro Schlüssel, Projekte beeinflussen sich also nicht gegenseitig. Zum Anpassen klicken Sie später in der Schlüsselliste auf „Limit ändern“ (Identitätsbestätigung erforderlich).

Verwandte Seiten: Hilfezentrum · Anleitungen und häufige Fragen · KI-Dienste · API-Dokumentation

Wird geladen…