Gateway API AI
Satu token untuk Claude, GPT, Gemini, dan Qwen, kompatibel dengan SDK resmi tiap penyedia — migrasi biasanya cukup mengubah dua baris: base_url dan api_key.
- Kompatibilitas protokol: gunakan protokol asli OpenAI, Anthropic, dan Gemini secara langsung, tanpa penulisan ulang
- Streaming: dukungan SSE penuh; latensi token pertama bergantung pada jaringan, model, dan penyedia
- Katalog model: model tersedia, batas konteks, dan kemampuan (visi / alat / penalaran)
- Pemakaian dan penagihan: biaya per token dengan rincian pemakaian per kunci
Gateway terpadu dengan 3 protokol resmi: Anthropic / OpenAI / Gemini. Ketiga format dapat memanggil semua model di gateway. Biaya token × harga resmi × pengali grup harga yang dipakai kunci Anda, tanpa biaya tetap bulanan.
Informasi dasar
- Authorization: Bearer sk-nc-... Gemini juga mendukung x-goog-api-key / ?key=
- Setelah masuk, buat di "Layanan AI → API key"
- Harga resmi USD/MTok × pengali grup harga; jika grup memiliki jam di luar jam sibuk, permintaan pada jam tersebut juga dikalikan pengali di luar jam sibuk. Prapotong saldo; streaming diselesaikan asinkron saat selesai
- GPT melalui SDK Anthropic dan Claude melalui SDK OpenAI didukung; gateway menerjemahkan protokol.
3 Format Panggilan
Anthropic /v1/messages
Protokol Claude messages; SDK luas dipakai @anthropic-ai/sdk / anthropic Python
OpenAI /v1/chat/completions
OpenAI Chat Completions, mendukung tools / streaming / multimodal
Gemini /v1beta/models/...
Protokol native Gemini, model dalam path menentukan rute
Tingkat layanan dan kecepatan
Gateway selalu meneruskan permintaan pada tingkat standar dan menagih harga standar; tidak ada tingkat diskon maupun tingkat lebih cepat:
- service_tier (flex / fast / priority, dll.) dihapus dari body permintaan format OpenAI
- speed (mode cepat) dihapus dari body permintaan format Anthropic
- Header X-Service-Tier tidak berpengaruh; permintaan yang mengirimnya diproses pada tingkat standar
Kode Error
- 401 — Kunci API invalid/nonaktif
- 402 insufficient_balance — Saldo tidak cukup: saldo tersedia (setelah biaya belum diselesaikan) ≤ 0 atau tidak cukup untuk jumlah yang dicadangkan bagi permintaan ini (diperkirakan dari batas konteks dan keluaran model, ditambah «maks. pencarian × harga satuan» bila memakai pencarian web sisi server); pesan galat menyebut cadangan yang diperlukan dan saldo tersedia. Isi ulang lalu coba lagi. Saat saldo tersedia di bawah $5, respons membawa X-Tovanix-Balance-Low: 1 dan X-Tovanix-Balance-Available (USD) agar Anda bisa mengingatkan lebih awal
- 402 quota_exceeded — Batas pengeluaran bulanan kunci telah tercapai; batas direset bulan berikutnya. Batas juga dapat diubah lewat "Ubah batas" di halaman "API key" pada konsol (perlu verifikasi identitas)
- 403 group_unavailable — Grup harga yang dipakai kunci ini untuk penyedia model telah dinonaktifkan. Ganti grup kunci di halaman API key; gateway tidak pernah pindah ke grup lain dengan sendirinya
- 503 no_upstream_available — Model tidak punya rute tersedia di grup harga yang dipakai kunci Anda (rute dinonaktifkan atau sedang cooldown sementara). Coba lagi nanti, atau ganti grup kunci di halaman API key jika penyedia itu punya beberapa grup
- 502 — Layanan model sedang tidak tersedia atau mengembalikan respons yang tidak dapat diurai; coba lagi nanti
Endpoint Lain
Selain chat, gateway menyediakan:
GET /v1/models
Model dapat dirutekan, kompatibel OpenAI dan models.list() SDK
POST /v1/embeddings
Embedding teks kompatibel OpenAI: input ke vektor, tagihan per token
Contoh Python / Node.js
Playground lengkap, harga, dan log di Pusat Pengguna → Layanan AI.
Pertanyaan umum
Berapa banyak kode yang berubah saat migrasi dari API penyedia?
Biasanya hanya base_url dan api_key. Gerbang kompatibel dengan SDK dan protokol resmi — isi permintaan, struktur respons, dan format streaming tetap sama.
Apakah streaming didukung?
Ya. Streaming SSE didukung penuh dan stream=true dapat digunakan langsung dari SDK resmi. Latensi token pertama bergantung pada kondisi jaringan, model, dan penyedia, sehingga tidak dijamin sama dengan akses langsung.
Halaman terkait: Layanan AI · Dokumentasi API · Solusi AI Global
Memuat…