Menggunakan gateway API AI
Satu kunci API memanggil model dari banyak penyedia, dengan biaya dipotong dari saldo akun sesuai penggunaan sebenarnya:
- Buat kunci di Layanan AI → Gateway API → API key, pilih grup harga per penyedia model, dan atur batas pengeluaran bulanan yang nanti dapat diubah di daftar kunci
- Mendukung tiga format permintaan — OpenAI, Anthropic, dan Gemini; integrasi biasanya hanya perlu mengganti alamat gateway dan kunci
- Harga = harga resmi × rasio grup harga; sebagian grup memiliki harga jam sepi
- Dana dicadangkan sebelum panggilan, diselesaikan sesuai penggunaan sebenarnya setelahnya, dan dipotong dari saldo secara gabungan sekali per menit
- Penggunaan dan log menyediakan statistik serta rincian setiap panggilan
Kegunaan gateway
Gateway API di Layanan AI adalah pintu masuk tunggal untuk memanggil model bahasa besar: satu kunci API memanggil model dari banyak penyedia model, biaya dipotong dari saldo akun sesuai penggunaan sebenarnya, dan Anda tidak perlu membuka akun serta mengisi saldo terpisah di setiap penyedia.
- SDK resmi langsung kompatibel: biasanya cukup mengubah base_url dan api_key, tanpa mengubah struktur permintaan atau respons.
- Mendukung tiga format permintaan — OpenAI, Anthropic, dan Gemini — dan dapat dipanggil lintas format, misalnya memanggil model Claude dengan SDK OpenAI; gateway mengonversinya otomatis.
- Harga mengikuti grup harga: satu model hanya memiliki satu harga dalam satu grup. Jika grup memiliki beberapa rute, rute yang error otomatis diganti dengan rute berikutnya di grup yang sama, dan harganya tidak berubah.
Membuat kunci API
- Buka halaman Kunci API: Di konsol, buka "Layanan AI → Gateway API → API key", lalu klik "Buat kunci" di kanan atas.
- Isi nama, grup harga, dan batas bulanan: Sebaiknya beri nama sesuai penggunaan, misalnya production, test, atau cursor. Untuk penyedia model yang memiliki beberapa grup, pilih satu "Grup harga" untuk masing-masing; jika tidak dipilih, grup bawaan penyedia itu yang dipakai. Batas pengeluaran bulanan yang dikosongkan berarti tanpa batas, sedangkan 0 berarti tidak boleh ada pengeluaran bulan ini; setelah dibuat, batas dapat diubah lewat "Ubah batas" di daftar kunci dengan verifikasi identitas.
- Verifikasi identitas: Setelah mengklik "Buat", Anda perlu memverifikasi identitas: jika autentikasi dua faktor (2FA) aktif, masukkan kode dinamis 6 digit dari aplikasi autentikator; jika tidak, masukkan kode verifikasi yang dikirim ke email. Setelah lolos verifikasi, membuat kunci baru atau mengubah batas dalam 10 menit pada sesi login yang sama tidak memerlukan verifikasi ulang.
- Segera simpan kunci teks asli: Kunci diawali sk-nc- diikuti teks dan hanya ditampilkan sekali, karena backend hanya menyimpan hash. Salin ke pengelola kata sandi sebelum menutup dialog.
Setelah dialog ditutup, teks asli tidak dapat dipulihkan — platform menyimpan hash saja. Jika belum disimpan, hapus dan buat kunci baru. Penghapusan langsung berlaku dan memutus semua pengguna kunci itu.
Grup harga
Grup harga menentukan harga yang ditagihkan saat kunci ini memanggil model dari penyedia tertentu: harga = harga resmi × rasio grup. Grup dibagi per penyedia model; setiap penyedia memiliki grupnya sendiri dan satu grup bawaan.
- Saat membuat kunci, pilihan hanya diperlukan untuk penyedia model yang memiliki dua grup atau lebih; penyedia dengan satu grup tidak perlu dipilih. Penyedia yang tidak dipilih memakai grup bawaannya.
- Kolom "Grup" di daftar kunci menampilkan grup yang dipilih untuk setiap penyedia beserta rasionya; klik "Ganti" untuk mengubahnya, dan harga grup baru berlaku mulai panggilan berikutnya.
- Panggilan hanya melalui rute di grup yang dipilih dan tidak pindah ke grup lain, sehingga harga model yang sama tidak berubah karena pergantian rute.
Jika grup yang dipilih untuk suatu penyedia dinonaktifkan, daftar akan menampilkan "Grup dinonaktifkan", dan panggilan ke model penyedia itu dengan kunci ini akan ditolak (HTTP 403). Klik "Ganti" untuk memilih grup lain.
Panggilan pertama
Alamat gateway adalah domain tempat konsol berada. Halaman "Dasbor" memiliki contoh curl untuk format OpenAI, Anthropic, dan Gemini, dan jendela yang muncul setelah kunci berhasil dibuat juga memuat satu contoh; alamat gateway di semuanya sudah terisi.
- OpenAI — /v1/chat/completions — Header permintaan Authorization, dengan nilai Bearer diikuti kunci Anda
- Anthropic — /v1/messages — Header permintaan x-api-key
- Gemini — /v1beta/models/nama-model:generateContent; untuk streaming gunakan :streamGenerateContent — Header permintaan x-goog-api-key, atau parameter URL ?key=
- Dengan SDK resmi, arahkan base_url ke gateway dan isi api_key dengan kunci ini; kode lain tetap sama.
- Selain itu ada /v1/models (daftar model yang tersedia), /v1/embeddings (vektor teks), dan /v1/images/generations (pembuatan gambar, ditagih per gambar), yang semuanya dipanggil dengan format OpenAI.
- Isi model dalam permintaan dengan pengenal model yang tertera di kartu "Pasar model". Jika salah diisi atau model belum tersedia, respons 404 dikembalikan.
Pasar model dan tampilan harga
"Pasar model" menampilkan semua model yang tersedia menurut penyedia, dapat dicari melalui nama, slug, deskripsi, atau kemampuan; konteks, output maksimum, dan parameter lain turut ditampilkan.
- Harga = harga resmi × rasio grup harga. Tab "Semua" menampilkan harga menurut grup bawaan setiap penyedia; buka salah satu penyedia untuk beralih di antara grupnya. Angka kelipatan di kanan atas kartu adalah rasio grup saat ini.
- Model yang ditagih per token dibagi menjadi input dan output, dengan satuan per 1 juta token; harga baca cache, jika ada, ditampilkan di baris terpisah. Untuk model gambar, audio, video, dan sejenisnya yang ditagih per gambar, detik, menit, atau permintaan, kartu langsung menampilkan harga satuannya.
- Kartu sebagian model memiliki baris harga "Prompt di atas" panjang tertentu: jika prompt dalam satu permintaan melebihi panjang tersebut, seluruh permintaan dihitung dengan harga di baris itu.
- Untuk model yang kartunya memiliki baris "Pencarian web", penggunaan pencarian web bawaan model ditagih terpisah menurut jumlah pencarian.
Jika grup memiliki harga jam sepi, kartu menampilkan label "Di luar jam sibuk" beserta rasionya, dan jam sibuk terlihat saat kursor diarahkan ke label itu; di luar jam sibuk, harga grup dikalikan lagi dengan rasio tersebut, ditentukan menurut waktu permintaan dikirim. Jika kartu bertanda "Belum ada rute di grup ini", kartu mencantumkan grup yang dapat memakai model tersebut; tanda "Tidak tersedia" berarti saat ini model itu tidak dapat dipanggil dari grup mana pun.
Penggunaan dan log
Bagian atas "Layanan AI → Gateway API → Penggunaan dan log" berisi statistik yang dapat dialihkan antara 24 jam, 7 hari, 30 hari, dan 90 hari (bawaan 7 hari); bagian bawah berisi rincian panggilan.
- Statistik: jumlah permintaan, jumlah tagihan, total token (termasuk bagian cache), tingkat keberhasilan, latensi rata-rata, serta tren harian dan peringkat menurut model dan menurut kunci.
- Rincian: waktu, model, streaming atau tidak, token input / output / cache, jumlah tagihan, rasio, latensi, dan status setiap panggilan; dapat difilter menurut slug model.
- Rincian hanya mencatat panggilan yang sudah sampai ke model, dengan status "Berhasil" dan "Kesalahan"; catatan "Kesalahan" tidak ditagih. Permintaan yang ditolak sebelum sampai ke model (misalnya kunci tidak valid, batas bulanan tercapai, saldo tidak cukup, atau grup dinonaktifkan) tidak muncul di rincian; lihat penyebabnya pada pesan error yang dikembalikan endpoint.
- Kolom "Rasio" menampilkan rasio grup tanpa potongan jam sepi; jumlah yang benar-benar dipotong setiap kali mengikuti kolom "Tagihan USD".
Cara penagihan
Biaya dipotong dari saldo akun sesuai penggunaan sebenarnya; layanan ini tidak perlu diisi saldo tersendiri. Biaya setiap panggilan = harga resmi × rasio grup; jika grup memiliki jam sepi, pada jam sepi biaya dikalikan lagi dengan rasio jam sepi, ditentukan menurut waktu permintaan dikirim.
- Sebelum panggilan, sejumlah dana dicadangkan berdasarkan panjang input permintaan dan output maksimum model; setelah selesai, biaya diselesaikan sesuai penggunaan sebenarnya dan kelebihannya dilepas. Jika saldo tersedia tidak cukup untuk pencadangan ini, respons saldo tidak cukup (HTTP 402) dikembalikan, dan pesan error menyebutkan jumlah yang perlu dicadangkan serta saldo yang tersedia saat ini.
- Biaya diakumulasi per panggilan dan dipotong dari saldo secara gabungan sekali setiap menit; tagihan di "Keuangan" mencatat satu baris "Penggunaan Layanan AI (ringkasan 1 jam)" setiap jam.
- Jika saldo tersedia turun ke $5 atau kurang, platform mengingatkan Anda sekali melalui kotak masuk dan saluran notifikasi lainnya; jika saldo kembali di atas $5 lalu turun lagi, pengingat dikirim lagi. Selama itu, header respons endpoint menyertakan X-Tovanix-Balance-Low: 1 dan X-Tovanix-Balance-Available (jumlah yang tersedia saat ini), sehingga program Anda dapat mengingatkan isi saldo lebih awal.
- Setiap kunci dapat memiliki batas pengeluaran bulanan sendiri, dihitung per bulan kalender dan pulih otomatis bulan berikutnya. Pemeriksaan dilakukan sebelum setiap panggilan: jika pengeluaran bulan ini ditambah panggilan yang sedang berjalan mencapai batas, panggilan berikutnya tidak diizinkan; panggilan terakhir diselesaikan sesuai penggunaan sebenarnya, sehingga pengeluaran bulan itu bisa sedikit melebihi batas.
Perhatian
- Kunci teks asli hanya muncul saat dibuat — simpan saat itu juga.
- Penghapusan kunci langsung berlaku dan tidak dapat dipulihkan. Jika hanya ingin menjeda, klik "Nonaktifkan" di daftar, lalu klik "Aktifkan" nanti.
- Batas bulanan 0 memblokir kunci sepanjang bulan; jangan memakai 0 untuk tanpa batas.
- Gateway memproses permintaan pada tingkat standar: tingkat kecepatan yang ditentukan dalam permintaan (misalnya speed: fast pada Claude atau service_tier pada OpenAI) diabaikan, dan biayanya juga dihitung dengan harga standar.
- Saat memanggil dengan format Anthropic dan menyertakan alat pencarian web, jika permintaan tidak menetapkan batas jumlah pencarian, setiap permintaan melakukan pencarian paling banyak 10 kali.
Pemecahan masalah
- Respons 401: kunci tidak valid atau dinonaktifkan — Kunci salah diisi, sudah dihapus, atau dinonaktifkan — Di halaman "API key", pastikan kunci ini berstatus "Aktif"; jika dinonaktifkan, klik "Aktifkan". Kunci yang sudah dihapus tidak dapat dipulihkan; buat kunci baru.
- Respons 402: batas pengeluaran bulanan tercapai — Pengeluaran kunci ini bulan ini sudah mencapai batas (batas 0 berarti tidak boleh ada pengeluaran bulan ini) — Batas pulih otomatis bulan berikutnya. Jika tidak bisa menunggu, di halaman "API key" klik "Ubah batas" pada kunci tersebut lalu naikkan batasnya atau kosongkan agar tanpa batas (perlu verifikasi identitas); batas baru berlaku mulai panggilan berikutnya.
- Respons 402: saldo tidak cukup — Saldo tersedia tidak cukup untuk dana cadangan permintaan ini — Pesan error menyebutkan jumlah yang perlu dicadangkan dan saldo yang tersedia saat ini; isi saldo, lalu coba lagi.
- Respons 403 atau 503: grup dinonaktifkan atau belum ada rute yang tersedia — Grup yang dipilih kunci untuk penyedia ini dinonaktifkan, atau model ini untuk sementara tidak memiliki rute yang tersedia di grup tersebut — Di halaman "API key", klik "Ganti" untuk memilih grup lain; kartu di "Pasar model" mencantumkan grup yang dapat memakai model ini. Anda juga dapat mencoba lagi nanti.
- Tagihan berbeda dari harga di pasar model — Tab "Semua" menampilkan harga grup bawaan, sementara kunci memakai grup lain; atau permintaan jatuh pada jam sepi, prompt melebihi ambang konteks panjang, atau memakai pencarian web — Jumlah tagihan pada setiap catatan di "Penggunaan dan log" yang menjadi acuan.
- Aplikasi produksi tiba-tiba terputus — Kunci dihapus atau dinonaktifkan — Kunci yang dinonaktifkan dapat dipulihkan dengan mengklik "Aktifkan" di daftar; kunci yang dihapus hanya dapat diganti dengan membuat kunci baru dan mengganti kunci lama di aplikasi.
Pertanyaan umum
Berapa banyak kode yang perlu diubah untuk integrasi?
Biasanya hanya dua hal: arahkan base_url ke gateway dan ganti api_key dengan kunci platform. Gateway kompatibel dengan SDK dan protokol resmi, sehingga isi permintaan, struktur respons, dan format streaming tetap sama.
Mengapa tagihan berbeda dari harga di pasar model?
Tab "Semua" menampilkan harga grup bawaan setiap penyedia; jika kunci Anda memakai grup lain, harga grup itulah yang berlaku. Selain itu, potongan jam sepi, harga berbeda untuk seluruh permintaan saat prompt melebihi ambang konteks panjang, dan biaya pencarian web per pencarian membuat biaya per panggilan berbeda dari harga yang ditampilkan. Jumlah tagihan pada setiap catatan di "Penggunaan dan log" yang menjadi acuan.
Bagaimana mengendalikan biaya satu proyek?
Buat kunci khusus untuk proyek itu dan atur batas pengeluaran bulanan. Batas dihitung per kunci, sehingga proyek yang berbeda tidak saling memengaruhi; untuk menyesuaikannya nanti, klik "Ubah batas" di daftar kunci (perlu verifikasi identitas).
Halaman terkait: Pusat Bantuan · Panduan & Tanya Jawab · Layanan AI · Dokumentasi API
Memuat…