OpenAI membuka akses luas model Decisions API kepada seluruh pelanggan untuk pertama kalinya pada Kamis 22 Oktober 2026. Layanan ini sebelumnya diperkenalkan pada ajang tahunan pengembang perusahaan tersebut pada 29 September 2026.
Langkah ini menempatkan OpenAI di pasar kecerdasan buatan yang serba cepat dan murah. Gelombang yang sama telah mengangkat TypeSafe, perusahaan rintisan yang didirikan mantan peneliti OpenAI, menjadi perusahaan bernilai 7,6 miliar dolar AS.
TypeSafe menciptakan kategorinya lewat model Jev, yakni model pembelajaran mendalam yang bekerja layaknya pengklasifikasi super. Diberi sejumlah pilihan, model ini dengan cepat memilih satu opsi dan menyertakan skor keyakinan. Para pengembang menemukan bahwa model keputusan bergaya System One semacam ini mampu menggantikan model bahasa besar penuh di banyak alur kerja, berjalan lebih kencang dengan biaya jauh lebih rendah.
Luna Dirombak Demi Kecepatan Inferensi
Nikunj Handa, pimpinan produk API OpenAI, mengatakan timnya melihat Jev dan menangkap peluang besar di baliknya. Alih alih melatih model keputusan khusus, mereka merombak ChatGPT Luna agar inferensinya melesat dan biayanya turun. Menurut Handa, kunci terbesarnya adalah kecepatan, yakni memangkas waktu respons dari 1 sampai 3 detik menjadi 100, 120, hingga 180 milidetik. Ke depan mereka mungkin melakukan pelatihan khusus, tetapi untuk saat ini Luna versi biasa sudah mampu mengerjakan tugasnya.
Rilis publik ini juga menambah modalitas suara dan visual. OpenAI menempatkan sumber daya inferensi secara geografis agar jeda waktu tetap rendah bagi pengguna di seluruh dunia.
Sejumlah pelanggan awal seperti Box, Datadog, Ramp, dan Speak sudah menjajalnya. Andrew Hsu, kepala teknologi Speak yang membuat aplikasi tutor bahasa, menyebut jeda antar aksi terpangkas dari 1,4 detik menjadi 0,13 detik. OpenAI sendiri memakainya untuk membuat asisten suara Dots terasa lebih responsif.
Perebutan Takhta Tolok Ukur
Diogo Almeida, pimpinan TypeSafe, mengaku tidak percaya pada tolok ukur dan menganjurkan orang menguji model langsung pada pekerjaan mereka. Meski begitu, TypeSafe merilis peringkat buatannya sendiri berbarengan dengan model Jev terbaru yang kini mendukung gambar dan dilengkapi pernyataan if yang cerdas.
Tolok ukur publik AIM System One Index dan Artificial Analysis Decision Index justru mengunggulkan D1 Ultra dari Liquid serta Elephant 1 dari Base Lab. Model Jev terbaru menempati peringkat ketujuh dan ketiga, sedangkan model keputusan OpenAI berada di urutan kedelapan dan keempat belas. Meski demikian, model model TypeSafe tercatat sebagai model keputusan yang paling sering dipakai di OpenRouter. Ada pula tolok ukur unik bernama JevMan yang mempertemukan para model keputusan dalam permainan Pac Man, dan model Jev terbaru keluar sebagai pemenangnya.
Keunggulan OpenAI bisa jadi terletak pada kemampuannya yang multimodal. Handa menyebut Luna sangat tangguh untuk klasifikasi gambar dengan kalibrasi yang lebih baik, dan para pelanggan menginginkan keleluasaan memakai gambar sebagai keluaran pula.
Target berikutnya adalah sekitar 60 milidetik per panggilan. Pada titik itu, satu panggilan API bisa dilakukan untuk setiap bingkai dalam sebuah video.
Bagi pengembang dan perusahaan rintisan Indonesia, kehadiran model keputusan berarti akses ke pengklasifikasi yang cepat dan murah untuk kebutuhan perutean pesan, penandaan otomatis, moderasi konten, hingga pemeriksaan dokumen. Selisih biaya yang besar dibanding model bahasa penuh membuka ruang bereksperimen tanpa takut tagihan membengkak. Fenomena ini selaras dengan gagasan lama dalam ekonomi teknologi bahwa ketika sebuah teknologi menjadi lebih murah, justru ia akan dipakai di mana mana.
