Model AI modern semakin besar tetapi dituntut tetap cepat dan hemat biaya. Arsitektur mixture of experts hadir sebagai jawaban atas tantangan tersebut.
Bayangkan sebuah rumah sakit dengan banyak dokter spesialis. Pasien tidak perlu menemui semua dokter, cukup dokter yang relevan dengan keluhannya. Prinsip serupa dipakai mixture of experts.
Analogi lain adalah tim redaksi dengan banyak wartawan spesialis. Editor memilih wartawan yang tepat untuk tiap liputan sehingga pekerjaan selesai cepat tanpa melibatkan seluruh tim.
Cara Kerja Sang Pengarah
Dalam arsitektur ini terdapat banyak jaringan kecil yang disebut pakar. Tiap pakar dilatih untuk menangani jenis pola atau topik tertentu, misalnya bahasa, angka, atau penalaran logika.
Untuk setiap pertanyaan yang masuk, ada komponen bernama pengarah yang memutuskan pakar mana yang paling cocok. Pengarah hanya mengaktifkan sedikit pakar, biasanya dua atau tiga, lalu menggabungkan jawaban mereka.
Karena hanya sebagian kecil jaringan yang bekerja, kebutuhan komputasi jauh lebih ringan dibanding model raksasa yang mengaktifkan seluruh jaringannya setiap kali menjawab.
Mengapa Efisien dan Populer
Efisiensi inilah alasan mixture of experts populer di model model besar masa kini. Pengembang bisa menambah jumlah pakar untuk menambah pengetahuan tanpa menaikkan biaya komputasi secara proporsional.
Hasilnya, model terasa pintar dan luas wawasannya tetapi tetap responsif. Pengguna mendapat jawaban cepat sementara penyedia layanan menekan biaya operasional.
Tentu ada tantangan, misalnya memastikan beban kerja terbagi merata antar pakar. Namun secara umum arsitektur ini menjadi fondasi penting bagi generasi model AI yang semakin besar dan semakin murah diakses.
Beberapa model ternama memakai pendekatan ini untuk melayani jutaan pengguna setiap hari. Tanpa arsitektur hemat seperti ini, biaya menjalankan model raksasa akan sangat mahal.
Bagi pembaca awam, cukup ingat satu gagasan kunci. Model tidak harus mengerahkan seluruh kemampuannya untuk setiap pertanyaan, sama seperti Anda tidak memanggil seluruh kontak di ponsel untuk satu keperluan.
Ke depan, arsitektur ini diperkirakan semakin umum dipakai. Kombinasi banyak pakar dan pengarah yang cerdas membuat AI canggih bisa dinikmati lebih banyak orang dengan biaya lebih terjangkau.
