Skip to content

Model Pengambilan Keputusan: Revolusi AI dan Jalan Menuju Kustomisasi

5 mnt baca
Модели принятия решений: революция в ИИ и путь к кастомизации — illustration 1

Pada Oktober 2023, lebih dari seperempat permintaan ke router model AI Vercel berasal dari Model Pengambilan Keputusan, bukan LLM tradisional. Ini adalah terobosan signifikan untuk teknologi yang baru muncul sebulan sebelumnya. Model pengambilan keputusan, pada dasarnya, adalah LLM khusus yang tidak menghasilkan token teks, tetapi dengan cepat dan ekonomis memilih dari opsi yang telah ditentukan, sambil menilai tingkat kepercayaan mereka dalam pilihan tersebut. Nilai mereka sangat tinggi di lingkungan produksi, di mana kecepatan pengambilan keputusan seringkali lebih penting daripada justifikasi terperinci yang ditawarkan oleh model “batas” yang lebih lambat dan lebih mahal.

Fenomena Jev: Pemimpin Pasar dan Pemain Baru

Dominasi Pasar dan Pertumbuhan Pesat

Perusahaan TypeSafe mencapai kapitalisasi 7,5 miliar dolar berkat lini model Jev-nya, yang terus mendominasi pasar. Hanya dalam seminggu terakhir, layanan OpenRouter memproses lebih dari 1,5 miliar permintaan ke model TypeSafe.

Namun, kemudahan pembuatan model semacam itu menyebabkan munculnya puluhan analog tak lama setelah Jev dirilis. Salah satu insinyur Amazon mengembangkan modelnya sendiri selama akhir pekan, dan tak lama kemudian setiap penyedia layanan cloud besar menawarkan solusinya.

Masuknya Raksasa: Microsoft Decision-1.1

Baru-baru ini, CEO Microsoft Satya Nadella mengumumkan peluncuran segera model pengambilan keputusannya sendiri, Microsoft-Decision-1.1, untuk penggunaan luas di platform Azure. Ini menyoroti pentingnya strategis arah ini bagi raksasa teknologi.

Inovasi Startup: Sqwish dan Pendekatan Data

Penarikan Investasi dan Penawaran Unik

Startup Inggris Sqwish, pengembang model pengambilan keputusan kettei fat, mengumumkan penarikan 3 juta dolar dalam putaran pra-seed. Co-founder Ushnish Sengupta dan Federica Freddy, yang bertemu saat belajar di Cambridge, awalnya mengembangkan LLM kecil, tetapi dengan munculnya Jev, mereka menyadari potensi arsitektur mereka untuk menciptakan model pengambilan keputusan yang kuat.

Peran Data dan Kustomisasi

Kunci keberhasilan dalam kategori model ini adalah data. Diogo Almeida, CEO TypeSafe, mengatakan kepada TechCrunch bahwa bagian tersulit dalam menciptakan Jev adalah kalibrasi halus penilaiannya menggunakan data sintetis yang disesuaikan secara statistik.

Sqwish juga bekerja dengan data sintetis, tetapi tawaran unik mereka adalah alat pasca-pelatihan bawaan yang memungkinkan pelanggan menggunakan data mereka sendiri untuk meningkatkan akurasi model.

“Kami berbeda dari pesaing karena kami memberikan kekuatan yang sama kepada pelanggan kami… mereka dapat terus mengunggah data produksi mereka, dan sama seperti kami melatih model kami, model mereka juga dapat terus meningkat dalam tugas-tugas yang penting bagi mereka,” kata Ushnish Sengupta, CEO Sqwish, dalam sebuah wawancara dengan TechCrunch.

Pemilihan dan Evaluasi Model: Apa yang Benar-benar Penting

Keunggulan Kasus Nyata Dibandingkan Benchmark

Mengevaluasi model pengambilan keputusan bukanlah tugas yang mudah. Model kettei fat dari Sqwish menunjukkan hasil yang baik dalam beberapa pengujian, tetapi sebagian besar pengembang setuju bahwa efektivitas nyata hanya terlihat dalam praktik.

Pengembang dapat dengan mudah mengganti satu model dengan model lain untuk mengevaluasi kinerjanya dalam konteks tertentu.

Model Pengambilan Keputusan: Revolusi dalam AI dan Jalan Menuju Kustomisasi — ilustrasi 2

“Benchmark lebih merupakan undangan untuk mencoba model, dan penyetelan halus yang berkelanjutan adalah alasan mengapa mereka harus tetap bersama kami,” kata Sengupta.

Model Microsoft Decision 1.1 juga merupakan hasil dari keseimbangan yang cermat antara biaya, latensi, kecerdasan, dan kalibrasi. Achint Srivastava, Wakil Presiden Teknik yang memimpin proyek tersebut, setuju bahwa terlalu fokus pada benchmark adalah kesalahan.

“Kami melihat model yang ‘paling banyak diuji’ gagal dengan sangat cepat dalam penggunaan perusahaan yang sebenarnya,” tulis Srivastava dalam email. “Pengujian kami menyoroti betapa sulitnya memastikan akurasi, keandalan, kecepatan, dan efisiensi biaya dalam satu model. Microsoft-Decision-1.1 dan Jev adalah beberapa dari sedikit yang menunjukkan hasil tinggi di keempat parameter, bahkan ketika dievaluasi pada benchmark ‘tertunda’ atau yang belum pernah dilihat sebelumnya, yang mencerminkan skenario penggunaan nyata.”

Masa Depan Model Pengambilan Keputusan: Simbiosis dengan LLM

Bagi startup seperti Sqwish, persaingan dengan raksasa membuka peluang baru. Freddy memprediksi bahwa di masa depan, sistem akan menggabungkan “kecerdasan Sistem Satu” (model pengambilan keputusan) dengan “kecerdasan Sistem Dua” (LLM perbatasan). Ini akan memungkinkan penciptaan solusi AI yang lebih efektif dan multifungsi. Pelajari lebih lanjut tentang promosi konten video.

Pertanyaan yang Sering Diajukan

Apa itu model pengambilan keputusan?

Ini adalah model AI khusus yang didasarkan pada arsitektur LLM, tetapi dioptimalkan untuk membuat pilihan yang cepat dan hemat biaya dari opsi yang diberikan, alih-alih menghasilkan teks. Mereka juga mengevaluasi kepercayaan diri mereka dalam keputusan yang dibuat.

Apa bedanya dengan LLM tradisional?

Perbedaan utama terletak pada tujuan: LLM menghasilkan konten, sedangkan model pengambilan keputusan memilih opsi terbaik. Yang pertama lebih lambat dan membutuhkan lebih banyak sumber daya, sedangkan yang kedua cepat dan efisien untuk tugas-tugas tertentu.

Apa peran kustomisasi dalam model-model ini?

Kustomisasi, yaitu kemampuan untuk melatih model lebih lanjut dengan data pelanggan sendiri, menjadi faktor kunci keberhasilan. Ini secara signifikan meningkatkan akurasi dan relevansi keputusan dalam konteks bisnis tertentu.

Kesimpulan

Model pengambilan keputusan dengan cepat mengubah lanskap AI, menawarkan kecepatan dan efisiensi yang belum pernah terjadi sebelumnya kepada bisnis dalam mengotomatiskan operasi penting. Jika Anda ingin mengoptimalkan proses Anda dan mengurangi «sakit kepala» dari keputusan rutin, teknologi ini patut mendapat perhatian serius.

Kami menawarkan promosi komprehensif melalui video pendek, termasuk pembuatan konten dan adaptasinya untuk berbagai platform, sehingga Anda dapat fokus pada tugas-tugas strategis. Hubungi kami untuk mengetahui bagaimana kami dapat membantu Anda mengintegrasikan solusi AI canggih ke dalam strategi pemasaran video Anda dan memesan semuanya di satu tempat, menghemat anggaran dan saraf.


← Kembali ke blog