Banyak pandangan yang saling bertentangan tentang gpt-oss (yay open-source dalam sorotan)! Kami mendukung demo @openai resmi dengan penyedia inferensi HF berkat @FireworksAI_HQ, @CerebrasSystems, @GroqInc, dan @togethercompute sehingga kami memiliki kursi barisan depan tentang apa yang terjadi. Sesuatu yang perlu diingat: inferensi untuk model terbuka perbatasan baru tidaklah mudah, terutama dengan format baru seperti harmoni dan volume minat yang didapatkan gpt-oss. Lonjakan awal untuk sementara dapat memengaruhi kualitas, akurasi, dan "getaran" secara keseluruhan, terutama hanya 24 jam pasca-rilis ketika penyedia berpacu dengan waktu tanpa tidur! Beberapa saran untuk menghindari pembentukan pendapat yang salah: - Jika Anda peduli untuk mendapatkan getaran secepat mungkin, gunakan pengaturan yang dihosting yang memberi Anda keragaman penyedia seperti penyedia inferensi HF ( dan ikuti panduan standar resmi ( - Jika Anda bisa, cobalah di perangkat keras Anda sendiri dari halaman model HF (yang biasanya merupakan sumber kebenaran yang baik dengan transformator dan vLLM (perlu diingat bahwa Anda juga dapat membuat kesalahan dalam pembuatan di sana) - Dinginkan dan ambil X hot takes dengan sebutir garam. Bahkan jika hari-hari pertama bisa membingungkan, kekuatan open-source adalah tidak ada kecurangan jadi kami akan mengungkap semua kekuatan dan keterbatasan model ini secara bertahap! Secara pribadi, saya pikir ini adalah rilis penting oleh tim @OpenAI, jenis yang akan kita ingat dalam 10 tahun karena implikasinya. Tidak sabar untuk melihat apa yang akan terjadi 🚀🚀🚀 di masa depan