lm-evaluation-harness
Pengujian model AI, evaluasi dan sumber daya benchmark
github.com
Tentang alat
lm- evaluasi- harness adalah sebuah languasi- model evaluasi toolkit. Pengembang mengatur tugas evaluasi dalam kode dan jalankan tes model yang dapat direproduksi.
Fitur utama
- Uji eksekusi: Penilaian model sesuai dengan konfigurasi tugas
- Ulasan hasil: Bandingkan indikator keluaran dengan pengaturan
Contoh penggunaan
Pengembang dan peneliti yang cocok untuk membandingkan model dan opsi kandidat yang memilih dapat menggunakan hasil terbuka sebagai titik awal untuk pengujian lebih lanjut.
Cara memulai
Misi penilaian, data, versi model dan definisi indikator pertama diketahui. Pilih untuk membandingkan dimensi yang terkait dengan aplikasi yang sebenarnya dan kemudian mengesahkan mereka dengan sampel Anda sendiri; dan merekam pengaturan tes untuk menghindari split total tunggal.
Hal yang perlu diperiksa
Kondisi untuk daftar yang berbeda mungkin berbeda. Nilai terbuka tidak menjamin bahwa model akan melakukan hal yang sama di setiap tugas yang sebenarnya.
Harga dan ketersediaan
Persyaratan akun, harga, batas ekspor berkas, dan ketersediaan wilayah dapat berubah. Periksa ketentuan resmi terbaru sebelum menggunakan layanan. Direktori ini tidak menjamin kuota gratis atau harga tertentu.
