Ada keluarga model AI baru di blok ini, dan ini adalah salah satu dari sedikit model yang dapat direproduksi dari awal.
Pada hari Selasa, Ai2, organisasi penelitian AI nirlaba yang didirikan oleh mendiang Paul Allen, merilis OLMo 2, rangkaian model kedua dalam seri OLMo. (OLMo adalah singkatan dari “Open Language Model.”) Meskipun tidak ada kekurangan model bahasa “terbuka” yang dapat dipilih (lihat: Llama Meta), OLMo 2 memenuhi definisi Open Source Initiative tentang AI open source, yang berarti alat dan data yang digunakan untuk mengembangkannya tersedia untuk umum.
Open Source Initiative, sebuah lembaga yang sudah lama bertujuan untuk mendefinisikan dan “menangani” semua hal yang berkaitan dengan open source, telah menyelesaikan definisi AI open source pada bulan Oktober. Namun model OLMo pertama, yang dirilis pada bulan Februari, juga memenuhi kriteria tersebut.
“OLMo 2 [was] dikembangkan dari awal hingga akhir dengan data pelatihan yang terbuka dan dapat diakses, kode pelatihan sumber terbuka, resep pelatihan yang dapat direproduksi, evaluasi transparan, pos pemeriksaan perantara, dan banyak lagi,” tulis AI2 dalam postingan blog. “Dengan berbagi data, resep, dan temuan kami secara terbuka, kami berharap dapat menyediakan sumber daya yang dibutuhkan komunitas sumber terbuka untuk menemukan pendekatan baru dan inovatif.”
Ada dua model dalam keluarga OLMo 2: satu dengan 7 miliar parameter (OLMo 7B) dan satu lagi dengan 13 miliar parameter (OLMo 13B). Parameter secara kasar sesuai dengan keterampilan pemecahan masalah model, dan model dengan lebih…
