Red Hat, perusahaan perangkat lunak sumber terbuka milik IBM, mengakuisisi Neural Magic, sebuah startup yang mengoptimalkan model AI agar berjalan lebih cepat pada prosesor komoditas dan GPU.
Transaksi ini tunduk pada tinjauan peraturan yang berlaku dan ketentuan penutupan umum lainnya. Ketentuan kesepakatan tidak diungkapkan.
Ilmuwan peneliti MIT Alex Matveev dan profesor Nir Shavit mendirikan Neural Magic yang berbasis di Somerville, Massachusetts pada tahun 2018, terinspirasi oleh pekerjaan mereka dalam mesin eksekusi berkinerja tinggi untuk AI.
Perangkat lunak Neural Magic bertujuan untuk memproses beban kerja AI pada prosesor dan GPU dengan kecepatan yang setara dengan chip AI khusus (misalnya TPU). Dengan menjalankan model melalui prosesor siap pakai, yang biasanya memiliki lebih banyak memori, perangkat lunak perusahaan dapat mencapai peningkatan kecepatan.
Perusahaan teknologi besar seperti AMD dan sejumlah startup lainnya, termasuk NeuReality, Deci, CoCoPie, OctoML, dan DeepCube, menawarkan semacam perangkat lunak pengoptimalan AI. Namun Neural Magic adalah salah satu dari sedikit yang memiliki platform gratis, dan kumpulan alat sumber terbuka untuk melengkapinya.
Sebelum akuisisi Red Hat, Neural Magic berhasil mengumpulkan $50 juta modal ventura dari pendukung seperti Andreessen Horowitz, New Enterprise Associations, Amdocs, Comcast Ventures, Pillar VC, dan Ridgeline Ventures.
CEO Red Hat Matt Hicks mengatakan bahwa pekerjaan Neural Magic pada vLLM, sebuah proyek sumber terbuka untuk penyajian model, sangat menarik bagi Red…
