NadiAIGlobal AI news. Concise. Clear. Easy to follow.
ZML, syarikat AI Perancis yang disokong Yann LeCun, mengeluarkan ZML/LLMD — perisian percuma yang dikatakan mempercepatkan dan mengurangkan kos menjalankan model AI. Pengumuman itu datang daripada laporan TechCrunch dan menumpu pada interoperabiliti merentas pelbagai jenis cip AI.
OpenAI dan Broadcom memperkenalkan Jalapeño, pemproses direka khusus untuk inferens model bahasa besar dan bukan akselerator umum yang diubah suai. Rekabentuk dari awal itu disasarkan mengoptimumkan tugas inferens LLM moden, menurut Data Center Dynamics.
OpenAI bersama Broadcom memperkenalkan Jalapeño, cip khusus untuk inferens model bahasa besar (LLM) yang direka untuk meningkatkan prestasi, kecekapan dan kemampuan skala sistem AI. Pengumuman ini datang dari OpenAI dan memberi tumpuan kepada penggunaan cip untuk beban kerja inferens LLM.
Menurut Hugging Face, mereka menguji inferens model bahasa besar BLOOMZ pada pengakselerasi Habana Gaudi2. Tulisan itu menilai prestasi inferens dan aspek kecekapan untuk penggunaan praktikal.