OpenAI dan Broadcom lancar pemproses 'Jalapeño' untuk inferens LLM
OpenAI dan Broadcom memperkenalkan Jalapeño, pemproses direka khusus untuk inferens model bahasa besar dan bukan akselerator umum yang diubah suai. Rekabentuk dari awal itu disasarkan mengoptimumkan tugas inferens LLM moden, menurut Data Center Dynamics.