OpenAI a dezvăluit primul său procesor de inteligență artificială personalizat, proiectat și fabricat în colaborare cu Broadcom. Numit Jalapeño, noul procesor a fost conceput special pentru nevoile unice ale sistemelor OpenAI. Modelele de inteligență artificială proprii OpenAI au ajutat la dezvoltarea cipului, a declarat compania.
Cip dezvoltat special pentru AI
Deși acest cip AI este încă în curs de testare, OpenAI afirmă că primele rezultate arată o performanță per watt semnificativ mai bună decât alternativele actuale de ultimă generație.
Parteneriatul a fost anunțat oficial în octombrie, dar planurile OpenAI privind cipurile au fost mult timp vehiculate ca o modalitate de a reduce dependența companiei de GPU-urile Nvidia. Google și Amazon au construit ambele cipuri personalizate pentru a servi unui scop similar, adesea numite „acceleratoare AI” – siliciu conceput special pentru a accelera sarcinile de lucru de învățare automată.
Președintele OpenAI, Greg Brockman, a explicat abordarea companiei în ceea ce privește dezvoltarea de cipuri în podcastul intern, la scurt timp după anunțul parteneriatului cu Broadcom.
„Înțelegem în profunzime volumul de lucru”, a spus Brockman în episod. „Am căutat cu adevărat volume de lucru specifice care nu sunt suficient de deservite [și ne-am întrebat] cum putem construi ceva care să poată accelera ceea ce este posibil?”.
Jalapeño este special conceput pentru procesul de rulare a modelelor AI predefinite ca răspuns la comenzile utilizatorului. În anunț, OpenAI a subliniat costul de operare redus al cipului atunci când rulează modele de codare în timp real. Este probabil ca sarcinile care necesită mai multă performanță, cum ar fi pre-antrenamentul, să se bazeze în continuare pe hardware-ul Nvidia, dar chiar și mici reduceri ale costurilor de inferență ar putea contribui mult la îmbunătățirea profitului companiei.
Optimizarea acestui sistem de inferență s-ar putea dovedi a fi un factor crucial în economia AI în viitor – și este probabil să aibă loc la fiecare nivel al stivei. OpenAI construiește deja produse agențice precum Codex și modelele care le alimentează, precum și centre de date pentru a rula aceste modele. Trecerea la cipuri special concepute permite companiei să meargă și mai departe în acest proces, așa cum a explicat compania în anunțul său.
