SK hynix a dezvăluit noua sa tehnologie de memorie cu lățime de bandă mare, iHBM, care încorporează un element de răcire proprietar în interiorul pachetului HBM pentru a reduce substanțial generarea de căldură în mediile de calcul cu inteligență artificială (AI).
Compania a declarat că gestionarea căldurii a devenit un obstacol critic, pe măsură ce HBM stochează mai multe straturi și funcționează la viteze mai mari pentru a ține pasul cu cererea în creștere a sarcinilor de lucru AI.
Concentrarea căldurii este cea mai acută la nivelul stratului fizic die-to-die (D2D PHY), interfața de date de mare viteză dintre matrița de bază HBM și matrițele procesorului AI. Controlul densității în acea zonă a devenit un factor-cheie de diferențiere în dezvoltarea HBM de nouă generație.
iHBM abordează problema prin plasarea elementelor de răcire integrate (ICE) direct în zona D2D PHY, relatează Tom’s Hardware.
Încorporarea elementului de răcire din siliciu neconductiv, direct în interfața de conectare de mare viteză dintre matrița de bază HBM și procesorul AI, care este predispusă la vârfuri de temperatură ridicate ca urmare a traficului extrem de intens de date, atenuează limitarea termică severă care afectează performanța sistemului AI în timpul sarcinilor de calcul intense.
ICE utilizează material de siliciu neconductiv electric, dar conductiv termic, pentru a forma o cale termică dedicată în interiorul pachetului și înlocuiește rutarea indirectă a căldurii prin matrițele de bază utilizate în HBM convențional.
Compania consideră că prevenirea structurală a limitării termice va permite straturilor de memorie de nouă generație să se extindă la înălțimi de stivuire mai mari și să mențină viteze maxime de transfer de date sub sarcinile de calcul intense ale centrelor de date AI.
Gestionarea căldurii este una dintre cele mai mari provocări cu care se confruntă tehnologia HBM (High-Bandwidth Memory). Spre deosebire de memoria convențională, HBM atinge o lățime de bandă masivă prin stivuirea verticală a mai multor matrițe DRAM, scurtând dramatic distanța pe care datele trebuie să o parcurgă și permițând viteze de transfer mult mai mari, cu o eficiență energetică mai bună.
Pentru a minimiza latența și a alimenta procesoarele AI suficient de repede pentru a evita blocajele, memoria HBM este plasată extrem de aproape de GPU sau de acceleratorul AI pe același pachet, conectată printr-un interposer de siliciu de mare viteză. Cu toate acestea, această dispunere densă creează, de asemenea, probleme termice grave.
SK hynix a declarat că această abordare reduce rezistența termică cu peste 30% în comparație cu proiectele existente și menține o funcționare stabilă în condiții de temperatură ridicată și sarcină mare.
Compania a declarat că iHBM este proiectat și pentru a fi ușor de fabricat. Acesta se bazează pe procesul de ambalare la nivel de wafer al companiei, bazat pe tehnologia Advanced Mass Reflow Molded Underfill, care a fost deja validat în producția de masă. Compatibilitatea ridicată a proiectului cu mediile existente de tip „system-in-package” înseamnă că clienții pot adopta tehnologia fără a fi nevoie de o reproiectare majoră.
SK hynix intenționează să aplice iHBM începând cu HBM5 și continuând cu produsele ulterioare destinate aplicațiilor de calcul de înaltă performanță și centrelor de date AI.
About the Author
