Microsoft a anunțat că va relaxa cerințele pentru a putea rula Copilot+ și va include și plăci video dedicate de la NVIDIA pe lista de compatibilitate. Asta înseamnă că vei putea rula unelte AI local, chiar dacă nu ai un NPU în PC folosind puterea plăcii tale video. Tot ce-ți trebuie este o placă NVIDIA GeForce RTX 30 cu 6GB de VRAM sau mai mult. În momentul de față doar dezvoltatorii au acces la această funcție, dar sunt sigur că va ajunge și la publicul larg destul de curând.
Copilot+ a fost introdus în 2024 și promova clar ideea că ai nevoie de hardware dedicat pentru a putea rula uneltele AI. Iar acest hardware a venit sub forma procesoarelor cu NPU (Neural Processing Unit) integrat și configurații cu minim 16GB de memorie RAM și SSD-uri pentru stocare rapidă. Fără să îndeplinești aceste cerințe minime, sistemul tău nu putea să fie considerat un PC AI capabil de a rula local anumite unelte.
Microsoft a dat acum înapoi și a introdus funcția numită ”Language Model APIs on GPU [Experimental]” care permite PC-urilor non-Copilot+ să ruleze AI local. Tot de aici am aflat și despre cerințele de sistem care specifică plăcile GeForce RTX 30 cu 6GB+ de memorie video. Pe scurt, vorbim despre circa orice placă de la RTX 3060 în sus. Iar pentru a putea rula local ai nevoie de Phi Silica, un SLM (Small Language Model) de 3.3 miliarde de parametri care a fost creat special pentru a rula local.
About the Author
