Apariția Deepseek este o „oportunitate uriașă” pentru ei, nu o amenințare.
Open Source înseamnă că codul sursă al software -ului poate fi disponibil liber pe web pentru modificare și redistribuire. Spre deosebire de concurenți precum OpenAI, modelul Deepseek este open source.
R1 arată că creșterea nu va fi dominată de o singură companie - nu există „gropi” hardware și software în modelul open source.
Modelul de inferență Open Source R1 de la Deepseek, lansat la sfârșitul lunii trecute, este comparabil cu cea mai bună tehnologie din Statele Unite și a obținut performanțe de ultimă oră la costuri reduse, șocând piața globală.
La fel ca pe piețele PC și Internet, scăderea prețurilor contribuie la conducerea adoptării globale. Piața AI este pe o cale de creștere similară pe termen lung.
Cip de inferență „explozie”
Prin accelerarea ciclului AI de la „faza de antrenament” la „faza de inferență”, Deepseek este probabil să crească adoptarea unei noi tehnologii de cip inferente.
Inferența se referă la actul de utilizare a AI pentru a lua predicții sau decizii bazate pe noi informații, mai degrabă decât pe „faza de instruire” a modelelor de construire sau de instruire.
Pregătirea AI se referă la construirea unui instrument sau a unui algoritm, iar raționamentul înseamnă a pune acel instrument în uz practic. "
Pregătirea AI necesită multă calcul, dar raționamentul se poate face cu jetoane mai puțin puternice, care sunt programate pentru a efectua o gamă restrânsă de sarcini.
Mulți din industrie consideră că, pe măsură ce clienții adoptă și construiesc modelul open source Deepseek, ei văd o cerere din ce în ce mai mare de cipuri de inferență și calcul.
Deepseek a demonstrat că modelele open source mai mici pot fi instruite pentru a fi la fel de puternice, dacă nu mai puternice, decât modelele mari de proprietate, cu o fracțiune din cost. Cu utilizarea pe scară largă a modelelor funcționale mici, au catalizat o eră de raționament.
El a menționat, de asemenea, că compania a înregistrat recent o dublare a interesului din partea clienților din întreaga lume în accelerarea inițiativelor sale de inferență.
Acum, companiile schimbă cheltuielile de la grupuri de instruire la clustere de raționament. Avem nevoie doar de tot mai multă putere de calcul pentru a extinde aceste modele pentru milioane de utilizatori.
Pe măsură ce cererea generală pentru AI crește, companiile mai mici vor avea mai mult spațiu pentru a crește și, deoarece lumea va avea nevoie de mai multe jetoane (unități de date prelucrate de modele AI), NVIDIA nu va putea furniza suficiente cipuri pentru toată lumea, astfel încât ne oferă posibilitatea de a vinde mai agresiv pe piață.