近期，有消息稱DeepSeek在大模型研發(fā)領(lǐng)域取得了突破性進展，正著手適配國產(chǎn)GPU，這一消息在業(yè)界引起了廣泛關(guān)注。據(jù)悉，DeepSeek在研發(fā)過程中成功繞過了英偉達CUDA的限制，直接基于GPU驅(qū)動函數(shù)進行新開發(fā)，這一創(chuàng)新舉措為更加精細化的操作提供了可能。
具體而言，DeepSeek在多節(jié)點通信方面，摒棄了傳統(tǒng)的CUDA路徑，轉(zhuǎn)而采用PTX（Parallel Thread Execution）技術(shù)。這一轉(zhuǎn)變雖然在一定程度上限制了硬件加速的算法靈活性，但卻極大地提升了運算速度。例如，在其他模型需要十天訓(xùn)練時間的情況下，DeepSeek憑借這一技術(shù)優(yōu)勢，僅需五天即可完成同等訓(xùn)練量，從而能夠處理更多數(shù)據(jù)，進一步提升模型效果。
據(jù)內(nèi)部人士透露，DeepSeek團隊中不乏精通PTX語言開發(fā)的專家。他們憑借深厚的技術(shù)積累，成功克服了適配過程中的諸多技術(shù)難題。而隨著國產(chǎn)GPU的崛起，DeepSeek在硬件適配方面也將迎來新的機遇。
據(jù)了解，DeepSeek在適配國產(chǎn)GPU時，將主要依賴于對這些硬件驅(qū)動提供的基本函數(shù)接口的了解。在此基礎(chǔ)上，他們可以參考英偉達GPU硬件的編程接口，編寫相應(yīng)的代碼，從而實現(xiàn)自家大模型與國產(chǎn)硬件的無縫對接。這一舉措不僅將降低適配成本，還將大幅提升模型在國產(chǎn)硬件上的運行效率。
業(yè)內(nèi)專家指出，DeepSeek此次成功繞過CUDA限制，并實現(xiàn)與國產(chǎn)GPU的適配，不僅展示了其強大的技術(shù)實力，也為國產(chǎn)AI硬件的發(fā)展注入了新的活力。隨著國產(chǎn)GPU技術(shù)的不斷進步和DeepSeek等領(lǐng)先企業(yè)的持續(xù)推動，國產(chǎn)AI硬件將迎來更加廣闊的發(fā)展前景。
