【ITBEAR】在AI技術(shù)日益融入企業(yè)核心應(yīng)用的今天,英特爾推出的第四代和第五代至強(qiáng)可擴(kuò)展處理器正引領(lǐng)著一場性能革命。這些處理器內(nèi)置的英特爾高級(jí)矩陣擴(kuò)展(AMX),顯著提升了AI功能,為企業(yè)優(yōu)化AI管線帶來了新的可能。
與第三代英特爾至強(qiáng)可擴(kuò)展處理器相比,第五代產(chǎn)品的推理工作負(fù)載性能提升了高達(dá)10倍,每瓦性能也提升了7倍。這一飛躍性的進(jìn)步,意味著企業(yè)在運(yùn)行AI應(yīng)用時(shí)能夠更高效地處理復(fù)雜環(huán)境和海量數(shù)據(jù),從而解鎖更多商業(yè)價(jià)值。
如今,AI已廣泛應(yīng)用于圖書和電影推薦、數(shù)字化零售、自然語言處理等多個(gè)領(lǐng)域。隨著技術(shù)的不斷發(fā)展,預(yù)計(jì)到2025年,將有90%新發(fā)布的企業(yè)應(yīng)用版本包含嵌入式AI功能。在這一趨勢(shì)下,英特爾的第四代和第五代至強(qiáng)可擴(kuò)展處理器成為了企業(yè)優(yōu)化AI管線的理想之選。
內(nèi)置AI加速器的處理器之所以受到青睞,是因?yàn)樗鼈兡軌蜥槍?duì)AI推理工作負(fù)載提供出色的性能。英特爾的AMX技術(shù)專為平衡推理而設(shè)計(jì),同時(shí)具備更強(qiáng)的訓(xùn)練能力。目前,在已裝機(jī)的數(shù)據(jù)中心處理單元中,英特爾至強(qiáng)可擴(kuò)展處理器占據(jù)了高達(dá)65%的市場份額。選擇內(nèi)置AMX的第四代和第五代產(chǎn)品,無疑是一種既高效又具有成本效益的AI工作負(fù)載加速方式。
相較于采用英特爾深度學(xué)習(xí)加速技術(shù)(DL Boost)的第三代產(chǎn)品,內(nèi)置AMX的第五代至強(qiáng)可擴(kuò)展處理器在實(shí)時(shí)推理性能上有了顯著提升。具體來說,其性能提升了1.23至1.35倍,每瓦性能也提升了1.2至1.38倍。這一進(jìn)步為企業(yè)帶來了更低的總體擁有成本(TCO)和更高的能效。
以NLP推理工作負(fù)載為例,僅需13臺(tái)基于第五代英特爾至強(qiáng)可擴(kuò)展處理器的服務(wù)器,就能達(dá)到50臺(tái)第三代產(chǎn)品服務(wù)器的性能水平。這不僅降低了能耗和CO2排放量,還實(shí)現(xiàn)了高達(dá)64%的TCO節(jié)約。英特爾AMX帶來的性能提升遠(yuǎn)超過歷代產(chǎn)品通過增加內(nèi)核所實(shí)現(xiàn)的進(jìn)步,為企業(yè)在AI領(lǐng)域的持續(xù)創(chuàng)新提供了有力支持。