近日,MLCommons宣布了一項重要進展,正式推出了MLPerf Client基準測試的0.5版本,這一版本專門針對消費類PC的AI性能進行評估。這是該基準測試的首個公開版本,標志著AI性能評估領(lǐng)域的一大步。
MLCommons表示,MLPerf Client基準測試的問世離不開眾多利益相關(guān)方的共同努力,包括AMD、英特爾、微軟、英偉達、高通以及頂級PC制造商等。這些合作伙伴為測試的開發(fā)提供了寶貴的專業(yè)知識和資源。
MLPerf Client基準測試0.5版本基于meta的Llama 2 7B開源LLM,涵蓋了四項AI任務(wù),分別是內(nèi)容生成、創(chuàng)意寫作以及對兩份不同長度文本的摘要。該版本目前支持兩種加速路徑,分別是DirectML ONNX和OpenVINO(僅限于英特爾GPU)。
值得注意的是,該基準測試在初期階段僅支持Windows x86-64設(shè)備。具體來說,可以在以下設(shè)備上運行:AMD Radeon RX 7900系列獨立顯卡、最低配備8GB顯存的英特爾銳炫獨顯、最低配備12GB顯存的英偉達GeForce RTX 40系列獨顯、銳龍AI 9系列處理器(最低32GB內(nèi)存)以及搭載英特爾銳炫核顯的酷睿Ultra 200系列處理器(最低16GB內(nèi)存)。
雖然目前僅限于特定設(shè)備和操作系統(tǒng),但MLCommons透露,MLPerf Client未來將會拓展支持范圍,包括macOS和Windows on Arm設(shè)備。同時,還將引入更多的硬件加速路徑以及更廣泛的AI模型測試場景,以滿足不斷發(fā)展的市場需求。
對于對MLPerf Client基準測試感興趣的讀者,可以通過以下鏈接了解更多信息: