北京2024年2月23日 /美通社/ -- 國際權(quán)威標(biāo)準(zhǔn)性能評(píng)估組織SPEC第35屆年會(huì)日前在美國舉行。會(huì)上，SPEC組織確定新一年工作計(jì)劃，為推動(dòng)AI算力產(chǎn)業(yè)的更快發(fā)展，國際最新AI算力評(píng)測標(biāo)準(zhǔn)SPEC ML即將發(fā)布，該標(biāo)準(zhǔn)由浪潮信息、NVIDIA、Intel、AMD、Red Hat等成員聯(lián)合開發(fā)。
與業(yè)界一般AI算力評(píng)測標(biāo)準(zhǔn)不同，「國際最新AI算力評(píng)測標(biāo)準(zhǔn)SPEC ML」模擬了AI訓(xùn)練和推理不同場景的端到端全棧流程，涵蓋業(yè)界最豐富的主流AI工作負(fù)載，評(píng)估包括多個(gè)AI場景的綜合性能、集群擴(kuò)展性、能效等多種關(guān)鍵參數(shù)，可以幫助用戶更好地理解算力系統(tǒng)的瓶頸并進(jìn)行優(yōu)化，是一款更貼近用戶真實(shí)AI業(yè)務(wù)需求的算力測試基準(zhǔn)。目前，浪潮信息、NVIDIA、Dell等企業(yè)正針對(duì)SPEC ML評(píng)測標(biāo)準(zhǔn)率先開展測試工作，國際最新AI算力評(píng)測標(biāo)準(zhǔn)的重大發(fā)布，將幫助用戶更全面地了解AI算力系統(tǒng)的性能、擴(kuò)展性及能效水平。
此外，SPEC ML技術(shù)委員會(huì)舉行換屆選舉，浪潮信息和英特爾連任技術(shù)委員會(huì)主席、副主席。
近年來，隨著人工智能產(chǎn)業(yè)快速興起，也激發(fā)了AI算力的爆發(fā)式增長。過去10年，AI計(jì)算的能力已經(jīng)提高了不低于100萬倍，但要滿足像ChatGPT這類擁有巨量的參數(shù)和深度網(wǎng)絡(luò)結(jié)構(gòu)的大模型，算力性能提升還面臨巨大的挑戰(zhàn)。為了推動(dòng)AI算力技術(shù)發(fā)展，更好評(píng)估不同芯片、算法、計(jì)算框架的AI算力性能表現(xiàn)，方便用戶選擇適合自己的計(jì)算解決方案，業(yè)界涌現(xiàn)出一批AI測評(píng)基準(zhǔn)，比如MLPerf、AIPerf、DeepBench等。一般評(píng)測基準(zhǔn)測試中，比如訓(xùn)練場景，會(huì)忽略需要大規(guī)模數(shù)據(jù)集的預(yù)訓(xùn)練過程，直接進(jìn)行模型訓(xùn)練場景測試，而且僅會(huì)測試算力系統(tǒng)在ResNet50、SSD、Transformer、Bert等某個(gè)單一場景下的極限性能。但隨著模型規(guī)模越來越大，從單節(jié)點(diǎn)到大規(guī)模集群，訓(xùn)練流程更加復(fù)雜，模態(tài)算法也更加豐富，需要更貼合用戶真實(shí)訓(xùn)練場景的評(píng)測基準(zhǔn)，系統(tǒng)評(píng)估算力系統(tǒng)面向多種AI工作負(fù)載的綜合性能、集群擴(kuò)展性、能效等多種關(guān)鍵參數(shù)。
過去一年，SPEC ML技術(shù)委員會(huì)面向用戶更復(fù)雜的訓(xùn)練流程、更豐富的AI負(fù)載，完成了國際最新AI算力評(píng)測標(biāo)準(zhǔn)SPEC ML的開發(fā)工作。SPEC ML測試過程中，無論是訓(xùn)練場景還是推理場景，測試用例會(huì)模擬用戶真實(shí)的應(yīng)用環(huán)境，綜合評(píng)估基于不同芯片、不同算法框架，服務(wù)器整機(jī)在ResNet、Yolo、SSD、3D U-Net、MobileNet、BERT等10多種AI工作負(fù)載下的綜合性能，以及多節(jié)點(diǎn)集群擴(kuò)展性能、能效、關(guān)鍵系統(tǒng)性能參數(shù)等，尤其是Diffusion、Bloom等負(fù)載的加入，實(shí)現(xiàn)了對(duì)諸如大模型等AI熱點(diǎn)應(yīng)用的性能評(píng)測，幫助用戶更全面地了解AI算力系統(tǒng)的性能及能效水平。本次大會(huì)，SPEC ML技術(shù)委員會(huì)展示了ML測試工具，測試基準(zhǔn)的架構(gòu)、各項(xiàng)功能及展現(xiàn)結(jié)果等，獲得SPEC領(lǐng)導(dǎo)層及各成員的高度評(píng)價(jià)。
SPEC是一個(gè)全球性的、權(quán)威的第三方應(yīng)用性能測試組織，組織成員包括英特爾、甲骨文、NVIDIA、蘋果、微軟、浪潮信息、加州大學(xué)伯克利分校、清華大學(xué)等，擁有SPEC CPU、SPEC Power、SPEC Cloud等十幾項(xiàng)測試基準(zhǔn)，真實(shí)模擬了企業(yè)不同應(yīng)用場景下的整機(jī)性能、能效，是各類企業(yè)用戶的采購和信息系統(tǒng)搭建的重要決策依據(jù)之一。作為新一屆SPEC OSSC委員，浪潮信息將繼續(xù)承擔(dān)SPEC ML、SPEC CPU、SPEC Power、SPEC Cloud等技術(shù)小組日常工作審查、重大事項(xiàng)決策、測試研究及決策測試標(biāo)準(zhǔn)的發(fā)展方向等職責(zé)。
