算力是集數(shù)據(jù)傳輸、計算、存儲于一體的新型生產(chǎn)力,更是培育新質(zhì)生產(chǎn)力,推動智能化轉(zhuǎn)型的核心驅(qū)動力。
“大模型如何進一步發(fā)展,就是應(yīng)用落地?!崩顺毙畔⑷斯ぶ悄芘c高性能產(chǎn)品部副總經(jīng)理張強說道。如今,浪潮信息元腦算力工廠包含了數(shù)據(jù)處理、AI大模型、業(yè)務(wù)應(yīng)用、研發(fā)測試等多個集群,為全球服務(wù)器壓力測試、大模型開發(fā)應(yīng)用、智能化轉(zhuǎn)型等業(yè)務(wù)應(yīng)用提供算力支撐。
張強指出,在推動大模型落地應(yīng)用領(lǐng)域,針對網(wǎng)絡(luò)通信效率瓶頸,元腦算力工廠采用 X400 超級 AI 以太網(wǎng)方案,為大模型訓(xùn)練提效降本,提升了大規(guī)模GPU訓(xùn)練性能,成為新型AI訓(xùn)練網(wǎng)絡(luò)解決方案。其吞吐量51.2T為業(yè)界高,較前代提升4倍,相比傳統(tǒng)RoCE網(wǎng)絡(luò)性能提升1.6倍,通信時延降低30%,能大幅提升大模型訓(xùn)練效率,縮短訓(xùn)練時長并降低訓(xùn)練成本。
元腦算力工廠搭載企業(yè)大模型開發(fā)平臺“元腦企智”EPAI,連接多元算力、多元模型與應(yīng)用層,實現(xiàn)模型高效微調(diào)與跨平臺無感遷移,加速大模型在各個行業(yè)落地應(yīng)用。同時,元腦算力工廠助力企業(yè)智能化轉(zhuǎn)型,智能編程助手、智能投標(biāo)助手、智能客服、供應(yīng)鏈大腦、智能工廠等系列智能創(chuàng)新成果相繼落地,賦能業(yè)務(wù)智能化轉(zhuǎn)型。
在提升大模型訓(xùn)練效率方面,張強向C114介紹,元腦算力工廠通過算力開發(fā)平臺 AIStation 對算力進行有效調(diào)度。在實際算力使用中,AI應(yīng)用有不同算力需求,在這多用戶、多任務(wù)場景下,對算力需求不同,AIStation能對算力集群進行有效調(diào)度,降低成本、提高算力利用率,保障算力集群安全、可靠運行,實現(xiàn)智能、高效、低成本運維。
(AM 8:00-12:00 PM 14:00-18:00)