国产91免费_国产精品电影一区_日本s色大片在线观看_中文在线免费看视频

CNTXJ.NET | 通信界-中國通信門戶 | 通信圈 | 通信家 | 下載吧 | 說吧 | 人物 | 前瞻 | 智慧(區(qū)塊鏈 | AI
 國際新聞 | 國內(nèi)新聞 | 運營動態(tài) | 市場動態(tài) | 信息安全 | 通信電源 | 網(wǎng)絡(luò)融合 | 通信測試 | 通信終端 | 通信政策
 專網(wǎng)通信 | 交換技術(shù) | 視頻通信 | 接入技術(shù) | 無線通信 | 通信線纜 | 互聯(lián)網(wǎng)絡(luò) | 數(shù)據(jù)通信 | 通信視界 | 通信前沿
 智能電網(wǎng) | 虛擬現(xiàn)實 | 人工智能 | 自動化 | 光通信 | IT | 6G | 烽火 | FTTH | IPTV | NGN | 知本院 | 通信會展
您現(xiàn)在的位置: 通信界 >> 智慧 >> 新聞?wù)?/span>
 
突破五大制約因素:智算中心如何提高利用率
[ 通信界 | 趙妍 | www.6611o.com | 2024/11/21 9:05:40 ]
 

智算中心作為AI時代必備的算力基礎(chǔ)設(shè)施,正承載著AI繁榮發(fā)展的數(shù)據(jù)運算需求。在智算中心建設(shè)如火如荼之際,如何提升智算中心利用率,成為亟待解決的問題。

智算中心利用率待提升

智算中心通過算力生產(chǎn)、聚合、調(diào)度和釋放,面向政府、企業(yè)、高校和科研機構(gòu)等提供普惠公共算力服務(wù)。智算中心在建設(shè)和運營過程中,面臨算力使用率不高、算力結(jié)構(gòu)不合理、應(yīng)用生態(tài)不完善、運營模式不成熟等諸多問題。其中,算力使用率不高是智算中心面臨的主要問題之一。

浪潮信息AI和HPC產(chǎn)品線總經(jīng)理劉軍表示,智算中心建設(shè)初期,由于應(yīng)用生態(tài)不完善,算力規(guī)模與用戶需求不匹配,導(dǎo)致算力空閑率較高。據(jù)浪潮人工智能研究院測算,我國智算中心平均算力使用率為30%左右,遠低于大型數(shù)據(jù)中心的50%~60%的水平。

影響算力利用率的五大因素

算力利用率涉及軟硬件、網(wǎng)絡(luò)、訓(xùn)練策略及算力調(diào)度等多個層面。根據(jù)中國信通院發(fā)布的《智算基礎(chǔ)設(shè)施發(fā)展研究報告(2024年)》,影響算力利用率的關(guān)鍵因素包括芯片存儲量、算力損耗、“通信墻”即多卡互聯(lián)與多機互聯(lián)時面臨的通信瓶頸等。

2024-11-19_141212.jpg

硬件配置方面,使用高性能計算節(jié)點,如專業(yè)的AI芯片或高端GPU,以確保單節(jié)點的計算能力最大化。同時,根據(jù)AI訓(xùn)推任務(wù)的需求,合理配置服務(wù)器的內(nèi)存、存儲和I/O性能。英偉達中國區(qū)技術(shù)總監(jiān)表示,“GPU的算力利用率受到內(nèi)存帶寬和訪存效率的影響。通過引入高帶寬內(nèi)存(HBM)和優(yōu)化內(nèi)存訪問模式,可以顯著提升GPU的計算效率。”

軟件與算法方面,AI訓(xùn)練需匹配更高效的深度學(xué)習(xí)框架,另外,還要對算法進行并行化處理,以充分利用多核處理器及多GPU優(yōu)勢。華為相關(guān)人員表示,“當(dāng)前算力利用率不足的問題,很大程度上源于軟件層面的瓶頸。通過優(yōu)化編譯器、運行時的環(huán)境,以及算法本身,可以顯著提高算力資源的使用效率。”

網(wǎng)絡(luò)性能方面,在構(gòu)建高性能計算集群時,選擇合適的網(wǎng)絡(luò)架構(gòu)至關(guān)重要。有數(shù)據(jù)表明,網(wǎng)絡(luò)的丟包率達到1%時,智算中心集群中的GPU利用率就會在原有基礎(chǔ)之上下降 50%。目前一些智算集群就采用了高效的InfiniBand、RoCE網(wǎng)絡(luò),以充分滿足AI大規(guī)模并行計算要求。阿里巴巴達摩院相關(guān)負(fù)責(zé)人表示, “在大規(guī)模分布式計算中,通信延遲是一個重要的瓶頸。基于RDMA的高速互聯(lián)技術(shù),以減少節(jié)點間的通信開銷,從而提升整體算力利用率。”

在AI訓(xùn)練策略上,采用數(shù)據(jù)、模型或流水線并行等分布式訓(xùn)練方式,并采用更高效的資源管理與調(diào)度器,利用緩存機制及訓(xùn)前預(yù)熱策略,通過調(diào)整及優(yōu)化超參數(shù)等措施,也可以顯著提升算力集群的性能和效率。微軟亞洲研究院研究員表示,“模型訓(xùn)練過程中的算力利用率往往受到數(shù)據(jù)預(yù)處理和批量大小的影響。通過合理的數(shù)據(jù)預(yù)處理和動態(tài)調(diào)整批量大小,可以有效提高模型訓(xùn)練的效率。”

算力調(diào)度也是影響算力利用率的因素。騰訊云副總裁劉杉表示,提高算力利用率的關(guān)鍵在于精細化的資源管理。智能調(diào)度系統(tǒng),可以根據(jù)任務(wù)特性和實時負(fù)載情況,動態(tài)調(diào)整資源分配,確保每個任務(wù)都能獲得最佳的執(zhí)行環(huán)境。” 清華大學(xué)計算機系教授陳文光表示,在大規(guī)模并行計算中,任務(wù)調(diào)度和負(fù)載均衡是非常重要的。

四大舉措提升算力利用率

針對智算中心利用率不高的問題,業(yè)界專家建議從算力多元化、算力調(diào)度、應(yīng)用生態(tài)、運營模式四個方面入手,提升智算中心利用率。

一是推動算力多元化,滿足不同場景需求。智算中心應(yīng)提供多元化的算力,滿足不同行業(yè)、不同應(yīng)用場景的需求。例如,針對圖像處理、語音識別等場景,智算中心應(yīng)提供高性能的GPU算力;針對自然語言處理、推薦系統(tǒng)等場景,智算中心應(yīng)提供高效的CPU算力;針對自動駕駛、智能制造等場景,智算中心應(yīng)提供高可靠的FPGA算力。

二是加強算力調(diào)度,實現(xiàn)算力資源高效利用。算力多元化要求智算中心具備異構(gòu)算力融合能力。算力調(diào)度是算力資源效率最大化的路徑。算力調(diào)度需要解決算力資源異構(gòu)性、算力需求動態(tài)性、算力資源分布性等挑戰(zhàn)。算力調(diào)度將算力資源在不同用戶、不同應(yīng)用、不同時間進行動態(tài)分配和優(yōu)化,以提高算力資源利用率和降低算力成本。目前,地方政府、科研機構(gòu)、算力企業(yè)等多方主體積極布局算力調(diào)度領(lǐng)域。據(jù)不完全統(tǒng)計,目前國內(nèi)在建和已經(jīng)建設(shè)的算力調(diào)度平臺超過20個。

2024-11-19_141236.jpg

從算力多元化、算力調(diào)度、應(yīng)用生態(tài)、運營模式四個方面入手,提升智算中心利用率。

三是完善應(yīng)用生態(tài),促進算力與數(shù)據(jù)、算法協(xié)同。應(yīng)用生態(tài)是指基于智算中心提供的算力資源,構(gòu)建面向不同行業(yè)、不同應(yīng)用場景的算法模型和應(yīng)用軟件。完善的應(yīng)用生態(tài)可以吸引更多用戶使用智算中心提供的算力資源,從而提高算力利用率。

完善應(yīng)用生態(tài)需要政府、企業(yè)、高校和科研機構(gòu)等多方共同努力。政府應(yīng)加強政策引導(dǎo),鼓勵企業(yè)、高校和科研機構(gòu)基于智算中心開展算法模型和應(yīng)用軟件研發(fā);企業(yè)應(yīng)加強與高校和科研機構(gòu)的合作,共同推動算法模型和應(yīng)用軟件的研發(fā)和應(yīng)用;高校和科研機構(gòu)應(yīng)加強對人工智能領(lǐng)域人才的培養(yǎng)和引進,為算法模型和應(yīng)用軟件的研發(fā)提供人才支撐。

四是創(chuàng)新運營模式,實現(xiàn)算力資源可持續(xù)運營。智算中心建設(shè)投資大、運營成本高,如何實現(xiàn)算力資源的可持續(xù)運營是智算中心面臨的又一挑戰(zhàn)。創(chuàng)新運營模式,實現(xiàn)算力資源的共享、交易和增值服務(wù),是提高算力利用率、降低運營成本的有效途徑。

創(chuàng)新運營模式需要政府、企業(yè)、用戶等多方共同參與。政府應(yīng)加強政策引導(dǎo),鼓勵企業(yè)開展算力資源共享和交易;企業(yè)應(yīng)加強與用戶的合作,共同探索算力資源的共享、交易和增值服務(wù)模式;用戶應(yīng)積極參與算力資源的共享和交易,降低自身算力成本。

 

1140作者:趙妍 來源:通信產(chǎn)業(yè)網(wǎng) 編輯:顧北

 

聲明:①凡本網(wǎng)注明“來源:通信界”的內(nèi)容,版權(quán)均屬于通信界,未經(jīng)允許禁止轉(zhuǎn)載、摘編,違者必究。經(jīng)授權(quán)可轉(zhuǎn)載,須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息并注明“來源:通信界”。②凡本網(wǎng)注明“來源:XXX(非通信界)”的內(nèi)容,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多行業(yè)信息,僅代表作者本人觀點,與本網(wǎng)無關(guān)。本網(wǎng)對文中陳述、觀點判斷保持中立,不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔(dān)全部責(zé)任。③如因內(nèi)容涉及版權(quán)和其它問題,請自發(fā)布之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。 
熱點動態(tài)
普通新聞 突破五大制約因素:智算中心如何提高利用率
普通新聞 習(xí)近平向2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會開幕視頻致賀
普通新聞 走“新”更走“心”,進博會三星AI“圈粉”青少年
普通新聞 科立訊閃耀2024中國國際應(yīng)急管理展覽,攜上百款應(yīng)急通信產(chǎn)品亮相
普通新聞 中國移動副總經(jīng)理張冬:引領(lǐng)5G A2融合創(chuàng)新 賦能新型工業(yè)化發(fā)展
普通新聞 官宣定檔!2025北京國際低空產(chǎn)業(yè)博覽會來了!
普通新聞 核心替代 新質(zhì)金融 2024國產(chǎn)數(shù)據(jù)庫創(chuàng)新生態(tài)大會成功舉辦
普通新聞 天正方案閃耀2024中國通信能源大會
普通新聞 深算院崖山發(fā)布核心平替戰(zhàn)略 加速金融數(shù)智化躍遷
普通新聞 歐拉中國服務(wù)器操作系統(tǒng)份額達50%,openEuler開源五年樹立新里程
普通新聞 5G賦能千行百業(yè)|5G賦能智慧醫(yī)療 讓百姓健康更有“醫(yī)”靠
普通新聞 中小企業(yè)發(fā)展指數(shù)全面上升是積極信號
普通新聞 中國衛(wèi)通衛(wèi)星互聯(lián)網(wǎng)企業(yè)級產(chǎn)品亮相中國航展
普通新聞 2024全球6G發(fā)展大會在上海舉行
普通新聞 拓展場景釋放公共數(shù)據(jù)價值
普通新聞 我國快遞業(yè)歷經(jīng)“雙十一”大考之變
普通新聞 無人機快遞艙“飛”入社區(qū) 深圳加速構(gòu)建低空起降設(shè)施網(wǎng)絡(luò)
普通新聞 2024大灣區(qū)科學(xué)論壇開幕在即,中國聯(lián)通大灣區(qū)創(chuàng)新能力布局即將發(fā)布
普通新聞 戰(zhàn)略簽約!用友與聯(lián)通數(shù)科共啟央國企數(shù)智化轉(zhuǎn)型新征程
普通新聞 海能達贏得智利憲兵隊TETRA專用通信系統(tǒng)實施項目
通信視界
我國科學(xué)家研制出世界首款類腦互補視覺芯片“
普通對話 6G進展如何?離我們還有多遠?獨家專訪6G推
普通對話 5G賦能千行百業(yè).專家談|GSMA大中華區(qū)公共政
普通對話 巾幗不讓須眉!且看高質(zhì)量信息科技背后的智
普通對話 我國科學(xué)家研制出世界首款類腦互補視覺芯片
普通對話 李彥宏:不斷地重復(fù)開發(fā)基礎(chǔ)大模型是對社會
普通對話 中興通訊徐子陽:強基慧智,共建數(shù)智熱帶雨
普通對話 鄔賀銓:移動通信開啟5G-A新周期,云網(wǎng)融合
普通對話 華為輪值董事長胡厚崑:我們正努力將5G-A帶
普通對話 高通中國區(qū)董事長孟樸:5G與AI結(jié)合,助力提
普通對話 雷軍發(fā)布小米年度演講:堅持做高端,擁抱大
通信前瞻
我國實現(xiàn)“縣縣通千兆、鄉(xiāng)鄉(xiāng)通5G”
普通對話 記者調(diào)查:客服電話轉(zhuǎn)人工,咋越來越難了?
普通對話 安徽推動新型信息基礎(chǔ)設(shè)施協(xié)調(diào)發(fā)展
普通對話 我國實現(xiàn)“縣縣通千兆、鄉(xiāng)鄉(xiāng)通5G”
普通對話 “百模大戰(zhàn)”中,工業(yè)大模型如何闖出“新天
普通對話 經(jīng)濟聚焦·訪智能制造 解行業(yè)痛點
普通對話 60秒解鎖“北斗+”“+北斗”
普通對話 需求激增 算力基礎(chǔ)設(shè)施加快落地
普通對話 我國國產(chǎn)首顆全電推通信衛(wèi)星亞太6E衛(wèi)星成功
普通對話 SpaceX離第四次發(fā)射星際飛船又近一步
普通對話 哈勃望遠鏡步入暮年,陀螺儀僅剩2個,NASA打
普通對話 頂層設(shè)計完善 智慧城市建設(shè)開足馬力
普通對話 中央企業(yè)智能算力規(guī)模加速增長
普通對話 工信部規(guī)劃1億個專用號用于車聯(lián)網(wǎng)發(fā)展,將如
普通對話 鄔賀銓院士解讀ChatGPT等數(shù)字技術(shù)熱點
普通對話 華為云Stack智能進化,三大舉措賦能政企深度
推薦閱讀

闪存普惠,一步到位 | 华为商业市场极简全闪数据中心Pro+重磅发布

开源鸿蒙持续壮大 三大运营商全面入局 多元成果亮相HDC2025

数码视讯助力广东卫视、深圳卫视两个4K超高清频道开播

突然!特朗普“土豪金”手机,撤下美国制造标签!实际由中国制造!

小米YU7一小时大定破28.9万辆 黄牛代抢费高至万元

高新兴数智化机房管理方案,筑牢智慧运维新标杆

亚信科技5G专网产品斩获2025 TM Forum卓越大奖

2025大众点评“必吃榜”正式揭晓:144城3091家餐厅上榜

马云突然甩出王炸!饿了么飞猪会师,美团携程要慌了?

亚信科技、跨境数科助力上海打造“国际数据港”,成立联合实验室
Copyright @ Cntxj.Net All Right Reserved 通信界 版權(quán)所有
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像