亚洲在线日韩伦理片,96精品国产AⅤ一区二区,青鸟影视网,yy黄色频道,国内精品久久久精品AV电影院

浪潮發布新版AIStation推理服務平臺,可高效調度多元AI芯片

2021-09-23 09:09 6996

北京2021年9月22日 /美通社/ -- 9月17日,在蘇州舉行的第四屆全球人工智能產品應用博覽會(AIExpo2021)上,浪潮發布新版AIStation人工智(zhi)能(neng)推(tui)理(li)服務平臺,為(wei)快速發展的(de)人工智(zhi)能(neng)應用提供強大的(de)服務管理(li)支撐,并(bing)可統一(yi)高效(xiao)調度多(duo)(duo)款國際國內(nei)領先的(de)AI芯片的(de)算力,幫(bang)助(zhu)企業和智(zhi)算中(zhong)心充分發揮(hui)多(duo)(duo)元(yuan)算力作用,加速AI應用場景落地。此次發布(bu)是為(wei)了應對(dui)日(ri)趨豐富的(de)人工智(zhi)能(neng)應用對(dui)多(duo)(duo)元(yuan)化AI芯片算力的(de)需求,以及智(zhi)能(neng)計算中(zhong)心日(ri)益復雜的(de)異構計算資源管理(li)調度挑(tiao)戰(zhan)。


浪潮AIStation是業界領先的(de)人(ren)(ren)工智能開發服(fu)務(wu)平臺(tai),可(ke)支持(chi)超(chao)過(guo)(guo)數千(qian)節點AI服(fu)務(wu)器(qi)的(de)超(chao)大(da)(da)規模(mo)人(ren)(ren)工智能集群調(diao)度管理。基于容器(qi)化(hua)技術簡(jian)化(hua)算(suan)(suan)力(li)調(diao)度過(guo)(guo)程,幫助用(yong)(yong)戶擺(bai)脫在大(da)(da)規模(mo)AI計算(suan)(suan)集群中進行算(suan)(suan)力(li)選擇、算(suan)(suan)力(li)適配(pei)等(deng)繁雜工作,提(ti)高調(diao)度效(xiao)率。實現資源敏捷調(diao)配(pei),使得資源利用(yong)(yong)率得以(yi)大(da)(da)幅提(ti)升;強大(da)(da)的(de)平臺(tai)調(diao)度機(ji)制可(ke)以(yi)應對需(xu)求突(tu)發場景在幾(ji)分鐘(zhong)內自動完成服(fu)務(wu)擴容;支持(chi)多源模(mo)型統一部署,模(mo)型部署時間從數天縮短到幾(ji)分鐘(zhong),從而實現業務(wu)快速上線(xian)。AIStation可(ke)支持(chi)百萬級(ji)高并發的(de)大(da)(da)規模(mo)AI推理服(fu)務(wu)場景,服(fu)務(wu)響應平均延遲低于1ms。

當(dang)前,日趨豐(feng)富的(de)人工(gong)智能應用(yong)(yong)(yong)對多(duo)元化(hua)(hua)AI芯片(pian)(pian)算(suan)(suan)力(li)的(de)需求激增,驅動(dong)(dong)人工(gong)智能計(ji)(ji)算(suan)(suan)系統(tong)(tong)向多(duo)元算(suan)(suan)力(li)計(ji)(ji)算(suan)(suan)架(jia)構轉(zhuan)化(hua)(hua)。使用(yong)(yong)(yong)多(duo)種AI芯片(pian)(pian)的(de)混(hun)合計(ji)(ji)算(suan)(suan)架(jia)構需求越(yue)來越(yue)多(duo),這種需求在(zai)產業AI化(hua)(hua)、智算(suan)(suan)中(zhong)心等(deng)(deng)大規模AI計(ji)(ji)算(suan)(suan)系統(tong)(tong)建設時(shi)更加迫切。然而,各種類型AI芯片(pian)(pian)的(de)連接接入標(biao)準不同(tong),用(yong)(yong)(yong)戶在(zai)使用(yong)(yong)(yong)多(duo)元AI芯片(pian)(pian)系統(tong)(tong)時(shi)會遇(yu)到系統(tong)(tong)適配、芯片(pian)(pian)驅動(dong)(dong)、互聯互通、功耗管理、安全傳輸、易用(yong)(yong)(yong)性等(deng)(deng)各類問題,給(gei)用(yong)(yong)(yong)戶在(zai)部(bu)署多(duo)元AI芯片(pian)(pian)算(suan)(suan)力(li)系統(tong)(tong)時(shi)提(ti)出巨大挑(tiao)戰。

針對當前多(duo)元(yuan)化(hua)算(suan)(suan)力(li)(li)的(de)(de)(de)應(ying)用(yong)困局,浪潮此次發(fa)布(bu)的(de)(de)(de)新版AIStation推(tui)(tui)理服務(wu)(wu)平臺實現了對英偉達、寒(han)武紀、昆侖芯(xin)、高通(tong)(tong)等6家國際國內(nei)廠商的(de)(de)(de)12款AI和(he)GPU芯(xin)片的(de)(de)(de)多(duo)元(yuan)算(suan)(suan)力(li)(li)支持。AI芯(xin)片可通(tong)(tong)過適配浪潮提(ti)供的(de)(de)(de)AI芯(xin)片算(suan)(suan)力(li)(li)接(jie)(jie)入規(gui)范即可快速接(jie)(jie)入AIStation平臺,幫助(zhu)用(yong)戶降低(di)對多(duo)元(yuan)AI芯(xin)片的(de)(de)(de)使用(yong)和(he)管(guan)理難(nan)度。AIStation平臺實現多(duo)元(yuan)算(suan)(suan)力(li)(li)的(de)(de)(de)統一(yi)管(guan)理及調度,為(wei)生產環境算(suan)(suan)力(li)(li)運行(xing)(xing)(xing)提(ti)供一(yi)致(zhi)的(de)(de)(de)監(jian)管(guan)功能(neng),對GPU、MLU、XPU等AI芯(xin)片的(de)(de)(de)性能(neng)狀況、AI業(ye)務(wu)(wu)流量及響(xiang)應(ying)延時進行(xing)(xing)(xing)實時監(jian)控(kong),并根據(ju)監(jian)控(kong)數據(ju)進行(xing)(xing)(xing)分析、決策、執行(xing)(xing)(xing)操(cao)作,實現服務(wu)(wu)算(suan)(suan)力(li)(li)的(de)(de)(de)自動調節、自適應(ying)推(tui)(tui)理業(ye)務(wu)(wu)突發(fa)資源擴(kuo)展(zhan)需求。

AIStation是業界首個支持多元(yuan)AI芯片算力(li)的人工智能服(fu)務平臺,打(da)通了多元(yuan)AI芯片從接入(ru)(ru)、管理、調度、適配到應(ying)用(yong)的路徑,通過構建AI芯片算力(li)接入(ru)(ru)規范實現(xian)多元(yuan)算力(li)的標準化(hua)管理,為產業AI化(hua)和智算中心(xin)建設(she)提(ti)供高效便(bian)捷(jie)的AI算力(li)調度,讓(rang)AI應(ying)用(yong)和AI服(fu)務更便(bian)捷(jie),助力(li)用(yong)戶(hu)(hu)充分使用(yong)多元(yuan)算力(li)實現(xian)AI技術創(chuang)新和落地。目前,浪潮AIStation推理服(fu)務平臺已在(zai)(zai)諸多客戶(hu)(hu)獲(huo)得成功應(ying)用(yong),在(zai)(zai)新基建、互聯網(wang)、金(jin)融、保險、交通、手機通信、智能汽車、智慧城(cheng)市等多個AI場景發揮著(zhu)重(zhong)要(yao)作用(yong)。

消息來源:浪潮
全球TMT
微信公眾號“全球TMT”發布全球互聯網、科技、媒體、通訊企業的經營動態、財報信息、企業并購消息。掃描二維碼,立即訂閱!
collection