上海2021年12月7日 /美通社/ -- 燧原科技發布(bu)第二代云端人工智能推理加速卡“云燧i20”——這是時隔僅五個月，繼(ji)今年7月發布云(yun)端人工智能(neng)訓練加速卡“云(yun)燧T20”之后，燧原科技又推出的全(quan)新一代針對云(yun)端推理場景的AI加速產品。

作為全新一代云端AI推理加速產品，云燧i20擁有迄今為止業(ye)內(nei)最大的AI加速卡存儲帶寬，高達819 GB/s，遠超行業同類產品水平；同時全面支持從FP32、TF32、FP16、BF16到INT8的計算精度。單精度FP32峰值算力達到32 TFLOPS，單精度張量TF32峰值算力達到128 TFLOPS，整型INT8峰值算力達到256 TOPS。對比第一代推理產品，云燧i20將浮點算力提升到1.8倍，整型算力提升到3.6倍。

升級后的“馭算TopsRider”軟件棧，在性能、開發效率和模型覆蓋面上得到大幅提升。通過引入通用高層圖優化和大規模算子融合技術，充分釋放了大容量片內存儲和高帶寬存儲的利用率，將模型平均性能提升3.5倍，硬件算力利用率平均提升2倍；通過升級的(de)編(bian)程模型以及算子自(zi)動(dong)分片(pian)、自(zi)動(dong)生(sheng)成技術，自(zi)定義(yi)算子開發效率翻倍(bei)，模型遷(qian)移(yi)成本大大降(jiang)低；此(ci)外，馭算增強了(le)對動(dong)態(tai)性的(de)支持，使(shi)云燧i20在(zai)檢測(ce)、語(yu)音識(shi)別、語(yu)義(yi)理解等場(chang)景更(geng)具競爭力(li)。

在經濟(ji)效益和部(bu)署靈(ling)活性(xing)層(ceng)面，基于(yu)虛擬化和多實(shi)例(li)加速技術(shu)，云(yun)燧(sui)i20能夠實(shi)現(xian)單卡多用戶，同時支持6個(ge)業(ye)務(wu)互不干(gan)擾(rao)、安全隔離運行。讓更多云(yun)端推理應(ying)用同時享(xiang)受(shou)專有的算力加速，為客戶業(ye)務(wu)架構帶來輕耦合、靈(ling)活可(ke)靠的實(shi)現(xian)方式，顯著提升資源(yuan)利用率(lv)與投(tou)入產(chan)出比。

“云燧(sui)i20的(de)(de)(de)(de)發布標志(zhi)著(zhu)燧(sui)原(yuan)科(ke)(ke)技(ji)在云端AI算(suan)力加速領域，從訓練到推理的(de)(de)(de)(de)完(wan)整(zheng)產品線已(yi)全(quan)面迭代到第二代，能夠以(yi)更有競爭力的(de)(de)(de)(de)產品，為互聯網、智(zhi)慧(hui)城(cheng)市(shi)、智(zhi)慧(hui)政務，以(yi)及金(jin)融、交通、能源(yuan)等傳統行業客戶提供更優的(de)(de)(de)(de)AI計算(suan)方案。”燧(sui)原(yuan)科(ke)(ke)技(ji)CEO趙立東表示，“當(dang)前，我(wo)國芯片產業正(zheng)處于(yu)激烈(lie)的(de)(de)(de)(de)成長(chang)與(yu)蛻變時(shi)代，燧(sui)原(yuan)科(ke)(ke)技(ji)以(yi)‘做大芯片，拼硬科(ke)(ke)技(ji)’為時(shi)代使命(ming)，基于(yu)原(yuan)始創(chuang)新的(de)(de)(de)(de)軟硬件架(jia)構，正(zheng)在不斷加速技(ji)術創(chuang)新與(yu)產品迭代。性能趕(gan)超業內旗(qi)艦(jian)GPU的(de)(de)(de)(de)云燧(sui)i20正(zheng)是(shi)我(wo)們的(de)(de)(de)(de)關鍵(jian)成果之一。”

超大帶寬推理加速卡，兼具高吞吐、低延時特性

目前以語音識別、圖片識別、視頻內容分析為主的感知類應用，內容推薦和欺詐交易攔截等決策類應用在云端大部分都是以實時在線的方式提供服務；同時神經網絡的參數越來越多，數據帶寬需求也越來越高，兼顧高帶寬和低延遲變得至關重要。云燧i20創新性地采用了高帶寬HBM2E存儲，實現了高達819GB/s的超大帶寬，為各類云端推理業務提供高吞吐、低延時的性能，保障其準確、平穩、高效的運行。

自主創新芯片架構，以更高性價比提供極致化性能

新一代“邃思”AI推理芯片采用第二代高性能計算核心和數據引擎，由12nm工藝打造，通過架構升級，大大提高了單位面積的晶體管效率，從而實現了與目前業內7nm GPU相匹敵的計算能力。不僅(jin)如此，基(ji)于12nm成熟工藝(yi)帶來的成本優勢(shi)，使得云燧i20在相同性能(neng)表現下更具性價比優勢(shi)。并且供(gong)應鏈體系(xi)更加穩定成熟，客戶(hu)的業務需(xu)求可(ke)以(yi)得到及時(shi)滿足(zu)。

燧原(yuan)科技COO張亞林指出：“云(yun)燧i20全面(mian)提升了算(suan)力，在兼顧全精度算(suan)力的(de)(de)(de)同時大幅度提高了整(zheng)型(xing)運(yun)算(suan)，大力加強了模(mo)型(xing)覆蓋率和(he)泛化支(zhi)持的(de)(de)(de)能(neng)力，在多項基(ji)準測試中，其模(mo)型(xing)性能(neng)、能(neng)效比均(jun)處(chu)于國內領(ling)先水(shui)平，可以滿(man)足(zu)云(yun)端(duan)推理(li)業(ye)務高度多樣(yang)化的(de)(de)(de)需求。燧原(yuan)科技目前已經擁有(you)第二代的(de)(de)(de)訓(xun)練和(he)推理(li)產(chan)(chan)品，針對客戶(hu)的(de)(de)(de)業(ye)務場景提供原(yuan)始創(chuang)新的(de)(de)(de)、具有(you)高性能(neng)及性價比的(de)(de)(de)‘訓(xun)練+推理(li)’完整(zheng)解決方案，并(bing)支(zhi)持國產(chan)(chan)服務器和(he)操作(zuo)系統，可以幫助(zhu)客戶(hu)進行(xing)云(yun)端(duan)系統部署，全面(mian)且持續為(wei)客戶(hu)創(chuang)造價值。”

產學研協同，引領原始創新國產AI算力落地

自第一代(dai)云端AI推理加速卡(ka)“云燧(sui)i10”發布后，燧(sui)原(yuan)科技在構建原(yuan)始創(chuang)新(xin)的通用算力(li)(li)和自主生(sheng)態上付(fu)出了卓(zhuo)絕的努力(li)(li)。以(yi)其國產AI算力(li)(li)產品為(wei)核(he)心，以(yi)商業生(sheng)態和科研生(sheng)態為(wei)支(zhi)撐，實現燧(sui)原(yuan)科技的云端AI推理產品在互聯網(wang)、金(jin)融(rong)、政務等多家客戶的商業落地，并獲得(de)認可。

之江實驗室發展合作部副部長吳麗娟表示：“之江實驗室今年3月與燧原科技成立聯合研究中心，圍繞人工智能應用場景，共同開發具有標桿性的技術解決方案，構建開源開放的創新生態系統。目前，燧原科技的第一代人工智能訓練產品‘云燧T11’正在之江實驗室搭建千卡高性能計算的液冷集群，打造符合國家碳中和政策導向的低碳綠色數據中心。未來，我們(men)還(huan)會在智能計(ji)算的更多領(ling)域合作研(yan)發。”

上(shang)海(hai)銀(yin)行(xing)自貿區(qu)陳行(xing)長表(biao)示：“燧(sui)原(yuan)科(ke)技(ji)的(de)(de)(de)第一(yi)代人工智能(neng)推理產品云燧(sui)i10具有科(ke)技(ji)獨創性和(he)技(ji)術領先優(you)勢。上(shang)海(hai)銀(yin)行(xing)和(he)燧(sui)原(yuan)科(ke)技(ji)已經簽署了(le)(le)深度(du)戰(zhan)(zhan)略(lve)合作協議，在(zai)智慧(hui)金融(rong)領域開展了(le)(le)戰(zhan)(zhan)略(lve)合作，通過場景化、智能(neng)化、融(rong)合化的(de)(de)(de)創新產品，將金融(rong)科(ke)技(ji)融(rong)入銀(yin)行(xing)服(fu)務的(de)(de)(de)全流(liu)程，用便捷流(liu)暢的(de)(de)(de)客戶體驗、優(you)質(zhi)高效的(de)(de)(de)服(fu)務品質(zhi)，實現傳(chuan)統(tong)銀(yin)行(xing)服(fu)務方式的(de)(de)(de)突破式變(bian)革。燧(sui)原(yuan)科(ke)技(ji)將助力上(shang)海(hai)銀(yin)行(xing)向實現數字化、智能(neng)化轉型邁出堅實的(de)(de)(de)一(yi)步。”

浪潮(chao)信息(xi)副總裁劉軍(jun)表(biao)示：“燧(sui)(sui)原(yuan)科技是國(guo)產人(ren)工智(zhi)能計算芯片的(de)(de)領(ling)軍(jun)企業，浪潮(chao)信息(xi)與燧(sui)(sui)原(yuan)科技通過元腦(nao)生(sheng)態聯合(he)(he)創新，在AI整(zheng)機(ji)系統(tong)、AI算力優化、場景方案落地(di)等(deng)多方面深入合(he)(he)作。此次云燧(sui)(sui)i20的(de)(de)發(fa)(fa)(fa)布，標志著燧(sui)(sui)原(yuan)從訓練到(dao)推(tui)理全面進入2.0時代，這也是國(guo)產AI算力發(fa)(fa)(fa)展(zhan)的(de)(de)里程碑。我們(men)期待和燧(sui)(sui)原(yuan)一起緊密合(he)(he)作，共同推(tui)進中(zhong)國(guo)人(ren)工智(zhi)能產業的(de)(de)快速發(fa)(fa)(fa)展(zhan)。”