進步AI核算才能,為企業(yè)提供更好和更多的定制化處理計劃是全球人工智能范疇重視熱點。美國拉斯維加斯時刻1月8日2019CES開幕,百度地圖標注的AI核算體系展臺前人氣火爆,這是百度全球搶先的AI核算體系首次露臉國際舞臺,觀眾和全球媒體把目光紛紛聚集于此,期望透過百度這家我國AI“頭雁”企業(yè),感受我國在AI范疇的立異實力。
百度AI核算體系展臺具有的超強AI實力體系,包含了百度自主研制的最新超級AI核算渠道X-MAN3.0和支撐百度AI核算層面的FAST-F AI存儲體系、百度AI核算練習渠道KongMing、AI推理加快引擎Anakin等軟件,效勞于百度查找、DuerOS、Apollo、百度智能云等中心事務。 算法、數(shù)據(jù)和核算是推動AI深度學習技能快速開展的三大要素。在人工智能運用場景和規(guī)模快速開展的背面,為支撐更強的泛化才能,更高的猜測精度,算法模型日趨雜亂,越來越多的數(shù)據(jù)需求被及時標示和處理,核算功能成為要害。圖像分析的樣本量級大約為百億級,而語音分析也達到了十萬小時級。練習數(shù)據(jù)樣本量越來越大,且主要是小文件,對存儲體系的成本和功能都提出了很大應戰(zhàn)。最新的算法開展比方Deep Speech、BERT對整個核算需求所形成的應戰(zhàn)變得更大,一起AutoDL等技能在簡化模型研制規(guī)劃的一起也對算力提出了更高的要求,因此針對AI場景需求一整套核算體系,包含支撐海量小文件高速拜訪的并行文件體系、AI核算機、大規(guī)模分布式練習渠道以及在線效勞推理結構,這正是百度AI核算體系要處理的應戰(zhàn),提高整個核算體系的功能與功率進步尤為重要。
在百度AI核算體系展臺最受矚目的超級AI核算渠道X-MAN3.0,就是專為AI深度學習場景優(yōu)化規(guī)劃,極大加快了AI深度學習模型的練習速度。還專門規(guī)劃了兩級AI加快芯片互聯(lián)交換體系,是目前擴展AI加快器數(shù)量最多的AI核算渠道之一,單機功能可達到2000 TOPS,可以為百度超大規(guī)模AI練習帶來超出預期的運用價值。隨著AI人工智能技能的快速開展,許多AI芯片公司應運而生,AI芯片格式正呈現(xiàn)多元化開展趨勢。X-MAN3.0采用了硬件體系模塊化、互聯(lián)接口標準化、互聯(lián)拓撲高靈敏性的規(guī)劃思路,既提高了多元化AI加快芯片的兼容性,也促進了AI加快芯片生態(tài)健康、快速、可繼續(xù)的開展。
憑借著對AI事務模型的深刻理解、扎實的硬件根底架構技能和對職業(yè)趨勢的精確預判,百度規(guī)劃了X-MAN AI核算渠道系列產品,發(fā)明了6項業(yè)界第一,包含單機16卡、支撐64卡擴展、硬件解耦、資源池化、無損通訊、液冷散熱等,一起期要害技能&功能保持搶先,引領職業(yè)開展趨勢。該系列技能也獲得了2018年我國國家專利技能優(yōu)秀獎。
百度X-MAN的面世與升級為人工智能范疇處理算力提高問題做出了重要貢獻,成為人工智能開展真實的加快器。目前,X-MAN系列產品已在百度完成規(guī)�；�布置,廣泛運用于語音辨認、核算機視覺、天然語音處理、無人車等根底AI技能的深度學習模型練習;X-MAN與FAST-F AI存儲體系、百度AI核算練習渠道KongMing一起構建了端到端的練習計劃,將練習時刻從周級別縮短到天級別,效勞于百度DuerOS、Apollo、百度智能云等中心事務,助力百度AI戰(zhàn)略的快速落地。
AI推理加快引擎Anakin是另一個招引了許多業(yè)界重視的百度AI產品。它處理的痛點是可以跨過不同的深度學習練習結構。近幾年,為了處理AI核算力提高問題,業(yè)界出現(xiàn)出了許多優(yōu)秀的處理計劃。但是帶來的問題是,不同練習結構需求的運營環(huán)境不同。這意味著每個練習結構在每個硬件渠道下都需求各建立一套運行環(huán)境,乃至還有些結構是不支撐某些硬件渠道的。他們之間的不互通,使得許多AI運用落地受到了阻止。
Anakin主要由獨立的Parser、靈敏的Framework和高效的Saber核算庫三部分組成。獨立的Parser完成了將不同練習結構生成的model轉換為Anakin核算圖的解析功能,它支撐任何練習結構生成的model解析,屏蔽了不同練習結構的差異。靈敏的Framework屏蔽了底層硬件的差異,用于完成與硬件無關的一切操作,如網(wǎng)絡構建、圖融合、資源復用、核算調度等操作,方便用戶運用。高效的Saber核算庫是由很多的匯編級優(yōu)化代碼組成,支撐許多業(yè)界產品,如Intel-CPU、NV-GPU、AMD-GPU和ARM等。
Anakin不僅一起支撐CPU和GPU base的多種主流核算架構(如X86/ARM、以及多種GPU架構),還一起支撐兩款最新的NPU架構(寒武紀和比特大陸)。 Anakin盡可能為開發(fā)者屏蔽異構核算的差異,方便用戶快速布置、享受杰出功能。
目前Anakin已在百度查找、百度地圖標注、百度無人車、人臉閘機、全民小視頻等許多百度明星產品中實際落地,是真實的經(jīng)歷過大規(guī)模工業(yè)布置考驗的AI推理加快引擎。
百度AI核算體系作為AI核算根底技能處理計劃,也一起運用到了百度智能云的AI相關產品中,比方百度智能云GPU云主機、百度智能云Infinite AI開發(fā)渠道、百度智能云ABC一體機等,使各行各業(yè)都能享受到百度AI核算根底技能立異帶來的紅利。