人工智能更接近邊緣:針對物聯網的數據洪流強化生態系統

winniewei 提交于 周四, 10/10/2019
人工智能更接近邊緣:針對物聯網的數據洪流強化生態系統
  • 宣布將bfloat16數據格式加入下一版本的Armv8-A架構,大幅提升基于Arm?IP?CPU在機器學習的訓練與推論效能。
  • 次世代的Neoverse Zeus "(宙斯)平臺將支持bfloat16功能,可為AI運算帶來更佳的機器學習能力與運行時間。
  • 推出Project Cassini,?將與Arm的生態系統伙伴合作,開發平臺標準與參考系統,并以它們為基礎,在目前已延展到基礎設施邊緣的標準化平臺安全架構(PSA)框架內,無縫部署云端原生的軟件堆棧。

第五波計算技術的融合——人工智能(AI)5G與物聯網(IoT)——正持續加速令人驚訝的變化,并驅動全新的數據消費模型。在僅考慮IoT的情況:盡管還在發展初期,我們看到它已經褪去全球微型傳感器網絡的原始面貌,進一步擴展至包含更多高性能設備,包括從智能影像傳感器到自駕汽車。

隨著IoT持續成長并帶動全球數字化轉型,通往上游云端的數據海嘯,讓長期以來針對下游分配優化的網絡基礎設施遭受打擊。它也促生了一個迫切的需求,即在全球互聯網架構內實現更分散的算力分布,而這也導致對Arm Neoverse計算解決方案的需求與日俱增。整個生態系統已經對這個挑戰作出響應,而縱觀Arm過去一年內的進展?Neoverse正在將其初始愿景轉換成今日之現實。

AI從云端擴散,“宙斯”枕戈待旦

展望未來,Arm將專注于為下一代基礎設施技術奠定基礎,其中的重中之重是AI的去中心化。

由于大型數據集與專屬的算力相當集中的緣故,今日大負荷的AI計算多數在云端完成,特別是機器學習(ML)模型的訓練。但若把這些模型應用到真實世界中靠近決策點的推論時,以云端為中心的AI模型就會捉襟見肘。數據傳輸數千英里來到數據中心進行模型比較時,可能會碰到不少延時的問題,因此,沒有人能保證當結果返回時仍然對決策有用。時間至關重要,因此把“智能”從云端分配到邊緣,就顯得合情合理。

得益于已經面世的各種解決方案——從云端與基礎設施都在使用都Arm Neoverse平臺和AI加速技術,到專門迎合各種端點需求的、具備AI能力的Arm CPU、NPU和GPU——Arm與其合作伙伴在讓AI賦能互聯網各個層級應用方面具有先天優勢。但Arm認為這還不夠。Arm最近宣布將把bfloat16數據格式加入下一個版本的Armv8-A架構中,這將大幅提升基于Arm架構的CPU的訓練與推理性能。Arm已經確認將對bfloat16的支持加入計劃將于明年推出的Neoverse "Zeus"(宙斯)平臺。

在邊緣擴展計算

隨著對決策的要求朝邊緣移動,AI將扮演雙重角色。除了依據數據本身包含的信息作出及時決定之外,當大量的數據需要被導引至正確的位置時,AI需要在從流量管理到封包檢驗等方面都發揮作用。這是一個訓練與推論兼顧的問題,而傳統的計算系統無法與之相適應。過去,互聯網邊緣傳統上只是一個網橋,現在正快速變成智能計算平臺,并最終將促成我們稱之為AI Edge的浮現,并在2025年形成一個高達300億美元的計算芯片潛在市場規模(TAM)

在邊緣執行AI有幾個好處:它可顯著減少到云端的回程,降低延遲,并提升可靠性、效率與安全性。有鑒于當今來自全球設備部署的洞見來得極快,模型必須需要實時進化,這點已經顯現出至關重要性。

賦能AI邊緣:推出Project Cassini

利用AI邊緣的應用程序的成功部署,關鍵在于提供能夠覆蓋各種功耗與性能需求的多元解決方案。單一廠商的解決方案,并無法滿足所有需求。除了變成以AI為中心,AI邊緣必須是云端原生的、虛擬化(VMcontainers)的,同時支持多用戶。最重要的是,它必須是安全無虞。

目前構成基礎架構邊緣的解決方案來自一個極度多元化的生態系統,而這個生態系統也在迅速變革,以滿足這些新產生的需求。為了協助大家面對這一AI邊緣的變革,Arm宣布推出Project Cassini:這是一個專注于在多元與安全的邊緣生態系統內,確保云端原生體驗的業界提案。

通過與Arm生態合作伙伴的協同努力,Project Cassini將專注于基礎設施邊緣,開發平臺標準與參考系統,并以它們為基礎,在目前已延展到基礎設施邊緣的標準化平臺安全架構(PSA)框架內,無縫部署云端原生的軟件堆棧。值得一提的是,?Arm與其生態系統合作伙伴針對安全性做出了大量努力。兩年前Arm推出PSA,讓企業得以依據一套通用的需求設計安全功能,以降低打造產品級IoT安全性相關的成本、時間與風險。今天,Project CassiniPSA延展至基礎設施邊緣,可謂更上層樓,目標是讓所有最基本的安全需求標準化

持續演進的挑戰

Arm預計,到2035年全球將有一萬億個IoT設備,這將帶來全新規模的基礎設施與架構上的挑戰,技術也需要與時俱進才足以應對。在邊緣計算方面,這意味著Arm將持續大量投資硬件、軟件與工具的開發,以便為基礎設施堆棧的每一個點都賦予智能決策能力。另一方面,這也意味著在處理器層級,以及從云端到邊緣到終端設備的整個網絡內,都將廣泛使用異構計算。

更多完整內容可參閱?Arm IP?產品事業群策略與營運資深副總裁?Drew Henry?的Blog文章。

關于Arm

作為計算及互聯革命的核心Arm技術正改變著人們生活及企業運行的方式。Arm先進的低功耗處理器設計已應用于超過1,500億顆芯片的智能計算,Arm的技術安全地為電子設備提供支持,覆蓋從傳感器到智能手機乃至超級計算的多樣化應用。結合我們的物聯網設備、連接與數據管理平臺,Arm技術幫助客戶從互聯設備中獲得強大且可執行的洞察,從而賦能真正的商業價值。Arm攜手超過1,000家技術合作伙伴,為從芯片到云端的整個計算領域提供設計、安全和管理方面的技術,并在該技術領域處于業界領先地位。

相關文章

Digi-Key