雲端運算技術已運行多年,隨著行動裝置、物聯網、智慧音箱的興起,挾伴著智慧駕駛與智慧城市發展下,目前的雲端運算架構似乎已經難以負擔越來越多的終端產品連接與即時回覆,而邊際運算(Edge Computing)的推出,開始改變既有雲端模式,讓終端設備具有人工運算能力,藉以與雲端主機進行更好的分工,完成人工智慧的服務。
邊緣運算簡單來說,就是將運算放在終端產品或是離終端產品更近的本地端邊緣雲上,這樣的優勢可提供更即時的反應。例如自動駕駛、擴增實境、人臉辨識監視器…之類的終端設備,所需的就是這樣即時反應的能力,當有需要時才將資料回傳到雲端,或是需要更強大的運算能力時,雲端就可以協助進行處理。
以現場展示的尋物機器人來說,所搭載即為具有 AI Engine 的即為 Snapdragon 845,透過邊緣人工智慧運算能力,可達成辨識物體並尋找的功能。
人工智慧邊緣運算核心對於高通來說是非常得心應手的設計,高通具有移動裝置廣泛的技術累積,包含工藝製程的領先優勢、規模經濟的優勢與低能耗高功效的技術,可達成機器認與智慧助理、產生內容、AR 特效與 VR 應用。
四月初在舊金山,高通推出 Qualcomm Cloud AI 100 雲端加速器,以進階訊號處理與節能方面技術為優勢,打造能因應對於雲端人工智慧推論處理的爆炸性需求。透過 Cloud AI 100 雲端加速器,可促使設備由雲端往邊緣運算前進。
Qualcomm Cloud AI 100 雲端加速器提供相較於業界現行部署最先進的人工智慧推論解決方案,每瓦效能提升10倍以上,並具有專門為處理人工智慧推論工作負載所打造的全新高效晶,加上 7 奈米製程節點帶來更好的效能與能源優勢 ,並支援業界領導的軟體堆疊架構,包括 PyTorch、Glow、TensorFlow、Keras 與 ONNX。
分散式的人工智慧雲端運算,除了可即時反應外,也大大降低雲端與通訊成本。對消費者來說,無論在智慧型手機或是物聯網設備上,無論有沒有聯網,都可以使用人工智慧應用,未來的智慧駕駛與智慧城市,更能加速發展。目前高通推出的 Qualcomm Cloud AI 100 雲端加速器將在下半年開始送樣,近期內就有機會看到相關產品。