地平線旭日3發布:“TOPS” is cheap, show me the “MAPS”

作者:電工吧 日期:2021-09-06 18:08:54 人氣: 欄目:人工智能

如今的人工智能(AI)芯片市場,普遍以TOPS(Tera Operations Per Second)論英雄。1TOPS代表處理器每秒鐘可進行一萬億次(10^12)操作,與此對應的算力單位還有GOPS(Giga Operations Per Second),MOPS(Million Operation Per Second)。

但TOPS真的能衡量一款AI芯片在實際應用中的優劣嗎

9月9日,地平線在深圳發布了新一代AIoT邊緣AI芯片平臺——地平線旭日® 3,同時提出了一個新的芯片AI效能評估標準MAPS(Mean Accuracy-guaranteed Processing Speed) ,MAPS在應用場景中最常見的精度保障范圍內,考察每顆芯片的平均處理速度,兼顧"快"和"準"這兩個相互妥協的性能維度,真實反映芯片的在不同應用場景下的AI性能。

"我們的使命里有‘賦能萬物’四個字,這是地平線成立的初心。"發布會上,地平線創始人兼 CEO 余凱闡釋開放賦能萬物的戰略要如何落地,"那就是通過Auto+AIoT ——智能駕駛和智能物聯網的‘雙飛輪戰略’。"

地平線創始人兼 CEO 余凱

為芯片發展續寫摩爾定律

在過去的七年間,從AlexNet到AlphaGo Zero,AI對算力的需求提升了7個數量級。2015年,AI實現超越老鼠大腦的算力;預計到2025年,將超越人腦算力并滿足自主機器人需求;而到了2075年,"超腦"會超越全人類大腦的算力。

舊摩爾定律行將失效,已經無法滿足AI對算力的渴求。如果從傳統半導體角度去衡量工藝演進,無論單位面積能夠承載的晶體管還是頻率的提升,過去幾年顯然都處于失效的狀態。

如何為芯片發展續寫摩爾定律?地平線認為是軟硬結合。余凱表示,地平線是芯片公司里面最懂算法的,也是算法公司里最早做芯片的,清楚的知道軟件算法的趨勢對芯片架構有什么要求,所以旭日3的AI計算能力能夠適應最先進的神經網絡。

規格上,旭日3系列擁有3M和3E兩種型號,均搭載2顆地平線第二代BPU,采用15×15mm封裝,臺積電16nm工藝,典型功耗為2.5W。高配款3M等效算力5TOPS,采用4顆A53@1.2G,DDR支持3200Mbps,Camera/Pixel最高支持12M;性價比款3E等效算力3TOPS,采用2顆A53@1.2G,DDR支持2666Mbps,Camera/Pixel最高支持5M。

地平線旭日3邊緣AI芯片更多詳細規格

地平線聯合創始人兼技術副總裁黃暢還公布了旭日系列芯片的Roadmap,我們可以看到下一代旭日芯片將在2021年推出,型號跳過4,直接來到旭日5。旭日5將分為U/M/E三個版本,預計U將是算力更強的Ultra版本,BPU將升級到伯努利3.0架構,并搭配DPU,ISP方面支持到8K。

地平線聯合創始人兼技術副總裁 黃暢

BPU(Brain Processing Unit)是地平線自主研發的AI專用處理器架構,其AI芯片最大的亮點就是BPU優化,帶來軟硬協同的硬件架構。第一代BPU采用高斯架構,到了二代升級為伯努利架構,未來還會升級為支持蒙特卡羅決策搜索的貝葉斯架構,每幀能夠檢測200個目標。

一個加速器在SoC系統里面,面臨的困境往往是處理器效率不高,原因有架構本身的,也有DDR瓶頸的問題。軟硬協同可以讓IP架構、算法和編譯器三者合一,最大限度地壓縮DDR帶寬。

有無編譯器的AI芯片在帶寬消耗、計算延遲和利用率上的對比。如果用常規的方法,一個高效模型處理一張圖片需要消耗140MB帶寬,計算延遲40多毫秒,這個時候處理器利用率只有57%。雖然這個處理器利用率在整個AI行業里已經是相對不錯的成績,但是通過編譯器的優化,用同一個芯片同一套算法,可以將整個計算進行細致拆解,充分利用片上存儲和芯片上每一個計算單位,處理同樣一張圖只需要34MB帶寬,利用率高達95%。

旭日3 DDR R/W與競爭對手產品對比

在Camera處理能力上,旭日3作為一顆SoC能夠接入4到8路攝像頭,在攝像頭分辨率完全不一樣的情況下實現精確同步,支持對輸入的多路視頻進行畸變矯正、拼接,多級圖像縮放、金字塔生成。

旭日3采用硬件層面的安全保護機制,Secure BOOT寫到芯片里可以確保執行固定的軟件,不能被黑客篡改。同時內核機制保證了BPU完全隔離獨立的環境,黑客可以侵入應用側,但是無法接觸BPU所使用的模型參數和數據。

評價AI芯片真實算力,需要新標準

為了反映芯片的真實AI效能,地平線還提出了名為"MAPS"的芯片AI效能全新評估標準,在應用場景中最常見的精度保障范圍內,考察每顆芯片的平均處理速度。MAPS關注任務的最終效果與性能,包容任務執行時可采用的所有網絡選擇,能夠幫助客戶找到最為適宜的整體AI落地方案。

最真實的AI效能=理論峰值計算效能 * 有效利用率 * AI算法效率

"TOPS是半導體行業過去發展慣性體系下的理論峰值算力,是由使用的工藝決定的,可以稱之為舊摩爾定律。"黃暢說到,"半導體工藝發展到今天已經高度透明,差異化并不大,同等大小芯片面積內有多少邏輯門電路,就有多高的峰值算力。" 但是在不同的架構上,跑不同的算法,芯片利用率是不一樣的,從10%到90%都有可能出現。

過去這些年算法的演進速度,使得我們可以用越來越小的算力去達成相同甚至更高的計算和AI識別效果。算法的發展速度比傳統摩爾定律更快,更新頻率達10~16個月,這就是所謂的"新摩爾定律"

"衡量AI芯片的真實能力,應該用單位成本上,能夠完成多少用戶場景下的計算任務來衡量。"余凱以特斯拉自動駕駛芯片為例,"每秒能夠處理2千個圖像"這個標準也真實地衡量了AI效率。所以不管理論峰值TOPS是多少,最終能夠掏出多少為用戶所用才是最重要的

"MAPS是一套概念邏輯公開的軟件框架,是一把衡量芯片的尺子,最好讓第三方開發者去跑,然后給出分數,而不是廠家自己。芯片廠家自己也可以跑,但是一定要公開透明。"余凱說到,"地平線做MAPS是用公心推動整個行業發展,雖然到肯定會有不同的意見,但是我們先邁出這一步啟發大家,對整個行業都是進步。如果沒有一個廠家往前邁一步,都停留在虛無縹緲的TOPS上,那永遠進步不了。不管怎么樣先做起來,有建設性的爭論比虛假的一團和氣好。"

"很多客戶仍采用學術界較為傳統的網絡模型在做訓練,這些傳統網絡需要花費更大的算力資源才能跑出新型網絡下同樣精度的效果。"黃暢說,地平線希望提供一種全新視角,幫助客戶為不同的AI任務尋找到效率更高、配適度更好的AI芯片和網絡模型。

每一年都有新的AI算法推出,但與其它典型的AI芯片相比,地平線的芯片總是能夠跟上算法的演進趨勢,保持高效利用率,"是因為對重要應用場景中的關鍵算法發展趨勢進行了預判,并前瞻性地將其計算特點融入到芯片架構的設計當中。"黃暢介紹到。

例如,旭日3目前在圖像分類任務上可以有效適配Google提出的EfficientNet系列網絡,這也是目前在同樣精度下性能最好的網絡,性能超越當前業內領先的11.4TOPS算力的芯片;在ImageNet圖像分類75~80.5%精度范圍內,MAPS評估方式下的主流芯片測試結果中,也超過業界大多數芯片。

AI on Horizon,Journey together

伴隨著此次旭日3系列的發布,地平線還推出了相應的參考方案,可應用于智能會議、智能家居、交互機器人、車載后裝、通行考勤等諸多應用場景。

地平線 AIoT 產品線總經理 王叢

地平線AIoT產品線總經理王叢說:"地平線并不僅僅是芯片提供商,而是AI芯片應用落地的生態賦能者。我們經過幾年的業務探索與技術積累,認識到客戶看重產品的交付和快速落地能力,更需要構筑差異化能力建立自己的‘護城河’,所以地平線將積淀多年并經過應用落地驗證的技術組件‘白盒’開放出來,其中包括中間件,參考算法,應用參考設計,算法訓練平臺等,幫助客戶進一步加速AI落地。選擇地平線不僅是選擇一顆芯片,而是選擇 AI 時代的長期伙伴。"

在AIoT領域,地平線服務客戶已過百家,伴隨著技術、產品、服務能力的快速提升,地平線賦能客戶場景的深度和廣度將不斷拓展和延伸,全面加速商業落地進程。王叢表示:"地平線將持續深化在AIoT領域的戰略布局與行業場景滲透,發揮軟硬結合優勢,通過芯片工具鏈與全場景一站式解決方案賦能行業,讓行業合作伙伴可以更高效地落地AI應用,全面釋放AI動能。"

基于邊緣AI芯片,地平線正打造開放生態體系。在合作伙伴生態方面,地平線堅持底層技術能力研發與解決方案的打造,面向AIoT垂直場景,由線及面賦能各行各業;在開發者生態方面,地平線通過開發者生態計劃,依托 "天工開物"AI開發平臺,一站式AI開發者社區和AI加速營開發者扶持計劃,向開發者提供加速AIoT應用孵化的全鏈條支持,助力AI應用探索創新。

余凱表示:"隨著芯片一代一代的出來,我們越發意識到要做最底層賦能者,盡量少做——不做整機、不做主板。打造開發者生態和方案商生態,我們定位就是底層賦能,不跟合作伙伴搶生意,類似早年間的intel inside。"

結語

中國過去的SoC公司,在集成度、IP創新能力以及先進工藝的起點都很低。余凱說到,在如今AI數據大吞吐,應用撲面而來的情況下,我們必須后勁強,付出比前幾代全世界的芯片公司更多的努力才行,要不然會永遠被甩在后面

談到成本和盈利問題,余凱表示,前兩代旭日芯片的出貨量達到了百萬級,旭日3有信心在3年內做到千萬級出貨量,填平這次采用16納米工藝帶來的高成本。"我們的競爭優勢在于我們不是傳統的芯片公司,而是帶著軟件跟服務的基因,所以每一顆芯片都可以根據不同的客戶需求提供很長的價值鏈條。所以我們的盈利狀況,不僅僅反映在出貨了多少顆芯片上。"

這次地平線還提出提出"AI on Horizon,Journey together"的口號,余凱表示,"用‘on’就是希望合作伙伴能夠把我們作為平臺,踩著我們往上走。"

責編:Luffy Liu

標簽:

以上電工吧小編收集整理的 地平線旭日3發布:“TOPS” is cheap, show me the “MAPS” 部分內容來自網絡,如有侵權請聯系刪除
本文地址:http://www.chinamoou.com/news/35282.html

end
熱門標簽:
今日推薦
2020中國電動車質量排名前十名有哪些品牌?
2020中國電動車質量排名前十名有哪些品牌?

 2020隨著電動車越來越受年輕上班族的喜愛,而騎電動車也成為了一種時尚,電動車作為短距離代步工具,具有環保、經濟、不塞車等諸多優勢,越來越多的人選擇這種低碳環保的出行方式。那么電動車十大排名,都有哪些品牌全面領先行業呢?  第一名:雅迪電動車 ...[詳細]

獨家專欄
精彩推薦
熱門排行
抖阴黄版app下载_成版人抖阴app下载