電動汽車百人會丨愛芯元智龔惠民：原生支持Transformer，愛芯元速打造未來車芯解決方案

3月15日至17日,2024年中國電動汽車百人會論壇在北京釣魚臺國賓館召開。在17日下午以“構(gòu)建多元互融、面向用戶的智能汽車新生態(tài)”為主題的智能生態(tài)汽車論壇上,人工智能芯片研發(fā)及基礎(chǔ)算力平臺公司愛芯元智受邀參會,愛芯元智車載事業(yè)部總裁龔惠民發(fā)表主題演講,闡述智駕算力、算法的演進及愛芯元速智駕芯片的最新落地成果。

算力算法“一加一減”,Transformer基石效應(yīng)凸顯

不同于Sora/GPT等生成虛擬世界的物理模型,以真實的物理規(guī)律為準的智能駕駛正在經(jīng)歷從real world study到real word model的過程。技術(shù)的不斷發(fā)展也帶來了算力的增加和算法的升級。龔惠民指出,一方面,攝像頭、雷達的指數(shù)級增加讓智能駕駛的算力迎來了高增長時代。另一方面,不斷優(yōu)化的算法也讓模型可以集中力量處理后端模塊更關(guān)心的元素,減少了算力的浪費。

“通過算力的增加加大計算能力,通過算法的聚焦讓算力能夠更好地解決自動駕駛的關(guān)鍵問題,力出一孔,最終目的是使得我們能夠在自動駕駛這一端側(cè)實時應(yīng)用系統(tǒng)中,取得足夠智能的自動駕駛性能。”龔惠民表示,算力與算法的“一加一減”是一個聚焦的過程,大算力在更聚焦的算法下能夠使智能駕駛端側(cè)應(yīng)用獲得足夠優(yōu)異的性能,即通過足夠大的“壓強”打穿AI智能駕駛的性能體驗難關(guān)。

而隨著大模型與Sparse Transformer的進一步發(fā)展,自動駕駛的端到端大模型成為可能。在這一過程中,Transformer將取代CNN主流算子的地位,成為構(gòu)建自動駕駛統(tǒng)一模型的必要基石。

原生支持Transformer,愛芯元速打造未來車芯解決方案

盡管Transformer正在席卷AI領(lǐng)域,但現(xiàn)階段能夠原生支持Transformer的處理平臺并不多。究其原因,龔惠民認為,原有NPU設(shè)計靈活度不夠及常用PTQ部署精度缺失是影響Transformer技術(shù)落地進程的關(guān)鍵,而引用CPU計算子圖又加重推理速度損失,因此,行業(yè)迫切需要更適合的算力平臺。

面對Transformer落地的復(fù)雜性,芯片平臺需要提升推理效能,且要兼具更靈活性的部署能力。依托自身深度自研AI處理器技術(shù),愛芯元智推出了面向未來智駕的M76/M77系列芯片平臺。

據(jù)龔惠民介紹,M76/M77兩大系列平臺通過對Transformer算子的原生高效支持以及數(shù)據(jù)IO的優(yōu)化,取得了行業(yè)高水平Transformer推理效能,且由于愛芯通元NPU靈活支持混合精度模型部署,平臺還可通過愛芯提供的工具鏈進行快速Transformer模型的PTQ量化部署,并保障精度滿足落地要求。

此外,愛芯M76/M77平臺還原生支持各類Transformer算子及變體。而靈活的軟硬件協(xié)同設(shè)計也能快速適配新的算子需求,全面支持智駕行業(yè)從主干網(wǎng)絡(luò)、BEV空間映射、到稀疏感知、以至于多模態(tài)融合、端到端大模型的不斷演進。其中M76是業(yè)界首款原生支持Transformer的車規(guī)級SoC,也是市面上唯一的單SoC被動散熱行泊一體芯片,其SwinT Transformer性能已經(jīng)超過了orin-x,具有高效能、高性價比等特點,自研愛芯通元混合精度NPU 100%支持BEV,100%支持全車型被動散熱,成為多芯片高速NOA方案的完美替代品,而M77則是真正端到端的計算芯片。

堅定不移做Tier 2,助力自動駕駛加速落地

當前汽車產(chǎn)業(yè)鏈瞬息萬變,生態(tài)環(huán)境日益復(fù)雜,生態(tài)企業(yè)如何共榮共生?對此,龔惠民表示,作為一家芯片研發(fā)企業(yè),愛芯會堅定不移地做好Tier 2,把更多空間留給算法合作伙伴和Tier 1廠商。

龔惠民介紹,愛芯元智于2023年6月正式進軍車載芯片市場,并于11月底推出了車載品牌愛芯元速。目前已與眾多優(yōu)秀合作伙伴建立了長期戰(zhàn)略合作關(guān)系,推出的車載芯片產(chǎn)品已經(jīng)在多款重要車型上完成定點,包括前視ADAS,電子外后視鏡,行泊一體等智能化應(yīng)用中均能看到愛芯的身影。

其中,M55憑借著優(yōu)秀的畫質(zhì)及安全性成為應(yīng)對未來AEB標配的利器。在高工智能最新公布的2023中國市場乘用車標配前視一體機/域控國產(chǎn)計算方案份額中,愛芯元智位列第二位。國際權(quán)威咨詢機構(gòu)Canalys發(fā)布的最新的2024中國ADAS SoC廠商領(lǐng)導(dǎo)力矩陣也顯示,愛芯元智進入領(lǐng)導(dǎo)者象限,成為增速最快的本土新晉智駕SoC供應(yīng)商。為滿足智能駕駛的多場景需求,今年下半年,愛芯元智還將逐步實現(xiàn)更大規(guī)模的量產(chǎn)應(yīng)用。

汽車智能化的大潮滾滾而來,競爭愈發(fā)激烈,龔惠民認為,只有“理想慢半步,落地快三步”才能應(yīng)對不斷出現(xiàn)的新挑戰(zhàn),愛芯元速M55,M76,M77芯片上的極致創(chuàng)新,幫助伙伴將技術(shù)轉(zhuǎn)化為差異化價值,轉(zhuǎn)化為銷量,轉(zhuǎn)化為利潤,在產(chǎn)業(yè)發(fā)展中擁有自己的一席之地,真正做到日月不同光,晝夜各有宜,從而形成良好發(fā)展的汽車生態(tài)圈。