ChatGPT爆火以來,引發(fā)了全球新一輪生成式人工智能的浪潮,全球科技巨頭先后展開人工智能大模型的軍備競賽??梢灶A見,多模態(tài)大模型時代,AI開始像人類一樣思考和工作,傳統(tǒng)的交互方式、內容生成方式徹底顛覆,新的業(yè)態(tài)和商業(yè)模式將出現(xiàn),諸多產業(yè)乃至人類生活也將被重構。
(資料圖片僅供參考)
大模型競爭的白熱化,引發(fā)了對算力基礎設施的需求飆升,而作為算力基礎的高性能芯片,其設計日益復雜且充滿挑戰(zhàn),相應地對設計芯片所用的EDA工具也提出了全新的要求。在GPT引領的新一代生成式AI浪潮下,芯片設計行業(yè)將如何利用AI+EDA工具來應對這些變革?
大模型時代,算力成制約AI發(fā)展最大障礙
作為人工智能時代的基礎設施,大模型所需的巨額算力就如同工業(yè)生產中的所需的電力,并且,隨著ChatGPT迅速演進至GPT-4以上版本,對圖片、語音、視頻等多模態(tài)的支持使得訓練任務中使用的算力呈指數(shù)級增長,催生了對算力更大的需求。
“隨著AI算法和模型的規(guī)模和復雜度不斷增加,AI運行所需的能耗和算力都呈指數(shù)級增長,包括訓練成本和后續(xù)運營成本,尤其是目前的運營成本與使用者數(shù)量緊密相關的現(xiàn)狀下,需要的算力相當于超1.5萬顆當下最先進的GPU芯片?!?strong>新思科技資深產品經理莊定錚判斷,“在AIGC時代,未來對算力的需求將每6-7個月翻倍,AI芯片成為驅動人工智能發(fā)展的核心動力?!?/strong>
“更大、更復雜的AI模型和算法仍在日新月異地進化中,帶來龐大的高性能AI芯片需求。預計到2030年,AI市場規(guī)模有望達到15970億美元,相比2021年的870億美元,復合年均增長率高達38.1%?!?/strong>隨著需求飆升,在莊定錚看來,算力儼然已成為當前限制AI發(fā)展的最大障礙。例如,隨著模型參數(shù)越來越大,當前應用最廣泛的GPU在提供算力支持上也存在瓶頸。在GPT-2之前,GPU內存還能滿足AI大模型的需求,Transformer模型大小每兩年平均增長240倍,實際上GPT-3等大模型的參數(shù)增長已經超過了GPU內存的增長。
“傳統(tǒng)的設計趨勢已經不能適應當前的需求,芯片內部、芯片之間或AI加速器之間的通信成了AI計算的瓶頸?!彼赋觯℅PU、NPU、HPC等在內的高性能AI算力芯片性能提升,主要依靠芯片架構優(yōu)化、制造工藝進步、算法優(yōu)化等方面提升來實現(xiàn)。與此同時,在算力提升的過程中也面臨著一些挑戰(zhàn),包括能耗優(yōu)化、設計復雜度不斷增加,以及日益激烈的市場競爭壓力等等。
然而,摩爾定律逼近極限,傳統(tǒng)芯片的性能提升幅度已遠遠跟不上AI所需的性能增長速度。傳統(tǒng)的芯片設計過程是一項高度復雜且挑戰(zhàn)艱巨的工作,通常需要經過數(shù)月的反復探索和調試,在此過程中不僅需要用到物理實現(xiàn)、仿真、驗證、測試等多種EDA工具和軟件,而且要求芯片設計工程師具備熟練的技能和經驗。不僅如此,設計一顆芯片需要花費大量的時間和人力成本,設計過程中的任何一個錯誤都可能導致大量時間和資源的浪費,甚至可能導致整個項目的失敗。
幸運的是,盡管摩爾定律逐步放緩,但市場需求的爆發(fā)正在激發(fā)芯片設計領域的持續(xù)創(chuàng)新。“在AI技術的發(fā)展對芯片設計帶來巨大挑戰(zhàn)的同時,我們也可以將AI應用于芯片設計過程中,正所謂‘用AI幫助AI’?!鼻f定錚強調,“AI與EDA的雙向奔赴,將開啟芯片設計的下一場革命?!?/strong>
AI引領芯片設計的下一場革命
隨著芯片設計和制造的復雜度與日俱增,AI正在給半導體行業(yè)各領域都帶來新的變革,AI在設計工具的應用也在呈指數(shù)級增長。
工欲善其事,必先利其器。AI與EDA的雙向奔赴,使得眾多芯片開發(fā)團隊能夠深入和廣泛地利用AI工具的優(yōu)勢,開發(fā)者因此能夠創(chuàng)造出更加復雜的芯片,成為大算力時代的必然之“器”。
莊定錚告訴集微網,實際上新思科技從幾年前就開始大力投入對AI工具的研究。一方面將AI技術持續(xù)引入到當前的各種EDA工具中,以提高生產力;另一方面,通過AI來幫助人類提高決策效率。將AI技術與EDA工具結合帶來兩個核心價值,首先是使EDA更加智能,減少芯片設計流程中一部分重復且繁雜的工作,讓開發(fā)者可以在相同甚至更短時間內設計出功耗、性能和面積(PPA)更好的芯片;其次是大幅降低使用門檻,解決人才短缺的挑戰(zhàn)。
目前,新思科技已經構建了三大王牌“利器”,幫助芯片開發(fā)者應對嚴峻的設計挑戰(zhàn):Fusion Compiler, DSO.ai和DesignDash,莊定錚將其描述為“數(shù)智時代護航芯片設計生產力最大化的‘三駕馬車’”。利用這三大王牌工具,開發(fā)者無論是在RTL早期開發(fā)、中期迭代,還是后期PPA沖刺階段,都可以最大化提升效率,結合人類智慧和機器智能以釋放設計潛力,開拓開發(fā)者的設計思維,實現(xiàn)更好的芯片設計、更快的上市周期。
其中,DSO.ai新思科技于2020年推出的行業(yè)內第一個用自主AI系統(tǒng)幫助客戶進行芯片設計的解決方案。藉由融合設計+DSO.ai,讓開發(fā)者用AI系統(tǒng)做芯片開發(fā)設計,達成最佳效果,并縮短芯片設計流程和推向市場的時間。DSO.ai面市短短一年內,由AI設計的商業(yè)芯片在數(shù)量上至少增加了一個數(shù)量級,新思科技預測其客戶利用AI幫助流片的設計將從今年的數(shù)百個增加到2023年的數(shù)千個。DSO.ai的第一批用戶對這一工具的實際使用效果紛紛點贊。在今年3月份召開的新思科技全球用戶大會(SNUG)上,英特爾就重點介紹了 DSO.ai 如何成功協(xié)助其最新至強XEON微處理器芯片將總功耗降低6%, 微軟也分享了將DSO.ai 應用到從早期設計探索到最終優(yōu)化的整個設計流程中之后,總功耗比最佳專家流程還低了3%。在DSO.ai的協(xié)助下,意法半導體在其首個Cortex-A510 的早期設計探索期間實現(xiàn) 3 倍的生產力提升,有效地覆蓋了1025種不同組合的搜索空間。
隨著DSO.ai在越來越多的AI芯片設計開發(fā)中得到實踐,新思科技在今年四月進一步推出了全球首個全棧式AI驅動型EDA解決方案Synopsys.ai,讓開發(fā)者第一次從系統(tǒng)架構到設計和制造、在芯片開發(fā)的每一個階段都可以采用AI技術,并從云端訪問這些解決方案,最終達到降本增效,并縮短產品開發(fā)周期的優(yōu)異成果。
據莊定錚介紹,完整的Synopsys.ai解決方案將覆蓋先進數(shù)字與模擬芯片的設計、驗證、測試和制造環(huán)節(jié),現(xiàn)已搭載物理實現(xiàn)解決方案(DSO.ai)、功能驗證解決方案(VSO.ai)和芯片測試解決方案(TSO.ai),未來還將推出更多功能,并針對模擬電路設計進行優(yōu)化,目標到2024年覆蓋全流程,最終“讓IC設計每階段都能用上AI不是夢”。
目前,全球十大半導體企業(yè)中已有9家公司采用了Synopsys.ai解決方案,持續(xù)夯實新思科技在AI驅動芯片設計的全球領導者地位。在每個芯片開發(fā)項目中,該解決方案的AI引擎持續(xù)在不同的數(shù)據集上進行訓練,隨著時間推移,其優(yōu)化結果的能力將持續(xù)提升。
據瑞薩電子、聯(lián)發(fā)科、臺積電等首批客戶反饋,Synopsys.ai成功幫助其提高芯片性能并降低成本,并將產品開發(fā)周期縮短了數(shù)周;在協(xié)助客戶執(zhí)行定制級模擬模塊的工藝制程設計遷移時,提高生產效率并加快設計收斂;幫助客戶在減少功能覆蓋盲區(qū)方面實現(xiàn)了高達10倍的優(yōu)化,并將IP驗證效率提高了30%等。
AI成為耗電大戶,如何實現(xiàn)雙碳目標?
隨著“百模大戰(zhàn)”開打,也有一些聲音在探討AI大模型的所需的能源消耗,已經堪比加密貨幣挖礦。數(shù)據顯示,過去十年,我國數(shù)據中心整體用電量以每年超過10%的速度遞增。而IDC預計,到2024年數(shù)據中心耗電量將占到全社會耗電量的5%以上;到2025年,全球數(shù)據中心占整個全球用電量將要提升到全球的20%。
隨著AI領域實現(xiàn)突破性進展的深度學習模型,其規(guī)模越大,能耗水平也迅速攀升。華為AI首席科學家田奇在近日一場AI大模型技術論壇上強調,大模型訓練成本中60%是電費。根據斯坦福人工智能研究所(HAI)發(fā)布的《2023年人工智能指數(shù)報告》,訓練像OpenAI的GPT-3這樣規(guī)模的人工智能模型所需消耗的電力,足可以讓一個普通美國家庭用上數(shù)百年了。GPT-3是目前大模型中有據可查的第一大“電老虎”,耗電量高達1287兆瓦時。
如何解決發(fā)展AI與雙碳目標之間的矛盾?莊定錚看來,AI既是一個問題,也是一個解決方案。AI設計工具可以更好地優(yōu)化AI處理器芯片來提高能效,從而直接幫助全球為實現(xiàn)凈零排放而努力。
“如今新建的超大規(guī)模數(shù)據中心所使用的服務器相比以往越來越省電,《Nature》上發(fā)表的一份報告顯示,傳統(tǒng)數(shù)據中心的電源使用效率(PUE)(即所需的總能量除以用于計算的能量)約為2.0,而超大規(guī)模數(shù)據中心則約為1.2。在此趨勢下,我們還可以通過在能源輸送、電子系統(tǒng)設計、芯片技術、供應鏈運營幾個關鍵領域采用更可持續(xù)的做法,來實現(xiàn)更好的節(jié)能成果。”
即通過更節(jié)能的方式,更低碳的過程,來設計、制造更低能耗的芯片及系統(tǒng),以實現(xiàn)整個半導體生命周期的雙碳目標。
莊定錚提出,首先,AI專用芯片相比CPU、GPU等芯片在處理AI運算的功耗表現(xiàn)上遠勝于后者,因此,AI專用芯片的大規(guī)模使用,將有助于降低數(shù)據中心的能耗水平。諸如新思科技的AI設計工具有助于幫助這樣的AI專用芯片提升PPA(性能、功耗和面積)表現(xiàn);其次,EDA工具在AI技術的加持下,大幅縮短了芯片開發(fā)流程、周期和人員投入,也就意味著整體消耗能源的降低。
對此,新思科技最近開展的一項非正式研究表明,利用AI設計工具優(yōu)化AI芯片,整體上平均可以節(jié)省約8%的能源。例如,DSO.ai自主AI芯片設計應用等技術使用強化學習來從功耗、性能和面積方面改善芯片;結合使用低功耗IP解決方案組合還可以幫助降低芯片功耗,同時加快產品上市;芯片生命周期管理(SLM)提供用于監(jiān)控和分析的片上傳感器,可以在功耗方面生成切實可行的見解。
具體到細節(jié),新思科技的數(shù)據顯示,通過利用新思科技從架構到簽核的整體性軟件驅動方法,芯片開發(fā)者們能夠實現(xiàn)超過50%的能效提升。其中,通過動態(tài)電壓頻率調整(DVFS)、電源域和電壓島等電源管理策略選擇可以帶來顯著的節(jié)能效果。除了這些策略外,功耗與性能的宏架構權衡,以及IP選擇和權衡,可以節(jié)省30%至50%的電能;通過時鐘、數(shù)據、內存和毛刺功耗的微架構權衡有助于實現(xiàn)節(jié)能,查找和修復RTL電源塊以及使用工具引導的時鐘門控、數(shù)據門控和內存大小調整也是如此,可實現(xiàn)15%至30%的節(jié)能效果;通過在動態(tài)和泄漏功耗、電源完整性與PPA的權衡,以及功耗感知測試碼生成等領域采用自動優(yōu)化技術,可實現(xiàn)10%至15%的節(jié)能效果;通過采用以簽核為中心的方法實現(xiàn)功耗和電源完整性目標,再加上動態(tài)和泄露功耗回收以及非常精確的工程變更命令(ECO)更改,可實現(xiàn)5%至10%的節(jié)能效果等等。
在以底層技術推動芯片行業(yè)的“低碳化”的同時,另一方面,新思科技也正直接參與到能源行業(yè)的數(shù)字化轉型中,把芯片設計中的“降低能耗”的技術和思路遷移到傳統(tǒng)能源領域,直接投入到低碳化事業(yè)當中。
人類如何與AI一起擁抱未來?
AI正在給半導體行業(yè)帶來新的變革機遇,助力開發(fā)者創(chuàng)造出更加復雜芯片——這在沒有AI輔助的情況下是無法實現(xiàn)的。AI將開辟超乎想象的未來,讓我們能夠比現(xiàn)在走得更快,做得更多。當然,也帶來不同的聲音和質疑:AI是否將取代人類?
“就當前而言,AI不會取代人類,但是可以成為人類工作、生活的‘助手’,因而特別適用于那些需要大量重復、耗時的任務,具體到芯片設計流程中,就是數(shù)字實現(xiàn)、驗證和測試環(huán)節(jié)。”莊定錚指出,“至于最前端的系統(tǒng)架構創(chuàng)新,以及后端的簽核、檢查工作,前者需要更多的創(chuàng)意,也有更大的研發(fā)潛力,后者需要確保錯誤和bug能夠及時發(fā)現(xiàn)甚至零錯誤,這些流程仍將需要極大的人力工作,并不能走捷徑?!?/strong>
由于芯片設計客戶對于數(shù)據隱私性與安全性考慮,新思科技提供的AI解決方案并非經過預訓練的模型,需要客戶使用自己的設計數(shù)據從0開始訓練?!盎谛滤伎萍嫉膹娀瘜W習(Reinforcement Learning, RL)引擎,客戶只需執(zhí)行一次完整流程就可得到一個基本可用的模型;執(zhí)行第二次時就可沿用第一次執(zhí)行時所產生的數(shù)據,并且算力相比第一次執(zhí)行就能減少3~4倍?!?他解釋,“第二次運行后所需的算力就能降到一個平穩(wěn)的水平,第三次就已經處于一個很低的水平,所以這個AI工具會越用越‘聰明’,越用越有效率。”
值得注意的是,驅動Synopsys.ai解決方案所需的算力本身并不高,但是在這個工具運行過程中會調用眾多的EDA產品,所以對于整體EDA軟件所需的算力在短期內是成倍增加的?!氨热?,客戶所需的EDA算力可能從以往需要三臺計算機運行半年,變?yōu)橐淮涡孕枰?0臺運行兩個星期,”莊定錚解釋,“雖然看起來提高了客戶前期的算力投入成本,但如果拉長到整個項目周期來看,客戶所獲得的收益遠遠大于投入?!?/p>
這樣的算力成本架構變化,使得新思科技正積極探索通過結合云服務的方式,讓全球廣大的中小芯片設計客戶也能享受到Synopsys.ai這一強大的工具帶來的生產力提升。
辯證來看,AI在替代掉一些重復性的工作的同時,也催生了新的工作崗位;在芯片領域,盡管它固然有能源與成本增加的問題,但我們也看到了在芯片設計和驗證流程中擴大AI使用可以為芯片成果和生產力帶來的顯著優(yōu)勢,并最終能夠帶來極大的能耗和成本降低。
“當今充滿挑戰(zhàn)的宏觀經濟形勢下,人們對使用AI處理重復性更高的芯片設計任務的興趣不斷被激發(fā),以便開發(fā)者可以專注于他們最擅長的事情——創(chuàng)新,包括應對不斷提高的PPA需求,控制芯片設計成本和供應鏈漏洞,推動芯片設計的持續(xù)創(chuàng)新等?!?/strong>莊定錚強調,“變革總會以不同形式帶著創(chuàng)新的技術來改變當下的生活方式。我們可能會看到許多傳統(tǒng)行業(yè)被顛覆,但同時也會涌現(xiàn)出許多新的機會和行業(yè)。因此,企業(yè)和個人都需要具備適應力和創(chuàng)新力來應對、擁抱這種變革?!?/p> 未來,新思科技將繼續(xù)投資人工智能,助力芯片開發(fā)者提高生產力,并利用現(xiàn)有資源加快設計和驗證周期。新思科技將不斷開拓AI賦能EDA工具之路,加快芯片創(chuàng)新和AI技術的不斷進化,為人類帶來更智能的產品和生活,也讓世界更“綠色”,更美好。(校對/薩米)
關鍵詞:
X 關閉
X 關閉