CUDA 是 NVIDIA 發(fā)明的一種并行計算平臺。它通過利用圖形處理器 (GPU) 的處理能力，可大幅提升計算性能，通過這個技術，用戶可利用NVIDIA的GPU進行圖像處理之外的運算。簡單來說，程序員平時如果不使用特定框架都是針對CPU進行編程的。2006年，英偉達發(fā)布了CUDA，它提供了GPU編程的簡易接口，程序員可以基于CUDA編譯基于GPU的應用程序，利用GPU的并行計算能力更高效的解決復雜計算難題，其在GPU編程領域的革命性不亞于C、Python、PHP等高等編程語言的發(fā)明?，F(xiàn)在主流的深度學習框架大多都基于CUDA進行GPU加速運算。從硬件角度看，英偉達會經(jīng)常宣傳自家顯卡擁有的CUDA Core數(shù)量。CUDA Core其實就是英偉達的流處理器，從字面上就能看出該核心主要針對深度學習中的Tensor計算設計.
隨著人工智能產(chǎn)業(yè)爆炸式增長，導致計算復雜化和算力不足，CPU并行計算能力遠不如GPU，使得GPU在通用計算領域逐漸領先，為了進一步專注通用計算，GPGPU便應運而生。GPGPU與CUDA之間關系十分密切。GPGPU其實是去掉了圖形顯示功能的GPU，它將全部能力都投入到通用計算上，CUDA的出現(xiàn)讓GPU真正實現(xiàn)更廣泛的通用計算。CUDA與GPGPU也直接推動了AI與深度學習的發(fā)展與產(chǎn)業(yè)革命。
譬如筆者的這款英偉達2019年發(fā)布的GTX1660(已經(jīng)是爛大街的產(chǎn)品了),內置CUDA核心1408,足以應付小型的參數(shù)量在千萬級別的語音/圖像等領域的深度學習訓練任務.在同等規(guī)模模型訓練場景下,比目前最先進的CPU要快上至少5倍以上.
根據(jù)目前筆者了解的情況,2023年英偉達發(fā)布的40系列GPU,CUDA核心已經(jīng)接近一萬.
當我們了解了CUDA是怎么回事，也就方便解釋為什么國產(chǎn)GPU需要兼容CUDA。
國產(chǎn)GPU兼容CUDA可以同時繼承英偉達打造好的軟件生態(tài)以適配主流深度學習框架，也有更多資料可供學習，這對于蹣跚起步的國產(chǎn)GPU行業(yè)來說，減輕了不少開發(fā)難度，也降低了推廣壓力,可這實現(xiàn)起來絕非易事.
原因如下:
從開發(fā)角度分析,業(yè)內GPU工程師稱目前GPU市場可以籠統(tǒng)的分成兩大塊，分別是計算和渲染。目前國內GPU廠商通常專注于計算方面即GPGPU的研發(fā)。
國內GPU廠商若無法做到與英偉達的架構、封裝技術、驅動優(yōu)化等都保持完全一致，CUDA生態(tài)就一定不會完美適配其GPU。
CUDA本身涵蓋了多個技術領域，其后續(xù)更新都與英偉達自家GPU高度綁定，即使全部開源，第三方廠家也難以完美移植到自家GPU上。
此外，CUDA也并不是一成不變的。每進行一次GPU的迭代，CUDA架構就會發(fā)生很大變化。國產(chǎn)GPU如果完全基于CUDA生態(tài)進行開發(fā)，那它的硬件更新將完全綁定英偉達的開發(fā)進程，這樣就會永遠慢人一步.
不過業(yè)內開發(fā)者也不用悲觀。因為CUDA本質是一個計算架構，它并不需要英偉達的完全授權。我們可以參考英偉達的有力競爭者AMD。AMD基于開源生態(tài)OpenCL開發(fā)，與CUDA相比，其開發(fā)函數(shù)甚至可以進行直接替換。國內GPU廠家或許可以參考AMD發(fā)展模式，前期借鑒可以是后期創(chuàng)新的基礎。
寫在最后
CUDA作為英偉達壟斷GPU領域的關鍵力量，是國產(chǎn)廠商繞不過去的一道坎。CUDA在誕生之初，為人們在深度學習與AI領域立下汗馬功勞，但如果它被用來鉗制新力量的發(fā)展，CUDA也將成為英偉達的馬奇諾防線。
版權聲明：本文內容由互聯(lián)網(wǎng)用戶自發(fā)貢獻，該文觀點僅代表作者本人。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權/違法違規(guī)的內容， 請發(fā)送郵件至 舉報，一經(jīng)查實，本站將立刻刪除。