雖然公眾不清楚的出現(xiàn),對(duì)日常生活,到底意味著何等巨大的改變,但這不影響全球科技大小公司集體“蹭”點(diǎn)的熱情。

在A股市場(chǎng),概念股被持續(xù)做多,在美國(guó)也一樣。最具AI色彩和技術(shù)能力的英偉達(dá)公司,股價(jià)從美股在2023年第一個(gè)交易日——1月3日的143.15美元,靠著的助推之下,截至2月14日收盤chatGPT要用什么節(jié)點(diǎn),漲幅高達(dá)52.20%。這是在半導(dǎo)體行業(yè)進(jìn)入下行周期的背景下取得的。

需要什么樣的AI芯片?為什么贏麻的是英偉達(dá)?

為什么GPU是首選?

看上去很美的AI技術(shù)chatGPT要用什么節(jié)點(diǎn),商業(yè)化落地進(jìn)展總是不及預(yù)期。但是,掀起的熱潮,卻成為AI未來(lái)商業(yè)化空間的最新想象。

是公司于2022年11月發(fā)布的一款A(yù)I應(yīng)用產(chǎn)品——對(duì)話機(jī)器人,能通過學(xué)習(xí)和理解人類語(yǔ)言實(shí)現(xiàn)人機(jī)對(duì)話。

與此前早已出現(xiàn)的如蘋果Siri最大的不同,的人機(jī)對(duì)話并不單調(diào)/弱智,能根據(jù)人類的反應(yīng)做出富有邏輯性的上下文信息互動(dòng)。

因此,不僅能做個(gè)性化搜索任務(wù),也能做邏輯解析,甚至可根據(jù)不同的主題,自動(dòng)生成不遜于人類智力水準(zhǔn)的各種文件,如論文、新聞和各類報(bào)告等,還能完成高級(jí)輔助編程等自然語(yǔ)言任務(wù)。

如此“高智能”的應(yīng)用工具,其爆發(fā)性無(wú)與倫比:發(fā)布兩個(gè)月,月活用戶就達(dá)到1億,成為史上增長(zhǎng)最快的消費(fèi)者應(yīng)用程序。

這種“熾熱”不止C端用戶獨(dú)有,全球頂級(jí)科技巨頭微軟和谷歌等,包括國(guó)內(nèi)的百度、阿里等科技公司,都先后宣布在領(lǐng)域的資金和技術(shù)布局,比如微軟以100億美元入股,谷歌剛發(fā)布了自研的BARD模型。

從底層技術(shù)角度看,是一種基于架構(gòu)的預(yù)訓(xùn)練語(yǔ)言模型。這套模型,能通過海量語(yǔ)料數(shù)據(jù),自動(dòng)訓(xùn)練生成語(yǔ)法結(jié)構(gòu)和語(yǔ)句結(jié)構(gòu),這被稱為“生成類模型”。

應(yīng)用和AI表達(dá)路徑,或語(yǔ)言模型主要功能,就是通過巨量數(shù)據(jù)做預(yù)訓(xùn)練,之后就能理解C端用戶的語(yǔ)言指令,或更進(jìn)一步根據(jù)用戶指令,生成相關(guān)文字結(jié)果并做文本輸出。

當(dāng)前,AI生成類模型主要分兩類,一類是以為代表的語(yǔ)言類,另一種是以擴(kuò)散模型()為代表的圖像類。

若要保證的(語(yǔ)義理解和形成有邏輯的語(yǔ)言輸出)效果,就必須擁有一個(gè)超大語(yǔ)言模型,即LLM( )。這個(gè)大模型有著極多的標(biāo)簽參數(shù),便于NPU調(diào)用。技術(shù)論文顯示,參數(shù)量達(dá)到了驚人的1750億。若使用標(biāo)準(zhǔn)浮點(diǎn)數(shù),則占用的存儲(chǔ)空間能達(dá)到。

如的參數(shù)量級(jí),以及需要的效果,則運(yùn)算硬件單元需要什么樣的類型或技術(shù)要求?

簡(jiǎn)單來(lái)說(shuō),這需要三方面要求:分布式計(jì)算、內(nèi)存容量/帶寬、算力。

首先,單機(jī)訓(xùn)練顯然無(wú)法勝任的效果要求,因此需要使用分布式計(jì)算;其次,在大規(guī)模分布式計(jì)算過程中,除了高算力,分布式計(jì)算節(jié)點(diǎn)之間的數(shù)據(jù)傳輸也極為重要。這對(duì)節(jié)點(diǎn)數(shù)據(jù)互聯(lián)帶寬提出了極高的要求。

第三,內(nèi)存容量,這個(gè)相對(duì)容易理解。做海量數(shù)據(jù)訓(xùn)練,分布式計(jì)算節(jié)點(diǎn)的存儲(chǔ)空間,決定了節(jié)點(diǎn)數(shù)據(jù)量的多少。數(shù)據(jù)量級(jí)越大,AI訓(xùn)練效率越高,結(jié)果自然也會(huì)相應(yīng)越好。

如此就很清楚,符合需求的AI芯片主要不是CPU,而是包含NPU的GPU。所謂NPU,即嵌入式神經(jīng)網(wǎng)絡(luò)處理器(- )。神經(jīng)網(wǎng)絡(luò)并不是指算法,而是一種特征提取方法。

決定神經(jīng)網(wǎng)絡(luò)優(yōu)劣的核心因素,在于擁有多少可供訓(xùn)練的數(shù)據(jù)量。事實(shí)上,現(xiàn)在建模拼的不是算法,而是數(shù)據(jù)量級(jí)。

簡(jiǎn)單來(lái)說(shuō),深度學(xué)習(xí)會(huì)把特征當(dāng)作黑盒子,對(duì)原始數(shù)據(jù)做非常復(fù)雜的變換操作:輸入數(shù)據(jù)后,神經(jīng)網(wǎng)絡(luò)會(huì)自動(dòng)提取特征。這些特征會(huì)讓機(jī)器認(rèn)識(shí)其含義,根據(jù)不同的技術(shù)目標(biāo)識(shí)別和學(xué)習(xí)到什么特征最合適。所以,深度學(xué)習(xí)解決的核心問題是提取特征。

英偉達(dá)成階段大贏家

的效果,需要分布式計(jì)算、內(nèi)存容量/帶寬和算力做保障。這決定了的算力硬件需求更多的是GPU。

除了上文提到的原因,還有一個(gè)要點(diǎn)在于,CPU發(fā)展到本世紀(jì)初,已越來(lái)越難以繼續(xù)維持每年50%的性能提升;此時(shí),內(nèi)部包含數(shù)千個(gè)核心的GPU,卻能利用內(nèi)在的并行性,繼續(xù)提升性能。

更重要的是,GPU的眾核結(jié)構(gòu)更適合高并發(fā)的深度學(xué)習(xí)任務(wù)。比如基于眾核結(jié)構(gòu),英偉達(dá)推出的解決方案。

這套支持分布式訓(xùn)練和分布式推理,能將一個(gè)大型模型的算力分解成多個(gè)部分,分配到多個(gè)GPU做相應(yīng)處理,從而解決因參數(shù)量過大,導(dǎo)致的單個(gè)GPU主存無(wú)法容納的問題。

此外,語(yǔ)言類生成模型的主要計(jì)算類型是矩陣計(jì)算,而矩陣計(jì)算一直是GPU的強(qiáng)項(xiàng)。

值得一提的是,GPU這個(gè)縮寫,首創(chuàng)或定義公司即英偉達(dá)。

1993年,黃仁勛等三位電氣工程師聯(lián)合成立英偉達(dá),主要面向游戲市場(chǎng)供應(yīng)圖形處理器。1999年,英偉達(dá)推出顯卡 256,第一次將圖形處理器定義為“GPU”。

但是,讓GPU成為AI訓(xùn)練首選芯片的除了硬件本身,還有英偉達(dá)在2006年推出的CUDA軟件開發(fā)平臺(tái),以支持開發(fā)者用熟悉的CPU高級(jí)程序語(yǔ)言(如C語(yǔ)言/Java)開發(fā)深度學(xué)習(xí)模型chatGPT要用什么節(jié)點(diǎn),靈活調(diào)用英偉達(dá)GPU算力,還配套提供數(shù)據(jù)庫(kù)、排錯(cuò)程序和API接口等一系列工具。

可以說(shuō),英偉達(dá)在深度學(xué)習(xí)和AI訓(xùn)練計(jì)算領(lǐng)域的技術(shù)儲(chǔ)備,全球罕有對(duì)手。因此,在剛邁出商業(yè)化探索第一步之時(shí),就被業(yè)界寄予厚望。

IDC亞太區(qū)研究總監(jiān)郭俊麗近日對(duì)媒體稱,就現(xiàn)階段表現(xiàn)的AI水平,其總算力消耗高達(dá)-days,需要至少1萬(wàn)顆英偉達(dá)高端GPU做支撐。所謂-days,即每秒計(jì)算一千萬(wàn)億次,需要持續(xù)運(yùn)行3640天。

郭俊麗由此做出預(yù)計(jì),在12個(gè)月內(nèi),很可能推動(dòng)英偉達(dá)相關(guān)產(chǎn)品實(shí)現(xiàn)銷售額達(dá)35億-100億美元之巨。

看上去英偉達(dá)成了最大贏家,但對(duì)手也不是沒有,比如AMD。這家公司近年來(lái)在通用GPU領(lǐng)域,一直緊追英偉達(dá),成長(zhǎng)速度極快。2022年,AMD數(shù)據(jù)中心事業(yè)部營(yíng)業(yè)額實(shí)現(xiàn)64%的同比高速增長(zhǎng)。

此外還有英特爾。目前英特爾在GPU市場(chǎng),已推出面向數(shù)據(jù)中心和AI的Xe HP架構(gòu),還有面向高性能計(jì)算的Xe HPC架構(gòu)。

當(dāng)然,就英偉達(dá)GPU具有的標(biāo)準(zhǔn)通用屬性看,這家公司大概率會(huì)是在商業(yè)化初期較長(zhǎng)時(shí)間內(nèi)的主要受益方。

英偉達(dá)CEO黃仁勛近期針對(duì)發(fā)表看法時(shí)指出,“ 的出現(xiàn)對(duì)人工智能領(lǐng)域的意義,類似手機(jī)領(lǐng)域‘’的出現(xiàn)。這一刻在科技領(lǐng)域具有里程碑的意義,因?yàn)楝F(xiàn)在大家可以將所有關(guān)于移動(dòng)計(jì)算的想法,匯集到了一個(gè)產(chǎn)品中。”

免責(zé)聲明:本文系轉(zhuǎn)載,版權(quán)歸原作者所有;旨在傳遞信息,不代表本站的觀點(diǎn)和立場(chǎng)和對(duì)其真實(shí)性負(fù)責(zé)。如需轉(zhuǎn)載,請(qǐng)聯(lián)系原作者。如果來(lái)源標(biāo)注有誤或侵犯了您的合法權(quán)益或者其他問題不想在本站發(fā)布,來(lái)信即刪。