AI投資:海外巨頭布局,國內(nèi)有望迎來加速
人工智能主要利用數(shù)字計(jì)算機(jī)或者由數(shù)字計(jì)算機(jī)控制的機(jī)器,模擬、延伸和擴(kuò)展人類的智能,感知環(huán)境、獲取知識并使用知識獲得最佳結(jié)果的理論、方法、技術(shù)和應(yīng)用系統(tǒng)。AI的核心技術(shù)主要包含:深度學(xué)習(xí)(DL)、計(jì)算機(jī)視覺(CV)、自然語言處理(NLP)和數(shù)據(jù)挖掘(DM)等,AI目前主要的應(yīng)用場景包括:醫(yī)療、無人機(jī)、自然語言處理和計(jì)算機(jī)視覺與圖像處理等。
(相關(guān)資料圖)
ChatGPT:確立LLM模型的大參數(shù)和深度學(xué)習(xí)兩大屬性
ChatGPT的出現(xiàn)確立了大語言模型兩個必備元素:大參數(shù)+深度學(xué)習(xí)(Large&Deep)。
ChatGPT是基于自然語言處理(NLP)下的AI大模型,產(chǎn)品能夠通過大算力、大規(guī)模訓(xùn)練數(shù)據(jù)突破AI瓶頸,通過理解和學(xué)習(xí)人類的語言來進(jìn)行對話,并引入新技術(shù)RLHF (Reinforcement Learning with Human Feedback,即基于人類反饋的強(qiáng)化學(xué)習(xí))進(jìn)一步提升了人工智能模型的產(chǎn)出和人類的常識、認(rèn)知、需求、價(jià)值觀保持一致。
一般認(rèn)為模型的思維推理能力與模型參數(shù)大小有正相關(guān)趨勢,一般是突破一個臨界規(guī)模(大概62B,B代表10億),模型才能通過思維鏈提示的訓(xùn)練獲得相應(yīng)的能力。如果在6B以下,那很可能還只是GPT-2級別的初級模型。
AI模型作為高性能計(jì)算業(yè)務(wù),強(qiáng)調(diào)低時延高速率,通常由IB網(wǎng)絡(luò)承載。數(shù)據(jù)中心內(nèi)部有三類典型的業(yè)務(wù):通用計(jì)算(一般業(yè)務(wù))、高性能計(jì)算(HPC)業(yè)務(wù)和存儲業(yè)務(wù)。
每類業(yè)務(wù)對于網(wǎng)絡(luò)有不同的訴求,比如:HPC業(yè)務(wù)的多節(jié)點(diǎn)進(jìn)程間通信,對于時延要求非常高;而存儲業(yè)務(wù)對可靠性訴求非常高,要求網(wǎng)絡(luò)0丟包;通用計(jì)算業(yè)務(wù)規(guī)模大,擴(kuò)展性強(qiáng),要求網(wǎng)絡(luò)低成本、易擴(kuò)展。由于上述業(yè)務(wù)對網(wǎng)絡(luò)的要求不同,數(shù)據(jù)中心內(nèi)部一般會部署三張不同的網(wǎng)絡(luò):由IB(InfiniBand)網(wǎng)絡(luò)來承載HPC業(yè)務(wù),由FC(Fiber Channel)網(wǎng)絡(luò)來承載存儲網(wǎng)絡(luò),由以太網(wǎng)來承載通用計(jì)算業(yè)務(wù)。
以太網(wǎng)是一種廣泛使用的網(wǎng)絡(luò)協(xié)議,但其傳輸速率和延遲無法滿足大型模型訓(xùn)練的需求。相比之下,端到端IB(InfiniBand)網(wǎng)絡(luò)是一種高性能計(jì)算網(wǎng)絡(luò),能夠提供高達(dá) 400 Gbps 的傳輸速率和微秒級別的延遲,遠(yuǎn)高于以太網(wǎng)的性能。這使得IB網(wǎng)絡(luò)成為大型模型訓(xùn)練的首選網(wǎng)絡(luò)技術(shù)。
Infiniband網(wǎng)絡(luò)(IB網(wǎng)絡(luò)):是指通過一套中心 Infiniband 交換機(jī)在存儲、網(wǎng)絡(luò)以及服務(wù)器等設(shè)備之間建立一個單一的連接鏈路,通過中心 Infiniband 交換機(jī)來控制流量,能夠降低硬件設(shè)備間數(shù)據(jù)流量擁塞,有效解決傳統(tǒng) I/O結(jié)構(gòu)的通信傳輸瓶頸,還能與遠(yuǎn)程存儲設(shè)備和網(wǎng)絡(luò)設(shè)備相連接。
端到端IB網(wǎng)絡(luò)還支持?jǐn)?shù)據(jù)冗余和糾錯機(jī)制,能夠保證數(shù)據(jù)傳輸?shù)目煽啃?。在處理大模型中較多的數(shù)據(jù)時,數(shù)據(jù)傳輸錯誤或數(shù)據(jù)丟失可能會導(dǎo)致訓(xùn)練過程中斷甚至失敗,因此保證傳輸?shù)目煽啃杂葹橹匾?,而IB網(wǎng)路有效實(shí)現(xiàn)了保證。
AI大模型驅(qū)動高速率光模塊需求釋放
AI模型高并行計(jì)算+低時延,驅(qū)動網(wǎng)絡(luò)部署速率門檻快速提升。AI大語言模型下,存儲和計(jì)算部分發(fā)生了較多變化,存儲介質(zhì)從機(jī)械硬盤(HDD)演進(jìn)到閃存盤(SSD),來滿足存儲介質(zhì)時延降低了不止100倍數(shù);高效計(jì)算部分,已經(jīng)普遍采用GPU或者專用ASIC芯片,處理數(shù)據(jù)能力提升百倍。
AI投資:海外巨頭布局
ChatGPT&AI等應(yīng)用推出衍生出大模型算力的需求:全球OpenAI推出的最新ChatGPT模型參數(shù)已經(jīng)超過1750億個。在美國,OpenAI、谷歌、微軟、臉書等機(jī)構(gòu)形成了GPT-3、SwitchTransformer、MT-NLG等千億或萬億參數(shù)量的大模型。
微軟:早在2019年,微軟就對OpenAI進(jìn)行了高達(dá)10億美元的投資,并獲得了GPT的獨(dú)家授權(quán),而與此同時,OpenAI同意從“谷歌云”轉(zhuǎn)向“微軟云”。2021年,微軟再次進(jìn)行投資,推出OpenAI與自有產(chǎn)品深度集成的新工具。而后在今年1月23日微軟又宣布向OpenAI追加數(shù)十億美元的投資,且于2月2日宣布旗下所有產(chǎn)品將全線整合ChatGPT,包括且不限于Bing搜索引擎、包含Word、PPT、Excel的Office全家桶、Azure云服務(wù)、Teams聊天程序等。
谷歌:盡管被微軟后來居上,但是谷歌早在2013年就開始研究AI聊天機(jī)器人,于2016年出資6億美元收購了英國人工智能公司DeepMind。2017年時谷歌已實(shí)現(xiàn)了重大的技術(shù)突破,推出了神經(jīng)網(wǎng)絡(luò)系統(tǒng)Transformer,并研發(fā)出了一款名叫Meena的聊天機(jī)器人,于2021年更名為LaMDA推出,但由于輿論爭議谷歌取消了原本的發(fā)布安排。但是由于最近微軟的步步緊逼,谷歌開始向AI方向傾斜,今年二月谷歌向ChatGPT的競品公司Anthropic投資3億美元,并計(jì)劃于今年發(fā)布Sparrow內(nèi)測版等一系列AI產(chǎn)品。
AI投資:國內(nèi)有望迎來加速
國內(nèi)企業(yè)積極陸續(xù)布局AI等應(yīng)用場景投資,后續(xù)有望持續(xù)加大。在中國,浪潮、中科院、阿里達(dá)摩院等陸續(xù)推出源1.0、紫東太初、M6等。其中,浪潮“源1.0”巨量模型,參數(shù)量和數(shù)據(jù)集分別達(dá)到2457億和50000GB,相比于美國GPT-3,源1.0參數(shù)集規(guī)模高40%,訓(xùn)練數(shù)據(jù)集規(guī)模領(lǐng)先近10倍。
百度:2月7日晚,百度在官微宣布即將推出大模型新項(xiàng)目“文心一言”(ERNIE Bot),并透露首站將直接接入百度搜索。目前百度可能是國內(nèi)最有實(shí)力推出類ChatGPT產(chǎn)品的科技公司。
阿里:2023年1月,阿里巴巴達(dá)摩院發(fā)布2023年十大科技趨勢,其中多模態(tài)預(yù)訓(xùn)練大模型、生成式AI在列,阿里版聊天機(jī)器人ChatGPT正在研發(fā)中,目前處于內(nèi)測階段。在AI、大模型等ChatGPT所需的底層技術(shù)上,達(dá)摩院此前曾先后推出超越谷歌、微軟的10萬億規(guī)模的M6大模型、AI模型開源社區(qū)“魔搭”等。
騰訊:2022年4月21日,騰訊對外正式對外披露“混元”AI大模型,該模型包含但不限于:計(jì)算機(jī)視覺、自然語言處理、多模態(tài)內(nèi)容理解、文案生成、文生視頻等多個方向的超大規(guī)模AI智能模型。去年12月,騰訊又推出了國內(nèi)首個低成本、可落地的NLP萬億大模型,并公布了大模型的訓(xùn)練方法——最快用256張卡,1天內(nèi)就能訓(xùn)練完成,成本直接降至原來的1/8。今年2月9日,騰訊表示目前在ChatGPT相關(guān)方向上已有布局,專項(xiàng)研究也在有序推進(jìn)。
京東:2月10日,京東正式宣布,京東云旗下言犀人工智能應(yīng)用平臺將整合過往產(chǎn)業(yè)實(shí)踐和技術(shù)積累,推出產(chǎn)業(yè)版ChatGPT:ChatJD,并公布ChatJD的落地應(yīng)用路線圖“125”計(jì)劃。ChatJD將以“125”計(jì)劃作為落地應(yīng)用路線圖,包含一個平臺、兩個領(lǐng)域、五個應(yīng)用。
關(guān)鍵詞:
- AI投資:海外巨頭布局,國內(nèi)有望迎來加速(2023-04-13 15:46:30)
- 世界觀速訊丨【20230413收評】欲賺大錢,要能捂會守(2023-04-13 15:42:04)
- A股日報(bào) | 4月13日滬指收跌0.27%,兩市成交額達(dá)11369億元(2023-04-13 15:55:44)
- 抓住“三大機(jī)會” 聚焦“五個聚力” 撫州推動交通公路發(fā)展(2023-04-13 15:31:49)
- 3000萬元財(cái)政撬動78億元轉(zhuǎn)貸資金(2023-04-13 14:51:25)
- 龍頭股之集合競價(jià)買點(diǎn)(2023-04-13 14:35:32)
- 焦點(diǎn)報(bào)道:曲江文旅四連板,西安旅游大漲8%雙頂承壓,文旅部開展促銷費(fèi)活動(2023-04-13 14:49:54)
- 落合弘治(關(guān)于落合弘治的簡介)(2023-04-13 14:05:13)
- 世界新資訊:一張圖:黃金原油外匯股指"樞紐點(diǎn)+多空占比"一覽(2023/04/13周四)(2023-04-13 14:03:45)
- 全球時訊:民生銀行與奇瑞瑞軒聯(lián)合舉辦供應(yīng)鏈金融客商大會(2023-04-13 14:01:38)
- 每日快報(bào)!中國股市:下一次牛市開始的時間已確定!看懂此文把握機(jī)會(2023-04-13 13:45:31)
- 雷軍是怎么給小米手機(jī)搞出“不可能三角”的?(2023-04-13 13:51:52)
- 環(huán)球視點(diǎn)!中產(chǎn)“高端生活”崩了,家居首富賣股求生(2023-04-13 13:43:56)
- 每日速遞:人工智能ETF(159819)跌1.90%,年內(nèi)漲超46%,紫光股份、瀾起科技、中科創(chuàng)達(dá)走低(2023-04-13 13:49:15)
- 全球今頭條!資深投資者放售香港金鐘東昌大廈鋪 估值最高9.6億港元(2023-04-13 13:14:20)
- 【環(huán)球新視野】火爆!通宵排隊(duì)、千人開搶!這類賣場“一柜難求”!什么情況→(2023-04-13 12:51:46)
- 【天天播資訊】金價(jià)一路漲漲漲,回收跟著火火火!但小心被套路…(2023-04-13 12:58:25)
- 天天亮點(diǎn)!廣州金融監(jiān)管局:鼓勵符合條件的實(shí)體經(jīng)濟(jì)企業(yè)發(fā)起設(shè)立小貸公司(2023-04-13 12:52:57)
- 全球信息:廣州金融監(jiān)管局:全面清理優(yōu)化存量典當(dāng)企業(yè)(2023-04-13 12:53:59)
- 廣州:積極引導(dǎo)轄內(nèi)小貸公司加入人民銀行征信系統(tǒng)(2023-04-13 13:03:40)
- 凈利下滑16.4%,仍未走出東北“大本營”,桃李面包該如何突圍?(2023-04-13 12:54:57)
- 美國持續(xù)促進(jìn)高等教育專業(yè)結(jié)構(gòu)優(yōu)化調(diào)整(2023-04-13 12:18:26)
- “月薪8000只花15元”:關(guān)于錢,用10年彎路徹底搞明白的事(2023-04-13 11:48:47)
- 環(huán)球焦點(diǎn)!美國商業(yè)銀行貸款兩周下跌超千億!高盛:沒有發(fā)生‘信貸危機(jī)’,只是被破產(chǎn)銀行FDIC接管(2023-04-13 11:57:24)
- 【聚看點(diǎn)】美通脹超預(yù)期回落 國際金價(jià)震蕩收漲丨工行連線(2023-04-13 11:41:32)
- 上銀基金固收半月談:地產(chǎn)迎復(fù)蘇,成色如何看?(2023-04-13 11:43:54)
- 環(huán)球聚焦:游戲復(fù)蘇來臨,完美世界領(lǐng)跑行業(yè)新周期(2023-04-13 11:46:14)
- 天天播報(bào):獨(dú)角獸早報(bào) | 淘寶天貓新一輪調(diào)整;小鵬汽車組織調(diào)整已完成;OpenAI推出漏洞賞金計(jì)劃(2023-04-13 11:50:47)
- 信息:4.13午評|太牛了!繼續(xù)領(lǐng)漲(2023-04-13 11:38:04)
- 女子 28 萬買兩車位涂鴉被要求復(fù)原,車位涂鴉是否合規(guī)?(2023-04-13 11:09:38)
-
環(huán)球視點(diǎn)!中產(chǎn)“高端生活”崩了,家居首富
文|老魚兒編輯|楊旭然“美好的生活需要詩和遠(yuǎn)方,更需要沙發(fā)和床。”這是紅星美凱龍官...
-
每日速遞:人工智能ETF(159819)跌1.90%,
今日早盤,人工智能板塊強(qiáng)分化。截至發(fā)稿,人工智能ETF(159819)跌1 90%,成交金額超...
-
全球今頭條!資深投資者放售香港金鐘東昌大
該物業(yè)現(xiàn)時估值范圍為6 8億至9 6億港元,較疫情前的意向價(jià)折讓,與附近甲級寫字樓的...
-
【環(huán)球新視野】火爆!通宵排隊(duì)、千人開搶!
近期,黃金價(jià)格持續(xù)攀升,現(xiàn)貨黃金價(jià)格也是節(jié)節(jié)攀升。深圳水貝市場,作為全國重要的珠...
-
【天天播資訊】金價(jià)一路漲漲漲,回收跟著火
近期,國際黃金價(jià)格迎來新一輪快速上漲。不少人認(rèn)為,黃金首飾閑置在家也是浪費(fèi),不如...
-
天天亮點(diǎn)!廣州金融監(jiān)管局:鼓勵符合條件的
新京報(bào)貝殼財(cái)經(jīng)訊(記者黃鑫宇)4月12日晚,廣州市地方金融監(jiān)督管理局(下稱“廣州金融...
-
全球信息:廣州金融監(jiān)管局:全面清理優(yōu)化存
新京報(bào)貝殼財(cái)經(jīng)訊(記者黃鑫宇)為進(jìn)一步提升典當(dāng)行業(yè)服務(wù)廣州經(jīng)濟(jì)社會發(fā)展和服務(wù)實(shí)體...
-
廣州:積極引導(dǎo)轄內(nèi)小貸公司加入人民銀行征
新京報(bào)貝殼財(cái)經(jīng)訊(記者黃鑫宇)4月12日晚,廣州市地方金融監(jiān)督管理局(下稱“廣州金融...
-
凈利下滑16.4%,仍未走出東北“大本營”,
29年前,60歲的退休教師吳志剛因?yàn)?ldquo;閑不住”,做起了賣面包的生意。想不到29年后,這...
-
美國持續(xù)促進(jìn)高等教育專業(yè)結(jié)構(gòu)優(yōu)化調(diào)整
近日,教育部等五部門印發(fā)《普通高等教育學(xué)科專業(yè)設(shè)置調(diào)整優(yōu)化改革方案》,提出到2025...
- 抓住“三大機(jī)會” 聚
- 落合弘治(關(guān)于落合弘
- 全球今頭條!資深投資
- 美國持續(xù)促進(jìn)高等教育
- 抓住“三大機(jī)會” 聚焦“五個聚力” 撫州推
- 落合弘治(關(guān)于落合弘治的簡介)
- 全球今頭條!資深投資者放售香港金鐘東昌大廈鋪
- 美國持續(xù)促進(jìn)高等教育專業(yè)結(jié)構(gòu)優(yōu)化調(diào)整
- 女子 28 萬買兩車位涂鴉被要求復(fù)原,車位涂鴉
- 全球消息!五糧液、立訊精密等14股獲北向資金增
- 【當(dāng)前熱聞】茶葉加工智能化
- 快看點(diǎn)丨質(zhì)押貸款逾期14個月還不起會影響征信嗎
- 得物App再度亮相消博會,年輕消費(fèi)助推時尚出新
- 國美零售本期沽空1.54億港元-世界熱點(diǎn)評
- 滾動
- 綜合
- 房產(chǎn)
- 13000萬元財(cái)政撬動78億元轉(zhuǎn)貸資金
- 2全球時訊:民生銀行與奇瑞瑞軒聯(lián)合舉辦供
- 3每日快報(bào)!中國股市:下一次牛市開始的時
- 4【環(huán)球新視野】火爆!通宵排隊(duì)、千人開搶
- 5【天天播資訊】金價(jià)一路漲漲漲,回收跟著
- 6天天亮點(diǎn)!廣州金融監(jiān)管局:鼓勵符合條件
- 7全球信息:廣州金融監(jiān)管局:全面清理優(yōu)化
- 8廣州:積極引導(dǎo)轄內(nèi)小貸公司加入人民銀行
- 9“月薪8000只花15元”:關(guān)于錢,用10年彎
- 10環(huán)球焦點(diǎn)!美國商業(yè)銀行貸款兩周下跌超千
- 16月樓市成交明顯上漲 市場恢復(fù)態(tài)勢能否
- 2珠海4.17億元成功出讓新香洲1幅工改住地
- 3總成交價(jià)1.64億元!唐山路南區(qū)1宗優(yōu)質(zhì)地
- 4華潤置地2.11億元競得大連保稅區(qū)地塊 樓
- 5西寧市:出臺15項(xiàng)措施支持剛性和改善性住
- 6樓面價(jià)14626元/㎡!中建智地13.14億競得
- 7總起價(jià)93.4億元!蘇州2022年首次集中供地
- 8徐州市住建局:推出18條政策支持房地產(chǎn)行
- 9溫州:2022年龍灣區(qū)計(jì)劃供應(yīng)商品住宅用地
- 10重磅!東莞謝崗鎮(zhèn)2022年度土地征收成片開
- AI投資:海外巨頭布局,國內(nèi)有望迎來加速
- 世界觀速訊丨【20230413收評】欲賺大錢,要
- A股日報(bào) | 4月13日滬指收跌0.27%,兩市成
- 龍頭股之集合競價(jià)買點(diǎn)
- 焦點(diǎn)報(bào)道:曲江文旅四連板,西安旅游大漲8%
- 雷軍是怎么給小米手機(jī)搞出“不可能三角”的
- 環(huán)球視點(diǎn)!中產(chǎn)“高端生活”崩了,家居首富
- 每日速遞:人工智能ETF(159819)跌1.90%,
- 凈利下滑16.4%,仍未走出東北“大本營”,
- 上銀基金固收半月談:地產(chǎn)迎復(fù)蘇,成色如何
- 環(huán)球聚焦:游戲復(fù)蘇來臨,完美世界領(lǐng)跑行業(yè)