北京時(shí)間 8 月 25 日晚間,英偉達(dá)在產(chǎn)品發(fā)布媒體會上官宣了此前預(yù)熱的 “機(jī)器人新大腦”——專為物理AI與機(jī)器人應(yīng)用設(shè)計(jì)的Jetson AGX Thor計(jì)算平臺,開發(fā)者套件售價(jià)3499美元,量產(chǎn)模塊批量采購單價(jià)降至2999美元。這款搭載Blackwell架構(gòu)GPU的 “機(jī)器人新大腦”,以2070 TFLOPS的AI算力、128GB顯存及全棧軟件支持,重新定義了邊緣計(jì)算性能標(biāo)準(zhǔn)。
發(fā)布會伊始,英偉達(dá)正式宣布其專為機(jī)器人、自動(dòng)駕駛計(jì)算平臺設(shè)計(jì)的系統(tǒng)級芯片 Thor 量產(chǎn)上市。Thor 這一命名靈感來源于北歐神話中的雷神,寓意著強(qiáng)大的力量,而該芯片也確實(shí)不負(fù)其名,在性能上實(shí)現(xiàn)了巨大飛躍。與上一代 Orin 芯片相比,Thor 芯片采用了與英偉達(dá) AI 數(shù)據(jù)中心 GPU 相同的新一代 Blackwell 架構(gòu)。
作為 “機(jī)器人新大腦”,Jetson Thor 計(jì)算平臺集成了 CPU、GPU、內(nèi)存、連接與電源管理模塊。算力性能方面,據(jù)環(huán)球網(wǎng)報(bào)道,在 FP8 標(biāo)準(zhǔn)(低精度的 8 位浮點(diǎn)數(shù)格式,業(yè)內(nèi)常用 16 位浮點(diǎn)數(shù)格式 FP16 或 FP8 衡量 AI 算力)下,其單顆 AI 算力達(dá)到 1035TFLOPS(每秒萬億次浮點(diǎn)運(yùn)算),在 FP4 標(biāo)準(zhǔn)下更是高達(dá) 2070TFLOPS,這一數(shù)據(jù)是上一代 Jetson Orin 的 7.5 倍。同時(shí),它配備了 128GB 的 LPDDR5X 內(nèi)存,帶寬達(dá)到每秒 273GB,并支持帶寬為每秒 100Gbit 的以太網(wǎng)。值得一提的是,在性能大幅提升的情況下,Jetson Thor 整體功耗僅為 40 至 130 瓦特,能效比(AI 算力/功耗)是 Orin 的 3.5 倍。
英偉達(dá)機(jī)器人與邊緣計(jì)算副總裁 Deepu Talla 在發(fā)布會上強(qiáng)調(diào),如果要構(gòu)建人形機(jī)器人或自動(dòng)駕駛車輛應(yīng)用,Orin 的性能已顯不足。我們許多客戶此前需使用2 - 4個(gè)甚至更多 Orin 來滿足需求,而現(xiàn)在,一顆 Thor 即可輕松勝任。Thor 支持實(shí)時(shí)運(yùn)行 LLM(大語言模型)、VLM(視覺語言模型)和 VLA(視覺語言動(dòng)作)模型,性能提升超過 7 倍,這將顯著推動(dòng)通用機(jī)器人的發(fā)展。
據(jù)36 氪報(bào)道,實(shí)測數(shù)據(jù)顯示,在并行處理 16 個(gè)傳感器輸入時(shí),運(yùn)行 Llama 3B 和 Qwen 2.5 VL 3B 等生成式 AI 模型,Jetson Thor 生成第一個(gè) token 的時(shí)間在 200 毫秒內(nèi),后續(xù)每秒可輸出超 25 個(gè) token,響應(yīng)速度較前代顯著提升。這樣的速度已經(jīng)能夠支撐實(shí)時(shí)人機(jī)對話,為機(jī)器人與人類的自然交互提供了有力保障。例如,在模擬的智能客服場景中,搭載 Jetson Thor 的機(jī)器人能夠快速理解人類提問,并以自然流暢的語言進(jìn)行回復(fù)。
此外,在自動(dòng)駕駛領(lǐng)域,DRIVE Thor 同樣備受關(guān)注。據(jù)英偉達(dá)官網(wǎng)產(chǎn)品信息介紹,DRIVE Thor 已通過安全認(rèn)證,同樣搭載了內(nèi)置生成式 AI 引擎的 Blackwell GPU,并擁有豐富的 SDK 套件和庫。2024 年 3 月英偉達(dá) GTC 大會上,比亞迪宣布將在 DRIVE Thor 上構(gòu)建下一代電動(dòng)車型;廣汽埃安旗下高端豪華品牌昊鉑宣布下一代電動(dòng)汽車將采用 DRIVE Thor 平臺,2025 年開始量產(chǎn)。在談及目前部署機(jī)器人面臨的挑戰(zhàn)時(shí),Deepu Talla 在發(fā)布會明確提到,構(gòu)建、測試與部署物理機(jī)器人成本高、耗時(shí)長是主要難題。同時(shí)提出英偉達(dá)的應(yīng)對策略 —— 通過DGX(訓(xùn)練)、Omniverse(仿真)、Jetson Thor(推理)的三位一體架構(gòu)實(shí)現(xiàn)全流程優(yōu)化。
英偉達(dá) CEO 黃仁勛一直對機(jī)器人產(chǎn)業(yè)給予高度關(guān)注,多次在公開場合表示機(jī)器人是 “繼 AI 之后的下一次重大機(jī)會”。今年 7 月參加北京鏈博會時(shí),他再次強(qiáng)調(diào) AI 的下一波浪潮將是機(jī)器人,未來的機(jī)器人將具備推理與執(zhí)行能力,并且能夠理解物理世界。而此次 Jetson Thor 和 DRIVE Thor 的推出,無疑是英偉達(dá)在推動(dòng)機(jī)器人和自動(dòng)駕駛技術(shù)發(fā)展道路上的重要里程碑。
值得關(guān)注的是,本周三美股收盤后,英偉達(dá)將公布最新季度財(cái)報(bào)。而此前7月9日,英偉達(dá)股價(jià)上漲逾2%,市值首次突破 4 萬億美元大關(guān)。