榮格工業(yè)資源APP
了解工業(yè)圈,從榮格工業(yè)資源APP開始。
英偉達將Blackwell GPU引入機器人“大腦”。
8月25日報道,今日,英偉達推出專為物理AI和人形機器人打造的NVIDIA Jetson Thor,它被英偉達創(chuàng)始人兼CEO黃仁勛稱作是“推動物理AI和通用機器人時代的終極超級計算機”。
Jetson Thor采用英偉達Blackwell GPU、14核Arm Neoverse CPU和128GB顯存,顯存帶寬為273 GB/s,F(xiàn)P4精度下AI峰值算力為2070 TFLOPS,F(xiàn)P8精度下AI峰值算力為1035 TFLOPS,可在邊緣加速生成式AI與大型Transformer模型。
它支持包括VLA(視覺語言動作)模型、LLM(大語言模型)、VLM(視覺語言模型)在內(nèi)的各種生成式AI模型,能處理實時視頻數(shù)據(jù)流和AI推理,適用于構(gòu)建可在邊緣執(zhí)行視覺搜索和總結(jié)任務(wù)的AI agents。
包括CPU、GPU、SLC、DRAM連接、網(wǎng)絡(luò)、電源管理等在內(nèi),整個Jetson Thor計算機的功率可配置在40W到130W之間。
借助4個25 GbE網(wǎng)絡(luò)、攝像頭卸載引擎和Holoscan傳感器橋接器,Jetson Thor可提取高速傳感器數(shù)據(jù),實現(xiàn)實時性能。
全新機器人芯片專攻的重點特性,就是運行多AI工作流,讓機器人能與人類和物理世界進行實時、智能的交互,推動視覺AI agents和復(fù)雜機器人系統(tǒng)的發(fā)展。
與上一代Jetson Orin相比,Jetson Thor的AI計算性能提升多達7.5倍,能效提升多達3.5倍,CPU性能提升多達3.1倍,I/O吞吐量提升多達10倍。
如果跟10年前相比,性能提升就更猛了——AI性能足足提高多達7000倍。
Jetson Thor與機器人AI軟件平臺搭配,支持各種主流AI框架,以及字節(jié)跳動、DeepSeek、阿里Qwen、谷歌Gemini、Meta、Mistral AI、OpenAI、Physical Intelligence(π)等企業(yè)的生成式AI模型。
它還與英偉達從云到邊緣的軟件棧完全兼容,包括用于機器人仿真和開發(fā)的Isaac平臺、Isaac GR00T人形機器人基礎(chǔ)模型、用于視覺AI的NVIDIA Metropolis和用于實時傳感器處理的NVIDIA Holoscan等。
機器人需要搭載豐富的傳感器來感知世界,并實現(xiàn)低延時的AI處理。實時控制框架通常在100Hz-1kHz頻率上運行,感知與規(guī)劃通常在30Hz頻率上運行,高級推理通常在1-5Hz頻率上運行,就像人思考一樣,可能會想幾秒鐘。
在并行處理16個傳感器輸入時,運行Llama 3B和Qwen 2.5 VL 3B模型,Jetson Thor生成第一個token的時間在200ms內(nèi),輸出每token的時間在50ms內(nèi),這意味著運行這些模型可以每秒生成超過25個token,相較前代翻倍提升。
Jetson Thor為通用推理而設(shè)計,運行阿里Qwen 3-30B-A3B、英偉達Cosmos Reason 1 7B、DeepSeek-R1-Qwen-32B等推理模型時,F(xiàn)P8精度下性能已經(jīng)提升多達3~5倍,F(xiàn)P4精度下更是猛躥一大截,最多提升至10倍。
英偉達CUDA生態(tài)系統(tǒng)中的軟件在Jetson整個生命周期中不斷優(yōu)化。例如,在整個生命周期中,通過軟件升級將Xavier的性能提高了50%,將Orin的性能提高了100%。
隨著未來軟件持續(xù)優(yōu)化,Jetson Thor將實現(xiàn)更大幅度的性能提升。
自2014年以來,英偉達Jetson平臺與機器人軟件棧吸引了200多萬開發(fā)者和150多個硬件系統(tǒng)、軟件和傳感器合作伙伴組成的生態(tài)系統(tǒng)。7000多家客戶已采用Jetson Orin。
眾擎機器人、銀河通用、優(yōu)必選、宇樹科技等明星人形機器人公司,還有聯(lián)影醫(yī)療等醫(yī)療企業(yè)、萬集科技等智能交通企業(yè),都已經(jīng)率先采用Jetson Thor。
英偉達Jetson AGX Thor開發(fā)者套件現(xiàn)已上市,全球開售,定價3499美元(約合人民幣2.50萬元)。
Jetson T5000、Jetson T4000模組可從全球分銷合作伙伴處獲得。Jetson T5000購買1000片以上單價2999美元(約合人民幣2.15萬元)。
具體規(guī)格如下:
英偉達DRIVE AGX Thor開發(fā)套件是英偉達為安全自動駕駛汽車設(shè)計的開發(fā)平臺,已通過安全認證,同樣搭載了內(nèi)置生成式AI引擎的Blackwell GPU,有豐富的SDK套件和庫。該開發(fā)套件已經(jīng)可以預(yù)訂。
比亞迪、元戎啟行、廣汽、智己、理想、文遠知行、小米、極氪、卓御等領(lǐng)先的智能駕駛汽車企業(yè)都在積極擁抱DRIVE AGX Thor。
面向人形機器人開發(fā),英偉達提供了基礎(chǔ)的系統(tǒng)、藍圖、工具、服務(wù)、算法及其他機器人技術(shù),與生態(tài)系統(tǒng)合作,為構(gòu)建機器人產(chǎn)品并將其帶到現(xiàn)實世界的四個重要步驟(數(shù)據(jù)生成、模型訓(xùn)練、仿真測試、部署推理)提供端到端完整工作流。
英偉達機器人業(yè)務(wù)正在快速增長。今年,英偉達在財報中將汽車和機器人業(yè)務(wù)合并,第一季度收入為5.67億美元,同比增長72%。
目前,英偉達專注于為物理AI和機器人打造3臺計算機,包括用于訓(xùn)練模型的NVIDIA DGX AI超算、用于合成數(shù)據(jù)生成與仿真測試的NVIDIA OVX計算機以及安裝在機器人本體上的實時計算機(如Jetson Thor)。
從感知AI、生成式AI、Agentic AI到面向未來的物理AI,英偉達正將其計算疆域鋪滿AI的整個生命周期。