COMPUTEX—2024 年 6 月 2 日—NVIDIA 于今日宣布,全球 2,800 萬開發(fā)者現(xiàn)可下載 NVIDIA NIM?——一種推理微服務(wù),通過經(jīng)優(yōu)化的容器的形式提供模型——以部署在云、數(shù)據(jù)中心或工作站上。借助 NVIDIA NIM,開發(fā)者能夠輕松地為 copilots、聊天機(jī)器人等構(gòu)建生成式 AI 應(yīng)用,所需時間從數(shù)周縮短至幾分鐘。
云服務(wù)提供商、GPU 云提供商和企業(yè)用戶紛紛采用 Spectrum-X;NVIDIA 網(wǎng)絡(luò)通過廣大系統(tǒng)制造商進(jìn)入各個市場
桑迪亞實(shí)驗(yàn)室正在利用檢索增強(qiáng)生成(RAG)技術(shù)創(chuàng)建 Kokkos 數(shù)據(jù)庫,并將其與 AI 模型打通。研究人員采用不同的 RAG 方法進(jìn)行實(shí)驗(yàn),初步測試顯示出了可喜的成果。
基于先進(jìn)的 NVIDIA 網(wǎng)絡(luò)、NVIDIA 全棧 AI 軟件和存儲技術(shù),可將集群中 Grace Blackwell 超級芯片的數(shù)量擴(kuò)展至數(shù)萬個,通過 NVIDIA NVLink可將多達(dá) 576 塊 Blackwell GPU 連成一個整體,由NVIDIA 系統(tǒng)專家加速即時 AI 基礎(chǔ)設(shè)施的部署
美國加利福尼亞州圣何塞 —— GTC —— 太平洋時間 2024 年 3 月 18 日 —— NVIDIA 于今日推出數(shù)十項企業(yè)級生成式 AI 微服務(wù),企業(yè)可以利用這些微服務(wù)在自己的平臺上創(chuàng)建和部署定制應(yīng)用,同時保留對知識產(chǎn)權(quán)的完整所有權(quán)和控制權(quán)。
全新 NVIDIA NIM 和 GPU 加速的微服務(wù)專為生物、化學(xué)、影像和醫(yī)療數(shù)據(jù)開發(fā),并在 NVIDIA DGX 云中運(yùn)行
liqinglong1023