技嘉與趨境科技聯(lián)合部署AMaaS平臺(tái) 推動(dòng)本地大模型應(yīng)用加速落地
在生成式AI加速走向?qū)嶋H應(yīng)用的當(dāng)下,大模型部署正從“可體驗(yàn)”邁向“可落地、可管理、可應(yīng)用”。作為技嘉面向本地AI場(chǎng)景打造的重要產(chǎn)品,AI TOP ATOM具備強(qiáng)大的桌面級(jí)本地AI算力,搭載了CPU+GPU一體封裝設(shè)計(jì)的NVIDIA GB10 Grace Blackwell芯片,其具備1千萬(wàn)億次/秒(浮點(diǎn)運(yùn)算)AI 性能、128GB 統(tǒng)一內(nèi)存,可支持模型訓(xùn)練、推理與部署,為個(gè)人開(kāi)發(fā)者及企業(yè)用戶提供高性能本地化AI基礎(chǔ)平臺(tái)。
基于AI TOP ATOM的本地算力優(yōu)勢(shì),技嘉現(xiàn)已與趨境科技聯(lián)合部署其自研大模型管理平臺(tái)AMaaS,進(jìn)一步完善從模型部署到圖形化管理的使用鏈路。通過(guò)雙方聯(lián)合部署,用戶可在本地更高效地完成大模型部署與管理,減少?gòu)?fù)雜環(huán)境配置和運(yùn)維負(fù)擔(dān),進(jìn)一步實(shí)現(xiàn)開(kāi)箱即用、易于部署的使用體驗(yàn),降低大模型實(shí)際落地門檻。
趨境科技長(zhǎng)期聚焦大模型基礎(chǔ)設(shè)施與管理平臺(tái)建設(shè),AMaaS在模型管理、圖形化操作與資源調(diào)度方面具備成熟能力,可為本地大模型部署提供更便捷的支持。趨境科技副總裁關(guān)嘉偉表示:“通過(guò)技嘉 AI TOP ATOM的強(qiáng)大本地算力與AMaaS平臺(tái)便捷的管理能力,雙方將共同推動(dòng)大模型部署進(jìn)一步走向低成本、高效率,讓更多個(gè)人與企業(yè)用戶能夠快速構(gòu)建屬于自己的本地大模型應(yīng)用?!?
未來(lái),技嘉將持續(xù)關(guān)注AI行業(yè)發(fā)展趨勢(shì),圍繞本地化部署、易用化體驗(yàn)與軟硬協(xié)同方案持續(xù)推進(jìn)產(chǎn)品與生態(tài)建設(shè),并期待與趨境科技展開(kāi)更深入合作,共同推動(dòng)大模型應(yīng)用在更廣泛場(chǎng)景中的落地。





