新榜訊 近日,全球知名的開源解決方案提供商紅帽公司宣稱正式啟動新開源項(xiàng)目 llm-d。此項(xiàng)目旨在滿足生成式 AI 大規(guī)模推理需求,由紅帽公司與創(chuàng)始貢獻(xiàn)者 CoreWeave、Google Cloud、IBM Research 以及 NVIDIA 攜手打造。該項(xiàng)目能夠借助突破性的大規(guī)模生成式 AI 推理技術(shù),使大語言模型(LLM)推理云達(dá)成最為嚴(yán)苛的生產(chǎn)服務(wù)級目標(biāo)(SLO)。(新浪科技)
掃描二維碼
手機(jī)瀏覽
紅帽宣布推出llm-d社區(qū),NVIDIA、Google Cloud為創(chuàng)始貢獻(xiàn)者
分享文章鏈接
相似推薦

抖音推出精選內(nèi)容社區(qū)“愛看”APP
新榜訊 4 月 18 日報(bào)道,抖音于近日上線一款名為“愛看”的 APP。

騰訊云首次亮相MWC2025,推出SuperApp解決方案
新榜訊 西班牙當(dāng)?shù)貢r(shí)間 3 月 4 日,騰訊云在 2025 屆世界移動通信大會(MWC)上首次亮相,正式推出 SuperApp 解決方案。

華為云發(fā)布端到端大模型安全解決方案等一系列云服務(wù)
新榜訊 3 月 3 日,華為云透露,于 2025 年巴塞羅那世界移動通信大會期間,華為云面向全球市場推出了一系列云服務(wù),涵蓋數(shù)據(jù)中心上云解決方案、企業(yè) IT 遷移上云解決方案、容災(zāi)備份連續(xù)性解決方案、大模型安全解決方案、CMRP 多層聯(lián)動防勒索安全解決方案、商專車自動駕駛解決方案等。