新榜訊 1 月 8 日,智源研究院舉行 AI 十大趨勢(shì)發(fā)布會(huì)。會(huì)上,螞蟻集團(tuán)科技戰(zhàn)略與執(zhí)行部副總經(jīng)理彭晉針對(duì) AI 安全進(jìn)行了分享。他指出,大模型作為復(fù)雜系統(tǒng),其 Scaling 帶來(lái)了涌現(xiàn),然而復(fù)雜系統(tǒng)所具有的涌現(xiàn)結(jié)果不可預(yù)測(cè)、循環(huán)反饋等獨(dú)特屬性,給傳統(tǒng)工程的安全防護(hù)機(jī)制構(gòu)成挑戰(zhàn),風(fēng)險(xiǎn)因素于數(shù)據(jù)、算法、應(yīng)用層面均有顯現(xiàn)。彭晉認(rèn)為,應(yīng)做到模型能力提升與風(fēng)險(xiǎn)預(yù)防兩手抓,持續(xù)完善 AI 安全治理體系。
掃描二維碼
手機(jī)瀏覽
螞蟻集團(tuán)彭晉:2025年模型能力提升與風(fēng)險(xiǎn)預(yù)防并重
分享文章鏈接
相似推薦

螞蟻集團(tuán)CTO何征宇: 大模型幻覺(jué)的源頭是缺乏數(shù)據(jù)
新榜訊 在舉行的 OceanBase 開發(fā)者大會(huì)上,螞蟻集團(tuán) CTO 何征宇指出,若無(wú)數(shù)據(jù),AI 便難以發(fā)展,數(shù)據(jù)的邊界限定了大模型的能力上限,所有數(shù)據(jù)公司都將轉(zhuǎn)型為 AI 公司。

螞蟻集團(tuán)或在研AI智能眼鏡產(chǎn)品
新榜訊 據(jù)招聘網(wǎng)站一則消息,螞蟻集團(tuán)現(xiàn)正招聘 AI 智能眼鏡的產(chǎn)品專家。

蘇州:做強(qiáng)AI芯片骨干核心企業(yè),推動(dòng)AI芯片企業(yè)通過(guò)兼并重組提升資源整合能力
新榜訊 《蘇州市加快發(fā)展 AI 芯片產(chǎn)業(yè)的若干措施(征求意見稿)》公開征求意見。