(資料圖片僅供參考)

紅星資本局11月8日消息今日，在世界互聯(lián)網(wǎng)大會(huì)前沿人工智能模型論壇上，360集團(tuán)副總裁、360數(shù)字安全集團(tuán)總裁胡振泉分享了AI安全治理的創(chuàng)新方案，并正式發(fā)布《大模型安全白皮書》。

胡振泉表示，當(dāng)前AI安全風(fēng)險(xiǎn)源于內(nèi)、外雙重壓力。內(nèi)部層面，AI存在與生俱來(lái)的“基因缺陷”，表現(xiàn)為一切皆可編程、一切皆可模仿、一切皆可生成、一切皆可調(diào)度，這些特性帶來(lái)的安全問題無(wú)法回避。外部層面，當(dāng)前網(wǎng)絡(luò)空間已成為國(guó)家博弈關(guān)鍵戰(zhàn)場(chǎng)，網(wǎng)絡(luò)戰(zhàn)隊(duì)與黑灰產(chǎn)組織紛紛利用AI批量生產(chǎn)攻擊武器，黑客攻擊智能體配合APT攻擊技術(shù)，讓現(xiàn)有防御體系難以應(yīng)對(duì)。

“想要真正做好AI安全需要兼具對(duì)AI的深刻理解、豐富的AI產(chǎn)品技術(shù)實(shí)踐，以及安全行業(yè)的實(shí)戰(zhàn)積淀和AI安全語(yǔ)料的長(zhǎng)期積累。”胡振泉表示，360AI安全治理的核心在于形成全鏈路防護(hù)網(wǎng)，既要做好模型外部防護(hù)，又要聚焦平臺(tái)原生安全。

胡振泉介紹，360已形成一整套可落地的安全解決方案，這套方案包含側(cè)重模型外部防護(hù)的“外掛式”安全能力，主要依托大模型衛(wèi)士構(gòu)建靈活、快速的動(dòng)態(tài)防御；以及為大模型應(yīng)用注入“安全基因”的平臺(tái)原生安全能力，嵌入企業(yè)級(jí)知識(shí)庫(kù)、智能體構(gòu)建和運(yùn)營(yíng)平臺(tái)、智能體客戶端等核心組件。

論壇現(xiàn)場(chǎng)，360同步發(fā)布《大模型安全白皮書》，闡釋了大模型運(yùn)行時(shí)存在的基礎(chǔ)設(shè)施、內(nèi)容、數(shù)據(jù)與知識(shí)庫(kù)、智能體、用戶端五大安全風(fēng)險(xiǎn)，提出“外掛式安全+平臺(tái)原生安全”雙軌安全體系。

關(guān)鍵詞： 安全 大模型 算力 智能體 風(fēng)險(xiǎn) AI 集團(tuán)