(資料圖片)

紅星資本局11月8日消息今日，在世界互聯(lián)網(wǎng)大會前沿人工智能模型論壇上，360集團副總裁、360數(shù)字安全集團總裁胡振泉分享了AI安全治理的創(chuàng)新方案，并正式發(fā)布《大模型安全白皮書》。

胡振泉表示，當(dāng)前AI安全風(fēng)險源于內(nèi)、外雙重壓力。內(nèi)部層面，AI存在與生俱來的“基因缺陷”，表現(xiàn)為一切皆可編程、一切皆可模仿、一切皆可生成、一切皆可調(diào)度，這些特性帶來的安全問題無法回避。外部層面，當(dāng)前網(wǎng)絡(luò)空間已成為國家博弈關(guān)鍵戰(zhàn)場，網(wǎng)絡(luò)戰(zhàn)隊與黑灰產(chǎn)組織紛紛利用AI批量生產(chǎn)攻擊武器，黑客攻擊智能體配合APT攻擊技術(shù)，讓現(xiàn)有防御體系難以應(yīng)對。

“想要真正做好AI安全需要兼具對AI的深刻理解、豐富的AI產(chǎn)品技術(shù)實踐，以及安全行業(yè)的實戰(zhàn)積淀和AI安全語料的長期積累?！焙袢硎荆?60AI安全治理的核心在于形成全鏈路防護網(wǎng)，既要做好模型外部防護，又要聚焦平臺原生安全。

胡振泉介紹，360已形成一整套可落地的安全解決方案，這套方案包含側(cè)重模型外部防護的“外掛式”安全能力，主要依托大模型衛(wèi)士構(gòu)建靈活、快速的動態(tài)防御；以及為大模型應(yīng)用注入“安全基因”的平臺原生安全能力，嵌入企業(yè)級知識庫、智能體構(gòu)建和運營平臺、智能體客戶端等核心組件。

論壇現(xiàn)場，360同步發(fā)布《大模型安全白皮書》，闡釋了大模型運行時存在的基礎(chǔ)設(shè)施、內(nèi)容、數(shù)據(jù)與知識庫、智能體、用戶端五大安全風(fēng)險，提出“外掛式安全+平臺原生安全”雙軌安全體系。

關(guān)鍵詞： 安全 大模型 算力 智能體 風(fēng)險 AI 集團