国产一区二区韩曰啪啪_亚洲午夜AV无码一区二区三区_亚洲无码精品在线视频_东北人妖国产粗口视频

搜索 海報(bào)新聞 融媒體矩陣
  • 山東手機(jī)報(bào)

  • 海報(bào)新聞

  • 大眾網(wǎng)官方微信

  • 大眾網(wǎng)官方微博

  • 抖音

  • 人民號(hào)

  • 全國(guó)黨媒平臺(tái)

  • 央視頻

  • 百家號(hào)

  • 快手

  • 頭條號(hào)

  • 嗶哩嗶哩

首頁(yè) >新聞 >時(shí)政新聞

兩會(huì)論“見(jiàn)”丨周鴻祎:用安全大模型防范智能大模型風(fēng)險(xiǎn)

2025

/ 03/10
來(lái)源:

海報(bào)新聞

作者:

辛振東

手機(jī)查看

  海報(bào)新聞?dòng)浾?辛振東 北京報(bào)道

  國(guó)產(chǎn)推理大模型DeepSeek-R1的誕生,標(biāo)志著我國(guó)AI技術(shù)實(shí)現(xiàn)從“追趕者”向“領(lǐng)跑者”的歷史性跨越,其開(kāi)源、透明、免費(fèi)等特質(zhì),尤其適合在政府與企業(yè)開(kāi)展私有化部署。但是,隨之而來(lái)的安全問(wèn)題也日益凸顯。

  今年全國(guó)兩會(huì)期間,360集團(tuán)創(chuàng)始人周鴻祎委員再度聚焦大模型安全。他認(rèn)為,DeepSeek-R1等先進(jìn)模型帶來(lái)了前所未有的機(jī)遇,也同樣面臨無(wú)法通過(guò)傳統(tǒng)網(wǎng)絡(luò)安全手段解決的安全挑戰(zhàn)。對(duì)此,周鴻祎呼吁各界共同努力,構(gòu)建更加完善的大模型應(yīng)用安全治理體系,在保障安全的前提下,最大化地釋放大模型技術(shù)的潛力。

  周鴻祎認(rèn)為,開(kāi)源帶來(lái)大模型的廣泛應(yīng)用,未來(lái)將會(huì)有各類(lèi)專業(yè)大模型、垂直大模型、場(chǎng)景大模型,連接內(nèi)部知識(shí)庫(kù),以智能體的形式在大批政府機(jī)構(gòu)和企業(yè)中廣泛部署,推進(jìn)“數(shù)轉(zhuǎn)智改”,實(shí)現(xiàn)降本增效。然而,大模型存在幻覺(jué)、內(nèi)容安全等諸多問(wèn)題,無(wú)法通過(guò)傳統(tǒng)安全方案有效化解,一旦部署在政府、企業(yè)內(nèi)部的基座模型、知識(shí)庫(kù)或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患,都極有可能誘發(fā)整個(gè)生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險(xiǎn)。

  周鴻祎介紹,針對(duì)上述挑戰(zhàn),他們嘗試運(yùn)用人工智能技術(shù)重塑安全格局,采用“以模制模”的方式應(yīng)對(duì)新難題,依托安全大模型技術(shù),搭建起覆蓋“基座模型—知識(shí)庫(kù)—智能體”的全鏈路安全體系。

  為進(jìn)一步強(qiáng)化這一防御體系,周鴻祎建議采取兩項(xiàng)措施:一是推動(dòng)安全技術(shù)創(chuàng)新與成果轉(zhuǎn)化,建議相關(guān)部門(mén)及時(shí)出臺(tái)配套政策措施,鼓勵(lì)具備“安全+人工智能”完整解決方案的鏈主企業(yè),針對(duì)人工智能應(yīng)用所涉及的基座模型、知識(shí)庫(kù)、智能體等安全問(wèn)題,基于安全大模型技術(shù)開(kāi)展研發(fā)工作,加速推動(dòng)技術(shù)成果轉(zhuǎn)化,將安全要素深度嵌入人工智能應(yīng)用全流程。

  另一方面,組建產(chǎn)業(yè)聯(lián)盟,推廣安全產(chǎn)品。引導(dǎo)相關(guān)鏈主企業(yè)發(fā)揮牽頭作用,廣泛吸納產(chǎn)業(yè)鏈上下游企業(yè)、科研機(jī)構(gòu)及終端用戶,組建人工智能大模型安全聯(lián)盟,在聯(lián)盟內(nèi)部實(shí)現(xiàn)技術(shù)成果共享,共同開(kāi)展產(chǎn)品及服務(wù)測(cè)試,待產(chǎn)品與服務(wù)成熟穩(wěn)定后,向更廣闊的市場(chǎng)加以推廣,助力大模型安全保障普及至千行百業(yè)。

責(zé)編:鞏小龍

審核:田連鋒

責(zé)編:田連鋒