在BCS大會(huì)開(kāi)幕式上，全國(guó)工商聯(lián)副主席、中國(guó)民間商會(huì)副會(huì)長(zhǎng)汪鴻雁，中國(guó)友誼促進(jìn)會(huì)理事長(zhǎng)、國(guó)家網(wǎng)信辦原副主任陳智敏，中國(guó)職業(yè)技術(shù)教育學(xué)會(huì)會(huì)長(zhǎng)、教育部原副部長(zhǎng)魯昕，北京市政府副秘書(shū)長(zhǎng)許心超，中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長(zhǎng)王營(yíng)康，中國(guó)電子信息產(chǎn)業(yè)集團(tuán)有限公司總經(jīng)理李立功致開(kāi)幕辭。中國(guó)工程院院士、鵬城實(shí)驗(yàn)室主任、北京大學(xué)博雅講席教授高文，中國(guó)工程院院士、同濟(jì)大學(xué)講席教授蔣昌俊，巴基斯坦NCERT主席、國(guó)際工程技術(shù)學(xué)會(huì)會(huì)士、英國(guó)計(jì)算機(jī)學(xué)會(huì)會(huì)士阿巴斯•海德?tīng)�，先進(jìn)計(jì)算與關(guān)鍵軟件（信創(chuàng)）海河實(shí)驗(yàn)室主任、中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長(zhǎng)龔克，F(xiàn)orrester 副總裁兼高級(jí)研究總監(jiān)弗雷德里克•吉隆，國(guó)家電網(wǎng)有限公司副總信息師、中國(guó)電機(jī)工程學(xué)會(huì)會(huì)士王繼業(yè)，全國(guó)政協(xié)委員、全國(guó)工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東出席論壇并發(fā)表主旨演講。
2024全球數(shù)字經(jīng)濟(jì)大會(huì)數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會(huì)戰(zhàn)略峰會(huì)開(kāi)幕式
“當(dāng)前，我國(guó)新一代人工智能正在與實(shí)體經(jīng)濟(jì)深度融合，廣泛應(yīng)用于社會(huì)民生領(lǐng)域，激發(fā)創(chuàng)新活力和社會(huì)潛能。”在致辭中，陳智敏等多位嘉賓均表示，安全是發(fā)展的前提，發(fā)展是安全的保障，本次大會(huì)以“AI驅(qū)動(dòng)安全”為主題，具有很強(qiáng)的前瞻性和現(xiàn)實(shí)意義。
本次大會(huì)歷時(shí)兩天，共舉辦2場(chǎng)峰會(huì)、20多場(chǎng)分論壇，2場(chǎng)大賽，邀請(qǐng)了來(lái)自10多個(gè)國(guó)家和地區(qū)的上百位專(zhuān)家學(xué)者、10多個(gè)行業(yè)領(lǐng)域的200多家企業(yè)的代表，分享人工智能發(fā)展的研究、實(shí)踐或建議，并就AI驅(qū)動(dòng)安全在數(shù)據(jù)、能源、金融、交通、制造等領(lǐng)域的情況展開(kāi)廣泛討論，預(yù)計(jì)吸引6000余人參會(huì)。
據(jù)了解，作為具有全球影響力的網(wǎng)絡(luò)安全大會(huì)，BCS大會(huì)已成功舉辦五屆，先后有來(lái)自中、美、俄、法、日、以等30多個(gè)國(guó)家和地區(qū)，超2000位政要、行業(yè)領(lǐng)袖、網(wǎng)絡(luò)安全專(zhuān)家出席并分享精彩觀點(diǎn)。
AI重塑網(wǎng)絡(luò)安全發(fā)展態(tài)勢(shì)
“各行各業(yè)網(wǎng)絡(luò)化、數(shù)字化、智能化轉(zhuǎn)型加速，以數(shù)據(jù)為關(guān)鍵要素的新產(chǎn)業(yè)，以人工智能為關(guān)鍵技術(shù)的新場(chǎng)景，面臨的安全挑戰(zhàn)更加復(fù)雜，各類(lèi)攻擊威脅與日俱增。”許心超在致辭中說(shuō)。
在王營(yíng)康看來(lái)，人工智能帶來(lái)的安全挑戰(zhàn)和攻擊威脅尤其值得關(guān)注。“隨著人工智能技術(shù)的發(fā)展，攻擊者可利用人工智能技術(shù)生成網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)釣魚(yú)工具等，網(wǎng)絡(luò)安全從人人對(duì)抗、人機(jī)對(duì)抗逐漸向基于人工智能的攻防對(duì)抗演化。”
根據(jù)奇安信發(fā)布的《2024人工智能安全報(bào)告》，AI既放大現(xiàn)有網(wǎng)絡(luò)安全威脅，又引入了新型威脅，引發(fā)網(wǎng)絡(luò)安全事件指數(shù)級(jí)增長(zhǎng)。其中，2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚(yú)郵件數(shù)量增長(zhǎng)了1000%。一項(xiàng)對(duì)IT行業(yè)領(lǐng)導(dǎo)者進(jìn)行的關(guān)于ChatGPT等大模型的調(diào)查顯示，安全性是受訪者最關(guān)心的問(wèn)題，71％的受訪者認(rèn)為生成式人工智能會(huì)給企業(yè)數(shù)據(jù)安全帶來(lái)新的風(fēng)險(xiǎn)。
面對(duì)人工智能時(shí)代新的網(wǎng)絡(luò)安全態(tài)勢(shì)，2024年政府工作報(bào)告提到，“加強(qiáng)重點(diǎn)領(lǐng)域安全能力建設(shè)”“提高網(wǎng)絡(luò)、數(shù)據(jù)等安全保障能力”。在本次BCS大會(huì)上，與會(huì)嘉賓們呼吁進(jìn)一步提高對(duì)網(wǎng)絡(luò)安全態(tài)勢(shì)的重視，強(qiáng)化體系化安全能力建設(shè)。
“數(shù)據(jù)安全是人工智能安全的前提和基礎(chǔ)。” 陳智敏認(rèn)為，要從網(wǎng)絡(luò)安全保衛(wèi)向數(shù)據(jù)安全保衛(wèi)的工作模式拓展，為構(gòu)建與數(shù)字生產(chǎn)力相適應(yīng)的新型生產(chǎn)關(guān)系奠定基礎(chǔ)。
魯昕指出，建設(shè)網(wǎng)絡(luò)安全強(qiáng)國(guó)、數(shù)字中國(guó)，培養(yǎng)符合網(wǎng)絡(luò)安全發(fā)展戰(zhàn)略需求的高素質(zhì)技術(shù)技能人才，是保障國(guó)家安全和贏得產(chǎn)業(yè)發(fā)展主動(dòng)權(quán)的基礎(chǔ)和關(guān)鍵。
王營(yíng)康建議，要統(tǒng)籌網(wǎng)絡(luò)安全各方力量，構(gòu)建大網(wǎng)絡(luò)安全工作格局，推動(dòng)形成體系化防御能力；要統(tǒng)籌高質(zhì)量發(fā)展與高水平安全，推動(dòng)形成人工智能綜合治理體系；要堅(jiān)持網(wǎng)絡(luò)安全教育、技術(shù)、產(chǎn)業(yè)融合發(fā)展，推動(dòng)形成人才培養(yǎng)、技術(shù)創(chuàng)新、產(chǎn)業(yè)發(fā)展的良性生態(tài)。
AI激發(fā)網(wǎng)安行業(yè)新質(zhì)生產(chǎn)力
“AI驅(qū)動(dòng)安全是大勢(shì)所趨，未來(lái)網(wǎng)絡(luò)攻防就是得AI者得天下。誰(shuí)能提前抓住AI變革的機(jī)遇，誰(shuí)就能掌握網(wǎng)絡(luò)空間安全的主動(dòng)權(quán)。”在主旨演講中，齊向東判斷，當(dāng)前網(wǎng)絡(luò)安全格局正在被顛覆重構(gòu)，但這種顛覆重構(gòu)不僅帶來(lái)新的安全挑戰(zhàn)，也為網(wǎng)絡(luò)安全行業(yè)帶來(lái)前所未有的戰(zhàn)略機(jī)遇。
全國(guó)政協(xié)委員、全國(guó)工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東
對(duì)此，阿巴斯•海德?tīng)柹畋碚J(rèn)同。他在題為《人工智能悖論：加強(qiáng)網(wǎng)絡(luò)安全還是加劇威脅》的主旨演講中說(shuō)，大型語(yǔ)言模型（LLM）正徹底改變網(wǎng)絡(luò)安全形勢(shì)，AI在網(wǎng)絡(luò)安全領(lǐng)域帶來(lái)的既有挑戰(zhàn)，也有機(jī)遇。例如，網(wǎng)絡(luò)罪犯會(huì)使用AI生成具有強(qiáng)欺騙性的網(wǎng)絡(luò)仿冒郵件，但企業(yè)也可以用AI完成威脅檢測(cè)和事件響應(yīng)、處置。
那么，如何盡快發(fā)揮AI賦能網(wǎng)絡(luò)安全的積極作用，實(shí)現(xiàn)“用魔法打敗魔法”？與會(huì)專(zhuān)家給出了豐富的解決方案。
“人工智能是新質(zhì)生產(chǎn)力，智能化大勢(shì)不可阻擋。不發(fā)展是最大的不安全，要發(fā)展AI促安全。” 作為人工智能治理領(lǐng)域的知名專(zhuān)家，龔克呼吁推進(jìn)AI與網(wǎng)絡(luò)安全融合創(chuàng)新。
在龔克看來(lái)，一方面，人工智能的發(fā)展推動(dòng)了網(wǎng)絡(luò)安全技術(shù)的創(chuàng)新。例如，基于深度學(xué)習(xí)的惡意軟件檢測(cè)、用戶(hù)行為分析等新技術(shù)不斷涌現(xiàn)，提高了網(wǎng)絡(luò)安全的防護(hù)能力。另一方面，人工智能的自動(dòng)化和智能化特性又可以大大提高網(wǎng)絡(luò)安全管理的效率。通過(guò)自動(dòng)化檢測(cè)、響應(yīng)和風(fēng)險(xiǎn)評(píng)估等流程，可以更快地應(yīng)對(duì)網(wǎng)絡(luò)威脅，減少潛在損失。
“既然AI這么好，是不是趕緊裝上一個(gè)AI大模型就可以了？”齊向東提醒，AI大模型不是萬(wàn)能鑰匙。尤其是在當(dāng)前“百模大戰(zhàn)”的狀態(tài)下，只有高質(zhì)量發(fā)展的大模型，才能真正帶來(lái)指數(shù)級(jí)能力躍升，激發(fā)網(wǎng)絡(luò)安全行業(yè)的新質(zhì)生產(chǎn)力。
在齊向東看來(lái)，做好“AI驅(qū)動(dòng)安全”至少需要具備三大條件：其一，高質(zhì)量的訓(xùn)練數(shù)據(jù)；其二，縱深防御的內(nèi)生安全體系；其三，設(shè)備、體系具有統(tǒng)一的輸入輸出標(biāo)準(zhǔn)。
AI驅(qū)動(dòng)安全成效初顯
“依托大數(shù)據(jù)平臺(tái)，加強(qiáng)人工智能與網(wǎng)絡(luò)安全的融合，研究基于人工智能的風(fēng)險(xiǎn)異常檢測(cè)方法，開(kāi)展網(wǎng)絡(luò)安全關(guān)聯(lián)分析、事件處置和調(diào)查溯源，強(qiáng)化網(wǎng)絡(luò)安全威脅監(jiān)測(cè)和應(yīng)急處置，實(shí)現(xiàn)網(wǎng)絡(luò)安全事件的智能響應(yīng)、聯(lián)動(dòng)防御。”王繼業(yè)介紹了國(guó)家電網(wǎng)探索人工智能在“守護(hù)網(wǎng)絡(luò)安全，助力能源轉(zhuǎn)型”中的最新實(shí)踐情況。
實(shí)際上，不僅局限于電力能源領(lǐng)域，很多機(jī)構(gòu)正快速推進(jìn)AI在網(wǎng)絡(luò)安全領(lǐng)域落地生根，“AI驅(qū)動(dòng)安全”已呈現(xiàn)出百花齊放之勢(shì)。例如，作為網(wǎng)絡(luò)安全領(lǐng)域原創(chuàng)技術(shù)策源地總體單位，奇安信以科技創(chuàng)新推動(dòng)產(chǎn)業(yè)創(chuàng)新，于今年3月對(duì)外正式發(fā)售了“AI驅(qū)動(dòng)安全”的代表性產(chǎn)品：QAX-GPT安全機(jī)器人。
據(jù)介紹，目前QAX-GPT安全機(jī)器人已經(jīng)被應(yīng)用于金融、能源、交通等多個(gè)領(lǐng)域的頭部企業(yè)，帶來(lái)了威脅發(fā)現(xiàn)和研判、安全運(yùn)營(yíng)、智能攻防等能力的提升與飛躍。其中，QAX-GPT安全機(jī)器人對(duì)真實(shí)網(wǎng)絡(luò)風(fēng)險(xiǎn)事件研判準(zhǔn)確率接近100%，可以消除80%以上無(wú)效告警，助力企業(yè)網(wǎng)絡(luò)安全運(yùn)營(yíng)效率提升逾60倍。
隨著網(wǎng)絡(luò)安全領(lǐng)域智能化產(chǎn)品落地，相關(guān)市場(chǎng)的規(guī)模快速增長(zhǎng)。有關(guān)統(tǒng)計(jì)顯示，網(wǎng)絡(luò)安全領(lǐng)域的人工智能產(chǎn)品市場(chǎng)將從2017年的39.2億美元增長(zhǎng)到2025年的348.1億美元，預(yù)測(cè)期內(nèi)的復(fù)合年增長(zhǎng)率為31.38%。
據(jù)許心超介紹，北京市已將數(shù)字安全產(chǎn)業(yè)作為全市重點(diǎn)發(fā)展的高精尖產(chǎn)業(yè)，目前已經(jīng)匯聚數(shù)字安全企業(yè)1025家；2023年北京市數(shù)字安全企業(yè)收入達(dá)到996億元，產(chǎn)業(yè)帶動(dòng)作用凸顯。
“人工智能是引領(lǐng)未來(lái)的戰(zhàn)略性技術(shù)，是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。本次大會(huì)以‘AI驅(qū)動(dòng)安全’為主題，旨在將AI作為網(wǎng)絡(luò)安全的驅(qū)動(dòng)力，幫助專(zhuān)家快速的識(shí)別、追溯和處置安全威脅，提升網(wǎng)絡(luò)安全防御的智能化水平。”展望未來(lái)，李立功對(duì)AI驅(qū)動(dòng)安全的進(jìn)一步落地應(yīng)用充滿(mǎn)了期待。