8月28日至29日舉辦的首屆網(wǎng)絡(luò)空間安全(天津)高峰論壇上,,近800位來(lái)自網(wǎng)絡(luò)安全領(lǐng)域的官員、專家學(xué)者和科研機(jī)構(gòu),、院校,、企業(yè)代表齊聚一堂,,共話網(wǎng)絡(luò)空間安全形勢(shì)、共享網(wǎng)絡(luò)安全理念、共商網(wǎng)絡(luò)安全對(duì)策,。
隨著人工智能的出現(xiàn),,網(wǎng)絡(luò)信息技術(shù)迭代升級(jí)加速,網(wǎng)絡(luò)安全領(lǐng)域新情況,、新問(wèn)題,、新挑戰(zhàn)層出不窮,影響全球經(jīng)濟(jì)格局,、發(fā)展格局,、安全格局,也給網(wǎng)絡(luò)安全保障提出了更高要求,。部分業(yè)內(nèi)人士認(rèn)為,,應(yīng)強(qiáng)化風(fēng)險(xiǎn)意識(shí),建立有效的風(fēng)險(xiǎn)預(yù)警和應(yīng)對(duì)機(jī)制,。同時(shí),,各方應(yīng)加強(qiáng)交流與合作,不斷提升網(wǎng)絡(luò)安全水平,。
人工智能產(chǎn)業(yè)在規(guī)范中發(fā)展,、發(fā)展中規(guī)范
今年,生成式人工智能熱潮席卷全球,。目前,,國(guó)內(nèi)的百度、科大訊飛等企業(yè)機(jī)構(gòu)已推出自己的大模型產(chǎn)品,。
部分專家判斷,,生成式人工智能將引發(fā)新一輪人工智能革命,人類與機(jī)器,、技術(shù)與產(chǎn)業(yè),、虛擬與現(xiàn)實(shí)之間的關(guān)系正在發(fā)生廣泛而深刻的變化,技術(shù)創(chuàng)新也給人類社會(huì)文明秩序帶來(lái)了挑戰(zhàn),。
對(duì)此,,國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部,、科技部,、工業(yè)和信息化部、公安部,、國(guó)家廣播電視總局公布的《生成式人工智能服務(wù)管理暫行辦法》(以下簡(jiǎn)稱《辦法》)于8月15日起正式實(shí)施,。這是我國(guó)首個(gè)針對(duì)生成式人工智能產(chǎn)業(yè)的規(guī)范性政策?!掇k法》明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用,,生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容,,探索優(yōu)化應(yīng)用場(chǎng)景,,構(gòu)建應(yīng)用生態(tài)體系。
360集團(tuán)創(chuàng)始人周鴻祎認(rèn)為,,《辦法》內(nèi)容表明了有關(guān)部門(mén)鼓勵(lì)創(chuàng)新,,支持大模型發(fā)展的態(tài)度,為科技企業(yè)創(chuàng)新提供了信心和保障,?!掇k法》還明確了適用邊界,既能夠規(guī)范大模型的公眾服務(wù),,同時(shí)也有利于組織機(jī)構(gòu)的研發(fā)和應(yīng)用,。
“產(chǎn)業(yè)數(shù)字化戰(zhàn)略背景下,大模型作為工業(yè)革命級(jí)的生產(chǎn)力工具,,應(yīng)當(dāng)幫助傳統(tǒng)產(chǎn)業(yè)特別是制造業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型,、智能化升級(jí)?!掇k法》對(duì)推動(dòng)大模型在企業(yè)級(jí)場(chǎng)景的落地有積極意義,。”周鴻祎說(shuō),。
出席論壇的國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,,生成式人工智能首先要統(tǒng)籌發(fā)展和安全?!拔覀兩钪斯ぶ悄苁墙裉旒夹g(shù)發(fā)展方向,,生成式人工智能是人工智能的重要內(nèi)容,它必將對(duì)我們的經(jīng)濟(jì)社會(huì)發(fā)展,、人民群眾的生活發(fā)揮重要作用,;同時(shí),我們也要看到生成式人工智能可能帶來(lái)的安全風(fēng)險(xiǎn),,需要法律,、標(biāo)準(zhǔn)規(guī)范引領(lǐng)?!彼f(shuō),。
出席論壇的工業(yè)和信息化部有關(guān)負(fù)責(zé)人表示,工信部系統(tǒng)推進(jìn)網(wǎng)絡(luò)安全的保障體系和能力建設(shè),,取得積極成效,,關(guān)鍵信息基礎(chǔ)設(shè)施的保護(hù)、工信領(lǐng)域的數(shù)據(jù)安全,、新型基礎(chǔ)設(shè)施安全等一批標(biāo)準(zhǔn)陸續(xù)出臺(tái),,網(wǎng)絡(luò)空間環(huán)境大幅改善,,人民群眾利益得到了切實(shí)保護(hù)。
“我國(guó)針對(duì)大模型的安全管理政策是科學(xué)且務(wù)實(shí)的,。”百度安全副總經(jīng)理包沉浮說(shuō),。
多位專家表示,,加強(qiáng)生成式人工智能的發(fā)展、應(yīng)用,、管理,,目的是把技術(shù)轉(zhuǎn)變?yōu)樯a(chǎn)力,讓人工智能技術(shù)在經(jīng)濟(jì)社會(huì)發(fā)展中發(fā)揮更大的作用,。
人工智能為網(wǎng)絡(luò)安全治理帶來(lái)新挑戰(zhàn)
“人工智能在網(wǎng)絡(luò)安全領(lǐng)域給攻防雙方都帶來(lái)了變革,。”殺毒軟件企業(yè)安博士中國(guó)區(qū)首席執(zhí)行官沈珉奎說(shuō),。公安部網(wǎng)絡(luò)安全保衛(wèi)局楊骎博士也表示,,人工智能正在降低網(wǎng)絡(luò)犯罪的門(mén)檻。
在個(gè)人層面,,人工智能降低個(gè)人網(wǎng)絡(luò)犯罪門(mén)檻,。美國(guó)專業(yè)安全技術(shù)公司邁克菲市場(chǎng)總監(jiān)泰勒·麥基說(shuō),“我發(fā)現(xiàn)暗網(wǎng)上有很多暗黑版的GPT,,價(jià)格低廉,,容易獲取,有的每個(gè)月只需花90美元就能訂閱使用,。這些暗黑版GPT不但能寫(xiě)釣魚(yú)郵件,,還能編寫(xiě)惡意程序代碼?!?/p>
技術(shù)“小白”也能通過(guò)簡(jiǎn)單的問(wèn)答方式實(shí)施黑客攻擊,,這相當(dāng)于給了普通人一本“武林秘籍”,讓不懂代碼,、不懂技術(shù)的普通人成為黑客,。此外,近期,,通過(guò)AI換臉和擬聲技術(shù)獲取信任進(jìn)行詐騙的案例屢見(jiàn)不鮮,。“只需要幾秒鐘的語(yǔ)音樣本或者一些視頻,,就可以假亂真,,利用人工智能詐騙,人們很難辨別,?!碧├铡溁f(shuō),。
在社會(huì)層面,人工智能偽造虛假信息會(huì)誤導(dǎo)社會(huì)公眾,。人工智能深度偽造軟件簡(jiǎn)單易用,,能輕松將面部表情、技術(shù)動(dòng)作和聲音三者融為一體,,這種平民化和社會(huì)娛樂(lè)化的工具,,使得大規(guī)模、低成本的針對(duì)個(gè)人的惡搞乃至污蔑成為可能,。從娛樂(lè)到工作,,從新聞到科普,無(wú)處不見(jiàn)人工智能的身影,,它們以驚人的速度和數(shù)量回答問(wèn)題,、發(fā)布文章、制作圖片,,但往往缺乏真實(shí)性,、準(zhǔn)確性。楊骎舉例說(shuō),,利用人工智能技術(shù)制作虛假新聞事件,,對(duì)公眾人物制作虛假視頻,容易造成不良引導(dǎo),,影響社會(huì)認(rèn)知,,甚至破壞社會(huì)信任、擾亂社會(huì)秩序,。
今年6月,,浙江紹興警方在網(wǎng)上巡查時(shí)發(fā)現(xiàn)“紹興上虞化工廠發(fā)生重大火災(zāi)”的視頻,短時(shí)間內(nèi)瀏覽量迅速攀升,。警方核實(shí)后確認(rèn)視頻為人工智能技術(shù)深度合成,,并很快鎖定某科技網(wǎng)絡(luò)公司有較大作案嫌疑。經(jīng)調(diào)查,,5月以來(lái),,該公司為牟取利益,從網(wǎng)上非法收購(gòu)一批視頻賬號(hào),,通過(guò)人工智能軟件,,自動(dòng)生成或拼接制作虛假視頻發(fā)布,以博取流量,,并通過(guò)流量算法返款盈利,,造成了不良社會(huì)影響。
聯(lián)合國(guó)安理會(huì)7月18日就人工智能與安全問(wèn)題舉行高級(jí)別公開(kāi)會(huì)。中國(guó)常駐聯(lián)合國(guó)代表張軍在會(huì)上指出,,國(guó)際社會(huì)要強(qiáng)化風(fēng)險(xiǎn)意識(shí),,建立有效的風(fēng)險(xiǎn)預(yù)警和應(yīng)對(duì)機(jī)制,確保不發(fā)生超出人類掌控的風(fēng)險(xiǎn),,確保在關(guān)鍵時(shí)刻人類有能力按下停止鍵,。
呼喚網(wǎng)絡(luò)安全治理新格局
面對(duì)人工智能時(shí)代,網(wǎng)絡(luò)安全領(lǐng)域的新情況,、新問(wèn)題,、新挑戰(zhàn),業(yè)內(nèi)專家建議,,首先,建立縱深化立體化防御體系,。深信服科技股份有限公司首席安全官周欣認(rèn)為,,針對(duì)多階段和定制化的攻擊,可以建立縱深防御體系解決勒索病毒攻擊的行為,。他建議以人工智能技術(shù)為核心,,持續(xù)對(duì)抗未知的樣本攻擊?!拔覀兿M谩Хā瘜?duì)抗‘魔法’,,用人工智能打敗人工智能,我們企業(yè)也在進(jìn)行有益嘗試,?!彼f(shuō)。
其次,,建設(shè)一體化網(wǎng)絡(luò)安全運(yùn)營(yíng)中心,。奇安信科技集團(tuán)董事長(zhǎng)齊向東表示,做好安全合規(guī)不能只從簡(jiǎn)單的產(chǎn)品堆砌入手,,要配合安全體系從管理,、技術(shù)、運(yùn)營(yíng)三個(gè)角度開(kāi)展安全運(yùn)營(yíng)治理和防護(hù)工作,,要建立“人+數(shù)據(jù)+智能”的運(yùn)營(yíng)體系,,讓安全能力真正活起來(lái)。
“只有這樣才能實(shí)現(xiàn)多元數(shù)據(jù)的匯聚,,對(duì)安全風(fēng)險(xiǎn)進(jìn)行整體的態(tài)勢(shì)感知,,在遭到威脅和網(wǎng)絡(luò)攻擊的時(shí)候能夠及時(shí)預(yù)警和響應(yīng),完成對(duì)安全事件的閉環(huán)處置,?!饼R向東說(shuō)。
此外,,還應(yīng)深化國(guó)際交流,,推進(jìn)網(wǎng)絡(luò)安全技術(shù)新發(fā)展,。俄羅斯卡巴斯基實(shí)驗(yàn)室創(chuàng)始人尤金·卡巴斯基表示,要打擊散布全球的網(wǎng)絡(luò)罪犯,,執(zhí)法部門(mén)之間的國(guó)際合作至關(guān)重要,。國(guó)家計(jì)算機(jī)病毒應(yīng)急處理中心主任陳玉東說(shuō),網(wǎng)絡(luò)安全是開(kāi)放的而不是封閉的,,只有立足開(kāi)放環(huán)境,,加強(qiáng)交流合作,吸收借鑒先進(jìn)技術(shù),,網(wǎng)絡(luò)安全水平才會(huì)不斷提高,。
“推動(dòng)網(wǎng)絡(luò)空間國(guó)際治理進(jìn)程,需要發(fā)揮信息化對(duì)經(jīng)濟(jì)社會(huì)發(fā)展的引領(lǐng)作用,,積極利用法律法規(guī)和標(biāo)準(zhǔn)規(guī)范引導(dǎo)新技術(shù)應(yīng)用,,自主創(chuàng)新推進(jìn)網(wǎng)絡(luò)安全技術(shù)提升,以技術(shù)創(chuàng)新夯實(shí)網(wǎng)絡(luò)安全基礎(chǔ),?!标愑駯|說(shuō)。
“各方應(yīng)繼續(xù)努力,,進(jìn)一步搭建合作交流的平臺(tái),,共同建立更加科學(xué)完善的網(wǎng)絡(luò)安全威脅應(yīng)對(duì)處置機(jī)制,攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體,?!薄√旖蚴懈笔虚L(zhǎng)、市公安局長(zhǎng)衡曉帆表示,。
隨著人工智能的出現(xiàn),,網(wǎng)絡(luò)信息技術(shù)迭代升級(jí)加速,,網(wǎng)絡(luò)安全領(lǐng)域新情況、新問(wèn)題,、新挑戰(zhàn)層出不窮,。
通過(guò)建鏈、補(bǔ)鏈,、延鏈,、強(qiáng)鏈,努力實(shí)現(xiàn)從“一業(yè)獨(dú)大”向“多業(yè)支撐”轉(zhuǎn)變,。
經(jīng)濟(jì)參考報(bào)社版權(quán)所有 本站所有新聞內(nèi)容未經(jīng)經(jīng)濟(jì)參考報(bào)協(xié)議授權(quán),,禁止轉(zhuǎn)載使用
新聞線索提供熱線:010-63074375 63072334 報(bào)社地址:北京市宣武門(mén)西大街57號(hào)
JJCKB.CN 京ICP備18039543號(hào)