8月28日至29日舉辦的首屆網(wǎng)絡(luò )空間安全（天津）高峰論壇上，近800位來(lái)自網(wǎng)絡(luò )安全領(lǐng)域的官員、專(zhuān)家學(xué)者和科研機構、院校、企業(yè)代表齊聚一堂，共話(huà)網(wǎng)絡(luò )空間安全形勢、共享網(wǎng)絡(luò )安全理念、共商網(wǎng)絡(luò )安全對策。

　　隨著(zhù)人工智能的出現，網(wǎng)絡(luò )信息技術(shù)迭代升級加速，網(wǎng)絡(luò )安全領(lǐng)域新情況、新問(wèn)題、新挑戰層出不窮，影響全球經(jīng)濟格局、發(fā)展格局、安全格局，也給網(wǎng)絡(luò )安全保障提出了更高要求。部分業(yè)內人士認為，應強化風(fēng)險意識，建立有效的風(fēng)險預警和應對機制。同時(shí)，各方應加強交流與合作，不斷提升網(wǎng)絡(luò )安全水平。

　　人工智能產(chǎn)業(yè)在規范中發(fā)展、發(fā)展中規范

　　今年，生成式人工智能熱潮席卷全球。目前，國內的百度、科大訊飛等企業(yè)機構已推出自己的大模型產(chǎn)品。

　　部分專(zhuān)家判斷，生成式人工智能將引發(fā)新一輪人工智能革命，人類(lèi)與機器、技術(shù)與產(chǎn)業(yè)、虛擬與現實(shí)之間的關(guān)系正在發(fā)生廣泛而深刻的變化，技術(shù)創(chuàng )新也給人類(lèi)社會(huì )文明秩序帶來(lái)了挑戰。

　　對此，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、國家廣播電視總局公布的《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》）于8月15日起正式實(shí)施。這是我國首個(gè)針對生成式人工智能產(chǎn)業(yè)的規范性政策?！掇k法》明確鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng )新應用，生成積極健康、向上向善的優(yōu)質(zhì)內容，探索優(yōu)化應用場(chǎng)景，構建應用生態(tài)體系。

　　360集團創(chuàng )始人周鴻祎認為，《辦法》內容表明了有關(guān)部門(mén)鼓勵創(chuàng )新，支持大模型發(fā)展的態(tài)度，為科技企業(yè)創(chuàng )新提供了信心和保障?！掇k法》還明確了適用邊界，既能夠規范大模型的公眾服務(wù)，同時(shí)也有利于組織機構的研發(fā)和應用。

　　“產(chǎn)業(yè)數字化戰略背景下，大模型作為工業(yè)革命級的生產(chǎn)力工具，應當幫助傳統產(chǎn)業(yè)特別是制造業(yè)實(shí)現數字化轉型、智能化升級?！掇k法》對推動(dòng)大模型在企業(yè)級場(chǎng)景的落地有積極意義?！敝茗櫟t說(shuō)。

　　出席論壇的國家網(wǎng)信辦有關(guān)負責人表示，生成式人工智能首先要統籌發(fā)展和安全?！拔覀兩钪斯ぶ悄苁墙裉旒夹g(shù)發(fā)展方向，生成式人工智能是人工智能的重要內容，它必將對我們的經(jīng)濟社會(huì )發(fā)展、人民群眾的生活發(fā)揮重要作用；同時(shí)，我們也要看到生成式人工智能可能帶來(lái)的安全風(fēng)險，需要法律、標準規范引領(lǐng)?！彼f(shuō)。

　　出席論壇的工業(yè)和信息化部有關(guān)負責人表示，工信部系統推進(jìn)網(wǎng)絡(luò )安全的保障體系和能力建設，取得積極成效，關(guān)鍵信息基礎設施的保護、工信領(lǐng)域的數據安全、新型基礎設施安全等一批標準陸續出臺，網(wǎng)絡(luò )空間環(huán)境大幅改善，人民群眾利益得到了切實(shí)保護。

　　“我國針對大模型的安全管理政策是科學(xué)且務(wù)實(shí)的?！卑俣劝踩笨偨?jīng)理包沉浮說(shuō)。

　　多位專(zhuān)家表示，加強生成式人工智能的發(fā)展、應用、管理，目的是把技術(shù)轉變?yōu)樯a(chǎn)力，讓人工智能技術(shù)在經(jīng)濟社會(huì )發(fā)展中發(fā)揮更大的作用。

　　人工智能為網(wǎng)絡(luò )安全治理帶來(lái)新挑戰

　　“人工智能在網(wǎng)絡(luò )安全領(lǐng)域給攻防雙方都帶來(lái)了變革?！睔⒍拒浖髽I(yè)安博士中國區首席執行官沈珉奎說(shuō)。公安部網(wǎng)絡(luò )安全保衛局楊骎博士也表示，人工智能正在降低網(wǎng)絡(luò )犯罪的門(mén)檻。

　　在個(gè)人層面，人工智能降低個(gè)人網(wǎng)絡(luò )犯罪門(mén)檻。美國專(zhuān)業(yè)安全技術(shù)公司邁克菲市場(chǎng)總監泰勒·麥基說(shuō)，“我發(fā)現暗網(wǎng)上有很多暗黑版的GPT，價(jià)格低廉，容易獲取，有的每個(gè)月只需花90美元就能訂閱使用。這些暗黑版GPT不但能寫(xiě)釣魚(yú)郵件，還能編寫(xiě)惡意程序代碼?！?/p>

　　技術(shù)“小白”也能通過(guò)簡(jiǎn)單的問(wèn)答方式實(shí)施黑客攻擊，這相當于給了普通人一本“武林秘籍”，讓不懂代碼、不懂技術(shù)的普通人成為黑客。此外，近期，通過(guò)AI換臉和擬聲技術(shù)獲取信任進(jìn)行詐騙的案例屢見(jiàn)不鮮?！爸恍枰獛酌腌姷恼Z(yǔ)音樣本或者一些視頻，就可以假亂真，利用人工智能詐騙，人們很難辨別?！碧├铡溁f(shuō)。

　　在社會(huì )層面，人工智能偽造虛假信息會(huì )誤導社會(huì )公眾。人工智能深度偽造軟件簡(jiǎn)單易用，能輕松將面部表情、技術(shù)動(dòng)作和聲音三者融為一體，這種平民化和社會(huì )娛樂(lè )化的工具，使得大規模、低成本的針對個(gè)人的惡搞乃至污蔑成為可能。從娛樂(lè )到工作，從新聞到科普，無(wú)處不見(jiàn)人工智能的身影，它們以驚人的速度和數量回答問(wèn)題、發(fā)布文章、制作圖片，但往往缺乏真實(shí)性、準確性。楊骎舉例說(shuō)，利用人工智能技術(shù)制作虛假新聞事件，對公眾人物制作虛假視頻，容易造成不良引導，影響社會(huì )認知，甚至破壞社會(huì )信任、擾亂社會(huì )秩序。

　　今年6月，浙江紹興警方在網(wǎng)上巡查時(shí)發(fā)現“紹興上虞化工廠(chǎng)發(fā)生重大火災”的視頻，短時(shí)間內瀏覽量迅速攀升。警方核實(shí)后確認視頻為人工智能技術(shù)深度合成，并很快鎖定某科技網(wǎng)絡(luò )公司有較大作案嫌疑。經(jīng)調查，5月以來(lái)，該公司為牟取利益，從網(wǎng)上非法收購一批視頻賬號，通過(guò)人工智能軟件，自動(dòng)生成或拼接制作虛假視頻發(fā)布，以博取流量，并通過(guò)流量算法返款盈利，造成了不良社會(huì )影響。

　　聯(lián)合國安理會(huì )7月18日就人工智能與安全問(wèn)題舉行高級別公開(kāi)會(huì )。中國常駐聯(lián)合國代表張軍在會(huì )上指出，國際社會(huì )要強化風(fēng)險意識，建立有效的風(fēng)險預警和應對機制，確保不發(fā)生超出人類(lèi)掌控的風(fēng)險，確保在關(guān)鍵時(shí)刻人類(lèi)有能力按下停止鍵。

　　呼喚網(wǎng)絡(luò )安全治理新格局

　　面對人工智能時(shí)代，網(wǎng)絡(luò )安全領(lǐng)域的新情況、新問(wèn)題、新挑戰，業(yè)內專(zhuān)家建議，首先，建立縱深化立體化防御體系。深信服科技股份有限公司首席安全官周欣認為，針對多階段和定制化的攻擊，可以建立縱深防御體系解決勒索病毒攻擊的行為。他建議以人工智能技術(shù)為核心，持續對抗未知的樣本攻擊?！拔覀兿Ｍ谩Хā瘜埂Хā?，用人工智能打敗人工智能，我們企業(yè)也在進(jìn)行有益嘗試?！彼f(shuō)。

　　其次，建設一體化網(wǎng)絡(luò )安全運營(yíng)中心。奇安信科技集團董事長(cháng)齊向東表示，做好安全合規不能只從簡(jiǎn)單的產(chǎn)品堆砌入手，要配合安全體系從管理、技術(shù)、運營(yíng)三個(gè)角度開(kāi)展安全運營(yíng)治理和防護工作，要建立“人+數據+智能”的運營(yíng)體系，讓安全能力真正活起來(lái)。

　　“只有這樣才能實(shí)現多元數據的匯聚，對安全風(fēng)險進(jìn)行整體的態(tài)勢感知，在遭到威脅和網(wǎng)絡(luò )攻擊的時(shí)候能夠及時(shí)預警和響應，完成對安全事件的閉環(huán)處置?！饼R向東說(shuō)。

　　此外，還應深化國際交流，推進(jìn)網(wǎng)絡(luò )安全技術(shù)新發(fā)展。俄羅斯卡巴斯基實(shí)驗室創(chuàng )始人尤金·卡巴斯基表示，要打擊散布全球的網(wǎng)絡(luò )罪犯，執法部門(mén)之間的國際合作至關(guān)重要。國家計算機病毒應急處理中心主任陳玉東說(shuō)，網(wǎng)絡(luò )安全是開(kāi)放的而不是封閉的，只有立足開(kāi)放環(huán)境，加強交流合作，吸收借鑒先進(jìn)技術(shù)，網(wǎng)絡(luò )安全水平才會(huì )不斷提高。

　　“推動(dòng)網(wǎng)絡(luò )空間國際治理進(jìn)程，需要發(fā)揮信息化對經(jīng)濟社會(huì )發(fā)展的引領(lǐng)作用，積極利用法律法規和標準規范引導新技術(shù)應用，自主創(chuàng )新推進(jìn)網(wǎng)絡(luò )安全技術(shù)提升，以技術(shù)創(chuàng )新夯實(shí)網(wǎng)絡(luò )安全基礎?！标愑駯|說(shuō)。

　　“各方應繼續努力，進(jìn)一步搭建合作交流的平臺，共同建立更加科學(xué)完善的網(wǎng)絡(luò )安全威脅應對處置機制，攜手構建網(wǎng)絡(luò )空間命運共同體?！薄√旖蚴懈笔虚L(cháng)、市公安局長(cháng)衡曉帆表示。