飛象原創(chuàng)（高靖宇/文）在影視作品《西部世界》中，即便是最先進的機器人也容易受到惡意軟件的攻擊，這讓我們不禁思考，我們能夠在多大程度上掌控人工智能（AI）技術(shù)。在現(xiàn)實世界中，隨著AI大模型技術(shù)的快速發(fā)展，其可能帶來的安全性問題也日益凸顯。
近年來，人工智能技術(shù)取得了令人矚目的進展，特別是大模型正逐步被應(yīng)用于越來越多的場景，與千行百業(yè)加速融合，成為推動數(shù)字科技發(fā)展的關(guān)鍵力量。數(shù)據(jù)顯示，我國已經(jīng)完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達180多個，注冊用戶突破5.64億。
然而，這些大模型在帶來便利和效率的同時，也催生了新的安全風(fēng)險�！段鞑渴澜纭冯m然是虛構(gòu)的故事，但人工智能安全風(fēng)險卻已存在于現(xiàn)實世界，正如一枚硬幣的兩面，AI大模型技術(shù)的發(fā)展帶來了網(wǎng)絡(luò)安全領(lǐng)域的深刻調(diào)整與全新挑戰(zhàn)。
網(wǎng)絡(luò)安全中的“AI”風(fēng)險
伴隨著眾多AI大模型的誕生，AI驅(qū)動的網(wǎng)絡(luò)攻擊也在快速增長，因為有了AI加持之后，發(fā)動網(wǎng)絡(luò)攻擊對于攻擊者而言相比之前更加容易，可以更加高效的組織更加復(fù)雜，規(guī)模更大的安全攻擊。此外，一些黑客還掌握了利用生成式AI等新興技術(shù)實施網(wǎng)絡(luò)犯罪的新手段。
以ChatGPT為例，自其上線以來，便有人擔(dān)憂其可能成為網(wǎng)絡(luò)犯罪的溫床。盡管平臺方已采取了一系列防止惡意應(yīng)用的措施，但創(chuàng)意十足的攻擊者仍能利用生成式AI生成逼真的網(wǎng)絡(luò)釣魚郵件，誘騙用戶泄露敏感信息。此外，AI技術(shù)的深度偽造和語音合成能力也被用于詐騙，使得傳統(tǒng)防御手段難以應(yīng)對。更為嚴峻的是，隨著AI在合法用例中的廣泛應(yīng)用，模型中毒、數(shù)據(jù)泄露、提示注入攻擊等新型漏洞不斷涌現(xiàn)，對網(wǎng)絡(luò)安全構(gòu)成了持續(xù)威脅。
IEEE調(diào)研顯示，2024年將會出現(xiàn)其他更具威脅的網(wǎng)絡(luò)安全問題，包括勒索軟件攻擊（2024年為37%，高于2023年的30%）、網(wǎng)絡(luò)釣魚攻擊（2024年為35%，高于2023年的25%）以及內(nèi)部威脅（2024年為26%，高于2023年的19%）。
中國工程院院士吳世忠表示，由AI技術(shù)帶來的新型安全問題已成為現(xiàn)實，安全行業(yè)將迅速邁進AI驅(qū)動的新時代。然而，大模型安全研究可以說才剛剛開始。無論是安全研究還是安全產(chǎn)業(yè)，都必須緊跟科技進步和應(yīng)用創(chuàng)新，才能服務(wù)好發(fā)展，保障好發(fā)展。
“人工智能等前沿數(shù)字技術(shù)正在重新定義內(nèi)容的生產(chǎn)與消費模式，大模型在企業(yè)運營中應(yīng)用越來越廣泛，必須尋求創(chuàng)新的安全模式，以適應(yīng)這一變化�！敝袊こ淘涸菏苦w賀銓認為，基礎(chǔ)大模型是企業(yè)實現(xiàn)數(shù)字化轉(zhuǎn)型不可或缺的一環(huán)，需要應(yīng)對多項挑戰(zhàn)，包括強大的算力、充足的數(shù)據(jù)、高水平的研材、新應(yīng)用的算法、場景和閉環(huán)的生態(tài)。然而基礎(chǔ)大模型缺少特定行業(yè)的專業(yè)知識，因此需要大模型提供方與垂直行業(yè)合作。
以模治模 網(wǎng)絡(luò)安全發(fā)展新路徑
AI帶來新的安全挑戰(zhàn)，同樣需要AI技術(shù)來解決，這是一場AI技術(shù)的攻防戰(zhàn)。作為中國AI領(lǐng)域的老玩家，360 AI一直深入探索AI大模型在關(guān)鍵行業(yè)中的垂直應(yīng)用，推動大模型重塑安全體系。
360集團創(chuàng)始人周鴻祎表示，面對愈加復(fù)雜的傳統(tǒng)安全問題和大模型帶來新的安全問題，必須用AI重塑安全，以模治模，用安全大模型解決“新老”安全問題。
“不要追求用一個大模型解決所有問題，應(yīng)該讓專業(yè)大模型解決專業(yè)問題�！敝茗櫟t認為，2024年是場景之年，關(guān)鍵要結(jié)合業(yè)務(wù)找“明星場景”，然后根據(jù)場景設(shè)計功能，根據(jù)功能需求對大模型進行專項訓(xùn)練。
在ISC.AI 2024第十二屆互聯(lián)網(wǎng)安全大會上，周鴻祎宣布360安全大模型正式免費。360安全大模型在真實業(yè)務(wù)場景中取得重大突破，通過對全網(wǎng)安全數(shù)據(jù)和知識進行提煉、壓縮和蒸餾，360安全大模型實現(xiàn)對全網(wǎng)安全知識的深度理解。未來，在大模型賦能下，本地安全大腦“無需聯(lián)網(wǎng)”，在封閉網(wǎng)絡(luò)中也能獲得全網(wǎng)數(shù)據(jù)和知識的賦能。
周鴻祎表示，打造安全大模型是安全邁向“自動駕駛”的必由之路，用AI升級安全要有類似自動駕駛的L1-L5級別目標(biāo)，目前360安全大模型已具備L4級“自動駕駛”能力，相當(dāng)于汽車的“高級自動駕駛階段”。
