Joshua Costa，Cortex產(chǎn)品市場總監(jiān)
去年以來，人工智能（AI）技術(shù)已經(jīng)成為主流。而每當(dāng)有新技術(shù)成為主流時，人們都會想方設(shè)法讓其幫助自己的工作和生活變得更輕松。雖然AI技術(shù)的快速普及改善了企業(yè)的運(yùn)作模式，但它同時也為網(wǎng)絡(luò)威脅者制造了新的機(jī)會。
鑒于對手正在利用AI發(fā)起速度更快、范圍更廣且效果更好的網(wǎng)絡(luò)攻擊，企業(yè)也需要在安全防御策略中采用AI予以應(yīng)對。派拓網(wǎng)絡(luò)自主開發(fā)的AI系統(tǒng)Precision AI通過使用豐富的數(shù)據(jù)和特定的安全模型實(shí)現(xiàn)檢測、預(yù)防和修復(fù)的自動化，幫助安全團(tuán)隊(duì)信任AI所帶來的成果。
AI在網(wǎng)絡(luò)攻擊中的應(yīng)用
威脅者總是在尋找阻力最小的攻擊途徑。例如他們會改造惡意軟件并經(jīng)常使用CobaltStrike、Brute Ratel C4等現(xiàn)成的工具抓住弱點(diǎn)，以最小的代價發(fā)起惡意行動。根據(jù)觀察，他們已經(jīng)開始使用新的AI技術(shù)發(fā)動攻擊。隨著新的AI工具上市，威脅者將利用它們自動實(shí)施和增強(qiáng)各種攻擊手段。
威脅者通常將AI用于以下途徑：
·實(shí)施偵察：威脅者通常會在發(fā)動攻擊前，先采集潛在目標(biāo)的相關(guān)信息。借助AI，他們可以從網(wǎng)站、社交媒體平臺和其他在線資源獲取公開信息，收集企業(yè)數(shù)據(jù)，其中可能包括詳細(xì)的個人信息、從屬關(guān)系、人際關(guān)系和其他可用于策劃和實(shí)施網(wǎng)絡(luò)攻擊的有用信息。
·增強(qiáng)社交工程：僅憑語法或拼寫問題就能識別釣魚郵件的時代已經(jīng)過去。通過使用生成式AI聊天機(jī)器人，威脅者可以編寫出縝密的釣魚郵件、網(wǎng)頁和其他內(nèi)容，進(jìn)而提高欺詐成功率。這將使社交工程繼續(xù)成為網(wǎng)絡(luò)攻擊最主要的威脅載體之一。
·開發(fā)惡意代碼：即便是不具備編碼技能的威脅者也能使用AI工具創(chuàng)建惡意軟件和其他代碼。如今，許多AI工具都能通過簡單的指令或輸入來修改或創(chuàng)建代碼。通過創(chuàng)建自定義腳本、開發(fā)新的惡意軟件變體，以及不斷改進(jìn)工具，威脅者能夠避免被發(fā)現(xiàn)并提高攻擊效果。
·自動利用漏洞：AI可用于自動發(fā)現(xiàn)和利用應(yīng)用或系統(tǒng)中的漏洞。借助機(jī)器學(xué)習(xí)技術(shù)，威脅者能快速發(fā)現(xiàn)弱點(diǎn)并大規(guī)模發(fā)起有針對性的攻擊。
·深度偽造攻擊：AI生成的深度偽造視頻、圖像或音頻錄音可用于操縱或欺騙個人。威脅者利用AI技術(shù)編造出以假亂真的虛假內(nèi)容，損害企業(yè)和個人的聲譽(yù)或方便其發(fā)起更大范圍的網(wǎng)絡(luò)攻擊。
·提示注入：生成式AI工具容易受到提示注入攻擊，導(dǎo)致生成的輸出結(jié)果被威脅者操縱。通過讓這些工具以意想不到的方式回答問題，威脅者便可以利用提示注入采集敏感信息，甚至執(zhí)行惡意代碼。
所有這些技術(shù)都讓威脅者能夠更加快速、有效地實(shí)施攻擊。從經(jīng)濟(jì)損失、數(shù)據(jù)泄露，到聲譽(yù)受損、運(yùn)營中斷，這些攻擊可能導(dǎo)致非常嚴(yán)重的后果。此外，AI驅(qū)動的威脅進(jìn)化迅速且適應(yīng)性強(qiáng)，令傳統(tǒng)網(wǎng)絡(luò)安全措施捉襟見肘。由此可見，企業(yè)正面臨前所未有的風(fēng)險，他們需要采取具有前瞻性且適應(yīng)性強(qiáng)的防御措施，以AI防御對抗AI攻擊。
企業(yè)如何運(yùn)用AI應(yīng)對網(wǎng)絡(luò)攻擊
為有效應(yīng)對AI驅(qū)動的網(wǎng)絡(luò)攻擊，企業(yè)需要在防御策略中充分發(fā)揮AI的能力。采取使用AI技術(shù)的安全工具和策略已成為應(yīng)對攻擊的關(guān)鍵。
企業(yè)網(wǎng)絡(luò)安全方案中可以使用AI的關(guān)鍵方面包括：
·威脅檢測與分析：威脅檢測與分析是AI能夠產(chǎn)生重大影響的一個關(guān)鍵領(lǐng)域。使用AI技術(shù)的安全工具能夠通過實(shí)時分析大量數(shù)據(jù)，快速識別異�；顒雍蜐撛诘陌踩录�。借助機(jī)器學(xué)習(xí)算法，企業(yè)可以發(fā)現(xiàn)威脅，并提前采取措施降低風(fēng)險。這些工具擁有實(shí)時響應(yīng)能力，可通過自動調(diào)整防御措施應(yīng)對新出現(xiàn)的威脅。
·安全操作自動化：使用AI技術(shù)的安全工具能自動執(zhí)行各種安全任務(wù)，例如添加數(shù)據(jù)源、拼接不同的警報和擴(kuò)充安全細(xì)節(jié)等。AI還能通過快速分析和關(guān)聯(lián)安全事件、確定事件的嚴(yán)重程度，并提供建議和應(yīng)對措施，幫助實(shí)現(xiàn)事件響應(yīng)自動化。這不僅可以減輕安全團(tuán)隊(duì)的負(fù)擔(dān)、提高效率，還能讓他們專注解決更復(fù)雜、更具戰(zhàn)略意義的安全問題。高保真的自動化能加快平均檢測時間（MTTD）和平均響應(yīng)時間（MTTR），減輕網(wǎng)絡(luò)攻擊的影響，更大程度地縮短漏洞窗口期。
·威脅情報分析：具有前瞻性的威脅情報和預(yù)測分析是網(wǎng)絡(luò)安全策略必不可少的組成部分。AI通過實(shí)時分析各種安全數(shù)據(jù)源，發(fā)現(xiàn)新出現(xiàn)的威脅并預(yù)測潛在的攻擊載體。比如企業(yè)可以充分利用對抗性AI技術(shù)來生成和了解攻擊，以此不斷改進(jìn)防御。借助AI，企業(yè)可以提前部署防御，從而在與對手的對抗中占得先機(jī)并在風(fēng)險演變成全面攻擊之前將其化解。
通過實(shí)施這些策略，企業(yè)將提高其有效檢測和阻止網(wǎng)絡(luò)攻擊的能力。
未來趨勢和建議
展望未來，預(yù)計(jì)AI在網(wǎng)絡(luò)攻擊和防御中的作用將進(jìn)一步增強(qiáng)。威脅者將繼續(xù)改進(jìn)AI驅(qū)動的攻擊技術(shù)，因此網(wǎng)絡(luò)安全策略也要不斷創(chuàng)新。為了在應(yīng)對AI驅(qū)動的威脅時占得先機(jī)，建議企業(yè)優(yōu)先考慮這些事項(xiàng)：
·投資使用AI技術(shù)的網(wǎng)絡(luò)安全解決方案：建議企業(yè)將資源用于落實(shí)使用AI技術(shù)的防御系統(tǒng)，以便實(shí)時適應(yīng)不斷變化的威脅。
·合作并分享威脅情報：與業(yè)界同行和安全社區(qū)分享威脅情報能夠針對AI驅(qū)動的攻擊加強(qiáng)集體防御。
·培養(yǎng)網(wǎng)絡(luò)安全意識文化：通過培訓(xùn)讓員工了解與AI驅(qū)動的網(wǎng)絡(luò)攻擊相關(guān)的風(fēng)險和最佳實(shí)踐，強(qiáng)化企業(yè)的整體安全態(tài)勢。
·緊跟不斷發(fā)展的AI技術(shù)：企業(yè)應(yīng)隨時了解新興AI技術(shù)及其在網(wǎng)絡(luò)攻擊和防御活動中的潛在應(yīng)用。
充分利用AI應(yīng)對網(wǎng)絡(luò)威脅
面對不斷變化的安全環(huán)境，企業(yè)需要意識到對手在攻擊中正愈發(fā)頻繁地使用AI，且只有將AI用于防御才能保護(hù)敏感數(shù)據(jù)、系統(tǒng)和基礎(chǔ)設(shè)施。
通過將AI用于威脅檢測、落實(shí)運(yùn)用AI技術(shù)的防御系統(tǒng)，以及獲得具有前瞻性的威脅情報，企業(yè)能夠加強(qiáng)自身的安全防御，并對AI驅(qū)動的攻擊保持韌性。將AI應(yīng)用于安全環(huán)境不僅是為了跟上對手的步伐，更是為了在應(yīng)對風(fēng)險時贏得先機(jī)。
