AI成為雙刃劍！凱捷調(diào)查：97%組織遭遇過(guò)GenAI漏洞攻擊

極客網(wǎng)·網(wǎng)絡(luò)安全11月22日 調(diào)研機(jī)構(gòu)凱捷研究院（Capgemini Research Institute）近期針對(duì)全球范圍內(nèi)13個(gè)國(guó)家的1000家組織開(kāi)展了一項(xiàng)深入調(diào)查。結(jié)果表明，90%以上的組織在過(guò)去一年中至少經(jīng)歷過(guò)一次網(wǎng)絡(luò)安全漏洞事件，這一比例與2021年的51%相比有了顯著的增長(zhǎng)。

調(diào)查還發(fā)現(xiàn)，在過(guò)去一年中，97%的受訪組織至少經(jīng)歷過(guò)一次與GenAI相關(guān)的安全漏洞攻擊事件。這份名為《新防御、新威脅：AI與GenAI對(duì)網(wǎng)絡(luò)安全的影響》的研究報(bào)告揭示了AI和GenAI在網(wǎng)絡(luò)安全中日益重要的作用，同時(shí)強(qiáng)調(diào)了在采用這些技術(shù)過(guò)程中存在的重大漏洞。

GenAI應(yīng)用風(fēng)險(xiǎn)凸顯：網(wǎng)絡(luò)安全漏洞與經(jīng)濟(jì)損失齊增

這項(xiàng)調(diào)查于2024年5月開(kāi)展，涵蓋了亞太、歐洲和北美13個(gè)國(guó)家的1000家組織。受訪者來(lái)自銀行、保險(xiǎn)、能源、醫(yī)療保健和航空航天等多個(gè)關(guān)鍵行業(yè)領(lǐng)域，且這些組織的年收入均超過(guò)10億美元。

凱捷網(wǎng)絡(luò)安全、云基礎(chǔ)設(shè)施服務(wù)全球主管Marco Pereira表示：“迄今為止，AI和GenAI的應(yīng)用被證明是一把雙刃劍。雖然它們帶來(lái)了前所未有的風(fēng)險(xiǎn)，但組織也越來(lái)越依賴(lài)AI來(lái)更快、更準(zhǔn)確地檢測(cè)網(wǎng)絡(luò)安全事件。AI和GenAI為他們的安全團(tuán)隊(duì)提供了強(qiáng)大的新工具，以緩解這些事件并推動(dòng)防御策略的革新與升級(jí)?！?/p>

超過(guò)90%的受訪者表示，在過(guò)去一年中至少遭遇了一次網(wǎng)絡(luò)安全漏洞事件，與2021年的51%相比，這一數(shù)字大幅上升。其中近一半的組織估計(jì)，在過(guò)去三年中由于漏洞事件導(dǎo)致的財(cái)務(wù)損失超過(guò)5000萬(wàn)美元。數(shù)據(jù)泄露事件的頻發(fā)與GenAI的應(yīng)用呈現(xiàn)出同步增長(zhǎng)的態(tài)勢(shì)，而這些先進(jìn)技術(shù)正逐漸淪為惡意行為者的攻擊工具。

該報(bào)告指出了采用GenAI所帶來(lái)的多重風(fēng)險(xiǎn)，例如數(shù)據(jù)中毒、敏感信息泄露以及深度偽造技術(shù)的濫用。約67%的組織對(duì)這些問(wèn)題表示擔(dān)憂(yōu)，而43%的組織報(bào)告因涉及深度偽造內(nèi)容的安全事件而造成了直接的經(jīng)濟(jì)損失。

此外其他漏洞也不容忽視，例如AI系統(tǒng)可能產(chǎn)生錯(cuò)誤或誤導(dǎo)性的輸出（這一現(xiàn)象被稱(chēng)為“幻覺(jué)”）、生成有偏見(jiàn)的內(nèi)容，以及提示注入攻擊等。員工對(duì)GenAI的不當(dāng)使用加劇了這些挑戰(zhàn)，不僅擴(kuò)大了組織的攻擊面，還增加了防御策略的復(fù)雜性。

利用AI與GenAI強(qiáng)化網(wǎng)絡(luò)安全，檢測(cè)與投資策略并行

盡管存在潛要風(fēng)險(xiǎn)，但組織仍在積極利用AI和GenAI來(lái)加強(qiáng)其網(wǎng)絡(luò)安全框架。超過(guò)60%的受訪者表示，AI使他們的威脅檢測(cè)時(shí)間縮短5%以上，而40%的受訪者表示響應(yīng)時(shí)間也有類(lèi)似的改善。

五分之三的組織認(rèn)為AI對(duì)于有效檢測(cè)威脅和做出響應(yīng)至關(guān)重要。同樣比例的組織預(yù)計(jì)，GenAI將通過(guò)實(shí)現(xiàn)更快識(shí)別和緩解復(fù)雜威脅，進(jìn)一步增強(qiáng)其長(zhǎng)期網(wǎng)絡(luò)安全戰(zhàn)略。

日益嚴(yán)峻的威脅態(tài)勢(shì)促使59%的組織考慮增加網(wǎng)絡(luò)安全預(yù)算，他們重點(diǎn)投資于先進(jìn)的數(shù)據(jù)管理系統(tǒng)、云計(jì)算資源和針對(duì)AI的風(fēng)險(xiǎn)緩解戰(zhàn)略。

凱捷的報(bào)告強(qiáng)調(diào)了采用GenAI帶來(lái)的三個(gè)主要風(fēng)險(xiǎn)領(lǐng)域：日益復(fù)雜的網(wǎng)絡(luò)攻擊、不斷擴(kuò)大的攻擊面，以及自定義GenAI解決方案在整個(gè)生命周期中的漏洞。有效應(yīng)對(duì)這些挑戰(zhàn)對(duì)于保持強(qiáng)有力的安全態(tài)勢(shì)至關(guān)重要。

管理GenAI風(fēng)險(xiǎn)的建議

該報(bào)告概述了組織可以采取的幾種安全措施，以平衡GenAI帶來(lái)的好處與相關(guān)風(fēng)險(xiǎn)。這些措施包括實(shí)施先進(jìn)的數(shù)據(jù)管理系統(tǒng)以保護(hù)敏感信息、制定健全的治理政策以確保合乎道德地使用AI，以及為員工提供有關(guān)AI特定網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的培訓(xùn)。

此外，凱捷還強(qiáng)調(diào)了持續(xù)重新評(píng)估安全框架以適應(yīng)不斷變化的威脅的重要性。通過(guò)采用這些策略，組織可以在利用AI和生成式AI的變革潛力的同時(shí)，緩解新興的安全漏洞。

谷歌云研究人員最近也警告稱(chēng)，隨著威脅行為者越來(lái)越多地利用基于AI的工具來(lái)推進(jìn)其惡意活動(dòng)，2025年的網(wǎng)絡(luò)攻擊可能呈現(xiàn)更為嚴(yán)峻的態(tài)勢(shì)。谷歌云在其《2025年網(wǎng)絡(luò)安全預(yù)測(cè)》報(bào)告中預(yù)測(cè)，威脅行為者將使用AI和LLM來(lái)策劃并實(shí)施更復(fù)雜的網(wǎng)絡(luò)釣魚(yú)攻擊、短信詐騙以及其他社會(huì)工程學(xué)欺詐手段。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。