Gartner預(yù)測(cè)到2027年，跨境GenAI濫用引起的AI數(shù)據(jù)泄露比例將達(dá)到40%

Gartner預(yù)測(cè)，到2027年，跨境生成式人工智能（GenAI）引起的AI相關(guān)數(shù)據(jù)泄露比例將超過(guò)40%。

GenAI在終端用戶(hù)中的普及速度已超過(guò)了數(shù)據(jù)治理和安全措施的發(fā)展速度，而支持這些技術(shù)所需的集中算力引發(fā)了對(duì)數(shù)據(jù)本地化的擔(dān)憂。

Gartner研究副總裁Joerg Fritsch表示：“由于監(jiān)管不力，常常會(huì)發(fā)生意外的跨境數(shù)據(jù)傳輸，尤其是當(dāng)GenAI被集成到現(xiàn)有產(chǎn)品但卻沒(méi)有明確的說(shuō)明或公告時(shí)。企業(yè)注意到員工使用GenAI工具創(chuàng)作內(nèi)容的變化。雖然此類(lèi)工具可用于經(jīng)過(guò)批準(zhǔn)的業(yè)務(wù)應(yīng)用，但如果它們將敏感提示發(fā)送到托管在未知位置的AI工具和 API，就會(huì)產(chǎn)生安全風(fēng)險(xiǎn)。”

全球AI標(biāo)準(zhǔn)缺失導(dǎo)致運(yùn)營(yíng)效率低下

缺乏全球統(tǒng)一的AI和數(shù)據(jù)治理最佳實(shí)踐與標(biāo)準(zhǔn)，導(dǎo)致市場(chǎng)碎片化，企業(yè)不得不制定針對(duì)特定地區(qū)的戰(zhàn)略，這加劇了企業(yè)所面臨的挑戰(zhàn)，這可能會(huì)限制企業(yè)在全球擴(kuò)展業(yè)務(wù)和從AI產(chǎn)品與服務(wù)中獲益的能力。

Fritsch表示：“本地化AI政策增加了管理數(shù)據(jù)流和保持質(zhì)量的復(fù)雜性，而這會(huì)降低企業(yè)的運(yùn)營(yíng)效率。為了保護(hù)敏感數(shù)據(jù)和確保合規(guī)性，企業(yè)必須投資于先進(jìn)的AI治理和安全性。這一需求可能會(huì)推動(dòng)AI安全、治理與合規(guī)服務(wù)市場(chǎng)的增長(zhǎng)并促進(jìn)提高AI流程透明度和可控性的技術(shù)解決方案的發(fā)展。”

企業(yè)必須在AI治理成為全球性規(guī)定之前采取行動(dòng)

Gartner預(yù)測(cè)，到2027年，全球所有主權(quán)AI法律法規(guī)都將要求企業(yè)落實(shí)AI治理。

Fritsch表示：“如果企業(yè)無(wú)法整合所需要的治理模型和控制措施，就會(huì)處于競(jìng)爭(zhēng)劣勢(shì)，尤其是缺乏資源快速擴(kuò)展現(xiàn)有數(shù)據(jù)治理框架的企業(yè)。”

為了降低AI數(shù)據(jù)泄露風(fēng)險(xiǎn)，尤其是跨境GenAI的濫用風(fēng)險(xiǎn)并確保合規(guī)性，Gartner 建議企業(yè)采取以下戰(zhàn)略行動(dòng)：

加強(qiáng)數(shù)據(jù)治理：企業(yè)必須擴(kuò)展數(shù)據(jù)治理框架并加入關(guān)于使用AI處理數(shù)據(jù)的準(zhǔn)則，確保遵守國(guó)際法規(guī)并對(duì)意外的跨境數(shù)據(jù)傳輸進(jìn)行監(jiān)控。為此，企業(yè)需要將數(shù)據(jù)沿襲和數(shù)據(jù)傳輸影響評(píng)估納入常規(guī)隱私影響評(píng)估。

成立治理委員會(huì)：成立委員會(huì)加強(qiáng)AI監(jiān)督，確保AI部署和數(shù)據(jù)處理的溝通透明。該委員會(huì)需要負(fù)責(zé)技術(shù)監(jiān)督、風(fēng)險(xiǎn)和合規(guī)管理以及溝通和決策報(bào)告。

加強(qiáng)數(shù)據(jù)安全性：使用先進(jìn)技術(shù)、加密和匿名化保護(hù)敏感數(shù)據(jù)。例如，驗(yàn)證特定地理區(qū)域的執(zhí)行環(huán)境是否可信并在數(shù)據(jù)必須離開(kāi)這些區(qū)域時(shí)使用差分隱私等先進(jìn)的匿名化技術(shù)。

投資TRiSM產(chǎn)品：為專(zhuān)為AI打造的信任、風(fēng)險(xiǎn)和安全管理（TRiSM）產(chǎn)品與功能規(guī)劃和分配預(yù)算，包括AI治理、數(shù)據(jù)安全治理、提示過(guò)濾和編輯以及非結(jié)構(gòu)化數(shù)據(jù)合成生成。Gartner預(yù)測(cè)，到2026年，采用AI TRiSM控制措施的企業(yè)將減少至少50%的不準(zhǔn)確或不合法信息，并因此減少錯(cuò)誤決策。

Gartner 客戶(hù)可在2025年預(yù)測(cè)：AI時(shí)代和未來(lái)量子計(jì)算時(shí)代的隱私中了解更多信息。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。